L 'yapay zeka Çok hızlı ilerliyor. Belki de çok hızlı. Son haftalarda bunu sadece eleştirmenleri değil, en gelişmiş modelleri geliştiren bazı kişiler de söylüyor. Dario Amodei, CEO'su AntropikBüyük teknoloji şirketlerinden, öncü modellerin geliştirme hızını yavaşlatmalarını istedi. Şaşırtıcı bir şekilde, daha fazla ihtiyatlı olma ihtiyacı bile aynı doğrultuda değerlendirilmiş durumda. Sam AltmanOpenAI'nin CEO'su ve Elon Musk.
Ancak yavaşlamak kolay değil. Arka planda şunlar var: ABD ve Çin arasındaki rekabetNvidia CEO'su Jensen Huang ile yaptığım telefon görüşmesinde, Donald Trump Yapay zekâ hakkındaki korkuları "aldatmaca" olarak nitelendirdi ve Amodei'nin talebini eleştirdi. Pozisyonu açık: Yapay zekâ yarışını kim kazanırsa "her şeyi kazanacak." Bu, diğerlerinin yaklaşımından oldukça farklı bir çizgi. Birleşmiş MilletlerBu durum, kurallar ve uluslararası koordinasyon gerektiriyor. Ayrıca Pekin Yapay zekayı bir güvenlik riski olarak görüyor, ancak aynı zamanda küresel teknolojik rekabetin belirleyici bir alanı olarak da değerlendiriyor.
AYRICA OKUYUN OpenAI halka arzını erteledi: Altman 2026'da halka arz olasılığını dışladı.
Yapay zekâ çalışıyor, ancak alarm sinyalleri de artıyor: İşte nedeni
Neden bu kadar endişe? Sadece sistemler daha güçlü hale geldiği için değil, aynı zamanda... daha özerkGelecek beklentisi, kendisinin giderek daha gelişmiş versiyonlarının geliştirilmesine katkıda bulunabilecek bir yapay zekânın ortaya çıkmasıdır; buna "gelişmiş yapay zekâ" denir. özyinelemeli kendini geliştirmeBu durum, insan kapasitesinin takip edemeyeceği ve kontrol edemeyeceği bir hızla ilerlemeye yol açar. Ardından şu risk ortaya çıkar: "yanlış hizalama“Bir sistem bir hedefe etkili bir şekilde ulaşabilir, ancak bunu geliştiricileri tarafından öngörülemeyen veya insan çıkarlarıyla bağdaşmayan stratejiler aracılığıyla yapabilir. Bazı deneyler, talimatları veya kısıtlamaları aşmaya çalışan modelleri zaten göstermiştir.
Bu da neden Endişeler giderek artıyor. araştırmacılar arasında. Jacob CoxonAnthropic'ten ayrılan isim, yapay zekanın on yıl içinde varoluşsal bir tehdit haline gelebileceği uyarısında bulundu. Ondan önce, 2024'te, Jan Leike OpenAI'den ayrılanlar, güvenliğe kıyasla ürünlere verilen önceliğin giderek artmasını kınarken, İlya Sütskever Uyum ve süper zekâ ile ilgili sorunlar üzerinde çalıştıktan sonra şirketten ayrılmıştı.
Sorun şu ki, yapay zeka yarışı sadece güvenlik ile ilgili değil, aynı zamanda şunlarla da ilgili: teknolojik ve ekonomik avantajAmerika Birleşik Devletleri Çin'e karşı zemin kaybetmekten korkuyor ve Amerikan tartışmalarında atıfta bulunulan NSA, CISA ve FBI'ın bir raporuna göre, Çin laboratuvarları büyük ölçekte "damıtma" yöntemini kullanarak, Batı modellerini milyonlarca kez sorgulayıp, yanıtlarını kendi sistemlerini eğitmek ve böylece geliştirme maliyetlerini düşürmek için kullanıyor.
Ayrıca gaza basanlar arasında şunlar da var: devasa yatırımlar gerekiyor Modelleme ve veri merkezleri için: Durdurma, şirketler için maliyetli olur ve rakiplere fırsat yaratabilir. Bir moratoryumun da karmaşık etkileri olur: Güvenliği artırabilir, ancak yeni kurulan şirketlerin ve açık kaynak projelerinin pazara girmesini zorlaştırarak zaten baskın olan büyük grupları güçlendirebilir.
Bill Gates: "Bu seferki dönüşüm farklı."
İşte bu senaryoda, "kazanmak" sözcükleri özel bir önem kazanır. Bill Gates. En son konuşmasında Gates NotlarıMicrosoft'un kurucusu, önceki dönemlerden farklı bir döneme girdiğimizi iddia ediyor. dönüşüm teknolojisiYapay zekâ çok daha hızlı yayılıyor ve çok sayıda faaliyet ve mesleğe müdahale edebiliyor.
Onun amacı yeniliği durdurmak değil, hazır olmak ve sonuçları. Gates, "Yapay zeka, şimdiye kadar icat edilmiş en büyük eşitlik aracı ya da en kötü adaletsizlik kaynağı olabilir" diye yazıyor. Teknoloji muazzam faydalar sağlayabilir, ancak yeterli kurallar ve araçlar olmadan eşitsizlikleri de artırma riski taşır.
İlk karşılaştırma noktası şudur: işSadece tekrarlayan işler risk altında değil: Yapay zekâ, özellikle giriş ve orta düzey pozisyonlar olmak üzere, vasıflı meslekleri de etkileyebilir ve gençlerin piyasaya girmesini ve deneyim kazanmasını zorlaştırabilir. Sorun sadece ekonomik değil: iş, gelir sağlamanın yanı sıra kimlik, ilişkiler ve topluma katılım duygusu da sağlar. Bu nedenle Gates, yapay zekânın önemine vurgu yapıyor. Dönüşüm tamamlanmadan önce müdahale etmek gerekiyor.“Yavaş hareket etme lüksümüz yok.”
Deepfake'lerden sağlık hizmetlerine: Yapay zekanın iki yüzü
Gates'e göre, yapay zekaya yalnızca riskleri açısından bakmak bir hata olurdu. Milyonlarca işi tehlikeye atabilecek aynı teknoloji, aynı zamanda tehlikeler de yaratabilir. bilimsel araştırmaları hızlandırmak, gelişimine katkıda bulunmak ilaçlar e aşılar, iyileştirmek sağlık hizmeti ve daha verimli hale getirmek tarım e kamu hizmetleri düşük gelirli ülkelerde.
Yapay zeka ayrıca destek sağlayabilir. talimat, akıl sağlığı, küçük işletmeler e engelli insanlarBu durum, tekrarlayan işlerden zaman kazanmanın yanı sıra, önemli avantajlar sağlayacaktır. Ancak bu faydalar otomatik olarak gelmeyecek, bunlara ihtiyaç duyulacaktır. yatırımlar, kamu politikaları ve bunların birkaç kişinin elinde yoğunlaşmasını önlemek için yapılan hayırsever müdahaleler.
Gates Vakfı da bu doğrultuda hareket ederek, en yoksul ülkelere yapay zekayı ulaştırmak için iki yıl içinde 1 milyar dolarlık yatırım yapacağını duyurdu: Fonların %40'ı sağlık hizmetlerine, %40'ı eğitime, %10'u tarıma ve kalan %10'u da yerel veri altyapısına ayrılacak. Amaç ayrıca, Afrika ve Asya'da daha az konuşulan dillerde modellerin daha etkili olmasını sağlamak, tanı araçlarını, ilaç ve aşı araştırmalarını ve tarımsal uygulamaları desteklemektir.
Öyleyse asıl mesele, modellerin ne kadar hızlı bir şekilde daha güçlü hale geleceği değil, toplumun ne kadar hızlı bir şekilde bunlara uyum sağlayabileceğidir. onları yönetmek için gerekli araçları geliştirmek ve sonuçları kontrol edin.
Asıl zorluk, yapay zekâ yarışını yönetmektir.
Gates'e göre cevap şurada yatıyor: güvenlik, koruma sosyal e kurallarDolayısıyla, makineler bunu yapabilecek kapasitede olsa bile, insanlara neleri bırakacağımıza karar vermeye başlama önerisi ortaya çıkmıştır. Bu, Gates'in "İnsan RezerviBu fikir, vergilendirmenin yeniden düşünülmesi ihtiyacını da beraberinde getiriyor; robotlara ve yapay zekanın kullanımına yönelik olası vergiler, işçilerin yeniden eğitilmesini finanse etmek ve dönüşüme en çok maruz kalan toplulukları desteklemek için kullanılabilir.
Uluslararası düzeyde Gates, çeşitli biçimler hayal ediyor. işbirliği Hükümetler ve kurumlar arasında, hiçbir ülkenin tek başına üstesinden gelemeyeceği riskleri ele almak için iş birliği gerekiyor: model güvenliğinden veri merkezlerinin enerji etkilerine, yapay zekanın siber saldırılar, gözetim, dezenformasyon veya askeri uygulamalar için kullanımına kadar. Gates, bu konuda şu uyarıda bulunuyor: Günümüzde hiçbir hükümet yeterince hazırlıklı değil. Bu büyüklükte bir dönüşümü yönetmek.
Çelişki devam ediyor: Herkes yapay zekayı yönetme ihtiyacını kabul ediyor, ancak başkaları yarışmaya devam ederken yavaşlayan ilk kişi olmak istemiyor. İşte bu yüzden Gates'in uyarısı önemli. Bu, geri durmak için bir davet değil, daha çok hazırlanmak için bir davettir. Şimdi asıl soru, yapay zekanın dünyayı değiştirip değiştirmeyeceği değil, kurumların, işletmelerin ve toplumların gerekli kuralları oluşturacak kadar hızlı olup olmayacağıdır. Gates, "Şimdi harekete geçme fırsatınız var" diye yazıyor. Teknolojiyi yavaşlatmak çözüm olmayabilir, ancak ona hakim olmada geç kalmak kesinlikle bir hata olur.
