pay

OpenAI: Sam Altman'ın görevden alınmasının arkasında yeni yapay zeka Q* "insanlık için tehlikeli" mi?

Altman'ın ani görevden alınmasının arkasında, bazı araştırmacıların OpenAi Yönetim Kurulu'ndan gelişmelerini anlamak için durmasını istediği yeni bir süper zeka olan Q*'nun keşfi yer alacak. İşte ne olduğu

OpenAI: Sam Altman'ın görevden alınmasının arkasında yeni yapay zeka Q* "insanlık için tehlikeli" mi?

Sürekli bir dönüş. Altman başlangıçta OpenAI'den çıkarıldı, daha sonra Microsoft'ta bir yapay zeka bölümünün liderliğini üstlendi ve sonunda geri döndüyaratılışını yeniden yönlendirmesi için birçok yerden yüksek sesle çağrıldı. Sadece dört gün içinde her şey oldu. Yönetim kurulunda en az bir değişiklik olmasına rağmen, geçen Cuma günü durumu eski haline getiren bir dizi olay oldu.

Ancak bir soru hala cevapsız. Bütün bunları ne tetikledi?

Bazı Amerikan medyasına (başta Reuters) göre, Altman'ın ani görevden alınması bir olayla bağlantılı olabilir. yapay zeka alanında keşifbazı araştırmacıların "Potansiyel olarak tehlikeliinsanlık için.

Yeni bir yapay zeka mı?

Reuters'in yeniden yapılanmasına göre, Altman'ın kısa süreliğine ayrılmasından önce bazı şirket araştırmacıları,Yönetim Kuruluna önemli bir keşif konusunda uyarıda bulunan bir mektup yazdı İnsanlığı potansiyel olarak tehdit ettiğini düşündükleri yapay zeka konusunda.

Bu yapay zekanın ticarileştirilmesine ilişkin endişeleri gösteren bir mektup, daha fazla ilerleme kaydetme olasılığı üzerinde düşünmek için bir duraklama çağrısında bulunuyor.

Q projesi

OpenAI bir süredir bir proje üzerinde çalışıyor “Q*” adlı projeQ-Star'ın kısaltması, şirketin araştırma alanında bir dönüm noktasını temsil edebilir.yapay genel zeka (AGI).

Şirket, AGI'yi ekonomik açıdan en değerli görevlerde insanlardan daha iyi performans gösteren otonom sistemler olarak tanımlıyor. Yani bir nevi yapay süper zeka.

Teşekkürler kayda değer bilgi işlem gücüYeni model belirli matematik problemlerini çözmeyi başardı. Yalnızca temel düzeydeki matematiksel hesaplamaları geçmesine rağmen, bu tür testleri geçmek, araştırmacılar arasında Q'nun gelecekteki başarısı konusunda büyük bir iyimserliğe yol açtı.

Yeni sınırın riskleri

Araştırmacılar inanıyor ki matematik bir sınırı temsil eder üretken yapay zekanın geliştirilmesinde.

L 'IA, mevcut, bu üretken generative, dili yazma ve tercüme etme konusunda çok başarılıdır. istatistiksel tahmin Bir sonraki kelimenin cevabı, ancak aynı soruya verilen cevaplar büyük ölçüde farklılık gösterebilir.

Yalnızca tek bir doğru cevabın olduğu matematiksel işlemleri gerçekleştirme becerisinin kazanılması, bir m'yi gerektirir.daha fazla insan benzeri muhakeme yeteneği. Araştırmacılar bunun örneğin şu amaçlarla uygulanabileceğine inanıyor: yenilikçi bilimsel araştırma.

Belirli sayıda işlemi çözmekle sınırlı olan bir hesap makinesinin aksine, genel yapay zeka, genelleme, öğrenme ve anlama yeteneği.

Bazı araştırmacılar genel yapay zekanın hedefinin ulaşılamaz olduğuna inanırken, diğerleri olası bir makine isyanı riskinden kaçınmak için bu hedefe ulaşmamanın tercih edilebileceğini savunuyor.

Altman'ın devrilmesinin arkasında genel yapay zeka mı var?

Altman'a göre genel yapay zeka ulaşılabilir durumdaydı ve kendisi de Microsoft'un desteği sayesinde bu projeye çok sayıda kaynak ayırdı. Ve başarısının duyurulması belki de çok yakında gelecek.

Zaten geçen hafta, Altman, San Francisco'daki dünya liderleri zirvesinde şunu öne sürmüştü: yaklaşmakta olan ilerleme konusunda iyimser alanda önemli.

“OpenAI tarihinde dört kez, sonuncusu sadece son iki haftada olmak üzere, cehalet perdesini geriye, keşif sınırını ileriye doğru kaldırdığımızda odada bulunma fırsatım oldu ve bu fırsata sahip oldum. bunu yapmak bir ömür boyu sürecek profesyonel bir onurdur," dedi Chicago yerlisi Asya-Pasifik Ekonomik İşbirliği zirvesinde.

L 'samimiyetsizlik suçlaması Altman'a atfedilen Yönetim Kurulu'nun aslında genel yapay zeka alanında kaydedilen ilerlemeyle ilgili olabileceği belirtildi. Hatta Zirvedeki açıklamadan bir gün sonra Altman kovuldu.

Yoruma