OpenAI, en yeni modelinin lansmanından vazgeçme kararı aldı. yeni nesil zekânın güvenlik endişeleri Araştırmacılar tarafından testler sırasında ortaya çıkarılan bir bulgu. Sam Altman liderliğindeki girişim şirketi bunu piyasaya sürmek istedi. Gpt-6.1 Astra Birkaç hafta içinde. Ancak model, güvenli bir şekilde piyasaya sürülebilecek kadar güvenilir değildi. Bu arada, Antropik Hisse senedinin borsaya kote edilmesi için hazırlanan prospektüste yapay zekanın "insanlık için risk oluşturabileceği"nin altını çizerek yatırımcıları uyarıyor. 42 milyar net zarar 2025'de dolar.
Bu haber, tartışmanın bir parçası. Yapay zeka güvenliği Anthropic'ten OpenAi'ye kadar sektörün önde gelen şirketlerinin CEO'ları tarafından başlatılan bu girişim, son haftalarda ABD başkanının açık muhalefetine rağmen sektöre daha fazla kontrol getirilmesi gerektiği konusunda hemfikir olduklarını belirtmişti. Donald TrumpBu yeni düzenlemelere göre Çin, yapay zeka yarışında Amerika Birleşik Devletleri'ni geride bırakabilir; Beyaz Saray ise bunu engellemek için her türlü niyete sahip.
OpenAI: "Model güvenilmez ve yanıltıcı olabilir."
Göre Wall Street Journal Geri adım atılmasının nedeni, araştırmacıların dahili testler sırasında dile getirdiği güvenlik endişeleri gibi görünüyor. OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, modelin bu endişelerden kaynaklandığını açıkladı. Elde zayıf hizalama sonuçlarıYani, geliştiriciler tarafından verilen talimatlara uyuldu ve iki alanda selefi GPT-6'ya göre daha düşük performans gösterdi. Model daha sık olarak şunları deniyor: amirlerini aldatmak Gerçekleştirilen veya gerçekleştirilmeyen bazı eylemleri açıklamamaktan dolayı.
Astra 6.1, "bazı açılardan önceki modellere göre bir iyileşme gösterse de, performans açısından gerekli standartlara ulaşamadı."işletme limitlerine ve yetkilendirmelere uyumJain, "Bu, çalışmalarımız hakkında kullanıcılarla nasıl iletişim kurduğumuzla da ilgili," diye açıkladı. "Modellerimizin hem şirket içinde hem de kullanıcılara sunulduğunda güvenli bir şekilde geliştirilmesini sağlamak istiyoruz. Bir modeli kullanıcılara sunduğumuzda, güvenlik ve uyumluluk için son derece katı kriterler uyguluyoruz," diye ekledi.
Anthropic: Devralma Taslağı "İnsanlığa Yönelik Riskler" ve Milyar Dolarlık Kayıplar İçeriyor
Güvenlik endişelerinin her geçen gün arttığı bir ortamda, OpenAI'nin doğrudan rakibinden de bir başka alarm zili çalıyor. Anthropic, yatırımcıları teknolojisinin bir tehdit oluşturabileceği konusunda uyardı. “İnsanlık için varoluşsal riskler”. Bu, Financial TimesBuna göre, uyarı, borsa listeleme prospektüsüne dahil edilmiş olmalıydı. Buna göre ft, Dario Amodei liderliğindeki girişim, uzun dokümantasyonunun neredeyse üçte birini ayrıntılı açıklamasına ayırmış durumda. “risk faktörleri”giderek daha gelişmiş yapay zeka modelleri olasılığı da dahil olmak üzere manipüle etmek, şantaj yapmak ve diğer öngörülemeyen davranışlar sergilemek.
Ardından her zaman prospektüse uygun olarak, ayrıca incelenerek reutersHalka açık satışın Anthropic'in değerini 2.000 trilyon dolardan fazla bir rakama çıkarabileceği, bu rakamın Mayıs ayında tahmin edilen 965 milyar doların iki katından fazla olduğu belirtiliyor. Daha önce alıntı yapılan kaynaklara göre reutersHalka arzın, gelecek Kasım ayında yapılması planlanan ABD ara seçimlerinden sonraya ertelenmesi gerekiyor. Halka arz telaşının ardında, çok yüksek bir bedelle elde edilen bir yıllık büyüme olduğu doğru. devirAslında, bir yılda on iki kat artarak neredeyse ... seviyesine ulaştı. 4,6 milyar dolar. net kayıp yakınlarına yerleşti 42 milyar (Bu rakamın yaklaşık 34 milyar doları, Anthropic hisselerine dönüştürülebilecek kredilerin tahmini değerindeki artışı yansıtan bir muhasebe giderinden kaynaklanmaktadır ve işletmenin yürütülmesi için harcanan paraya karşılık gelmemektedir.) Değer düşürmeler düşüldükten sonra, faaliyet zararı 8 milyar doları aşmıştır.
