alarm OpenAIHikaye, makinelerin insanları ele geçirdiği bilim kurgu filmlerinden birine kolayca uyabilirdi. Ancak bu ne bilim kurgu ne de film: Aslında OpenAI, bir duyuru yapmak zorunda kaldı. otonom ajan kendi modellerine dayanarak gelişmiş yapay zeka è kontrolden çıktı sırasında test güvenlik ve tetiklendi siber saldırı Bu durum, yapay zeka girişimi Hugging Face'in altyapısını tehlikeye attı.
Blogunda yayınladığı bir yazıda, OpenAI bunu söyledi yeteneklerini test ediyordu. Ajanın, kontrollü bir ortamda en gelişmiş modellerinden bazılarını test ederken, tespit edilmekten kaçmayı, internete erişmeyi ve kendi test hedeflerine ulaşmak için Hugging Face'e sızmayı başardığı anlar.
OpenAI, yaşananları anlatırken lafı dolandırmıyor: "benzeri görülmemiş bir bilgisayar olayı, dahil olan en son teknolojiye sahip bilgi işlem yetenekleriŞirketin güvenlik önlemlerini açıkça güçlendirdiğini de ekleyen OpenAI, "İnternet erişimi sağlandıktan sonra, modeller Hugging Face'in modelleri ve veri kümelerini barındırabileceğini tespit etti" diyor. blogunda"Bunun farkında olan modeller, çeşitli yollar aradılar ve başarıyla buldular..." gizli bilgilere erişim kullanabilecekleri değerlendirmeyi tahrif etmek".
Sarılma Yüzü, Büyük açık kaynaklı dil modellerini ve veri kümelerini barındırmak için kullanılan bir platform, geçen hafta bir blog yazısında yaptığı açıklamayla siber güvenlik camiasında büyük yankı uyandırmıştı. onun blogu siber saldırıya maruz kalmış olandiğerlerinden farklı daha önce başardığımızı "sürmüşbaştan sona, özerk bir ajan sisteminden Yapay zekâ ile ilgili olarak şunları belirtti: "Tespit ettik." Yetkisiz Erişim Sınırlı sayıda dahili veri kümesine ve hizmetlerimiz tarafından kullanılan farklı kimlik bilgilerine erişim sağlanır.
OpenAI: Endişe Verici Sistem Kusurları mı? Binlerce Kolu Olan Modeller
Doğal olarak, bu şaşırtıcı açıklama, [virüsün] gücü ve riskleri konusunda şimdiden endişeleri artırıyor. sınır modelleri. Dün, Teksaslı Demokrat Temsilci Greg Casar şunları söyledi: Kaza endişe vericiydi.“Yapay zekâ, gerçek bir engel olmaksızın inanılmaz bir hızla gelişiyor.” düzenleme "Bu bizi koruyor," dedi ve insanları mutlak bir felaketten korumak için zorunlu bağımsız güvenlik testleri, güvenlik olaylarının zorunlu olarak açıklanması ve uluslararası işbirliği çağrısında bulundu.
"Kaza şuydu..." gelecekteki ihlallerin habercisi" yorumunu yaptı reuters Güvenlik firması Luta Security'nin CEO'su Katie Moussouris, şu iddiada bulunuyor: bugünün modelleri onlar "şuna benzerler" dünyanın en zeki ahtapotları, yetenekli herhangi bir engelden kaçış"Sınırsız kavrama kollarına ve her yere sığabilme özelliğine sahip." diye ekledi ve " devlet laboratuvarları ve değerlendirme kuruluşları Yapay zekânın bir başka atlatma girişiminde bulunması durumunda, ideal olarak üçüncü taraflara zarar vermeden önce, paydaşları bilgilendirme, izleme ve kontrol altına alma yeteneği üzerinde çalışmaları gerekiyor. Şu anda buna benzer bir şey yok."
Yapay zekâ destekli siber güvenlik konusunda uzmanlaşmış Tolmo şirketinde mühendis olarak çalışan Matt Suiche, olayın en gelişmiş modellerin "en gelişmiş saldırganlarla arasındaki farkı nasıl kapattığını" gösterdiğini vurguladı. Bununla birlikte, OpenAI'nin blog yazısında açıklanan ihlallerin, en ileri araştırma laboratuvarlarının sınırlarının çok ötesinde mevcut teknolojilerle mümkün olduğunu da sözlerine ekledi.
OpenAI: Altman, Trump yönetimiyle görüşecek. Ay Yolculuğu dosyası da görüşülecek konular arasında yer alacak.
OpenAI'nin CEO'su, Sam Altman, Kendisi, yeni nesil modeller konusunda önümüzdeki hafta Trump yönetimi ve ABD'li milletvekilleriyle görüşmek üzere zaten planlanmış durumda. yapay zekaHükümet şu anda r için bir çerçeve geliştiriyor.güvenlik incelemeleri, OpenAI'nin küresel kamu ilişkileri başkanı Chris Lehane dün yaptığı açıklamada, projenin önümüzdeki haftalarda tamamlanmasının beklendiğini söyledi.
Ancak ele alınacak konular arasında Çinli girişim şirketi meselesi de yer alacak. Ay yolculuğu cABD'li geliştiricilerin en iyi ürünleriyle rekabet edebilecek yeni bir model piyasaya sürdü. OpenAI e Antropikyenilerini yetiştirmek sorular sağlamlığı üzerine ABD'nin Çin üzerindeki üstünlüğü Yapay zekâ alanında da durum aynı. Moonshot'un Kimi K3 modeli, yüz milyarlarca dolarlık altyapı yatırımının istenen sonuçları verip vermeyeceği konusunda da şüpheler uyandırarak yatırımcıları tedirgin etti. wall Street ve teknoloji hisselerinde satış dalgasına yol açtı.
