OpenAI ha deciso di rinunciare al lancio del suo ultimo modello kecerdasan generasi berikutnya karena kekhawatiran keamanan Angka tersebut ditemukan oleh para peneliti selama pengujian. Perusahaan rintisan yang dipimpin oleh Sam Altman ingin meluncurkan produk tersebut. Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Antropik avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi di dollari nel 2025.
Le notizie si inseriscono nel dibattito sulla Keamanan AI Diluncurkan oleh para CEO perusahaan-perusahaan utama di sektor ini, mulai dari Anthropic hingga OpenAi, yang dalam beberapa minggu terakhir mengatakan bahwa mereka setuju dengan perlunya memberlakukan kontrol yang lebih ketat pada sektor ini meskipun ada penentangan yang jelas dari presiden AS. Donald Trump, yang menurutnya peraturan baru akan memungkinkan China untuk mengungguli Amerika Serikat dalam perlombaan AI, sebuah pengunggulan yang ingin dicegah oleh Gedung Putih.
OpenAI: “Modello poco affidabile e propenso all’inganno”
Menurut Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello diperoleh risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1, "meskipun mewakili peningkatan dibandingkan model sebelumnya dalam beberapa hal, belum mencapai standar yang dibutuhkan dalam hal rkepatuhan terhadap batasan operasional dan otorisasi“Begitu pula dengan cara kami berkomunikasi dengan pengguna tentang pekerjaan kami,” jelas Jain. “Kami ingin memastikan bahwa model kami dikembangkan dengan aman, baik di dalam perusahaan maupun saat dirilis kepada pengguna. Ketika kami menyediakan model kepada pengguna, kami menerapkan kriteria yang sangat ketat untuk keamanan dan keselarasan,” tambahnya.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare “risiko eksistensial bagi umat manusia”. Itu Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Kaki, Startup yang dipimpin oleh Dario Amodei ini telah mendedikasikan hampir sepertiga dari dokumentasinya yang panjang untuk deskripsi rinci tentang “faktor risiko”, termasuk kemungkinan model AI yang semakin canggih. memanipulasi, memeras, dan menunjukkan perilaku tak terduga lainnya.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il pergantian, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 miliar dolar. itu kerugian bersih si è attestata vicino ai 42 miliar (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
