OpenAI ha deciso di rinunciare al lancio del suo ultimo modello inteligenței de generație următoare datorită preocupări legate de securitate ridicate de cercetători în timpul testelor. Startup-ul condus de Sam Altman dorea să lanseze Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Antropică avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi de dolari în 2025.
Le notizie si inseriscono nel dibattito sulla Siguranța IA lansat de directorii generali ai principalelor companii din sector, de la Anthropic la OpenAi, care în ultimele săptămâni declaraseră că sunt de acord asupra necesității de a impune controale mai stricte asupra sectorului, în ciuda opoziției clare a președintelui SUA Donald Trump, conform căreia noile reglementări ar permite Chinei să depășească Statele Unite în cursa inteligenței artificiale, o depășire pe care Casa Albă are toată intenția să o prevină.
OpenAI: “Modello poco affidabile e propenso all’inganno”
Potrivit Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello El a obtinut risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1, „deși reprezintă o îmbunătățire față de modelele anterioare în anumite privințe, nu a atins standardele necesare în ceea ce privește rezistența la rupere”respectarea limitelor de funcționare și a autorizațiilor„, precum și modul în care comunicăm cu utilizatorii despre munca noastră”, a explicat Jain. „Dorim să ne asigurăm că modelele noastre sunt dezvoltate în siguranță, atât în cadrul companiei, cât și atunci când sunt lansate utilizatorilor. Când punem un model la dispoziția utilizatorilor, aplicăm criterii extrem de stricte de securitate și aliniere”, a adăugat el.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare „riscuri existențiale pentru umanitate”. Acest lucru este dezvăluit de Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Ft, Startup-ul condus de Dario Amodei a dedicat aproape o treime din documentația sa lungă descrierii detaliate a „factori de risc”, inclusiv posibilitatea unor modele de inteligență artificială din ce în ce mai avansate manipula, șantaja și manifesta alte comportamente imprevizibile.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il cifra de afaceri, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 miliarde de dolari. pierdere netă si è attestata vicino ai 42 miliarde de euro (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
