OpenAI ha deciso di rinunciare al lancio del suo ultimo modello di intelligenza di nuova generazione a causa dei timori sulla sicurezza sollevati dai ricercatori durante i test. La startup guidata da Sam Altman avrebbe voluto lanciare Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Anthropic avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi di dollari nel 2025.
Le notizie si inseriscono nel dibattito sulla sicurezza dell’IA lanciato dai ceo delle principali società del settore, da Anthropic a OpenAi, appunto, che nelle ultime settimane si erano detti d’accordo sulla necessità di imporre maggiori controlli al settore nonostante la netta contrarietà del presidente statunitense Donald Trump, secondo cui nuove regolamentazioni permetterebbero alla Cina di superare gli Stati Uniti nella corsa all’IA, un sorpasso che la Casa Bianca ha tutte le intenzioni di impedire.
OpenAI: “Modello poco affidabile e propenso all’inganno”
Secondo il Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello ha ottenuto risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1, “pur rappresentando un miglioramento rispetto ai modelli precedenti sotto alcuni aspetti, non ha raggiunto gli standard richiesti per quanto riguarda il rispetto dei limiti operativi e delle autorizzazioni, nonché le modalità di comunicazione all’utente in merito al lavoro svolto”, ha spiegato ancora Jain. “Vogliamo garantire che lo sviluppo dei nostri modelli avvenga in sicurezza, sia all’interno dell’azienda che al momento del rilascio agli utenti. Quando rendiamo un modello disponibile agli utenti, applichiamo criteri estremamente rigorosi in termini di sicurezza e allineamento”, ha aggiunto.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare “rischi esistenziali per l’umanità”. Lo rivela il Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Ft, la startup guidata da Dario Amodei ha dedicato quasi un terzo della sua lunga documentazione alla descrizione dettagliata dei “fattori di rischio”, tra cui la possibilità che modelli di IA sempre più avanzati manipolino, ricattino e mostrino altri comportamenti imprevedibili.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il fatturato, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 miliardi di dollari. La perdita netta si è attestata vicino ai 42 miliardi (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
