OpenAI ha deciso di rinunciare al lancio del suo ultimo modello de inteligencia de próxima generación debido a la preocupaciones de seguridad planteado por los investigadores durante las pruebas. La startup liderada por Sam Altman quería lanzar Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Antrópico avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi de dólares en 2025.
Le notizie si inseriscono nel dibattito sulla seguridad de la IA lanzada por los directores ejecutivos de las principales empresas del sector, desde Anthropic hasta OpenAi, quienes en las últimas semanas habían coincidido en la necesidad de imponer mayores controles en el sector a pesar de la clara oposición del presidente de Estados Unidos. Donald TrumpSegún dichas regulaciones, China superaría a Estados Unidos en la carrera por la IA, un avance que la Casa Blanca tiene toda la intención de impedir.
OpenAI: “Modello poco affidabile e propenso all’inganno”
De acuerdo con el Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello obtenido risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
Astra 6.1, “si bien representa una mejora con respecto a los modelos anteriores en algunos aspectos, no ha alcanzado los estándares requeridos en términos de rcumplimiento de los límites operativos y las autorizaciones«Además, nos preocupa cómo nos comunicamos con los usuarios acerca de nuestro trabajo», explicó Jain. «Queremos garantizar que nuestros modelos se desarrollen de forma segura, tanto dentro de la empresa como cuando se lanzan para los usuarios. Cuando ponemos un modelo a disposición de los usuarios, aplicamos criterios extremadamente rigurosos de seguridad y coherencia», añadió.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare “riesgos existenciales para la humanidad”. La Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Pie, La startup liderada por Dario Amodei ha dedicado casi un tercio de su larga documentación a la descripción detallada de la “factores de riesgo”incluyendo la posibilidad de modelos de IA cada vez más avanzados. manipular, chantajear y exhibir otros comportamientos impredecibles.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il volumen de negocios, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 millones. La pérdida neta si è attestata vicino ai 42 millones (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
