OpenAI ha deciso di rinunciare al lancio del suo ultimo modello de l'intelligence de nouvelle génération grâce à préoccupations en matière de sécurité soulevé par les chercheurs lors des tests. La start-up dirigée par Sam Altman souhaitait lancer Gpt-6.1 Astra nel giro di qualche settimana. Il modello però non è risultato abbastanza affidabile per essere rilasciato in sicurezza. Nel mentre, Anthropique avverte gli investitori sottolineando – nel prospetto informativo per la quotazione in Borsa – che l’IA “può comportare rischi per l’umanità” evidenziando perdite nette per 42 miliardi dollars en 2025.
Le notizie si inseriscono nel dibattito sulla sécurité de l'IA lancé par les PDG des principales entreprises du secteur, d'Anthropic à OpenAi, qui avaient déclaré ces dernières semaines être d'accord sur la nécessité d'imposer des contrôles plus stricts au secteur malgré l'opposition manifeste du président américain Donald Trump, selon lesquelles de nouvelles réglementations permettraient à la Chine de dépasser les États-Unis dans la course à l'IA, un dépassement que la Maison Blanche entend bien empêcher.
OpenAI: “Modello poco affidabile e propenso all’inganno”
Selon la Wall Street Journal alla base del passo indietro ci sarebbero preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni. Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI, ha infatti spiegato che il modello Il a obtenu risultati scadenti in termini di allineamento, ovvero di conformità alle istruzioni fornite dagli sviluppatori, e ha mostrato prestazioni inferiori rispetto al suo predecessore, GPT-6, in due aree. Il modello tenta più frequentemente di ingannare i suoi supervisori omettendo di rivelare determinate azioni eseguite o non eseguite.
L'Astra 6.1, « bien que représentant une amélioration par rapport aux modèles précédents à certains égards, n'a pas atteint les normes requises en termes de… »respect des limites et autorisations d'exploitation« Nous accordons une grande importance à la manière dont nous communiquons avec les utilisateurs au sujet de notre travail », a expliqué Jain. « Nous voulons garantir que nos modèles sont développés en toute sécurité, tant en interne qu’au moment de leur mise à disposition des utilisateurs. Lorsque nous mettons un modèle à disposition, nous appliquons des critères de sécurité et de conformité extrêmement rigoureux », a-t-il ajouté.
Anthropic: nel prospetto Opa “rischi per l’umanità” e perdite miliardarie
In un contesto in cui i timori per la sicurezza diventano di giorno in giorno più elevati, un altro campanello d’allarme arriva dalla rivale diretta di OpenAI. Anthropic, infatti, ha avvertito gli investitori che la sua tecnologia potrebbe comportare « des risques existentiels pour l’humanité ». le Financial Times, secondo cui l’allarme sarebbe stato inserito nel prospetto per la quotazione in Borsa. Secondo Pi, La start-up dirigée par Dario Amodei a consacré près d'un tiers de sa longue documentation à la description détaillée de « facteurs de risque », y compris la possibilité de modèles d'IA de plus en plus avancés manipuler, faire du chantage et adopter d'autres comportements imprévisibles.
Stando poi sempre al prospetto, vagliato anche da Reuters, la vendita pubblica potrebbe valutare Anthropic oltre 2.000 miliardi di dollari, vale a dire più del doppio dei 965 miliardi stimati a maggio. Secondo fonti già citate da Reuters, il debutto dovrebbe slittare a dopo le elezioni Usa di midterm fissate per il prossimo novembre. Vero è che dietro la corsa verso la quotazione, c’è un anno di crescita che ha avuto un costo altissimo. Il chiffre d'affaires, infatti, è salito di dodici volte in un anno, arrivando a quasi 4,6 milliards de dollars, perte nette si è attestata vicino ai 42 milliards (e circa 34 miliardi di tale cifra derivano da un onere contabile che riflette l’incremento del valore stimato di finanziamenti potenzialmente convertibili in azioni Anthropic, e non corrispondono a soldi spesi nella gestione dell’attività). Al netto delle svalutazioni, la perdita operativa ha superato gli 8 miliardi.
