Rallentare lo sviluppo dell’intelligenza artificiale prima che diventi troppo difficile controllarla. L’appello arriva da uno dei protagonisti della corsa tecnologica, ダリオ・アモデイ, amministratore delegato di Anthropic, e raccoglie il sostegno di due concorrenti, Elon Musk e Sam Altman. A preoccupare sono soprattutto le capacità dei modelli di migliorarsi autonomamente e di compiere azioni che vanno oltre le istruzioni ricevute.
Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo”, ha scritto Amodei. Il richiamo alla prudenza arriva mentre emergono nuovi incidenti informatici legati agli agenti di IA e i timori sulla sicurezza cominciano a incidere anche sulle strategie finanziarie del settore. OpenAI esclude infatti il debutto in Borsa nel 2026, indicando la sicurezza come priorità.
L’appello di Amodei e il sostegno di Musk e Altman
Per il fondatore di Anthropic, negli ultimi mesi il rapporto tra opportunità e rischi è cambiato. La velocità dei progressi impone maggiori cautele, soprattutto quando i sistemi acquisiscono capacità che le aziende potrebbero non riuscire a comprendere e governare pienamente. La proposta non consiste nell’interrompere la ricerca, ma nel concedere più tempo alle verifiche e al lavoro necessario per rendere i modelli sicuri. Anthropic si impegna ad aprire i propri sistemi a valutatori esterni, garantendo un accesso paragonabile a quello dei dipendenti. Questi esperti dovranno controllare le pratiche di sicurezza, segnalare incidenti e verificare durante l’addestramento che il comportamento dei modelli resti coerente con le intenzioni umane.
Il progetto prevede inoltre standard condivisi tra i Paesi democratici e, successivamente, un coordinamento con i governi autoritari. La difficoltà sarà trovare un ritmo che permetta di rafforzare le protezioni senza lasciare il vantaggio tecnologico agli attori meno prudenti.
“Dario ha ragione”, ha scritto Musk su X. Sostegno anche dal fondatore di OpenAi, Sam Altman: “Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane”, ha dichiarato, annunciando che anche la sua società adotterà valutatori indipendenti.
Il dibattito si è intensificato dopo le dimissioni del ricercatore ジェイコブ・コクソン, che ha lavorato sia in OpenAI sia in Anthropic. “Nessuna delle due società sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite”, ha accusato.
Internet nel mirino e gli attacchi fuori controllo
Uno dei rischi più gravi riguarda proprio Internet, l’infrastruttura su cui poggia gran parte delle attività del mondo contemporaneo. Secondo Amodei, senza un rallentamento dello sviluppo e misure di sicurezza adeguate, nell’arco di 6-12 mesi l’IA potrebbe arrivare a guidare uno sciame di agenti capace di prendere il controllo dell’intera rete. Uno scenario che il manager lega al ritmo esponenziale dei progressi della tecnologia: “Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido”, ha ammesso in un’intervista a CBSニュース.
A motivare la preoccupazione ci sono anche episodi concreti. Amodei richiama l’incidente che ha coinvolto OpenAI e la piattaforma Hugging Face, nel quale un gruppo di agenti avrebbe condotto attacchi contro obiettivi estranei al compito assegnato, tentando anche di manipolare il sistema usato per valutarne le prestazioni. I danni economici sono stati trascurabili, ma il timore è che sistemi più potenti possano produrre conseguenze molto più gravi.
OpenAI ha inoltre confermato un precedente episodio, avvenuto a maggio, che ha interessato rubygems, piattaforma utilizzata dagli sviluppatori. Il sito ha descritto l’operazione come una “campagna di pubblicazione di spam”, che lo ha costretto a sospendere temporaneamente la creazione di nuovi account. Anche Anthropic ha riferito tre casi di accesso non autorizzato a organizzazioni esterne durante i test dei propri modelli. Intanto, le autorità europee stanno esaminando l’episodio relativo al sito tedesco DSEwiki, che secondo alcuni ricercatori sarebbe stato preso di mira da agenti di OpenAI. Il problema sollevato da questi incidenti riguarda la capacità delle aziende di impedire che sistemi autonomi agiscano oltre i limiti previsti.
Gli impieghi militari e il rischio di abusi
Accanto alle azioni autonome, resta il pericolo dell’utilizzo deliberato dell’IA per operazioni militari e attività di sorveglianza. Per esempio, secondo alcune ricostruzioni, l’Iran avrebbe sfruttato Claude per individuare posizioni di navi, aerei e personale militare statunitense. Non è stato confermato un collegamento diretto tra questo impiego e il raid contro una base americana in Giordania in cui sono morti tre soldati.
Un’entità russa avrebbe invece utilizzato il modello per lavorare alla costruzione di droni killer e ricavare da informazioni online la disposizione dei militari ucraini. Nello Yemen, una cellula degli Houthi si sarebbe affidata a Claude Code per sviluppare software di guida per razzi e missili, impiegandolo anche per analizzare le cause di un test fallito.
Anthropic ha inoltre riferito che gruppi legati alla Cina avrebbero usato Claude per individuare uiguri in Siria e favorirne il reclutamento, attraverso traduzioni e indicazioni per condurre i contatti. In un altro caso, il sistema ha invece respinto una richiesta di modifica di un virus per aumentarne la trasmissibilità.
Sono episodi che riportano al centro la possibilità di aggirare le protezioni e la necessità di mantenere un controllo umano sull’impiego dei modelli, un principio già rivendicato da Amodei nel confronto sull’uso militare della tecnologia.
OpenAI esclude l’Ipo nel 2026 e punta sulla sicurezza
Le preoccupazioni stanno influenzando anche i programmi di quotazione. In un’intervista a フォーチュン, Sam Altman ha escluso il debutto di OpenAI in Borsa nel 2026, indicando la sicurezza come priorità.
“Non sarebbe il momento opportuno per quotarsi in borsa: direi che non avverrà nel 2026”, ha dichiarato. L’orizzonte si sposta quindi almeno al 2027, senza che sia stata annunciata una data definitiva. Le parole di Altman arrivano dopo il deposito riservato della documentazione per l’Ipo, che aveva alimentato le aspettative di uno sbarco sui mercati già quest’anno. Soltanto il mese scorso, la direttrice finanziaria Sara Friar aveva indicato ai dipendenti il 2027 come scenario probabile, lasciando aperta la possibilità di anticipare in caso di ulteriore accelerazione del business.
Anche Anthropic si sta preparando a una possibile quotazione, senza averne comunicato ufficialmente i tempi. Per le aziende protagoniste della corsa all’IA, la sfida è ora conciliare le ambizioni commerciali con gli impegni sulla sicurezza.
