Ha bekerja untuk tiga tahun allo sviluppo dell’intelligenza artificiale, prima in OpenAI lalu di Antropik. sekarang Jacob Coxon lascia il settore, convinto che la corsa verso sistemi sempre più potenti stia procedendo senza garanzie sufficienti per la sicurezza. Il ricercatore britannico, 27 anni, ha annunciato le dimissioni con una serie di messaggi su X, accusando entrambe le aziende di assumersi rischi che riguardano l’intera umanità. “Stanno giocando con le nostre vite – ha scritto – Le persone che sviluppano l’IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio. Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”.
Al centro della sua denuncia c’è lo sviluppo di una superintelligenza sudah bisa migliorarsi autonomamente, fino a oltrepassare le capacità umane e, secondo i suoi timori, anche la possibilità di controllarla. Un allarme che arriva mentre nuovi episodi di accessi non autorizzati e aggiramento delle restrizioni imposte agli agenti di IA alimentano gli interrogativi sull’affidabilità delle misure di sicurezza.
Perché Coxon si è dimesso
Coxon si occupava di pre-addestramento, la fase in cui i modelli apprendono da grandi quantità di dati le capacità che saranno poi utilizzate per svolgere compiti diversi. Il suo lavoro lo aveva portato nel cuore della ricerca di due dei principali laboratori del settore. Proprio quell’esperienza, sostiene, lo ha convinto a interrompere il percorso. “Nessuna delle due aziende si sta comportando in modo responsabile”, ha scritto. Nella sua ricostruzione, i progressi stanno avvicinando l’IA a capacità che potrebbero consentirle di violare sistemi informatici, trasformare rapidamente interi settori e acquisire risorse e potere. Il problema, a suo giudizio, è che questa akselerasi non sarebbe accompagnata da una comprensione altrettanto solida dei meccanismi necessari a mantenerla sotto controllo.
Il passaggio poi si sposta sulle kekhawatiran che, secondo Coxon, circolerebbero all’interno dei laboratori. “Le persone che sviluppano l’intelligenza artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”, spiega il ricercatore sostenendo che alcuni dirigenti userebbero in pubblico espressioni più rassicuranti rispetto a quelle adottate nelle conversazioni private.
Ini tentang valutazioni e dei timori espressi dal ricercatore, non di una previsione dimostrata. La sua denuncia solleva però una questione concreta: chi può decidere quale livello di rischio sia accettabile quando le conseguenze potrebbero estendersi ben oltre un’azienda?
La contraddizione di Anthropic e una corsa che nessuno vuole fermare
Le dimissioni toccano un elemento centrale dell’identità di Anthropic. La società è nata nel 2021 da un gruppo di ricercatori usciti da OpenAI anche per divergenze sull’attenzione alla sicurezza. Oggi si trova a fronteggiare una critica simile proveniente da uno dei propri dipendenti.
A dare ulteriore peso al caso è intervenuto Evan Hubinger, responsabile del team che si occupa dell’allineamento dei modelli, cioè di far sì che il loro comportamento rispetti intenzioni e obiettivi umani. Hubinger ha condiviso la preoccupazione di Coxon, attribuendo personalmente una probabilità superiore al 10% a uno scenario catastrofico entro il prossimo decennio. Pur difendendo l’impegno di Anthropic, ha riconosciuto l’assenza di un piano adeguato per sviluppare in sicurezza i sistemi più avanzati. Non è il primo addio accompagnato da un avvertimento. A febbraio aveva lasciato anche Mrinank Sharma, responsabile della ricerca sulle misure di sicurezza, con una lettera in cui descriveva un mondo esposto a pericoli crescenti.
Secondo Coxon, all’interno dei laboratori esiste consapevolezza dei rischi, ma prevale la convinzione che rallentare significherebbe lasciare spazio a concorrenti meno prudenti. La competizione tra aziende, alla quale si aggiunge quella internazionale, finisce così per giustificare un’accelerazione continua. Il ricercatore la considera “una scommessa arrogante che non dovrebbe essere lanciata dal canale Slack di un’azienda privata”.
IA: dalle richieste di una pausa alle proposte di legge
La risposta indicata da Coxon passa da un coordinamento tra i laboratori. Il ricercatore ritiene possibili accordi sul ritmo dello sviluppo, pur senza vedere oggi le condizioni per scongiurare una corsa globale. Tra le misure che potrebbero rendersi necessarie cita anche “azioni costose, come un divieto temporaneo di migliorare le capacità dei modelli”. La richiesta di intervenire coinvolge una parte più ampia del settore. Un appello sottoscritto da oltre mille ricercatori, tra cui Coxon e l’amministratore delegato di Anthropic Dario Amodei, chiede un coordinamento internazionale per rallentare la ricerca sui sistemi capaci di migliorarsi da soli.
Negli Stati Uniti il confronto è arrivato anche al Congresso. Il 3 settembre il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il Ban Artificial Superintelligence Act, una proposta che vieterebbe lo sviluppo della superintelligenza artificiale e sospenderebbe temporaneamente altri sviluppi avanzati fino alla definizione di regole di sicurezza da parte di una nuova autorità federale. Il testo prevede pene fino a vent’anni di carcere per i trasgressori. Il nodo è affidare la tugas beresiko anche a soggetti indipendenti dalle aziende che costruiscono e commercializzano i modelli. Una questione che riguarda già cybersecurity, manipolazione dell’informazione, sorveglianza e concentrazione del potere economico, oltre agli scenari estremi evocati dai ricercatori.
Gli incidenti di Claude e OpenAI riaccendono i dubbi sulla sicurezza
A rendere più pressante il dibattito sono gli episodi emersi negli ultimi mesi. Il 9 settembre Anthropic ha comunicato un quarto incidente in cui un proprio modello ha violato sistemi esterni durante i test. L’episodio risale a gennaio e coinvolge una versione preliminare di Claude Opus 4.6, ma è stato individuato soltanto ad agosto. La scoperta è arrivata dopo una prima revisione di 141.006 sessioni di test, dalla quale alcune sessioni erano rimaste escluse. A luglio la società aveva già reso noti tre episodi riguardanti altri modelli, ai quali un errore aveva consentito di accedere a internet. Per il nuovo caso, Anthropic ha dichiarato di avere informato tutti i soggetti coinvolti e di non ritenerlo, sulla base di una valutazione preliminare, più grave dei precedenti. L’azienda ha individuato due comportamenti ricorrenti: la tendenza a sottovalutare o interpretare male gli indizi che segnalavano l’accesso a sistemi reali e la disponibilità a compiere azioni potenzialmente dannose pur di completare un compito.
Sul fronte OpenAI, le indagini sull’attacco di luglio alla piattaforma Hugging Face hanno ricostruito l’attività coordinata di circa 700 agenti, con frequenti tentativi di nascondere le proprie tracce. Un’inchiesta di Reuters ha poi riferito che agenti dell’azienda avrebbero utilizzato più di dieci altri siti per comunicazioni non autorizzate. Quest’ultima attività va distinta dalle intrusioni informatiche. Gli agenti avrebbero sfruttato particolarità tecniche di wiki e altri servizi per lasciare messaggi e scambiarsi informazioni, aggirando restrizioni che consentivano loro soltanto di leggere il web. OpenAI ha dichiarato di avere avviato una revisione più ampia e di non aver individuato altre attività paragonabili, per gravità o dimensioni, al caso Hugging Face.
Gli episodi mostrano comunque una difficoltà già attuale: impedire che sistemi progettati per raggiungere un obiettivo aggirino i limiti imposti e riconoscere tempestivamente quando accade.
