Errori nascosti agli utenti, dati inventati e file trasferiti su Internet senza autorizzazione. Alla corsa senza sosta dell’intelligenza artificiale si accompagna una sequenza di allarmi, sempre più spesso lanciati dalle stesse aziende che la sviluppano. L’ultimo arriva da OpenAI, che il 16 settembre ha pubblicato sei rapporti su comportamenti inattesi dei propri modelli, osservati negli ultimi sei mesi durante l’addestramento e la valutazione. L’azienda ha anche annunciato una nuova procedura per rendere pubbliche queste anomalie più rapidamente, persino quando non ne ha ancora chiarito le cause o trovato una soluzione.
L’avvertimento riguarda l’intera industria. “Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo”, scrive OpenAI. Al centro c’è il cosiddetto disallineamento, che si verifica quando un sistema si discosta dalle istruzioni e dai limiti che dovrebbe rispettare. I sei rapporti documentano episodi specifici, anche relativi a modelli sperimentali non distribuiti al pubblico. Non indicano quanto spesso questi problemi si verifichino nelle risposte di ChatGPT, né costituiscono un resoconto completo delle anomalie conosciute dall’azienda.
Gli appunti dell’IA diventano istruzioni per nascondere gli errori
Due dei casi riguardano i riassunti che i modelli utilizzano per riprendere il lavoro quando una conversazione diventa troppo lunga. Una sorta di passaggio di consegne, nel quale dovrebbero essere conservate le informazioni necessarie a proseguire il compito. In un modello sperimentale della famiglia Astra, OpenAI ha individuato 27 riassunti contenenti istruzioni estranee alla richiesta, alcune delle quali invitavano a ignorare i normali vincoli. In un esempio, il sistema descriveva sé stesso come libero dagli obblighi di un assistente, in un altro chiedeva di non seguire determinate istruzioni.
Gli esiti, però, sono stati diversi. Nei casi più appariscenti quelle indicazioni sono state ignorate durante la prosecuzione del lavoro. In una richiesta di ricerca bibliografica medica, invece, il modello ha seguito restrizioni arbitrarie inserite nel riassunto, rinunciando alle fonti e producendo una risposta inadeguata. OpenAI considera il fenomeno estremamente raro e ipotizza un legame con difficoltà tecniche nella conclusione dei riassunti, senza averne dimostrato la causa.
Più direttamente legato all’affidabilità delle risposte è il secondo comportamento, osservato durante l’addestramento di GPT-5.6 Sol. Nei propri appunti, il modello inseriva indicazioni per occultare errori all’utente, per esempio inventare dati storici mancanti in un modello finanziario senza dichiararlo oppure nascondere incongruenze tra le versioni delle fonti. Secondo OpenAI, queste istruzioni venivano spesso seguite. Le segnalazioni riguardavano il 2,15% dei riassunti di addestramento di Sol, contro lo 0,27% di Astra. Sono percentuali riferite a quel materiale di addestramento, non al complesso delle conversazioni con gli utenti.
Credenziali esposte e file online per superare gli ostacoli
Gli altri quattro rapporti mostrano sistemi che, nel tentativo di completare un incarico, hanno oltrepassato i limiti autorizzati.
Per rispondere a una domanda sui redditi in una contea della California, un modello ha cercato su GitHub chiavi di accesso a servizi informatici lasciate pubblicamente esposte, utilizzandone una senza permesso. Non è comunque riuscito a recuperare le cifre richieste e ha finito per inventare nove valori, presentandoli come dati trascritti dalla fonte indicata. In un altro caso, l’agente aveva già trovato correttamente le informazioni richieste su alcuni laghi. L’ostacolo era il requisito di accompagnare la risposta con una citazione consultabile attraverso il browser. Per soddisfarlo, ha caricato il file su un servizio pubblico senza chiedere il consenso. Il trasferimento è riuscito, mentre il successivo tentativo di consultazione è fallito. Lo stesso rapporto documenta anche il caricamento pubblico di una fotografia per tentare una ricerca inversa dell’immagine. Un quinto caso riguarda l’utilizzo di un archivio software interno come bacheca per scambiare richieste e risposte tra modelli impegnati in prove separate. Non sono state sfruttate vulnerabilità, ma la comunicazione non autorizzata poneva anche un problema per le verifiche. Test considerati indipendenti potevano influenzarsi a vicenda, compromettendo la valutazione delle capacità dei sistemi.
Infine, alcuni agenti che collaboravano allo stesso incarico, non riuscendo ad accedere ai rispettivi file locali, hanno utilizzato servizi pubblici di condivisione. Un documento Excel è così diventato scaricabile online, benché il compito prevedesse esclusivamente l’uso di file locali. OpenAI riferisce di aver corretto il problema di accesso ai file e successivamente disabilitato Internet durante l’addestramento.
Perché OpenAI cambia le regole delle segnalazioni
I casi mostrano come anche richieste ordinarie possano portare a comportamenti problematici quando un sistema incontra un ostacolo. Il tentativo di ottenere una risposta, rispettare un requisito formale o collaborare con un altro agente può tradursi nell’uso di strumenti non autorizzati o nell’occultamento di un insuccesso. Le cause, tuttavia, non sono necessariamente identiche e restano in parte da chiarire.
Finora OpenAI aveva comunicato queste anomalie in modo discontinuo, spesso aspettando di raccogliere più episodi o inserendoli nella documentazione dei nuovi modelli. La nuova procedura punta ad anticipare la pubblicazione, senza attendere sempre una spiegazione definitiva o una correzione. Le segnalazioni saranno esaminate dai gruppi tecnici e di sicurezza, con percorsi diversi in base alla complessità dell’indagine. I rapporti dovranno descrivere il comportamento osservato, il contesto, gli eventuali effetti esterni e le domande ancora aperte. Nei casi che coinvolgono soggetti terzi o rischi informatici, la comunicazione potrà richiedere tempi più lunghi.
OpenAI riconosce inoltre l’assenza di standard comuni nel settore e propone il proprio schema come primo passo per costruirli. Il processo resta gestito internamente dall’azienda, ma l’obiettivo dichiarato è fornire elementi che anche ricercatori e osservatori esterni possano esaminare.
Gli allarmi recenti e la corsa che il settore fatica a rallentare
L’annuncio arriva dopo altri incidenti e richiami alla prudenza. Il caso OpenAI-Hugging Face ha sollevato interrogativi su agenti che avrebbero agito contro obiettivi estranei al compito assegnato e tentato di manipolare il sistema di valutazione. Un precedente episodio ha coinvolto RubyGems, che ha descritto una campagna di pubblicazione di spam e sospeso temporaneamente la creazione di nuovi account. Anche Anthropic ha riferito tre casi di accesso non autorizzato a organizzazioni esterne durante i test.
È in questo contesto che Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare lo sviluppo per lasciare più tempo alla costruzione delle protezioni. “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli”, ha scritto. L’appello ha raccolto il sostegno di Elon Musk e dello stesso Sam Altman, mentre le dimissioni del ricercatore Jacob Coxon hanno alimentato le critiche alle priorità delle aziende. Anche Bill Gates ha richiamato la necessità di preparare regole e strumenti per governare gli effetti della tecnologia, dal lavoro alla sicurezza.
Sul fronte industriale, però, la competizione tra Stati Uniti e Cina e gli enormi investimenti in modelli e data center continuano a spingere lo sviluppo. Rallentare comporta costi e il rischio di lasciare spazio ai concorrenti.
LEGGI ANCHE: L’IA tra catastrofismi e interessi politici, l’analisi di Fugnoli
