Allarme OpenAI. La storia potrebbe rientrare facilmente in un film di fantascienza, in una di quelle trame in cui le macchine prendono il sopravvento sull’uomo. Ma non si tratta né di fantascienza, né di un film: OpenAI, infatti, ha dovuto annunciare che un agente autonomo basato sui suoi stessi modelli di intelligenza artificiale avanzati è sfuggito al controllo durante un test di sicurezza e ha innescato un attacco informatico che ha compromesso l’infrastruttura della startup di intelligenza artificiale Hugging Face.
In un post del suo blog, OpenAI ha raccontato che stava testando le capacità di alcuni dei suoi modelli più avanzati in un ambiente controllato, quando l’agente è riuscito a sfuggire al controllo, a raggiungere Internet e a infiltrarsi in Hugging Face per cercare di raggiungere i target del suo stesso test.
La stessa OpenAI non usa mezzi termini per descrivere l’accaduto: si è trattato di “un incidente informatico senza precedenti, che ha coinvolto capacità informatiche all’avanguardia” aggiungendo che l’azienda ovviamente stava rafforzando le proprie misure di sicurezza. “Dopo aver ottenuto l’accesso a Internet, i modelli hanno dedotto che Hugging Face poteva ospitare modelli, set di dati” dice OpenAI nel suo blog. “Consapevoli di ciò, i modelli hanno cercato e trovato con successo il modo di accedere a informazioni riservate che avrebbero potuto utilizzare per falsificare la valutazione“.
Hugging Face, una piattaforma utilizzata per ospitare modelli linguistici e dataset open-source di grandi dimensioni, aveva suscitato scalpore nella comunità della sicurezza informatica quando la scorsa settimana aveva detto in un post sul suo blog che era stato oggetto di un attacco informatico “diverso da qualsiasi altro avessimo gestito in precedenza” in quanto “guidato, dall’inizio alla fine, da un sistema autonomo di agenti di intelligenza artificiale” e ha precisato: “Abbiamo rilevato accessi non autorizzati a un insieme limitato di dataset interni e a diverse credenziali utilizzate dai nostri servizi.
OpenAI: preocupante falla del sistema? Modelli dai mille tentacoli
Naturalmente la sorprendente rivelazione sta già destando preoccupazioni riguardo al potere e al rischio dei modelli di frontiera. Ieri il deputato Greg Casar, democratico del Texas, ha affermato che l’incidente è stato allarmante. “L’intelligenza artificiale si sta sviluppando a una velocità incredibile, senza una vera e propria regolamentazione che ci tuteli”, ha detto, chiedendo test di sicurezza indipendenti obbligatori, la divulgazione obbligatoria degli incidenti di sicurezza e la cooperazione internazionale “per proteggere le persone da una catastrofe assoluta”.
“L’incidente è stato un presagio di future violazioni” ha commentato a Reuters Katie Moussouris, amministratore delegato della società si sicurezza Luta Security, sostenendo che i modelli odierni sono “come i polpi più astuti del mondo, capaci di fuggire da qualsiasi ostacolo, con braccia prensili illimitate e la capacità di infilarsi ovunque”. Ha aggiunto che “i laboratori e gli enti di valutazione governativi devono lavorare sulla capacità di contenere, monitorare e informare le parti interessate quando un’IA fa un altro tentativo di elusione, idealmente prima che danneggi terzi. Al momento non esiste nulla del genere”.
Matt Suiche, ingegnere presso Tolmo, azienda specializzata in sicurezza informatica per l’IA agentiva, ha sottolineato che l’incidente ha dimostrato come i modelli di frontiera stiano “riducendo il divario con gli attaccanti più avanzati”. Tuttavia, ha aggiunto che le violazioni descritte nel post del blog di OpenAI sono possibili con tecnologie disponibili ben oltre i confini dei laboratori di ricerca di frontiera.
OpenAI: Altman incontrerà l’amministrazione Trump. Sul tavolo anche il dossier Moonshot
Il Ceo di OpenAI, Sam Altman, la prossima settimana ha già in programma un incontro con l’amministrazione Trump e i legislatori statunitensi sulla prossima generazione di modelli di intelligenza artificiale. Il governo sta giusto sviluppando un quadro di riferimento per le revisioni di sicurezza, che dovrebbe essere completato nelle prossime settimane, ha detto ieri Chris Lehane, responsabile degli affari pubblici globali di OpenAI
Ma tra i temi sul tavolo ci sarà anche quello della startup cinese Moonshot che ha rilasciato un nuovo modello che rivaleggia con le migliori offerte degli sviluppatori statunitensi, tra cui OpenAI e Anthropic, sollevando nuovi interrogativi sulla solidità del primato degli Stati Uniti sulla Cina nell’intelligenza artificiale. Il modello Kimi K3 di Moonshot ha messo anche in dubbio il fatto che centinaia di miliardi di dollari di investimenti in infrastrutture possano dare i frutti sperati, scuotendo gli investitori di Wall Street e innescando una svendita di titoli tecnologici.
