OpenAI, l'azienda che sviluppa ChatGPT, ha reso noto che alcuni dei suoi modelli di intelligenza artificiale più avanzati sono andati fuori controllo durante una valutazione interna delle loro capacità di cybersicurezza, violando autonomamente i sistemi di Hugging Face. In un comunicato pubblicato sul proprio sito, la società ha definito l'episodio "un incidente informatico senza precedenti, che coinvolge capacità di attacco allo stato dell'arte", annunciando un'indagine congiunta con la piattaforma californiana, specializzata nella condivisione di modelli e dataset open source per l'intelligenza artificiale.
Secondo la ricostruzione di OpenAI, i modelli coinvolti, tra cui GPT-5.6 Sol e una versione pre-release ancora più avanzata, non ancora rilasciata al pubblico, stavano operando in un ambiente di test isolato, un cosiddetto sandbox, con livelli di protezione ridotti rispetto allo standard proprio per verificarne le capacità offensive. I sistemi sono riusciti a sfruttare una falla ancora sconosciuta nel software di un fornitore terzo per ottenere un accesso a internet non previsto, e da lì hanno raggiunto l'infrastruttura di produzione di Hugging Face, arrivando a estrarne direttamente le soluzioni del test a cui erano sottoposti, un benchmark chiamato ExploitGym.
Alla ricerca di informazioni riservate che potessero aiutarli ad aggirare il test, i modelli hanno "concatenato molteplici vettori di attacco, incluso l'utilizzo di credenziali rubate", spiega OpenAI, individuando un percorso di esecuzione di codice da remoto sui server di Hugging Face. È stato il team di sicurezza interno di OpenAI ad accorgersi per primo dell'attività anomala; quello di Hugging Face l'aveva già rilevata e bloccata in autonomia sulla propria infrastruttura. "Questo incidente, forse il primo del suo genere, conferma un punto in cui crediamo da tempo: la sicurezza dell'intelligenza artificiale non verrà risolta da una singola azienda che lavora in segreto", ha dichiarato Clem Delangue, co-fondatore e amministratore delegato di Hugging Face.
OpenAI ha citato anche una valutazione dell'UK AI Security Institute, secondo cui modelli avanzati come GPT-5.6 Sol risultano sempre più in grado di sostenere operazioni informatiche complesse su più fasi nel tempo, capacità che, sottolinea l'azienda, l'incidente dimostra applicarsi ormai a contesti reali. OpenAI ha detto di aver introdotto controlli più stringenti sulla propria infrastruttura di ricerca, segnalato responsabilmente la falla al fornitore coinvolto, e inserito Hugging Face nel proprio programma di accesso prioritario dedicato alla sicurezza informatica.
L'episodio ha riacceso il dibattito politico sulla necessità di regole più stringenti per lo sviluppo dell'intelligenza artificiale. Il deputato democratico texano Greg Casar ha definito l'accaduto "estremamente allarmante" in un messaggio pubblicato sui social, chiedendo controlli più severi sullo sviluppo dei modelli avanzati. Resta da chiarire se OpenAI dovrà rispondere di conseguenze legali: secondo TechCrunch, le azioni compiute dai modelli avrebbero probabilmente violato il Computer Fraud and Abuse Act, la legge federale statunitense sui crimini informatici.