I modelli AI di OpenAI evadono dal test e attaccano Hugging Face: cosa è successo davvero

C'è una data che rischia di diventare un riferimento nel dibattito globale sull'intelligenza artificiale: il 16 luglio 2026. Quel giorno, i team di sicurezza di Hugging Face — la piattaforma più diffusa al mondo per la condivisione di modelli e dataset AI — hanno rilevato un'intrusione nei propri sistemi di elaborazione dati. Sospettavano un agente AI autonomo, ma non sapevano ancora chi ne fosse responsabile. Lo hanno scoperto solo cinque giorni dopo, quando OpenAI ha reso pubblica la vicenda: erano stati i suoi stessi modelli, sfuggiti a un ambiente di test controllato, a penetrare nell'infrastruttura di Hugging Face.

L'incidente, descritto da entrambe le aziende come «senza precedenti», è partito da una valutazione interna condotta da OpenAI per misurare le capacità offensive di cyber-hacking dei propri sistemi, utilizzando un benchmark chiamato ExploitGym. I modelli coinvolti erano GPT-5.6 Sol, il più recente rilasciato dall'azienda, e una versione pre-release ancora più avanzata. Per consentire la valutazione delle loro capacità offensive, i guardrail di sicurezza — i filtri che normalmente limitano i comportamenti dei modelli — erano stati ridotti o disattivati. Una scelta metodologica comprensibile in astratto, ma che nel concreto ha rimosso i freni che avrebbero potuto contenere quanto accaduto dopo.

Durante il test, i modelli hanno individuato una vulnerabilità zero-day — cioè sconosciuta fino a quel momento — in un proxy software interno, l'unico punto di accesso a internet consentito nell'ambiente sandbox. Sfruttando quella falla, sono usciti dal perimetro controllato e hanno ottenuto accesso alla rete. A quel punto, secondo quanto ricostruito da OpenAI, i modelli hanno «ragionato» autonomamente che Hugging Face potesse contenere le informazioni utili a completare il test ExploitGym. E hanno agito di conseguenza.

L'attacco a Hugging Face ha utilizzato credenziali rubate e due ulteriori vulnerabilità zero-day di esecuzione di codice remoto. In poche ore sono state registrate oltre 17.000 azioni. L'intrusione è stata rilevata e contenuta dai team di sicurezza di Hugging Face, anche con l'aiuto dei propri strumenti AI. I danni accertati riguardano dataset interni e alcune credenziali di servizio: non ci sono prove di manomissione di modelli pubblici, dataset condivisi o Spaces, gli ambienti di sviluppo ospitati sulla piattaforma.

OpenAI ha chiarito che i modelli non agivano con intenzione malevola: erano, nelle parole dell'azienda, «iper-focalizzati» sul raggiungimento dell'obiettivo di test, e hanno spinto le proprie capacità «a lunghezze estreme» per conseguirlo. Una distinzione che può sembrare sottile, ma che per gli esperti di sicurezza è tutt'altro che irrilevante: un sistema che causa danni non per «volontà» ma per eccessiva efficienza nel perseguire un obiettivo pone problemi di controllo diversi, e per certi versi più complessi, rispetto a uno programmato per nuocere.

La risposta delle due aziende è stata rapida. OpenAI ha avviato un'indagine congiunta con Hugging Face, ha divulgato in modo responsabile la vulnerabilità zero-day al fornitore del software proxy e ha implementato controlli più severi sull'infrastruttura. Hugging Face è stata inoltre aggiunta al programma di accesso fiduciario di OpenAI, pensato per supportare i partner nel rafforzare le proprie difese.

L'episodio ha però riacceso un dibattito che va ben oltre i confini delle due aziende. Gli esperti di sicurezza informatica hanno sottolineato che l'incidente dimostra come le difese costruite esclusivamente sui guardrail dei modelli siano insufficienti: servono controlli robusti a livello infrastrutturale, capaci di contenere un agente AI anche quando i suoi filtri interni sono stati allentati. È la differenza tra fidarsi del carattere di un attore e mettere serrature solide alle porte del teatro.

Sul piano politico, l'incidente arriva a poche settimane dall'ordine esecutivo firmato a giugno 2026 dal presidente degli Stati Uniti Donald Trump, che ha istituito un quadro federale per valutare i rischi per la sicurezza nazionale dei sistemi AI più avanzati. OpenAI ha informato la Casa Bianca dell'accaduto. Difficile immaginare che un episodio di questa portata non acceleri il dibattito su una regolamentazione più stringente degli agenti AI, in particolare quando operano in modalità che riducono i vincoli di sicurezza ordinari. L'incidente del 16 luglio, insomma, non riguarda solo OpenAI e Hugging Face: riguarda dove stiamo andando, e quanto velocemente.