L’attacco cyber ‘in piena autonomia’ contro Hugging Face crea scenari senza precedenti, con un impatto diretto sulla percezione di sicurezza informatica.

Un cyberattacco senza intervento umano durante un test da parte di una “combinazione di più modelli di AI“. Non è più teoria o un’ipotesi di studio ma è quanto accaduto a Hugging Face, nell’incidente che è accaduto a OpenAI.

Incidente, che è avvenuto “durante un benchmark che ha visto la combinazione di più modelli AI, tra cui GPT-5.6 Sol e un modello pre-release ancora più performante”.

Sul suo blog, poi ripreso dalla Reuters, OpenAI ha spiegato che stava testando le capacità di alcuni dei suoi modelli più avanzati in un ambiente controllato. Tuttavia, “l’agente è riuscito a sfuggire al contenimento, a collegarsi a Internet e a violare Hugging Face per cercare di raggiungere il proprio obiettivo di test assegnato in fase di sperimentazione“.

Un incidente “senza precedenti“

OpenAI ha descritto l’episodio come “un incidente informatico senza precedenti che coinvolge capacità cyber allo stato dell’arte“. Il vero elemento di novità è stato proprio nell’impiego di capacità offensive di livello estremamente avanzato. L’azienda ha precisato di aver già avviato un rafforzamento delle proprie misure di sicurezza e dei sistemi di contenimento per evitare il ripetersi di situazioni analoghe.

Inoltre, ha precisato di aver voluto rendere pubblica la vicenda prima della conclusione delle indagini. Questo, per “la volontà di aiutare la comunità della sicurezza informatica a comprendere il livello raggiunto dalle nuove capacità offensive dell’AI“.

La conferma di Hugging Face

L’episodio ha seguito l’annuncio di Hugging Face della scorsa settimana di aver subìto un attacco informatico “diverso da qualsiasi altro affrontato in precedenza“. La società aveva sottolineato come a condurre l’intera operazione fosse stato un sistema di intelligenza artificiale, senza intervento umano diretto.

Dopo la pubblicazione del rapporto di OpenAI, il cofondatore di Hugging Face, Clement Delangue, ha commentato la vicenda sui sui profili social. Delangue ha spiegato che inizialmente – proprio per la sofisticazione dell’attacco – l’azienda sospettava il coinvolgimento di uno dei principali laboratori di ricerca sull’intelligenza artificiale.

“Si è scoperto che era proprio così“, ha dichiarato Delangue. Il quale, poi ha descritto come “incredibile” il fatto che a condurre l’intera operazione autonomamente sia stato un agente AI.

Un nuovo campanello d’allarme per i più recenti modelli di AI

L’incidente ha rappresentato uno dei segnali più concreti delle nuove sfide poste dall’intelligenza artificiale autonoma. Al netto del valore aggiunto dei nuovi modelli di AI, gli esperti evidenziano “la necessità di sviluppare sistemi di controllo, monitoraggio e contenimento molto più robusti“.

La vicenda, per altro, potrebbe accelerare il confronto internazionale sulla regolamentazione dei modelli AI di frontiera e sulla definizione di standard di sicurezza condivisi. Nell’attuale momento storico, infatti, le capacità operative di questi sistemi stanno crescendo a un ritmo senza precedenti. E con loro, i rischi concreti per la Sicurezza Nazionale dei singoli Paesi.

Vai al sito di Cybersecurity Italia.

L'articolo Due modelli di OpenAI violano Hugging Face senza intervento umano. L’AI cyber fuori controllo? sembra essere il primo su CyberSecurity Italia.