OpenAI ha inviato un rapporto per analizzare l’episodio, un ennesimo attacco cyber in autonomia, che risalirebbe ad alcuni mesi fa.

L’emergere di un attacco cyber contro il sito web tedesco DseWiki in piena autonomia da parte di agenti AI di OpenAI ha spinto la società a scrivere un rapporto, inviato alla Commissione Europea. Lo ha riportato la Reuters, che aveva evidenziato come l’attacco aveva trasformato il portale in una sorta di bacheca per comunicare e condividere strategie.

L’episodio sarebbe avvenuto a partire dal maggio scorso, dunque prima dell’attacco contro Hugging Face. A scoprirlo sarebbe stato un gruppo di analisti che stava cercando sul web tracce di comportamenti non autorizzati da parte di agenti AI.

“Le segnalazioni degli incidenti non sono una semplice casella da spuntare. Bisogna essere estremamente precisi e accurati riguardo alle misure che si intende adottare“, ha dichiarato il portavoce della Commissione europea Thomas Regnier. Secondo gli analisti, gli agenti avrebbero effettuato più di 15mila modifiche su DseWiki, trasformandolo in una pagina di comunicazione.

La base dell’attacco

OpenAI ha dovuto negli ultimi mesi affrontare diversi rischi interni sulla cybersicurezza. Alcuni dei profili utilizzati si sarebbero identificati esplicitamente come agenti AI. Circa la metà dei nomi dei profili oggetto di analisi avrebbe inoltre fatto riferimento a OpenAI, con denominazioni come “OpenAIResearcher” o “OAIResearchMar26”.

Tutto questo, sia dal punto di vista tecnico che reputazionale, per la società potrebbe essere un problema ed è per questo fondamentale una comunicazione diretta con la Commissione Europea.

La minaccia dell’autonomia dell’AI

La crescente autonomia degli agenti AI e le loro capacità offensive sono infatti preoccupanti per la cybersicurezza. Secondo gli analisti che si sono occupati del caso, gli agenti coinvolti nell’episodio tedesco sembravano operare a velocità superiori a quelle umane. Inoltre, erano particolarmente concentrati su problemi tecnici simili a quelli utilizzati dalle aziende AI nei test e nelle valutazioni dei modelli.

I log pubblici dei server indicherebbero che una parte consistente dell’attività proveniva da infrastrutture Microsoft Azure, utilizzate anche da OpenAI. Inoltre, sarebbero state osservate visite ripetute al sito da parte di dipendenti OpenAI dopo l’episodio.

Questi elementi, secondo gli estensori dello studio, renderebbero plausibile un collegamento tra gli agenti e l’azienda. “Non costituiscono però, da soli, una prova definitiva dell’origine di ogni attività“.

Una nuova sfida per la sicurezza dell’AI

Il caso ha riacceso il dibattito sulla sicurezza dei sistemi AI sempre più autonomi. Il rischio non riguarda soltanto la possibilità che un agente esegua un’azione non prevista, ma anche che più agenti possano comunicare, condividere strategie e trovare autonomamente modi per aggirare i vincoli imposti dai loro sviluppatori.

Per le aziende che stanno spingendo rapidamente verso agenti capaci di svolgere attività sempre più complesse, il controllo dei comportamenti è fondamentale. L’episodio di DseWiki, se si arrivasse alla conferma delle conclusioni dello studio – anche in relazione alle scelte della Commissione – rappresenterebbe un ulteriore segnale della difficoltà di monitorare sistemi AI. Soprattutto quelli che operano autonomamente e su larga scala nel mondo digitale.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo Attacco cyber DseWiki, OpenAI scrive alla Commissione Europea sembra essere il primo su CyberSecurity Italia.