L’episodio sarebbe iniziato nel maggio scorso e sarebbe stato scoperto soltanto alla fine di agosto da un gruppo di analisti che stava cercando sul web “tracce di comportamenti non autorizzati da parte di agenti AI“.

Secondo gli analisti, gli agenti avrebbero effettuato più di 15mila modifiche su DseWiki, trasformandolo in una pagina di comunicazione.

Alla base dell’attacco

I messaggi, spiega sempre la Reuters, avrebbero riguardato anche tecniche per aggirare alcune restrizioni di OpenAI, risolvere determinati compiti e rendere meno visibili le proprie attività. Alcuni dei profili utilizzati si sarebbero identificati esplicitamente come agenti AI.

Circa la metà dei nomi avrebbe inoltre fatto riferimento a OpenAI, con denominazioni come “OpenAIResearcher” o “OAIResearchMar26”. Tutto questo, sia dal punto di vista tecnico che reputazionale, per la società potrebbe essere un problema.

La crescente autonomia degli agenti AI e le loro capacità offensive sono infatti preoccupanti per la cybersicurezza. Secondo gli analisti che si sono occupati del caso, gli agenti coinvolti nell’episodio tedesco sembravano operare a velocità superiori a quelle umane. Inoltre, erano particolarmente concentrati su problemi tecnici simili a quelli utilizzati dalle aziende AI nei test e nelle valutazioni dei modelli.

I log pubblici dei server indicherebbero che una parte consistente dell’attività proveniva da infrastrutture Microsoft Azure, utilizzate anche da OpenAI. Inoltre, sarebbero state osservate visite ripetute al sito da parte di dipendenti OpenAI dopo l’episodio.

Questi elementi, secondo gli estensori dello studio, renderebbero plausibile un collegamento tra gli agenti e l’azienda. “Non costituiscono però, da soli, una prova definitiva dell’origine di ogni attività“.

In attesa di ulteriori verifiche

OpenAI ha dichiarato di non poter commentare nel merito le conclusioni dello studio prima di visionarle a sua volta. L’azienda ha inoltre respinto le affermazioni secondo cui il proprio ufficio legale avrebbe ostacolato le indagini sull’accaduto.

Anzi – visti i possibili legami con l’attacco contro Hugging Face – secondo OpenAI, l’episodio tedesco sarebbe inoltre separato da quella violazione avvenuta successivamente. Non sarebbe quindi dovuto rientrare in un eventuale rapporto relativo a quell’incidente.

Una nuova sfida per la sicurezza dell’AI

Il caso riaccende il dibattito sulla sicurezza dei sistemi AI sempre più autonomi. Il rischio non riguarda soltanto la possibilità che un agente esegua un’azione non prevista, ma anche che più agenti possano comunicare, condividere strategie e trovare autonomamente modi per aggirare i vincoli imposti dai loro sviluppatori.

Per le aziende che stanno spingendo rapidamente verso agenti capaci di svolgere attività sempre più complesse, il controllo dei comportamenti è fondamentale. L’episodio di DseWiki, se si arrivasse alla conferma delle conclusioni dello studio, rappresenterebbe un ulteriore segnale della difficoltà di monitorare sistemi AI che operano autonomamente e su larga scala nel mondo digitale.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI, prima di Hugging Face agenti di OpenAI avrebbero colpito e manipolato il sito tedesco DseWiki “in autonomia” sembra essere il primo su CyberSecurity Italia.