L’attacco cyber “in autonomia” dei due modelli di OpenAI sarebbe stato molto più esteso di quanto inizialmente prospettato.

Nel mirino dell’attacco cyber “senza intervento umano” degli agenti AI di OpenAI non c’era solo Hugging Face, ma anche un cliente di Modal Labs. Lo riferisce la Reuters, citando un dirigente della società e altre due fonti a conoscenza della vicenda.

I vertici di Modal Labs hanno tuttavia precisato che l’infrastruttura dell’azienda non è stata violata e che l’attacco ha riguardato esclusivamente quel cliente ospitato sulla propria piattaforma.

L’intrusione – anche per via delle sue tempistiche – ha attirato l’attenzione della comunità internazionale. La possibilità che sistemi di intelligenza artificiale che agiscano autonomamente oltre i limiti previsti è infatti un grave rischio per la sicurezza.

Alle origini dell’attacco

Le due operazioni vanno quindi analizzate all’interno del medesimo contesto di riferimento. Secondo una cronologia degli eventi che ha pubblicato Hugging Face, “l’agente era riuscito inizialmente a infiltrarsi in una sandbox“. Vale a dire un ambiente isolato utilizzato per i test, ospitato sull’infrastruttura di un fornitore esterno. Da lì avrebbe poi lanciato il più ampio attacco contro Hugging Face.

In un primo momento nel resoconto ufficiale non s’indicava il nome del fornitore coinvolto. Successivamente, il direttore tecnologico di Modal Labs, Akshat Bubna, ha confermato che si trattava della propria piattaforma. Ha poi specificato che il problema non era legato a una vulnerabilità di Modal. Per Bubna, l’agente ha sfruttato un codice vulnerabile sviluppato da “un cliente dell’azienda“.

Modal Labs ha specificato che il cliente aveva pubblicato “un endpoint privo di autenticazione“, permettendo a chiunque su Internet di utilizzare le proprie sandbox per eseguire codice. In pratica, l’equivalente di una porta aperta ma in versione digitale. L’agente AI è così riuscito ad accedere all’ambiente del cliente senza compromettere la piattaforma di Modal.

Un attacco più esteso del previsto

Sebbene OpenAI non abbia commentato ufficialmente quest’ultima vicenda, gli esperti di cybersicurezza hanno sottolineato l’estensione dell’attacco.

La società di San Francisco ha comunque aggiunto di non aver individuato “altre attività della stessa gravità o portata” rispetto all’attacco contro Hugging Face. In relazione a quest’ultimo, ne ha parlato nei termini di “una compromissione a livello di piattaforma“.

OpenAI disattiva il modello

A fronte di timori sempre più marcati, nel nuovo aggiornamento diffuso martedì, OpenAI ha comunicato di aver adottato misure definitive nei confronti del modello coinvolto.

L’azienda ha spiegato di aver disattivato il sistema di intelligenza artificiale, cifrato tutti i dati associati e limitato completamente l’accesso del modello alle attività di ricerca. Il tentativo, in questo caso, è quello di impedire che episodi simili possano ripetersi durante le future sperimentazioni.

Vai al sito di Cybersecurity Italia.

L'articolo OpenAI, dopo Hugging Face altra vittima. Due agenti violano Modal Labs sembra essere il primo su CyberSecurity Italia.