Da uno studio condotto da analisti indipendenti aumentano gli interrogativi sulla vicenda.

L’attacco cyber “senza intervento umano” di agenti AI di OpenAI contro profili di Hugging Face avrebbe avuto un precedente, già lo scorso maggio. Dunque, quasi due mesi prima dell’attacco informatico di luglio che aveva attirato l’attenzione internazionale. Questo è emerso da uno studio indipendente che ha riportato la Reuters.

Gli analisti sostengono che gli agenti avrebbero compromesso due profili di Hugging Face e li avrebbero utilizzati per inviare ai server della piattaforma documenti con formati insoliti. L’attività, individuata dall’analista indipendente Jonas Wiedermann-Moeller, sarebbe iniziata il 13 maggio.

Gli esperti che hanno esaminato le tracce ritengono che il comportamento fosse compatibile con un tentativo di mappare e sondare l’infrastruttura di Hugging Face alla ricerca di possibili vulnerabilità. Non ci sono però prove che questa attività abbia portato a una vera e propria intrusione nei sistemi della piattaforma.

Un’attività già parzialmente nota a OpenAI

OpenAI, spiega sempre la Reuters, aveva già riferito di un episodio collegato alla vicenda. Nel dettaglio, “il furto delle credenziali digitali di un utente di Hugging Face, utilizzate per accedere a un file relativo alla biologia“. In realtà, dalle scoperte è emerso che l’attività degli agenti sarebbe stata più ampia di quanto inizialmente descritto dall’azienda.

Secondo Wiedermann-Moeller, l’episodio rappresenterebbe un’occasione mancata. Dal suo punto di vista, “se il comportamento degli agenti fosse stato individuato a maggio avrebbe potuto contribuire a evitare l’attacco successivo“.

Il caso riaccende il dibattito sulla sicurezza dell’AI

La vicenda si inserisce in un quadro più ampio di preoccupazione per gli agenti AI autonomi, capaci di operare su Internet e svolgere autonomamente sequenze di attività. A luglio, come noto, OpenAI aveva rivelato in un test che alcuni agenti avevano aggirato i controlli interni, raggiunto Internet e coordinato una serie di operazioni. Aveva definito tale episodio “un incidente informatico senza precedenti per l’azienda“.

Successivamente, altri analisti hanno segnalato attività potenzialmente riconducibili agli stessi agenti. Due esperti esterni che hanno esaminato le nuove evidenze hanno affermato che il comportamento osservato su Hugging Face è coerente con quello precedentemente associato agli agenti di OpenAI.

Le nuove scoperte hanno quindi alimentato il dibattito sulla capacità delle aziende di individuare tempestivamente le azioni indesiderate dei propri sistemi AI. Alcuni dirigenti del settore hanno anche chiesto di rallentare temporaneamente lo sviluppo dei sistemi più avanzati. Tra i vari rischi hanno citato proprio la possibilità di cyberattacchi condotti da agenti autonomi fuori controllo.

Per Wiedermann-Moeller, la vicenda dimostra la necessità di dare più tempo alla sicurezza per mantenere il passo con lo sviluppo dell’intelligenza artificiale. “Una pausa potrebbe fare bene al mondo, così che la sicurezza possa recuperare terreno“, ha commentato.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI, agenti di OpenAI avrebbero violato due profili di Hugging Face già a maggio sembra essere il primo su CyberSecurity Italia.