La conferma di OpenAI rimarca la necessità di definire delle nuove misure per limitare i ruschi in materia.

Con un post su X, OpenAI ha pubblicato la conferma dell’attacco cyber contro il sito web tedesco DseWiki in piena autonomia da parte di suoi agenti AI. Un altro punto fondamentale. E ha aggiunto: “Ormai è giunto il momento di definire degli standard su quando e come condividere gli incidenti di disallineamento, non solo le caratteristiche di disallineamento dei nostri modelli“.

La società ha perciò riconosciuto la dinamica dell’incidente che ha trasformato e manomesso il sito in una sorta di bacheca per comunicare e condividere strategie. L’episodio sarebbe avvenuto a partire dal maggio scorso, dunque prima dell’attacco contro Hugging Face. A scoprirlo sarebbe stato un gruppo di analisti che stava cercando sul web tracce di comportamenti non autorizzati da parte di agenti AI.

Secondo gli analisti, gli agenti avrebbero effettuato più di 15mila modifiche su DseWiki, trasformandolo in una pagina di comunicazione.

Il tema del disallineamento

Nel suo post su X, oltre a inquadrare l’attacco contro DseWiki, l’azienda ha ammesso la necessità di cambiare approccio nella gestione di episodi in cui i propri sistemi si comportano in modo inatteso. Secondo OpenAI, è ormai “ora” di definire standard chiari per comunicare e classificare questi incidenti.

In particolare, l’azienda ha spiegato di aver considerato finora il problema del disallineamento (misalignment) soprattutto come una questione di studio. Si verifica quando un modello o un agente di AI persegue obiettivi differenti da quelli previsti dai suoi sviluppatori o dagli utenti.

OpenAI ha riconosciuto però che il disallineamento sta producendo “nuovi tipi di impatto nel mondo reale“. E che, con l’evoluzione delle capacità dei modelli, è necessario ampliare il modo in cui si studiano e comunicano questi fenomeni.

Un portavoce di OpenAI aveva inizialmente dichiarato, alla Reuters, che l’azienda non poteva rispondere in modo significativo a conclusioni o accuse contenute in un rapporto che non aveva avuto modo di esaminare. Il portavoce aveva inoltre negato che il gruppo legale della società avesse cercato di scoraggiare un’indagine.

Successivamente, OpenAI ha inquadrato il caso come un caso di disallineamento, simile ad altri incidenti già comunicati dall’azienda. Diverso, secondo OpenAI, il caso Hugging Face, che sarebbe stato invece gestito attraverso “le procedure tradizionali previste per gli incidenti di cybersicurezza“.

La necessità di un nuovo quadro di riferimento

Nelle ultime settimane è emersa la necessità di adottare delle misure per limitare i rischi degli attacchi informatici autonomi dell’AI. OpenAI ha riconosciuto che attualmente manca uno standard condiviso, sia all’interno dell’azienda sia nella più ampia comunità dell’intelligenza artificiale. Questo servirebbe per stabilire come segnalare i casi di disallineamento che emergono durante l’addestramento, la valutazione o l’utilizzo dei modelli.

Il problema riguarda soprattutto gli episodi che non rientrano nella categoria tradizionale degli incidenti di sicurezza, ma che possono comunque fornire informazioni importanti sul comportamento dei sistemi di AI e sui rischi futuri.

Per questo la società con base a San Francisco sta lavorando ad un “framework per la segnalazione e la gestione di questi episodi“, che dovrebbe essere presentato nelle prossime settimane. Parallelamente, l’azienda afferma di collaborare con decine di autorità e organismi regolatori governativi in tutto il mondo.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo DseWiki, OpenAI conferma l’attacco cyber e rimarca: “È tempo di definire nuovi standard per i rischi dell’AI” sembra essere il primo su CyberSecurity Italia.