Alcuni membri del Partito Democratico degli Usa hanno scritto per chiedere più trasparenza dopo gli ultimi incidenti cyber relativi a modelli di AI “fuori controllo“.

Negli Usa un gruppo di Deputati Democratici della Camera dei Rappresentanti ha scritto a Sam Altman e Dario Amodei, CEO rispettivamente di OpenAI e Anthropic. Preoccupano infatti gli ultimi incidenti cyber di modelli AI. I quali, sebbene per differenti per modalità, sono arrivati in entrambi i casi durante delle esercitazioni di cybersicurezza.

“Più trasparenza e maggiori dettagli sugli incidenti“, questa la richiesta. Inoltre, dal loro punto di vista “il Congresso dovrebbe organizzare audizioni per esaminare più approfonditamente gli incidenti e le misure di sicurezza adottate dalle aziende“.

I due colossi avevano reso noti gli episodi a luglio, descrivendo quelle operazioni cyber, pur senza fornire dettagli più precisi.

Le preoccupazioni degli esperti

Gli ultimi incidenti, sottolinea la Reuters, che hanno coinvolto gli agenti di intelligenza artificiale di OpenAI e Anthropic stanno alimentando il dibattito sulla sicurezza. Sia dei sistemi autonomi che sulla necessità di definire un nuovo quadro normativo.

Tra i Democratici, 29 parlamentari, guidati da Greg Casar e Doris Matsui, hanno chiesto a OpenAI chiarimenti su come sia avvenuto l’aggiramento dei limiti e l’attacco “senza intervento autonomo“. I legislatori hanno inoltre richiamato un’inchiesta della stessa Reuters secondo cui, in precedenti test, “ci sarebbe stata la disattivazione di alcuni sistemi di monitoraggio“.

Altri 22 deputati hanno rivolto una richiesta simile ad Anthropic. Hanno richiesto “informazioni sulle misure introdotte dopo che i suoi agenti erano riusciti ad accedere ai sistemi di tre aziende durante i test“. Secondo gli stessi parlamentari, episodi di questo tipo potrebbero avere “gravi implicazioni per la Sicurezza Nazionale americana“.

Il confronto politico

La vicenda è arrivata nel momento in cui a Washington il dibattito sulla regolamentazione del settore dell’AI è sempre più all’ordine del giorno. Tra le proposte sul tavolo c’è “l’obbligo, per gli sviluppatori dei modelli più avanzati, di sottoporli a verifiche di sicurezza indipendenti“.

Alcuni attivisti hanno persino richiesto alle grandi società di mettere in pausa lo sviluppo di nuovi modelli. Una fattispecie, quest’ultima, che sembra opposte rispetto alle esigenze economiche e geo-economiche del settore.

Gli episodi hanno così riaperto una questione cruciale. “La modalità con cui mantenere sotto controllo sistemi di AI sempre più autonomi quando sono in grado di compiere azioni non previste dai loro sviluppatori“.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI, i Democratici Usa scrivono a OpenAI e Anthropic per chiedere “più sicurezza e trasparenza” sembra essere il primo su CyberSecurity Italia.