L’incidente di OpenAI ha portato il Congresso a valutare delle misure di risposta normative.

L’incidente cyber “senza intervento umano” di modelli di AI di OpenAI contro Hugging Face – che a sua volta ha risposto con GLM-5.2 della cinese Zhipu AI – è monitorato da Governo e Congresso degli Usa. Della situazione si sta occupando direttamente anche il principale consigliere tecnologico del Presidente Donald Trump, Michael Kratsios.

Parallelamente, un gruppo bipartisan di sei membri della Camera dei Rappresentanti ha elaborato due proposte di legge per rafforzare i controlli sui modelli di AI più avanzati.

La prima, denominata “AI Kill Switch Act“, consentirebbe alle autorità federali di ordinare la disattivazione di modelli di intelligenza artificiale ritenuti pericolosi per la vita umana o per l’economia. La seconda introdurrebbe l’obbligo, per gli sviluppatori dei sistemi più potenti, di sottoporli a verifiche di sicurezza indipendenti prima del loro impiego.

AI cyber sempre meno sicura

Secondo il testo della proposta, spiega la Reuters, ad occuparsi delle verifiche dovrebbero essere degli organismi accreditati dal Dipartimento del Commercio degli Usa. Il quale, istituirebbe anche una nuova figura con il compito “di supervisionare la sicurezza dell’AI“.

L’attacco informatico autonomo ha destato grandi preoccupazioni tra gli analisti e i vertici statunitensi. Le capacità sempre più potenti della nuova tecnologia possono infatti tradursi in nuovi rischi per la sicurezza informatica. Anche i principali sviluppatori possono essere colti di sorpresa da vulnerabilità sfruttabili dai loro stessi modelli.

La proposta normativa e la necessità di test controllati

La stessa Reuters ha sottolineato la volontà dei promotori della proposta di legge, il Deputato Democratico Ted Lieu e quello Repubblicano Nathaniel Moran.

La proposta attribuirebbe al Dipartimento per la Sicurezza Interna il potere di intervenire in quelli definiti “scenari di perdita di controllo“. Ossia quelle situazioni in cui un modello di AI compie azioni rischiose non previste dai suoi sviluppatori.

Sul suo profilo X Lieu ha rimarcato: “In gioco c’è una questione urgente. Si tratta di una normativa di buon senso per affrontare il problema di un modello avanzato di AI che sfugga ai propri sistemi di sicurezza“.

Anche il Senatore Democratico Mark Warner, membro di vertice della Commissione Intelligence del Senato, ha affermato di aver parlato con dipendenti di OpenAI dopo l’annuncio dell’incidente.

Prima ancora della comunicazione ufficiale dell’azienda, Warner aveva proposto un obbligo specifico per le società che sviluppano i modelli di AI più avanzati. Queste avrebbero dovuti sottoporli a dei test della NSA. Solo successivamente sarebbero potuti arrivare sul mercato.

Così Warner sull’attacco autonomo: “È esattamente per questo motivo che abbiamo bisogno di test sicuri, con il coinvolgimento delle agenzie governative e una piena visibilità sull’intero processo“.

Vai al sito di Cybersecurity Italia.

L'articolo Il ‘caso’ OpenAI spinge il Congresso a correre ai ripari. Presentate due proposte di legge per rafforzare i controlli sui modelli AI più avanzati sembra essere il primo su CyberSecurity Italia.