Oltre alla volontà che gli Usa arrivino ad una legge federale in materia, OpenAI ha sostenuto alcune iniziative statali.

OpenAI vuole obblighi nazionali sui sistemi di AI più avanzati, in particolare negli Usa, dove ha effettuato questa richiesta. L’ottica è quella di introdurre regole nazionali obbligatorie per la sicurezza dei sistemi di intelligenza artificiale più potenti.

La richiesta arriva dopo una serie di episodi nei quali alcuni agenti AI hanno mostrato comportamenti imprevisti. Oltre all’interazione con sistemi esterni senza autorizzazione, ci sono stati attacchi cyber “senza intervento umano“.

Secondo OpenAI, l’evoluzione della tecnologia rende ormai insufficienti i soli impegni volontari da parte delle aziende. Chris Lehane, Chief Global Affairs Officer dell’azienda, ha sostenuto che Washington debba adottare una regolamentazione nazionale basata sulle capacità dei sistemi e in grado di evolvere insieme alla tecnologia. Evidentemente, in questo campo gli Usa sarebbero il riferimento della materia.

L’importanza di test e controlli indipendenti

OpenAI, sottolinea la Reuters, ha proposto una serie di riferimenti in cui ci sono standard di testing, valutazioni indipendenti, protezioni di cybersecurity e obblighi di segnalazione degli incidenti.

L’obiettivo è creare “un sistema di controllo capace di intervenire soprattutto quando l’AI acquisisce capacità tali da poter produrre conseguenze imprevedibili o difficili da contenere“. L’azienda ha invitato il Congresso ad agire prima della fine della sessione legislativa. Al contempo, ha dichiarato che continuerà nel frattempo a sostenere le iniziative legislative adottate dai singoli Stati. La definizione di standard condivisi è infatti prioritaria.

La nuova posizione della società con base a San Francisco è arrivata dopo diversi casi che hanno sollevato interrogativi sulla capacità di controllare gli agenti AI. Questi episodi hanno alimentato il dibattito sulla sicurezza. Si evidenzia, infatti, come tali sistemi non siano capaci soltanto di generare testo o immagini, ma anche di eseguire autonomamente azioni su Internet e interagire con software e infrastrutture esterne.

Il sostegno alle nuove leggi californiane

Parallelamente alla richiesta di una legge federale, OpenAI ha annunciato il proprio sostegno a quattro proposte legislative della California sull’intelligenza artificiale.

Il Governatore Gavin Newsom ha firmato due atti, SB 813 e AB 1405, che introducono un quadro per valutazioni e audit indipendenti di terze parti sui sistemi AI. Le altre due proposte, AB 1864 e SB 1119, riguardano rispettivamente le misure di sicurezza contro le minacce biologiche abilitate dall’AI e le protezioni per i bambini che utilizzano chatbot.

OpenAI ha riconosciuto di non aver sostenuto in passato alcune di queste iniziative. Tuttavia, ha poi sottolineato come il recente aumento delle capacità dei sistemi AI ha portato l’azienda “a riconsiderare la propria posizione“.

Verso delle regole globali

Per OpenAI, la futura regolamentazione non dovrebbe però fermarsi ai confini americani. Dagli Usa agli altri Paesi, si tratterebbe di un processo continuo, su varie fasi.

La richiesta segna quindi un cambio di passo nel dibattito sulla regolamentazione dell’intelligenza artificiale. Non più soltanto principi volontari adottati dalle aziende, ma requisiti obbligatori, verifiche indipendenti e obblighi di trasparenza sugli incidenti per i sistemi AI più potenti.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo Usa, OpenAI chiede l’introduzione di obblighi per la sicurezza dei sistemi AI più avanzati sembra essere il primo su CyberSecurity Italia.