OpenAI ha pubblicato un rapporto per proporre un nuovo modo di regolamentare l’AI, divergendo dalle posizioni della Casa Bianca.

“Valutazione dei nuovi modelli obbligatoria e non una scelta volontaria, con la responsabilità di supervisione alle agenzie civili“. Questa la proposta di OpenAI che ha presentato un rapporto sulla “regolamentazione” dei nuovi modelli di AI in “contrapposizione” all’ultimo ordine esecutivo di Donald Trump, firmato lo scorso martedì.

Quest’ultimo, infatti, delibera un quadro volontario per la valutazioni dei rischi cyber sotto direzione della National Security Agency (NSA). Per il gigante tecnologico, al contrario, a capo di tali iniziative ci dovrebbe essere il Center for AI Standards and Innovation (CASI). Un ufficio, quest’ultimo, facente capo al National Institute of Standards and Technology del Dipartimento del Commercio.

La pubblicazione del documento di OpenAI, sottolinea POLITICO, è arrivato mentre il suo Amministratore delegato Sam Altman era diretto a Washington. Qui Altman ha incontrato diversi funzionari della Casa Bianca e legislatori chiave di entrambi i partiti politici.

Per un rafforzamento del CASI

Proprio sulla valore che dovrebbe assumere il Center for AI Standards and Innovation, dunque delle autorità civili, i principali dirigenti di OpenAI stanno lavorando. Dall’altro lato, l’Amministrazione attualmente in carica ha posto al centro tutto il comparto della Difesa.

Chris Lehane, dirigente di punta della società, ha spiegato: “Esiste già il CAISI, che nel tempo ha sviluppato competenze e capacità per svolgere test sofisticati su questi sistemi“.

Lehane, per altro, ha sottolineato come OpenAI, Anthropic e altre grandi aziende del settore abbiano già accettato di condividere informazioni sui nuovi modelli con il centro. Al contempo, l’NSA non disporrebbe attualmente di un rapporto analogo con i principali sviluppatori di AI.

Lo stesso dirigente ha inoltre espresso alcune perplessità riguardo al piano della Casa Bianca di creare e mantenere un sistema di benchmarking classificato per valutare i modelli di AI avanzata. Secondo OpenAI, “questa misura potrebbe rendere poco chiaro per le aziende capire quando e in che modo i loro nuovi modelli potrebbero finire sotto il controllo dell’NSA o di altre agenzie di intelligence“.

Verso valutazioni obbligatorie per i modelli avanzati

In questo senso, OpenAI continuerà a sostenere l’introduzione di procedure di valutazione obbligatorie per le aziende che sviluppano sistemi di AI avanzati.

“Non riteniamo che una singola azienda debba prendere unilateralmente decisioni di questo tipo“, ha affermato, ribadendo la necessità di un meccanismo di verifica indipendente.

Al tempo stesso, il dirigente ha mostrato cautela nei confronti di regolamentazioni più rigide. Per esempio, l’eventuale obbligo per le aziende di ottenere un’autorizzazione governativa prima di rilasciare nuovi modelli. A suo giudizio, è ancora prematuro discutere misure di questo livello senza aver prima costruito un sistema di valutazione solido e condiviso.

“Prima bisogna completare questi passaggi iniziali“, ha ribadito Lehane. “Solo successivamente sarà possibile capire quali ulteriori strumenti normativi saranno necessari“.

Vai al sito di Cybersecurity Italia.

L'articolo OpenAI contro l’ordine esecutivo di Trump: “Valutazioni sui nuovi modelli di AI siano obbligatorie” sembra essere il primo su CyberSecurity Italia.