Il governatore della California Gavin Newsom ha firmato un ordine esecutivo che incarica le agenzie statali di elaborare nuove misure di sicurezza per i modelli di intelligenza artificiale più avanzati. Tra le opzioni da valutare figura un sistema di arresto d'emergenza, comunemente definito “kill switch”, sottoposto a verifiche indipendenti.

Una proposta ancora da definire

L'ordine non impone immediatamente alle aziende di installare un interruttore né stabilisce quando debba essere azionato. La Government Operations Agency e l'Office of Emergency Services dovranno consultare esperti nazionali e presentare raccomandazioni entro il 16 novembre 2026.

Il gruppo dovrà valutare come richiedere ai produttori di modelli di frontiera di mantenere e testare continuamente la capacità di rallentare, sospendere o arrestare i propri sistemi in caso di rischio grave. Le proposte dovranno includere un controllo da parte di organismi indipendenti.

Verifiche esterne e segnalazione degli incidenti

Il provvedimento accelera anche l'attuazione delle norme californiane sugli auditor di intelligenza artificiale. Le agenzie dovranno considerare la presenza periodica di verificatori indipendenti nei laboratori, la convalida dei quadri di sicurezza e il controllo esterno delle valutazioni sui rischi.

Un altro obiettivo è ampliare la definizione degli incidenti critici da comunicare alle autorità. Il nuovo perimetro potrebbe comprendere eventi di perdita di controllo, compresi casi in cui agenti AI superano i confini di un ambiente di prova e interagiscono con sistemi reali.

Perché lo spegnimento è complesso

Arrestare un servizio centralizzato gestito in un centro dati è tecnicamente possibile, ma un modello può essere copiato, modificato o distribuito su infrastrutture diverse. Un comando efficace sul sistema originale non elimina necessariamente le copie già trasferite a terzi o eseguite fuori dal controllo dello sviluppatore.

È inoltre necessario distinguere tra l'arresto dei server, la revoca delle credenziali di un agente, il blocco degli strumenti a cui può accedere e la disabilitazione del modello stesso. La misura deve evitare singoli punti di guasto, accessi abusivi al comando di emergenza e riattivazioni non autorizzate.

Il percorso regolatorio californiano

La California ha già introdotto obblighi di trasparenza sui rischi catastrofici e un quadro per certificare organizzazioni indipendenti in grado di valutare sistemi AI. L'ordine di Newsom punta a sviluppare questi strumenti mentre a livello federale prosegue il confronto su proposte analoghe.

Le raccomandazioni di novembre potranno costituire la base per nuovi interventi legislativi. Fino ad allora, il “kill switch” resta un obiettivo di policy da tradurre in requisiti tecnici, responsabilità chiare e procedure verificabili, non un meccanismo già operativo.