La California vuole accelerare la supervisione indipendente dei sistemi di intelligenza artificiale più avanzati e valutare requisiti per un meccanismo di arresto d'emergenza dei modelli di frontiera. L'ordine esecutivo firmato dal governatore Gavin Newsom il 18 settembre affida alle agenzie statali il compito di anticipare l'attuazione delle nuove norme e formulare proposte entro due mesi.

Auditor esterni nei laboratori

Il provvedimento si collega a due leggi approvate nel 2026. La SB 813 istituisce un quadro per certificare organizzazioni indipendenti capaci di valutare sicurezza e rischi dei sistemi IA; la AB 1405 crea un registro statale degli auditor e definisce criteri di indipendenza, trasparenza e integrità.

Tra le opzioni da esaminare figurano la presenza di verificatori indipendenti nei laboratori delle aziende, la convalida esterna dei piani di sicurezza e dei rapporti sui rischi, e controlli periodici sull'efficacia delle misure adottate. L'ordine non rende automaticamente obbligatorie tutte queste proposte: avvia un processo tecnico e normativo per stabilire come tradurle in requisiti applicabili.

Che cosa significa “kill switch”

Il cosiddetto interruttore di emergenza dovrebbe consentire di sospendere un modello in caso di perdita di controllo o di incidente grave. La sua efficacia dipende però dall'architettura tecnica, dalla distribuzione delle copie, dall'accesso ai pesi del modello e dalla capacità di intervenire sui servizi collegati. Per questo la California ipotizza che anche il meccanismo di arresto sia sottoposto a verifica indipendente continuativa.

Il percorso californiano punta a integrare trasparenza, segnalazione degli incidenti e valutazioni esterne. Restano aperte questioni rilevanti: criteri per definire i modelli coperti, tutela delle informazioni riservate, responsabilità degli auditor e coordinamento con le regole federali e degli altri Stati.