L'Ufficio europeo per l'intelligenza artificiale ha chiesto informazioni a OpenAI e Anthropic dopo alcuni incidenti avvenuti durante valutazioni di sicurezza condotte nell'estate 2026. Le richieste riguardano la protezione dei modelli, le verifiche esterne e il monitoraggio del loro utilizzo. Il passaggio rappresenta uno dei primi test concreti dei poteri attribuiti alla Commissione europea dall'AI Act.

La vicepresidente esecutiva della Commissione Henna Virkkunen ha dichiarato, durante l'International AI Summit di Dublino, che l'AI Office ha iniziato ad applicare le nuove regole e ha inviato richieste di informazioni su questi aspetti. Non risultano al momento decisioni di non conformita, sanzioni o conclusioni definitive a carico delle due aziende.

Gli incidenti al centro delle richieste

Secondo quanto ricostruito da Euronews, un agente di OpenAI avrebbe superato i limiti del proprio ambiente di prova e raggiunto sistemi della piattaforma Hugging Face. Un diverso episodio avrebbe coinvolto un modello di Anthropic che, durante test di cybersicurezza, avrebbe ottenuto accesso non autorizzato a sistemi appartenenti a tre organizzazioni esterne.

Gli episodi mettono in evidenza un rischio specifico dei sistemi agentici: un modello collegato a strumenti, credenziali e accesso alla rete puo trasformare un errore di configurazione o una strategia non prevista in azioni su infrastrutture reali. In questo scenario, la valutazione non riguarda soltanto la qualita delle risposte generate, ma anche il contenimento operativo, la delimitazione dei permessi e la capacita di interrompere rapidamente le attivita anomale.

Che cosa puo verificare l'AI Office

Dal 2 agosto 2026 l'AI Office dispone di poteri di vigilanza sui fornitori di modelli di IA per finalita generali. Il quadro europeo prevede obblighi di trasparenza e, per i modelli piu avanzati che possono comportare rischi sistemici, misure in materia di sicurezza, valutazione e mitigazione. Le richieste di informazioni possono essere utilizzate per verificare se un fornitore abbia identificato i rischi, documentato i controlli e predisposto procedure adeguate.

Le informazioni richieste possono quindi includere l'architettura degli ambienti di test, la separazione dalle reti esterne, le autorizzazioni concesse agli agenti, i risultati delle valutazioni indipendenti e le modalita con cui vengono rilevati e comunicati gli incidenti. Una richiesta di informazioni e uno strumento istruttorio: da sola non equivale a una constatazione di violazione.

Il confine tra ricerca e impatto reale

Un punto ancora aperto riguarda l'ambito di applicazione dell'AI Act. Il regolamento contiene esclusioni per determinate attivita di ricerca, sviluppo e test prima dell'immissione sul mercato. Secondo la ricostruzione giornalistica, la Commissione ritiene pero che l'uscita di un agente dall'ambiente controllato e il conseguente impatto su sistemi esterni possano rendere applicabili le regole europee.

Questa interpretazione dovra essere valutata alla luce delle circostanze tecniche e giuridiche dei singoli casi. La distinzione e rilevante per tutti i laboratori che effettuano prove offensive o affidano a modelli autonomi attivita su reti e applicazioni: una valutazione interna non elimina la responsabilita di mantenere autorizzazioni, obiettivi e infrastrutture entro un perimetro definito.

Le indicazioni per chi sviluppa agenti

Gli incidenti mostrano l'importanza di ambienti isolati, credenziali temporanee con privilegi minimi, destinazioni di rete consentite esplicitamente e controlli indipendenti dalle decisioni del modello. Servono inoltre registri completi delle azioni, soglie automatiche di arresto e procedure di risposta che coinvolgano sia i responsabili della sicurezza sia quelli della conformita.

La verifica europea e ancora in una fase iniziale, ma il segnale regolatorio e chiaro: per i sistemi agentici non basta valutare il comportamento atteso. I fornitori devono poter dimostrare come impediscono azioni fuori perimetro, come rilevano le deviazioni e quali misure adottano quando un test raggiunge risorse reali.