L’AI generativa e gli agenti autonomi stanno entrando in imprese e PA più velocemente delle regole che dovrebbero governarli. Il rischio non riguarda solo i modelli, ma soprattutto chi può accedere ai sistemi, con quali permessi, quali dati può utilizzare e quanto rapidamente un’organizzazione è in grado di reagire e ripartire dopo un incidente.

Nel dibattito sull’utilizzo e le potenzialità dell’Intelligenza artificiale, è utile inserire un elemento ulteriore: la sua capacità di spostare il perimetro della sicurezza su identità e dati. AI generativa e agenti autonomi entrano in imprese e PA più velocemente delle regole per governarli, e dunque le organizzazioni devono essere pronte per risolvere problemi non ancora regolamentati ma evidenti.

Immaginiamo tre scene da un martedì qualunque. Un commerciale deve chiudere una gara e copia prezzi, margini e condizioni del cliente in un chatbot pubblico, usando il proprio account. Il risultato è buono, ma quei dati finiscono su un servizio che l’azienda non ha mai valutato, attraverso un’identità che non controlla.

L’AI allarga il perimetro della sicurezza

Nello stesso momento, l’IT mette in produzione un agente AI che legge le richieste dei clienti, interroga il CRM e aggiorna gli ordini via API. Funziona, e nessuno si chiede con quali credenziali operi: spesso è un account tecnico creato in fretta, con privilegi elevati e una chiave mai cambiata. Basta una mail costruita ad arte, con istruzioni nascoste nel testo perché l’agente esegua un’azione non autorizzata. Qualche giorno dopo, un ransomware cifra i server e anche i backup raggiungibili dalla rete. La mattina dopo, l’azienda scopre che i sistemi sono bloccati e deve capire quanto tempo servirà per ripristinarli e quanti dati potrà recuperare.

Le scene sono inventate, i numeri no. Secondo IBM, il 20% delle organizzazioni colpite ha attribuito la violazione a strumenti di AI usati senza autorizzazione, con un costo aggiuntivo medio di 670.000 dollari. Il 63% non aveva una policy di governo dell’AI e, tra chi aveva subito incidenti su modelli o applicazioni AI, il 97% non disponeva di controlli di accesso adeguati. In Italia il quadro non è più rassicurante: il Rapporto Clusit 2026 conta 507 incidenti gravi nel 2025, il 42% in più rispetto al 2024. Proteggere questo nuovo perimetro richiede di integrare governance dell’AI, gestione degli accessi, sicurezza dei dati, monitoraggio e capacità di ripristino.

Identità non umane: chi controlla chi agisce?

La domanda che conta è: chi controlla chi agisce? Le tre scene hanno una radice comune: dietro ogni azione c’è un’identità e in mezzo c’è sempre un dato. Oggi però molte identità non sono persone, ma account di servizio, chiavi API, token e certificati con cui software, servizi e agenti AI accedono ai sistemi. Secondo CyberArk, nel 2025 erano già oltre 80 volte più numerose delle identità umane, mentre con l’AI agentica il fenomeno è destinato ad accelerare: Gartner prevede che entro il 2028 un terzo delle applicazioni aziendali includerà funzionalità agentiche. Un dipendente viene assunto, autorizzato e poi disattivato quando se ne va; un agente AI spesso salta questi passaggi: può non avere un responsabile chiaro, accumulare permessi, non scadere mai né essere sottoposto a revisioni.

Per questo il perimetro della sicurezza non coincide più con la rete, ma con chi può fare cosa, su quali dati e con quale capacità di dimostrarlo. Eppure in molte organizzazioni identità, dati, backup e monitoraggio restano gestiti separatamente, lasciando scoperto il quadro d’insieme. A questo si aggiunge la normativa. Il D.Lgs. 138/2024, che recepisce la NIS2, attribuisce agli organi di amministrazione e direzione la responsabilità delle misure di gestione del rischio, dal controllo degli accessi ai backup e alla continuità operativa. L’AI Act e la legge italiana sull’intelligenza artificiale aggiungono obblighi di governo e trasparenza. La sicurezza dell’AI  non è più solo un tema tecnico, ma una responsabilità del vertice.

L’ideale sarebbe poter contare su modello integrato in quattro pilastri

1. Governare l’AI: prima vedere, poi decidere

Non si governa ciò che non si vede. Il primo passo è mappare l’uso reale dell’AI, con una classificazione dei casi d’uso per rischio, in linea con l’AI Act. Vietare senza offrire alternative spinge semplicemente il problema più in profondità.

2. Identità e accessi: ogni agente è un utente

Ogni identità non umana va censita e deve avere un responsabile, uno scopo e una scadenza. Vale il principio del least privilege: solo i permessi necessari, per il tempo necessario, con la possibilità di bloccare rapidamente un agente che si comporta in modo anomalo.

3. Dati e connessioni: proteggere ciò che l’AI tocca

L’AI ha valore perché accede ai dati, e per questo rappresenta un rischio. Servono classificazione delle informazioni, controlli sui dati sensibili, cifratura e protezione delle API, delle integrazioni e dei connettori usati dagli agenti. I compiti e gli accessi vanno filtrati secondo il principio zero trust: nessuna fiducia implicita.

4. Vedere, rispondere, ripartire

Ogni azione deve lasciare una traccia leggibile. Quando la prevenzione fallisce, conta la resilienza: backup immutabili e isolati, procedure di ripristino testate e obiettivi chiari su tempi di fermo (RTO) e perdita di dati (RPO).

Dalla prevenzione alla resilienza operativa

Le tecnologie esistono e sono mature; la difficoltà è integrarle e mantenerle efficaci mentre organizzazioni e agenti cambiano. È su questo che lavora la BU Cyber Security di Sielte, al fianco di imprese e PA: si parte da un assessment sull’uso dell’AI e sui rischi connessi, che definisce priorità e roadmap, per arrivare a una progettazione integrata di identità, dati, rete, applicazioni e continuità operativa. Sielte integra le soluzioni dei propri partner e, attraverso il GLOC, che riunisce SOC e NOC, assicura monitoraggio continuo, risposta coordinata agli incidenti e test di ripristino, con un unico interlocutore dall’architettura all’esercizio.

L’AI fa risparmiare tempo e nessuno vuole rinunciarci. Ma lo stesso agente che oggi sbriga una pratica in un minuto, domani può aprire una porta che nessuno sapeva di avere. A fare la differenza non sarà chi adotta più AI, ma chi sa quali strumenti usa, chi vi accede, cosa possono fare e quanto in fretta può ripartire dopo un incidente. Il test è semplice: sappiamo davvero quali AI e agenti operano nei nostri sistemi, con quali permessi e lasciando quali tracce? E quanto ci metteremmo a ripristinare un servizio critico? Se per rispondere servono più di pochi secondi, è da lì che conviene partire. Perché il prossimo martedì qualunque potrebbe essere già cominciato.

Vai al sito di Cybersecurity Italia.

L'articolo AI e cybersecurity: il nuovo perimetro della sicurezza passa da identità, dati e agenti sembra essere il primo su CyberSecurity Italia.