La segnalazione è arrivata all’Agenzia Spagnola per la Protezione dei Dati (AEPD).

Anche in Spagna un agente AI avrebbe condotto un attacco cyber “in modo autonomo” in diverse fasi, riuscendo a individuare una vulnerabilità, accedere a un sistema e modificare dati personali. Lo riferisce l’Agenzia Spagnola per la Protezione dei Dati (AEPD), alla quale è giunta la segnalazione.

Secondo l’Agenzia, l’incidente ha coinvolto un agente basato “su un noto modello linguistico di grandi dimensioni“. L’impiego del sistema sarebbe servito per cercare vulnerabilità all’interno di un’applicazione. Trovato il punto debole, avrebbe successivamente ottenuto l’accesso al sistema. L’agente avrebbe quindi modificato informazioni personali e consultato dati relativi alle fatture.

Le indagini sono in corso. L’autorità non ha reso noto né il nome dell’organizzazione coinvolta né quello del modello di intelligenza artificiale impiegato.

Un attacco con intervento umano limitato

Più nel dettaglio, spiega la Reuters, l’aspetto che rende il caso particolarmente significativo è il livello di autonomia attribuito all’agente. Secondo la ricostruzione fornita dall’AEPD, un soggetto terzo avrebbe impiegato il sistema per svolgere più fasi dell’attacco. L’intervento umano sarebbe rimasto limitato.

L’episodio rappresenterebbe un ennesimo esempio concreto di come gli agenti AI possano essere utilizzati non soltanto come strumenti di supporto, ma anche per concatenare diverse operazioni all’interno di attacchi cyber.

La crescente centralità della sicurezza

Il caso arriva in un momento di crescente preoccupazione per le minacce dell’AI, vista la differente velocità tra sviluppo della tecnologia e necessità normative. La Spagna, per esempio, ha assunto una posizione particolarmente attenta alla necessità di sviluppare un’intelligenza artificiale “affidabile“, capace di proteggere privacy, libertà individuali, sicurezza pubblica.

L’AEPD invita però alla cautela nell’interpretare il singolo episodio. Un’unica violazione, sottolinea l’autorità, “non è sufficiente per dimostrare l’esistenza di una nuova tendenza generalizzata“.

Il caso, tuttavia, confermerebbe una volta di più che gli attacchi informatici assistiti dall’AI non appartengono più esclusivamente a scenari teorici. Secondo la segnalazione ricevuta dall’autorità, l’agente sarebbe stato infatti in grado di operare concretamente su un sistema contenente dati personali.

Più velocità e capacità di adattamento

Per l’AEPD, l’intelligenza artificiale non ha introdotto necessariamente nuove tipologie di minacce informatiche. Il suo impatto potrebbe però consistere nell’aumentare significativamente velocità, scala e capacità di adattamento delle tecniche già utilizzate dagli attaccanti.

Questo cambiamento riduce il tempo a disposizione delle organizzazioni per individuare un’intrusione e limitarne le conseguenze. L’autorità spagnola ha ritenuto quindi necessario che titolari e responsabili del trattamento, insieme ai responsabili della protezione dei dati, si preparino a uno scenario specifico. Quello nel quale “gli attacchi si possono eseguire sempre più rapidamente e con livelli crescenti di automazione“.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI, anche in Spagna si segnala un caso di attacco cyber “autonomo” sembra essere il primo su CyberSecurity Italia.