Anche Seoul è preoccupata di fronte agli ultimi sviluppi dell’AI con i rischi di attacchi informatici “autonomi“.

L’AI cyber è sempre meno controllabile e aumentano i rischi potenziali connessi agli attacchi informatici, così anche la Corea del Sud è dovuta intervenire, aggiornando l’AI Security Guide. L’Asia del resto un quadrante tecnologico e geo-economico di rilievo, al centro di tutte le possibili minacce per la cybersicurezza.

A sviluppare il nuovo documento sarà la Korea Internet & Security Agency (KISA), l’agenzia statale per la sicurezza informatica che opera sotto il Ministero della Scienza e dell’ICT sudcoreano. Ad un anno dalla prima edizione del documento, si rimarca dunque la necessità di un cambiamento.

L’obiettivo è quello di fornire alle aziende un quadro pratico per valutare, limitare e monitorare l’autonomia degli agenti artificiali.

Un nuovo approccio alla sicurezza degli ultimi agenti di AI

Secondo la KISA, ha spiegato la Reuters, la revisione delle linee guida si concentrerà “sui nuovi problemi di sicurezza che possono emergere quando le aziende utilizzano servizi basati su agentic AI“. Il nodo della questione è che tali sistemi non operano soltanto per rispondere alle richieste degli utenti, ma anche per pianificare ed eseguire autonomamente una serie di azioni. Ed è qui che possono verificarsi incidenti cyber “senza alcun intervento umano“.

Il recente caso dell’attacco di agenti di OpenAI contro Hugging Face è stato in tal senso un esempio chiaro della portata di simili minacce.

Il documento dovrebbe includere anche una checklist di sicurezza pensata per aiutare le organizzazioni a identificare e gestire i principali rischi associati a queste tecnologie.

L’obiettivo è quindi passare da un modello incentrato esclusivamente sulla sicurezza dei singoli modelli di AI a un approccio più ampio e sistemico. L’ottica è quella di arrivare a tenere conto di ciò che può accadere quando un sistema dispone di maggiore autonomia. Maggiore autonomia, che lo può portare a interagire con strumenti, software e infrastrutture esterne.

Più ambiti di valutazione

Le nuove indicazioni potrebbero riguardare anche la cosiddetta “physical AI”. Si tratta di quei sistemi di intelligenza artificiale in grado di interagire direttamente con dispositivi e macchinari nel mondo reale. In questo ambito, l’Agenzia potrebbe individuare misure di controllo comuni per ridurre dei rischi specifici. Quelli derivanti da sistemi che possano compiere azioni materiali senza una supervisione umana continua.

Si tratta di un tema particolarmente rilevante con la diffusione di robot, sistemi industriali autonomi e altri dispositivi connessi – come le infrastrutture idriche – che utilizzano l’intelligenza artificiale per assumere delle decisioni operative.

Migliorare la regolazione

Si rinnova dunque riflessione, sempre più ampia, sulla necessità di stabilire nuove regole e sistemi di controllo per le AI sempre più autonome. L’AI può aprire per le aziende opportunità nuove, sebbene con rischi difficili da gestire con gli strumenti di sicurezza tradizionali.

Un sistema in grado di accedere a software, utilizzare e comunicare con strumenti esterni, modificare dati o interagire con infrastrutture fisiche può infatti produrre conseguenze molto più ampie rispetto a un chatbot tradizionale.

Con l’aggiornamento dell’AI Security Guide, la Corea del Sud punta quindi a migliorare la propria cybersicurezza interna. Il tutto, supportando continuamente le aziende dal punto di vista normativo.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo Corea del Sud, aggiornate le linee guida di sicurezza sull’AI sembra essere il primo su CyberSecurity Italia.