Un altro caso di accesso senza autorizzazione di un agente AI, questa volta verso un’infrastruttura connessa ad un portale di carattere governativo. Si tratterebbe in questo senso praticamente di una novità.

“Un agente AI di OpenAI è acceduto, senza autorizzazione al portale delle statistiche sanitarie di Medicare“, la denuncia di Anthony Albanese, Primo Ministro dell’Australia. L’episodio sarebbe avvenuto a giugno e potrebbe rappresentare uno dei primi casi noti di un agente di intelligenza artificiale che viola un sito governativo.

Secondo la Reuters, l’episodio sarebbe accaduto nel frangente in cui l’agente era impegnato in attività di analisi sulla spesa sanitaria pubblica.

Da New York, dove si trova per l’Assemblea generale delle Nazioni Unite, Albanese ha definito l’incidente “ovviamente inaccettabile“. Ha comunque precisato che al momento non vi sono ulteriori elementi per valutare l’estensione dell’eventuale compromissione di rete.

“Profondamente delusi dal ritardo nella comunicazione“

Oltre alle indagini delle autorità australiane, Canberra ha rivolto una comunicazione a Sam Altman, Amministratore delegato di OpenAI, rimarcando la propria “estrema preoccupazione” per l’incidente. Albanese ha criticato in particolare il ritardo con cui il Governo sarebbe stato informato. La prima comunicazione ufficiale sarebbe arrivata soltanto il 10 settembre, praticamente tre mesi dopo il fatto.

L’inchiesta, spiega sempre la Reuters, dovrà inoltre stabilire perché i sistemi di sicurezza governativi non siano riusciti a rilevare tempestivamente l’attività dell’agente AI.

OpenAI si difende

Già al centro di vicende simili negli ultimi mesi e al centro dei dibattiti di cybersicurezza, OpenAI ha dichiarato di aver condotto una propria verifica dell’accaduto. E ha spiegato: “La nostra revisione non ha trovato alcuna prova che ci sia stata la consultazione delle cartelle cliniche dei pazienti“.

L’azienda ha inoltre sottolineato di aver individuato attività che coinvolgevano diversi siti e servizi del Governo australiano. Secondo la società, i modelli stavano cercando di ottenere risposte attraverso quei sistemi. Tuttavia, “nel corso dell’attività hanno intrapreso azioni che non avevamo previsto“.

L’esecutivo di Canberra ha istituito una task force in materia. Il suo compito sarà quello di esaminare l’incidente e verificare se le attuali misure di sicurezza delle reti pubbliche siano sufficienti a prevenire episodi analoghi.

Il contrasto all’AI

Il ministro della Difesa australiano Richard Marles ha ribadito che il portale violato non conteneva dati individuali relativi alle richieste di rimborso sanitario. Né sui pagamenti delle prestazioni, le coordinate bancarie personali o le cartelle cliniche dei circa 27 milioni di cittadini australiani. Al contrario, il portale conteneva invece dati aggregati “sull’utilizzo dei servizi sanitari a livello nazionale“.

Nonostante l’assenza, finora, di indicazioni sull’accesso a informazioni mediche personali, il Governo ha qualificato l’accaduto come “grave“. Ci sono infatti evidenti implicazioni per la Sicurezza Nazionale.

Per Albanese i sistemi di sicurezza avrebbero posto alcuni blocchi all’attività dell’agente. “C’erano chiaramente dei blocchi che fungevano da barriera per l’agente. Il quale, però, ha trovato un modo per aggirarli“, ha commentato il Primo Ministro.

Un momento delicato anche per i complessi rapporti tra Australia e Usa

La vicenda sta aumentando le tensioni – già presenti – tra il Governo australiano e le grandi società tecnologiche statunitensi. Canberra ha infatti già attirato critiche da parte delle piattaforme e dell’Amministrazione Usa dopo l’introduzione di un divieto, presentato come “il primo al mondo” per l’utilizzo dei social media da parte dei minori di 16 anni.

Il Governo australiano ha inoltre introdotto nuove regole che obbligano le società tecnologiche a consentire agli utenti di disattivare i contenuti selezionati dagli algoritmi nei propri feed.

Per altro, l’incidente informatico è stato reso noto nello stesso giorno in cui alcune delle principali aziende mondiali di AI hanno avvertito il Consiglio di Sicurezza dell‘ONU dei rischi che la tecnologia potrebbe comportare per l’umanità. Tanto che poi chiesto ai Governi una maggiore cooperazione nella gestione di sistemi AI sempre più potenti.

Per l’Australia, dunque, il caso pone una questione che va oltre la sicurezza dei dati sanitari. L’interrogativo di fondo è infatti su quanto livello di controllo sia possibile pretendere e mantenere da parte dei Governi sulla tecnologia. Un tema complesso, amplificato nel momento in cui l’AI opera direttamente su infrastrutture e servizi digitali, senza nessuna autorizzazione.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI, l’Australia denuncia: “Agente di OpenAI ha avuto l’accesso senza autorizzazione al portale delle statistiche sanitarie Medicare” sembra essere il primo su CyberSecurity Italia.