Un nuovo importante incidente informatico ha allarmato gli esperti di cybersicurezza.

L’AI è sempre più fuori controllo, come ha dimostrato l’ultima violazione con protagonisti tre modelli Claude di Anthropic. Due noti, Claude Opus 4.7, Claude Mythos 5 più uno sperimentale interno non ancora reso pubblico. La società con base a San Francisco ha rilevato che questi hanno hackerato i sistemi informatici di tre aziende. Il fatto è avvenuto durante una serie di testa di cybersicurezza.

Crescono le preoccupazioni tra gli esperti del settore. Solo pochi giorni fa OpenAI aveva presentato un attacco cyber “senza intervento umano” della sua tecnologia, sempre durante un test. In questo caso non si riscontra però nessuna autonomia e alla base dell’incidente ci sarebbe stato un “errore operativo“.

Sebbene i due casi abbiano origini differenti, entrambi evidenziano la portata della sfida. La necessità di controllare il comportamento di modelli di AI sempre più avanzati nel loro impiego in scenari realistici.

L’importanza dell’errore

Riguardo l’errore operativo, questo “ha concesso involontariamente ai modelli Claude l’accesso aperto a Internet durante le valutazioni di sicurezza“.

La situazione differisce da quella di OpenAI. Nel suo caso, l’agente di AI avrebbe individuato e sfruttato autonomamente una vulnerabilità sconosciuta per ottenere l’accesso alla rete. Per Anthropic, invece, “il problema è nato da un malinteso con uno dei soggetti incaricati delle valutazioni, che ha lasciato attiva la connessione a Internet“.

L’azienda, sottolinea la Reuters, ha identificato gli episodi dopo aver analizzato oltre 141mila sessioni di test. Un’indagine, quest’ultima avviata proprio in seguito alle recenti rivelazioni di OpenAI.

Tre aziende coinvolte

Durante le esercitazioni, i modelli Claude ricevevano la comunicazione di non avere accesso a Internet. In realtà, la connessione era attiva, consentendo ai sistemi di raggiungere infrastrutture reali.

Anthropic ha confermato che tre organizzazioni sono state coinvolte, senza divulgarne l’identità. Secondo il rapporto che ha redatto nel merito, “i modelli hanno compromesso le infrastrutture sfruttando tecniche relativamente semplici“. Tra queste:

• password deboli;
• Endpoint privi di autenticazione.
• credenziali facilmente accessibili.

L’azienda ha definito l’accaduto un “fallimento operativo“, sottolineando che il problema non è derivato da un comportamento intenzionale dell’AI, quanto da una configurazione errata dell’ambiente del test.

Il 23 luglio Anthropic ha sospeso tutte le valutazioni di cybersicurezza e il 27 luglio ha informato le aziende coinvolte. Due di esse non erano a conoscenza delle attività subite prima della comunicazione dell’azienda. Continuano invece i contatti con la terza. Sono inoltre cominciate delle indagini specifiche.

Ci si interroga sui limiti dei rischi

Le nuove rivelazioni arrivano mentre negli Usa aumenta l’attenzione politica sulla sicurezza dell’intelligenza artificiale. Tra necessità tecnologico-industriali e la volontà di proporre delle norme sul tema, ci si interroga sui rischi dei nuovi modelli.

Anthropic e OpenAI sono impegnate nello sviluppo di modelli sempre più potenti e si preparano a future quotazioni in borsa. Diversi analisti e dirigenti del settore hanno chiesto “un approccio più prudente allo sviluppo delle tecnologie più avanzate“.

Gli ultimi episodi dimostrano come la crescente autonomia dei modelli di AI stia trasformando anche il panorama della cybersicurezza. Sono indispensabili controlli più rigorosi sia negli ambienti di sviluppo interni sia nelle valutazioni svolte dai soggetti esterni.

Vai al sito di Cybersecurity Italia.

L'articolo AI, anche Claude di Anthropic fuori controllo. Violati i sistemi informatici di tre aziende durante un test di cybersicurezza sembra essere il primo su CyberSecurity Italia.