È quanto emerge dall’ultimo rapporto di Threat Intelligence pubblicato dalla società. In amento il livello di rischio legato agli sviluppi dell’AI in ambito militare.

Anthropic ha bloccato l’uso di Claude, dopo aver scoperto che il suo modello di AI aveva trovato impiego nel possibile sviluppo di armi biologhe. Claude, inoltre, sarebbe stato usato anche “per una presunta russa campagna di cyberspionaggio contro l’Ucraina“. È quanto emerge dall’ultimo rapporto di Threat Intelligence pubblicato dalla società.

Del resto, per la società, da tempo esiste il rischio che i modelli di intelligenza artificiale raggiungano un livello di capacità tale da poter essere utilizzati per rendere più pericolosi agenti patogeni già esistenti o contribuire alla creazione di nuovi agenti biologici. Anthropic ha inoltre denunciato tentativi da parte di operatori cinesi di sfruttare Claude per sottrarre informazioni sulle capacità dei suoi modelli e utilizzarle per migliorare sistemi di intelligenza artificiale concorrenti.

Il rapporto ha analizzato diversi episodi di impiego malevolo della tecnologia negli ultimi otto mesi. Il tutto, in un momento in cui aumentano le preoccupazioni sui rischi associati allo sviluppo sempre più rapido dell’intelligenza artificiale.

Dall’AI alle armi biologiche

Nel rapporto, sottolinea la Reuters, l’azienda documenta cinque casi in cui analisti avrebbero utilizzato i suoi modelli in attività potenzialmente utili allo sviluppo di armi biologiche.

In uno degli episodi, un soggetto operante in una regione non supportata ufficialmente da Anthropic (tra queste aree ci sono la Russia, la Cina e la Corea del Nord) avrebbe utilizzato un’infrastruttura di server privati virtuali per accedere a Claude. Per diverse settimane avrebbe sfruttato il modello per pianificare esperimenti finalizzati all’adattamento dell’influenza aviaria ai mammiferi.

Dopo aver individuato l’attività, Anthropic ha dichiarato di aver sospeso i profili coinvolti. Ha inoltre spiegato di aver integrato le informazioni raccolte nei propri sistemi di sicurezza, nei meccanismi di controllo dei modelli più avanzati e nei processi di threat intelligence. La società non ha però fornito informazioni sulle istituzioni coinvolte. Né ha fornito ulteriori dettagli sui Paesi in cui operavano, sugli specifici agenti biologici o sulle tecniche di analisi utilizzate.

Sempre dal punto di vista delle minacce cinetiche, il rapporto individua anche quelle che Anthropic definisce “nuove categorie di attori delle minacce” che avrebbero utilizzato Claude per attività militari.

Tra queste rientrerebbe lo sviluppo di software destinato ad armamenti convenzionali, tra cui armi da fuoco, missili, droni armati e bombe, oltre ai sistemi informatici utilizzati per il loro controllo e per l’acquisizione degli obiettivi.

“Presunti hacker criminali russi hanno utilizzato l’AI contro obiettivi ucraini“

Uno degli aspetti più rilevanti del rapporto riguarda l’impiego dell’intelligenza artificiale nelle operazioni di cyberattacco, perno della guerra ibrida. Anthropic ha spiegato di aver osservato un aumento dell’utilizzo dell’AI da parte di criminali informatici e gruppi sostenuti da Governi. In questo caso, per organizzare ed eseguire ampie porzioni di campagne di hacking.

In molti casi, gli esseri umani non svolgerebbero più direttamente tutte le operazioni, ma assumerebbero soprattutto un ruolo di supervisione. “L’uso dell’AI è andato oltre le semplici domande e risposte con un chatbot”, sostiene Anthropic. Inoltre ha descritto l’impiego di sistemi basati su framework multi-agente, nei quali diversi agenti artificiali collaborano per portare avanti compiti complessi.

Secondo l’azienda, un gruppo di hacker criminali russi avrebbe colpito direttamente obiettivi ucraini. Nello specifico, avrebbe utilizzato Claude per condurre operazioni di phishing, compromettere reti Wi-Fi di hotel e prendere il controllo di profili WhatsApp appartenenti a persone legate al Governo, alle forze armate e agli ambienti diplomatici ucraini.

Le tecniche utilizzate dal gruppo, secondo Anthropic, sarebbero compatibili con quelle attribuite a Midnight Blizzard, un attore informatico con base in Russia. Il Governo statunitense lo avrebbe precedentemente ricollegato al servizio di intelligence estera russo SVR.

Un modo per oscurare i malware

Particolarmente significativo è il presunto utilizzo dell’AI per rendere più difficile il rilevamento dei malware. Gli hacker avrebbero creato un sistema capace di individuare automaticamente quando c’era il riconoscimento del proprio software malevolo da parte dei sistemi di sicurezza. Per poi, successivamente, riscrivere il codice fino a riuscire a eludere i controlli.

Anthropic ha inoltre dichiarato di aver individuato e bloccato attività riconducibili ad affiliati del collettivo ShinyHunters. Si tratta di uno dei gruppi di cybercriminalità più attivi, che avrebbe completato attacchi contro grandi aziende in diversi Paesi.

Il rapporto di Anthropic ha sottolineato così un paradosso sempre più evidente. “Più potenti diventano i modelli di intelligenza artificiale, maggiore diventa il loro potenziale per applicazioni utili, ma anche per attività criminali, militari e destabilizzanti“.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo AI militare, Anthropic blocca Claude per il suo possibile impiego nello sviluppo di armi biologiche sembra essere il primo su CyberSecurity Italia.