Aumentano le preoccupazioni degli esperti in materia, dopo un altro caso di incidente cyber durante un test.

Il modello di AI Kimi K3 della società cinese Moonshot AI ha superato i limiti di un ambiente nel corso di un test di cybersicurezza, realizzato dall’UK AI Safety Institute. Dopo le “statunitensi” OpenAI, Anthropic e Meta, anche la tecnologia cinese si ritrova al centro del dibattito sulla sicurezza informatica.

Nel dettaglio, il modello sarebbe riuscito a “evadere” dalla sandbox. Si tratta di “un ambiente isolato utilizzato per impedire alla tecnologia di accedere a informazioni esterne e verificare la loro capacità di risolvere problemi esclusivamente con le risorse messe a disposizione dal test“.

Gli esperti spiegano che questi ambienti protetti rappresentano uno strumento fondamentale per valutare il comportamento dei modelli di AI in condizioni controllate. Tuttavia, nel caso di Kimi K3, “il sistema sarebbe riuscito a superare le limitazioni, ottenendo accesso a dati esterni non previsti dalla prova“.

Come l’AI supera le restrizioni

Alcuni analisti, sottolinea la Reuters, hanno evidenziato un particolare aspetto. Ossia: “Se un modello dotato di elevate capacità di ragionamento è in grado di individuare un metodo per superare tali restrizioni, anche altri sistemi simili potrebbero replicare lo stesso comportamento“.

L’episodio assume un’importanza particolare perché Kimi K3 è un modello disponibile pubblicamente. Secondo gli esperti, questa caratteristica aumenta il rischio che eventuali vulnerabilità possano essere sfruttate da soggetti malevoli.

I quali potrebbero a loro volta sviluppare tecniche di evasione o attacchi informatici più sofisticati. Al momento comunque Moonshot AI non ha rilasciato dichiarazioni ufficiali in merito all’accaduto.

Le preoccupazioni del settore

Il caso, come evidenziato, si inserisce in una serie di episodi analoghi emersi nelle ultime settimane. Questi eventi stanno alimentando il dibattito sulla sicurezza dell’AI e hanno spinto i legislatori statunitensi ad accelerare le iniziative per rafforzare le norme e gli standard di valutazione dei modelli avanzati.

Alcuni dei principali esponenti del settore sostengono inoltre che lo sviluppo dell’AI dovrebbe procedere con maggiore cautela. In questo senso, attraverso l’inserimento di sistemi di protezione più robusti prima del rilascio di tecnologie sempre più potenti.

Vai al sito di Cybersecurity Italia.

L'articolo Cybersicurezza, Kimi K3 della cinese Moonshot AI supera le restrizioni di un ambiente di test sembra essere il primo su CyberSecurity Italia.