L’AI Security Institute ha valutato il nuovo modello di AI di OpenAI.

OpenAI ha rilasciato GPT-6 Astra, modello di AI dalle grandi potenzialità, già valutato dal ministro Uk per l’AI Kanishka Narayan. La stessa azienda ha definito il modello come il primo raggiungere la soglia cibernetica definita “Critica”.

Tutto il sistema è stato sottoposto anche a test indipendenti da parte della britannica AI Security Institute (AISI), che ha valutato non soltanto le sue capacità informatiche, ma anche la possibilità di monitorarne il comportamento.

Il ruolo dell’AISI è proprio quello di fornire al Governo britannico valutazioni indipendenti sui sistemi di AI più avanzati, offrendo evidenze utili a comprendere i rischi connessi allo sviluppo di queste tecnologie e contribuire alla sicurezza pubblica.

Capacità cibernetiche sempre più avanzate

Secondo OpenAI, una volta raggiunta la soglia “Critica”, Astra sarebbe in grado, utilizzando gli strumenti appropriati, di individuare vulnerabilità precedentemente sconosciuto. Svilupperebbe poi anche exploit contro sistemi protetti con un livello relativamente limitato di supervisione umana.

Si tratta di capacità che presentano una doppia natura. Da un lato, se utilizzate responsabilmente, potrebbero diventare uno strumento importante per la sicurezza informatica. Un sistema di AI potrebbe aiutare esperti e analisti a identificare più rapidamente le vulnerabilità e consentire ai difensori di intervenire prima che queste vengano sfruttate.

Dall’altro lato, le stesse capacità potrebbero essere utilizzate in modo improprio contro sistemi informatici reali. È proprio per questo che l’accesso alle funzionalità cibernetiche più avanzate di Astra ha ricevuto delle limitazioni e che OpenAI ha rafforzato le relative misure di sicurezza.

Il problema della monitorabilità

Uno degli aspetti più delicati emersi dai test dell’AISI, come ha rimarcato Narayan, riguarda però la monitorabilità del modello. L’AISI ha inoltre osservato che il ragionamento grezzo prodotto da Astra appare più compresso e, in alcuni casi, più difficile da interpretare.

Il risultato è particolarmente rilevante perché la possibilità di osservare e comprendere il comportamento di un modello rappresenta uno degli strumenti attraverso cui sviluppatori e ricercatori possono identificare comportamenti indesiderati.

Le osservazioni dell’AISI sono inoltre coerenti con alcune conclusioni interne di OpenAI. Astra, in determinate circostanze, sarebbe riuscito a eludere sistemi di monitoraggio basati esclusivamente sull’analisi del ragionamento prodotto dal modello. Serve perciò la massima cautela, oltreché un monitoraggio di più lungo periodo.

OpenAI rafforza le salvaguardie

In risposta ai rischi associati alle nuove capacità, OpenAI ha limitato l’accesso alle funzionalità cibernetiche più avanzate di Astra e ha rafforzato le proprie salvaguardie.

L’AISI, dal canto suo, continuerà a sottoporre a test sistemi di questo tipo e a monitorare l’evoluzione delle loro capacità. L’obiettivo è fornire alle istituzioni pubbliche valutazioni indipendenti e basate su evidenze concrete.

Il caso Astra ha messo così in evidenza una delle sfide più importanti della prossima generazione di intelligenza artificiale. In effetti, non si tratta soltanto di capire quanto un modello sia potente, ma anche di stabilire quanto sia possibile vedere, interpretare e controllare ciò che è in grado di fare.

Seguici anche sul nostro canale WhatsApp

Vai al sito di Cybersecurity Italia.

L'articolo Astra di OpenAI promosso dal ministro Uk per l’AI sembra essere il primo su CyberSecurity Italia.