Il dibattito sui limiti di sicurezza dei nuovi modelli di AI è sempre più complesso.

Meta ha comunicato che uno dei suoi modelli di AI è riuscito a compromettere i sistemi di un’altra azienda nel corso di un test di cybersicurezza. Si riaccende, dunque, il dibattito sulla capacità degli sviluppatori di mantenere sotto controllo questi sistemi sempre più sofisticati. L’episodio si aggiunge ai casi analoghi che hanno coinvolto anche Anthropic e OpenAI.

Alla base della violazione di Meta, comunque, ci sarebbe stato un errore di configurazione, così come per Anthropic. Nessun attacco “senza intervento umano“, a differenza di OpenAI.

Aumentano le preoccupazioni, che potrebbero portare i Governi, soprattutto quello statunitense, a rafforzare le misure di sicurezza per queste iniziative. Crescono anche colori i quali sostengono che il ritmo dello sviluppo dovrebbe rallentare fino all’introduzione di garanzie più efficaci.

“Errore di configurazione“

Secondo quanto ha riportato la Reuters, l’incidente cyber si sarebbe verificato durante un test condotto da Irregular, società indipendente specializzata nelle valutazioni di cybersicurezza. A causa di una configurazione errata dell’ambiente di prova, uno dei modelli dell’azienda ha ottenuto accidentalmente l’accesso a Internet.

In una nota ufficiale, Meta ha affermato che il modello “ha sfruttato una vulnerabilità di sicurezza presente in un servizio di terze parti“. E “con modalità analoghe a quelle già osservate in episodi simili che hanno coinvolto altre aziende“.

Il modello coinvolto sarebbe Muse Spark 1.1. Si tratta del modello che la stessa azienda ha presentato come il proprio sistema più avanzato per attività di programmazione nel mondo reale e per l’esecuzione autonoma di compiti complessi (agentic tasks). La tecnologia sarebbe riuscita a violare i sistemi di un’azienda non identificata, modificandone l’ambiente operativo interno.

Il caso già oggetto di analisi

Un portavoce di Irregular ha dichiarato, sempre alla Reuters, che l’accaduto è riconducibile allo stesso identico problema relativo all’ambiente di valutazione già reso noto da Anthropic la scorsa settimana. Inoltre, ha precisato che non si è trattato né di una fuga dalla sandbox, né di un sofisticato attacco informatico.

Ha poi aggiunto: “Non risultano problemi aperti al momento. Irregular sta preparando un rapporto nel quale illustrerà le migliori pratiche per il contenimento dei modelli di AI e per lo svolgimento sicuro delle valutazioni di cybersicurezza“.

Vai al sito di Cybersecurity Italia.

L'articolo Cybersicurezza, anche Meta conferma una violazione di un suo modello AI durante un test sembra essere il primo su CyberSecurity Italia.