Bastano poche parole per hackerare la nuova versione di Google Translate, che impiega l’AI Gemini. Lo studio.

L’ultima versione di Google Translate, che impiega Gemini, nasconde funzioni non attinenti alla traduzione. Una vulnerabilità che può celare la formulazioni di attività illecite o illegali. Secondo alcuni analisti cyber, “gli utenti possono bypassare la funzione di traduzione incorporando istruzioni in linguaggio naturale comunicanti direttamente con il modello linguistico sottostante“.

A scoprire per primo “il trucco” è stato scoperto un utente di Tumblr (tramite LessWrong). Bastava inserire una domanda in una lingua straniera come il cinese, per poi aggiungere una meta-istruzione in inglese sotto di essa. Invece di tradurre il testo, Google Translate risponde alla domanda.

Non si tratta però di un semplice passatempo. È infatti emersa la possibilità ci siano “jailbreakers in grado di ottenere istruzioni su attività pericolose, incluse tecniche di produzione di sostanze illegali o malware“.

Una piattaforma in aggiornamento

Google ha sostituito Google Translate con i modelli Gemini nel dicembre 2025. Il modello esatto che alimenta il servizio non è di dominio pubblico. Sebbene il sistema auto-dichiari di utilizzare Gemini 1.5 Pro, diversi analisti cyber hanno sottolineato che “non si tratta di un’informazione attendibile“.

Tale vulnerabilità, in particolare per via del suo impiego, ha evidenziato un problema noto tra gli studiosi. Anche le grandi aziende tecnologiche, in effetti, non dispongono ancora di difese affidabili contro gli attacchi in linguaggio naturale.

Le sfide per Gemini

La capacità di affrontare questo problema, sia in termini di prevenzione che di risposta, costituisce una delle sfide fondamentali che i modelli linguistici devono affrontare oggi in materia di sicurezza.

Si consideri, inoltre, che in passato alcuni criminali informatici hanno usato Gemini per ricerche su organizzazioni della Difesa. Nonché, per creare contenuti destinati a campagne di phishing in tante lingue diverse. Non di rado, hacker criminali e attivisti cyber sfruttano le vulnerabilità dei modelli LLM open source per condurre operazioni illegali, sfruttando i limiti dell’AI.

Gli esperti di sicurezza informatica di Google hanno poi sottolineato che lo scorso anno decine di gruppi di hacker criminali, in oltre venti Paesi, hanno utilizzato il chatbot Gemini di Google con altri scopi. Tra le altre attività, il generare codici dannosi, individuare vulnerabilità informatiche note e raccogliere informazioni su potenziali bersagli.

Vai al sito di Cybersecurity Italia.

L'articolo Gemini, come i cyber criminali possono usare il nuovo Google Translate per commettere reati sembra essere il primo su CyberSecurity Italia.