Jess Asato, parlamentare Laburista, ha portato Grok in tribunale chiedendo la cessazione della creazione di (sue) immagini intime senza consenso.

In Uk xAI, la società di AI di Elon Musk, va in tribunale. Ad avviare l’azione legale è stata Jess Asato, parlamentare del Partito Laburista che ha presentato un ricorso di fronte all’Alta Corte di Londra. La sua richiesta è che Grok debba cessare la produzione di immagini manipolate e intime che l’hanno ritratta senza il suo consenso.

Nella sua accusa Jess Asato ha rimarcato: “La progettazione e l’addestramento del chatbot sono avvenuti in modo tale da consentire la generazione di contenuti sessualizzati lesivi della privacy“.

Un mese fa, inoltre, Asato aveva denunciato pubblicamente che questa pratica era particolarmente diffusa, con gli utenti che avevano utilizzato Grok per creare immagini false.

La causa contro xAI

Nel ricorso, sottolinea la Reuters, Asato ha accusa xAI di “uso illecito di informazioni private, violazione della normativa sulla protezione dei dati personali“. Si aggiunga anche l’accusa contro la progettazione e l’addestramento.

L’esponente Laburista ha chiesto inoltre l’imposizione della Corte a xAI di misure tecniche efficaci e permanenti affinché Grok non possa più generare immagini manipolate che la riguardino. Secondo i suoi legali, il procedimento potrebbe creare un precedente importante, nella misura in cui per altro le autorità di Londra hanno hanno espresso i loro timori nei confronti della società di Musk.

La causa di Asato, però, porterebbe la questione ad un livello ancora superiore. Si tratterebbe infatti del “primo caso in cui le norme sulla privacy e sulla protezione dei dati vengono si applicano in questo modo nei confronti di uno sviluppatore di AI“. Al momento xAI non ha commentato, né ha ancora depositato una risposta formale alla causa.

I prompt interni di Grok

Uno degli aspetti centrali del ricorso riguarda i prompt di sistema utilizzati per guidare il comportamento del chatbot.

Secondo la documentazione presentata dagli avvocati della deputata, Grok riceverebbe istruzioni che “gli impediscono di assistere utenti impegnati in attività chiaramente criminali“. Tuttavia, gli stessi documenti sostengono che il sistema sarebbe stato configurato senza particolari restrizioni riguardo ai contenuti sessuali destinati agli adulti o ai contenuti offensivi.

Tra le istruzioni citate compare anche un passaggio secondo cui non esisterebbero limitazioni ai contenuti sessuali immaginari tra adulti, anche quando caratterizzati da temi oscuri o violenti.

Pressioni e critiche in aumento

La vicenda si inserisce in un contesto di crescente attenzione internazionale verso Grok. A gennaio xAI aveva annunciato nuove limitazioni all’editing delle immagini e il blocco della generazione di immagini di persone con alcuni tipi di abito nei Paesi in cui tali contenuti risultano illegali.

Tuttavia, verifiche successive hanno mostrato che il chatbot continuava a produrre immagini personali, indipendentemente dal consenso esplicito o meno.

La causa promossa da Jess Asato rappresenterebbe allora un passaggio significativo nella definizione delle responsabilità legali degli sviluppatori di AI. In particolare quando utenti e aziende impiegano i loro sistemi per creare contenuti sintetici lesivi della dignità e della privacy delle persone.

Vai al sito di Cybersecurity Italia.

L'articolo Uk, Jess Asato (parlamentare Laburista) porta l’AI di Musk in tribunale. L’accusa: “Chatbot addestrato per ledere la privacy” sembra essere il primo su CyberSecurity Italia.