La piattaforma ha comunicato agli utenti un incidente di sicurezza informatica provocato da soggetti esterni non ancora identificati. Tra i dati potenzialmente coinvolti nome, email, password memorizzate sotto forma di hash e conversazioni con il modello. Prevista la notifica al Garante Privacy e una denuncia alle autorità.
Incidente di sicurezza informatica per ChatMinerva, modello AI sviluppato dall’Università La Sapienza di Roma. La piattaforma ha informato gli utenti di aver rilevato un accesso non autorizzato ai propri sistemi da parte di soggetti esterni al momento non identificati.
Secondo la comunicazione inviata agli iscritti, un soggetto esterno sarebbe riuscito “dolosamente ad accedere alla piattaforma con privilegi amministrativi”, ottenendo così accesso ai database contenenti le informazioni degli utenti.
La società afferma di aver individuato l’incidente a seguito di alcune verifiche e di essere successivamente intervenuta per bloccare l’anomalia, mettere in sicurezza i sistemi e rafforzare i controlli.
Coinvolte anche le conversazioni con il modello
ChatMinerva indica innanzitutto dati anagrafici e identificativi come nome e cognome e, quando inseriti dagli utenti, data di nascita, sesso, immagine del profilo e biografia. Tra le informazioni potenzialmente accessibili figurano anche gli indirizzi email e, soprattutto, le conversazioni effettuate dagli utenti con il modello.
Un elemento particolarmente delicato, perché il contenuto delle chat può includere informazioni inserite direttamente dagli utenti durante l’utilizzo del servizio. Potrebbero essere state interessate anche le password, che ChatMinerva precisa di conservare esclusivamente sotto forma di hash sicuro e quindi non in chiaro.
La piattaforma invita comunque tutti gli utenti coinvolti a reimpostare la password del proprio account e, nel caso in cui la stessa credenziale sia stata utilizzata anche su altri servizi, a modificarla anche su questi ultimi.
Notifica al Garante Privacy e denuncia
ChatMinerva ha inoltre annunciato che notificherà l’incidente all’Autorità Garante per la Protezione dei Dati Personali. La società ritiene inoltre che la condotta possa presentare caratteristiche riconducibili a un reato e ha comunicato l’intenzione di presentare denuncia alle autorità competenti.
Al momento, nella comunicazione inviata agli utenti non vengono specificati il numero complessivo di account coinvolti, la data esatta dell’accesso abusivo, la durata dell’intrusione o se i dati siano stati effettivamente sottratti oltre che consultati.
Il rischio di phishing
La piattaforma avverte inoltre della possibilità che le informazioni compromesse possano essere utilizzate per comunicazioni fraudolente o tentativi di phishing. Agli utenti viene consigliato di prestare particolare attenzione a messaggi che facciano riferimento a ChatMinerva, soprattutto quando richiedono informazioni personali o finanziarie oppure contengono link e allegati inattesi. ChatMinerva precisa che non contatterà mai gli utenti per chiedere password o dati di pagamento.
La presenza delle conversazioni tra i dati potenzialmente accessibili rende l’incidente particolarmente significativo: oltre alle tradizionali informazioni relative all’account, la violazione potrebbe infatti aver esposto anche ciò che gli utenti hanno affidato direttamente al sistema durante le interazioni con il modello AI.
Cos’è ChatMinerva
ChatMinerva è la demo conversazionale del progetto Minerva, una famiglia di modelli linguistici sviluppata con un focus particolare sulla lingua italiana. Minerva nasce come progetto di ricerca e punta su una maggiore trasparenza dei dati e del processo di addestramento rispetto ai principali chatbot commerciali.
I modelli sono stati addestrati su fonti italiane e inglesi e utilizzano un tokenizer sviluppato per gestire in modo più efficiente le caratteristiche della lingua italiana, riducendo la frammentazione delle parole in token. La famiglia comprende modelli di dimensioni diverse, fino a 7 miliardi di parametri: quest’ultimo è stato addestrato su 2,48 trilioni di token utilizzando 128 GPU del supercomputer Leonardo di CINECA.
Il progetto dedica inoltre particolare attenzione alla sicurezza. Il gruppo ha lavorato anche sulla base di ALERT, una tassonomia sviluppata da Babelscape per classificare contenuti rischiosi o dannosi, utilizzando dataset specifici in italiano e sistemi di controllo nella demo conversazionale.
Vai al sito di Cybersecurity Italia.
L'articolo ChatMinerva, violazione dei dati al modello AI della Sapienza: accesso ai database degli utenti, coinvolte anche le conversazioni sembra essere il primo su CyberSecurity Italia.