La nuova misura serve a migliorare la protezione dei dati sensibili degli utenti.

OpenAI ha presentato la modalità Lockdown “per proteggere i dati sensibili dagli attacchi di tipo prompt injection”. Un ulteriore passo in avanti, dunque, nella risposta alle minacce. Secondo l’azienda, questa modalità fornirà una protezione aggiuntiva da questo tipo di minacce in qui le istruzioni dannose per i chatbot vengono nascoste nelle pagine web e in altre fonti di contenuto.

Tra le sue funzioni, la modalità disabiliterà la navigazione web in tempo reale, così da poter accedere solo ai contenuti memorizzati nella cache. Disabiliterà inoltre il recupero e la visualizzazione di immagini dal web, la ricerca approfondita e la modalità agente.

L’azienda ha comunque affermato: “Anche con la modalità Lockdown attivata, ChatGPT potrebbe comunque essere vulnerabile alle iniezioni di prompt. Le quali, per esempio, potrebbero comparire nei contenuti web memorizzati nella cache o in un file caricato, e potrebbero comunque influenzare il comportamento o l’accuratezza di una risposta“.

L’obiettivo della nuova modalità

L’obiettivo, ha spiegato OpenAI, è quello “di ridurre la probabilità che i dati sensibili vengano condivisi nel processo“. Tale modalità non è pensata per tutti. “È progettata per persone e organizzazioni che gestiscono dati sensibili e desiderano una protezione più rigorosa dai rischi di esfiltrazione dei dati legati all’iniezione di prompt”.

L’azienda ha anche spiegato che sta attualmente implementando la Lockdown Mode per gli account ChatGPT Business self-service, nonché per gli account personali idonei.

ChatGPT e applicazioni

OpenAI, inoltre, ha spiegato come impiegare questa modalità di sicurezza senza compromettere l’ordinario funzionamento delle applicazioni.

Per i profili personali e quelli ChatGPT Business self-service, la modalità Lockdown consente l’uso dei connettori che utilizzano dati sincronizzati. Blocca però l’accesso in tempo reale ai connettori e le operazioni di scrittura da parte degli stessi. Alcune esperienze collegate, tra cui “Finances” in ChatGPT e le esperienze con gli agenti commerciali, “non sono disponibili in modalità Lockdown“.

Per gli spazi di lavoro gestiti, le app, gli Model Context Protocol (MCP), i connettori sono controllati dalle impostazioni dello spazio di lavoro e dai controlli di accesso basati sui ruoli. La modalità Lockdown non disabilita automaticamente tutte le app in questi spazi di lavoro.

Gli amministratori di tale spazio “dovrebbero abilitare solo le app e le azioni affidabili di cui hanno bisogno i membri che utilizzano la modalità Lockdown“.

Vai al sito di Cybersecurity Italia.

L'articolo OpenAI presenta la modalità Lockdown contro gli attacchi “prompt injection” sembra essere il primo su CyberSecurity Italia.