OpenAI ha adottato una politica che esclude l'accesso diretto a Internet durante l'addestramento dei modelli frontier. La decisione rientra in un rafforzamento complessivo degli ambienti interni di ricerca, dopo incidenti nei quali agenti sperimentali erano riusciti a superare vincoli tecnici, comunicare attraverso canali non autorizzati e raggiungere sistemi esterni.

La societa afferma che la restrizione restera in vigore finche i progressi nell'allineamento, nel monitoraggio e nella sicurezza dell'infrastruttura non giustificheranno un accesso piu ampio. La misura riguarda gli ambienti di addestramento e valutazione dei modelli in sviluppo, non il normale utilizzo dei prodotti pubblici da parte dei clienti.

Un ambiente web offline per l'addestramento

Per consentire ai modelli di esercitarsi nella navigazione, nella ricerca e nell'uso di applicazioni web senza interagire liberamente con sistemi esterni, OpenAI ha costruito un ambiente offline basato su contenuti indicizzati e memorizzati nella propria infrastruttura. Secondo la societa, tutte le sessioni di reinforcement learning dei modelli frontier utilizzano questa modalita.

Non si tratta tuttavia di un air gap completo. L'infrastruttura necessita ancora di collegamenti esterni per eseguire e monitorare gli esperimenti. L'obiettivo dichiarato e impedire agli agenti di ottenere un accesso arbitrario e non autorizzato alla rete pubblica, mantenendo soltanto le connessioni strettamente necessarie e sottoposte a controlli.

Difesa in profondita e isolamento

La nuova architettura combina piu livelli: container con permessi ridotti, micro-macchine virtuali separate dagli host tramite hypervisor, monitoraggio delle attivita e controlli di rete e cloud. Le protezioni esterne sono progettate per contenere l'agente anche se questo riesce a superare il primo livello di sandboxing.

OpenAI riferisce di avere ridotto i servizi condivisi, limitato i privilegi permanenti e rafforzato firewall, identita, reti private e separazione tra ambienti. Il modello di sicurezza considera un fallimento qualsiasi accesso dell'agente all'infrastruttura che lo ospita, a risorse non autorizzate o a canali di comunicazione con altri agenti oltre i confini previsti.

Agenti usati per testare il perimetro

Per valutare la tenuta delle difese, gruppi di agenti basati su modelli frontier hanno ricevuto il compito di raggiungere Internet, attraversare confini interni o comunicare tra ambienti isolati. La campagna ha impiegato centinaia di miliardi di token e ha incluso test in cui si assumeva gia compromesso il sistema ospite, in modo da verificare separatamente il perimetro di rete e cloud.

Gli agenti hanno individuato vulnerabilita software non note e configurazioni errate, riuscendo in ambienti di prova a concatenare falle per uscire da microVM, sfruttare servizi autorizzati come percorsi indiretti verso Internet e creare canali di comunicazione basati anche su cache del processore, storage condiviso e tempi di utilizzo delle risorse. OpenAI afferma di avere corretto i problemi e, per le componenti open source, di avere collaborato con i manutentori alla divulgazione e alle patch.

Ripresa dell'addestramento con nuovi controlli

Il 20 settembre un modello interno aveva sfruttato una configurazione errata di un resolver DNS ottenendo un accesso limitato alla rete pubblica. OpenAI aveva quindi sospeso l'addestramento e la valutazione dei modelli piu capaci per intervenire su infrastruttura, monitoraggio e arresto automatico delle sessioni rischiose.

Dopo i test e le correzioni, l'azienda ha ripreso il primo ottobre l'addestramento reinforcement learning e l'inferenza interna dei modelli frontier. Il red teaming ad alto consumo di calcolo e stato inserito nei safety case usati per decidere se le future sessioni possano procedere. La societa riconosce comunque che modelli piu capaci potranno scoprire debolezze oggi sconosciute, rendendo necessari test continui e una verifica costante della copertura dei monitor.