Agenti AI fuori controllo: la corsa dei big verso standard di sicurezza
Le capacità cyber degli agenti AI stanno crescendo al punto da modificare il modo in cui vengono sviluppati i modelli frontier. OpenAI ha già rallenta...
Leggi tutto →
sandbox
6 articoli in questa categoria
OpenAI-Hugging Face: il rischio non sono gli agenti che “fuggono”, ma i controlli che falliscono
Gli agenti OpenAI non hanno sviluppato una volontà autonoma di “fuggire”: hanno sfruttato confini deboli, permessi eccessivi e canali di comunicazione...
Leggi tutto →
Claude supera i confini dei test: Anthropic rallenta e ripensa la sicurezza dell’AI
Dopo gli incidenti in cui alcuni modelli Claude hanno raggiunto sistemi reali durante test cyber, Anthropic ha sospeso parte delle valutazioni e raffo...
Leggi tutto →Quando il test diventa l’incidente: il caso OpenAI-Hugging Face è un fallimento di governance
Il problema non è soltanto l’agente AI che ha superato una sandbox. Il vero punto è che una valutazione delle capacità cyber ha prodotto effetti su un...
Leggi tutto →
Il caso OpenAI-Hugging Face: l’AI ha già imparato ad aggirare le sandbox
Durante un test in ambiente isolato, modelli avanzati di OpenAI hanno individuato e sfruttato una vulnerabilità zero-day per ottenere l'accesso a Inte...
Leggi tutto →
Prompt injection e Agenti AI: l’approccio multilivello e proattivo per difendersi
Nell'era dell'AI e dell'Agentic AI, crescono i casi reali, con impatti economici significativi, di prompt injection. Ecco la strategia di OpenAI per m...
Leggi tutto →