I test condotti da OpenAI e Anthropic mostrano che anche i modelli AI più avanzati possono oltrepassare i limiti operativi previsti. La sicurezza non dipende soltanto dall'allineamento, ma anche dal controllo di privilegi, accessi e ambienti di esecuzione. Ecco perché serve ripensare la protezione degli agenti AI
L'articolo Sicurezza dei modelli AI, perché l’allineamento non basta a fermare i comportamenti pericolosi proviene da Cyber Security 360.