Così la manipolazione delle AI diventa nuova superficie di attacco
Due esperti si confrontano con le soluzioni di difesa. Una mossa su tutte: applicare il modello zero trust all'architettura attorno al modello di AI, ...
Leggi tutto →
AI generative
170 articoli in questa categoria
Agenti AI fuori controllo: i nuovi rischi cyber per la Pubblica Amministrazione
Gli agenti AI possono sfruttare vulnerabilità, aggirare controlli e mettere sotto pressione servizi digitali anche senza intenzioni malevole. Dai casi...
Leggi tutto →
AI, il ritardo è nelle competenze: servono professionisti per superare i silos
Il regolamento europeo sull’intelligenza artificiale, noto come AI Act, definisce un quadro di obblighi per lo sviluppo e l’utilizzo dei sistemi di IA...
Leggi tutto →
Governare la sicurezza integrata: DPO, CISO e Safety Manager alla prova dell’AI in cantiere
Traducendo l’obbligo in organizzazione, si definisce il modello integrato di sicurezza, delineando i compiti e le interazioni di DPO, CISO e Safety Ma...
Leggi tutto →
Lazarus usa già la crittografia post-quantistica nei malware: come cambia la sfida cyber
La campagna di spionaggio FlashHole, scoperta da Kaspersky e attribuita al gruppo criminale Lazarus, combina tecniche di ingegneria sociale assistite ...
Leggi tutto →
AI Act, sistemi ad alto rischio: come ridurre drasticamente oneri e rischi
I sistemi che l’AI ACT classifica ad alto rischio comportano l’adozione di numerosi adempimenti tecnici e organizzativi. Vediamo se è sempre opportuno...
Leggi tutto →
I modelli OpenAI auto-disabilitano i controlli di sicurezza
OpenAI ha documentato due incidenti avvenuti il 3 e il 6 ottobre. Un agente AI ha silenziato le notifiche alla sicurezza, un altro ha eliminato il mon...
Leggi tutto →
La vulnerabilità dell’AI tra sycophancy e guerra geopolitica
Una vulnerabilità epistemica e sistemica di primaria grandezza, la sycophancy (o piaggeria algoritmica), costituisce un effetto collaterale struttural...
Leggi tutto →
Avvelenare un modello LLM è diventato facile ed economico
Grazie allo sviluppo dell'IA generativa, possiamo farci scrivere software dai modelli linguistici di grandi dimensioni. Ma quanto si può essere certi ...
Leggi tutto →
IA, responsabilità penali e civili: l’impatto per le aziende
Fallita la proposta di direttiva europea sulla responsabilità da intelligenza artificiale, ritirata nel febbraio 2025, il legislatore italiano è inter...
Leggi tutto →
Cyber Mission di Anthropic: l’AI scopre le vulnerabilità, la sfida è correggerle
Anthropic presenta Cyber Mission per rafforzare la difesa delle infrastrutture critiche e del software open source con l'intelligenza artificiale. Tra...
Leggi tutto →
Anthropic vuole rallentare l’AI per renderla più sicura: il paradosso del piano di Dario Amodei
Gli incidenti cyber che hanno coinvolto gli agenti AI spingono Dario Amodei a chiedere un rallentamento dello sviluppo dei modelli avanzati. Ma tra ve...
Leggi tutto →
Guerra cyber e AI agentica: quando anche gli attaccanti perdono il controllo
L'AI agentica cambia le regole della guerra cyber: l'incertezza non riguarda più soltanto chi difende, ma anche chi attacca. Gli agenti autonomi posso...
Leggi tutto →
Ray-Ban Meta alla prova del GDPR: il dilemma della contitolarità
Il caso Ray-Ban Meta solleva una questione che va oltre gli smart glasses. Vediamo se il mancato opt-out al training dell’IA basta a rendere l’utente ...
Leggi tutto →
Cyber security e agentic AI: perché il costo dei token diventa un rischio operativo
Con gli agenti AI, il costo della cybersecurity dipende sempre più dai token consumati durante analisi e investigazioni. Un budget esaurito può interr...
Leggi tutto →
AI Act: non conta se la macchina pensa, ma cosa può fare
Per applicare l’AI Act non serve stabilire se una macchina pensi o comprenda come un essere umano. La nozione di artificial agency introdotta dal filo...
Leggi tutto →
Agenti di OpenAI: nascoste le attività di hacking nelle violazioni governative USA
Modelli di OpenAI hanno estratto dati da 55 siti web, fra cui la SEC, la Consob americana. Alla persistenza dell’obiettivo, all'esplorazione autonoma ...
Leggi tutto →
Agenti AI, il rischio è nel perimetro: cosa insegnano gli ultimi incidenti
Dalla fuga dalla sandbox al blocco di GPT-6.1 Astra, fra agosto e settembre si sono moltiplicati gli incidenti cyber. Ecco perché i casi degli Agenti ...
Leggi tutto →
GitLost: così la prompt injection negli agenti AI può esfiltrare repository privati
Al momento del lancio dei GitHub Agent Workflows, chi si occupa della sicurezza dei sistemi agentici si è chiesto: cosa succederebbe se l'agente legge...
Leggi tutto →
Attacchi LLM-jacking: hacker dirottano account aziendali per colpire terzi a costi irrisori
I ricercatori di Google Threat hanno scoperto che i marketplace del dark web vendono l’accesso a modelli di intelligenza artificiale di aziende come A...
Leggi tutto →
Pagina 1 di 9
Successivo →