Il monito e le soluzioni della Banca Centrale indiana sui rischi legati ai nuovi modelli di AI.

I nuovi rischi cyber legati all’AI e al machine learning preoccupano la Banca Centrale dell’India, che in materia ha proposto una nuova serie di norme. In capo agli istituti di credito ci saranno nuovi obblighi volti a rafforzare i controlli. Le misure prevedono “l’adozione di politiche approvate dai Consigli di Amministrazione, controlli più rigorosi e la creazione di registri dettagliati dei modelli utilizzati“.

In questo senso, la Reserve Bank of India (RBI) ha sottolineato la necessità per le banche di dotarsi di un quadro di gestione del rischio, più definito e uniforme, che sia applicabile a tutti i modelli impiegati.

Secondo la banca centrale, gli enti regolamentati dovranno valutare i rischi in modo continuo sia a livello dei singoli modelli sia sull’intera organizzazione. L’obiettivo è garantire l’individuazione tempestiva di eventuali criticità, andandole a gestire prima che possano avere impatti significativi sull’operatività o sulla stabilità finanziaria.

Come rispondere alle minacce

Qualora emergano rischi considerati eccessivi, sottolinea la Reuters, “gli istituti saranno tenuti ad adottare misure correttive immediate“. Tra queste rientrano:

• il rafforzamento dei controlli interni.
• La limitazione dell’utilizzo di determinati modelli.
• Interventi di correzione.
• Nei casi più gravi, la dismissione dei sistemi coinvolti.

Inoltre, le banche dovranno presentare una relazione al comitato per la gestione dei rischi del proprio Consiglio di Amministrazione.

Le linee guida prevedono anche che tutti i modelli utilizzati dalle banche, inclusi quelli sviluppati da fornitori esterni, debbano superare dei processi di validazione indipendente. Questa misura mira a garantire maggiore affidabilità, trasparenza e conformità normativa.

Un altro punto centrale della proposta riguarda la supervisione umana. La RBI ha infatti stabilito che i sistemi di AI che trovano un impiego nei processi decisionali automatizzati dovranno essere monitorati da personale qualificato. In questo ambito non si tratta soltanto di evitare gli errori, ma anche discriminazioni o decisioni non adeguatamente giustificate.

L’attenzione ai modelli di intelligenza artificiale generativa

Per quanto riguarda i modelli di AI generativa che interagiscono direttamente con clienti o utenti esterni, la banca centrale ha richiesto “l’implementazione di ulteriori misure di cybersicurezza“. Tali controlli avranno lo scopo di ridurre gli utilizzi impropri dei dati e possibili minacce informatiche.

La proposta della RBI si inserisce in un contesto globale in cui le autorità di vigilanza stanno aumentando l’attenzione verso l’utilizzo dell’intelligenza artificiale nel settore finanziario. Il vero confronto si terrà tra la volontà di bilanciare innovazione tecnologica e la tutela della stabilità del sistema.

Vai al sito di Cybersecurity Italia.

L'articolo India, la Banca Centrale propone nuove regole per limitari i rischi connessi all’AI sembra essere il primo su CyberSecurity Italia.