Francesco Amodei (CEO Anthropic) ribadisce la sua contrarietà ad un divideto generalizzato dei modelli di AI open weight. Le priorità, secondo lui, sono ben altr.

“Anthropic non ha mai sostenuto un divieto generalizzato dei modelli AI open-weight“, ha ribadito il CEO della società Francesco Amodei. La precisazione è avvenuta dopo alcuni voci secondo cui diversi funzionari statunitensi starebbero valutando di impedire alle aziende americane di utilizzare modelli a pesi aperti sviluppati in Cina.

Il punto, ha sostenuto Amodei, non è tanto un blocco completo, né la tecnologia in sé. Serve al contrario lavorare affinché questi modelli non siano nella disponibilità degli attori ostili. Le priorità dovrebbero essere “limitare l’accesso alle tecnologie strategiche, impedire l’aggiramento dei controlli“. E ancora, “sottoporre i modelli più avanzati a rigorose verifiche di sicurezza prima del rilascio“.

Il dibattito si inserisce nella crescente competizione tecnologica tra Usa e Cina. Pechino punta infatti sui modelli open-weight per ampliare la diffusione internazionale del proprio ecosistema AI, in particolare nei Paesi in via di sviluppo. Si vogliono così offrire infrastrutture e programmi di formazione alternativi alle piattaforme proprietarie statunitensi.

In sostegno dei modelli “open“

In risposta alle possibili restrizioni americane, numerose aziende tecnologiche hanno sottoscritto una lettera a sostegno dei modelli aperti. Alcuni osservatori hanno inoltre accusato Anthropic, che sviluppa sistemi prevalentemente chiusi, di voler limitare la concorrenza. Per questo Amodei ha voluto chiarire la sua posizione, nonché quella dell’azienda.

Per Amodei, vietare alle imprese statunitensi di utilizzare modelli cinesi non risolverebbe le principali minacce alla Sicurezza Nazionale. In ogni caso ha specificato che i modelli open-weight possono presentare rischi maggiori rispetto ai sistemi chiusi. Una volta pubblicati i pesi, diventa infatti molto difficile applicare barriere di sicurezza, monitorarne l’impiego o ritirare il modello.

Un divieto rivolto alle normali aziende americane non sarebbe un freno per gli attori intenzionati a utilizzare l’AI per finalità ostili. Finirebbe soprattutto per proteggere le società statunitensi dalla concorrenza, un obiettivo che Amodei afferma di non perseguire.

I tre punti chiave d’intervento

Al posto di un bando generalizzato, Amodei ha proposto tre interventi mirati. I quali devono confrontarsi con il contesto di riferimento sulla base di due principali rischi. In primo luogo, che “regimi autoritari come la Cina” possano sviluppare dei modelli di AI più avanzati di quelli statunitensi.

Al contempo c’è poi il pericolo dell’uso improprio dell’AI per cyberattacchi e operazioni offensive di vario genere.

Per affrontare questi rischi, in primo luogo Amodei ritiene che sia fondamentale “mantenere il divieto di esportazione verso la Cina di chip avanzati e tecnologie per produrli“. In secondo luogo “bisogna contrastare la distillazione su scala industriale, che consente di replicare modelli avanzati con minori risorse computazionali“.

Il terzo punto è la centralità “nell’imporre test di sicurezza obbligatori per tutti i modelli AI più potenti, siano essi open o closed source“. Per il CEO di Anthropic, infatti, è necessario che l’eventuale maggiore pericolosità dei modelli open-weight sia misurata empiricamente e non presunta in anticipo.

Lo stesso vale per l’idea secondo cui “una maggiore diffusione delle capacità AI favorirebbe sempre i difensori più degli attaccanti“.

Vai al sito di Cybersecurity Italia.

L'articolo AI, Amodei (CEO Anthropic): “No al divieto generale dei modelli open weight sebbene siano più pericolosi dei sistemi chiusi” sembra essere il primo su CyberSecurity Italia.