Anthropic contro i divieti generalizzati sui modelli open weight
Il CEO di Anthropic, Dario Amodei, ha pubblicamente ribadito la posizione della sua azienda riguardo ai modelli di intelligenza artificiale con pesi aperti (open weight), posizionandosi contro eventuali bandi generalizzati pur riconoscendo i maggiori rischi di sicurezza che questi sistemi possono comportare rispetto ai modelli proprietari chiusi.
Il contesto geopolitico
La dichiarazione di Amodei arriva in un momento di accesa discussione negli Stati Uniti su possibili restrizioni all'uso di modelli AI open source, in particolare quelli sviluppati in Cina. Secondo alcune indiscrezioni, funzionari statunitensi starebbero valutando misure che impedirebbero alle aziende americane di utilizzare modelli a pesi aperti di origine cinese.
La questione si inserisce nella più ampia competizione tecnologica tra Washington e Pechino. La Cina sta puntando significativamente sui modelli open weight per ampliare la diffusione internazionale del proprio ecosistema AI, offrendo infrastrutture e programmi di formazione alternativi alle piattaforme proprietarie statunitensi, particolarmente nei Paesi in via di sviluppo.
La posizione di Anthropic
"Anthropic non ha mai sostenuto un divieto generalizzato dei modelli AI open-weight", ha dichiarato Amodei in un post pubblicato sul blog aziendale. La precisazione è arrivata dopo che alcuni osservatori avevano accusato l'azienda - che sviluppa prevalentemente sistemi chiusi - di voler limitare la concorrenza attraverso posizioni protezionistiche.
Amodei ha tuttavia riconosciuto che i modelli open weight possono presentare rischi maggiori rispetto ai sistemi chiusi: una volta pubblicati i pesi, diventa infatti estremamente difficile applicare barriere di sicurezza, monitorarne l'impiego o ritirare il modello in caso di problemi.
Le tre priorità strategiche
Anziché un bando generalizzato, il CEO di Anthropic ha proposto tre interventi mirati per affrontare i rischi di sicurezza nazionale:
- Mantenere il divieto di esportazione verso la Cina di chip avanzati e tecnologie per produrli, limitando la capacità computazionale a disposizione degli sviluppatori cinesi
- Contrastare la distillazione su scala industriale, che consente di replicare modelli avanzati con minori risorse computazionali
- Imporre test di sicurezza obbligatori per tutti i modelli AI più potenti, indipendentemente dal fatto che siano open o closed source
Il dibattito sull'open source
La posizione di Anthropic si distingue da quella di altre aziende tecnologiche che hanno sottoscritto lettere a sostegno incondizionato dei modelli aperti. Amodei ha infatti cautelato che "una maggiore diffusione delle capacità AI favorirebbe sempre i difensori più degli attaccanti" è un'idea che dovrebbe essere verificata empiricamente piuttosto che data per scontata.
Secondo Amodei, un divieto rivolto alle normali aziende americane non rappresenterebbe un effettivo freno per gli attori intenzionati a utilizzare l'AI per finalità ostili, limitandosi invece a proteggere le società statunitensi dalla concorrenza - un obiettivo che Anthropic dichiara di non perseguire.
Le sfide della governance AI
La posizione di Anthropic riflette la complessità del dibattito sulla governance dell'intelligenza artificiale. Da un lato, i modelli open weight promuovono l'innovazione, la ricerca accademica e la democratizzazione dell'accesso alle tecnologie AI. Dall'altro, presentano sfide uniche in termini di sicurezza e controllo, specialmente quando possono essere modificati e distribuiti senza supervisione.
La sfida per i policymaker sarà individuare regolamentazioni che proteggano la sicurezza nazionale senza soffocare l'innovazione e la collaborazione scientifica internazionale, bilanciando la necessità di controlli con i benefici dell'apertura.
Conclusioni
L'intervento di Amodei contribuisce a un dibattito che vedrà probabilmente sviluppi significativi nei prossimi mesi. L'amministrazione americana dovrà decidere se e come regolamentare i modelli open weight, con implicazioni che si estenderanno ben oltre i confini nazionali, influenzando l'intero ecosistema globale dell'intelligenza artificiale.