AI open-weight, Amodei: “No al bando dei modelli cinesi. Il vero nodo sono chip, cybersecurity e distillazione”
Anthropic non ha mai sostenuto un divieto generalizzato dei modelli AI open-weight. A chiarirlo è il fondatore e CEO Dario Amodei, intervenuto dopo le indiscrezioni secondo cui alcuni funzionari statunitensi starebbero valutando di impedire alle aziende americane di utilizzare modelli a pesi aperti sviluppati in Cina.
Il dibattito si inserisce nella crescente competizione tecnologica tra Washington e Pechino. Come raccontato ieri su Key4biz, la Cina punta sui modelli open-weight per ampliare la diffusione internazionale del proprio ecosistema AI, in particolare nei Paesi in via di sviluppo, offrendo tecnologie, infrastrutture e programmi di formazione alternativi alle piattaforme proprietarie statunitensi.
In risposta alle possibili restrizioni americane, numerose aziende tecnologiche hanno sottoscritto una lettera a sostegno dei modelli aperti. Alcuni osservatori hanno inoltre accusato Anthropic, che sviluppa sistemi prevalentemente chiusi, di voler limitare la concorrenza.
“Anthropic non ha mai sostenuto un divieto dei modelli open-weight”, afferma invece Amodei. Secondo il CEO, i sistemi a pesi aperti privi di capacità pericolose costituiscono un bene pubblico, perché possono offrire valore ad aziende, sviluppatori e ricercatori senza altri costi oltre alla capacità di calcolo necessaria per eseguirli.
Amodei: “I modelli open-weight? Possono presentare rischi maggiori rispetto ai sistemi chiusi
Per Amodei, vietare alle imprese statunitensi di utilizzare modelli cinesi non risolverebbe le principali minacce alla sicurezza nazionale.
La prima preoccupazione riguarda la possibilità che un governo autoritario, in particolare quello cinese, riesca a costruire sistemi AI più potenti di quelli sviluppati negli Stati Uniti e li utilizzi per ottenere una superiorità militare duratura o rafforzare la sorveglianza e la repressione interna. In questo scenario, la disponibilità pubblica dei pesi sarebbe poco rilevante. Il modello più pericoloso potrebbe infatti essere addestrato segretamente e riservato all’Esercito popolare di liberazione o agli apparati di intelligence cinesi.
La seconda preoccupazione riguarda l’utilizzo dei modelli più avanzati per realizzare cyberattacchi, facilitare minacce biologiche o produrre comportamenti difficili da controllare. Amodei riconosce che i modelli open-weight possono presentare rischi maggiori rispetto ai sistemi chiusi. Una volta pubblicati i pesi, diventa infatti molto difficile applicare barriere di sicurezza, monitorarne l’impiego o ritirare il modello.
Un divieto rivolto alle normali aziende americane non fermerebbe però gli attori intenzionati a utilizzare l’AI per finalità ostili. Finirebbe soprattutto per proteggere le società statunitensi dalla concorrenza, un obiettivo che Amodei afferma di non perseguire.
I tre interventi mirati secondo Amodei
Al posto di un bando generalizzato, il CEO di Anthropic propone tre interventi mirati.
Il primo è impedire la vendita alla Cina dei chip più potenti e delle apparecchiature necessarie alla loro produzione, rafforzando contemporaneamente il contrasto al contrabbando e ai sistemi utilizzati per aggirare le restrizioni.
Secondo Amodei, la Cina dispone ancora di una capacità produttiva interna limitata nel campo dei semiconduttori avanzati. Senza l’accesso ai chip americani, sarebbe quindi più difficile per Pechino addestrare modelli capaci di superare quelli statunitensi.
Limitare la capacità di calcolo a disposizione dei governi autoritari rappresenterebbe, secondo Anthropic, uno strumento più diretto ed efficace rispetto al divieto di utilizzare modelli open-weight già pubblicati.
Il nodo della distillazione
La seconda misura riguarda il contrasto alle operazioni di distillazione su scala industriale.
Questa tecnica permette di utilizzare gli output di un modello avanzato per addestrarne un altro, trasferendo parte delle capacità del sistema originario con un impiego di risorse computazionali inferiore rispetto all’addestramento completo.
Secondo Amodei, la distillazione consente alle aziende cinesi di sviluppare modelli migliori di quanto sarebbe normalmente possibile con il numero di chip disponibili, riducendo l’efficacia dei controlli sulle esportazioni.
Test obbligatori per i sistemi più potenti
La terza proposta è sottoporre tutti i modelli sufficientemente capaci, aperti o chiusi, a test di sicurezza obbligatori prima della distribuzione. Le verifiche dovrebbero valutare i rischi informatici, biologici e di allineamento, indipendentemente dal Paese di origine del modello. I sistemi meno potenti sviluppati da università, startup e gruppi di ricerca potrebbero invece essere esclusi dagli obblighi più onerosi.
Per Amodei, l’eventuale maggiore pericolosità dei modelli open-weight deve essere misurata empiricamente e non presunta in anticipo. Lo stesso vale per l’idea secondo cui una maggiore diffusione delle capacità AI favorirebbe sempre i difensori più degli attaccanti.
La posizione di Anthropic è quindi netta: nessun divieto dei modelli open-weight come categoria. Le priorità dovrebbero essere mantenere i chip avanzati fuori dalla portata dei governi autoritari, fermare la distillazione industriale e introdurre test obbligatori per tutti i sistemi AI più potenti.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
Leggi le altre notizie sull’home page di Key4biz
https://www.key4biz.it/ai-open-weight-amodei-no-al-bando-dei-modelli-cinesi-il-vero-nodo-sono-chip-cybersecurity-e-distillazione/583224/