Armi biologiche e AI, Anthropic interviene in cinque casi sospetti: Claude usato da ricercatori legati anche a programmi statali

L’intelligenza artificiale (AI) non è stata utilizzata per chiedere direttamente come costruire un’arma biologica. Ma alcuni ricercatori hanno impiegato Claude, l’AI sviluppata da Anthropic, nell’ambito di attività scientifiche che potrebbero avere applicazioni sia civili sia militari. È quanto emerge da un rapporto della società statunitense, che ha reso pubblici cinque casi individuati attraverso il monitoraggio delle proprie piattaforme.

Nel report di settembre sugli usi impropri dell’AI pubblicato sul blog aziendale, Anthropic ha comunque usato molta cautela sul capitolo “sostanze biologiche”: non sostiene che gli scienziati coinvolti avessero intenzioni criminali né identifica ricercatori, istituzioni o Paesi. Le persone coinvolte sono definite “scienziati professionisti” e alcune attività si svolgevano in contesti istituzionali credibili.
Il problema è piuttosto il carattere “dual use” della ricerca: le stesse conoscenze possono servire a sviluppare vaccini e farmaci oppure, in determinate circostanze, agenti biologici più pericolosi.

Non solo Claude: una piattaforma utilizzava anche AI concorrenti

Un elemento importante riportato nel documento riguarda gli strumenti utilizzati. I cinque casi analizzati coinvolgono diverse versioni di Claude, tra cui Opus 5, Sonnet 4 e Haiku 4.5. Ma nel primo caso Anthropic ha scoperto anche una piattaforma intermediaria che, quando Claude rifiutava una richiesta sensibile, la reindirizzava verso un modello AI concorrente con protezioni meno restrittive. Il documento non identifica l’azienda né il modello alternativo.

In alcuni casi, inoltre, gli utenti avrebbero utilizzato server, relay, account sintetici e altri sistemi per aggirare le restrizioni geografiche di Anthropic. L’azienda ha bloccato gli account individuati e, in alcuni casi, collaborato con partner e autorità.

I cinque casi individuati da Anthropic

Il primo riguarda una ricerca gain-of-function sul virus Chikungunya, finalizzata a studiarne trasmissibilità, virulenza ed evasione della risposta immunitaria. La ricerca risultava condotta da scienziati civili, ma destinata a un istituto militare. Claude era stato utilizzato anche per attività editoriali legate ai risultati della ricerca.

Nel secondo caso, un ricercatore ha utilizzato Claude per settimane nell’ambito di uno studio sull’influenza aviaria altamente patogena, concentrato sull’adattamento dei virus ai mammiferi. L’AI ha aiutato nella pianificazione dello studio, nell’analisi dei dati, nella selezione degli esperimenti e nella revisione dei testi. I sistemi di sicurezza hanno però impedito l’accesso ai modelli più potenti, limitando il ricercatore a Sonnet 4 e Haiku 4.5. Anthropic giudica quindi l’assistenza fornita relativamente limitata.

Il terzo episodio riguarda gli orthopoxvirus, famiglia che comprende anche vaiolo e Mpox. Un cliente di un servizio di rivendita ha utilizzato Opus 5 per preparare in circa un’ora una domanda di finanziamento completa, comprendente ipotesi scientifica, disegno sperimentale, dosaggi, analisi statistiche e strategie alternative.

Gli ultimi due casi riguardano veleni e tossine. Nel quarto, Claude è stato utilizzato per costruire un atlante di peptidi derivati da animali velenosi e una pipeline AI capace di ottimizzare molecole con possibili applicazioni terapeutiche, ma anche paralizzanti. Anthropic ha scoperto che il lavoro faceva parte di un programma finanziato dallo Stato.

Nel quinto, un ricercatore impegnato nella riprogettazione computazionale di diverse tossine ha utilizzato Claude anche per preparare i rapporti trimestrali del progetto. Un particolare ha attirato l’attenzione dell’azienda: all’AI era stato chiesto di mantenere volutamente vaghe le descrizioni di alcune tossine e proteine virali.

Il confine difficile tra medicina e armi biologiche

È il problema centrale sollevato dal rapporto. In biologia, la stessa conoscenza può essere utile per sviluppare un vaccino oppure per rendere più pericoloso un agente patogeno. Di conseguenza, bloccare automaticamente tutte le richieste sospette rischierebbe di impedire anche ricerche mediche legittime.

Anthropic non presenta quindi i cinque episodi come la prova di una minaccia biologica imminente provocata dall’AI. Li considera piuttosto un segnale d’allarme: attori collegati a ricerche statali di elevato interesse stanno già cercando di utilizzare modelli avanzati, talvolta aggirandone controlli e restrizioni. Con AI sempre più capaci di svolgere compiti scientifici complessi, distinguere tra ricerca legittima e uso pericoloso potrebbe diventare sempre più difficile.

The post Armi biologiche e AI, l’allarme di Anthropic: “Bloccati 5 casi per uso sospetto” appeared first on Key4biz.

https://www.key4biz.it/armi-biologiche-e-ai-lallarme-di-anthropic-bloccati-5-casi-per-uso-sospetto/587125/