Più di 1.300 dipendenti delle principali aziende di intelligenza artificiale hanno firmato una petizione che chiede al governo degli Stati Uniti di sostenere un meccanismo internazionale per “regolare deliberatamente il ritmo” dello sviluppo dell’AI.
Secondo quanto riportato da Bloomberg, la lettera è stata sottoscritta da lavoratori di quasi una dozzina di società, tra cui OpenAI, Anthropic, Google e Meta. Tra i firmatari figurano anche il CEO di Anthropic Dario Amodei, il Chief Scientist di OpenAI Jakub Pachocki e Shengjia Zhao, Chief Scientist del Meta Superintelligence Lab.
La richiesta arriva pochi giorni dopo che OpenAI ha reso noto un incidente nel quale i suoi modelli più avanzati avrebbero compromesso per errore alcuni sistemi interni della startup Hugging Face durante attività di sicurezza informatica.
“Un rischio reale” di perdere il controllo
La petizione chiede a Washington di sostenere uno sforzo internazionale per sviluppare strumenti tecnici e di governance capaci, se necessario, di rallentare la costruzione dei sistemi AI più avanzati.
“Chiediamo al governo degli Stati Uniti di sostenere un’iniziativa internazionale per sviluppare gli strumenti tecnici e di governance necessari a regolare deliberatamente il ritmo dello sviluppo automatizzato dell’AI di frontiera”, si legge nel documento citato da Bloomberg.
I firmatari avvertono che esiste “un rischio reale” che l’intelligenza artificiale progredisca più rapidamente della capacità umana di comprenderla e controllarla. Il riferimento è soprattutto ai progressi nell’automazione della ricerca sull’AI, con modelli sempre più capaci di contribuire direttamente alla progettazione e al miglioramento di nuovi sistemi.
Il sostegno di Anthropic
Anthropic ha espresso pubblicamente il proprio sostegno alla petizione. In un messaggio pubblicato su X, la società ha affermato che le proprie ricerche mostrano la necessità di disporre di strumenti per rallentare deliberatamente la frontiera dell’AI, consentendo alla società di prepararsi ai cambiamenti prodotti dalla tecnologia.
Anthropic aveva già proposto un sistema attraverso il quale governi e sviluppatori potessero decidere collettivamente quando ridurre il ritmo o sospendere temporaneamente determinate attività di ricerca considerate potenzialmente pericolose. A giugno, la società aveva sostenuto che sarebbe utile per il mondo disporre della possibilità di “rallentare o mettere temporaneamente in pausa” lo sviluppo di sistemi AI che potrebbero generare rischi non sufficientemente controllabili.
L’ipotesi di un’autorità internazionale
La petizione riprende proposte già avanzate da alcuni dei principali esponenti del settore. Il CEO di OpenAI Sam Altman e quello di Google DeepMind Demis Hassabis hanno più volte indicato la necessità di creare un organismo internazionale incaricato di valutare i modelli AI più avanzati e stabilire standard comuni.
L’idea è quella di costruire una struttura simile alle organizzazioni internazionali attive in altri settori ad alto rischio, capace di monitorare lo sviluppo dei sistemi di frontiera, verificare le loro capacità e coordinare eventuali interventi tra i diversi Paesi.
Una misura del genere dovrebbe evitare che la competizione tra aziende e Stati impedisca a un singolo sviluppatore di rallentare, per il timore di essere superato dai concorrenti.
Il caso Hugging Face
Le richieste di maggiori controlli sono aumentate dopo la diffusione di nuovi dati sulle capacità dei modelli AI di svolgere attività complesse con un intervento umano limitato. Una delle aree più sensibili riguarda la cybersecurity. I modelli più avanzati sono sempre più abili nell’individuare vulnerabilità nei software e, potenzialmente, nello sfruttarle.
La scorsa settimana OpenAI ha comunicato che alcuni dei suoi sistemi più potenti avevano compromesso l’infrastruttura della startup Hugging Face in quello che la società ha definito un incidente “senza precedenti”. La vicenda ha riacceso il dibattito sulla necessità di introdurre limiti e controlli prima che capacità di questo tipo diventino più diffuse.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
Leggi le altre notizie sull’home page di Key4biz
https://www.key4biz.it/oltre-1-300-dipendenti-di-openai-anthropic-google-e-meta-chiedono-agli-usa-di-rallentare-lo-sviluppo-dellai/583318/
