L’AI cresce più rapidamente della nostra capacità di governarla. Il Report scientifico delle Nazioni Unite
Il Rapporto preliminare del Panel scientifico internazionale indipendente sull’AI delle Nazioni Unite
Lo sapevamo da tempo, ma serve sempre una conferma da chi ne sa più di noi. Ricerca dopo ricerca, si consolida, ormai, la certezza che l’intelligenza artificiale (AI) cresce di modello in modello sempre più velocemente. Sicuramente più velocemente della nostra capacità di regolarla, di governarla e di controllarla. O almeno questo è l’allarme contenuto nel Rapporto preliminare del Panel scientifico internazionale indipendente sull’Intelligenza artificiale delle Nazioni Unite, presentato in vista del primo Dialogo globale sulla governance dell’IA, in programma a Ginevra dal 6 luglio
Il Preliminary Report dell’Independent International Scientific Panel on Artificial Intelligence, è a tutti gli effetti la prima valutazione scientifica indipendente commissionata dall’Assemblea Generale dell’ONU per offrire ai governi una base comune di conoscenza sull’intelligenza artificiale. È anche un segnale politico: la comunità internazionale riconosce che l’AI è ormai una questione di sicurezza, sviluppo economico, diritti umani e governance globale.
Il documento, come anticipato, arriva in un momento in cui la tecnologia evolve più rapidamente della capacità delle istituzioni di comprenderla e regolamentarla. Ed è proprio questo il messaggio più forte che emerge dalle oltre cento pagine del rapporto: il problema non è soltanto cosa l’intelligenza artificiale sia oggi, ma quanto rapidamente stia cambiando e quanto impreparati rischino di essere gli Stati.
A guidare il Panel sono due figure di spicco del mondo accademico e della ricerca: da una parte Yoshua Bengio, uno dei padri del deep learning e premio Turing, professore presso l’Università di Montréal e direttore scientifico dell’istituto di intelligenza artificiale MILA, oggi tra le voci più autorevoli sui rischi dei sistemi avanzati di AI; dall’altra Maria Ressa, premio Nobel per la Pace e da anni impegnata nella difesa della libertà d’informazione.
Nel gruppo di quaranta esperti selezionati tra oltre 2.600 candidati provenienti da 140 Paesi figura anche un solo italiano, Silvio Savarese, docente negli Stati Uniti.
Bengio: “Siamo a un punto di svolta, le decisioni che prenderemo oggi sull’AI plasmeranno il nostro mondo futuro”
La conferenza stampa di presentazione ha avuto toni insoliti per un documento scientifico. Bengio ha scelto parole che suonano come un avvertimento rivolto ai governi: “Siamo arrivati a un punto di svolta: molte delle decisioni che prenderemo oggi sull’intelligenza artificiale plasmeranno in modo permanente il nostro futuro. Governi e cittadini devono comprendere con chiarezza gli impatti, i rischi e le opportunità dell’AI, così da compiere le scelte giuste, coglierne i benefici collettivi e, allo stesso tempo, limitarne i danni più gravi”.
“Abbiamo la possibilità di orientare insieme lo sviluppo dell’intelligenza artificiale verso un futuro migliore – ha aggiunto Bengio – con piena consapevolezza e nell’interesse dell’intera umanità. Questo rapporto rappresenta il primo passo in questa direzione”.
Ancora più sintetico, ma altrettanto netto, il Segretario Generale delle Nazioni Unite António Guterres: “Le conoscenze scientifiche ci sono. Non possiamo più dire che non sapevamo. Da questo momento in poi, ciò che faremo di questa tecnologia dipende da tutti noi”.
Un rapporto lontano da ogni contrapposizione modello “apocalittici-integrati”
Uno degli aspetti più interessanti del documento è il tentativo di sfuggire alla contrapposizione ormai abituale tra gli entusiasti dell’intelligenza artificiale e i suoi detrattori. Per dirla alla Umberto Eco: apocalittici vs integrati. Un saggio del grande linguista italiano che ormai ha più di 60 anni, dedicato alla nascente comunicazione di massa e al potere dei mezzi di informazione, ma che ancora può dirci qualcosa anche sull’AI, la tecnologia di punta partorita nel nuovo millennio.
Una buona lettura per avviare il confronto, quella di Eco, utile a riconoscere gli inutili e dannosi automatismi retorici del dibattito esclusivamente centrato su “AI si/AI no”, a non confondere timori etico-morali e analisi tecnica e utile, infine, a ricordarsi che ogni tecnologia va sempre valutata anche per i suoi effetti culturali e sociali, non solo per le prestazioni economico-finanziarie.
Tornando al nostro Rapporto, quindi, il valore del Panel è anche nel voler offrire una valutazione “bilanciata”, fondata sui dati empirici e non su visioni ideologiche.
La conclusione centrale può essere riassunta in una frase destinata probabilmente a diventare uno dei riferimenti del dibattito internazionale: i benefici dell’AI non sono automatici e i danni non sono inevitabili.
La stessa tecnologia può produrre risultati profondamente diversi a seconda delle istituzioni, delle regole e delle politiche pubbliche che ne governano lo sviluppo e l’utilizzo. In altre parole, il futuro dell’intelligenza artificiale non dipende soltanto dagli algoritmi, ma soprattutto dalla qualità della governance.
Più AI significa più capacità militari e industriali. Il 75% della capacità di calcolo mondiale è controllata dagli USA
Ma il rapporto racconta anche un’altra storia: quella di una crescente concentrazione del potere tecnologico. Oggi oltre un miliardo di persone utilizza ogni settimana sistemi di AI conversazionale. Questo dato, tuttavia, nasconde profonde disuguaglianze.
L’adozione dell’AI resta molto inferiore nel Sud globale rispetto ai Paesi più sviluppati. Ancora più marcata è la concentrazione dello sviluppo industriale. Secondo le stime riportate dal Panel, gli Stati Uniti controllano il 75% della capacità di calcolo dei 500 principali supercomputer dedicati all’intelligenza artificiale, mentre la Cina ne possiede il 15%.
Quasi tutti i principali modelli di AI general purpose vengono sviluppati da aziende statunitensi o cinesi. Anche le catene di fornitura dei semiconduttori avanzati risultano concentrate in un numero molto limitato di Paesi. Non si tratta soltanto di un problema economico.
Il controllo dell’infrastruttura computazionale significa controllo dell’innovazione, delle capacità militari, della competitività industriale e, in prospettiva, della sovranità tecnologica. Per l’Europa questa fotografia rappresenta una sfida strategica evidente: regolamentare non basta se si dipende da infrastrutture costruite altrove.
L’arrivo degli agenti AI autonomi
Tra gli aspetti più innovativi del rapporto c’è l’attenzione dedicata agli AI agent, sistemi capaci non solo di rispondere a domande, ma di pianificare attività, utilizzare strumenti digitali e perseguire autonomamente obiettivi.
Secondo uno studio citato dal Panel, la durata dei compiti software che i migliori sistemi riescono a completare raddoppia ogni quattro-sette mesi. Se questa tendenza dovesse proseguire, sistemi di AI saranno presto in grado di svolgere autonomamente lavori che oggi richiedono giorni o settimane di attività di programmatori esperti.
Laboratori scientifici automatizzati hanno già dimostrato incrementi superiori a dieci volte nella velocità della scoperta di nuovi materiali, mentre l’analisi automatica della letteratura scientifica ha ridotto in alcuni casi del 60% il carico di lavoro dei ricercatori.
È qui che il rapporto suggerisce una lettura storica. L’intelligenza artificiale non appare più come uno strumento destinato semplicemente ad aumentare la produttività individuale, ma come una tecnologia capace di automatizzare porzioni crescenti del lavoro cognitivo. È una trasformazione paragonabile, per profondità, alle grandi rivoluzioni industriali.
I rischi non sono più teorici e riguardano già il presente, dalla pedopornografia alla disinformazione, fino alla salute mentale e i suicidi
Se il documento dedica ampio spazio alle opportunità, ancora più dettagliata è l’analisi dei rischi. Molti non appartengono più al futuro. Materiale pedopornografico generato artificialmente, pornografia non consensuale realizzata tramite deepfake, campagne di manipolazione dell’informazione, utilizzo dell’AI da parte della criminalità informatica sono fenomeni già documentati.
Il rapporto richiama anche un tema poco discusso: il comportamento “sycophantic” di alcuni sistemi, cioè la tendenza a confermare convinzioni e pregiudizi dell’utente anche quando risultano errati. Secondo il Panel, questo comportamento è stato collegato a diversi gravi episodi riguardanti la salute mentale, compresi casi documentati di morte.
Ma sono soprattutto i rischi futuri ad alimentare la preoccupazione degli esperti. Le capacità dei sistemi stanno crescendo più rapidamente dei metodi disponibili per controllarli. Il rapporto osserva che non esistono oggi garanzie scientifiche in grado di assicurare che sistemi altamente autonomi continueranno sempre a rispettare le istruzioni ricevute.
Esperimenti di laboratorio hanno già mostrato casi nei quali modelli avanzati hanno violato istruzioni di sicurezza pur di evitare lo spegnimento. Si tratta ancora di test sperimentali, ma sufficienti, secondo gli autori, per giustificare investimenti molto più consistenti nella ricerca sulla sicurezza dell’AI.
È un messaggio che richiama direttamente le parole pronunciate da Bengio durante la presentazione: “Le capacità dell’AI stanno oggi superando sia la comprensione scientifica sia la capacità dei governi di adattabilità. Con l’aumentare delle prove relative a comportamenti ingannevoli da parte dell’IA, la scienza non è attualmente in grado di garantire che, man mano che le capacità continuano ad aumentare, l’AI non causa danni catastrofici, sia autonomamente sia a causa di utenti malintenzionati. Per agire in modo efficace, i responsabili politici a livello globale devono comprendere questi sistemi”.
Il vero problema legato all’AI: saremo capaci di governarla?
Alla fine il rapporto arriva al punto politico. La domanda fondamentale non è se l’intelligenza artificiale debba essere sviluppata, ma chi ne controllerà i benefici, chi sopporterà i costi e quali istituzioni avranno realmente la capacità di governarla. Il Panel osserva che decine di strumenti normativi esistono già nel mondo, ma sono frammentati, raramente valutati nella loro efficacia e spesso concentrati nelle mani delle stesse grandi imprese tecnologiche.
Molti Stati, compresi Paesi avanzati, non possiedono le competenze tecniche necessarie per valutare i modelli più potenti. Le infrastrutture computazionali, gli strumenti di valutazione e perfino i dati necessari per adattare l’AI ai diversi contesti linguistici sono concentrati proprio dove queste tecnologie vengono sviluppate.
È forse questo il passaggio più politico dell’intero documento. L’accesso agli strumenti di AI, da solo, non produce sviluppo. Servono investimenti in competenze, dati, ricerca, infrastrutture digitali e istituzioni pubbliche capaci di comprendere e controllare tecnologie sempre più complesse. Il recente vertice del G7 in Francia ha avuto questi temi al centro di diversi tavoli di confronto.
Aggiungiamo noi, che l’AI inoltre da sola non produrrà mai conoscenza, ma solo una confortevole e comoda illusione di conoscenza. È il nodo critico dell’epistemia di cui parla il Professor Walter Quattrociocchi. Un’illusione prodotta dall’interazione di ognuno di noi con l’AI generativa, dove si scambiano risposte fluenti e plausibili per vera comprensione e quindi consocenza.
In caso contrario, l’intelligenza artificiale rischia di ampliare le disuguaglianze esistenti, trasferendo ricchezza dal lavoro al capitale e rafforzando la concentrazione del potere economico e tecnologico, e rischia di mettere in serio pericolo la solidità stessa delle colonne su cui poggia la nostra democrazia. La sfida dell’intelligenza artificiale, suggerisce il documento, non sarà vinta da chi costruirà il modello più potente, ma da chi saprà creare istituzioni capaci di governarlo nell’interesse collettivo. Bisognerà dimostrare di essere davvero capaci di tenere insieme innovazione, economia, sicurezza, diritti e democrazia.
Novità su Google, per aggiungere Key4Biz tra le tue fonti preferite, clicca qui
Leggi le altre notizie sull’home page di Key4biz
https://www.key4biz.it/lai-cresce-piu-rapidamente-della-nostra-capacita-di-governarla-il-report-scientifico-delle-nazioni-unite/578432/