Big tech, a Seoul l’accordo globale per la sicurezza dell’AI (switch off compreso)

23 Maggio 2024 ICT, Rassegna Stampa

Le grandi Big Tech globali hanno siglato un accordo a Seoul, in occasione dell’AI Safety Summit, per lo sviluppo sicuro dell’AI generativa, con una serie di impegni che prevedono, in caso di necessità, lo spegnimento (switch off) della tecnologia per mitigarne i rischi.

L’accordo comprende big come Microsoft, Amazon e OpenAI, che hanno così siglato un accordo di portata storica che prevede impegni volontari per assicurare lo sviluppo sicuro dei loro modelli di AI.

Il patto si basa su precedenti impegni presi dalle aziende in fase di sviluppo dei sofwtare di AI generativa a partite da novembre.

L’accordo siglato a Seoul coinvolge diverse aziende di Usa, Cina, Canada, Uk, Francia Corea del Sud ed Emirati Arabi Uniti e prevede la sigla volontaria di impegni per lo sviluppo dei modelli AI più evoluti.

Sviluppo aperto

Laddove non lo abbiano già fatto, i creatori di modelli di intelligenza artificiale hanno accettato di pubblicare quadri di sicurezza che stabiliscono come misureranno le sfide dei loro modelli di frontiera, come prevenire l’uso improprio della tecnologia da parte di soggetti malintenzionati.

Questi quadri includeranno “linee rosse” per le aziende tecnologiche che definiscono i tipi di rischi associati ai sistemi di intelligenza artificiale di frontiera, che sarebbero considerati “intollerabili”. Questi rischi includono, ma non sono limitati, agli attacchi informatici automatizzati e alla minaccia delle armi biologiche.

Per rispondere a circostanze così estreme, le aziende hanno dichiarato di voler implementare un “kill switch” che bloccherebbe lo sviluppo dei loro modelli di intelligenza artificiale se non riescono a garantire la mitigazione di questi rischi.

“È la prima volta al mondo che così tante aziende leader nel settore dell’intelligenza artificiale provenienti da così tante parti diverse del globo accettino gli stessi impegni sulla sicurezza dell’intelligenza artificiale”, ha dichiarato martedì in una dichiarazione Rishi Sunak, il primo ministro del Regno Unito.

Trasparenza

“Questi impegni garantiscono che le principali aziende mondiali nel campo dell’intelligenza artificiale forniranno trasparenza e responsabilità sui loro piani per sviluppare un’intelligenza artificiale sicura”, ha aggiunto.

L’accordo di martedì amplia una serie di impegni precedenti assunti dalle aziende coinvolte nello sviluppo di software di intelligenza artificiale generativa lo scorso novembre.

Le aziende hanno concordato di ricevere input su queste soglie da “attori fidati”, compresi i loro governi nazionali, a seconda dei casi, prima di rilasciarle prima del prossimo vertice sull’intelligenza artificiale pianificato – l’AI Action Summit in Francia – all’inizio del 2025.

Modelli di frontiera

Gli impegni concordati martedì si applicano solo ai cosiddetti modelli di frontiera. Questo termine si riferisce alla tecnologia alla base dei sistemi di intelligenza artificiale generativa come la famiglia GPT di OpenAI di modelli linguistici di grandi dimensioni, che alimenta il popolare chatbot AI ChatGPT.

Da quando ChatGPT è stato introdotto per la prima volta nel mondo nel novembre 2022, i regolatori e i leader tecnologici sono diventati sempre più preoccupati per i rischi che circondano i sistemi di intelligenza artificiale avanzati in grado di generare contenuti testuali e visivi alla pari o migliori degli umani.

L’Unione Europea ha cercato di frenare lo sviluppo illimitato dell’IA con la creazione della sua legge sull’intelligenza artificiale, approvata martedì dal Consiglio dell’UE.

Il Regno Unito, tuttavia, non ha proposto leggi formali per l’intelligenza artificiale, optando invece per un approccio “leggero” alla regolamentazione dell’intelligenza artificiale, che prevede che i regolatori applichino le leggi esistenti alla tecnologia.

Il governo ha recentemente affermato che prenderà in considerazione la possibilità di legiferare per modelli di frontiera in futuro, ma non si è impegnato a rispettare una tempistica per l’introduzione di leggi formali.

La lista completa dei firmatari:

Amazon

Anthropic

Cohere

Google / Google DeepMind

G42

IBM

Inflection AI