AI Act, raggiunto l’accordo. L’Europa fissa le prime regole sull’Intelligenza Artificiale. Divieti ed eccezioni. Breton: ‘Momento storico’. Scarica il comunicato

9 Dicembre 2023 ICT, Rassegna Stampa

Dopo una maratona di tre giorni l’Europa ha raggiunto un accordo provvisorio sulle norme fondamentali dell’Unione europea che regolano l’uso dell’intelligenza artificiale, compreso l’uso dell’intelligenza artificiale da parte dei governi nella sorveglianza biometrica e su come regolamentare i sistemi di intelligenza artificiale come ChatGPT. Alcuni aspetti sono demandati agli incontri tecnici che mancano ancora per ufficializzare il deal. L’accordo entrerà in vigore fra due anni (vedi il comunicato del Parlamento Ue).

Scarica il comunicato stampa del Consiglio Ue in PDF

Con l’accordo politico, l’UE si avvia a diventare la prima grande potenza mondiale ad emanare leggi che regolano l’IA. L’accordo di venerdì sera tra i paesi dell’UE e i membri del Parlamento europeo è arrivato dopo quasi 15 ore di negoziati che hanno fatto seguito a un dibattito di quasi 24 ore il giorno precedente.

Nuovi dettagli nei prossimi giorni

Le due parti sono pronte a definire i dettagli nei prossimi giorni, che potrebbero cambiare in qualche modo la forma della legislazione finale.

L’accordo prevede salvaguardie sull’intelligenza artificiale per scopi generali, limitazione all’uso da parte delle forze dell’ordine dei sistemi di identificazione biometrica, divieti sul punteggio sociale (social scoring) e sull’intelligenza artificiale utilizzata per manipolare o sfruttare le vulnerabilità degli utenti.

I consumatori avranno il diritto di presentare reclami e ricevere spiegazioni significative, mentre le sanzioni per le violazioni andrebbero da 7,5 milioni di euro o l’1,5% del fatturato a 35 milioni di euro o il 7% del fatturato globale.

“Storico! L’UE diventa il primo continente a stabilire regole chiare per l’uso dell’intelligenza artificiale”, ha dichiarato venerdì il commissario UE Thierry Breton su X.

Historic!

The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺

The #AIAct is much more than a rulebook — it’s a launchpad for EU startups and researchers to lead the global AI race.

The best is yet to come! 👍 pic.twitter.com/W9rths31MU

— Thierry Breton (@ThierryBreton) December 8, 2023

“L’AI Act è molto più di un regolamento: è un trampolino di lancio per startup e ricercatori dell’UE per guidare la corsa globale all’IA.”

Le reazioni

La presidente della Commissione europea Ursula von der Leyen ha detto che le norme sull’intelligenza artificiale forniranno un quadro giuridico unico per sviluppare una tecnologia affidabile che non influisca sulla sicurezza e sui diritti fondamentali delle persone e delle imprese.

Uno dei principali negoziatori del Parlamento europeo, Dragos Tudorache, ha detto che le regole sull’IA prendono di mira modelli di intelligenza artificiale grandi e potenti, garantendo che non presentino rischi sistemici per l’UE.

Contrasti sul riconoscimento biometrico e sulla sorveglianza

L’uso dell’intelligenza artificiale nella sorveglianza biometrica ha contrapposto i politici che volevano utilizzarla per scopi militari, di sicurezza e di difesa nazionale ai legislatori dell’UE che volevano vietare tali usi per motivi di privacy.

I governi di tutto il mondo stanno cercando di bilanciare i vantaggi della tecnologia, che può impegnarsi in conversazioni simili a quelle umane, rispondere a domande e scrivere codici informatici, con la necessità di mettere in atto dei guardrail.

Le ambiziose regole europee sull’intelligenza artificiale arrivano mentre aziende come OpenAI, in cui Microsoft è un investitore, continuano a scoprire nuovi usi per la loro tecnologia, suscitando sia plausi che preoccupazioni. Il proprietario di Google, Alphabet, ha lanciato giovedì un nuovo modello di intelligenza artificiale, Gemini, per rivaleggiare con OpenAI.

Vietata sorveglianza real time e biometrica. Ma tre eccezioni

Secondo il commissario Breton, il Parlamento europeo ha vietato l’uso della sorveglianza in tempo reale e delle tecnologie biometriche, incluso il riconoscimento emotivo, ma con tre eccezioni.

Ciò significherebbe che la polizia potrebbe utilizzare le tecnologie invasive solo in caso di minaccia inaspettata di un attacco terroristico, nella necessità di cercare vittime e nel perseguire reati gravi.

L’eurodeputato Brando Benefei, che ha co-guidato la squadra negoziale del parlamento insieme a Dragon Tudorache, l’eurodeputato rumeno che ha guidato la battaglia quadriennale del Parlamento europeo per regolamentare l’intelligenza artificiale, ha affermato che è stata anche garantita la garanzia che “autorità indipendenti” debbano dare il permesso alla “polizia predittiva” per prevenire gli abusi da parte della polizia e la presunzione di innocenza nel crimine.

“Avevamo un obiettivo: elaborare una legislazione che garantisse che l’ecosistema dell’IA in Europa si sviluppasse con un approccio incentrato sull’uomo, rispettando i diritti fondamentali, i valori umani, rafforzando la fiducia e la consapevolezza di come possiamo ottenere il meglio da questa intelligenza artificiale rivoluzione che sta accadendo davanti ai nostri occhi”, ha detto ai giornalisti in una conferenza stampa tenutasi dopo mezzanotte a Bruxelles.

Modello europeo per l’IA

La legge europea potrebbe diventare il modello per altri governi e un’alternativa all’approccio leggero degli Stati Uniti e alle regole provvisorie della Cina.

Soddisfazione è stata espressa anche dalla presidente del Parlamento Europeo, Roberta Metsola, che ha definito l’intesa odierna come un “momento storico per l’Europa digitale“. “Accolgo con favore l’accordo storico sul nuovo AI Act. Una legislazione all’avanguardia, responsabile e completa che fissa standard globali. L’Europa ha guidato e ha dato risultati» ha scritto su X, ringraziando i relatori per il Parlamento Europeo dell’AI Act, Brando Benifei e Drago Tudorache, e la squadra dell’Eurocamera.

Utilizzi vietati dell’AI

La nota diffusa a tarda sera dal Consiglio Ue chiarisce tra le altre cose che “Per alcuni usi dell’IA, il rischio è ritenuto inaccettabile e, pertanto, questi sistemi saranno banditi dall’UE. L’accordo provvisorio vieta, ad esempio, la manipolazione cognitivo comportamentale, la cancellazione non mirata di immagini facciali da Internet o da filmati di telecamere a circuito chiuso, il riconoscimento delle emozioni sul posto di lavoro e negli istituti scolastici, il social scoring, la categorizzazione biometrica per dedurre dati sensibili, come l’orientamento sessuale o religioso. convinzioni personali e alcuni casi di polizia predittiva per gli individui.”

Eccezioni delle forze dell’ordine

“Considerando le specificità delle autorità di contrasto e la necessità di preservare la loro capacità di utilizzare l’intelligenza artificiale nel loro lavoro fondamentale, sono state concordate diverse modifiche alla proposta della Commissione relative all’uso dei sistemi di intelligenza artificiale a fini di contrasto. Fatte salve adeguate garanzie, questi cambiamenti intendono riflettere la necessità di rispettare la riservatezza dei dati operativi sensibili in relazione alle loro attività. Ad esempio, è stata introdotta una procedura di emergenza che consente alle forze dell’ordine di utilizzare uno strumento di IA ad alto rischio che non ha superato la procedura di valutazione della conformità in caso di urgenza. Tuttavia, è stato introdotto anche un meccanismo specifico per garantire che i diritti fondamentali siano sufficientemente tutelati da eventuali abusi dei sistemi di IA.

Inoltre, per quanto riguarda l’uso di sistemi di identificazione biometrica a distanza in tempo reale negli spazi accessibili al pubblico, l’accordo provvisorio chiarisce gli obiettivi in cui tale uso è strettamente necessario per scopi di contrasto e per i quali le autorità di contrasto dovrebbero quindi essere eccezionalmente autorizzate a utilizzare tali sistemi. L’accordo di compromesso prevede garanzie aggiuntive e limita tali eccezioni ai casi di vittime di determinati reati, alla prevenzione di minacce reali, presenti o prevedibili, come gli attacchi terroristici, e alla ricerca di persone sospettate dei crimini più gravi”.