Convenzione AI: i contenuti del nuovo framework

L’Unione Europea accelera l’iter per la regolamentazione dell’Intelligenza Artificiale, che ha visto un passaggio storico nel primo voto favorevole sull’AI Act.

In parallelo procede infatti l’elaborazione della “Framework convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law”, nuovo trattato elaborato dal Committee on Artificial Intelligence (CAI) del Consiglio d’Europa per stabilire regole minime rispetto al ruolo chiave giocato dall’AI in campo di diritti umani fondamentali.

La Convenzione detta quindi i principi essenziali alla base di un impiego dell’AI rispettoso dei diritti civili e politici dei cittadini, nonché dei processi democratici.

Lo scopo della Convenzione AI

L’ambizione del Trattato è definire standard e orientamenti condivisi a livello globale, uniformando il quadro regolatorio in materia così da prevenire – o almeno mitigare – i potenziali effetti nocivi delle sempre più onnipresenti tecnologie basate sull’Intelligenza Artificiale.

Sin dal Preambolo il CAI richiama la preoccupazione destata dai rischi di “discrimination in digital contexts, particularly those involving artificial intelligence systems […] including those experienced by women and individuals in vulnerable situations”, tra cui si citano minori, migranti e persone con disabilità; nonché di “arbitrary or unlawful surveillance and censorship practices that erode privacy and individual autonomy”.

Pericoli già emersi nel corso dei lavori per l’adozione del Regolamento AI, il cui testo finale ha ricevuto diverse critiche da parte delle associazioni di settore.

In particolare, l’EDRI e altre realtà attive nella tutela dei diritti digitali denunciano la mancata protezione delle persone migranti, accusando l’Europa di un approccio troppo lassista proprio verso le pratiche di sorveglianza e riconoscimento biometrico di massa impiegate nel controllo delle frontiere comunitarie.

Struttura e contenuti del Trattato

Dopo aver fissato nei primi articoli l’oggetto, le definizioni e l’ambito di applicazione della Convenzione, alla Sezione II del draft si ribadisce il dovere degli Stati di tutelare i diritti umani e l’integrità dei processi democratici, che includono il principio di separazione dei poteri, l’accesso alla giustizia e la libera partecipazione alla vita politica dei cittadini.

Ciò impone di considerare, “within the lifecycle of artificial intelligence systems”, tutti i principi elencati nella successiva Sezione III:

• Article 7 – Human dignity and individual autonomy;
• Article 8 – Transparency and oversight;
• Article 9 – Accountability and responsibility;
• Article 10 – Equality and non-discrimination;
• Article 11 – Privacy and personal data protection;
• Article 12 – Reliability;
• Article 13 – Safe innovation.

Nella seguente Sezione IV (“Remedies”) si chiede agli Stati-parte di adottare misure che assicurino “accessible and effective remedies for violations of human rights resulting from […] artificial intelligence systems”, fornendo un’informazione trasparente circa gli strumenti usati e individuando adeguati strumenti di salvaguardia od organismi per porre rimedio agli eventuali abusi.

La Sezione V (“Assessment and Mitigation of Risks and Adverse Impacts”) si focalizza sulle valutazioni di sicurezza che devono precedere l’implementazione di ogni sistema AI capace di esercitare impatti significativi “upon the enjoyment of human rights”. Ciò impone la previsione di idonei processi di assessment e documentazione dei potenziali rischi derivanti da utilizzi illeciti o attacchi informatici contro i sistemi, includendo attività di testing sui nuovi strumenti nonché di monitoraggio su quelli già in uso.

Tali misure includono anche la possibilità, per i singoli Stati, di limitare o vietare del tutto “certain uses of artificial intelligence systems where it considers such uses incompatible with the respect of human rights, the functioning of democracy or the rule of law”.

La parte finale (Sez. VI-VII-VIII) è dedicata ad aspetti procedurali relativi all’entrata in vigore della Convenzione – prevista tre mesi dopo il raggiungimento del numero minimo di 5 ratifiche, tra cui dovranno figurare almeno 3 membri dell’Unione – nonché ai meccanismi di cooperazione necessari a garantirle piena applicazione.

Ai fini di un’efficace tutela dei diritti umani e dei processi democratici individuati come fulcro della Convenzione, si raccomanda altresì agli Stati di dare spazio a percorsi di consultazione pubblica multi-stakeholder e di promuovere “digital literacy and digital skills for all segments of the population, including specific expert skills […] for the identification, assessment, prevention and mitigation of risks posed by artificial intelligence systems”.

A cura della Redazione

https://www.ictsecuritymagazine.com/notizie/convenzione-ai-i-contenuti-del-nuovo-framework-comunitario/