Accompagnare gli enti pubblici verso un utilizzo consapevole, efficace e responsabile delle tecnologie AI. È questo l’obiettivo delle nuove Linee Guida pubblicate dall’Agenzia per l’Italia Digitale per l’adozione dell’intelligenza artificiale nella Pubblica Amministrazione e previste dal Piano Triennale per l’Informatica nella PA 2024-2026.
Secondo il report pubblicato dall’Agenzia, ogni amministrazione dovrà dotarsi di una strategia per l’AI, affidarne il coordinamento al Responsabile per la Transizione Digitale, monitorare risultati e rischi e, tra le indicazioni, privilegiare anche l’impiego di modelli open source o open-weight.
Ogni PA dovrà avere una strategia per l’AI
Le amministrazioni devono adottare un insieme strutturato di processi, politiche, risorse e strumenti per governare, implementare e monitorare i sistemi di AI durante tutto il loro ciclo di vita.
Il modello indicato da AgID si basa sul principio del miglioramento continuo Plan-Do-Check-Act e prende come riferimento metodologico anche lo standard ISO/IEC 42001. Ma soprattutto ogni PA deve sviluppare una propria strategia per l’AI coerente con la missione e con il proprio contesto operativo. La strategia dovrà individuare obiettivi, casi d’uso, competenze necessarie, qualità dei dati e modalità con cui l’amministrazione utilizzerà i sistemi AI.
AgID: privilegiare open source e open-weight
Le Linee Guida chiedono alle amministrazioni di inserire nella propria strategia azioni volte a “privilegiare l’impiego di sistemi e modelli IA open source o open weight”, attraverso un modello basato su un orchestratore centralizzato capace di integrare più modelli in funzione delle diverse esigenze della PA.
Non viene quindi indicato un unico modello da utilizzare, ma un’architettura che permetta alle amministrazioni di scegliere di volta in volta la soluzione più adeguata al singolo caso d’uso. AgID suggerisce inoltre di partire dai progetti meno complessi, le cosiddette “quick win”, favorendo anche sperimentazioni e adozioni condivise tra più amministrazioni.
Rischio AI: quattro livelli
Le PA dovranno classificare i sistemi in base al livello di rischio previsto dall’AI Act. Il documento distingue sistemi vietati, sistemi ad alto rischio, sistemi a rischio limitato e sistemi a rischio minimo.
Per quelli ad alto rischio le amministrazioni devono fare riferimento alla classificazione prevista dall’AI Act e applicare requisiti rafforzati a tutela di salute, sicurezza, diritti fondamentali, democrazia e Stato di diritto.
Il coordinamento spetta al RTD
La responsabilità organizzativa viene affidata al Responsabile per la Transizione Digitale e al relativo Ufficio per la Transizione Digitale. Il RTD dovrà coordinare la strategia AI insieme alla governance dei dati, coinvolgendo anche il Responsabile della protezione dei dati e il referente per la cybersicurezza.
Negli enti nei quali l’utilizzo dell’intelligenza artificiale sarà particolarmente intenso, potrà inoltre essere istituita una figura specifica: il Responsabile dell’Intelligenza Artificiale, o RIA, eventualmente affiancato da un proprio ufficio e comunque sotto le direttive del RTD.
La responsabilità resta alla PA
Un altro principio indicato da AgID riguarda il controllo umano. L’AI, spiega AgID, deve essere utilizzata come strumento di supporto all’attività umana e la responsabilità finale delle decisioni rimane in capo alla Pubblica Amministrazione, indipendentemente dal livello di automazione del sistema.
Le amministrazioni devono inoltre garantire che i sistemi possano essere verificati, corretti o sostituiti da personale umano e prevedere strumenti di logging capaci di tracciare nel tempo le operazioni compiute.
Per approfondire
The post AI nella PA, AgID presenta le nuove linee guida: 4 livelli di rischio e preferenza per modelli open source o open-weight appeared first on Key4biz.
https://www.key4biz.it/ai-nella-pa-agid-presenta-le-nuove-linee-guida-4-livelli-di-rischio-e-preferenza-per-modelli-open-source-o-open-weight/593087/
