Garante Privacy sanziona Replika per 5 milioni di euro, aperta nuova istruttoria sull’addestramento dell’AI

Violazioni gravi nella gestione dei dati personali e criticità nei sistemi di verifica dell’età

Il Garante per la protezione dei dati personali ha inflitto una sanzione di 5 milioni di euro alla società statunitense Luka Inc., responsabile del controverso chatbot “Replika”.
La decisione arriva dopo l’accertamento di gravi violazioni delle normative europee sulla privacy, già oggetto di un precedente blocco del servizio in Italia nel febbraio 2023.

Replika è un’applicazione di intelligenza artificiale (AI) generativa che permette agli utenti di creare un “amico virtuale” con cui interagire attraverso interfacce vocali e testuali. Il chatbot può assumere diversi ruoli emotivi e relazionali, da confidente a partner romantico, da mentore a presunto terapeuta.

Mancanza di basi giuridiche e privacy policy inadeguata

Nel corso dell’istruttoria, l’Autorità ha riscontrato che Luka Inc. non aveva individuato, alla data del 2 febbraio 2023, alcuna base giuridica per i trattamenti dei dati personali effettuati tramite Replika.
Inoltre, la privacy policy fornita agli utenti è stata giudicata inadeguata sotto molteplici profili, contravvenendo ai requisiti di trasparenza e completezza imposti dal Regolamento generale sulla protezione dei dati (GDPR).

Minori a rischio: sistema di verifica dell’età insufficiente

Uno degli aspetti più critici evidenziati dal Garante riguarda la tutela dei minori. Nonostante la dichiarazione della società di escludere i minorenni dall’accesso al servizio, al momento dell’accertamento non era stato implementato alcun sistema efficace di verifica dell’età, né in fase di registrazione né durante l’utilizzo dell’app.

Anche le soluzioni tecniche successivamente introdotte da Luka sono state ritenute insufficienti: il sistema di verifica dell’età è risultato ancora oggi carente in molteplici aspetti, con evidenti rischi per la protezione dei dati dei più giovani.

Nuova istruttoria sull’intero ciclo di vita dell’intelligenza artificiale

Oltre al provvedimento sanzionatorio, il Garante ha avviato una nuova istruttoria per analizzare più a fondo le modalità di sviluppo, addestramento e funzionamento del modello di AI generativa alla base di Replika.

In particolare, l’Autorità ha richiesto chiarimenti circa:

  • Le misure di valutazione dei rischi adottate;
  • Le garanzie a tutela dei dati personali nelle varie fasi di sviluppo del modello linguistico;
  • Le tipologie e categorie di dati utilizzati durante l’addestramento dell’IA;
  • L’eventuale implementazione di tecniche di anonimizzazione o pseudonimizzazione.

Verso un rafforzamento della vigilanza sull’IA generativa

Il caso Replika si inserisce in un contesto di crescente attenzione delle autorità europee sulla regolamentazione dell’intelligenza artificiale generativa, soprattutto in relazione alla protezione dei dati personali e alla sicurezza degli utenti vulnerabili.

Il provvedimento del Garante italiano rappresenta un segnale forte a tutela dei diritti digitali dei cittadini, specialmente dei minori, e richiama le aziende sviluppatrici di IA a una maggiore responsabilità e trasparenza.

Il problema del trattamento dei dati personali

Sempre nel nostro Paese, ma anche in Francia e in Germania, non è la prima volta che si affrontano criticità serie nel rapporto tra l’AI e i dati personali degli utenti.

Nel marzo 2023, il Garante per la protezione dei dati personali italiano ha disposto una limitazione provvisoria del trattamento dei dati degli utenti italiani da parte di OpenAI, la società statunitense che gestisce ChatGPT.

Le motivazioni includevano:

  • Assenza di una base giuridica adeguata per il trattamento dei dati personali degli utenti;
  • Mancanza di sistemi efficaci per la verifica dell’età, esponendo i minori a contenuti potenzialmente inappropriati;
  • Violazioni del principio di trasparenza e degli obblighi informativi verso gli utenti.

Successivamente, OpenAI ha implementato misure correttive, tra cui l’introduzione di un sistema di verifica dell’età e l’aggiornamento dell’informativa sulla privacy, permettendo così la riattivazione del servizio in Italia. Tuttavia, nel dicembre 2024, il Garante ha concluso l’istruttoria infliggendo a OpenAI una sanzione di 15 milioni di euro per le violazioni riscontrate.

In Germania, le autorità regionali per la protezione dei dati hanno avviato indagini su ChatGPT, focalizzandosi su:

  • Modalità di raccolta e trattamento dei dati personali da parte di OpenAI;
  • Conformità degli algoritmi utilizzati alle disposizioni del GDPR .

Le autorità hanno inviato questionari a OpenAI per ottenere chiarimenti sulle pratiche di trattamento dei dati e sulla trasparenza delle informazioni fornite agli utenti.

In Francia, la startup Mistral AI è stata oggetto di una denuncia presentata alla Commission nationale de l’informatique et des libertés (CNIL) nel febbraio 2025.

La denuncia riguarda l’applicazione gratuita “Le Chat”, accusata di:

Raccolta illegale di dati personali degli utenti senza un’adeguata base giuridica;

Limitazione dell’esercizio del diritto di opposizione al trattamento dei dati, disponibile solo per gli utenti della versione a pagamento

La CNIL sta attualmente esaminando il caso per verificare la conformità dell’azienda al Regolamento Generale sulla Protezione dei Dati (GDPR).

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/garante-privacy-sanziona-replika-per-5-milioni-di-euro-aperta-nuova-istruttoria-sulladdestramento-dellai/532133/




Settore sanitario, gli operatori caricano dati sensibili in cloud e nelle app di IA


Stando all’ultimo report sulle minacce al settore sanitario di Netskope Threat Labs, i lavoratori del settore caricano regolarmente dati sensibili su siti web e piattaforme cloud non approvati.

dati sensibili sanitario

Sono in particolare le applicazioni di intelligenza artificiale quelle coinvolte in queste violazioni, prime fra tutte ChatGPT e Gemini. Secondo l’analisi di Netskope, l’81% delle violazioni delle policy sui dati nelle organizzazioni sanitarie nell’ultimo anno ha riguardato dati sanitari regolamentati, ovvero protetti da normative locali, nazionali e internazionali, contenenti informazioni mediche e cliniche sensibili.

Password, chiavi di accesso, codice sorgente e proprietà intellettuale rappresentano invece il restante 19% delle violazioni. La maggior parte di esse è stata provocata dalla condivisione dei dati su account personali di OneDrive o Google Drive. 

Violazioni di dati sensibili nel settore sanitario: il pericolo dell’IA

I tool di intelligenza artificiale sono diventati molto diffusi anche nel settore sanitario: secondo il report di Netskope, l’88% delle organizzazioni integra applicazioni di IA in cloud. La quasi totalità delle realtà che sfruttano questi strumenti usa i dati degli utenti per l’addestramento.

Anche se l’IA porta molti benefici al settore sanitario, la condivisione di dati sensibili aumenta il rischio di violazioni. Se si considera che il 44% degli incidenti registrati coinvolge dati regolamentati, è facile comprendere l’impatto dei comportamenti errati degli operatori. Il report di Netskope evidenzia a tal proposito che più di due utenti di genAI su tre nel settore sanitario inviano dati sensibili ai propri account personali durante l’orario di lavoro, ostacolando la visibilità dei team di sicurezza.

“Le applicazioni di intelligenza artificiale generativa offrono soluzioni innovative, ma introducono anche nuovi vettori per potenziali violazioni dei dati, soprattutto in ambienti ad alta pressione e criticità come quello sanitario, dove il personale e i professionisti devono spesso operare con rapidità e agilità. Le organizzazioni sanitarie devono bilanciare i benefici della genAI con l’adozione di misure di sicurezza e protezione dei dati per mitigare tali rischi” ha commentato Gianpietro Cutolo, Cloud Threat Researcher presso Netskope Threat Labs.

Mitigare il rischio di violazione

Per ridurre il rischio di violazioni, soprattutto quelle legate alla condivisione di dati sensibili su strumenti di IA, le organizzazioni del settore sanitario dovrebbero innanzitutto implementare politiche di DLP (Data Loss Prevention – Prevenzione della perdita di dati) per monitorare l’accesso alle applicazioni di GenAI e definire il tipo di dati che può essere condiviso con esse. Oggi la percentuale di realtà sanitarie che hanno adottato politiche DLP è salita al 54% dal 31% dell’anno scorso.

È essenziale inoltre implementare applicazioni di IA generativa approvate dall’organizzazione, in modo che i team di sicurezza abbiano un maggior controllo su di esse e si riduca il rischio di “shadow AI”.  Infine, occorre affidarsi a strumenti di formazione in tempo reale per gli utenti che siano in grado anche di avvisarli quando stanno compiendo azioni rischiose.

“Nel settore sanitario, la rapida adozione delle applicazioni di intelligenza artificiale generativa e l’uso crescente delle piattaforme cloud hanno reso ancora più urgente la protezione dei dati sanitari regolamentati. Man mano che la genAI viene integrata nei flussi di lavoro clinici e operativi, le organizzazioni stanno accelerando l’implementazione di controlli come le politiche DLP e il blocco delle applicazioni per ridurre i rischi. Le organizzazioni sanitarie stanno facendo progressi, ma sarà fondamentale mantenere l’attenzione su soluzioni sicure e approvate a livello aziendale, per garantire che i dati restino protetti in questo scenario in continua evoluzione” ha concluso Cutolo.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/05/12/settore-sanitario-gli-operatori-caricano-dati-sensibili-in-cloud-e-nelle-app-di-ia/?utm_source=rss&utm_medium=rss&utm_campaign=settore-sanitario-gli-operatori-caricano-dati-sensibili-in-cloud-e-nelle-app-di-ia




Articolo 48 del GDPR: trasferimento o comunicazione Non Autorizzati

Il presente focus esaminerà l’articolo 48 del GDPR che disciplina i casi in cui il trasferimento di dati personali verso un paese terzo non è consentito senza un accordo internazionale tra il paese richiedente e l’Unione Europea o uno Stato membro. Il contenuto è parte di un white paper dedicato ad una serie di approfondimenti sul Registro dei Trattamenti.

Cos’è l’Articolo 48 del GDPR?

L’articolo 48 del GDPR, rubricato “Trasferimento e comunicazione non autorizzata dal diritto dell’Unione”, regola i casi in cui il trasferimento di dati personali verso un paese terzo non è autorizzato senza un accordo internazionale tra il paese richiedente e l’Unione Europea o uno Stato membro. Le sentenze di un’autorità giurisdizionale o le decisioni di un’autorità amministrativa di un paese terzo possono essere riconosciute o assumere carattere esecutivo solo se basate su tali accordi.

La disposizione mira a limitare il potere di efficacia delle sentenze giurisdizionali e delle decisioni amministrative di un paese terzo. Questo rafforza la sovranità digitale dell’Unione Europea, garantendo che il trasferimento o la comunicazione di dati personali avvenga solo nel rispetto del diritto dell’Unione.

Requisiti GDPR per trasferimenti dati internazionali

Per permettere il trasferimento dei dati personali, è richiesta l’esistenza di un accordo internazionale in vigore tra il paese terzo richiedente e l’Unione o uno Stato membro, come un trattato di mutua assistenza giudiziaria. La lista degli accordi sottoscritti conformi all’articolo 48 del GDPR è disponibile sul sito web del Ministero della Giustizia.

Applicazione dell’Articolo 48 del GDPR

L’articolo 48 si applica a ogni tipo di trasferimento di dati personali, inclusa la semplice comunicazione. La norma si estende anche a eventuali provvedimenti giurisdizionali o amministrativi, garantendo che essi non possano prevalere sul diritto dell’Unione senza un accordo internazionale.

Questa disposizione riflette la volontà dell’Unione Europea di affermare la sua sovranità digitale, assicurando che i trasferimenti di dati personali siano sempre conformi al GDPR e agli accordi internazionali stipulati. La sovranità digitale rappresenta un pilastro fondamentale nella protezione dei dati personali degli individui all’interno dell’UE.

Deroghe GDPR per trasferimenti dati: Articolo 49 e condizioni specifiche

L’articolo 49 del GDPR consente il trasferimento di dati personali verso un paese terzo o un’organizzazione internazionale anche in assenza di una decisione di adeguatezza o di garanzie adeguate, purché si verifichino specifiche condizioni:

  1. Consenso Esplicito dell’Interessato: L’interessato deve esplicitamente acconsentire al trasferimento, informato dei possibili rischi.
  2. Esecuzione di un Contratto: Il trasferimento deve essere necessario per l’esecuzione di un contratto tra l’interessato e il titolare del trattamento.
  3. Interesse Pubblico: Il trasferimento deve essere necessario per importanti motivi di interesse pubblico.
  4. Accertamento o Difesa di un Diritto: Necessario per accertare, esercitare o difendere un diritto in sede giudiziaria.
  5. Interessi Vitali: Necessario per tutelare gli interessi vitali dell’interessato o di altre persone.
  6. Consultazione di Registri Pubblici: Effettuato a partire da un registro pubblico accessibile tanto al pubblico quanto a chi dimostri un legittimo interesse.

Rilevanza delle deroghe GDPR: eccezioni per trasferimenti dati

Le deroghe rappresentano eccezioni al principio generale secondo cui i dati personali possono essere trasferiti verso paesi terzi solo in presenza di adeguate garanzie. Queste deroghe devono essere interpretate in maniera restrittiva per evitare che diventino la regola, assicurando che il livello di protezione dei dati personali garantito dal GDPR non venga pregiudicato.

Gli articoli 48 e 49 del GDPR offrono un quadro chiaro per il trasferimento internazionale di dati personali, stabilendo condizioni rigorose per garantire la protezione dei dati degli individui nell’Unione Europea. Queste disposizioni sono fondamentali per mantenere la sovranità digitale dell’UE e proteggere i diritti degli interessati.

L’articolo 48 del GDPR costituisce un pilastro fondamentale nella regolamentazione del trasferimento internazionale dei dati personali, stabilendo che tali trasferimenti verso paesi terzi necessitano di un accordo internazionale specifico tra il paese richiedente e l’UE o uno Stato membro. Questa disposizione, insieme alle deroghe previste dall’articolo 49, crea un quadro normativo completo che rafforza la sovranità digitale dell’Unione Europea. Mentre l’articolo 48 richiede accordi formali per il riconoscimento di sentenze giurisdizionali o decisioni amministrative di paesi terzi, l’articolo 49 prevede specifiche deroghe che permettono il trasferimento dei dati in determinate circostanze, come il consenso esplicito dell’interessato o la necessità di tutelare interessi vitali.

Il prossimo articolo della serie approfondirà il tema legato ai termini di cancellazione dei dati in conformità con il GDPR. Per un’analisi più approfondita di queste tematiche, vi invitiamo a scaricare il nostro white paper “La compilazione del Registro dei trattamenti nel nuovo quadro normativo del Reg. UE 679/2016“.

Profilo Autore

Tecnologo presso l’UAIG del CNR.
Abilitato all’esercizio della professione forense.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/articolo-48/




CERT-AGID 12 – 18 aprile: nuove campagne di phishing per pagoPA e Ministero della Salute


Nel corso dell’ultima settimana, il CERT-AGID ha rilevato 57 campagne malevole nel panorama italiano, con 26 operazioni mirate espressamente contro il nostro Paese e altre 31 di portata più generica ma che hanno comunque coinvolto utenti e infrastrutture italiane.

A supporto delle attività di prevenzione e difesa, sono stati messi a disposizione degli enti accreditati ben 767 indicatori di compromissione.

I temi della settimana

Sono stati ben 17 i temi sfruttati questa settimana dai cybercriminali per confezionare le campagne malevole indirizzate al territorio italiano.

Tra i più ricorrenti, si distingue il tema “Ordine”, utilizzato in campagne generiche per diffondere malware come Darkcloud, SnakeKeylogger, Formbook e AgentTesla.

Anche “Fattura” è tornato al centro dell’attenzione, comparendo in tre campagne italiane e due di respiro più ampio, tra cui una mirata agli utenti di Aruba. In questo contesto sono stati veicolati AgentTesla, XWorm, LokiBot e SnakeKeylogger.

Il tema “Banking” ha accompagnato tre campagne rivolte all’Italia e due generiche, in forma di phishing e smishing, servendo anche come canale per la diffusione di MassLogger, BingoMod e SpyNote.

Questa settimana il CERT-AGID ha rilevato 57 campagne malevole ed emesso 767 indicatori di compromissione.

Particolarmente attivo anche il tema “Pagamenti”, sfruttato in quattro campagne italiane e due generiche, utilizzato per veicolare FormBook e Grandoreiro tramite email e per colpire via phishing utenti di servizi come Zimbra, BRT e PagoPA.

Non è mancato il tema “Documenti”, presente in tre campagne generiche e due italiane, sfruttato per diffondere malware come Lumma e Remcos e per attacchi di phishing ai danni del Notariato e di DocuSign.

Il tema “Booking” è stato usato in due campagne italiane e due generiche, associato a pagine truffaldine con finti Captcha per distribuire malware.

“Delivery”, invece, è comparso in una campagna generica e tre italiane, legato alla diffusione di Remcos via email, smishing contro Poste Italiane e BRT e alla circolazione di AgentTesla.

Infine, il tema “Contratti” è stato utilizzato in tre campagne generiche per veicolare Snakekeylogger e Guloader attraverso email. Gli altri temi riscontrati sono stati impiegati in campagne più frammentate, ma sempre con finalità malevole legate a malware e phishing di varia natura.

Tra gli eventi più significativi della settimana, si segnala una nuova campagna di phishing che prende di mira gli utenti di pagoPA.

L’inganno avviene attraverso email che richiamano presunte fatture da 75 euro, con l’obiettivo di indurre le vittime a fornire dati personali e informazioni sensibili come i dettagli della carta di credito.

Fonte: CERT-AGID

Un’altra campagna di phishing ha invece sfruttato il nome del Ministero della Salute, riprendendo un modello già osservato all’inizio dell’anno ma con un nuovo dominio truffaldino, “ministerosalute[.]io”.

Anche in questo caso, le email false promettono un rimborso e richiedono informazioni personali, tra cui nome, indirizzo e dati della carta di credito, cercando di carpire la fiducia delle potenziali vittime con un linguaggio istituzionale e rassicurante.

Malware della settimana

Nel corso della settimana sono state individuate 14 famiglie di malware attive sul territorio italiano, distribuite attraverso campagne mirate o più generiche che hanno comunque interessato utenti e sistemi del nostro Paese.

Tra le minacce più rilevanti figura AgentgTesla, rilevato in tre campagne italiane legate ai temi “Booking”, “Aggiornamenti” e “Delivery”, oltre che in tre campagne generiche a tema “Ordine” e “Fattura”, tutte veicolate via email con allegati nei formati ZIP, RAR, Z e IMG.

AsyncRat è stato protagonista di tre campagne “Booking” – una italiana e due generiche – diffuse attraverso link a pagine con finti Captcha, oltre a una campagna “Prezzi” distribuita via email con allegati RAR.

Anche SnakeKeylogger è tornato in scena con una campagna italiana a tema “Fattura” e tre campagne generiche legate ai temi “Contratti” e “Ordine”, in cui il malware è stato veicolato con allegati RAR, ARJ e LZH.

Fonte: CERT-AGID

FormBook è comparso in tre campagne generiche, associate ai temi “Ordine” e “Pagamenti”, e diffuse tramite email con allegati compressi ZIP, RAR e 7Z.

Anche Remcos ha fatto registrare attività: una campagna italiana con tema “Documenti” e due campagne generiche legate a “Fattura” e “Delivery”, tutte accompagnate da allegati ZIP e RAR.

Non è mancato DarkCloud, con due campagne generiche a tema “Ordine” veicolate tramite allegati TAR e LZH, e neppure Lumma, riscontrato in due campagne generiche “Documenti” che utilizzavano allegati ZIP e IMG.

XWorm è emerso in una campagna italiana a tema “Fattura” e in una generica “Prezzi”, con file allegati nei formati ZIP e 7Z.

Particolare attenzione meritano anche le campagne che hanno coinvolto i malware BingoMod e SpyNote, veicolati tramite file APK in una campagna italiana e una generica legate al tema “Banking”, con link malevoli inviati via SMS.

A completare il quadro, una campagna italiana legata a MassLogger e diverse operazioni generiche che hanno visto protagonisti Grandoreiro, Guloader e Lokibot, distribuiti attraverso un’ampia varietà di temi e formati.

Phishing della settimana

Nel corso della settimana sono stati ben 15 i brand coinvolti nelle campagne di phishing monitorate dal CERT-AGID.

Fonte: CERT-AGID

A dominare la scena in termini di volume troviamo le campagne a tema INPS, cPanel, Intesa Sanpaolo e Aruba, che si confermano bersagli frequenti per chi cerca di sfruttare la riconoscibilità dei marchi a fini truffaldini.

Particolarmente diffuse anche le campagne di phishing rivolte alle webmail, spesso non brandizzate, che puntano in modo subdolo a sottrarre agli utenti credenziali di accesso e altri dati personali sensibili, facendo leva sulla distrazione o sulla fiducia in apparenti comunicazioni ufficiali.

Formati e canali di diffusione

Nel monitoraggio settimanale, il CERT-AGID ha rilevato l’impiego di diverse tipologie di file malevoli, a conferma della varietà di strumenti utilizzati dai cybercriminali per eludere le difese di utenti e sistemi.

Anche questa settimana hanno prevalso i formati compressi, con i file ZIP che si sono distinti come i più utilizzati: sono infatti comparsi in otto campagne distinte, confermandosi efficaci nella diffusione del malware. A pari merito troviamo i file RAR, anch’essi impiegati otto volte.

Fonte: CERT-AGID

Seguono i file IMG, utilizzati in tre campagne, mentre HTML, APK, Z e LZH sono stati impiegati in due occasioni ciascuno.

Più sporadico, ma comunque significativo, l’uso di altri formati come DOC, ARJ, 7Z e TAR, rilevati una sola volta.

Per quanto riguarda i canali di diffusione, l’email si conferma il vettore preferito dagli attaccanti. Dei 57 episodi analizzati nel periodo, ben 53 sono stati condotti tramite messaggi di posta elettronica.

Completano il quadro 7 campagne diffuse via SMS e 3 condotte attraverso PEC.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/04/21/cert-agid-12-18-aprile-campagne-phishing-pagopa-ministero-salute/?utm_source=rss&utm_medium=rss&utm_campaign=cert-agid-12-18-aprile-campagne-phishing-pagopa-ministero-salute




Federated Learning con Privacy Differenziale: proteggere i dati nell’era dell’AI Collaborativa

Nel panorama attuale dell’intelligenza artificiale, il rapido sviluppo degli algoritmi di machine learning si scontra con una crescente preoccupazione per la privacy dei dati. I modelli di AI più avanzati richiedono enormi quantità di informazioni per essere addestrati efficacemente, ma questi dati sono spesso sensibili e difficili da condividere a causa di normative sempre più stringenti come il GDPR o semplicemente per le legittime preoccupazioni degli utenti riguardo la privacy. In questo contesto complesso, due tecnologie emergono come potenziali soluzioni complementari: il Federated Learning (FL) e la Privacy Differenziale (DP).

Il Federated Learning rappresenta un paradigma di addestramento innovativo che consente a molteplici dispositivi o entità di collaborare nell’addestramento di un modello senza condividere direttamente i dati grezzi. Invece di centralizzare tutti i dati in un unico server, FL permette l’addestramento distribuito dove i dispositivi elaborano localmente i propri dati e condividono solo gli aggiornamenti del modello. La Privacy Differenziale, d’altra parte, fornisce un quadro matematico formale per limitare la fuga di informazioni derivate dai dati privati, garantendo che l’output di un algoritmo non riveli troppo sui dati di input individuali.

Quando queste due tecnologie si incontrano, creano un approccio potente per l’apprendimento collaborativo preservando la privacy. Tuttavia, implementare efficacemente questa combinazione pone numerose sfide tecniche che richiedono una comprensione approfondita di entrambi i campi. Il presente articolo esplora l’intersezione di queste tecnologie, analizzando le sfide, le soluzioni e le applicazioni emergenti nell’ambito della sicurezza informatica e della protezione dei dati.

La promessa del Federated Learning: collaborazione senza compromettere la Privacy

Il Federated Learning rappresenta un cambiamento paradigmatico nel modo in cui concettualizziamo l’addestramento dei modelli di machine learning. Introdotto da Google nel 2016, FL consente ai dispositivi di apprendere collettivamente un modello condiviso mantenendo i dati di addestramento sui dispositivi locali. Il processo tipicamente si articola in diverse fasi iterate:

Fase 1: Distribuzione del modello iniziale. Un modello iniziale viene distribuito a tutti i dispositivi partecipanti, che rappresentano i client nel sistema federato.

Fase 2: Addestramento locale. Ogni dispositivo addestra il modello sui propri dati locali, utilizzando algoritmi standard come la discesa stocastica del gradiente (SGD).

Fase 3: Condivisione degli aggiornamenti. Solo gli aggiornamenti del modello, che possono essere gradienti o parametri del modello aggiornati, vengono inviati a un server centrale. Questo server non ha mai accesso ai dati grezzi, ma solo agli aggiornamenti che riflettono ciò che il modello ha appreso.

Fase 4: Aggregazione. Il server aggrega questi aggiornamenti, tipicamente attraverso una media pesata, per migliorare il modello globale.

Fase 5: Ridistribuzione. Il modello globale aggiornato viene ridistribuito ai dispositivi, e il processo continua iterativamente.

Questo approccio offre vantaggi significativi per la privacy, poiché i dati sensibili rimangono sul dispositivo dell’utente. È particolarmente utile in scenari come la previsione delle parole nelle tastiere mobili, l’analisi delle immagini personali o l’elaborazione di dati sanitari dove la sensibilità dei dati è elevata. Inoltre, il FL risolve anche problemi pratici come i requisiti di larghezza di banda e le limitazioni di archiviazione centralizzata, poiché solo gli aggiornamenti del modello, non i dati grezzi, vengono trasmessi.

Tuttavia, nonostante i miglioramenti intrinseci alla privacy, il Federated Learning da solo non fornisce garanzie formali contro attacchi sofisticati. Ricerche condotte da Zhu et al. hanno dimostrato che i gradienti condivisi possono ancora rivelare informazioni sui dati di addestramento. Ad esempio, un’entità malintenzionata potrebbe essere in grado di ricostruire dati di input esaminando attentamente gli aggiornamenti del modello attraverso tecniche come gli attacchi di inversione del gradiente. Anche con l’aggregazione delle informazioni di più dispositivi, non esiste una garanzia teorica che le informazioni sensibili non possano essere estratte.

Altre minacce alla privacy nel contesto del FL includono attacchi di inferenza di appartenenza, che tentano di determinare se un particolare record è stato utilizzato nell’addestramento del modello, e attacchi di inferenza di proprietà, che mirano a dedurre caratteristiche statistiche dei dati di addestramento. Questi rischi evidenziano la necessità di integrare FL con tecniche più robuste di preservazione della privacy come la Privacy Differenziale.

Privacy Differenziale: una garanzia matematica per la Protezione dei Dati

La Privacy Differenziale fornisce un framework matematico rigoroso per proteggere le informazioni individuali in un dataset. Introdotta da Cynthia Dwork nel 2006, la DP offre una definizione formale di privacy che può essere dimostrata matematicamente, a differenza di approcci ad hoc che potrebbero contenere vulnerabilità nascoste.

Il concetto fondamentale è che un algoritmo differenzialmente privato dovrebbe produrre risultati statisticamente simili indipendentemente dal fatto che un singolo record sia incluso o meno nel dataset. Questa proprietà garantisce che un osservatore esterno non possa dedurre con certezza se un particolare individuo ha contribuito ai dati, anche avendo accesso all’output dell’algoritmo e a informazioni ausiliarie.

Formalmente, un meccanismo M soddisfa la (ε, δ)-privacy differenziale se, per qualsiasi coppia di dataset D e D’ che differiscono per un singolo elemento, e per qualsiasi sottoinsieme di output S:

Pr[M(D) ∈ S] ≤ e^ε · Pr[M(D’) ∈ S] + δ

Dove ε rappresenta il “budget di privacy” (valori più piccoli significano maggiore privacy) e δ è una probabilità di fallimento molto piccola, tipicamente scelta in modo da essere inferiore a 1/n, dove n è la dimensione del dataset.

Per raggiungere la privacy differenziale, i meccanismi più comuni aggiungono rumore calibrato alla sensibilità dei dati. La sensibilità misura quanto l’output di una funzione può cambiare quando un singolo record nel dataset cambia. I meccanismi comuni includono:

  • Il meccanismo di Laplace, che aggiunge rumore estratto da una distribuzione di Laplace con scala proporzionale alla sensibilità L1 della funzione divisa per ε.
  • Il meccanismo gaussiano, che aggiunge rumore estratto da una distribuzione normale con varianza proporzionale al quadrato della sensibilità L2 della funzione e inversamente proporzionale al quadrato del parametro di privacy ε.

Nel contesto dell’apprendimento automatico, l’approccio più diffuso è DP-SGD (Differentially Private Stochastic Gradient Descent), che aggiunge rumore gaussiano ai gradienti clippati durante l’addestramento. Questo consente di addestrare modelli complessi come le reti neurali profonde con garanzie di privacy differenziale.

La DP offre diverse proprietà importanti che la rendono particolarmente adatta per l’integrazione con il Federated Learning:

  • Proprietà di post-elaborazione: qualsiasi elaborazione aggiuntiva su un output differenzialmente privato rimane differenzialmente privata, senza degradare la garanzia di privacy. Questo significa che le trasformazioni dei modelli dopo l’aggregazione non compromettono la privacy.
  • Composizione: la combinazione di più meccanismi differenzialmente privati dà ancora un risultato differenzialmente privato, anche se con un parametro di privacy degradato. Questa proprietà è cruciale per analizzare la perdita di privacy cumulativa durante le iterazioni di addestramento.
  • Amplificazione tramite sottocampionamento: selezionare casualmente un sottoinsieme di dati prima di applicare un meccanismo di privacy differenziale migliora la garanzia di privacy, permettendo di ottenere la stessa utilità con meno rumore.

Queste proprietà forniscono un framework rigoroso per analizzare e garantire la privacy in sistemi complessi come quelli di Federated Learning, permettendo una quantificazione precisa del compromesso tra privacy e utilità.

Matrimonio di tecnologie: Federated Learning con Privacy Differenziale

L’integrazione del Federated Learning con la Privacy Differenziale combina il meglio di entrambi i mondi: la natura distribuita e rispettosa della privacy di FL con le garanzie matematiche formali della DP. Questa combinazione può essere implementata in diversi modi, a seconda del modello di fiducia e delle specifiche esigenze dell’applicazione.

Paradigmi di Implementazione

Dalla letteratura emergono diversi approcci per implementare FL con DP, ognuno con i propri compromessi tra fiducia, privacy e utilità del modello:

FL con DP centralizzata (CDP): Questo approccio assume un server centrale fidato che aggiunge rumore calibrato agli aggiornamenti aggregati dei client. Gli algoritmi come DP-FedAvg e DP-FedSGD rientrano in questa categoria. Il server centrale deve essere affidabile poiché ha accesso agli aggiornamenti non rumorosi dei modelli dei client. Sebbene questa configurazione richieda meno rumore rispetto ad altre, impone un’ipotesi forte sulla fiducia nel server.

FL con DP locale (LDP): In questo paradigma, ogni client aggiunge rumore ai propri aggiornamenti del modello prima di inviarli al server. Algoritmi come LDP-FedSGD implementano questa strategia. Il vantaggio principale è che non richiede un server fidato, poiché i dati sono già protetti prima di lasciare il dispositivo. Tuttavia, questo approccio generalmente richiede più rumore per ottenere la stessa garanzia di privacy, con conseguente riduzione dell’utilità del modello.

FL con DP distribuita (DDP): Questo approccio innovativo cerca di colmare il divario di utilità-fiducia tra LDP e CDP eliminando l’assunzione di un aggregatore fidato tramite tecniche crittografiche. Esistono due principali paradigmi DDP:

  • Basato su shuffling: utilizza canali di comunicazione anonimi per attenuare i rischi di identificazione dei messaggi, amplificando così le garanzie di privacy;
  • Basato su aggregazione sicura: sostituisce l’aggregatore fidato con protocolli di calcolo sicuro multiparty (MPC), consentendo l’aggregazione senza rivelare i singoli contributi.

f-DP federata: Un approccio più recente introdotto da Zheng et al. che opera a livello di record, proteggendo i singoli record dei dati di un client contro gli avversari. Questa nozione di privacy opera al livello più granulare, proteggendo singoli elementi anziché interi set di dati dei client. È particolarmente utile quando la partecipazione del client non è informazione sensibile, ma i dati individuali lo sono, come nel caso di ospedali che collaborano per addestrare modelli predittivi per malattie.

Il framework PriFedSync rappresenta un esempio di un approccio generico per FL con DP che può adattarsi a una vasta famiglia di algoritmi FL all’avanguardia, incorporando meccanismi di privacy differenziale e supportando modelli sia personalizzati che globali.

Sfide tecniche e compromessi

L’implementazione di FL con DP comporta diverse sfide tecniche significative che devono essere affrontate per ottenere un sistema pratico ed efficace:

Calibrazione della soglia di clipping: Per limitare la sensibilità dei gradienti, è comune applicare una tecnica di “clipping” che limita la norma dei gradienti a un valore massimo. Determinare la soglia ottimale è cruciale: una soglia di clipping sottostimata può causare bias nel gradiente e persino divergenza del modello, mentre una soglia sovrastimata comporta l’aggiunta di rumore eccessivo. Tecniche di clipping adattivo basate sull’analisi della divergenza o sulla stima euristica possono ridurre il rumore e produrre modelli con maggiore utilità.

Ottimizzazione della distribuzione del rumore: La forma della distribuzione del rumore utilizzata per garantire la privacy differenziale può influenzare significativamente l’equilibrio tra privacy e utilità. Oltre alle comuni distribuzioni di Laplace e Gaussiana, distribuzioni discrete o a gradini attraverso tecniche di segmentazione possono essere utilizzate per ridurre la scala del rumore necessario mantenendo i requisiti di DP.

Composizione della perdita di privacy: Il monitoraggio preciso della perdita di privacy accumulata durante le iterazioni di addestramento è fondamentale. Approcci avanzati come il “moment accountant” analizzano la distribuzione dettagliata della variabile di perdita di privacy composta e derivano un limite molto più stretto utilizzando momenti di ordine superiore, consentendo di addestrare modelli con una perdita di privacy accettabile.

Compressione dei parametri del modello: Un vettore di parametri lungo consuma pesantemente il budget di privacy e appesantisce i canali di comunicazione limitati. Tecniche di compressione come il filtraggio dei parametri, l’approssimazione di rango basso, la proiezione casuale e la quantizzazione del gradiente possono ridurre entrambi i problemi. Queste tecniche possono ridurre empiricamente sia il consumo di larghezza di banda di comunicazione che la varianza del rumore, sebbene possano anche portare a una perdita di utilità poiché alcune informazioni sui parametri vengono eliminate.

Campionamento dei client partecipanti: Il campionamento dei client nell’addestramento FL basato su DP è un approccio promettente per risparmiare budget di privacy, overhead di comunicazione e consumo energetico. L’effetto di amplificazione del campionamento per DP, in cui l’inclusione casuale dei client in ogni round di addestramento rafforza le garanzie di privacy, permette di ottenere una protezione più forte della privacy minimizzando il consumo medio di comunicazione, calcolo e privacy.

Applicazioni pratiche e implementazioni

Le applicazioni di FL con DP stanno emergendo in diversi settori dove la privacy dei dati è cruciale ma esiste anche la necessità di modelli di apprendimento avanzati. Diverse piattaforme software e implementazioni pratiche stanno rendendo queste tecnologie accessibili agli sviluppatori.

Sanità e dati medici

Nel settore sanitario, l’accesso ai dati dei pazienti è fortemente regolamentato da normative come HIPAA negli Stati Uniti o GDPR in Europa, ma questi dati sono essenziali per sviluppare modelli diagnostici e terapeutici avanzati. FL con DP può consentire a ospedali e istituti di ricerca di collaborare nell’addestramento di modelli predittivi per condizioni come il COVID-19, proteggendo al contempo la privacy di ciascun paziente.

Un esempio significativo è la collaborazione tra più ospedali per addestrare modelli di diagnosi precoce o predizione dell’evoluzione della malattia. Piuttosto che preoccuparsi se un ospedale partecipa alla collaborazione (che raramente è un’informazione sensibile), la vera preoccupazione è proteggere i dati individuali dei pazienti. In questo contesto, la f-DP federata che opera a livello di record è particolarmente adatta.

I ricercatori della University of Pennsylvania hanno dimostrato l’efficacia di questo approccio, ottenendo modelli con un’accuratezza comparabile ai metodi centralizzati tradizionali, pur mantenendo forti garanzie di privacy per i singoli pazienti.

Riconoscimento immagini su dispositivi mobili

Gli esperimenti condotti su dataset come MNIST (riconoscimento di cifre scritte a mano) e CIFAR-10 (classificazione di oggetti) mostrano che è possibile addestrare modelli di visione artificiale con FL e DP mantenendo un’accuratezza ragionevole. Questi esperimenti rivelano importanti compromessi tra privacy, accuratezza e costi computazionali.

Su MNIST, modelli privati con diversi livelli di rumore (σ = 0.75, 0.9, 1.0) possono raggiungere un’accuratezza del 90% dopo un numero variabile di round di sincronizzazione, con una perdita di accuratezza relativamente contenuta rispetto ai modelli non privati. Su CIFAR-10, che è un dataset più complesso, i modelli privati possono raggiungere un’accuratezza del 52% rispetto al 64.7% dei modelli non privati.

Queste tecnologie sono particolarmente rilevanti per applicazioni come il riconoscimento di oggetti o la classificazione di immagini sui dispositivi mobili, dove i dati delle immagini personali devono rimanere privati per evitare violazioni della privacy visiva.

Modelli linguistici e previsione testo

Google ha implementato FL con DP per addestrare modelli di previsione delle parole per la tastiera Gboard. In un recente studio pubblicato da Xu et al., hanno dimostrato che tutti i modelli di predizione delle parole successive in Gboard ora hanno garanzie DP, e tutti i futuri lanci di modelli linguistici neurali Gboard richiederanno garanzie DP.

Questo permette ai modelli di migliorare in base all’uso reale senza esporre il comportamento di digitazione individuale degli utenti, che potrebbe contenere informazioni sensibili come password, informazioni personali o conversazioni private.

Con l’avvento dei grandi modelli linguistici (LLM) come ChatGPT, l’applicazione di FL con DP per il fine-tuning su domini specifici rappresenta un’area di ricerca promettente. Questi modelli potrebbero beneficiare dell’apprendimento da dati di utenti reali senza compromettere la privacy individuale.

Strumenti e framework per implementare FL con DP

Per facilitare l’implementazione pratica di queste tecnologie, sono stati sviluppati numerosi framework e piattaforme software. Alcuni dei più rilevanti includono:

TensorFlow Privacy e TensorFlow Federated: Librerie di Google che si integrano perfettamente con i modelli TensorFlow esistenti e consentono l’addestramento di modelli personalizzati con DP. Tuttavia, i meccanismi DP integrati sono relativamente fissi nel design e non supportano ottimizzazioni personalizzate flessibili.

Opacus: Una libreria scalabile ed efficiente per l’addestramento di modelli PyTorch con DP. Introduce un’astrazione di un “privacy engine” che si collega all’ottimizzatore PyTorch standard, rendendo molto più semplice l’implementazione di DP-SGD senza chiamare esplicitamente API di basso livello.
PySyft: Una libreria Python che supporta FL e DP, e disaccoppia l’addestramento del modello dai dati privati. La versione attuale si concentra principalmente sul calcolo multi-party sicuro (SMC) e sulla crittografia omomorfa (HE) piuttosto che sull’implementazione DP.

FedML: Una libreria di ricerca aperta e benchmark standardizzato con diversi paradigmi e configurazioni FL. La versione attuale integra solo DP debole ma fornisce API di basso livello per primitive di sicurezza.

Sherpa.ai FL: Un framework unificato per FL con DP, che presenta un supporto completo per meccanismi DP e tecniche di ottimizzazione. Tuttavia, si concentra principalmente sull’ottimizzazione a livello di algoritmo e non considera l’implementazione del sistema pratico.
Questi strumenti stanno rendendo più accessibile l’implementazione di FL con DP, anche se c’è ancora spazio per framework più completi che supportino tutte le varianti di questi approcci con ottimizzazioni flessibili.

Sfide emergenti e direzioni future

Nonostante i significativi progressi nell’integrazione di FL con DP, rimangono diverse sfide aperte che richiedono ulteriori ricerche:

Federated Learning verticale e di trasferimento

Mentre il FL orizzontale (dove i client hanno dati con le stesse caratteristiche ma esempi diversi) è stato ampiamente studiato, il FL verticale (dove diverse parti detengono caratteristiche diverse degli stessi campioni) pone sfide uniche per l’integrazione della DP.

Il FL verticale ha guadagnato crescente attenzione, ma molti studi esistenti si basano sul calcolo multi-party sicuro (SMC) per proteggere la riservatezza senza considerare la perdita di privacy nei risultati finali. Per ottenere una resistenza dimostrabile agli attacchi di inferenza di appartenenza o ricostruzione, è essenziale impiegare la DP anche nel VFL.

Questa integrazione è più impegnativa per due motivi principali: in primo luogo, il design degli algoritmi VFL varia per diverse attività e modelli, spesso richiedendo uno sviluppo caso per caso; in secondo luogo, le correlazioni tra attributi distribuiti sono più difficili da identificare senza diffondere informazioni individuali ad altre parti.

Grandi Modelli Linguistici (LLM)

Con l’emergere di modelli linguistici di grandi dimensioni come ChatGPT, sia FL che DP mostrano un futuro promettente nel fine-tuning di LLM preservando la privacy rispetto ai dati di dominio privato. Tuttavia, questi modelli possono avere da diversi miliardi a centinaia di miliardi di parametri, ponendo sfide significative.

Quando si applicano DP e FL a LLM, ci saranno molteplici sfide riguardanti l’enorme numero di parametri, al di là degli oneri aggiuntivi di comunicazione e calcolo sui partecipanti con risorse limitate. Indipendentemente dal modello DP, la quantità totale di rumore per la privacy deve essere proporzionale al numero di parametri per applicare DP sui modelli, il che porterebbe a enormi perdite di utilità senza tecniche specializzate.

Inoltre, il fine-tuning di LLM pre-addestrati è diverso dall’addestramento convenzionale dei modelli. La garanzia di privacy teorica nell’ML (ad esempio, DP-SGD) spesso presuppone che i modelli siano appresi da zero con molte iterazioni di addestramento, invece di una modalità di fine-tuning con molte meno iterazioni.

Federated Learning su stream di dati

In molti scenari realistici, i dati di addestramento vengono generati continuamente sotto forma di stream sui client distribuiti. In tali casi, i sistemi FL devono condurre analisi ripetitive su stream distribuiti. Ereditando l’apprendimento automatico online (OL), il federated learning online può essere derivato naturalmente per evitare di riaddestramento i modelli da zero ogni volta che arriva un nuovo frammento di dati.

Tuttavia, ottenere DP per questo scenario porta molteplici sfide. La prima è come definire la privacy nell’impostazione OFL, poiché la nozione generale di DP funziona solo per dataset statici. Sebbene le nozioni di privacy esistenti per i flussi di dati e FL sembrino applicabili qui, devono ancora essere chiarite e formulate rigorosamente nell’impostazione OFL.

La seconda sfida riguarda l’efficienza algoritmica. Prendendo come esempio la LDP a livello di evento (cioè, garantire ε-LDP in ogni istanza temporale), il frequente caricamento degli aggiornamenti del modello locale accumula enormi costi di comunicazione e grande perdita di utilità, poiché il rumore è proporzionale alla dimensione dei dati di comunicazione.

Robustezza, equità e diritto all’oblio

Un sistema FL robusto dovrebbe essere resiliente a vari guasti e attacchi causati da partecipanti che si comportano male. A causa delle capacità limitate (ad esempio, limiti della batteria), i client FL (ad esempio, smartphone) potrebbero abbandonare l’addestramento FL in modo imprevisto in qualsiasi momento. I dropout casuali dei client presentano gravi sfide per la progettazione pratica di FL con privacy differenziale.

La protezione della privacy è solo il primo passo per incoraggiare la condivisione dei dati tra una grande popolazione. L’applicazione dell’equità (fairness) aiuta a mitigare il bias involontario su individui con dati eterogenei. Tuttavia, il dilemma è che la DP mira a oscurare attributi identificabili mentre l’equità richiede la conoscenza dei valori degli attributi sensibili degli individui per evitare risultati distorti. Il clipping del gradiente e l’aggiunta di rumore nella DP possono peggiorare l’iniquità diminuendo l’accuratezza del modello per classi e sottogruppi sottorappresentati.

Inoltre, i diritti alla privacy includono il “diritto all’oblio”, cioè gli utenti possono scegliere di non contribuire con dati privati senza lasciare traccia. Poiché i modelli ML memorizzano molte informazioni specifiche sui campioni di addestramento, il concetto di “unlearning” della macchina è proposto per eliminare la sua influenza sui modelli addestrati. Tuttavia, l’unlearning federato affronta sfide distinte, poiché è molto più difficile cancellare l’influenza dei dati di un client quando il modello globale ha iterativamente trasportato le informazioni di tutti i client partecipanti.

Un Futuro di apprendimento collaborativo e privato

L’integrazione del Federated Learning con la Privacy Differenziale rappresenta una frontiera promettente per l’apprendimento automatico rispettoso della privacy. Questa combinazione permette di sbloccare il potenziale dell’IA superando il problema della frammentazione dei dati su larga scala, consentendo al contempo garanzie di privacy rigorose che possono rispettare sia la consapevolezza della privacy che la conformità normativa.

Abbiamo esplorato i diversi paradigmi per implementare FL con DP, dai modelli centralizzati che richiedono fiducia nel server, agli approcci locali che proteggono i dati prima che lascino il dispositivo, fino ai sistemi distribuiti più avanzati che utilizzano tecniche crittografiche per ottenere alta accuratezza senza un aggregatore fidato. Abbiamo anche discusso le sfide tecniche fondamentali nell’ottimizzazione dell’utilità di questi sistemi, incluse la calibrazione della soglia di clipping, l’ottimizzazione della distribuzione del rumore e la composizione della perdita di privacy.

Le applicazioni pratiche in sanità, visione artificiale e modelli linguistici dimostrano il potenziale di queste tecnologie, mentre gli strumenti e i framework emergenti stanno rendendo più accessibile la loro implementazione. Le sfide future nella gestione di dati verticali, grandi modelli linguistici, stream di dati e bilanciamento tra privacy, robustezza ed equità continueranno a guidare l’innovazione in questo campo.

Con il continuo avanzamento della tecnologia, possiamo aspettarci soluzioni sempre più sofisticate che consentano ai sistemi di apprendimento automatico di operare su dati sensibili distribuiti senza compromettere la privacy individuale. Come dimostrano le implementazioni iniziali in vari campi, dalle tastiere mobili all’assistenza sanitaria, questa combinazione di tecnologie ha il potenziale per trasformare radicalmente il modo in cui utilizziamo i dati per l’addestramento dei modelli di AI, realizzando finalmente la promessa di sistemi di intelligenza artificiale che rispettano pienamente la privacy dei dati personali.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/federated-learning-privacy-differenziale/




Machine Unlearning e IA Generativa: il mito della cancellazione dei dati nell’IA

Nell’universo in rapida evoluzione della sicurezza informatica, l’intelligenza artificiale generativa ha introdotto paradigmi completamente nuovi che sfidano le nostre concezioni tradizionali di protezione dei dati, privacy e cybersecurity. Tra le questioni più dibattute e fraintese emerge il concetto di “machine unlearning”, una tecnologia che promette di far “dimenticare” alle IA informazioni specifiche. Ma cosa succede quando questa promessa si scontra con la realtà tecnica? Approfondiamo le implicazioni per la sicurezza informatica di un fenomeno che rischia di creare un pericoloso falso senso di protezione.

Il seguente articolo analizza e sviluppa i concetti presentati nella pubblicazione accademica “Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice” di A. Feder Cooper et al., 2024, e ne approfondisce le implicazioni per la sicurezza informatica contemporanea.

La promessa infranta del Machine Unlearning

Il machine unlearning rappresenta, in teoria, una soluzione elegante a problemi complessi: permettere ai modelli di intelligenza artificiale di “disimparare” informazioni specifiche senza necessità di riaddestrarli completamente. Questa possibilità appare particolarmente allettante nel contesto del Regolamento Generale sulla Protezione dei Dati (GDPR) europeo, che garantisce il “diritto all’oblio”. L’idea che si possa semplicemente “cancellare” dati sensibili o potenzialmente dannosi dai modelli di IA è seducente, ma nasconde una realtà ben più complessa.

A differenza di un database tradizionale, dove è possibile identificare e rimuovere record specifici, un modello di IA generativa non archivia informazioni in modo discreto e facilmente accessibile. Durante l’addestramento, i dati vengono trasformati in pattern codificati nei parametri del modello – pattern che non sono né direttamente né facilmente interpretabili. La rimozione di informazioni da un modello di IA non è quindi paragonabile all’eliminazione di dati da un database.

Questa discrepanza fondamentale crea una vulnerabilità significativa: l’illusione che informazioni sensibili siano state effettivamente rimosse quando, in realtà, tracce di esse potrebbero persistere in forme latenti o emergere in modo inaspettato nelle generazioni future del modello.

I rischi nascosti nei sistemi con rimozione selettiva dei dati

Quando si parla di sicurezza informatica nell’ambito dell’IA generativa, emerge un problema cruciale: la rimozione di informazioni osservate (i dati di addestramento) non garantisce la soppressione di output problematici. In altre parole, anche se si eliminassero tutte le immagini protette da copyright di un personaggio come Spiderman dal dataset di addestramento di un modello, questo non impedirebbe necessariamente al modello di generare output che assomigliano a Spiderman.

Questo fenomeno crea un rischio di sicurezza non trascurabile: organizzazioni e aziende potrebbero credere erroneamente di aver mitigato rischi legali o di sicurezza rimuovendo determinate informazioni dai loro modelli, mentre in realtà rimangono potenzialmente vulnerabili. È un caso classico in cui la percezione di sicurezza diventa più pericolosa dell’assenza di sicurezza stessa, poiché porta a decisioni basate su presupposti errati.

L’aspetto più preoccupante è che, tramite prompt sapientemente costruiti, utenti malintenzionati potrebbero aggirare le misure di unlearning reintroducendo informazioni che si credevano rimosse. Questo scenario è particolarmente allarmante quando si tratta di informazioni sensibili come dati personali, procedure di sicurezza o conoscenze che potrebbero essere sfruttate per attività dannose.

La natura Dual-Use dell’IA e i dilemmi di sicurezza irrisolvibili

Un altro aspetto fondamentale che complica ulteriormente il panorama della sicurezza informatica è la natura intrinsecamente “dual-use” dei sistemi di IA generativa. Come un computer può essere utilizzato sia per progettare un’arma biologica che per comporre il prossimo grande musical di Broadway, anche i sistemi di IA generativa possono essere impiegati per scopi sia benefici che dannosi.

Questa dualità pone una sfida insormontabile: anche output apparentemente innocui, se isolati, potrebbero essere utilizzati per scopi dannosi in contesti diversi. Ad esempio, un modello potrebbe generare informazioni su una singola reazione chimica – perfettamente legittima in un contesto educativo – che, combinata con altre conoscenze in possesso di un utente malintenzionato, potrebbe consentire la creazione di una molecola tossica.

Il problema fondamentale è che nessun metodo di unlearning può anticipare come una persona o un altro agente potrebbe comportarsi con gli output dell’IA in un numero potenzialmente infinito di contesti diversi. Il controllo che i metodi di unlearning possono offrire è limitato ai parametri del modello e ai suoi output diretti, ma non può estendersi agli usi imprevisti o deliberatamente malevoli di tali output.

L’impatto sulla Privacy nell’era Post-GDPR

La privacy rappresenta forse il campo dove le limitazioni del machine unlearning hanno le implicazioni più immediate. L’interpretazione comune del “diritto all’oblio” sancito dal GDPR presuppone che sia possibile rimuovere completamente l’influenza dei dati personali di un individuo da un modello addestrato. Questa interpretazione, sebbene diffusa nella letteratura di ricerca sull’apprendimento automatico, si scontra con limitazioni tecniche significative.

Anche se si rimuovessero tutti i dati personali di un individuo dal dataset di addestramento e si riaddestrasse il modello da zero (il cosiddetto “gold standard” per l’unlearning), non vi sarebbe alcuna garanzia che il modello non possa comunque generare informazioni sensibili su quell’individuo attraverso generalizzazioni basate su informazioni latenti derivate da altri dati.

Questo solleva questioni fondamentali: se un modello di IA può ancora fare inferenze su un individuo dopo che i suoi dati specifici sono stati “disimparati”, si può davvero affermare che il diritto alla privacy di quell’individuo sia stato rispettato? La sicurezza dei dati personali è realmente garantita, o stiamo semplicemente applicando una soluzione superficiale a un problema profondamente radicato nella natura stessa dell’intelligenza artificiale?

Le sfide di sicurezza nel contesto del copyright e della proprietà intellettuale

Anche nel campo del copyright e della proprietà intellettuale, il machine unlearning solleva problematiche di sicurezza significative. Se un’azienda riceve una richiesta di rimozione per contenuti protetti da copyright nel proprio modello di IA, potrebbe implementare metodi di unlearning per tentare di rimuovere tali contenuti o sopprimere output simili.

Tuttavia, la natura indefinita della “somiglianza sostanziale” nel diritto d’autore rende impossibile programmare in modo completo e affidabile quali opere siano sostanzialmente simili ad altre. Un modello modificato per non generare immagini simili a una particolare immagine di un personaggio protetto da copyright potrebbe comunque generare immagini simili ad altre rappresentazioni dello stesso personaggio – o di altri personaggi dello stesso creatore.

Questa incertezza espone le organizzazioni a rischi legali significativi, creando una zona grigia dove nemmeno le migliori pratiche di unlearning possono garantire una protezione completa. La sicurezza giuridica diventa così un miraggio, con implicazioni economiche potenzialmente devastanti date le severe sanzioni previste per le violazioni del copyright.

Verso un approccio di sicurezza realistico nell’era dell’IA Generativa

Di fronte a queste sfide, è fondamentale sviluppare un approccio alla sicurezza informatica più realistico e sfumato quando si tratta di IA generativa. Il primo passo è riconoscere che il machine unlearning non è una soluzione universale, ma solo uno strumento tra molti nel toolkit della sicurezza informatica e della conformità normativa.

Le organizzazioni dovrebbero adottare una visione più sfumata e orientata al rischio, concentrandosi non solo sulla rimozione delle informazioni dai modelli, ma anche su robusti sistemi di filtraggio degli output e politiche di utilizzo responsabile. Invece di promettere l’impossibile – la rimozione completa e irreversibile di informazioni specifiche – le organizzazioni dovrebbero mirare a “sforzi ragionevoli” per mitigare i rischi, un approccio che potrebbe trovare maggiore comprensione anche tra giudici e regolatori.

È inoltre cruciale comprendere che la sicurezza dell’IA generativa è una questione di sistema, non solo di modello. Gli interventi a livello di sistema (come i filtri di contenuto) sono strumenti importanti per limitare gli output problematici, ma la loro efficacia richiede un’analisi a livello di sistema. I modelli a pesi aperti, come la famiglia Llama di Meta, presentano sfide particolari per l’unlearning, poiché rilasciati come parametri senza possibilità di implementare guardrail a livello di sistema.

Strategie concrete per i professionisti della Sicurezza Informatica

Alla luce delle problematiche evidenziate, i professionisti della cybersecurity che lavorano con sistemi di IA generativa dovrebbero adottare un approccio multistrato che vada oltre il semplice affidarsi alle tecniche di cancellazione dei dati. Ecco alcune strategie concrete:

  1. Implementare sistemi di monitoraggio continuo: Anziché presumere che la rimozione dei dati sia definitiva, è essenziale monitorare costantemente gli output dei modelli per identificare eventuali “fughe” di informazioni che si ritenevano rimosse.
  2. Adottare una difesa a profondità: Combinare diverse tecniche di protezione, inclusi filtri di output, verifiche pre-rilascio, e sistemi di rilevamento di prompt malevoli che tentano di aggirare le protezioni.
  3. Abbracciare il principio del “least privilege”: Limitare l’accesso ai modelli più potenti solo agli usi assolutamente necessari, implementando versioni con capacità ridotte per applicazioni meno critiche.
  4. Sviluppare protocolli di risposta agli incidenti specifici per l’IA: Creare procedure di emergenza dedicate che considerino la possibilità che informazioni “disimparate” possano riemergere in modi inaspettati.
  5. Implementare tecniche di offuscamento dei dati sensibili: Quando possibile, trasformare i dati sensibili prima dell’addestramento in modo da preservare i pattern utili eliminando le informazioni identificative specifiche.

Dal punto di vista organizzativo, è fondamentale che i responsabili della sicurezza informatica:

  • Comunichino chiaramente i limiti delle tecnologie di cancellazione dei dati ai dirigenti e agli stakeholder;
  • Documentino in modo trasparente i rischi residui dopo l’applicazione delle tecniche di unlearning;
  • Integrino valutazioni specifiche per l’IA nei processi di gestione del rischio aziendale;
  • Collaborino strettamente con esperti legali per allineare le aspettative di conformità con le reali capacità tecniche.

Infine, è cruciale adottare un approccio di sicurezza adattivo che riconosca che i modelli di IA generativa sono entità dinamiche. La sicurezza non può essere considerata come uno stato finale da raggiungere, ma come un processo continuo di valutazione, miglioramento e adattamento alle nuove vulnerabilità che emergono con l’evoluzione dei modelli e delle tecniche di attacco.

Ripensare la Sicurezza nell’era Post-Controllo

L’analisi del machine unlearning rivela una verità scomoda: stiamo entrando in un’era in cui l’illusione del controllo tecnologico totale deve essere abbandonata. Le implicazioni di questa realtà sono profonde e richiedono un cambio di paradigma radicale nella sicurezza informatica.

Il settore della cybersecurity ha storicamente operato su un presupposto fondamentale: che con sufficienti risorse, competenze e tecnologie, sia possibile creare sistemi “sicuri”. I modelli di IA generativa sfidano questo assioma in modo fondamentale. Come dimostrato dalle limitazioni intrinseche del machine unlearning, ci troviamo di fronte a sistemi la cui complessità supera la nostra capacità di controllo deterministico.

Questo non è semplicemente un problema tecnico che sarà risolto da metodi più sofisticati in futuro. È una limitazione fondamentale e ineludibile che deriva dalla natura stessa dell’apprendimento automatico avanzato. Ogni tentativo di controllare rigorosamente questi sistemi si traduce inevitabilmente in una riduzione della loro utilità e potenza, creando un compromesso impossibile da risolvere in modo soddisfacente.

La conclusione più radicale è che dobbiamo abbandonare il paradigma della “cyber-sicurezza” in favore di un approccio di “cyber-resilienza”. La differenza è sostanziale: mentre la sicurezza si concentra sulla prevenzione degli incidenti, la resilienza accetta l’inevitabilità di alcuni fallimenti e si concentra sulla capacità di un sistema di continuare a funzionare nonostante gli attacchi o le compromissioni.

Invece di promettere falsamente che le informazioni sensibili possono essere completamente rimosse dai modelli di IA, dovremmo sviluppare architetture che possano funzionare in modo sicuro anche quando alcuni dati vengono inevitabilmente esposti. Questo richiede un cambiamento profondo nella progettazione di sistemi, nelle metodologie di valutazione del rischio e nella formazione professionale.

La vera innovazione nella sicurezza dell’IA non verrà da tentativi sempre più sofisticati di controllare l’incontrollabile, ma da approcci che accettano i limiti del controllo e costruiscono robustezza attraverso ridondanza, compartimentazione e ripristino rapido. Questo è un cambiamento epistemologico profondo, che richiede di abbandonare il confortante ma illusorio paradigma della sicurezza assoluta.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/machine-unlearning-e-ia-gen/




Clausole tipo per il Trasferimento dei Dati Extra-UE

Questa pubblicazione fa parte di una serie dedicata al Registro dei Trattamenti in conformità al GDPR, il presente focus esaminerà le clausole tipo per la protezione dei dati in ottemperanza all’articolo 46 del GDPR, offrendo una panoramica dettagliata sulle garanzie adeguate per i trasferimenti di dati verso paesi terzi.

Clausole tipo per la Protezione dei Dati: garanzie GDPR per Trasferimenti Extra-UE

L’articolo 46 del GDPR elenca due ulteriori garanzie adeguate per il titolare del trattamento dei dati nelle ipotesi di trasferimento dei dati in paesi extra-UE:

  • Le clausole tipo di protezione dei dati adottate dalla Commissione secondo la procedura d’esame di cui all’articolo 93, paragrafo 2.
  • Le clausole tipo di protezione dei dati adottate da un’autorità di controllo e approvate dalla Commissione secondo la procedura d’esame di cui all’articolo 93, paragrafo 2.

Si tratta di uno strumento negoziale che può essere aggiunto al contratto che le parti intendono sottoscrivere per regolamentare i loro rapporti. È utile richiamare il Considerando 109, che sottolinea la possibilità per le parti di non eliminare, ma solo aggiungere ulteriori clausole rispetto a quelle adottate o approvate dalla Commissione o da un’autorità, purché non siano in contrasto, né direttamente né indirettamente, con le clausole tipo di protezione. È inoltre necessario incoraggiare i titolari e i responsabili del trattamento a fornire garanzie supplementari attraverso impegni contrattuali che integrino le clausole tipo di protezione.

Garanzie adeguate GDPR: clausole contrattuali e approvazioni

Se concordate in autonomia dalle parti e in alternativa alle clausole di cui all’articolo 46, paragrafo 2, lettere c) e d), le clausole contrattuali tra il titolare del trattamento o il responsabile del trattamento e il destinatario dei dati personali nel paese terzo possono costituire garanzie adeguate a norma dell’articolo 46, paragrafo 3, lettera a) del GDPR, purché approvate preliminarmente dall’Autorità e in aderenza al principio del meccanismo di coerenza di cui all’articolo 63, paragrafo 3 del GDPR.

Garanzie adeguate non condizionate

Tra le garanzie adeguate non condizionate, a norma dell’articolo 46, paragrafo 2, lettere e) e f), per le quali non sono richieste autorizzazioni da parte della Commissione europea né dell’Autorità, ci sono:

  • Un codice di condotta approvato a norma dell’articolo 40, unitamente all’impegno vincolante ed esecutivo da parte del titolare del trattamento o del responsabile del trattamento nel paese terzo ad applicare le garanzie adeguate, anche per quanto riguarda i diritti degli interessati.
  • Un meccanismo di certificazione approvato a norma dell’articolo 42, unitamente all’impegno vincolante ed esigibile da parte del titolare del trattamento o del responsabile del trattamento nel paese terzo ad applicare le garanzie adeguate, anche per quanto riguarda i diritti degli interessati.

Codici di condotta e certificazioni GDPR: requisiti e applicabilità

Un codice di condotta approvato a norma dell’articolo 40 del GDPR deve includere sanzioni interne e garantire agli interessati la possibilità di azionare tutti gli strumenti previsti dal GDPR a loro tutela. In merito alle figure che possono avvalersi dei codici di condotta, l’articolo 40, paragrafo 3, include anche i titolari del trattamento o i responsabili del trattamento che non sono soggetti al Regolamento ai sensi dell’articolo 3.

Analogo ragionamento si applica alle certificazioni, poiché l’articolo 46, paragrafo 2, lettera f) del GDPR richiede le medesime garanzie: devono essere vincolanti ed esigibili. La certificazione, al pari del codice di condotta, non è da sola sufficiente a rendere la certificazione una garanzia adeguata; è necessario un meccanismo di certificazione approvato a norma dell’articolo 42, unitamente all’impegno vincolante ed esigibile da parte del titolare del trattamento o del responsabile del trattamento nel paese terzo a adottare le garanzie adeguate.

Le clausole tipo, i codici di condotta e le certificazioni sono strumenti cruciali nel GDPR per garantire trasferimenti sicuri e conformi di dati personali verso paesi extra-UE. Questi strumenti devono essere attentamente implementati e approvati per assicurare che i diritti degli interessati siano sempre protetti.

div]:bg-bg-300 [&_.ignore-pre-bg>div]:bg-transparent [&_pre]:-mr-4 md:[&_pre]:-mr-9″>

_*]:min-w-0″>

L’articolo ha esaminato in dettaglio le Clausole Tipo per la protezione dei dati secondo l’articolo 46 del GDPR, evidenziando come queste rappresentino uno strumento negoziale fondamentale che può essere integrato nei contratti tra le parti. Le Clausole Tipo, sia quelle adottate dalla Commissione che quelle approvate dalle autorità di controllo, forniscono una panoramica completa delle garanzie adeguate per i trasferimenti di dati verso paesi terzi, permettendo anche l’aggiunta di clausole supplementari purché non in contrasto con quelle standard.

Il prossimo approfondimento tratterà nel dettaglio l’articolo 48 del GDPR dedicato al trasferimento e comunicazione non autorizzata dal diritto dell’Unione. Per ulteriori analisi vi invitiamo a scaricare gratuitamente e con libero accesso il contenuto integrale “La compilazione del Registro dei trattamenti nel nuovo quadro normativo del Reg. UE 679/2016“.

Profilo Autore

Tecnologo presso l’UAIG del CNR.
Abilitato all’esercizio della professione forense.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/clausole-tipo/




That groan you hear is users’ reaction to Recall going back into Windows

Security and privacy advocates are girding themselves for another uphill battle against Recall, the AI tool rolling out in Windows 11 that will screenshot, index, and store everything a user does every three seconds.

When Recall was first introduced in May 2024, security practitioners roundly castigated it for creating a gold mine for malicious insiders, criminals, or nation-state spies if they managed to gain even brief administrative access to a Windows device. Privacy advocates warned that Recall was ripe for abuse in intimate partner violence settings. They also noted that there was nothing stopping Recall from preserving sensitive disappearing content sent through privacy-protecting messengers such as Signal.

Enshittification at a new scale

Following months of backlash, Microsoft later suspended Recall. On Thursday, the company said it was reintroducing Recall. It currently is available only to insiders with access to the Windows 11 Build 26100.3902 preview version. Over time, the feature will be rolled out more broadly. Microsoft officials wrote:

Recall (preview)* saves you time by offering an entirely new way to search for things you’ve seen or done on your PC securely. With the AI capabilities of Copilot+ PCs, it’s now possible to quickly find and get back to any app, website, image, or document just by describing its content. To use Recall, you will need to opt-in to saving snapshots, which are images of your activity, and enroll in Windows Hello to confirm your presence so only you can access your snapshots. You are always in control of what snapshots are saved and can pause saving snapshots at any time. As you use your Copilot+ PC throughout the day working on documents or presentations, taking video calls, and context switching across activities, Recall will take regular snapshots and help you find things faster and easier. When you need to find or get back to something you’ve done previously, open Recall and authenticate with Windows Hello. When you’ve found what you were looking for, you can reopen the application, website, or document, or use Click to Do to act on any image or text in the snapshot you found.

Microsoft is hoping that the concessions requiring opt-in and the ability to pause Recall will help quell the collective revolt that broke out last year. It likely won’t for various reasons.

https://arstechnica.com/security/2025/04/microsoft-is-putting-privacy-endangering-recall-back-into-windows-11/




Regolamento UE sui Servizi Digitali (DSA): responsabilizzazione delle piattaforme online

Il Regolamento UE sui Servizi Digitali (Digital Services Act, DSA) Regolamento (UE) 2022/2065 rappresenta una delle più importanti riforme nel settore digitale in Europa, con l’obiettivo di rendere le piattaforme online più responsabili e trasparenti. Il DSA, insieme al Digital Markets Act (DMA), fa parte di un pacchetto normativo volto a regolamentare il settore digitale per garantire un ambiente più sicuro, equo e competitivo. L’obiettivo finale è costruire un ecosistema digitale più sicuro e degno di fiducia, garantendo una protezione efficace dei diritti dei consumatori e contrastando la diffusione di contenuti, prodotti e servizi illegali, oltre a fenomeni dannosi legati al mondo digitale, come la disinformazione, l’incitamento all’odio e il cyberstalking.

Questa normativa introduce obblighi chiari per le piattaforme online, migliorando la protezione degli utenti e imponendo misure efficaci per contrastare la diffusione di contenuti illeciti e pericolosi.

Il regolamento, entrato in vigore nel novembre 2022, è applicabile a tutte le piattaforme digitali nell’Unione Europea dal 17 febbraio 2024, mentre per le piattaforme di grandissime dimensioni (VLOPs, Very Large Online Platforms) quelle con oltre 45 milioni di utenti attivi nell’UE alcuni obblighi erano già in vigore dal 25 agosto 2023. L’ampia portata di questa normativa coinvolge giganti del web come Google, Facebook, Twitter, TikTok e Amazon, ma anche piccole e medie piattaforme, ognuna con obblighi proporzionati alla propria dimensione e impatto.

DSA: obblighi di trasparenza per i fornitori di servizi online

Il DSA si applica a un’ampia gamma di aziende, che spaziano dai siti di informazione alle applicazioni, dai servizi di cloud e hosting alle piattaforme di economia collaborativa. Per questo motivo, il Regolamento suddivide i servizi digitali in quattro categorie principali e, oltre agli obblighi generali validi per tutte le piattaforme, stabilisce regole specifiche per ciascuna tipologia, aumentando progressivamente i requisiti in base all’incidenza e all’influenza di ogni servizio.

Uno degli aspetti centrali del DSA riguarda la trasparenza appunto delle piattaforme digitali e dei servizi online. Secondo quanto stabilito dal Regolamento, le piattaforme online, come i social network o i marketplace che permettono ai consumatori di stipulare contratti a distanza con operatori commerciali, sono quelle che non si limitano a conservare le informazioni fornite dagli utenti su loro richiesta, ma le rendono anche accessibili al pubblico su richiesta degli stessi utenti.

Il Digital Services Act (DSA) non si limita alle piattaforme online, ma si estende anche ai servizi di hosting, come i provider di cloud e i sistemi di gestione dei nomi di dominio, che facilitano la connessione degli utenti agli indirizzi web richiesti. Inoltre, la normativa si applica agli intermediari online, tra cui i fornitori di servizi Internet e di domini.

Il regolamento impone quindi alle aziende di garantire maggiore chiarezza sulle loro pratiche, policy e algoritmi, al fine di tutelare gli utenti e ridurre il rischio di abuso.

Tra gli obblighi principali, troviamo:

  1. Chiarezza sui termini e condizioni: i fornitori di servizi devono rendere chiari e comprensibili i loro termini di servizio, specificando in modo dettagliato le politiche di moderazione dei contenuti, le regole per la rimozione di contenuti e le misure adottate per contrastare la diffusione di contenuti illegali.
  2. Chiarezza sugli algoritmi di raccomandazione: piattaforme come YouTube, Instagram e TikTok devono fornire spiegazioni comprensibili su come funzionano gli algoritmi che determinano i contenuti mostrati agli utenti. Inoltre, devono offrire alternative basate su logiche non profilate, come il semplice ordine cronologico.
  3. Informazioni sulla pubblicità online: ogni annuncio pubblicitario deve essere chiaramente identificabile come tale e deve riportare informazioni su chi lo ha pagato e perché viene mostrato a un determinato utente. Infatti, le aziende dovranno compilare e rendere disponibile al pubblico un registro, accessibile in una sezione specifica della loro interfaccia online. Il registro deve contenere informazioni dettagliate sulla pubblicità, come il suo contenuto, la persona fisica o giuridica per conto della quale è stata pubblicata, il periodo di diffusione della pubblicità, e altri dettagli pertinenti (art. 39 DSA).

In particolare, l’articolo, che si concentra sulla “chiarezza della pubblicità online”, vieta l’uso di “tecniche di targeting o amplificazione che trattano, rivelano o inferiscono i dati personali di minori o persone vulnerabili per finalità pubblicitarie”.

  1. Accesso ai dati per i ricercatori: il DSA introduce un’importante misura per consentire ai ricercatori indipendenti di accedere ai dati delle piattaforme di grandi dimensioni per studiare fenomeni come la disinformazione, l’impatto dei social media sulle elezioni e la radicalizzazione online.
  2. Analizzare e valutare gli eventuali rischi sistemici in Ue derivanti dalla progettazione e dal funzionamento dei loro servizi e dei relativi sistemi (es. sistemi algoritmici) o dall’uso dei loro servizi (art. 34 DSA);
  3. Mettere in atto misure efficaci, proporzionate e ragionevoli per attenuare i rischi individuati a norma dell’art. 34 e prestando particolare attenzione agli effetti di tali misure sui diritti fondamentali (art. 35 DSA);
  4. Istituire una funzione di controllo della conformità indipendentedalle loro funzioni operative e composta da uno o più responsabili della conformità. Tale funzione di controllo della conformità dispone di autorità, status e risorse sufficienti per monitorare la conformità di tale fornitore al presente regolamento (art. 41 DSA).

Questi obblighi non si applicano però ai marketplace che offrono servizi esclusivamente a operatori commerciali classificati come microimprese o piccole imprese, secondo la definizione fornita dalla raccomandazione 2003/361/CE (art. 29).

L’obiettivo di queste misure è fornire agli utenti maggiore consapevolezza su come funzionano le piattaforme e limitare pratiche opache che potrebbero influenzare o condizionare il loro comportamento online.

Le piattaforme che violano il DSA possono essere soggette a sanzioni fino al 6% del loro fatturato annuo totale. Inoltre, i destinatari dei servizi digitali hanno il diritto di chiedere un risarcimento per danni o perdite subite a causa di violazioni commesse dalle piattaforme.

Tra i motivi che possono comportare sanzioni per le piattaforme includono:

  • la fornitura di informazioni errate, incomplete o ingannevoli;
  • la mancata correzione delle informazioni fornite;
  • il rifiuto di sottoporsi ai controlli previsti.

In questi casi, come previsto dall’art. 42 del DSA, le sanzioni devono essere inferiori all’1% del reddito o del fatturato annuo.

Misure per contrastare la diffusione di contenuti illegali e dannosi

Un altro pilastro del DSA è rappresentato dalle norme volte a prevenire la diffusione di contenuti illegali e dannosi, proteggendo al contempo la libertà di espressione. Il regolamento stabilisce che le piattaforme online non sono responsabili dei contenuti pubblicati dagli utenti, ma hanno l’obbligo di rimuovere rapidamente i contenuti illegali una volta notificati.

Le misure principali in questo ambito includono:

  • Obbligo di agire rapidamente contro i contenuti illegali: le piattaforme devono implementare sistemi efficaci per la segnalazione e rimozione di contenuti illegali, come incitamenti all’odio, materiale pedopornografico, vendita di prodotti contraffatti o contenuti terroristici.
  • Segnalatori attendibili: il DSA introduce la figura dei “trusted flaggers”, ovvero entità riconosciute a livello nazionale che hanno il compito di segnalare contenuti problematici alle piattaforme, le quali devono dare loro priorità nelle revisioni.
  • Misure proattive per ridurre i rischi sistemici: le piattaforme di grandissime dimensioni devono effettuare valutazioni annuali sui rischi legati alla disinformazione, alla manipolazione elettorale e alla sicurezza degli utenti, adottando strategie per mitigarli.

Il DSA, all’articolo 24, ha ribadito la priorità degli interessi dei minori rispetto a quelli commerciali e pubblicitari.

Il divieto di utilizzo dei dati dei minori per scopi commerciali era già previsto dalla direttiva UE 2018/1808 sui servizi audiovisivi, ma la novità introdotta dal DSA è che, oltre alle sanzioni posteriori, i danni potenziali per i minori devono essere inclusi nell’obbligo di valutazione dei rischi sistemici.

In particolare, le piattaforme sono tenute a effettuare valutazioni d’impatto sui rischi sistemici, che includano “eventuali effetti negativi sui diritti fondamentali, come il rispetto della vita privata e familiare, la libertà di espressione e di informazione, il diritto alla non discriminazione e i diritti dei minori, come sancito dagli articoli 7, 11, 21 e 24 della Carta dei Diritti Fondamentali dell’Unione Europea”.

Una delle sfide principali per l’attuazione di queste misure sarà però il bilanciamento tra la lotta ai contenuti dannosi e la tutela della libertà di espressione, evitando la censura preventiva e garantendo processi di moderazione più equi e trasparenti.

DSA: protezione degli utenti e meccanismi di reclamo

Il DSA introduce nuovi strumenti per proteggere i diritti degli utenti online, garantendo maggiore controllo sui contenuti che vedono e sui propri dati personali. Tra le innovazioni più rilevanti troviamo:

  • Meccanismi di reclamo e ricorso: gli utenti che vedono i propri contenuti rimossi o il proprio account sospeso devono avere accesso a un sistema di ricorso extragiudiziale delle controversie efficace, con possibilità di contestare le decisioni prese dalle piattaforme. Secondo il DSA, infatti, chiunque utilizzi un servizio di intermediazione online ha il diritto di presentare un reclamo nei confronti del fornitore di tali servizi, qualora ritenga che la normativa venga violata. Il reclamo può essere presentato direttamente dall’utente, ma anche da organismi, associazioni o altre entità che agiscono per conto dell’utente, a condizione che soddisfino i requisiti stabiliti dall’articolo 86 del DSA.

Il reclamo deve essere redatto seguendo il modello reso disponibile sul sito dell’Agcom e inviato tramite PEC (posta elettronica certificata).

  • Divieto di dark patterns: il regolamento vieta l’uso di interfacce manipolative che inducono gli utenti a compiere scelte non intenzionali, come l’iscrizione involontaria a servizi a pagamento o la difficoltà nel trovare il pulsante per cancellare un account.
  • Limitazioni alla pubblicità mirata: il DSA pone restrizioni severe sulla pubblicità basata su dati personali sensibili, come l’orientamento politico o religioso.

La finalità è quella di rendere l’esperienza e la navigazione online più equa e sicura, limitando le pratiche ingannevoli e garantendo maggiore trasparenza.

Ruolo dei coordinatori dei servizi digitali a livello nazionale

Un’innovazione rilevante è l’istituzione di un’autorità nazionale di controllo per l’attuazione del Regolamento, denominata Coordinatore dei Servizi Digitali (Digital Services Coordinator, DSC) in ciascun Stato membro. Questo organo ha il compito non solo di svolgere un’azione persuasiva, ma anche di condurre indagini, garantire il rispetto delle norme e applicare eventuali sanzioni.

Per garantire l’applicazione efficace del DSA, infatti ogni Stato membro dell’UE è tenuto a designarne uno. In Italia, questo ruolo è stato assegnato all’Autorità per le Garanzie nelle Comunicazioni (AGCOM), che avrà il compito di monitorare l’applicazione del regolamento e di intervenire in caso di violazioni.

Il DSC avrà diverse responsabilità, tra cui:

  1. Supervisione e applicazione del regolamento: monitorerà le piattaforme per assicurarsi che rispettino gli obblighi del DSA.
  2. Gestione delle segnalazioni: riceverà e valuterà le segnalazioni di utenti e organizzazioni riguardanti violazioni delle norme.
  3. Certificazione degli organismi per la risoluzione delle controversie: garantirà che esistano meccanismi di ricorso indipendenti e accessibili per gli utenti.
  4. Saranno dotati di forti poteri investigativi ed esecutivi, per garantire il rispetto della DSA da parte dei provider stabiliti nel loro territorio: potranno ordinare ispezioni in caso di sospetta violazione della DSA, imporre multe alle piattaforme online che non rispettano la DSA e imporre misure provvisorie in caso di grave danno alla sfera pubblica.
  5. Esamineranno le candidature e conferiranno lo status di segnalatori di fiducia a soggetti idonei o a organizzazioni indipendenti che abbiano dimostrato competenza nell’individuare, riconoscere e segnalare contenuti illegali online.

Inoltre, i coordinatori nazionali collaboreranno con la Commissione Europea e con altri organismi regolatori attraverso il Comitato europeo per i servizi digitali. Questo comitato avrà il compito di garantire un’applicazione uniforme del DSA in tutta l’Unione Europea, assicurando che gli utenti godano degli stessi diritti a prescindere dalla sede delle piattaforme online.

Infine, il Comitato si occuperà della supervisione delle grandi piattaforme online e dei principali motori di ricerca, pubblicando annualmente rapporti sui principali rischi sistemici e sulle migliori strategie per mitigarli.

Vi è da segnalare per completezza, che un’altra figura introdotta dal Digital Services Act è il Compliance officer, designato dalle “very large online platforms” con il compito di monitorare l’osservanza del regolamento da parte delle aziende. Una figura interna all’impresa, con precise competenze professionali indicate dal DSA e l’obbligo di imparzialità e chiarezza nel giudizio.

Conclusioni

Il Digital Services Act rappresenta un passo fondamentale verso una maggiore regolamentazione del mondo digitale, ponendo un freno ai comportamenti irresponsabili delle grandi piattaforme e garantendo maggiore protezione agli utenti. Con misure innovative sulla trasparenza, sulla moderazione dei contenuti e sulla protezione dei dati, il DSA mira a creare uno spazio digitale più sicuro, equilibrato e concorrenziale.

Tuttavia, la sua implementazione sarà una sfida, richiedendo un equilibrio tra regolamentazione e libertà di espressione, oltre a un’efficace collaborazione tra governi, piattaforme e società civile. Il successo del DSA dipenderà dalla sua applicazione pratica e dalla capacità di adattarsi alle sfide future dell’ecosistema digitale in continua evoluzione.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/servizi-digitali-dsa/




Trasferimento dei Dati Personali sulla base di una decisione di adeguatezza nel GDPR

L’articolo rientra in una serie dedicata al Registro dei trattamenti nel contesto del GDPR. In questo focus, approfondiamo il concetto di trasferimento dei dati personali sulla base di una decisione di adeguatezza, come definito dall’articolo 45 del GDPR. Esploreremo i requisiti, le procedure e le implicazioni di tali decisioni, fornendo una panoramica completa di questo importante meccanismo per il trasferimento internazionale di dati.

Cos’è il trasferimento dei dati sulla base di una decisione di adeguatezza (art. 45 GDPR)

A norma dell’art. 45, par. 1 del GDPR il trasferimento di dati personali verso un paese terzo o un’organizzazione internazionale è ammesso se la Commissione ha deciso che il paese terzo, un territorio o uno o più settori specifici all’interno del paese terzo, o l’organizzazione internazionale in questione garantiscono un livello di protezione adeguato. In tal caso il trasferimento non necessita di autorizzazioni specifiche. Il livello di protezione richiesto è dunque equivalente.

La decisione di adeguatezza, come sopra anticipato, è solo una delle possibili legittime modalità di trasferimento dei dati personali nei paesi extra-UE nonché la modalità da privilegiare qualora disponibile.

La lista aggiornata dei paesi adeguati da consultare nel caso di trasferimento dei dati personali è pubblicata nella pagina dell’Autorità.

Nel procedimento che la Commissione è tenuta ad avviare al fine di verificare l’esistenza dei requisiti essa è tenuta ad espletare le opportune valutazioni congiuntamente al Comitato europeo per la protezione dei dati a norma dell’art. 70, par. 1, lett. s) del GDPR e dei paesi coinvolti nel procedimento in virtù del principio di collaborazione.

Trasferimento dei dati e criteri per l’adozione di una decisione di adeguatezza nel GDPR

L’adozione di un atto di esecuzione richiede l’accertamento circa la presenza dei requisiti elencati dall’art. 45, par. 2 del GDPR e nel procedimento che la Commissione avvia è tenuta a prendere in considerazione i seguenti elementi:

a) Lo stato di diritto, il rispetto dei diritti umani e delle libertà fondamentali, la pertinente legislazione generale e settoriale (anche in materia di sicurezza pubblica, difesa, sicurezza nazionale, diritto penale e accesso delle autorità pubbliche ai dati personali), così come l’attuazione di tale legislazione, le norme in materia di protezione dei dati, le norme professionali e le misure di sicurezza, comprese le norme per il trasferimento successivo dei dati personali verso un altro paese terzo o un’altra organizzazione internazionale osservate nel paese o dall’organizzazione internazionale in questione, la giurisprudenza nonché i diritti effettivi e azionabili degli interessati e un ricorso effettivo in sede amministrativa e giudiziaria per gli interessati i cui dati personali sono oggetto di trasferimento.

b) L’esistenza e l’effettivo funzionamento di una o più autorità di controllo indipendenti nel paese terzo o cui è soggetta un’organizzazione internazionale, con competenza per garantire e controllare il rispetto delle norme in materia di protezione dei dati, comprensiva di adeguati poteri di esecuzione, per assistere e fornire consulenza agli interessati in merito all’esercizio dei loro diritti e cooperare con le autorità di controllo degli Stati membri.

c) Gli impegni internazionali assunti dal paese terzo o dall’organizzazione internazionale in questione o altri obblighi derivanti da convenzioni o strumenti giuridicamente vincolanti come pure dalla loro partecipazione a sistemi multilaterali o regionali, in particolare in relazione alla protezione dei dati personali.

Trasferimento dei dati: processo di valutazione e adozione della decisione di adeguatezza

La Commissione, previa valutazione dell’adeguatezza del livello di protezione, può decidere, mediante atti di esecuzione, che un paese terzo, un territorio o uno o più settori specifici all’interno di un paese terzo, o un’organizzazione internazionale garantiscono un livello di protezione adeguato ai sensi del paragrafo 2 del presente articolo.

L’atto di esecuzione prevede, inoltre, un meccanismo di riesame periodico, almeno ogni quattro anni, che tenga conto di tutti gli sviluppi pertinenti nel paese terzo o nell’organizzazione internazionale. L’atto di esecuzione specifica il proprio ambito di applicazione geografico e settoriale e, ove applicabile, identifica la o le autorità di controllo di cui all’art. 45, par. 2, lettera b) del GDPR. L’atto di esecuzione è adottato secondo la procedura d’esame di cui all’articolo 93, par. 2 del GDPR.

Monitoraggio continuo e revisione delle decisioni di adeguatezza

Gli sviluppi nei paesi terzi e nelle organizzazioni internazionali che potrebbero incidere sul funzionamento delle decisioni di adeguatezza, sono oggetto di controllo a norma dell’art. 45, par. 4 del GDPR da parte della Commissione.

Se risulta dalle informazioni disponibili, in particolare in seguito al che un paese terzo, un territorio o uno o più settori specifici all’interno di un paese terzo, o un’organizzazione internazionale non garantiscono più un livello di protezione adeguato, la Commissione revoca, modifica o sospende nella misura necessaria la decisione precedentemente adottata mediante atti di esecuzione senza effetto retroattivo.

Tali atti di esecuzione sono adottati secondo la procedura ordinaria, o, in casi di estrema urgenza, secondo la procedura di cui all’articolo 93, paragrafo 3 del GDPR. Per imperativi motivi di urgenza debitamente giustificati, la Commissione adotta atti di esecuzione immediatamente applicabili secondo la procedura di cui all’articolo 93, paragrafo 3 del GDPR. Tali decisioni possono comunque essere oggetto, ricorrendone i presupposti di modifica, revoca o di sostituzione.

Trasferimenti in assenza di una decisione di adeguatezza: alternative e consultazioni

Sono fatti salvi i trasferimenti di dati personali verso il paese terzo, il territorio o uno o più settori specifici all’interno del paese terzo, o verso l’organizzazione internazionale in questione, a norma degli articoli da 46 a 49 del GDPR.

La Commissione avvia consultazioni con il paese terzo o l’organizzazione internazionale per porre rimedio alla situazione che ha motivato la decisione di cui al paragrafo 5 del GDPR.

Trasferimento dei dati verso paesi terzi: pubblicazione delle decisioni di adeguatezza

La Commissione pubblica nella Gazzetta ufficiale dell’Unione Europea e sul suo sito web l’elenco dei paesi terzi, dei territori e settori specifici all’interno di un paese terzo, e delle organizzazioni internazionali per i quali ha deciso che è o non è più garantito un livello di protezione adeguato. Tale elenco è disponibile anche nella pagina istituzionale dell’Autorità.

Questo articolo ha analizzato il trasferimento dei dati personali basato su una decisione di adeguatezza, come previsto dall’articolo 45 del GDPR. Abbiamo esaminato i requisiti, le procedure e le implicazioni della decisione di adeguatezza, offrendo una panoramica completa per il trasferimento internazionale dei dati. Nel prossimo articolo della serie, ci concentreremo sul “Trasferimento di Dati Personali Soggetto a Garanzie Adeguate”, trattato dall’articolo 46 del GDPR. Per approfondire maggiormente questi temi, vi invitiamo a scaricare il white paper “La compilazione del Registro dei trattamenti nel nuovo quadro normativo del Reg. UE 679/2016”.

Profilo Autore

Tecnologo presso l’UAIG del CNR.
Abilitato all’esercizio della professione forense.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/trasferimento-dei-dati/