Fubo pays $3.4M to settle claims it illegally shared user data with advertisers

Fubo has agreed to pay $3.4 million to settle a class-action lawsuit that accused the sports-streaming service provider of unlawfully distributing customers’ personally identifiable information (PII) without their consent.

In December 2023, Ne’Tosha Burdette filed a complaint [PDF] against Fubo with the stated goal of stopping Fubo’s “unlawful disclosure of its customers'” PII. The complaint argued that Fubo violated the Video Privacy Protection Act (VPPA), “which prohibits the disclosure of consumers’ video viewing history without their informed, written consent.” The filing added:

Critically, Defendant utilizes sophisticated tracking technology that collects its subscribers’ personally identifiable information… including information which identifies a person as having viewed specific videos on Defendant’s streaming service. Defendant knowingly discloses this information to third party advertisers so that they can target specific users with specifically tailored advertisements based on their viewing history.

Fubo’s privacy policy at the time stated that Fubo collected various data from its users, such as location information—including “precise or near-precise geolocation” and the use of “GPS coordinates”—as well as device and usage information (including “pages and content viewed and order of those pages” and “content recorded on FuboTV,”) per the complaint.

According to the Internet Archive’s Wayback Machine, in late 2023, Fubo’s privacy policy claimed that the firm would only share non-personally identifiable information with third parties unless Fubo obtained user consent. However, Burdette’s filing claimed that Fubo didn’t ask users who created accounts for consent to share their PII with third parties.

“By disclosing Plaintiff’s PII, which reveals both her identity and the video materials she has requested from Defendant’s services to third-parties, Defendant has intentionally and knowingly violated the VPPA and Plaintiff’s privacy rights,” the complaint said.

https://arstechnica.com/gadgets/2025/07/fubo-pays-3-4m-to-settle-claims-it-illegally-shared-user-data-with-advertisers/




Garante privacy, multe alle prime agenzie immobiliari per telemarketing aggressivo

Il telemarketing aggressivo, l’azione del Garante privacy

Faro del Garante privacy su un nuovo e preoccupante fenomeno di telemarketing aggressivo emerso nell’ambito delle intermediazioni immobiliari. Migliaia di potenziali venditori e acquirenti venivano contattati, con insistenza, tramite telefonate e messaggi WhatsApp, senza aver espresso un valido consenso a ricevere comunicazioni promozionali, da agenzie immobiliari che utilizzavano elenchi molto dettagliati forniti da una società di servizi.

Un illecito sistema capillare che ha indotto l’Autorità a sanzionare prima la società fornitrice dei dati per 100mila euro e successivamente le prime nove agenzie coinvolte, con multe fino a 40mila euro.

Gli elenchi utilizzati costituivano una vera e propria mappatura di massa del territorio ed erano “arricchiti” con i numeri telefonici (fissi e mobili) e le informazioni catastali ricavate anche attraverso il servizio telematico Sister dell’Agenzia delle Entrate. Ogni proprietario residente in una determinata zona di interesse commerciale per le agenzie era sottoposto ad una vera e propria schedatura.

Alle prime sanzioni comminate alle agenzie, in base alla gravità delle violazioni, ne seguiranno altre al termine delle istruttorie in corso.

Un fenomeno “grave ed esteso”

Il fenomeno, esteso e grave, è venuto alla luce grazie alle segnalazioni e ai reclami presentati da numerosi cittadini.

Nei casi più gravi, il Garante ha vietato l’ulteriore trattamento dei dati e imposto la cancellazione degli stessi per i quali le agenzie non sono state in grado di dimostrare un consenso valido.

Inoltre, per poter continuare a svolgere attività di telemarketing, le agenzie dovranno verificare costantemente, anche mediante controlli a campione, che i dati siano trattati nel rispetto della normativa privacy (acquisizione preventiva di un consenso libero e specifico degli interessati, oltre che informato, per l’invio di comunicazioni commerciali, nonché, per le utenze destinatarie delle telefonate indesiderate, l’iscrizione delle stesse al Registro Pubblico delle opposizioni) e adottare misure tecniche e organizzative adeguate per facilitare l’esercizio dei diritti degli interessati, compreso il diritto di opposizione.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/garante-privacy-multe-alle-prime-agenzie-immobiliari-per-telemarketing-aggressivo/533390/




Meta addestra l’AI con i dati degli utenti europei, via libera dal garante irlandese. Dissenso degli attivisti e rischio ricorsi

Dal 27 maggio, Meta potrà ufficialmente iniziare ad addestrare i propri modelli di intelligenza artificiale utilizzando i dati pubblici degli utenti europei delle sue piattaforme social, come Facebook e Instagram. Il via libera è arrivato dall’Irish Data Protection Commission (DPC), l’autorità competente per la privacy dell’UE per conto di Meta, che ha approvato il nuovo piano dell’azienda, seppur sotto osservazione e tra forti contestazioni.

Le modifiche richieste dal DPC

Secondo il DPC, Meta ha introdotto una serie di correttivi rispetto alla proposta iniziale del 2023 – poi sospesa in seguito a numerosi reclami – che riguardano:

  • aggiornamento delle note informative sulla privacy;
  • modulo di opposizione semplificato, accessibile anche da app mobili, disponibile più a lungo;
  • maggiori chiarimenti su come escludere i propri post pubblici dal trattamento AI;
  • rafforzamento delle misure di sicurezza e della documentazione a norma GDPR.

Inoltre, il DPC ha chiesto a Meta la produzione di un report sull’efficacia delle misure adottate, da consegnare entro ottobre.

Il dissenso degli attivisti e il rischio ricorsi contro Meta

Ma la decisione non ha spento le polemiche. In prima linea c’è l’organizzazione noyb (None Of Your Business), guidata dall’attivista e avvocato Max Schrems, che ha già notificato a Meta una lettera di diffida minacciando una class action nel caso il piano venga attuato. Al centro della contestazione: l’uso della base giuridica del “legittimo interesse” per raccogliere i dati senza consenso esplicito, una strategia già bocciata in sede europea nei casi legati alla profilazione pubblicitaria.

“Nonostante la posizione del DPC, noi e altre organizzazioni stiamo valutando tutte le opzioni legali”, ha dichiarato un portavoce di noyb.

Il caso tedesco e le altre autorità UE

Nel frattempo, anche il Centro per la tutela dei consumatori del Nord Reno-Vestfalia ha presentato ricorso in Germania, chiedendo un’ingiunzione immediata per bloccare l’iniziativa di Meta. La decisione del giudice è attesa nelle prossime ore, ma potrebbe già costituire un precedente rilevante. Diverse autorità privacy europee si sono dette critiche verso il piano di Meta e potrebbero intervenire in autonomia.

La mossa di Meta riapre il dibattito sulla sovranità digitale europea e sulla capacità del GDPR di reggere l’urto della corsa globale all’intelligenza artificiale. La possibilità per una Big Tech di accedere ai contenuti generati dagli utenti (anche se pubblici) per addestrare sistemi AI solleva interrogativi etici, normativi e politici.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/meta-addestra-lai-con-i-dati-degli-utenti-europei-via-libera-dal-garante-irlandese-dissenso-degli-attivisti-e-rischio-ricorsi/532714/




GPDR, dal 2018 ad oggi sanzioni per 6,1 miliardi di euro. Italia al secondo posto per numero di multe

L’edizione di maggio del GDPR Enforcement Tracker 2025

A sette anni dalla sua entrata in vigore, il Regolamento Generale sulla Protezione dei Dati (GDPR) si conferma come una delle normative più incisive e pervasive nel panorama europeo del diritto digitale. Il Rapporto 2025 dell’Enforcement Tracker, curato dallo studio legale CMS, ci restituisce un quadro imponente: al 1° maggio 2025, le autorità garanti europee hanno comminato 2.334 sanzioni complete, per un valore complessivo che supera 6,19 miliardi di euro.

GDPR, un impianto sanzionatorio divenuto operativo e maturo

Il GDPR ha dimostrato di essere non solo un baluardo di garanzia per i diritti dei cittadini, ma anche un efficace strumento sanzionatorio. L’ammontare delle multe è cresciuto da gennaio a maggio di 546 milioni di euro e in modo esponenziale: +1,17 miliardi di euro rispetto al 2024, con un aumento dell’importo medio per singola sanzione a 2,36 milioni di euro.

Le autorità di protezione dati si sono ormai consolidate come attori centrali nel controllo dell’economia digitale. Sebbene permangano divergenze tra i diversi ordinamenti nazionali in termini di pubblicazione e trasparenza delle decisioni, l’approccio comune si è rafforzato, anche grazie all’azione del Comitato Europeo per la Protezione dei Dati (EDPB).

Le multe record: Meta, Amazon, Clearview AI sotto la lente

Il record assoluto resta quello inflitto all’ecosistema Meta: 1,2 miliardi di euro comminati dal Garante irlandese nel maggio 2023 per illeciti legati ai trasferimenti internazionali di dati.

Seguono la sanzione di 746 milioni a Amazon (Lussemburgo, 2021) e una serie di provvedimenti milionari sempre in Irlanda, per un totale che comprende anche multe da 405, 390, 345, 310, 265, 251 e 225 milioni di euro.

Da segnalare, inoltre, la sanzione “da record nel settore lavoro” di 290 milioni di euro, imposta dall’autorità olandese nel 2024 per trattamento illecito di dati dei dipendenti.

Italia tra i Paesi che sanzioni di più e più pesante

L’analisi del report evidenzia una costante: la maggior parte delle sanzioni scaturisce da basi giuridiche insufficienti per il trattamento dei dati personali (669 casi) e dalla violazione dei principi generali del trattamento (644 casi), con un crescente peso delle contestazioni legate a misure tecniche e organizzative inadeguate per garantire la sicurezza (418 casi).

La Spagna, per il sesto anno consecutivo, guida la classifica per numero di sanzioni (959 a maggio), seguita da Italia (400) e Germania (205).

In termini di volume economico delle sanzioni, però, prevalgono Irlanda (oltre 4 miliardi di euro), Lussemburgo (più di 746 milioni di euro) e Francia (oltre 373 milioni di euro), complice la concentrazione delle big tech in tali giurisdizioni. Italia al quinto posto per somma di sanzioni, che a maggio 2025 ha toccato quota 266.725.000 milioni di euro.

Nel nostro Paese, proprio nei giorni scorsi, iGarante per la protezione dei dati personali ha inflitto una sanzione di 5 milioni di euro alla società statunitense Luka Inc., responsabile del controverso chatbot “Replika”.
La decisione arriva dopo l’accertamento di gravi violazioni delle normative europee sulla privacy, già oggetto di un precedente blocco del servizio in Italia nel febbraio 2023.

Il GDPR ha sicuramente portato maggiore sensibilità per i temi della privacy, ma per quanto possano essere severe le sanzioni amministrative, c’è ancora molto da fare per tutelare i cittadini – commenta Nicola Bernardi, presidente di Federprivacy. – Per creare una società digitale sostenibile, è necessario un ripensamento da parte delle istituzioni per adottare strumenti che producano veramente un effetto dissuasivo, come il blocco dei trattamenti dei dati personali e misure di carattere penale per chi commette intenzionalmente gravi violazioni o per chi si dimostra recidivo nonostante le sanzioni già ricevute”.

Tra enforcement e incertezza interpretativa

Se da un lato il GDPR ha creato un contesto sanzionatorio coerente, dall’altro rimangono margini di ambiguità interpretativa, soprattutto su concetti come “consenso informato”, “misure adeguate” e principi generali ex art. 5.

Cresce il contenzioso: molte decisioni sono oggi oggetto di impugnazione davanti alla Corte di Giustizia dell’Unione Europea, che nel 2023 ha emesso sentenze rilevanti (es. C-683/21 e C-807/21) sul ruolo e l’autonomia delle autorità nazionali.

Prossimi passi: enforcement, AI e responsabilità digitale

Nel biennio 2024–2025, la sorveglianza si è estesa al trattamento dei dati in ambiti ad alto rischio come l’intelligenza artificiale (AI), con casi emblematici (tra cui la restrizione temporanea del servizio di un fornitore di AI generativa in Italia). L’EDPB ha annunciato una strategia mirata per affrontare i rischi connessi alle tecnologie emergenti, promuovendo un approccio “human-centric”.

Al tempo stesso, cresce la pressione da parte di associazioni di consumatori, anche tramite le azioni rappresentative introdotte dalla Direttiva UE 2020/1828, rendendo sempre più concreta la possibilità di contenziosi collettivi.

Il GDPR, dal 2018 ad oggi ha profondamente inciso sul tessuto giuridico, tecnologico e aziendale europeo. L’impianto sanzionatorio è divenuto operativo, maturo e sempre più integrato con la dimensione transnazionale dei trattamenti. La sfida ora si sposta sul piano dell’armonizzazione applicativa, della certezza del diritto e dell’adeguatezza tecnologica. In questo scenario, imprese, enti pubblici e professionisti del diritto devono investire non solo in compliance, ma anche in cultura e governance dei dati.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/gpdr-dal-2018-ad-oggi-sanzioni-per-61-miliardi-di-euro-italia-al-secondo-posto-per-numero-di-multe/532356/




Garante Privacy sanziona Replika per 5 milioni di euro, aperta nuova istruttoria sull’addestramento dell’AI

Violazioni gravi nella gestione dei dati personali e criticità nei sistemi di verifica dell’età

Il Garante per la protezione dei dati personali ha inflitto una sanzione di 5 milioni di euro alla società statunitense Luka Inc., responsabile del controverso chatbot “Replika”.
La decisione arriva dopo l’accertamento di gravi violazioni delle normative europee sulla privacy, già oggetto di un precedente blocco del servizio in Italia nel febbraio 2023.

Replika è un’applicazione di intelligenza artificiale (AI) generativa che permette agli utenti di creare un “amico virtuale” con cui interagire attraverso interfacce vocali e testuali. Il chatbot può assumere diversi ruoli emotivi e relazionali, da confidente a partner romantico, da mentore a presunto terapeuta.

Mancanza di basi giuridiche e privacy policy inadeguata

Nel corso dell’istruttoria, l’Autorità ha riscontrato che Luka Inc. non aveva individuato, alla data del 2 febbraio 2023, alcuna base giuridica per i trattamenti dei dati personali effettuati tramite Replika.
Inoltre, la privacy policy fornita agli utenti è stata giudicata inadeguata sotto molteplici profili, contravvenendo ai requisiti di trasparenza e completezza imposti dal Regolamento generale sulla protezione dei dati (GDPR).

Minori a rischio: sistema di verifica dell’età insufficiente

Uno degli aspetti più critici evidenziati dal Garante riguarda la tutela dei minori. Nonostante la dichiarazione della società di escludere i minorenni dall’accesso al servizio, al momento dell’accertamento non era stato implementato alcun sistema efficace di verifica dell’età, né in fase di registrazione né durante l’utilizzo dell’app.

Anche le soluzioni tecniche successivamente introdotte da Luka sono state ritenute insufficienti: il sistema di verifica dell’età è risultato ancora oggi carente in molteplici aspetti, con evidenti rischi per la protezione dei dati dei più giovani.

Nuova istruttoria sull’intero ciclo di vita dell’intelligenza artificiale

Oltre al provvedimento sanzionatorio, il Garante ha avviato una nuova istruttoria per analizzare più a fondo le modalità di sviluppo, addestramento e funzionamento del modello di AI generativa alla base di Replika.

In particolare, l’Autorità ha richiesto chiarimenti circa:

  • Le misure di valutazione dei rischi adottate;
  • Le garanzie a tutela dei dati personali nelle varie fasi di sviluppo del modello linguistico;
  • Le tipologie e categorie di dati utilizzati durante l’addestramento dell’IA;
  • L’eventuale implementazione di tecniche di anonimizzazione o pseudonimizzazione.

Verso un rafforzamento della vigilanza sull’IA generativa

Il caso Replika si inserisce in un contesto di crescente attenzione delle autorità europee sulla regolamentazione dell’intelligenza artificiale generativa, soprattutto in relazione alla protezione dei dati personali e alla sicurezza degli utenti vulnerabili.

Il provvedimento del Garante italiano rappresenta un segnale forte a tutela dei diritti digitali dei cittadini, specialmente dei minori, e richiama le aziende sviluppatrici di IA a una maggiore responsabilità e trasparenza.

Il problema del trattamento dei dati personali

Sempre nel nostro Paese, ma anche in Francia e in Germania, non è la prima volta che si affrontano criticità serie nel rapporto tra l’AI e i dati personali degli utenti.

Nel marzo 2023, il Garante per la protezione dei dati personali italiano ha disposto una limitazione provvisoria del trattamento dei dati degli utenti italiani da parte di OpenAI, la società statunitense che gestisce ChatGPT.

Le motivazioni includevano:

  • Assenza di una base giuridica adeguata per il trattamento dei dati personali degli utenti;
  • Mancanza di sistemi efficaci per la verifica dell’età, esponendo i minori a contenuti potenzialmente inappropriati;
  • Violazioni del principio di trasparenza e degli obblighi informativi verso gli utenti.

Successivamente, OpenAI ha implementato misure correttive, tra cui l’introduzione di un sistema di verifica dell’età e l’aggiornamento dell’informativa sulla privacy, permettendo così la riattivazione del servizio in Italia. Tuttavia, nel dicembre 2024, il Garante ha concluso l’istruttoria infliggendo a OpenAI una sanzione di 15 milioni di euro per le violazioni riscontrate.

In Germania, le autorità regionali per la protezione dei dati hanno avviato indagini su ChatGPT, focalizzandosi su:

  • Modalità di raccolta e trattamento dei dati personali da parte di OpenAI;
  • Conformità degli algoritmi utilizzati alle disposizioni del GDPR .

Le autorità hanno inviato questionari a OpenAI per ottenere chiarimenti sulle pratiche di trattamento dei dati e sulla trasparenza delle informazioni fornite agli utenti.

In Francia, la startup Mistral AI è stata oggetto di una denuncia presentata alla Commission nationale de l’informatique et des libertés (CNIL) nel febbraio 2025.

La denuncia riguarda l’applicazione gratuita “Le Chat”, accusata di:

Raccolta illegale di dati personali degli utenti senza un’adeguata base giuridica;

Limitazione dell’esercizio del diritto di opposizione al trattamento dei dati, disponibile solo per gli utenti della versione a pagamento

La CNIL sta attualmente esaminando il caso per verificare la conformità dell’azienda al Regolamento Generale sulla Protezione dei Dati (GDPR).

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/garante-privacy-sanziona-replika-per-5-milioni-di-euro-aperta-nuova-istruttoria-sulladdestramento-dellai/532133/




Settore sanitario, gli operatori caricano dati sensibili in cloud e nelle app di IA


Stando all’ultimo report sulle minacce al settore sanitario di Netskope Threat Labs, i lavoratori del settore caricano regolarmente dati sensibili su siti web e piattaforme cloud non approvati.

dati sensibili sanitario

Sono in particolare le applicazioni di intelligenza artificiale quelle coinvolte in queste violazioni, prime fra tutte ChatGPT e Gemini. Secondo l’analisi di Netskope, l’81% delle violazioni delle policy sui dati nelle organizzazioni sanitarie nell’ultimo anno ha riguardato dati sanitari regolamentati, ovvero protetti da normative locali, nazionali e internazionali, contenenti informazioni mediche e cliniche sensibili.

Password, chiavi di accesso, codice sorgente e proprietà intellettuale rappresentano invece il restante 19% delle violazioni. La maggior parte di esse è stata provocata dalla condivisione dei dati su account personali di OneDrive o Google Drive. 

Violazioni di dati sensibili nel settore sanitario: il pericolo dell’IA

I tool di intelligenza artificiale sono diventati molto diffusi anche nel settore sanitario: secondo il report di Netskope, l’88% delle organizzazioni integra applicazioni di IA in cloud. La quasi totalità delle realtà che sfruttano questi strumenti usa i dati degli utenti per l’addestramento.

Anche se l’IA porta molti benefici al settore sanitario, la condivisione di dati sensibili aumenta il rischio di violazioni. Se si considera che il 44% degli incidenti registrati coinvolge dati regolamentati, è facile comprendere l’impatto dei comportamenti errati degli operatori. Il report di Netskope evidenzia a tal proposito che più di due utenti di genAI su tre nel settore sanitario inviano dati sensibili ai propri account personali durante l’orario di lavoro, ostacolando la visibilità dei team di sicurezza.

Le applicazioni di intelligenza artificiale generativa offrono soluzioni innovative, ma introducono anche nuovi vettori per potenziali violazioni dei dati, soprattutto in ambienti ad alta pressione e criticità come quello sanitario, dove il personale e i professionisti devono spesso operare con rapidità e agilità. Le organizzazioni sanitarie devono bilanciare i benefici della genAI con l’adozione di misure di sicurezza e protezione dei dati per mitigare tali rischi” ha commentato Gianpietro Cutolo, Cloud Threat Researcher presso Netskope Threat Labs.

Mitigare il rischio di violazione

Per ridurre il rischio di violazioni, soprattutto quelle legate alla condivisione di dati sensibili su strumenti di IA, le organizzazioni del settore sanitario dovrebbero innanzitutto implementare politiche di DLP (Data Loss Prevention – Prevenzione della perdita di dati) per monitorare l’accesso alle applicazioni di GenAI e definire il tipo di dati che può essere condiviso con esse. Oggi la percentuale di realtà sanitarie che hanno adottato politiche DLP è salita al 54% dal 31% dell’anno scorso.

È essenziale inoltre implementare applicazioni di IA generativa approvate dall’organizzazione, in modo che i team di sicurezza abbiano un maggior controllo su di esse e si riduca il rischio di “shadow AI”.  Infine, occorre affidarsi a strumenti di formazione in tempo reale per gli utenti che siano in grado anche di avvisarli quando stanno compiendo azioni rischiose.

Nel settore sanitario, la rapida adozione delle applicazioni di intelligenza artificiale generativa e l’uso crescente delle piattaforme cloud hanno reso ancora più urgente la protezione dei dati sanitari regolamentati. Man mano che la genAI viene integrata nei flussi di lavoro clinici e operativi, le organizzazioni stanno accelerando l’implementazione di controlli come le politiche DLP e il blocco delle applicazioni per ridurre i rischi. Le organizzazioni sanitarie stanno facendo progressi, ma sarà fondamentale mantenere l’attenzione su soluzioni sicure e approvate a livello aziendale, per garantire che i dati restino protetti in questo scenario in continua evoluzione” ha concluso Cutolo.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/05/12/settore-sanitario-gli-operatori-caricano-dati-sensibili-in-cloud-e-nelle-app-di-ia/?utm_source=rss&utm_medium=rss&utm_campaign=settore-sanitario-gli-operatori-caricano-dati-sensibili-in-cloud-e-nelle-app-di-ia




Articolo 48 del GDPR: trasferimento o comunicazione Non Autorizzati

Il presente focus esaminerà l’articolo 48 del GDPR che disciplina i casi in cui il trasferimento di dati personali verso un paese terzo non è consentito senza un accordo internazionale tra il paese richiedente e l’Unione Europea o uno Stato membro. Il contenuto è parte di un white paper dedicato ad una serie di approfondimenti sul Registro dei Trattamenti.

Cos’è l’Articolo 48 del GDPR?

L’articolo 48 del GDPR, rubricato “Trasferimento e comunicazione non autorizzata dal diritto dell’Unione”, regola i casi in cui il trasferimento di dati personali verso un paese terzo non è autorizzato senza un accordo internazionale tra il paese richiedente e l’Unione Europea o uno Stato membro. Le sentenze di un’autorità giurisdizionale o le decisioni di un’autorità amministrativa di un paese terzo possono essere riconosciute o assumere carattere esecutivo solo se basate su tali accordi.

La disposizione mira a limitare il potere di efficacia delle sentenze giurisdizionali e delle decisioni amministrative di un paese terzo. Questo rafforza la sovranità digitale dell’Unione Europea, garantendo che il trasferimento o la comunicazione di dati personali avvenga solo nel rispetto del diritto dell’Unione.

Requisiti GDPR per trasferimenti dati internazionali

Per permettere il trasferimento dei dati personali, è richiesta l’esistenza di un accordo internazionale in vigore tra il paese terzo richiedente e l’Unione o uno Stato membro, come un trattato di mutua assistenza giudiziaria. La lista degli accordi sottoscritti conformi all’articolo 48 del GDPR è disponibile sul sito web del Ministero della Giustizia.

Applicazione dell’Articolo 48 del GDPR

L’articolo 48 si applica a ogni tipo di trasferimento di dati personali, inclusa la semplice comunicazione. La norma si estende anche a eventuali provvedimenti giurisdizionali o amministrativi, garantendo che essi non possano prevalere sul diritto dell’Unione senza un accordo internazionale.

Questa disposizione riflette la volontà dell’Unione Europea di affermare la sua sovranità digitale, assicurando che i trasferimenti di dati personali siano sempre conformi al GDPR e agli accordi internazionali stipulati. La sovranità digitale rappresenta un pilastro fondamentale nella protezione dei dati personali degli individui all’interno dell’UE.

Deroghe GDPR per trasferimenti dati: Articolo 49 e condizioni specifiche

L’articolo 49 del GDPR consente il trasferimento di dati personali verso un paese terzo o un’organizzazione internazionale anche in assenza di una decisione di adeguatezza o di garanzie adeguate, purché si verifichino specifiche condizioni:

  1. Consenso Esplicito dell’Interessato: L’interessato deve esplicitamente acconsentire al trasferimento, informato dei possibili rischi.
  2. Esecuzione di un Contratto: Il trasferimento deve essere necessario per l’esecuzione di un contratto tra l’interessato e il titolare del trattamento.
  3. Interesse Pubblico: Il trasferimento deve essere necessario per importanti motivi di interesse pubblico.
  4. Accertamento o Difesa di un Diritto: Necessario per accertare, esercitare o difendere un diritto in sede giudiziaria.
  5. Interessi Vitali: Necessario per tutelare gli interessi vitali dell’interessato o di altre persone.
  6. Consultazione di Registri Pubblici: Effettuato a partire da un registro pubblico accessibile tanto al pubblico quanto a chi dimostri un legittimo interesse.

Rilevanza delle deroghe GDPR: eccezioni per trasferimenti dati

Le deroghe rappresentano eccezioni al principio generale secondo cui i dati personali possono essere trasferiti verso paesi terzi solo in presenza di adeguate garanzie. Queste deroghe devono essere interpretate in maniera restrittiva per evitare che diventino la regola, assicurando che il livello di protezione dei dati personali garantito dal GDPR non venga pregiudicato.

Gli articoli 48 e 49 del GDPR offrono un quadro chiaro per il trasferimento internazionale di dati personali, stabilendo condizioni rigorose per garantire la protezione dei dati degli individui nell’Unione Europea. Queste disposizioni sono fondamentali per mantenere la sovranità digitale dell’UE e proteggere i diritti degli interessati.

L’articolo 48 del GDPR costituisce un pilastro fondamentale nella regolamentazione del trasferimento internazionale dei dati personali, stabilendo che tali trasferimenti verso paesi terzi necessitano di un accordo internazionale specifico tra il paese richiedente e l’UE o uno Stato membro. Questa disposizione, insieme alle deroghe previste dall’articolo 49, crea un quadro normativo completo che rafforza la sovranità digitale dell’Unione Europea. Mentre l’articolo 48 richiede accordi formali per il riconoscimento di sentenze giurisdizionali o decisioni amministrative di paesi terzi, l’articolo 49 prevede specifiche deroghe che permettono il trasferimento dei dati in determinate circostanze, come il consenso esplicito dell’interessato o la necessità di tutelare interessi vitali.

Il prossimo articolo della serie approfondirà il tema legato ai termini di cancellazione dei dati in conformità con il GDPR. Per un’analisi più approfondita di queste tematiche, vi invitiamo a scaricare il nostro white paper “La compilazione del Registro dei trattamenti nel nuovo quadro normativo del Reg. UE 679/2016“.

Profilo Autore

Tecnologo presso l’UAIG del CNR.
Abilitato all’esercizio della professione forense.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/articolo-48/




CERT-AGID 12 – 18 aprile: nuove campagne di phishing per pagoPA e Ministero della Salute


Nel corso dell’ultima settimana, il CERT-AGID ha rilevato 57 campagne malevole nel panorama italiano, con 26 operazioni mirate espressamente contro il nostro Paese e altre 31 di portata più generica ma che hanno comunque coinvolto utenti e infrastrutture italiane.

A supporto delle attività di prevenzione e difesa, sono stati messi a disposizione degli enti accreditati ben 767 indicatori di compromissione.

I temi della settimana

Sono stati ben 17 i temi sfruttati questa settimana dai cybercriminali per confezionare le campagne malevole indirizzate al territorio italiano.

Tra i più ricorrenti, si distingue il tema “Ordine”, utilizzato in campagne generiche per diffondere malware come Darkcloud, SnakeKeylogger, Formbook e AgentTesla.

Anche “Fattura” è tornato al centro dell’attenzione, comparendo in tre campagne italiane e due di respiro più ampio, tra cui una mirata agli utenti di Aruba. In questo contesto sono stati veicolati AgentTesla, XWorm, LokiBot e SnakeKeylogger.

Il tema “Banking” ha accompagnato tre campagne rivolte all’Italia e due generiche, in forma di phishing e smishing, servendo anche come canale per la diffusione di MassLogger, BingoMod e SpyNote.

Questa settimana il CERT-AGID ha rilevato 57 campagne malevole ed emesso 767 indicatori di compromissione.

Particolarmente attivo anche il tema “Pagamenti”, sfruttato in quattro campagne italiane e due generiche, utilizzato per veicolare FormBook e Grandoreiro tramite email e per colpire via phishing utenti di servizi come Zimbra, BRT e PagoPA.

Non è mancato il tema “Documenti”, presente in tre campagne generiche e due italiane, sfruttato per diffondere malware come Lumma e Remcos e per attacchi di phishing ai danni del Notariato e di DocuSign.

Il tema “Booking” è stato usato in due campagne italiane e due generiche, associato a pagine truffaldine con finti Captcha per distribuire malware.

Delivery”, invece, è comparso in una campagna generica e tre italiane, legato alla diffusione di Remcos via email, smishing contro Poste Italiane e BRT e alla circolazione di AgentTesla.

Infine, il tema “Contratti” è stato utilizzato in tre campagne generiche per veicolare Snakekeylogger e Guloader attraverso email. Gli altri temi riscontrati sono stati impiegati in campagne più frammentate, ma sempre con finalità malevole legate a malware e phishing di varia natura.

Tra gli eventi più significativi della settimana, si segnala una nuova campagna di phishing che prende di mira gli utenti di pagoPA.

L’inganno avviene attraverso email che richiamano presunte fatture da 75 euro, con l’obiettivo di indurre le vittime a fornire dati personali e informazioni sensibili come i dettagli della carta di credito.

Fonte: CERT-AGID

Un’altra campagna di phishing ha invece sfruttato il nome del Ministero della Salute, riprendendo un modello già osservato all’inizio dell’anno ma con un nuovo dominio truffaldino, “ministerosalute[.]io”.

Anche in questo caso, le email false promettono un rimborso e richiedono informazioni personali, tra cui nome, indirizzo e dati della carta di credito, cercando di carpire la fiducia delle potenziali vittime con un linguaggio istituzionale e rassicurante.

Malware della settimana

Nel corso della settimana sono state individuate 14 famiglie di malware attive sul territorio italiano, distribuite attraverso campagne mirate o più generiche che hanno comunque interessato utenti e sistemi del nostro Paese.

Tra le minacce più rilevanti figura AgentgTesla, rilevato in tre campagne italiane legate ai temi “Booking”, “Aggiornamenti” e “Delivery”, oltre che in tre campagne generiche a tema “Ordine” e “Fattura”, tutte veicolate via email con allegati nei formati ZIP, RAR, Z e IMG.

AsyncRat è stato protagonista di tre campagne “Booking” – una italiana e due generiche – diffuse attraverso link a pagine con finti Captcha, oltre a una campagna “Prezzi” distribuita via email con allegati RAR.

Anche SnakeKeylogger è tornato in scena con una campagna italiana a tema “Fattura” e tre campagne generiche legate ai temi “Contratti” e “Ordine”, in cui il malware è stato veicolato con allegati RAR, ARJ e LZH.

Fonte: CERT-AGID

FormBook è comparso in tre campagne generiche, associate ai temi “Ordine” e “Pagamenti”, e diffuse tramite email con allegati compressi ZIP, RAR e 7Z.

Anche Remcos ha fatto registrare attività: una campagna italiana con tema “Documenti” e due campagne generiche legate a “Fattura” e “Delivery”, tutte accompagnate da allegati ZIP e RAR.

Non è mancato DarkCloud, con due campagne generiche a tema “Ordine” veicolate tramite allegati TAR e LZH, e neppure Lumma, riscontrato in due campagne generiche “Documenti” che utilizzavano allegati ZIP e IMG.

XWorm è emerso in una campagna italiana a tema “Fattura” e in una generica “Prezzi”, con file allegati nei formati ZIP e 7Z.

Particolare attenzione meritano anche le campagne che hanno coinvolto i malware BingoMod e SpyNote, veicolati tramite file APK in una campagna italiana e una generica legate al tema “Banking”, con link malevoli inviati via SMS.

A completare il quadro, una campagna italiana legata a MassLogger e diverse operazioni generiche che hanno visto protagonisti Grandoreiro, Guloader e Lokibot, distribuiti attraverso un’ampia varietà di temi e formati.

Phishing della settimana

Nel corso della settimana sono stati ben 15 i brand coinvolti nelle campagne di phishing monitorate dal CERT-AGID.

Fonte: CERT-AGID

A dominare la scena in termini di volume troviamo le campagne a tema INPS, cPanel, Intesa Sanpaolo e Aruba, che si confermano bersagli frequenti per chi cerca di sfruttare la riconoscibilità dei marchi a fini truffaldini.

Particolarmente diffuse anche le campagne di phishing rivolte alle webmail, spesso non brandizzate, che puntano in modo subdolo a sottrarre agli utenti credenziali di accesso e altri dati personali sensibili, facendo leva sulla distrazione o sulla fiducia in apparenti comunicazioni ufficiali.

Formati e canali di diffusione

Nel monitoraggio settimanale, il CERT-AGID ha rilevato l’impiego di diverse tipologie di file malevoli, a conferma della varietà di strumenti utilizzati dai cybercriminali per eludere le difese di utenti e sistemi.

Anche questa settimana hanno prevalso i formati compressi, con i file ZIP che si sono distinti come i più utilizzati: sono infatti comparsi in otto campagne distinte, confermandosi efficaci nella diffusione del malware. A pari merito troviamo i file RAR, anch’essi impiegati otto volte.

Fonte: CERT-AGID

Seguono i file IMG, utilizzati in tre campagne, mentre HTML, APK, Z e LZH sono stati impiegati in due occasioni ciascuno.

Più sporadico, ma comunque significativo, l’uso di altri formati come DOC, ARJ, 7Z e TAR, rilevati una sola volta.

Per quanto riguarda i canali di diffusione, l’email si conferma il vettore preferito dagli attaccanti. Dei 57 episodi analizzati nel periodo, ben 53 sono stati condotti tramite messaggi di posta elettronica.

Completano il quadro 7 campagne diffuse via SMS e 3 condotte attraverso PEC.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/04/21/cert-agid-12-18-aprile-campagne-phishing-pagopa-ministero-salute/?utm_source=rss&utm_medium=rss&utm_campaign=cert-agid-12-18-aprile-campagne-phishing-pagopa-ministero-salute




Federated Learning con Privacy Differenziale: proteggere i dati nell’era dell’AI Collaborativa

Nel panorama attuale dell’intelligenza artificiale, il rapido sviluppo degli algoritmi di machine learning si scontra con una crescente preoccupazione per la privacy dei dati. I modelli di AI più avanzati richiedono enormi quantità di informazioni per essere addestrati efficacemente, ma questi dati sono spesso sensibili e difficili da condividere a causa di normative sempre più stringenti come il GDPR o semplicemente per le legittime preoccupazioni degli utenti riguardo la privacy. In questo contesto complesso, due tecnologie emergono come potenziali soluzioni complementari: il Federated Learning (FL) e la Privacy Differenziale (DP).

Il Federated Learning rappresenta un paradigma di addestramento innovativo che consente a molteplici dispositivi o entità di collaborare nell’addestramento di un modello senza condividere direttamente i dati grezzi. Invece di centralizzare tutti i dati in un unico server, FL permette l’addestramento distribuito dove i dispositivi elaborano localmente i propri dati e condividono solo gli aggiornamenti del modello. La Privacy Differenziale, d’altra parte, fornisce un quadro matematico formale per limitare la fuga di informazioni derivate dai dati privati, garantendo che l’output di un algoritmo non riveli troppo sui dati di input individuali.

Quando queste due tecnologie si incontrano, creano un approccio potente per l’apprendimento collaborativo preservando la privacy. Tuttavia, implementare efficacemente questa combinazione pone numerose sfide tecniche che richiedono una comprensione approfondita di entrambi i campi. Il presente articolo esplora l’intersezione di queste tecnologie, analizzando le sfide, le soluzioni e le applicazioni emergenti nell’ambito della sicurezza informatica e della protezione dei dati.

La promessa del Federated Learning: collaborazione senza compromettere la Privacy

Il Federated Learning rappresenta un cambiamento paradigmatico nel modo in cui concettualizziamo l’addestramento dei modelli di machine learning. Introdotto da Google nel 2016, FL consente ai dispositivi di apprendere collettivamente un modello condiviso mantenendo i dati di addestramento sui dispositivi locali. Il processo tipicamente si articola in diverse fasi iterate:

Fase 1: Distribuzione del modello iniziale. Un modello iniziale viene distribuito a tutti i dispositivi partecipanti, che rappresentano i client nel sistema federato.

Fase 2: Addestramento locale. Ogni dispositivo addestra il modello sui propri dati locali, utilizzando algoritmi standard come la discesa stocastica del gradiente (SGD).

Fase 3: Condivisione degli aggiornamenti. Solo gli aggiornamenti del modello, che possono essere gradienti o parametri del modello aggiornati, vengono inviati a un server centrale. Questo server non ha mai accesso ai dati grezzi, ma solo agli aggiornamenti che riflettono ciò che il modello ha appreso.

Fase 4: Aggregazione. Il server aggrega questi aggiornamenti, tipicamente attraverso una media pesata, per migliorare il modello globale.

Fase 5: Ridistribuzione. Il modello globale aggiornato viene ridistribuito ai dispositivi, e il processo continua iterativamente.

Questo approccio offre vantaggi significativi per la privacy, poiché i dati sensibili rimangono sul dispositivo dell’utente. È particolarmente utile in scenari come la previsione delle parole nelle tastiere mobili, l’analisi delle immagini personali o l’elaborazione di dati sanitari dove la sensibilità dei dati è elevata. Inoltre, il FL risolve anche problemi pratici come i requisiti di larghezza di banda e le limitazioni di archiviazione centralizzata, poiché solo gli aggiornamenti del modello, non i dati grezzi, vengono trasmessi.

Tuttavia, nonostante i miglioramenti intrinseci alla privacy, il Federated Learning da solo non fornisce garanzie formali contro attacchi sofisticati. Ricerche condotte da Zhu et al. hanno dimostrato che i gradienti condivisi possono ancora rivelare informazioni sui dati di addestramento. Ad esempio, un’entità malintenzionata potrebbe essere in grado di ricostruire dati di input esaminando attentamente gli aggiornamenti del modello attraverso tecniche come gli attacchi di inversione del gradiente. Anche con l’aggregazione delle informazioni di più dispositivi, non esiste una garanzia teorica che le informazioni sensibili non possano essere estratte.

Altre minacce alla privacy nel contesto del FL includono attacchi di inferenza di appartenenza, che tentano di determinare se un particolare record è stato utilizzato nell’addestramento del modello, e attacchi di inferenza di proprietà, che mirano a dedurre caratteristiche statistiche dei dati di addestramento. Questi rischi evidenziano la necessità di integrare FL con tecniche più robuste di preservazione della privacy come la Privacy Differenziale.

Privacy Differenziale: una garanzia matematica per la Protezione dei Dati

La Privacy Differenziale fornisce un framework matematico rigoroso per proteggere le informazioni individuali in un dataset. Introdotta da Cynthia Dwork nel 2006, la DP offre una definizione formale di privacy che può essere dimostrata matematicamente, a differenza di approcci ad hoc che potrebbero contenere vulnerabilità nascoste.

Il concetto fondamentale è che un algoritmo differenzialmente privato dovrebbe produrre risultati statisticamente simili indipendentemente dal fatto che un singolo record sia incluso o meno nel dataset. Questa proprietà garantisce che un osservatore esterno non possa dedurre con certezza se un particolare individuo ha contribuito ai dati, anche avendo accesso all’output dell’algoritmo e a informazioni ausiliarie.

Formalmente, un meccanismo M soddisfa la (ε, δ)-privacy differenziale se, per qualsiasi coppia di dataset D e D’ che differiscono per un singolo elemento, e per qualsiasi sottoinsieme di output S:

Pr[M(D) ∈ S] ≤ e^ε · Pr[M(D’) ∈ S] + δ

Dove ε rappresenta il “budget di privacy” (valori più piccoli significano maggiore privacy) e δ è una probabilità di fallimento molto piccola, tipicamente scelta in modo da essere inferiore a 1/n, dove n è la dimensione del dataset.

Per raggiungere la privacy differenziale, i meccanismi più comuni aggiungono rumore calibrato alla sensibilità dei dati. La sensibilità misura quanto l’output di una funzione può cambiare quando un singolo record nel dataset cambia. I meccanismi comuni includono:

  • Il meccanismo di Laplace, che aggiunge rumore estratto da una distribuzione di Laplace con scala proporzionale alla sensibilità L1 della funzione divisa per ε.
  • Il meccanismo gaussiano, che aggiunge rumore estratto da una distribuzione normale con varianza proporzionale al quadrato della sensibilità L2 della funzione e inversamente proporzionale al quadrato del parametro di privacy ε.

Nel contesto dell’apprendimento automatico, l’approccio più diffuso è DP-SGD (Differentially Private Stochastic Gradient Descent), che aggiunge rumore gaussiano ai gradienti clippati durante l’addestramento. Questo consente di addestrare modelli complessi come le reti neurali profonde con garanzie di privacy differenziale.

La DP offre diverse proprietà importanti che la rendono particolarmente adatta per l’integrazione con il Federated Learning:

  • Proprietà di post-elaborazione: qualsiasi elaborazione aggiuntiva su un output differenzialmente privato rimane differenzialmente privata, senza degradare la garanzia di privacy. Questo significa che le trasformazioni dei modelli dopo l’aggregazione non compromettono la privacy.
  • Composizione: la combinazione di più meccanismi differenzialmente privati dà ancora un risultato differenzialmente privato, anche se con un parametro di privacy degradato. Questa proprietà è cruciale per analizzare la perdita di privacy cumulativa durante le iterazioni di addestramento.
  • Amplificazione tramite sottocampionamento: selezionare casualmente un sottoinsieme di dati prima di applicare un meccanismo di privacy differenziale migliora la garanzia di privacy, permettendo di ottenere la stessa utilità con meno rumore.

Queste proprietà forniscono un framework rigoroso per analizzare e garantire la privacy in sistemi complessi come quelli di Federated Learning, permettendo una quantificazione precisa del compromesso tra privacy e utilità.

Matrimonio di tecnologie: Federated Learning con Privacy Differenziale

L’integrazione del Federated Learning con la Privacy Differenziale combina il meglio di entrambi i mondi: la natura distribuita e rispettosa della privacy di FL con le garanzie matematiche formali della DP. Questa combinazione può essere implementata in diversi modi, a seconda del modello di fiducia e delle specifiche esigenze dell’applicazione.

Paradigmi di Implementazione

Dalla letteratura emergono diversi approcci per implementare FL con DP, ognuno con i propri compromessi tra fiducia, privacy e utilità del modello:

FL con DP centralizzata (CDP): Questo approccio assume un server centrale fidato che aggiunge rumore calibrato agli aggiornamenti aggregati dei client. Gli algoritmi come DP-FedAvg e DP-FedSGD rientrano in questa categoria. Il server centrale deve essere affidabile poiché ha accesso agli aggiornamenti non rumorosi dei modelli dei client. Sebbene questa configurazione richieda meno rumore rispetto ad altre, impone un’ipotesi forte sulla fiducia nel server.

FL con DP locale (LDP): In questo paradigma, ogni client aggiunge rumore ai propri aggiornamenti del modello prima di inviarli al server. Algoritmi come LDP-FedSGD implementano questa strategia. Il vantaggio principale è che non richiede un server fidato, poiché i dati sono già protetti prima di lasciare il dispositivo. Tuttavia, questo approccio generalmente richiede più rumore per ottenere la stessa garanzia di privacy, con conseguente riduzione dell’utilità del modello.

FL con DP distribuita (DDP): Questo approccio innovativo cerca di colmare il divario di utilità-fiducia tra LDP e CDP eliminando l’assunzione di un aggregatore fidato tramite tecniche crittografiche. Esistono due principali paradigmi DDP:

  • Basato su shuffling: utilizza canali di comunicazione anonimi per attenuare i rischi di identificazione dei messaggi, amplificando così le garanzie di privacy;
  • Basato su aggregazione sicura: sostituisce l’aggregatore fidato con protocolli di calcolo sicuro multiparty (MPC), consentendo l’aggregazione senza rivelare i singoli contributi.

f-DP federata: Un approccio più recente introdotto da Zheng et al. che opera a livello di record, proteggendo i singoli record dei dati di un client contro gli avversari. Questa nozione di privacy opera al livello più granulare, proteggendo singoli elementi anziché interi set di dati dei client. È particolarmente utile quando la partecipazione del client non è informazione sensibile, ma i dati individuali lo sono, come nel caso di ospedali che collaborano per addestrare modelli predittivi per malattie.

Il framework PriFedSync rappresenta un esempio di un approccio generico per FL con DP che può adattarsi a una vasta famiglia di algoritmi FL all’avanguardia, incorporando meccanismi di privacy differenziale e supportando modelli sia personalizzati che globali.

Sfide tecniche e compromessi

L’implementazione di FL con DP comporta diverse sfide tecniche significative che devono essere affrontate per ottenere un sistema pratico ed efficace:

Calibrazione della soglia di clipping: Per limitare la sensibilità dei gradienti, è comune applicare una tecnica di “clipping” che limita la norma dei gradienti a un valore massimo. Determinare la soglia ottimale è cruciale: una soglia di clipping sottostimata può causare bias nel gradiente e persino divergenza del modello, mentre una soglia sovrastimata comporta l’aggiunta di rumore eccessivo. Tecniche di clipping adattivo basate sull’analisi della divergenza o sulla stima euristica possono ridurre il rumore e produrre modelli con maggiore utilità.

Ottimizzazione della distribuzione del rumore: La forma della distribuzione del rumore utilizzata per garantire la privacy differenziale può influenzare significativamente l’equilibrio tra privacy e utilità. Oltre alle comuni distribuzioni di Laplace e Gaussiana, distribuzioni discrete o a gradini attraverso tecniche di segmentazione possono essere utilizzate per ridurre la scala del rumore necessario mantenendo i requisiti di DP.

Composizione della perdita di privacy: Il monitoraggio preciso della perdita di privacy accumulata durante le iterazioni di addestramento è fondamentale. Approcci avanzati come il “moment accountant” analizzano la distribuzione dettagliata della variabile di perdita di privacy composta e derivano un limite molto più stretto utilizzando momenti di ordine superiore, consentendo di addestrare modelli con una perdita di privacy accettabile.

Compressione dei parametri del modello: Un vettore di parametri lungo consuma pesantemente il budget di privacy e appesantisce i canali di comunicazione limitati. Tecniche di compressione come il filtraggio dei parametri, l’approssimazione di rango basso, la proiezione casuale e la quantizzazione del gradiente possono ridurre entrambi i problemi. Queste tecniche possono ridurre empiricamente sia il consumo di larghezza di banda di comunicazione che la varianza del rumore, sebbene possano anche portare a una perdita di utilità poiché alcune informazioni sui parametri vengono eliminate.

Campionamento dei client partecipanti: Il campionamento dei client nell’addestramento FL basato su DP è un approccio promettente per risparmiare budget di privacy, overhead di comunicazione e consumo energetico. L’effetto di amplificazione del campionamento per DP, in cui l’inclusione casuale dei client in ogni round di addestramento rafforza le garanzie di privacy, permette di ottenere una protezione più forte della privacy minimizzando il consumo medio di comunicazione, calcolo e privacy.

Applicazioni pratiche e implementazioni

Le applicazioni di FL con DP stanno emergendo in diversi settori dove la privacy dei dati è cruciale ma esiste anche la necessità di modelli di apprendimento avanzati. Diverse piattaforme software e implementazioni pratiche stanno rendendo queste tecnologie accessibili agli sviluppatori.

Sanità e dati medici

Nel settore sanitario, l’accesso ai dati dei pazienti è fortemente regolamentato da normative come HIPAA negli Stati Uniti o GDPR in Europa, ma questi dati sono essenziali per sviluppare modelli diagnostici e terapeutici avanzati. FL con DP può consentire a ospedali e istituti di ricerca di collaborare nell’addestramento di modelli predittivi per condizioni come il COVID-19, proteggendo al contempo la privacy di ciascun paziente.

Un esempio significativo è la collaborazione tra più ospedali per addestrare modelli di diagnosi precoce o predizione dell’evoluzione della malattia. Piuttosto che preoccuparsi se un ospedale partecipa alla collaborazione (che raramente è un’informazione sensibile), la vera preoccupazione è proteggere i dati individuali dei pazienti. In questo contesto, la f-DP federata che opera a livello di record è particolarmente adatta.

I ricercatori della University of Pennsylvania hanno dimostrato l’efficacia di questo approccio, ottenendo modelli con un’accuratezza comparabile ai metodi centralizzati tradizionali, pur mantenendo forti garanzie di privacy per i singoli pazienti.

Riconoscimento immagini su dispositivi mobili

Gli esperimenti condotti su dataset come MNIST (riconoscimento di cifre scritte a mano) e CIFAR-10 (classificazione di oggetti) mostrano che è possibile addestrare modelli di visione artificiale con FL e DP mantenendo un’accuratezza ragionevole. Questi esperimenti rivelano importanti compromessi tra privacy, accuratezza e costi computazionali.

Su MNIST, modelli privati con diversi livelli di rumore (σ = 0.75, 0.9, 1.0) possono raggiungere un’accuratezza del 90% dopo un numero variabile di round di sincronizzazione, con una perdita di accuratezza relativamente contenuta rispetto ai modelli non privati. Su CIFAR-10, che è un dataset più complesso, i modelli privati possono raggiungere un’accuratezza del 52% rispetto al 64.7% dei modelli non privati.

Queste tecnologie sono particolarmente rilevanti per applicazioni come il riconoscimento di oggetti o la classificazione di immagini sui dispositivi mobili, dove i dati delle immagini personali devono rimanere privati per evitare violazioni della privacy visiva.

Modelli linguistici e previsione testo

Google ha implementato FL con DP per addestrare modelli di previsione delle parole per la tastiera Gboard. In un recente studio pubblicato da Xu et al., hanno dimostrato che tutti i modelli di predizione delle parole successive in Gboard ora hanno garanzie DP, e tutti i futuri lanci di modelli linguistici neurali Gboard richiederanno garanzie DP.

Questo permette ai modelli di migliorare in base all’uso reale senza esporre il comportamento di digitazione individuale degli utenti, che potrebbe contenere informazioni sensibili come password, informazioni personali o conversazioni private.

Con l’avvento dei grandi modelli linguistici (LLM) come ChatGPT, l’applicazione di FL con DP per il fine-tuning su domini specifici rappresenta un’area di ricerca promettente. Questi modelli potrebbero beneficiare dell’apprendimento da dati di utenti reali senza compromettere la privacy individuale.

Strumenti e framework per implementare FL con DP

Per facilitare l’implementazione pratica di queste tecnologie, sono stati sviluppati numerosi framework e piattaforme software. Alcuni dei più rilevanti includono:

TensorFlow Privacy e TensorFlow Federated: Librerie di Google che si integrano perfettamente con i modelli TensorFlow esistenti e consentono l’addestramento di modelli personalizzati con DP. Tuttavia, i meccanismi DP integrati sono relativamente fissi nel design e non supportano ottimizzazioni personalizzate flessibili.

Opacus: Una libreria scalabile ed efficiente per l’addestramento di modelli PyTorch con DP. Introduce un’astrazione di un “privacy engine” che si collega all’ottimizzatore PyTorch standard, rendendo molto più semplice l’implementazione di DP-SGD senza chiamare esplicitamente API di basso livello.
PySyft: Una libreria Python che supporta FL e DP, e disaccoppia l’addestramento del modello dai dati privati. La versione attuale si concentra principalmente sul calcolo multi-party sicuro (SMC) e sulla crittografia omomorfa (HE) piuttosto che sull’implementazione DP.

FedML: Una libreria di ricerca aperta e benchmark standardizzato con diversi paradigmi e configurazioni FL. La versione attuale integra solo DP debole ma fornisce API di basso livello per primitive di sicurezza.

Sherpa.ai FL: Un framework unificato per FL con DP, che presenta un supporto completo per meccanismi DP e tecniche di ottimizzazione. Tuttavia, si concentra principalmente sull’ottimizzazione a livello di algoritmo e non considera l’implementazione del sistema pratico.
Questi strumenti stanno rendendo più accessibile l’implementazione di FL con DP, anche se c’è ancora spazio per framework più completi che supportino tutte le varianti di questi approcci con ottimizzazioni flessibili.

Sfide emergenti e direzioni future

Nonostante i significativi progressi nell’integrazione di FL con DP, rimangono diverse sfide aperte che richiedono ulteriori ricerche:

Federated Learning verticale e di trasferimento

Mentre il FL orizzontale (dove i client hanno dati con le stesse caratteristiche ma esempi diversi) è stato ampiamente studiato, il FL verticale (dove diverse parti detengono caratteristiche diverse degli stessi campioni) pone sfide uniche per l’integrazione della DP.

Il FL verticale ha guadagnato crescente attenzione, ma molti studi esistenti si basano sul calcolo multi-party sicuro (SMC) per proteggere la riservatezza senza considerare la perdita di privacy nei risultati finali. Per ottenere una resistenza dimostrabile agli attacchi di inferenza di appartenenza o ricostruzione, è essenziale impiegare la DP anche nel VFL.

Questa integrazione è più impegnativa per due motivi principali: in primo luogo, il design degli algoritmi VFL varia per diverse attività e modelli, spesso richiedendo uno sviluppo caso per caso; in secondo luogo, le correlazioni tra attributi distribuiti sono più difficili da identificare senza diffondere informazioni individuali ad altre parti.

Grandi Modelli Linguistici (LLM)

Con l’emergere di modelli linguistici di grandi dimensioni come ChatGPT, sia FL che DP mostrano un futuro promettente nel fine-tuning di LLM preservando la privacy rispetto ai dati di dominio privato. Tuttavia, questi modelli possono avere da diversi miliardi a centinaia di miliardi di parametri, ponendo sfide significative.

Quando si applicano DP e FL a LLM, ci saranno molteplici sfide riguardanti l’enorme numero di parametri, al di là degli oneri aggiuntivi di comunicazione e calcolo sui partecipanti con risorse limitate. Indipendentemente dal modello DP, la quantità totale di rumore per la privacy deve essere proporzionale al numero di parametri per applicare DP sui modelli, il che porterebbe a enormi perdite di utilità senza tecniche specializzate.

Inoltre, il fine-tuning di LLM pre-addestrati è diverso dall’addestramento convenzionale dei modelli. La garanzia di privacy teorica nell’ML (ad esempio, DP-SGD) spesso presuppone che i modelli siano appresi da zero con molte iterazioni di addestramento, invece di una modalità di fine-tuning con molte meno iterazioni.

Federated Learning su stream di dati

In molti scenari realistici, i dati di addestramento vengono generati continuamente sotto forma di stream sui client distribuiti. In tali casi, i sistemi FL devono condurre analisi ripetitive su stream distribuiti. Ereditando l’apprendimento automatico online (OL), il federated learning online può essere derivato naturalmente per evitare di riaddestramento i modelli da zero ogni volta che arriva un nuovo frammento di dati.

Tuttavia, ottenere DP per questo scenario porta molteplici sfide. La prima è come definire la privacy nell’impostazione OFL, poiché la nozione generale di DP funziona solo per dataset statici. Sebbene le nozioni di privacy esistenti per i flussi di dati e FL sembrino applicabili qui, devono ancora essere chiarite e formulate rigorosamente nell’impostazione OFL.

La seconda sfida riguarda l’efficienza algoritmica. Prendendo come esempio la LDP a livello di evento (cioè, garantire ε-LDP in ogni istanza temporale), il frequente caricamento degli aggiornamenti del modello locale accumula enormi costi di comunicazione e grande perdita di utilità, poiché il rumore è proporzionale alla dimensione dei dati di comunicazione.

Robustezza, equità e diritto all’oblio

Un sistema FL robusto dovrebbe essere resiliente a vari guasti e attacchi causati da partecipanti che si comportano male. A causa delle capacità limitate (ad esempio, limiti della batteria), i client FL (ad esempio, smartphone) potrebbero abbandonare l’addestramento FL in modo imprevisto in qualsiasi momento. I dropout casuali dei client presentano gravi sfide per la progettazione pratica di FL con privacy differenziale.

La protezione della privacy è solo il primo passo per incoraggiare la condivisione dei dati tra una grande popolazione. L’applicazione dell’equità (fairness) aiuta a mitigare il bias involontario su individui con dati eterogenei. Tuttavia, il dilemma è che la DP mira a oscurare attributi identificabili mentre l’equità richiede la conoscenza dei valori degli attributi sensibili degli individui per evitare risultati distorti. Il clipping del gradiente e l’aggiunta di rumore nella DP possono peggiorare l’iniquità diminuendo l’accuratezza del modello per classi e sottogruppi sottorappresentati.

Inoltre, i diritti alla privacy includono il “diritto all’oblio”, cioè gli utenti possono scegliere di non contribuire con dati privati senza lasciare traccia. Poiché i modelli ML memorizzano molte informazioni specifiche sui campioni di addestramento, il concetto di “unlearning” della macchina è proposto per eliminare la sua influenza sui modelli addestrati. Tuttavia, l’unlearning federato affronta sfide distinte, poiché è molto più difficile cancellare l’influenza dei dati di un client quando il modello globale ha iterativamente trasportato le informazioni di tutti i client partecipanti.

Un Futuro di apprendimento collaborativo e privato

L’integrazione del Federated Learning con la Privacy Differenziale rappresenta una frontiera promettente per l’apprendimento automatico rispettoso della privacy. Questa combinazione permette di sbloccare il potenziale dell’IA superando il problema della frammentazione dei dati su larga scala, consentendo al contempo garanzie di privacy rigorose che possono rispettare sia la consapevolezza della privacy che la conformità normativa.

Abbiamo esplorato i diversi paradigmi per implementare FL con DP, dai modelli centralizzati che richiedono fiducia nel server, agli approcci locali che proteggono i dati prima che lascino il dispositivo, fino ai sistemi distribuiti più avanzati che utilizzano tecniche crittografiche per ottenere alta accuratezza senza un aggregatore fidato. Abbiamo anche discusso le sfide tecniche fondamentali nell’ottimizzazione dell’utilità di questi sistemi, incluse la calibrazione della soglia di clipping, l’ottimizzazione della distribuzione del rumore e la composizione della perdita di privacy.

Le applicazioni pratiche in sanità, visione artificiale e modelli linguistici dimostrano il potenziale di queste tecnologie, mentre gli strumenti e i framework emergenti stanno rendendo più accessibile la loro implementazione. Le sfide future nella gestione di dati verticali, grandi modelli linguistici, stream di dati e bilanciamento tra privacy, robustezza ed equità continueranno a guidare l’innovazione in questo campo.

Con il continuo avanzamento della tecnologia, possiamo aspettarci soluzioni sempre più sofisticate che consentano ai sistemi di apprendimento automatico di operare su dati sensibili distribuiti senza compromettere la privacy individuale. Come dimostrano le implementazioni iniziali in vari campi, dalle tastiere mobili all’assistenza sanitaria, questa combinazione di tecnologie ha il potenziale per trasformare radicalmente il modo in cui utilizziamo i dati per l’addestramento dei modelli di AI, realizzando finalmente la promessa di sistemi di intelligenza artificiale che rispettano pienamente la privacy dei dati personali.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/federated-learning-privacy-differenziale/




Machine Unlearning e IA Generativa: il mito della cancellazione dei dati nell’IA

Nell’universo in rapida evoluzione della sicurezza informatica, l’intelligenza artificiale generativa ha introdotto paradigmi completamente nuovi che sfidano le nostre concezioni tradizionali di protezione dei dati, privacy e cybersecurity. Tra le questioni più dibattute e fraintese emerge il concetto di “machine unlearning”, una tecnologia che promette di far “dimenticare” alle IA informazioni specifiche. Ma cosa succede quando questa promessa si scontra con la realtà tecnica? Approfondiamo le implicazioni per la sicurezza informatica di un fenomeno che rischia di creare un pericoloso falso senso di protezione.

Il seguente articolo analizza e sviluppa i concetti presentati nella pubblicazione accademica “Machine Unlearning Doesn’t Do What You Think: Lessons for Generative AI Policy, Research, and Practice” di A. Feder Cooper et al., 2024, e ne approfondisce le implicazioni per la sicurezza informatica contemporanea.

La promessa infranta del Machine Unlearning

Il machine unlearning rappresenta, in teoria, una soluzione elegante a problemi complessi: permettere ai modelli di intelligenza artificiale di “disimparare” informazioni specifiche senza necessità di riaddestrarli completamente. Questa possibilità appare particolarmente allettante nel contesto del Regolamento Generale sulla Protezione dei Dati (GDPR) europeo, che garantisce il “diritto all’oblio”. L’idea che si possa semplicemente “cancellare” dati sensibili o potenzialmente dannosi dai modelli di IA è seducente, ma nasconde una realtà ben più complessa.

A differenza di un database tradizionale, dove è possibile identificare e rimuovere record specifici, un modello di IA generativa non archivia informazioni in modo discreto e facilmente accessibile. Durante l’addestramento, i dati vengono trasformati in pattern codificati nei parametri del modello – pattern che non sono né direttamente né facilmente interpretabili. La rimozione di informazioni da un modello di IA non è quindi paragonabile all’eliminazione di dati da un database.

Questa discrepanza fondamentale crea una vulnerabilità significativa: l’illusione che informazioni sensibili siano state effettivamente rimosse quando, in realtà, tracce di esse potrebbero persistere in forme latenti o emergere in modo inaspettato nelle generazioni future del modello.

I rischi nascosti nei sistemi con rimozione selettiva dei dati

Quando si parla di sicurezza informatica nell’ambito dell’IA generativa, emerge un problema cruciale: la rimozione di informazioni osservate (i dati di addestramento) non garantisce la soppressione di output problematici. In altre parole, anche se si eliminassero tutte le immagini protette da copyright di un personaggio come Spiderman dal dataset di addestramento di un modello, questo non impedirebbe necessariamente al modello di generare output che assomigliano a Spiderman.

Questo fenomeno crea un rischio di sicurezza non trascurabile: organizzazioni e aziende potrebbero credere erroneamente di aver mitigato rischi legali o di sicurezza rimuovendo determinate informazioni dai loro modelli, mentre in realtà rimangono potenzialmente vulnerabili. È un caso classico in cui la percezione di sicurezza diventa più pericolosa dell’assenza di sicurezza stessa, poiché porta a decisioni basate su presupposti errati.

L’aspetto più preoccupante è che, tramite prompt sapientemente costruiti, utenti malintenzionati potrebbero aggirare le misure di unlearning reintroducendo informazioni che si credevano rimosse. Questo scenario è particolarmente allarmante quando si tratta di informazioni sensibili come dati personali, procedure di sicurezza o conoscenze che potrebbero essere sfruttate per attività dannose.

La natura Dual-Use dell’IA e i dilemmi di sicurezza irrisolvibili

Un altro aspetto fondamentale che complica ulteriormente il panorama della sicurezza informatica è la natura intrinsecamente “dual-use” dei sistemi di IA generativa. Come un computer può essere utilizzato sia per progettare un’arma biologica che per comporre il prossimo grande musical di Broadway, anche i sistemi di IA generativa possono essere impiegati per scopi sia benefici che dannosi.

Questa dualità pone una sfida insormontabile: anche output apparentemente innocui, se isolati, potrebbero essere utilizzati per scopi dannosi in contesti diversi. Ad esempio, un modello potrebbe generare informazioni su una singola reazione chimica – perfettamente legittima in un contesto educativo – che, combinata con altre conoscenze in possesso di un utente malintenzionato, potrebbe consentire la creazione di una molecola tossica.

Il problema fondamentale è che nessun metodo di unlearning può anticipare come una persona o un altro agente potrebbe comportarsi con gli output dell’IA in un numero potenzialmente infinito di contesti diversi. Il controllo che i metodi di unlearning possono offrire è limitato ai parametri del modello e ai suoi output diretti, ma non può estendersi agli usi imprevisti o deliberatamente malevoli di tali output.

L’impatto sulla Privacy nell’era Post-GDPR

La privacy rappresenta forse il campo dove le limitazioni del machine unlearning hanno le implicazioni più immediate. L’interpretazione comune del “diritto all’oblio” sancito dal GDPR presuppone che sia possibile rimuovere completamente l’influenza dei dati personali di un individuo da un modello addestrato. Questa interpretazione, sebbene diffusa nella letteratura di ricerca sull’apprendimento automatico, si scontra con limitazioni tecniche significative.

Anche se si rimuovessero tutti i dati personali di un individuo dal dataset di addestramento e si riaddestrasse il modello da zero (il cosiddetto “gold standard” per l’unlearning), non vi sarebbe alcuna garanzia che il modello non possa comunque generare informazioni sensibili su quell’individuo attraverso generalizzazioni basate su informazioni latenti derivate da altri dati.

Questo solleva questioni fondamentali: se un modello di IA può ancora fare inferenze su un individuo dopo che i suoi dati specifici sono stati “disimparati”, si può davvero affermare che il diritto alla privacy di quell’individuo sia stato rispettato? La sicurezza dei dati personali è realmente garantita, o stiamo semplicemente applicando una soluzione superficiale a un problema profondamente radicato nella natura stessa dell’intelligenza artificiale?

Le sfide di sicurezza nel contesto del copyright e della proprietà intellettuale

Anche nel campo del copyright e della proprietà intellettuale, il machine unlearning solleva problematiche di sicurezza significative. Se un’azienda riceve una richiesta di rimozione per contenuti protetti da copyright nel proprio modello di IA, potrebbe implementare metodi di unlearning per tentare di rimuovere tali contenuti o sopprimere output simili.

Tuttavia, la natura indefinita della “somiglianza sostanziale” nel diritto d’autore rende impossibile programmare in modo completo e affidabile quali opere siano sostanzialmente simili ad altre. Un modello modificato per non generare immagini simili a una particolare immagine di un personaggio protetto da copyright potrebbe comunque generare immagini simili ad altre rappresentazioni dello stesso personaggio – o di altri personaggi dello stesso creatore.

Questa incertezza espone le organizzazioni a rischi legali significativi, creando una zona grigia dove nemmeno le migliori pratiche di unlearning possono garantire una protezione completa. La sicurezza giuridica diventa così un miraggio, con implicazioni economiche potenzialmente devastanti date le severe sanzioni previste per le violazioni del copyright.

Verso un approccio di sicurezza realistico nell’era dell’IA Generativa

Di fronte a queste sfide, è fondamentale sviluppare un approccio alla sicurezza informatica più realistico e sfumato quando si tratta di IA generativa. Il primo passo è riconoscere che il machine unlearning non è una soluzione universale, ma solo uno strumento tra molti nel toolkit della sicurezza informatica e della conformità normativa.

Le organizzazioni dovrebbero adottare una visione più sfumata e orientata al rischio, concentrandosi non solo sulla rimozione delle informazioni dai modelli, ma anche su robusti sistemi di filtraggio degli output e politiche di utilizzo responsabile. Invece di promettere l’impossibile – la rimozione completa e irreversibile di informazioni specifiche – le organizzazioni dovrebbero mirare a “sforzi ragionevoli” per mitigare i rischi, un approccio che potrebbe trovare maggiore comprensione anche tra giudici e regolatori.

È inoltre cruciale comprendere che la sicurezza dell’IA generativa è una questione di sistema, non solo di modello. Gli interventi a livello di sistema (come i filtri di contenuto) sono strumenti importanti per limitare gli output problematici, ma la loro efficacia richiede un’analisi a livello di sistema. I modelli a pesi aperti, come la famiglia Llama di Meta, presentano sfide particolari per l’unlearning, poiché rilasciati come parametri senza possibilità di implementare guardrail a livello di sistema.

Strategie concrete per i professionisti della Sicurezza Informatica

Alla luce delle problematiche evidenziate, i professionisti della cybersecurity che lavorano con sistemi di IA generativa dovrebbero adottare un approccio multistrato che vada oltre il semplice affidarsi alle tecniche di cancellazione dei dati. Ecco alcune strategie concrete:

  1. Implementare sistemi di monitoraggio continuo: Anziché presumere che la rimozione dei dati sia definitiva, è essenziale monitorare costantemente gli output dei modelli per identificare eventuali “fughe” di informazioni che si ritenevano rimosse.
  2. Adottare una difesa a profondità: Combinare diverse tecniche di protezione, inclusi filtri di output, verifiche pre-rilascio, e sistemi di rilevamento di prompt malevoli che tentano di aggirare le protezioni.
  3. Abbracciare il principio del “least privilege”: Limitare l’accesso ai modelli più potenti solo agli usi assolutamente necessari, implementando versioni con capacità ridotte per applicazioni meno critiche.
  4. Sviluppare protocolli di risposta agli incidenti specifici per l’IA: Creare procedure di emergenza dedicate che considerino la possibilità che informazioni “disimparate” possano riemergere in modi inaspettati.
  5. Implementare tecniche di offuscamento dei dati sensibili: Quando possibile, trasformare i dati sensibili prima dell’addestramento in modo da preservare i pattern utili eliminando le informazioni identificative specifiche.

Dal punto di vista organizzativo, è fondamentale che i responsabili della sicurezza informatica:

  • Comunichino chiaramente i limiti delle tecnologie di cancellazione dei dati ai dirigenti e agli stakeholder;
  • Documentino in modo trasparente i rischi residui dopo l’applicazione delle tecniche di unlearning;
  • Integrino valutazioni specifiche per l’IA nei processi di gestione del rischio aziendale;
  • Collaborino strettamente con esperti legali per allineare le aspettative di conformità con le reali capacità tecniche.

Infine, è cruciale adottare un approccio di sicurezza adattivo che riconosca che i modelli di IA generativa sono entità dinamiche. La sicurezza non può essere considerata come uno stato finale da raggiungere, ma come un processo continuo di valutazione, miglioramento e adattamento alle nuove vulnerabilità che emergono con l’evoluzione dei modelli e delle tecniche di attacco.

Ripensare la Sicurezza nell’era Post-Controllo

L’analisi del machine unlearning rivela una verità scomoda: stiamo entrando in un’era in cui l’illusione del controllo tecnologico totale deve essere abbandonata. Le implicazioni di questa realtà sono profonde e richiedono un cambio di paradigma radicale nella sicurezza informatica.

Il settore della cybersecurity ha storicamente operato su un presupposto fondamentale: che con sufficienti risorse, competenze e tecnologie, sia possibile creare sistemi “sicuri”. I modelli di IA generativa sfidano questo assioma in modo fondamentale. Come dimostrato dalle limitazioni intrinseche del machine unlearning, ci troviamo di fronte a sistemi la cui complessità supera la nostra capacità di controllo deterministico.

Questo non è semplicemente un problema tecnico che sarà risolto da metodi più sofisticati in futuro. È una limitazione fondamentale e ineludibile che deriva dalla natura stessa dell’apprendimento automatico avanzato. Ogni tentativo di controllare rigorosamente questi sistemi si traduce inevitabilmente in una riduzione della loro utilità e potenza, creando un compromesso impossibile da risolvere in modo soddisfacente.

La conclusione più radicale è che dobbiamo abbandonare il paradigma della “cyber-sicurezza” in favore di un approccio di “cyber-resilienza”. La differenza è sostanziale: mentre la sicurezza si concentra sulla prevenzione degli incidenti, la resilienza accetta l’inevitabilità di alcuni fallimenti e si concentra sulla capacità di un sistema di continuare a funzionare nonostante gli attacchi o le compromissioni.

Invece di promettere falsamente che le informazioni sensibili possono essere completamente rimosse dai modelli di IA, dovremmo sviluppare architetture che possano funzionare in modo sicuro anche quando alcuni dati vengono inevitabilmente esposti. Questo richiede un cambiamento profondo nella progettazione di sistemi, nelle metodologie di valutazione del rischio e nella formazione professionale.

La vera innovazione nella sicurezza dell’IA non verrà da tentativi sempre più sofisticati di controllare l’incontrollabile, ma da approcci che accettano i limiti del controllo e costruiscono robustezza attraverso ridondanza, compartimentazione e ripristino rapido. Questo è un cambiamento epistemologico profondo, che richiede di abbandonare il confortante ma illusorio paradigma della sicurezza assoluta.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/machine-unlearning-e-ia-gen/