ER2Digit, incontro a Torino con l’Ue

Quattro European Digital Innovation Hub (EDIH) hanno incontrato l’Unione europea (Ue) a Torino per valutare l’avanzamento e i risultati fin qui raggiunti. Regione Emilia-Romagna supporta fin dall’inizio ER2Digit in quanto rappresenta un tassello dell’ecosistema regionale per la trasformazione digitale.

L’approccio che coinvolge anche il sistema delle Comunità Tematiche (COMTem), ha evidenziato una specificità che ha riscosso interesse nel team di valutatori particolarmente focalizzati sul meccanismo di engagement (coinvolgimento).

I valutatori hanno percepito le COMTem come un canale di diffusione delle conoscenze e delle buone pratiche e del loro successivo consolidamento nel panorama complesso delle pubbliche amministrazioni (PA).

Le buone pratiche presentate da Lepida hanno riguardato iniziative di supervisione dello stato delle infrastrutture di viabilità, il coinvolgimento dei professionisti del settore economico per cogliere le opportunità dell’intelligenza artificiale (AI), il supporto alle persone vulnerabili (inclusi i bambini in età prescolare) e infine il modello di autovalutazione della capacità di gestire la PA secondo un approccio data-driven.
Sono state presentate anche esperienze in campo mobilità e archiviazione.

I valutatori hanno raccomandato di recuperare, con una buona programmazione, le difficoltà incontrate nell’affrontare il modello di cofinanziamento dei progetti EDIH.

Le prossime settimane saranno intense e dedicate al coinvolgimento degli enti soci per finalizzare le iniziative in corso con le PA entro il termine originario di conclusione di ER2DIGIT, in attesa del nuovo bando EDIH per proporre ulteriori progettualità innovative rivolte alla PA.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/er2digit-incontro-a-torino-con-lue/530070/




La RSA Conference accoglie le soluzioni italiane di cybersecurity


Quest’anno la RSA Conference, il più grande evento mondiale dedicato alla cybersecurity, ha accolto le soluzioni tecnologiche di 16 imprese italiane. In programma dal 28 aprile al 1° maggio, la conferenza riunisce i principali player mondiali del mercato, approfondendo tecnologie che vanno dalla crittografia quantistica all’IA.

A guidare le realtà italiane è l’ICE – Agenzia per la promozione all’estero e l’internazionalizzazione delle imprese italiane in partnership con l’Agenzia per la Cybersicurezza Nazionale (ACN) e in collaborazione con il Ministero degli Affari Esteri e della Cooperazione Internazionale.

“Alla RSA Conference mostriamo tecnologie come l’AI per la sicurezza, la biometria che rispetta la privacy e la crittografia post – quantistica: strumenti pensati per chi deve proteggere infrastrutture critiche e catene di fornitura in tutto il mondo. Il nostro obiettivo è creare partnership industriali e tecnologiche che mettano a fattor comune l’ingegnosità italiana con l’ampiezza di mercato e la potenza di investimento dei leader internazionali” ha dichiarato Matteo Zoppas, presidente di Agenzia ICE.

RSA Conference

Credits: Agenzia ICE

La missione italiana, presente presso l’Italian Innovation and Culture Hub Unnovit di San Francisco, ha ospitato ieri 29 aprile un evento di networking dedicato all’eccellenza nazionale nella cybersecurity. Organizzato in collaborazione con il Consolato Generale d’Italia a San Francisco, l’occasione ha riunito le aziende italiane per incontrare investitori e operatori internazionali.

L’evento ha visto i saluti del Console Generale Sergio Strozzi, del Trade Commissioner dell’Ufficio ICE di Los Angeles Giosafat Riganò, del rappresentante MAECI Massimo Carnelos e del responsabile del Fondo AI di CDP Venture Capital Vincenzo Di Nicola. In seguito si è tenuto un keynote di Luca Nicoletti, Capo del Servizio Programmi Industriali, Tecnologici, di Ricerca e Formazione di ACN sul panorama cyber italiano, un fireside chat con Tim Maurer, Senior Director Cybersecurity Policy di Microsoft e tavoli tematici con gli innovatori italiani.

Le realtà italiane alla RSA Conference

La partecipazione delle imprese italiane alla RSA fa parte di una strategia di promozione coordinata dall’ufficio ICE di Los Angeles per la creazione di reti internazionali. L’ufficio ha già coordinato la partecipazione delle realtà del Paese in altre occasioni, tra le quali il CES 2025 di Las Vegas e “Italy on the Move”, l’appuntamento con l’industria italiana delle scienze della vita negli USA.

Lo scorso marzo la delegazione italiana si è trovata nuovamente a San Francisco per la Game Developers Conference e l’ufficio ICE ha supportato anche WMF – We Make Future nell’organizzazione di “AI for future”, un evento tenutosi presso l’hub Innovit. Tra le iniziative ICE c’è anche il Global Startup Program, programma a supporto delle startup che prevede un percorso integrato di sviluppo all’estero in sei località strategiche nel mondo, comprese New York e Los Angeles.

RSA Conference

Credits: Agenzia ICE

Quest’anno le aziende italiane presenti alla RSA Conference sono attive su più fronti tecnologici nel mondo della cybersecurity, compresi l’IA e l’automazione, la networks security, le soluzioni per la tutela dell’identità digitale e le tecnologie quantistiche. Nel dettaglio, le realtà del Paese presenti alla conferenza sono:

  • Accelerat (San Giuliano Terme – Pisa): una realtà che fornisce soluzioni software per garantire elevati livelli di sicurezza per i sistemi cyber-fisici quali veicoli autonomi, robot avanzati e automazione industriale. Accelerat ha appena lanciato AI Bunker, una soluzione che protegge da furto o accesso non autorizzato i modelli proprietari di IA;
  • bitCorp (Milano): l’azienda ha sviluppato ZADIG XDR, piattaforma per la gestione della cybersecurity progettata per consentire la definizione di processi di Detection & Response personalizzati e altamente specializzati basati su IA;
  • Cyber Evolution (Ascoli Piceno): questa impresa ha sviluppato LECS, tecnologia plug&play per la sicurezza IT e OT sviluppata da Cyber Evolution che integra Deep Packet Inspection avanzata e risposta attiva alle minacce;
  • Cyberneid (Napoli): l’azienda si propone di democratizzare l’accesso alle tecnologie di identità digitale, rendendo la verifica rapida per gli utenti genuini e complessa per i frodatori grazie a controlli multilivello alimentati dall’IA;
  • Drivesec (Torino): l’azienda ha sviluppato WESETH, Piattaforma di automazione dei test pensata per verificare la cybersicurezza dei sistemi cyber-fisici;
  • EDGE SDN (Bologna): la piattaforma dell’azienda garantisce la continuità operativa nelle reti industriali esistenti sfruttando la segmentazione dei flussi di dati direttamente sugli switch già installati. Edge SDN crea confini di sicurezza invisibili all’interno della rete OT Senza modificare indirizzi IP o VLAN, , permettendo di riutilizzare l’infrastruttura esistente per proteggere le linee di produzione;
  • Equixly (Firenze): l’azienda ha sviluppato una piattaforma di testing delle API alimentata da IA che permette di realizzare software più sicuri, individuando vulnerabilità logiche di business, integrandosi senza soluzione di continuità nel ciclo di sviluppo software;
  • Ermes–Browser Security (Torino): la soluzione dell’azienda usa IA e Deep Learning per proteggere il browser aziendale da phishing, minacce web generate da IAe furto di credenziali;
  • Keyless (Roma): l’azienda offre autenticazione biometrica avanzata a tutela della privacy grazie alla sua tecnologia proprietaria Zero‑Knowledge Biometrics (ZKB) che consente di effettuare MFA in pochi millisecondi senza memorizzare dati biometrici;
  • Monokee (Rovereto – Trento): Monokee è una piattaforma di Identity and Access Management e Identity Orchestration che unisce autenticazione,  autorizzazione e governance attraverso un’interfaccia visuale e si integra con le infrastrutture esistenti;
  • Pluribus One (Cagliari): l’azienda ha sviluppato SEER BOX, soluzione on-premise per la protezione avanzata di applicazioni Web e API, progettata per rispondere alle esigenze operative di SOC e MSSP. La piattaforma agisce come un Web Application Security Manager, abilitando funzionalità di detection e response;
  • Quantum2pi (Napoli): l’azienda sviluppa algoritmi di sicurezza resistenti ai computer quantistici e sistemi di comunicazione basati su QKD per proteggere i dati dalle minacce future.
  • Random Power (Milano): l’azienda ha sviluppato una piattaforma di generatori di bit di stato casuale sulla base delle proprietà quantistiche di dispositivi dedicati in Silicio, per applicazioni in cyber security, privacy preservation, AI training e simulazione di sistemi complessi;
  • Security Pattern (Mazzano – Brescia): l’azienda offre consulenza, IP hardware e formazione per integrare la sicurezza a livello di hardware, software e procedure, supportando i produttori di dispositivi connessi nei settori medicale, industriale, automotive e consumer. L’azienda ha sviluppato la piattaforma ARIANNA, in grado di assolvere le richieste dei più stringenti standard medicali ed industriali in ambito di gestione delle vulnerabilità;
  • TrueScreen (Bologna): la piattaforma dell’azienda previene frodi, contestazioni e disinformazione certificando con valore legale autenticità ed immodificabilità di file multimediali, mail e documenti;
  • Weagle (Milano): l’azienda ha sviluppato un un motore di ricerca aziendale e una chat IA che anonimizzano le ricerche, archiviano i dati in un wallet cifrato e li cancellano dopo 24 ore, offrendo riservatezza e controllo dei dati generati dall’attività web e di IA n azienda.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/04/30/la-rsa-conference-accoglie-le-soluzioni-italiane-di-cybersecurity/?utm_source=rss&utm_medium=rss&utm_campaign=la-rsa-conference-accoglie-le-soluzioni-italiane-di-cybersecurity




AI, Trump licenzia 200 specialisti (l’ha deciso il DOGE di Musk). Si indebolisce la capacità del Paese di innovare

L’amministrazione Trump allontana oltre 200 specialisti AI, sempre più incerto il futuro dell’intelligenza artificiale made in US

Negli ultimi mesi, il presidente Donald Trump ha intrapreso numerose iniziative per posizionare gli Stati Uniti come leader globale nell’ambito dell’intelligenza artificiale(AI). Già a gennaio, Trump aveva firmato un ordine esecutivo con l’obiettivo dichiarato di assicurare la “dominanza” americana nel campo dell’AI, seguito ad aprile da una direttiva rivolta a tutte le agenzie federali per reclutare personale esperto in tecnologie avanzate.

Recentemente, un ulteriore ordine esecutivo è stato firmato con l’intento di integrare l’intelligenza artificiale nelle scuole americane, a sottolineare ulteriormente l’interesse strategico dell’amministrazione verso questa tecnologia emergente.

Tuttavia, questi sforzi sono stati minati da decisioni controverse che hanno comportato la perdita di numerosi esperti. Molti dei talenti reclutati durante la precedente amministrazione Biden, nell’ambito del progetto “National AI Talent Surge“, sono stati rapidamente licenziati o hanno lasciato volontariamente il governo dopo l’insediamento della nuova amministrazione Trump.

La perdita di oltre 200 specialisti AI, attivamente coinvolti in progetti cruciali come la riduzione dei tempi di attesa per la previdenza sociale, la semplificazione della dichiarazione dei redditi e l’ottimizzazione dell’assistenza sanitaria ai veterani, rappresenta un significativo spreco di risorse federali.

Licenziamenti effettati dal DOGE guidato da Elon Musk

Secondo quanto riportato da ex funzionari governativi intervistati dal Time, molti dei licenziamenti sono avvenuti sotto la direzione del Dipartimento per l’Efficienza del Governo (DOGE), guidato dall’imprenditore Elon Musk.

Questo dipartimento ha effettuato un ampio taglio di personale tecnologico, eliminando centinaia di posizioni in ruoli cruciali per lo sviluppo digitale e l’implementazione di soluzioni AI in diverse agenzie federali. L’ufficio tecnologico denominato “18F“, responsabile di importanti progetti come il programma IRS Direct File per la dichiarazione gratuita delle tasse, è stato completamente cancellato.

Questa serie di decisioni ha creato un’atmosfera di instabilità e incertezza, rendendo difficile il reclutamento di nuovi specialisti qualificati nel settore pubblico. Deirdre Mulligan, ex direttrice del National Artificial Intelligence Initiative Office, ha sottolineato che tali azioni non solo privano il governo del talento necessario per l’innovazione tecnologica, ma scoraggiano anche futuri candidati dall’intraprendere carriere pubbliche, visto il clima lavorativo instabile creatosi.

Angelica Quirarte, esperta recruiter di talenti tecnologici assunta durante l’amministrazione Biden, ha confermato le difficoltà future che attendono il governo nel reclutare nuovi esperti in AI. Quirarte stessa ha deciso di lasciare il proprio ruolo dopo appena 23 giorni nell’amministrazione Trump, descrivendo un ambiente caratterizzato da paura e mancanza di fiducia reciproca, condizioni che ostacolano fortemente l’attuazione di politiche efficaci e l’innovazione tecnologica.

Le decisioni di Trump stanno indebolendo al capacità di innovare degli Stati Uniti

Se da un lato le dichiarazioni ufficiali mostrano una chiara intenzione di accelerare sull’intelligenza artificiale, dall’altro le decisioni operative recenti rischiano di compromettere seriamente le capacità americane di guidare questo settore cruciale per il futuro.

La perdita di talenti potrebbe costringere le agenzie federali a ricorrere a consulenze esterne molto più costose e meno integrate nel tessuto istituzionale, con implicazioni negative sull’efficienza e sulla qualità delle innovazioni tecnologiche negli Stati Uniti.

La mancanza di personale qualificato in grado di sviluppare soluzioni innovative per il governo potrebbe tradursi in minore efficienza e in una riduzione della capacità di rispondere rapidamente a esigenze sociali complesse (sanità, sicurezza, previdenza, ecc.).
L’indebolimento del Governo federale americano (a vantaggio dei privati) non farà altro che indebolire la capacità degli Stati Uniti di competere in settori chiave dell’economia globale e di guidare l’innovazione globale, favorendo anzi altri Paesi diretti competitor, come ovviamente la Cina.

Trump giù nei sondaggi

Trump ha raggiunto i suoi primi 100 giorni alla Casa Bianca, firmando 137 ordini esecutivi in totale. Un primato nella storia degli Stati Uniti, che non sembra aver conquistato gli americani. Secondo il nuovo sondaggio della CNN, il Presidente Trump è al minimo storico nei sondaggi, cresce tra la popolazione la paura per il futuro e soprattutto per un’imminente recessione economica.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-trump-licenzia-200-specialisti-lha-deciso-il-doge-di-musk-si-indebolisce-la-capacita-del-paese-di-innovare/529918/




Come lo studio che ha creato la serie tv ‘Dark’ utilizza l’AI per sceneggiature e compiti amministrativi

Leonine Studios, noto per produzioni come ‘Dark’, ha implementato strumenti basati su AI in vari ambiti aziendali, con l’obiettivo di aumentare la produttività mantenendo l’essere umano al centro della creatività.

La piattaforma interna, denominata ‘LeoChat’, permette ai dipendenti di interagire con diversi modelli linguistici per attività amministrative e creative, come la stesura di sceneggiature e la gestione delle email. Il sistema offre anche un assistente FAQ, un ‘personal trainer’ per migliorare le competenze in AI e un agente per prenotazioni interne.

L’approccio di Leonine punta su miglioramenti incrementali e non su rivoluzioni, incentivando la sperimentazione e il confronto tra colleghi tramite iniziative come il ‘Prompt della Settimana’. I dati restano sempre su server aziendali per garantire sicurezza, e ogni reparto dispone di un referente AI. La strategia aziendale, guidata da Danilo Pejaković, valorizza la combinazione tra tecnologia e ingegno umano, ritenendo che l’innovazione debba supportare, e non sostituire, la creatività.

L’entusiasmo e la curiosità dei dipendenti sono considerati fondamentali per il successo di questa integrazione tecnologica. La filosofia alla base è che le storie migliori nascono dalla collaborazione tra persone e strumenti intelligenti, non da un’automazione completa.

Per maggiori informazioni, clicca per l’articolo originale.

I lavoratori potrebbero risparmiare 122 ore l’anno utilizzando l’AI per compiti amministrativi, secondo Google

Secondo un recente studio di Google, il Regno Unito potrebbe beneficiare di una crescita economica pari a 400 miliardi di sterline grazie all’adozione dell’AI, soprattutto se la forza lavoro venisse adeguatamente formata.

I risultati di alcuni programmi pilota condotti in varie realtà, tra cui piccole imprese e istituzioni educative, hanno mostrato che l’uso dell’AI per attività amministrative può far risparmiare ai lavoratori oltre 120 ore annue.

Il rapporto sottolinea che semplici azioni, come autorizzare formalmente l’uso dell’AI e offrire brevi sessioni formative, possono raddoppiare i tassi di adozione di queste tecnologie. L’analisi ha rivelato che due terzi dei lavoratori coinvolti, in particolare donne mature con basso reddito, non avevano mai impiegato strumenti di AI generativa in ambito professionale.

Dopo l’introduzione dell’AI, la percentuale di donne sopra i 55 anni che utilizzano regolarmente queste tecnologie è passata dal 17% al 56% settimanale e dal 9% al 29% quotidiano.

Un ostacolo rilevante è risultato essere la percezione di legittimità nell’utilizzo dell’AI, con molti dipendenti che cercavano conferme sull’opportunità di ricorrervi nel proprio lavoro. Fornire rassicurazioni e formazione ha incrementato l’uso costante dell’AI, dimostrando come interventi minimi possano colmare il divario tecnologico e stimolare la produttività.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/come-lo-studio-che-ha-creato-la-serie-tv-dark-utilizza-lai-per-sceneggiature-e-compiti-amministrativi/529909/




AI e data center. Una fame di energia senza precedenti

Rubrica settimanale SosTech, frutto della collaborazione tra Key4biz e SosTariffe. Per consultare gli articoli precedenti, clicca qui..

Altro che tecnologia immateriale: l’Intelligenza Artificiale ha un peso, e si misura in terawattora. Secondo l’ultimo rapporto della IEA, l’Agenzia Internazionale dell’Energia (Energy and AI), entro il 2030 i data center potrebbero consumare oltre 945 TWh di elettricità, più di quanto consumi oggi l’intero Giappone in un anno. Il traino principale? Proprio l’IA. La crescita della domanda di energia generata dai sistemi ottimizzati per l’intelligenza artificiale sarà più che quadruplicata in cinque anni, e rappresenterà la quota più significativa del balzo in avanti dei consumi.

Dietro questo dato non c’è solo l’espansione delle big tech, ma una trasformazione radicale dell’infrastruttura energetica globale. L’elaborazione massiva dei modelli linguistici, la gestione di enormi volumi di dati in tempo reale, i servizi cloud ad alta intensità di calcolo: tutto questo si traduce in un bisogno crescente di energia, di server, di raffreddamento e di connessioni continue.

Un sistema affamato, potente e inarrestabile, che sta costringendo governi e aziende a rivedere in fretta le proprie strategie energetiche.

Negli Stati Uniti l’IA divora più energia dell’industria pesante

Nel futuro prossimo, elaborare dati peserà sulla bolletta energetica americana più che produrre acciaio, cemento o alluminio. Secondo l’IEA, quasi la metà dell’aumento previsto nei consumi elettrici degli Stati Uniti da qui al 2030 sarà causato dai data center. E in gran parte per colpa dell’IA. In un’economia dove il dato è diventato materia prima, la sua elaborazione diventa il nuovo processo industriale ad alta intensità energetica. In alcuni stati, come l’Arizona, i data center sono destinati a consumare da soli fino al 16,5% dell’intera elettricità prodotta, secondo recenti stime indipendenti riportate dal Financial Times.

Non è un fenomeno locale: anche in Europa, Giappone e Asia sudorientale i data center si preparano a incidere per oltre il 20% della crescita della domanda elettrica da qui alla fine del decennio. Dopo anni di stagnazione, il settore dell’energia torna così a crescere, trainato non più dalle industrie tradizionali ma dalle fabbriche invisibili del calcolo.

Un paradosso moderno, se vogliamo, perché più diventiamo digitali, più dobbiamo pensare all’infrastruttura fisica che lo rende possibile.

Efficienza energetica, costi fuori scala e la corsa a soluzioni più sostenibili

L’espansione dei data center guidata dall’AI non si traduce solo in una questione di approvvigionamento elettrico, ma in un problema urgente di efficienza e sostenibilità economica. Mantenere operative migliaia di server ad alte prestazioni, spesso 24 ore su 24, comporta spese energetiche colossali, tanto da spingere molte aziende a rivedere radicalmente le proprie strategie di fornitura, ottimizzazione e raffreddamento. Le tecnologie emergenti – dal raffreddamento a liquido diretto all’automazione dei carichi in funzione della richiesta – diventano fondamentali per evitare che la bolletta divori i margini.

Ma la vera sfida, secondo l’IEA, è quella di rendere la crescita scalabile senza compromettere gli obiettivi climatici o la stabilità economica delle imprese. E non si tratta solo di grandi multinazionali: anche le PMI tech e i fornitori di servizi digitali stanno entrando in un’era in cui monitorare, prevedere e razionalizzare i costi energetici è diventato cruciale.

In questo contesto, strumenti come SOSTariffe.it, pensati per confrontare in modo chiaro e aggiornato le offerte energia e gas, possono fare la differenza anche in ambito business. Non è solo questione di “spendere meno”, ma di capire dove e come si spende, e quanto margine si ha per migliorare.

Il rischio altrimenti è di trovarsi con infrastrutture sovradimensionate, alimentate da contratti poco trasparenti, e con consumi fuori controllo. In un mondo in cui ogni watt conta, l’intelligenza non può più essere solo artificiale, ma anche gestionale.

Emissioni in aumento, ma anche un potenziale green ancora tutto da giocare

Che l’Intelligenza Artificiale faccia salire i consumi è un dato di fatto. Ma quanto inciderà davvero sulle emissioni globali? Secondo il report dell’IEA, entro il 2035 le emissioni annuali prodotte dai data center legati all’AI potrebbero raggiungere i 500 milioni di tonnellate di CO₂. Una cifra impressionante, ma ancora contenuta: meno dell’1,5% delle emissioni del settore energetico globale. E, dettaglio non banale, questa crescita potrebbe essere compensata da una riduzione ben più ampia se l’IA fosse impiegata su larga scala per ottimizzare i consumi, ridurre gli sprechi e accelerare l’adozione di energie rinnovabili.

Il nodo sta proprio qui: l’IA è – o almeno, può essere – al tempo stesso parte del problema e parte della soluzione. Può servire per progettare batterie più efficienti, ottimizzare la produzione di energia solare, anticipare i picchi di domanda, ridurre le perdite nella trasmissione. E può farlo con una velocità di calcolo e una capacità di apprendimento che nessun algoritmo “classico” potrebbe eguagliare. Ma tutto dipende da chi controlla i modelli (problema annoso), quali dataset vengono usati e con quali obiettivi (questione ancora più spinosa).

Se il motore è programmato per generare clic pubblicitari, l’impatto sarà uno; se lavora per rendere più pulita una rete elettrica nazionale, sarà tutt’altro. A ognuno il proprio parere se quali saranno gli obiettivi dei grandi player del mondo di oggi.

Infrastrutture, investimenti, regole: il triangolo dell’equilibrio energetico

L’IA spinge la rete elettrica verso un terreno nuovo, dove la crescita non è più trainata solo dall’industria o dai trasporti, ma da processi digitali ad alta intensità computazionale. Per affrontare questa transizione, secondo l’IEA, serviranno investimenti mirati in nuova capacità di generazione, reti più flessibili e data center più efficienti. Non basterà aumentare l’offerta: sarà necessario ripensare il modo in cui l’energia viene distribuita, gestita e usata, integrando soluzioni che sappiano reagire in tempo reale alle variazioni della domanda.

In parallelo, occorrerà rafforzare il dialogo tra istituzioni, industria energetica e settore tecnologico. Non solo per pianificare l’infrastruttura, ma per prevenire nuove dipendenze critiche: dai materiali rari alle piattaforme proprietarie, passando per la vulnerabilità delle reti digitali. Da questo punto di vista, l’annuncio di un Osservatorio globale su AI, energia e data center, con dati aperti e monitoraggi in tempo reale, è un passo nella direzione giusta.

Poiché l’IA sta cambiando il modo in cui produciamo e consumiamo energia, per tradurre questo cambiamento in vantaggio, servono strumenti, regole e una visione che tenga insieme efficienza, sicurezza e competitività. Non è una corsa contro il tempo, ma una sfida di coordinamento.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-e-data-center-una-fame-di-energia-senza-precedenti/529461/




Google, il Dipartimento di Giustizia USA vuole lo spezzatino e chiede restrizioni dell’AI

Processo al monopolio della ricerca di Google, tra le ipotersi anche la vendita di Chrome

Il Dipartimento di Giustizia degli Stati Uniti (DoJ) ha iniziato lunedì un processo antitrust storico contro Alphabet, società madre di Google, accusata di sfruttare il suo monopolio nella ricerca online per consolidare ulteriormente la propria posizione dominante attraverso l’intelligenza artificiale (AI).

Durante l’apertura del processo, come raccontato da Jody Godoy sulla Reuters, il procuratore del DoJ David Dahlquist ha sostenuto la necessità di imporre “forti restrizioni su Google per impedirle di estendere il suo dominio tramite prodotti basati sull’AI, come Gemini”, che la società farà installare a pagamento sui dispositivi Samsung fino al 2028, un accordo descritto come “una somma enorme”, anche se per il momento non ne sono stati resi pubblici i dettagli economici.

La causa potrebbe portare alla vendita obbligata del browser Chrome, oltre alla fine degli accordi esclusivi che Google ha stretto con produttori di smartphone e tablet come Apple e Samsung per impostare Google come motore di ricerca predefinito.

Lo scorso mese è stata l’Antitrust Ue ad accusare Google di violazione delle regole europee sul digitale, ordinando nel contempo ad Apple di aumentare l’interoperabilità dei dispositivi iPhone e iPad per i concorrenti. La Commissione europea ha agito nonostante le minacce del presidente degli Stati Uniti Donald Trump di imporre dazi contro i Paesi che sanzionano le aziende statunitensi.

Nei giorni scorsi nel Regno Unito è stata avviata una class action contro Google da 6 miliardi di euro con l’accusa di abuso di posizione dominante nel mercato della pubblicità online.

Il Dipartimento di Giustizia (DoJ) chiede misure radicali

Il DoJ chiede misure radicali: tra queste, l’obbligo per Google di concedere licenze sui risultati di ricerca ai concorrenti e, nel caso in cui le altre misure risultassero inefficaci, la possibile vendita del sistema operativo Android.

Google, rappresentata dall’avvocato John Schmidtlein, ha respinto le accuse definendo le richieste del DoJ una “lista dei desideri dei concorrenti” e ha dichiarato che tali restrizioni danneggerebbero l’innovazione americana in un momento cruciale.

L’azienda sostiene inoltre che eliminare i pagamenti ai produttori di dispositivi aumenterebbe il costo degli smartphone e metterebbe a rischio la sopravvivenza di società come Mozilla.

Il giudice distrettuale Amit Mehta aveva già in precedenza stabilito che gli accordi esclusivi di Google con i produttori di dispositivi hanno contribuito a mantenere intatto ed accrescere il suo monopolio.

Tra i testimoni previsti figura Nick Turley, capo prodotto dell’app concorrente di AI, ChatGPT di OpenAI, chiamato a testimoniare martedì. Google, da parte sua, ha annunciato che chiamerà a testimoniare rappresentanti di Mozilla, Verizon e Apple.

Il processo è parte di una più ampia stretta antitrust contro i giganti tecnologici iniziata sotto la presidenza Trump e proseguita con Biden, in quello che il DoJ definisce un approccio “nonpartisan”.

Un recente caso antitrust contro Google relativo alla pubblicità online ha già visto una vittoria del Dipartimento di Giustizia giovedì scorso, rafforzando l’immagine di un fronte governativo compatto contro gli abusi di mercato.

Il processo potrebbe dunque segnare una svolta epocale nel settore digitale, con conseguenze potenzialmente rivoluzionarie per il panorama tecnologico globale.

Come risolvere l’annosa questione?

La questione in aula questa volta, che sarà discussa nelle prossime due settimane, è cosa fare per risolvere la situazione . E secondo Dahlquist, il processo deve iniziare interrompendo ogni fase del “circolo vizioso”: Google paga miliardi di dollari per essere il motore di ricerca predefinito praticamente ovunque, quindi riceve più query di ricerca, quindi ottiene dati migliori, quindi è in grado di migliorare i suoi risultati, quindi guadagna di più, quindi può permettersi più motori predefiniti su una miriade di famiglie di smartphone e tablet.

Il Dipartimento di Giustizia chiede tre cose, come ben illustrato su The Verge, David Pierce, redattore capo e co-conduttore di Vergecast. In primo luogo, vuole impedire a Google di concludere praticamente qualsiasi tipo di accordo per il posizionamento sui motori di ricerca di prima fascia, poi vuole che Google ceda Chrome, quindi come terzo punto obbligare Google a concedere in licenza praticamente tutti i suoi dati di ricerca, dall’indice di ricerca ai risultati, a qualsiasi concorrente che li richieda. Finora, questa sembra essere la disposizione che preoccupa maggiormente Google.

Gemini sul banco degli imputati

Durante il processo del 2023, il mercato dell’intelligenza artificiale è stato menzionato solo occasionalmente, ma ora sembra essere al centro dell’attenzione per entrambe le parti . I rimedi proposti dal Dipartimento di Giustizia sono così severi, ha sostenuto Dahlquist, perché “Google sta usando la stessa strategia che ha usato per la ricerca e la sta applicando a Gemini”. Ma è stato anche attento a precisare che non ritiene che l’intelligenza artificiale e la ricerca siano la stessa cosa.

Il dibattito sull’intelligenza artificiale sarà un appuntamento fisso in aula nelle prossime due settimane. Sissie Hsiao, che in precedenza ha guidato il team Gemini, sarà sul banco dei testimoni.

Lo stesso faranno i dirigenti di OpenAI e Perplexity, e una serie di esperti che cercheranno di spiegare come l’intelligenza artificiale possa integrarsi e rivoluzionare il settore della ricerca. È significativo che il primo testimone del processo sia stato un esperto di intelligenza artificiale, Greg Durrett, che ha dedicato gran parte della sua testimonianza semplicemente a spiegare il funzionamento della tecnologia.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/google-il-dipartimento-di-giustizia-usa-vuole-lo-spezzatino-e-chiede-restrizioni-dellai/529105/




La Cina si affiderà all’intelligenza artificiale per riformare il sistema educativo

Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..

Nel quadro di una strategia nazionale per trasformare il sistema educativo, la Cina ha annunciato l’integrazione dell’AI in ogni livello scolastico, dalla primaria all’università.

Secondo un documento ufficiale diffuso dal Ministero dell’Istruzione, l’obiettivo è promuovere lo sviluppo di competenze fondamentali tra studenti e insegnanti – come il pensiero critico, la risoluzione autonoma dei problemi e la capacità di collaborare – per alimentare la competitività e l’innovazione del paese. L’adozione dell’AI sarà estesa non solo ai programmi didattici, ma anche ai libri di testo e alle metodologie d’insegnamento, nella speranza di rendere l’apprendimento più dinamico e stimolante.

Questa riforma si inserisce in un contesto più ampio di rilancio dell’innovazione tecnologica, che ha visto recentemente l’espansione dei corsi universitari dedicati all’AI e l’aumento degli iscritti, soprattutto dopo il successo della startup cinese DeepSeek, che ha lanciato un modello linguistico avanzato a costi inferiori rispetto ai concorrenti statunitensi.

A gennaio 2025, Pechino ha anche presentato un piano nazionale con orizzonte al 2035 per diventare una ‘nazione dell’istruzione forte’, facendo leva sull’efficienza dell’innovazione tecnologica come motore per il cambiamento.

Con questa iniziativa, la Cina riafferma la propria intenzione di posizionarsi come leader mondiale nella formazione di talenti altamente qualificati in ambito tecnologico. Tuttavia, restano aperti interrogativi riguardo l’equità di accesso, l’impatto sui metodi educativi tradizionali e la gestione etica dell’AI nel contesto scolastico.

Per maggiori informazioni, clicca per l’articolo originale.

Meta ha chiesto ad Amazon e Microsoft di contribuire al finanziamento di Llama

Meta sta lavorando per costruire un consorzio industriale finalizzato alla condivisione dei costi di sviluppo dei suoi modelli open-source Llama.

Secondo fonti interne, l’azienda guidata da Mark Zuckerberg ha avviato colloqui diretti con colossi tecnologici come Amazon, Microsoft e altri attori strategici per valutare il loro interesse a cofinanziare l’addestramento delle prossime generazioni del modello Llama.

L’obiettivo sarebbe quello di formare una rete di partner che possa non solo contribuire economicamente, ma anche beneficiare di vantaggi esclusivi come accesso anticipato ai modelli, visibilità nella documentazione tecnica e potenziale influenza nella roadmap di sviluppo.

Questa proposta riflette un cambio di paradigma nell’approccio di Meta all’intelligenza artificiale, cercando di consolidare un fronte comune in risposta al crescente predominio dei modelli proprietari come quelli sviluppati da OpenAI, Anthropic e Google DeepMind. La creazione del cosiddetto ‘Llama Consortium’ rappresenterebbe una strategia per rafforzare l’ecosistema dell’AI open-source, evitando la completa concentrazione delle risorse computazionali e delle innovazioni in poche mani.

L’iniziativa risponde anche alla necessità di sostenere economicamente progetti con costi di addestramento che possono superare le centinaia di milioni di dollari, specialmente per modelli superiori ai 400 miliardi di parametri. Tuttavia, le risposte dei potenziali partner sembrano miste. Microsoft e Amazon, pur già coinvolte nella distribuzione di Llama tramite i rispettivi cloud (Azure e AWS), sembrano restie a investire in modo diretto, preferendo concentrarsi sui propri modelli interni.

La proposta rimane comunque aperta ad altri soggetti industriali che potrebbero trovare vantaggio competitivo nel sostenere un’infrastruttura condivisa e non proprietaria. L’esito dell’iniziativa sarà cruciale per determinare l’equilibrio tra modelli chiusi e open-source nei prossimi anni di evoluzione dell’AI.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/la-cina-si-affidera-allintelligenza-artificiale-per-riformare-il-sistema-educativo/528882/




Chain-of-Thought e attacchi H-CoT: come gli hacker stanno sovvertendo i meccanismi di Sicurezza delle IA più avanzate

Nel panorama in costante evoluzione dell’intelligenza artificiale, una nuova e allarmante vulnerabilità è emersa, colpendo al cuore i sistemi di sicurezza implementati nei modelli linguistici di ragionamento più avanzati. Un recente studio condotto da ricercatori della Duke University ha portato alla luce una metodologia di attacco denominata “Hijacking Chain-of-Thought” (H-CoT), in grado di compromettere i meccanismi di sicurezza di modelli come OpenAI o1/o3, DeepSeek-R1 e Gemini 2.0 Flash Thinking.

Il paradosso della trasparenza nel ragionamento AI

Il meccanismo di ragionamento “chain-of-thought” (catena di pensiero) rappresenta una delle innovazioni più significative nel campo dell’intelligenza artificiale degli ultimi anni. Introdotto nel 2022, questo approccio consente ai modelli IA di affrontare problemi complessi scomponendoli in passaggi intermedi, imitando il processo di ragionamento umano. Questa metodologia ha migliorato notevolmente le capacità dei modelli di risolvere problemi articolati, fornendo risposte più accurate e contestualizzate.

Ironicamente, ciò che era stato concepito come un miglioramento per la sicurezza si è trasformato in una vulnerabilità critica. Come spiega Jianyi Zhang, autore principale dello studio e ricercatore presso la Duke University:

“La capacità di ragionamento chain-of-thought può effettivamente migliorare la sicurezza, poiché il modello può eseguire un’analisi interna più rigorosa per rilevare violazioni delle policy. Tuttavia, il nostro attacco H-CoT è un metodo più avanzato che sfrutta specificamente la trasparenza di questo processo. Quando un modello condivide apertamente i suoi ragionamenti intermedi sulla sicurezza, gli attaccanti acquisiscono informazioni sui suoi processi decisionali e possono creare prompt avversariali che imitano o sovrascrivono i controlli originali.”

Questa vulnerabilità è stata riconosciuta anche da Anthropic nella documentazione del suo modello Claude 3.7 Sonnet:

“…consentire agli utenti di vedere il ragionamento di un modello potrebbe permettere loro di comprendere più facilmente come aggirare le protezioni del modello stesso.”

Anatomia dell’Attacco H-CoT

Per comprendere la portata del problema, i ricercatori hanno sviluppato un dataset chiamato “Malicious-Educator“, contenente richieste intrinsecamente pericolose ma mascherate da scopi educativi legittimi. Queste richieste riguardano argomenti estremamente sensibili come terrorismo, cybercrime e abuso di minori – tematiche che i modelli AI responsabili dovrebbero rifiutarsi di trattare in contesti dannosi.

Il processo di attacco H-CoT si articola attraverso l’analisi e la manipolazione di due fasi distinte del ragionamento del modello:

  1. Fase di Giustificazione: In questa fase iniziale, il modello valuta se una richiesta è conforme alle policy di sicurezza e se dovrebbe fornire una risposta;
  2. Fase di Esecuzione: Se il modello decide che può fornire una risposta conforme alle policy, procede con questa fase, illustrando i passaggi di ragionamento per risolvere il problema.

Contrariamente ai tentativi più semplici di alterare la fase di giustificazione, che generalmente falliscono poiché il modello è addestrato a riconoscere manipolazioni esplicite, l’approccio H-CoT opera in modo più sofisticato. Invece di cercare di modificare direttamente l’opinione del modello sulla legittimità di una richiesta, l’attacco incoraggia il modello a concentrarsi sulla risoluzione del problema, aggirando efficacemente la fase di giustificazione e passando direttamente alla fase di esecuzione.

Ciò avviene inserendo frammenti di “pensieri” simulati che imitano lo stile del ragionamento del modello, inducendolo a credere che la valutazione della sicurezza sia già stata completata. Come spiegano i ricercatori:

“Interponendo un frammento di pensiero di esecuzione simulato, incoraggiamo il modello a saltare le giustificazioni attente e a passare direttamente a una mentalità di esecuzione.”

Nessun modello è veramente sicuro!

I risultati dei test condotti dai ricercatori sono profondamente preoccupanti e mettono in discussione l’efficacia delle attuali misure di sicurezza implementate nei modelli IA di punta.

Il modello o1 di OpenAI, che normalmente rifiuta il 99% delle richieste dannose presenti nel dataset Malicious-Educator, ha visto il suo tasso di rifiuto crollare a meno del 2% quando sottoposto ad attacchi H-CoT. Questo rappresenta un deterioramento catastrofico delle sue difese, riducendo praticamente a zero la sua capacità di identificare e bloccare contenuti potenzialmente pericolosi.

La situazione si rivela ancora più critica per DeepSeek-R1, che già in condizioni normali mostra un tasso di rifiuto di appena il 20% per i contenuti problematici. Sotto l’influenza dell’attacco H-CoT, questo tasso scende ulteriormente al 4%. Un problema aggiuntivo di DeepSeek-R1 risiede nel suo design di sicurezza difettoso: il modello inizialmente genera contenuti dannosi prima che il suo moderatore di sicurezza intervenga per sovrapporvi un messaggio di rifiuto. Questo comportamento permette a un attaccante di catturare la risposta dannosa originale prima della censura.

Il modello Gemini 2.0 Flash Thinking di Google mostra le prestazioni di sicurezza più scadenti, con meno del 10% delle richieste dannose rifiutate inizialmente. Sottoposto ad H-CoT, non solo il modello fornisce contenuti dannosi, ma cambia addirittura il suo tono da cauto a entusiasta nel fornire informazioni pericolose.

Vulnerabilità multilingue: un fenomeno inaspettato

Una scoperta inaspettata emersa durante la ricerca riguarda il comportamento linguistico dei modelli sottoposti ad attacco. Nonostante tutti gli input fossero in inglese, i modelli della serie o1 di OpenAI hanno occasionalmente prodotto pensieri di ragionamento in altre lingue, tra cui ebraico, arabo, cinese, giapponese, coreano e tamil.

Questo fenomeno, secondo i ricercatori, “dimostra non solo l’instabilità intrinseca nei meccanismi di ragionamento di sicurezza del modello o1, ma indica anche che il metodo H-CoT amplifica tali instabilità”. La manifestazione di queste instabilità attraverso molteplici lingue suggerisce che il meccanismo di ragionamento sottostante potrebbe essere vulnerabile ad attacchi multilingue, evidenziando la necessità di affrontare queste vulnerabilità in contesti linguistici diversi.

Vulnerabilità specifiche nei diversi modelli

L’analisi approfondita ha rivelato caratteristiche e vulnerabilità uniche per ciascun modello testato:

OpenAI o1/o3

I modelli di OpenAI, sebbene inizialmente mostrino il più alto tasso di rifiuto per contenuti dannosi, presentano significative variazioni nella sicurezza in base alla posizione geografica. L’uso di diversi indirizzi IP proxy ha influenzato in modo sostanziale le risposte di sicurezza del modello, suggerendo un’implementazione incoerente delle misure di sicurezza a livello globale.

I ricercatori hanno anche osservato un deterioramento della sicurezza tra le versioni di gennaio e febbraio 2025 del modello o1, coincidente con il rilascio di DeepSeek-R1. Questo solleva interrogativi sulla possibilità che OpenAI stia compromettendo la sicurezza per rimanere competitiva in termini di prestazioni e costi.

DeepSeek-R1

Oltre alla già menzionata vulnerabilità nel design del sistema di sicurezza, DeepSeek-R1 mostra differenze significative nelle risposte di sicurezza attraverso diverse lingue. Ad esempio, quando interrogato su sparatorie scolastiche in inglese, il modello fornisce strategie criminali, mentre in cinese semplificato offre tipicamente strategie di prevenzione. Questa discrepanza, attribuibile ai dati di addestramento e ai clienti target, apre le porte ad attacchi multilingue, dove un utente malintenzionato potrebbe tradurre una domanda pericolosa in inglese per aggirare i controlli di sicurezza di DeepSeek e poi ritradurre la risposta dannosa nella propria lingua.

Gemini 2.0 Flash Thinking

Il modello di Google mostra una forte inclinazione verso il comportamento di “seguire le istruzioni”, che ha implicazioni significative per la sua sicurezza. I ricercatori hanno notato che se il modello fornisce risposte con un diverso numero di strategie criminali in diverse prove (ad esempio, 2, 3, 3, 4, 4), selezionando la risposta con il maggior numero di strategie (4) e utilizzando il corrispondente processo di pensiero in H-CoT, il modello genererebbe costantemente risposte con almeno 4 strategie.

Inoltre, se il modello fornisce una risposta esitante in quattro prove su cinque e una risposta molto disponibile in una (solitamente iniziando con “certamente”), iniettando il processo di pensiero dalla risposta “certamente” nella query H-CoT, il modello inizierebbe tutte le sue risposte successive con “certamente”. Questo comportamento suggerisce che mentre il modello dà priorità al seguire le istruzioni per migliorare il ragionamento, pone meno enfasi sull’allineamento di sicurezza, rendendolo vulnerabile alla manipolazione sotto attacchi H-CoT.

Strategie difensive: proteggere l’intelligenza artificiale

Sulla base delle loro scoperte, i ricercatori propongono diverse strategie difensive per mitigare le vulnerabilità H-CoT nei modelli di ragionamento:

1. Nascondere il processo di ragionamento

La raccomandazione principale è di evitare di mostrare i dettagli del ragionamento sulla sicurezza agli utenti, sia nella fase di giustificazione che in quella di esecuzione. I ricercatori hanno osservato che OpenAI ha già iniziato ad adottare questo approccio nell’ultima versione web di o3-mini, dove il processo di pensiero per alcune query pericolose è coperto con “None” (Nessuno).

2. Rafforzare la difesa contro H-CoT imitato

Dato che H-CoT mantiene un’alta trasferibilità tra diversi modelli, è necessario separare i prompt relativi al CoT dalla richiesta principale durante le valutazioni di sicurezza. Se la richiesta principale è sicura, si può aggiungere un prompt relativo al CoT per l’elaborazione; tuttavia, se la richiesta principale è pericolosa, i prompt relativi al CoT dovrebbero essere esclusi dall’input per evitare di compromettere il ragionamento di sicurezza del modello.

3. Migliorare la capacità di ragionamento sulla sicurezza durante l’addestramento

Il successo di H-CoT è parzialmente attribuibile al fatto che l’allineamento di sicurezza è più impegnativo per i modelli di ragionamento di grandi dimensioni. A differenza dei metodi precedenti che miravano a semplici corrispondenze punto a punto, è necessaria una comprensione più profonda dell’intento dell’utente per evitare di cadere in trappole logiche dannose. Ciò richiede metodi di addestramento all’allineamento di sicurezza più avanzati e dataset di maggiore qualità che catturino meglio questa complessità.

4. Non Trascurare la Sicurezza a Causa della Competizione sull’Utilità

La competizione sulla capacità di ragionamento nei modelli IA è intensa, con gran parte dell’attenzione focalizzata sulla riduzione dei costi e sul miglioramento delle prestazioni di ragionamento. Di conseguenza, la sicurezza è stata spesso trascurata. I ricercatori incoraggiano le aziende a prendere sul serio il bilanciamento tra utilità e sicurezza, prioritizzando la sicurezza accanto all’utilità nello sviluppo futuro di modelli IA.

Implicazioni etiche: perché rivelare queste vulnerabilità?

La pubblicazione di vulnerabilità come H-CoT solleva importanti questioni etiche. I ricercatori riconoscono che divulgare tali debolezze potrebbe potenzialmente aiutare attori malintenzionati a creare attacchi più efficaci. Tuttavia, sostengono che studiare apertamente queste vulnerabilità è essenziale per la comunità di ricerca e l’industria per sviluppare salvaguardie più robuste, che alla fine beneficeranno gli utenti di tutto il mondo.

“Crediamo che studiare apertamente queste debolezze sia essenziale per la comunità di ricerca e l’industria per sviluppare salvaguardie più robuste”, scrivono i ricercatori nella sezione etica del loro articolo. “Riconosciamo che divulgare tali vulnerabilità potrebbe potenzialmente aiutare attori malintenzionati a creare attacchi più efficaci. Tuttavia, sottolineiamo che tali vulnerabilità, in varie forme, esistono già in diversi modelli. Documentando e analizzando trasparentemente queste debolezze, cerchiamo di incoraggiare meccanismi di sicurezza più forti piuttosto che favorire danni.”

Il team ha adottato precauzioni nella pubblicazione del loro lavoro, trattenendo le informazioni più sensibili come script di attacco direttamente utilizzabili per scoraggiare un uso improprio immediato.

Il futuro della sicurezza dell’IA: una corsa agli armamenti?

Man mano che i modelli IA diventano più potenti e integrati nei sistemi del mondo reale, le violazioni della sicurezza hanno il potenziale di causare impatti sociali sempre più gravi. Questa ricerca sottolinea che mostrare il processo di ragionamento chain-of-thought, pur essendo vantaggioso per l’interpretabilità e le prestazioni, può anche creare nuove superfici di attacco.

La competizione globale nell’IA sta intensificando le pressioni sulle aziende per rilasciare modelli sempre più capaci, spesso a scapito di rigorosi controlli di sicurezza. Questa dinamica rischia di innescare una “corsa agli armamenti” nell’IA, dove le capacità delle tecnologie offensive e difensive si evolvono continuamente per superarsi a vicenda.

Il costante equilibrio tra trasparenza, utilità e sicurezza rimarrà una sfida critica. I ricercatori sottolineano la necessità di sviluppare metodi più robusti per garantire che i sistemi IA avanzati rimangano sicuri senza sacrificare le loro capacità.

Necessità urgente di ripensare la sicurezza dei modelli di ragionamento AI

La scoperta del metodo di attacco H-CoT rappresenta un importante campanello d’allarme per l’industria dell’IA. Evidenzia la natura in continua evoluzione delle minacce alla sicurezza dell’IA e la necessità di un approccio proattivo per identificare e affrontare le vulnerabilità.

Per le organizzazioni che implementano sistemi IA, questa ricerca sottolinea l’importanza di valutare attentamente le implicazioni di sicurezza delle funzionalità di trasparenza dei modelli, in particolare nelle applicazioni ad alto rischio dove la sicurezza dell’IA è fondamentale.

I ricercatori concludono con un appello per un impegno più forte nella creazione di sistemi IA non solo più capaci, ma anche più sicuri.

“Speriamo che i nostri risultati catalizzino ulteriori ricerche su strategie di difesa più efficaci per i LRM, garantendo che le capacità di ragionamento avanzate non sacrifichino l’integrità etica e la sicurezza.”

Mentre l’IA continua a evolversi a un ritmo senza precedenti, la necessità di pratiche di sicurezza robuste non è mai stata così cruciale. Il futuro dell’IA sicura dipenderà dalla capacità della comunità di ricerca e dell’industria di anticipare e mitigare vulnerabilità come H-CoT, garantendo che le meraviglie dell’intelligenza artificiale avanzata possano essere godute senza mettere a rischio la sicurezza pubblica.

Riferimenti:

H-CoT: Hijacking the Chain-of-Thought Safety Reasoning Mechanism to Jailbreak Large Reasoning Models

How nice that state-of-the-art LLMs reveal their reasoning … for miscreants to exploit

Detecting misbehavior in frontier reasoning models

Chain-of-thought prompting elicits reasoning in large language models

Model Card di Anthropic per Claude 3.7 Sonnet

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/chain-of-thought-h-cot/




L’amministrazione Trump valuta un possibile divieto negli Stati Uniti per DeepSeek

Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..

L’amministrazione Trump starebbe valutando l’introduzione di restrizioni nei confronti del laboratorio cinese di AI DeepSeek, includendo un possibile divieto di accesso per i cittadini statunitensi ai modelli sviluppati dall’azienda e il blocco dell’acquisto di chip AI di Nvidia da parte della stessa.

Questa mossa si inserisce nella più ampia strategia americana di contenimento tecnologico nei confronti della Cina, rafforzando i limiti già stabiliti in precedenza sotto l’amministrazione Biden. Il crescente successo di DeepSeek tra gli sviluppatori statunitensi, dovuto anche alla sua politica aggressiva sui prezzi, ha esercitato una pressione significativa sui colossi della Silicon Valley, costringendoli a rivedere al ribasso i costi dei propri modelli AI di frontiera.

Tuttavia, questo successo è accompagnato da sospetti di illeciti: OpenAI accusa infatti DeepSeek di aver violato i propri termini di servizio attraverso la distillazione non autorizzata dei suoi modelli, sollevando preoccupazioni relative al furto di proprietà intellettuale.

La Casa Bianca ha recentemente inasprito le regole sulle esportazioni di chip AI verso la Cina, accentuando la rivalità strategica tra le due potenze nel campo dell’intelligenza artificiale.

Se venisse approvata, l’esclusione di DeepSeek dal mercato statunitense potrebbe ridefinire gli equilibri competitivi globali, riducendo l’accesso a soluzioni AI avanzate per molti sviluppatori americani, ma rafforzando al contempo l’autonomia tecnologica nazionale.

Il provvedimento è ancora in fase di studio, ma rappresenta un ulteriore segnale del conflitto crescente tra Stati Uniti e Cina per il controllo dell’innovazione nel campo dell’AI.

Per maggiori informazioni, clicca per l’articolo originale.

Mentre gli ‘studenti bot’ continuano ad aumentare, i college comunitari faticano a reagire

Il fenomeno degli ‘studenti bot’, entità fittizie iscritte ai corsi online con lo scopo di accedere fraudolentemente ai fondi di aiuto finanziario, sta generando una crisi nei college comunitari statunitensi, in particolare presso il Southwestern College.

Professoresse e professori, tra cui Elizabeth Smith ed Eric Maag, si trovano a fronteggiare un’ondata di iscrizioni artificiali che, oltre a saturare i corsi e a escludere gli studenti autentici, richiedono una continua attività investigativa per essere smascherate. I bot, spesso manovrati da reti umane di frodatori, inviano compiti generati tramite AI e si avvalgono di linguaggi formali e atipici per ingannare il corpo docente.

Nel 2024 i danni economici causati da queste pratiche in California hanno superato gli 11 milioni di dollari, cifra più che raddoppiata rispetto all’anno precedente. Nonostante la creazione di task force come l’Inauthentic Enrollment Mitigation presso Southwestern, la reazione istituzionale appare frammentaria e insufficiente, secondo molti insegnanti.

L’identificazione precoce dei bot, cruciale per evitare l’erogazione dei fondi, è resa difficile dalla continua evoluzione delle tecniche fraudolente. Alcuni episodi evidenziano l’uso non autorizzato di identità reali, dimostrando quanto il sistema di iscrizione statale sia vulnerabile.

La tensione tra il dovere didattico e il controllo antifrode sta snaturando il ruolo degli insegnanti, compromettendo la qualità dell’insegnamento e ostacolando l’accesso all’istruzione per chi ne ha realmente bisogno.

Mentre si invocano soluzioni tecnologiche sistemiche, il rischio è quello di penalizzare studenti autentici attraverso restrizioni indiscriminate. Il problema, diffuso a livello nazionale, richiede una risposta strutturale da parte delle istituzioni statali e federali.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/lamministrazione-trump-valuta-un-possibile-divieto-negli-stati-uniti-per-deepseek/528671/




Federated Learning con Privacy Differenziale: proteggere i dati nell’era dell’AI Collaborativa

Nel panorama attuale dell’intelligenza artificiale, il rapido sviluppo degli algoritmi di machine learning si scontra con una crescente preoccupazione per la privacy dei dati. I modelli di AI più avanzati richiedono enormi quantità di informazioni per essere addestrati efficacemente, ma questi dati sono spesso sensibili e difficili da condividere a causa di normative sempre più stringenti come il GDPR o semplicemente per le legittime preoccupazioni degli utenti riguardo la privacy. In questo contesto complesso, due tecnologie emergono come potenziali soluzioni complementari: il Federated Learning (FL) e la Privacy Differenziale (DP).

Il Federated Learning rappresenta un paradigma di addestramento innovativo che consente a molteplici dispositivi o entità di collaborare nell’addestramento di un modello senza condividere direttamente i dati grezzi. Invece di centralizzare tutti i dati in un unico server, FL permette l’addestramento distribuito dove i dispositivi elaborano localmente i propri dati e condividono solo gli aggiornamenti del modello. La Privacy Differenziale, d’altra parte, fornisce un quadro matematico formale per limitare la fuga di informazioni derivate dai dati privati, garantendo che l’output di un algoritmo non riveli troppo sui dati di input individuali.

Quando queste due tecnologie si incontrano, creano un approccio potente per l’apprendimento collaborativo preservando la privacy. Tuttavia, implementare efficacemente questa combinazione pone numerose sfide tecniche che richiedono una comprensione approfondita di entrambi i campi. Il presente articolo esplora l’intersezione di queste tecnologie, analizzando le sfide, le soluzioni e le applicazioni emergenti nell’ambito della sicurezza informatica e della protezione dei dati.

La promessa del Federated Learning: collaborazione senza compromettere la Privacy

Il Federated Learning rappresenta un cambiamento paradigmatico nel modo in cui concettualizziamo l’addestramento dei modelli di machine learning. Introdotto da Google nel 2016, FL consente ai dispositivi di apprendere collettivamente un modello condiviso mantenendo i dati di addestramento sui dispositivi locali. Il processo tipicamente si articola in diverse fasi iterate:

Fase 1: Distribuzione del modello iniziale. Un modello iniziale viene distribuito a tutti i dispositivi partecipanti, che rappresentano i client nel sistema federato.

Fase 2: Addestramento locale. Ogni dispositivo addestra il modello sui propri dati locali, utilizzando algoritmi standard come la discesa stocastica del gradiente (SGD).

Fase 3: Condivisione degli aggiornamenti. Solo gli aggiornamenti del modello, che possono essere gradienti o parametri del modello aggiornati, vengono inviati a un server centrale. Questo server non ha mai accesso ai dati grezzi, ma solo agli aggiornamenti che riflettono ciò che il modello ha appreso.

Fase 4: Aggregazione. Il server aggrega questi aggiornamenti, tipicamente attraverso una media pesata, per migliorare il modello globale.

Fase 5: Ridistribuzione. Il modello globale aggiornato viene ridistribuito ai dispositivi, e il processo continua iterativamente.

Questo approccio offre vantaggi significativi per la privacy, poiché i dati sensibili rimangono sul dispositivo dell’utente. È particolarmente utile in scenari come la previsione delle parole nelle tastiere mobili, l’analisi delle immagini personali o l’elaborazione di dati sanitari dove la sensibilità dei dati è elevata. Inoltre, il FL risolve anche problemi pratici come i requisiti di larghezza di banda e le limitazioni di archiviazione centralizzata, poiché solo gli aggiornamenti del modello, non i dati grezzi, vengono trasmessi.

Tuttavia, nonostante i miglioramenti intrinseci alla privacy, il Federated Learning da solo non fornisce garanzie formali contro attacchi sofisticati. Ricerche condotte da Zhu et al. hanno dimostrato che i gradienti condivisi possono ancora rivelare informazioni sui dati di addestramento. Ad esempio, un’entità malintenzionata potrebbe essere in grado di ricostruire dati di input esaminando attentamente gli aggiornamenti del modello attraverso tecniche come gli attacchi di inversione del gradiente. Anche con l’aggregazione delle informazioni di più dispositivi, non esiste una garanzia teorica che le informazioni sensibili non possano essere estratte.

Altre minacce alla privacy nel contesto del FL includono attacchi di inferenza di appartenenza, che tentano di determinare se un particolare record è stato utilizzato nell’addestramento del modello, e attacchi di inferenza di proprietà, che mirano a dedurre caratteristiche statistiche dei dati di addestramento. Questi rischi evidenziano la necessità di integrare FL con tecniche più robuste di preservazione della privacy come la Privacy Differenziale.

Privacy Differenziale: una garanzia matematica per la Protezione dei Dati

La Privacy Differenziale fornisce un framework matematico rigoroso per proteggere le informazioni individuali in un dataset. Introdotta da Cynthia Dwork nel 2006, la DP offre una definizione formale di privacy che può essere dimostrata matematicamente, a differenza di approcci ad hoc che potrebbero contenere vulnerabilità nascoste.

Il concetto fondamentale è che un algoritmo differenzialmente privato dovrebbe produrre risultati statisticamente simili indipendentemente dal fatto che un singolo record sia incluso o meno nel dataset. Questa proprietà garantisce che un osservatore esterno non possa dedurre con certezza se un particolare individuo ha contribuito ai dati, anche avendo accesso all’output dell’algoritmo e a informazioni ausiliarie.

Formalmente, un meccanismo M soddisfa la (ε, δ)-privacy differenziale se, per qualsiasi coppia di dataset D e D’ che differiscono per un singolo elemento, e per qualsiasi sottoinsieme di output S:

Pr[M(D) ∈ S] ≤ e^ε · Pr[M(D’) ∈ S] + δ

Dove ε rappresenta il “budget di privacy” (valori più piccoli significano maggiore privacy) e δ è una probabilità di fallimento molto piccola, tipicamente scelta in modo da essere inferiore a 1/n, dove n è la dimensione del dataset.

Per raggiungere la privacy differenziale, i meccanismi più comuni aggiungono rumore calibrato alla sensibilità dei dati. La sensibilità misura quanto l’output di una funzione può cambiare quando un singolo record nel dataset cambia. I meccanismi comuni includono:

  • Il meccanismo di Laplace, che aggiunge rumore estratto da una distribuzione di Laplace con scala proporzionale alla sensibilità L1 della funzione divisa per ε.
  • Il meccanismo gaussiano, che aggiunge rumore estratto da una distribuzione normale con varianza proporzionale al quadrato della sensibilità L2 della funzione e inversamente proporzionale al quadrato del parametro di privacy ε.

Nel contesto dell’apprendimento automatico, l’approccio più diffuso è DP-SGD (Differentially Private Stochastic Gradient Descent), che aggiunge rumore gaussiano ai gradienti clippati durante l’addestramento. Questo consente di addestrare modelli complessi come le reti neurali profonde con garanzie di privacy differenziale.

La DP offre diverse proprietà importanti che la rendono particolarmente adatta per l’integrazione con il Federated Learning:

  • Proprietà di post-elaborazione: qualsiasi elaborazione aggiuntiva su un output differenzialmente privato rimane differenzialmente privata, senza degradare la garanzia di privacy. Questo significa che le trasformazioni dei modelli dopo l’aggregazione non compromettono la privacy.
  • Composizione: la combinazione di più meccanismi differenzialmente privati dà ancora un risultato differenzialmente privato, anche se con un parametro di privacy degradato. Questa proprietà è cruciale per analizzare la perdita di privacy cumulativa durante le iterazioni di addestramento.
  • Amplificazione tramite sottocampionamento: selezionare casualmente un sottoinsieme di dati prima di applicare un meccanismo di privacy differenziale migliora la garanzia di privacy, permettendo di ottenere la stessa utilità con meno rumore.

Queste proprietà forniscono un framework rigoroso per analizzare e garantire la privacy in sistemi complessi come quelli di Federated Learning, permettendo una quantificazione precisa del compromesso tra privacy e utilità.

Matrimonio di tecnologie: Federated Learning con Privacy Differenziale

L’integrazione del Federated Learning con la Privacy Differenziale combina il meglio di entrambi i mondi: la natura distribuita e rispettosa della privacy di FL con le garanzie matematiche formali della DP. Questa combinazione può essere implementata in diversi modi, a seconda del modello di fiducia e delle specifiche esigenze dell’applicazione.

Paradigmi di Implementazione

Dalla letteratura emergono diversi approcci per implementare FL con DP, ognuno con i propri compromessi tra fiducia, privacy e utilità del modello:

FL con DP centralizzata (CDP): Questo approccio assume un server centrale fidato che aggiunge rumore calibrato agli aggiornamenti aggregati dei client. Gli algoritmi come DP-FedAvg e DP-FedSGD rientrano in questa categoria. Il server centrale deve essere affidabile poiché ha accesso agli aggiornamenti non rumorosi dei modelli dei client. Sebbene questa configurazione richieda meno rumore rispetto ad altre, impone un’ipotesi forte sulla fiducia nel server.

FL con DP locale (LDP): In questo paradigma, ogni client aggiunge rumore ai propri aggiornamenti del modello prima di inviarli al server. Algoritmi come LDP-FedSGD implementano questa strategia. Il vantaggio principale è che non richiede un server fidato, poiché i dati sono già protetti prima di lasciare il dispositivo. Tuttavia, questo approccio generalmente richiede più rumore per ottenere la stessa garanzia di privacy, con conseguente riduzione dell’utilità del modello.

FL con DP distribuita (DDP): Questo approccio innovativo cerca di colmare il divario di utilità-fiducia tra LDP e CDP eliminando l’assunzione di un aggregatore fidato tramite tecniche crittografiche. Esistono due principali paradigmi DDP:

  • Basato su shuffling: utilizza canali di comunicazione anonimi per attenuare i rischi di identificazione dei messaggi, amplificando così le garanzie di privacy;
  • Basato su aggregazione sicura: sostituisce l’aggregatore fidato con protocolli di calcolo sicuro multiparty (MPC), consentendo l’aggregazione senza rivelare i singoli contributi.

f-DP federata: Un approccio più recente introdotto da Zheng et al. che opera a livello di record, proteggendo i singoli record dei dati di un client contro gli avversari. Questa nozione di privacy opera al livello più granulare, proteggendo singoli elementi anziché interi set di dati dei client. È particolarmente utile quando la partecipazione del client non è informazione sensibile, ma i dati individuali lo sono, come nel caso di ospedali che collaborano per addestrare modelli predittivi per malattie.

Il framework PriFedSync rappresenta un esempio di un approccio generico per FL con DP che può adattarsi a una vasta famiglia di algoritmi FL all’avanguardia, incorporando meccanismi di privacy differenziale e supportando modelli sia personalizzati che globali.

Sfide tecniche e compromessi

L’implementazione di FL con DP comporta diverse sfide tecniche significative che devono essere affrontate per ottenere un sistema pratico ed efficace:

Calibrazione della soglia di clipping: Per limitare la sensibilità dei gradienti, è comune applicare una tecnica di “clipping” che limita la norma dei gradienti a un valore massimo. Determinare la soglia ottimale è cruciale: una soglia di clipping sottostimata può causare bias nel gradiente e persino divergenza del modello, mentre una soglia sovrastimata comporta l’aggiunta di rumore eccessivo. Tecniche di clipping adattivo basate sull’analisi della divergenza o sulla stima euristica possono ridurre il rumore e produrre modelli con maggiore utilità.

Ottimizzazione della distribuzione del rumore: La forma della distribuzione del rumore utilizzata per garantire la privacy differenziale può influenzare significativamente l’equilibrio tra privacy e utilità. Oltre alle comuni distribuzioni di Laplace e Gaussiana, distribuzioni discrete o a gradini attraverso tecniche di segmentazione possono essere utilizzate per ridurre la scala del rumore necessario mantenendo i requisiti di DP.

Composizione della perdita di privacy: Il monitoraggio preciso della perdita di privacy accumulata durante le iterazioni di addestramento è fondamentale. Approcci avanzati come il “moment accountant” analizzano la distribuzione dettagliata della variabile di perdita di privacy composta e derivano un limite molto più stretto utilizzando momenti di ordine superiore, consentendo di addestrare modelli con una perdita di privacy accettabile.

Compressione dei parametri del modello: Un vettore di parametri lungo consuma pesantemente il budget di privacy e appesantisce i canali di comunicazione limitati. Tecniche di compressione come il filtraggio dei parametri, l’approssimazione di rango basso, la proiezione casuale e la quantizzazione del gradiente possono ridurre entrambi i problemi. Queste tecniche possono ridurre empiricamente sia il consumo di larghezza di banda di comunicazione che la varianza del rumore, sebbene possano anche portare a una perdita di utilità poiché alcune informazioni sui parametri vengono eliminate.

Campionamento dei client partecipanti: Il campionamento dei client nell’addestramento FL basato su DP è un approccio promettente per risparmiare budget di privacy, overhead di comunicazione e consumo energetico. L’effetto di amplificazione del campionamento per DP, in cui l’inclusione casuale dei client in ogni round di addestramento rafforza le garanzie di privacy, permette di ottenere una protezione più forte della privacy minimizzando il consumo medio di comunicazione, calcolo e privacy.

Applicazioni pratiche e implementazioni

Le applicazioni di FL con DP stanno emergendo in diversi settori dove la privacy dei dati è cruciale ma esiste anche la necessità di modelli di apprendimento avanzati. Diverse piattaforme software e implementazioni pratiche stanno rendendo queste tecnologie accessibili agli sviluppatori.

Sanità e dati medici

Nel settore sanitario, l’accesso ai dati dei pazienti è fortemente regolamentato da normative come HIPAA negli Stati Uniti o GDPR in Europa, ma questi dati sono essenziali per sviluppare modelli diagnostici e terapeutici avanzati. FL con DP può consentire a ospedali e istituti di ricerca di collaborare nell’addestramento di modelli predittivi per condizioni come il COVID-19, proteggendo al contempo la privacy di ciascun paziente.

Un esempio significativo è la collaborazione tra più ospedali per addestrare modelli di diagnosi precoce o predizione dell’evoluzione della malattia. Piuttosto che preoccuparsi se un ospedale partecipa alla collaborazione (che raramente è un’informazione sensibile), la vera preoccupazione è proteggere i dati individuali dei pazienti. In questo contesto, la f-DP federata che opera a livello di record è particolarmente adatta.

I ricercatori della University of Pennsylvania hanno dimostrato l’efficacia di questo approccio, ottenendo modelli con un’accuratezza comparabile ai metodi centralizzati tradizionali, pur mantenendo forti garanzie di privacy per i singoli pazienti.

Riconoscimento immagini su dispositivi mobili

Gli esperimenti condotti su dataset come MNIST (riconoscimento di cifre scritte a mano) e CIFAR-10 (classificazione di oggetti) mostrano che è possibile addestrare modelli di visione artificiale con FL e DP mantenendo un’accuratezza ragionevole. Questi esperimenti rivelano importanti compromessi tra privacy, accuratezza e costi computazionali.

Su MNIST, modelli privati con diversi livelli di rumore (σ = 0.75, 0.9, 1.0) possono raggiungere un’accuratezza del 90% dopo un numero variabile di round di sincronizzazione, con una perdita di accuratezza relativamente contenuta rispetto ai modelli non privati. Su CIFAR-10, che è un dataset più complesso, i modelli privati possono raggiungere un’accuratezza del 52% rispetto al 64.7% dei modelli non privati.

Queste tecnologie sono particolarmente rilevanti per applicazioni come il riconoscimento di oggetti o la classificazione di immagini sui dispositivi mobili, dove i dati delle immagini personali devono rimanere privati per evitare violazioni della privacy visiva.

Modelli linguistici e previsione testo

Google ha implementato FL con DP per addestrare modelli di previsione delle parole per la tastiera Gboard. In un recente studio pubblicato da Xu et al., hanno dimostrato che tutti i modelli di predizione delle parole successive in Gboard ora hanno garanzie DP, e tutti i futuri lanci di modelli linguistici neurali Gboard richiederanno garanzie DP.

Questo permette ai modelli di migliorare in base all’uso reale senza esporre il comportamento di digitazione individuale degli utenti, che potrebbe contenere informazioni sensibili come password, informazioni personali o conversazioni private.

Con l’avvento dei grandi modelli linguistici (LLM) come ChatGPT, l’applicazione di FL con DP per il fine-tuning su domini specifici rappresenta un’area di ricerca promettente. Questi modelli potrebbero beneficiare dell’apprendimento da dati di utenti reali senza compromettere la privacy individuale.

Strumenti e framework per implementare FL con DP

Per facilitare l’implementazione pratica di queste tecnologie, sono stati sviluppati numerosi framework e piattaforme software. Alcuni dei più rilevanti includono:

TensorFlow Privacy e TensorFlow Federated: Librerie di Google che si integrano perfettamente con i modelli TensorFlow esistenti e consentono l’addestramento di modelli personalizzati con DP. Tuttavia, i meccanismi DP integrati sono relativamente fissi nel design e non supportano ottimizzazioni personalizzate flessibili.

Opacus: Una libreria scalabile ed efficiente per l’addestramento di modelli PyTorch con DP. Introduce un’astrazione di un “privacy engine” che si collega all’ottimizzatore PyTorch standard, rendendo molto più semplice l’implementazione di DP-SGD senza chiamare esplicitamente API di basso livello.
PySyft: Una libreria Python che supporta FL e DP, e disaccoppia l’addestramento del modello dai dati privati. La versione attuale si concentra principalmente sul calcolo multi-party sicuro (SMC) e sulla crittografia omomorfa (HE) piuttosto che sull’implementazione DP.

FedML: Una libreria di ricerca aperta e benchmark standardizzato con diversi paradigmi e configurazioni FL. La versione attuale integra solo DP debole ma fornisce API di basso livello per primitive di sicurezza.

Sherpa.ai FL: Un framework unificato per FL con DP, che presenta un supporto completo per meccanismi DP e tecniche di ottimizzazione. Tuttavia, si concentra principalmente sull’ottimizzazione a livello di algoritmo e non considera l’implementazione del sistema pratico.
Questi strumenti stanno rendendo più accessibile l’implementazione di FL con DP, anche se c’è ancora spazio per framework più completi che supportino tutte le varianti di questi approcci con ottimizzazioni flessibili.

Sfide emergenti e direzioni future

Nonostante i significativi progressi nell’integrazione di FL con DP, rimangono diverse sfide aperte che richiedono ulteriori ricerche:

Federated Learning verticale e di trasferimento

Mentre il FL orizzontale (dove i client hanno dati con le stesse caratteristiche ma esempi diversi) è stato ampiamente studiato, il FL verticale (dove diverse parti detengono caratteristiche diverse degli stessi campioni) pone sfide uniche per l’integrazione della DP.

Il FL verticale ha guadagnato crescente attenzione, ma molti studi esistenti si basano sul calcolo multi-party sicuro (SMC) per proteggere la riservatezza senza considerare la perdita di privacy nei risultati finali. Per ottenere una resistenza dimostrabile agli attacchi di inferenza di appartenenza o ricostruzione, è essenziale impiegare la DP anche nel VFL.

Questa integrazione è più impegnativa per due motivi principali: in primo luogo, il design degli algoritmi VFL varia per diverse attività e modelli, spesso richiedendo uno sviluppo caso per caso; in secondo luogo, le correlazioni tra attributi distribuiti sono più difficili da identificare senza diffondere informazioni individuali ad altre parti.

Grandi Modelli Linguistici (LLM)

Con l’emergere di modelli linguistici di grandi dimensioni come ChatGPT, sia FL che DP mostrano un futuro promettente nel fine-tuning di LLM preservando la privacy rispetto ai dati di dominio privato. Tuttavia, questi modelli possono avere da diversi miliardi a centinaia di miliardi di parametri, ponendo sfide significative.

Quando si applicano DP e FL a LLM, ci saranno molteplici sfide riguardanti l’enorme numero di parametri, al di là degli oneri aggiuntivi di comunicazione e calcolo sui partecipanti con risorse limitate. Indipendentemente dal modello DP, la quantità totale di rumore per la privacy deve essere proporzionale al numero di parametri per applicare DP sui modelli, il che porterebbe a enormi perdite di utilità senza tecniche specializzate.

Inoltre, il fine-tuning di LLM pre-addestrati è diverso dall’addestramento convenzionale dei modelli. La garanzia di privacy teorica nell’ML (ad esempio, DP-SGD) spesso presuppone che i modelli siano appresi da zero con molte iterazioni di addestramento, invece di una modalità di fine-tuning con molte meno iterazioni.

Federated Learning su stream di dati

In molti scenari realistici, i dati di addestramento vengono generati continuamente sotto forma di stream sui client distribuiti. In tali casi, i sistemi FL devono condurre analisi ripetitive su stream distribuiti. Ereditando l’apprendimento automatico online (OL), il federated learning online può essere derivato naturalmente per evitare di riaddestramento i modelli da zero ogni volta che arriva un nuovo frammento di dati.

Tuttavia, ottenere DP per questo scenario porta molteplici sfide. La prima è come definire la privacy nell’impostazione OFL, poiché la nozione generale di DP funziona solo per dataset statici. Sebbene le nozioni di privacy esistenti per i flussi di dati e FL sembrino applicabili qui, devono ancora essere chiarite e formulate rigorosamente nell’impostazione OFL.

La seconda sfida riguarda l’efficienza algoritmica. Prendendo come esempio la LDP a livello di evento (cioè, garantire ε-LDP in ogni istanza temporale), il frequente caricamento degli aggiornamenti del modello locale accumula enormi costi di comunicazione e grande perdita di utilità, poiché il rumore è proporzionale alla dimensione dei dati di comunicazione.

Robustezza, equità e diritto all’oblio

Un sistema FL robusto dovrebbe essere resiliente a vari guasti e attacchi causati da partecipanti che si comportano male. A causa delle capacità limitate (ad esempio, limiti della batteria), i client FL (ad esempio, smartphone) potrebbero abbandonare l’addestramento FL in modo imprevisto in qualsiasi momento. I dropout casuali dei client presentano gravi sfide per la progettazione pratica di FL con privacy differenziale.

La protezione della privacy è solo il primo passo per incoraggiare la condivisione dei dati tra una grande popolazione. L’applicazione dell’equità (fairness) aiuta a mitigare il bias involontario su individui con dati eterogenei. Tuttavia, il dilemma è che la DP mira a oscurare attributi identificabili mentre l’equità richiede la conoscenza dei valori degli attributi sensibili degli individui per evitare risultati distorti. Il clipping del gradiente e l’aggiunta di rumore nella DP possono peggiorare l’iniquità diminuendo l’accuratezza del modello per classi e sottogruppi sottorappresentati.

Inoltre, i diritti alla privacy includono il “diritto all’oblio”, cioè gli utenti possono scegliere di non contribuire con dati privati senza lasciare traccia. Poiché i modelli ML memorizzano molte informazioni specifiche sui campioni di addestramento, il concetto di “unlearning” della macchina è proposto per eliminare la sua influenza sui modelli addestrati. Tuttavia, l’unlearning federato affronta sfide distinte, poiché è molto più difficile cancellare l’influenza dei dati di un client quando il modello globale ha iterativamente trasportato le informazioni di tutti i client partecipanti.

Un Futuro di apprendimento collaborativo e privato

L’integrazione del Federated Learning con la Privacy Differenziale rappresenta una frontiera promettente per l’apprendimento automatico rispettoso della privacy. Questa combinazione permette di sbloccare il potenziale dell’IA superando il problema della frammentazione dei dati su larga scala, consentendo al contempo garanzie di privacy rigorose che possono rispettare sia la consapevolezza della privacy che la conformità normativa.

Abbiamo esplorato i diversi paradigmi per implementare FL con DP, dai modelli centralizzati che richiedono fiducia nel server, agli approcci locali che proteggono i dati prima che lascino il dispositivo, fino ai sistemi distribuiti più avanzati che utilizzano tecniche crittografiche per ottenere alta accuratezza senza un aggregatore fidato. Abbiamo anche discusso le sfide tecniche fondamentali nell’ottimizzazione dell’utilità di questi sistemi, incluse la calibrazione della soglia di clipping, l’ottimizzazione della distribuzione del rumore e la composizione della perdita di privacy.

Le applicazioni pratiche in sanità, visione artificiale e modelli linguistici dimostrano il potenziale di queste tecnologie, mentre gli strumenti e i framework emergenti stanno rendendo più accessibile la loro implementazione. Le sfide future nella gestione di dati verticali, grandi modelli linguistici, stream di dati e bilanciamento tra privacy, robustezza ed equità continueranno a guidare l’innovazione in questo campo.

Con il continuo avanzamento della tecnologia, possiamo aspettarci soluzioni sempre più sofisticate che consentano ai sistemi di apprendimento automatico di operare su dati sensibili distribuiti senza compromettere la privacy individuale. Come dimostrano le implementazioni iniziali in vari campi, dalle tastiere mobili all’assistenza sanitaria, questa combinazione di tecnologie ha il potenziale per trasformare radicalmente il modo in cui utilizziamo i dati per l’addestramento dei modelli di AI, realizzando finalmente la promessa di sistemi di intelligenza artificiale che rispettano pienamente la privacy dei dati personali.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/federated-learning-privacy-differenziale/