La sicurezza informatica è diventata una priorità strategica per le aziende di ogni settore, indipendentemente dalle dimensioni e dall’industria in cui operano. Il Chief Information Security Officer (CISO), oltre a compiere attività nella gestione del cyber risk, svolge un ruolo peculiare nel rispetto della conformità normativa, assicurando che l’organizzazione rispetti le leggi e i regolamenti in materia di cybersecurity.

In un’epoca in cui la digitalizzazione è al centro delle strategie aziendali, la protezione delle informazioni sensibili e delle infrastrutture critiche è un compito sempre più complesso. Il CISO non solo deve garantire la sicurezza dei sistemi informatici, ma anche assicurarsi che l’azienda sia in linea con le normative vigenti, evitando il rischio di pesanti sanzioni, danni reputazionali e perdita di fiducia da parte di clienti e partner.

Obblighi normativi: GDPR, NIS, e altre leggi rilevanti

Nell’attuale contesto di rigide regolamentazioni sulla tutela dei dati e di minacce informatiche in continua crescita, la Regulatory compliance rappresenta una delle principali responsabilità per i Chief Information Security Officer. Come sostenuto dai più, aderire agli standard legali e di settore è fondamentale per le aziende, consentendo loro di preservare la reputazione, scongiurare sanzioni economiche e garantire la protezione delle informazioni sensibili dei clienti.

Il panorama normativo della cybersecurity è in costante evoluzione e le aziende devono conformarsi a una serie di regolamentazioni che variano in base alla giurisdizione e al settore di appartenenza. Tra le principali normative che le aziende devono considerare vi è la legge italiana del 28 giugno 2024, n. 90, contenente Disposizioni in materia di rafforzamento della cybersicurezza nazionale e di reati informatici, il GDPR, la Direttiva NIS e una serie di standard internazionali che regolano la protezione dei dati e la sicurezza delle informazioni.

La legge 90/2024 è volta a potenziare la cybersicurezza nazionale e a contrastare i crimini informatici mediante una serie di interventi innovativi.

Tra le principali novità, vengono introdotti obblighi di notifica degli incidenti informatici per le pubbliche amministrazioni e gli enti strategici, aumentano le pene per reati come l’accesso illecito e il danneggiamento di sistemi informatici, e vengono rafforzati i poteri dell’Agenzia per la cybersicurezza nazionale, con la creazione di un Centro nazionale di crittografia.

La legge interviene anche sulla resilienza digitale nel settore finanziario, amplia l’uso di strumenti investigativi per crimini informatici gravi e migliora il coordinamento tra le autorità durante gli attacchi informatici.

Inoltre, introduce criteri di cybersicurezza per gli appalti pubblici IT, stabilisce la figura di responsabili per la cybersicurezza nelle PA e adotta nuove misure per proteggere le banche dati giudiziarie. Viene anche previsto il reato di “estorsione tramite attacco informatico” e vengono promosse iniziative di collaborazione tra pubblico e privato, oltre a programmi di formazione specifica, con l’obiettivo di rafforzare l’indipendenza tecnologica e industriale dell’Italia nel campo della cybersicurezza.

Il GDPR (General Data Protection Regulation) invece, entrato in vigore nel 2018, ha rivoluzionato il modo in cui le aziende gestiscono i dati personali. Questo regolamento impone alle organizzazioni di implementare misure di sicurezza rigorose per garantire la protezione delle informazioni personali dei cittadini dell’Unione Europea. Tra le disposizioni più rilevanti del GDPR, vi è l’obbligo di notificare le violazioni dei dati entro 72 ore, la necessità di ottenere il consenso esplicito per la raccolta e il trattamento delle informazioni sensibili e l’implementazione del principio di “privacy by design e by default”, che prevede la sicurezza dei dati fin dalla fase di progettazione di qualsiasi servizio o prodotto digitale.

Un’altra normativa chiave è la Direttiva NIS (Network and Information Security), la quale impone agli operatori di servizi essenziali e ai fornitori di servizi digitali di adottare misure di sicurezza adeguate a prevenire incidenti informatici. La sua evoluzione, la Direttiva NIS2, amplia ulteriormente l’ambito di applicazione e introduce obblighi più stringenti, richiedendo alle aziende di implementare strategie di gestione del rischio più efficaci e di segnalare tempestivamente eventuali attacchi informatici alle autorità competenti. Con l’adozione di questa nuova direttiva, aumentano anche le sanzioni per il mancato rispetto delle normative, rendendo ancora più cruciale il ruolo del CISO.

Oltre a queste regolamentazioni europee, vi sono numerose normative internazionali che influenzano la gestione della cybersecurity. Negli Stati Uniti, ad esempio, l’HIPAA (Health Insurance Portability and Accountability Act) impone regole severe sulla protezione dei dati sanitari, mentre il CCPA (California Consumer Privacy Act) garantisce ai residenti della California maggiori diritti sulla privacy delle loro informazioni personali.

A livello globale, standard come l’ISO/IEC 27001 offrono linee guida per la gestione della sicurezza delle informazioni, aiutando le aziende a sviluppare framework solidi per la protezione dei dati. Si tratta comunque di un quadro di riferimento per la gestione e la protezione delle informazioni sensibili mediante processi di gestione del rischio. Costituisce uno standard riconosciuto a livello mondiale che fornisce un approccio sistematico alla gestione delle informazioni aziendali sensibili.

Il Digital Operational Resilience Act (DORA) è un regolamento proposto dalla Commissione Europea con l’obiettivo di uniformare e potenziare i requisiti di resilienza operativa digitale per le istituzioni finanziarie all’interno dell’Unione Europea. Questa normativa pone particolare attenzione a diversi aspetti, tra cui la gestione dei rischi legati alle tecnologie dell’informazione e della comunicazione (ICT), la segnalazione degli incidenti, i test di resilienza operativa e la gestione dei rischi ICT derivanti da fornitori terzi. Per approfondire l’argomento, puoi consultare la nostra guida completa sul DORA.

NIST Cybersecurity Framework: Fornisce un quadro di linee guida sulla sicurezza informatica per le organizzazioni del settore privato negli Stati Uniti. Il NIST Cybersecurity Framework (CSF) rappresenta l’unico standard di sicurezza informatica obbligatorio nel settore pubblico, comprese le agenzie governative e alcune componenti della catena di approvvigionamento federale. Tuttavia, anche le aziende del settore privato possono beneficiarne adottandolo nei propri programmi di sicurezza informatica.

Uno dei principali punti di forza del NIST CSF è la sua capacità di offrire linee guida chiare e dettagliate per sviluppare e implementare un efficace programma di cybersecurity aziendale. Le organizzazioni che raggiungono la piena conformità con il NIST CSF tendono a rispettare, almeno in parte, anche altri standard e normative di sicurezza richiesti a livello normativo o settoriale.

Inoltre, grazie alle corrispondenze tra il NIST CSF e altri framework di sicurezza, le aziende possono dimostrare più facilmente la propria conformità e individuare eventuali controlli aggiuntivi necessari per soddisfare altri requisiti normativi.

Audit e verifica della conformità: processi e strumenti per il CISO

Garantire la conformità alle normative sulla cybersecurity non è un’operazione una tantum, ma un processo continuo che richiede monitoraggio, analisi e aggiornamenti costanti. Il CISO ha il compito di supervisionare le attività di audit, assicurandosi che l’azienda soddisfi tutti i requisiti normativi e adottando le misure necessarie per colmare eventuali lacune.

Un audit di conformità è un processo strutturato che prevede la revisione approfondita delle politiche, delle procedure e dei sistemi di sicurezza di un’organizzazione. Il primo passo consiste nella pianificazione dell’audit, durante la quale vengono identificati gli obiettivi, i regolamenti di riferimento e gli stakeholder coinvolti. Successivamente, viene effettuata una valutazione dettagliata delle misure di sicurezza esistenti, analizzando l’efficacia dei controlli implementati e identificando eventuali vulnerabilità.

Uno dei principali ostacoli in un audit di conformità è la mancanza di una visione completa delle tecnologie e delle risorse presenti nell’ambiente aziendale, spesso dovuta a carenze nella gestione dell’inventario. Maggiore è la complessità dell’infrastruttura IT, più difficile diventa identificare e valutare i rischi associati. Senza una chiara consapevolezza di ciò che deve essere protetto, le aziende non saranno in grado di implementare adeguate misure di sicurezza. Per questo motivo, prima di affrontare le questioni di conformità, i responsabili del progetto devono concentrarsi sull’individuazione dei punti ciechi nella configurazione dell’infrastruttura di sicurezza. L’analisi approfondita delle risorse disponibili rappresenta quindi un passaggio essenziale nel processo di conformità.

Eseguire audit e valutazioni periodiche consente di intercettare eventuali aree di non conformità e di assicurarsi che le politiche e le procedure aziendali siano seguite correttamente. Inoltre, questo approccio aiuta le organizzazioni a restare al passo con le evoluzioni normative e gli aggiornamenti degli standard di settore.

Per supportare il processo di audit, le aziende utilizzano una serie di strumenti tecnologici avanzati. I sistemi SIEM (Security Information and Event Management) consentono di monitorare in tempo reale gli eventi di sicurezza, rilevando eventuali anomalie e segnalando potenziali minacce. Le piattaforme GRC (Governance, Risk, and Compliance) aiutano a gestire la conformità, centralizzando le informazioni relative ai rischi e ai controlli di sicurezza. Inoltre, framework di riferimento come il NIST Cybersecurity Framework e i CIS Controls forniscono linee guida pratiche per migliorare la sicurezza aziendale.

Documentare le politiche e le procedure inoltre può aiutare a garantire che i dipendenti siano consapevoli dei requisiti di compliance e possano farvi riferimento in caso di necessità. Questo può anche aiutare le organizzazioni a dimostrare il loro impegno verso la compliance in caso di audit o indagini.

Un aspetto fondamentale degli audit è la formazione del personale. Gli errori umani sono una delle principali cause di violazioni dei dati; quindi, sensibilizzare i dipendenti sulle migliori pratiche di sicurezza informatica è essenziale per ridurre il rischio di incidenti. Il CISO deve promuovere regolari sessioni di training, aggiornando il personale sulle nuove minacce e sulle strategie di mitigazione. Questo può anche contribuire a creare una cultura della conformità all’interno dell’organizzazione, come descritto in altri lavori in precedenza.

Gestione delle sanzioni in caso di non conformità normativa

Il mancato rispetto delle normative sulla cybersecurity può avere conseguenze disastrose per un’azienda, sia dal punto di vista economico che reputazionale. Le sanzioni previste dalle normative, come il GDPR e la NIS2, possono essere estremamente severe, con multe che possono raggiungere decine di milioni di euro. Tuttavia, l’impatto negativo di una violazione della conformità non si limita agli aspetti finanziari. La perdita di fiducia da parte dei clienti e dei partner commerciali può avere ripercussioni a lungo termine, influenzando la competitività dell’azienda sul mercato.

Per mitigare il rischio di sanzioni, le aziende devono adottare un approccio proattivo, monitorando costantemente la propria conformità e implementando misure di sicurezza efficaci. Un piano di risposta agli incidenti ben strutturato può fare la differenza nel contenere i danni derivanti da una violazione dei dati. Inoltre, una comunicazione trasparente con le autorità di regolamentazione può facilitare la risoluzione delle problematiche e dimostrare l’impegno dell’azienda nella protezione delle informazioni.

Passando all’analisi delle fasi successive alla constatazione di una non conformità, possiamo affermare che, è essenziale reagire immediatamente per ridurre l’impatto. Il CISO, insieme ai team legali e dirigenziali, deve:

1.Analizzare la sanzione e le motivazioni

• Capire se la sanzione è giustificata e quali violazioni sono state identificate.
• Esaminare il regolamento specifico per comprendere le implicazioni legali.

2.Coinvolgere il team legale e le autorità di regolamentazione

• • Collaborare con esperti legali per valutare le possibilità di ridurre la sanzione.
  • Se possibile, negoziare con le autorità dimostrando l’impegno dell’azienda a correggere le violazioni.
  • In alcuni casi, è possibile contestare la sanzione se ci sono motivi validi.

3.Contenere i danni operativi e reputazionali

• • • Se la sanzione riguarda una violazione di dati, informare tempestivamente gli utenti e i partner coinvolti.
    • Comunicare in modo trasparente con il pubblico per minimizzare il danno alla reputazione.
    • Adottare misure immediate per evitare che la violazione si ripeta.

4.Implementare azioni correttive per evitare ulteriori conseguenze

Dopo aver gestito la sanzione immediata, l’azienda deve lavorare per prevenire future violazioni:

• Piano di miglioramento della sicurezza
  • Implementare nuove misure di cybersecurity per colmare le lacune evidenziate.
  • Aggiornare le policy di sicurezza e rafforzare i controlli interni.
  • Rafforzare la gestione dell’accesso ai dati sensibili.
• Revisione dei processi di conformità
  • Valutare se i protocolli attuali sono adeguati o se necessitano di modifiche.
  • Migliorare la gestione dei rischi IT e l’analisi delle vulnerabilità.
• Audit straordinario e report alle autorità
  • Dopo aver adottato le misure correttive, eseguire un audit interno per verificare l’efficacia delle nuove strategie.
  • Redigere un report da presentare alle autorità per dimostrare il miglioramento e ridurre il rischio di sanzioni future.

5.Ridurre l’impatto finanziario delle sanzioni

Se la sanzione ha un impatto economico significativo, l’azienda deve:

• Verificare se esistono opzioni di pagamento rateizzato o riduzione delle multe, in caso di dimostrata collaborazione con le autorità.
• Valutare la copertura assicurativa: alcune polizze per la cybersecurity possono coprire parte delle multe o delle spese legali.
• Implementare un fondo di emergenza per la conformità, destinato a coprire i costi imprevisti derivanti da violazioni normative.

6.Lezioni apprese e miglioramento continuo

Una volta gestita la sanzione, è fondamentale imparare dagli errori e rafforzare il programma di compliance aziendale:

• Creare un registro degli incidenti di conformità per documentare i problemi e le soluzioni adottate.
• Migliorare i processi di formazione del personale, includendo simulazioni di audit e gestione delle violazioni.
• Integrare nuove tecnologie di monitoraggio e prevenzione automatizzata per ridurre il rischio di future violazioni.

Gestire una sanzione per non Regulatory compliance richiede un approccio rapido, strategico e strutturato. Il CISO e il team di sicurezza devono lavorare in sinergia con il reparto legale e il management per ridurre l’impatto delle sanzioni, correggere le violazioni e prevenire rischi futuri.

Ruolo del CISO nella preparazione per le ispezioni normative

Le ispezioni normative sono uno strumento fondamentale per garantire il rispetto delle leggi sulla cybersecurity. Le ispezioni normative nella cybersecurity sono verifiche condotte dalle autorità competenti, finalizzate a valutare se un’organizzazione rispetti o meno le normative di sicurezza informatica.

Perché si effettuano

• Per garantire la protezione delle informazioni sensibili.
• Per prevenire incidenti di sicurezza e violazioni dei dati.
• Per evitare sanzioni economiche e danni alla reputazione.
• Per instaurare un rapporto di fiducia con gli utenti e i clienti.

Come si effettuano

• Attraverso audit interni, esterni o condotti da terze parti indipendenti.
• Simulando ad intervalli regolari ispezioni, anche avvalendosi di soggetti terzi, può aiutare a prepararsi in modo adeguato, riducendo l’incertezza nel caso si verifichi un evento reale. Queste simulazioni possono anche fungere da attività formativa. In alternativa, si possono organizzare incontri specifici per sensibilizzare il personale sui comportamenti corretti da adottare durante un’ispezione. In entrambi i casi, le simulazioni sono utili per valutare la consapevolezza dei collaboratori e la loro capacità di reperire rapidamente la documentazione, sia cartacea che elettronica, nonché per verificare la qualità delle risposte in relazione alle decisioni prese dall’organizzazione. È fondamentale documentare queste simulazioni e conservare copia di tale documentazione. Questo non solo consente di rendere conto ai vari soggetti coinvolti (come ispettori e DPO), ma rappresenta anche l’applicazione di quanto previsto dall’art. 32, paragrafo 1, lettera d) del GDPR.
• Seguendo normative specifiche come il GDPR (Regolamento generale sulla protezione dei dati).
• Applicando framework e standard di sicurezza, come il NIST Cyber Security Framework.

Cosa si valuta

• La riservatezza, la disponibilità e l’integrità dei dati trattati.
• L’adozione di misure di sicurezza, come la crittografia per proteggere i dati sensibili.
• Il mantenimento e il controllo rigoroso degli accessi ai sistemi aziendali.

Cosa si ottiene

• La conferma della conformità alle normative di cybersecurity.
• La certificazione di conformità, che può semplificare l’accesso a polizze assicurative per la sicurezza informatica.

In questo contesto il CISO ha il compito, infatti, di preparare l’azienda a queste verifiche, assicurandosi che tutta la documentazione necessaria sia aggiornata e facilmente accessibile. Mantenere registri dettagliati sulle politiche di sicurezza, i report degli audit e gli incidenti informatici è essenziale per dimostrare la conformità.

Un’ulteriore strategia per affrontare con successo le ispezioni consiste nell’organizzare simulazioni di verifica interne. Questi test consentono di individuare eventuali punti deboli e di implementare le correzioni necessarie prima di un controllo ufficiale. Coinvolgere i diversi reparti aziendali in queste simulazioni aiuta a garantire che tutti siano preparati a rispondere alle richieste degli ispettori.

Conclusioni

L’idea che la compliance da sola non risolva tutte le necessità legate alla sicurezza non implica che sia qualcosa di negativo, ma piuttosto che sia necessario fare un passo in più.

Essere conformi alle normative e soddisfare tutti i requisiti rappresenta una buona base di partenza, ma non è sufficiente per ridurre adeguatamente i rischi nel contesto pratico.

La sicurezza e la conformità sono due aspetti distinti ma interconnessi all’interno di un sistema complesso. Comprendere il legame tra ciascuno di essi e la protezione dei dati è essenziale.

Il ruolo del CISO nella gestione della conformità normativa è infatti cruciale per la sicurezza e il successo dell’azienda. Attraverso audit regolari, strumenti avanzati e strategie di risposta agli incidenti, le organizzazioni possono affrontare con sicurezza le sfide della cybersecurity, riducendo il rischio di sanzioni e migliorando la propria resilienza digitale.

https://www.ictsecuritymagazine.com/articoli/ciso-conformita/

Apr 18, 2025 Marina Londei Approfondimenti, Attacchi, Attacchi, Campagne malware, In evidenza, Malware, News, RSS 0

---

I ricercatori di Cisco Talos hanno pubblicato una nuova analisi su XorDDoS, un malware DDoS attivo dal 2014 e che ha continuato a mietere vittime in tutto il mondo e lo fa ancora oggi.

XorDDoS è un trojan che colpisce le macchine Linux per renderle parte di una botnet e sfruttarle per eseguire altri attacchi. Il malware, attivo tutt’oggi, è cresciuto notevolmente negli ultimi anni, soprattutto tra il 2020 e il 2023. Nel tempo il malware si è esteso a livello globale, cominciando a colpire anche i server Docker sfruttando attacchi brute force SSH per ottenere accesso remoto ai dispositivi.

Una volta preso il controllo della macchina, il malware implementa dei meccanismi di persistenza per fare in modo che venga eseguito durante il boot del sistema e non venga individuato dai sistemi di sicurezza.

Nel 2024 i ricercatori di Cisco Talos hanno individuato nuove versioni dell’infrastruttura e del payload del malware, probabilmente già in uso dal 2017. Secondo il team di sicurezza, questa nuova suite di prodotti non è stata realizzata solo per migliorare gli attacchi, ma anche per essere messa in vendita.

Oggi l’infrastruttura di XorDDoS include anche un “central controller” in grado gestire più controller del malware contemporaneamente. “Questo controller aggiornato migliora la capacità dei cybercriminali di coordinare ed eseguire gli attacchi in maniera più efficiente, a indicare un’evoluzione nelle loro tattiche e nelle loro conoscenze” hanno spiegato i ricercatori di Cisco Talos.

Il controller invia comandi a ciascuno dei sotto-controller, i quali, a loro volta, gestiscono le botnet di macchine Linux create tramite il malware.

Secondo i ricercatori di sicurezza, i cyberattaccanti dietro XorDDoS sono di origine cinese. Il team di Cisco Talos riporta che tra novembre 2023 e febbraio 2025 il malware ha colpito per lo più negli Stati Uniti, nei quali si conta il 50% delle vittime totali. A seguire, i Paesi più colpiti risultano Spagna, Taiwan, Canada, Giappone, Brasile, Paraguay, Argentina, Regno Unito e, tra gli altri, anche l’Italia.

---

---

---

https://www.securityinfo.it/2025/04/18/xorddos-il-ddos-contro-linux-continua-a-mietere-vittime/?utm_source=rss&utm_medium=rss&utm_campaign=xorddos-il-ddos-contro-linux-continua-a-mietere-vittime

Nel panorama in costante evoluzione dell’intelligenza artificiale, una nuova e allarmante vulnerabilità è emersa, colpendo al cuore i sistemi di sicurezza implementati nei modelli linguistici di ragionamento più avanzati. Un recente studio condotto da ricercatori della Duke University ha portato alla luce una metodologia di attacco denominata “Hijacking Chain-of-Thought” (H-CoT), in grado di compromettere i meccanismi di sicurezza di modelli come OpenAI o1/o3, DeepSeek-R1 e Gemini 2.0 Flash Thinking.

Il paradosso della trasparenza nel ragionamento AI

Il meccanismo di ragionamento “chain-of-thought” (catena di pensiero) rappresenta una delle innovazioni più significative nel campo dell’intelligenza artificiale degli ultimi anni. Introdotto nel 2022, questo approccio consente ai modelli IA di affrontare problemi complessi scomponendoli in passaggi intermedi, imitando il processo di ragionamento umano. Questa metodologia ha migliorato notevolmente le capacità dei modelli di risolvere problemi articolati, fornendo risposte più accurate e contestualizzate.

Ironicamente, ciò che era stato concepito come un miglioramento per la sicurezza si è trasformato in una vulnerabilità critica. Come spiega Jianyi Zhang, autore principale dello studio e ricercatore presso la Duke University:

“La capacità di ragionamento chain-of-thought può effettivamente migliorare la sicurezza, poiché il modello può eseguire un’analisi interna più rigorosa per rilevare violazioni delle policy. Tuttavia, il nostro attacco H-CoT è un metodo più avanzato che sfrutta specificamente la trasparenza di questo processo. Quando un modello condivide apertamente i suoi ragionamenti intermedi sulla sicurezza, gli attaccanti acquisiscono informazioni sui suoi processi decisionali e possono creare prompt avversariali che imitano o sovrascrivono i controlli originali.”

Questa vulnerabilità è stata riconosciuta anche da Anthropic nella documentazione del suo modello Claude 3.7 Sonnet:

“…consentire agli utenti di vedere il ragionamento di un modello potrebbe permettere loro di comprendere più facilmente come aggirare le protezioni del modello stesso.”

Anatomia dell’Attacco H-CoT

Per comprendere la portata del problema, i ricercatori hanno sviluppato un dataset chiamato “Malicious-Educator“, contenente richieste intrinsecamente pericolose ma mascherate da scopi educativi legittimi. Queste richieste riguardano argomenti estremamente sensibili come terrorismo, cybercrime e abuso di minori – tematiche che i modelli AI responsabili dovrebbero rifiutarsi di trattare in contesti dannosi.

Il processo di attacco H-CoT si articola attraverso l’analisi e la manipolazione di due fasi distinte del ragionamento del modello:

1. Fase di Giustificazione: In questa fase iniziale, il modello valuta se una richiesta è conforme alle policy di sicurezza e se dovrebbe fornire una risposta;
2. Fase di Esecuzione: Se il modello decide che può fornire una risposta conforme alle policy, procede con questa fase, illustrando i passaggi di ragionamento per risolvere il problema.

Contrariamente ai tentativi più semplici di alterare la fase di giustificazione, che generalmente falliscono poiché il modello è addestrato a riconoscere manipolazioni esplicite, l’approccio H-CoT opera in modo più sofisticato. Invece di cercare di modificare direttamente l’opinione del modello sulla legittimità di una richiesta, l’attacco incoraggia il modello a concentrarsi sulla risoluzione del problema, aggirando efficacemente la fase di giustificazione e passando direttamente alla fase di esecuzione.

Ciò avviene inserendo frammenti di “pensieri” simulati che imitano lo stile del ragionamento del modello, inducendolo a credere che la valutazione della sicurezza sia già stata completata. Come spiegano i ricercatori:

“Interponendo un frammento di pensiero di esecuzione simulato, incoraggiamo il modello a saltare le giustificazioni attente e a passare direttamente a una mentalità di esecuzione.”

Nessun modello è veramente sicuro!

I risultati dei test condotti dai ricercatori sono profondamente preoccupanti e mettono in discussione l’efficacia delle attuali misure di sicurezza implementate nei modelli IA di punta.

Il modello o1 di OpenAI, che normalmente rifiuta il 99% delle richieste dannose presenti nel dataset Malicious-Educator, ha visto il suo tasso di rifiuto crollare a meno del 2% quando sottoposto ad attacchi H-CoT. Questo rappresenta un deterioramento catastrofico delle sue difese, riducendo praticamente a zero la sua capacità di identificare e bloccare contenuti potenzialmente pericolosi.

La situazione si rivela ancora più critica per DeepSeek-R1, che già in condizioni normali mostra un tasso di rifiuto di appena il 20% per i contenuti problematici. Sotto l’influenza dell’attacco H-CoT, questo tasso scende ulteriormente al 4%. Un problema aggiuntivo di DeepSeek-R1 risiede nel suo design di sicurezza difettoso: il modello inizialmente genera contenuti dannosi prima che il suo moderatore di sicurezza intervenga per sovrapporvi un messaggio di rifiuto. Questo comportamento permette a un attaccante di catturare la risposta dannosa originale prima della censura.

Il modello Gemini 2.0 Flash Thinking di Google mostra le prestazioni di sicurezza più scadenti, con meno del 10% delle richieste dannose rifiutate inizialmente. Sottoposto ad H-CoT, non solo il modello fornisce contenuti dannosi, ma cambia addirittura il suo tono da cauto a entusiasta nel fornire informazioni pericolose.

Vulnerabilità multilingue: un fenomeno inaspettato

Una scoperta inaspettata emersa durante la ricerca riguarda il comportamento linguistico dei modelli sottoposti ad attacco. Nonostante tutti gli input fossero in inglese, i modelli della serie o1 di OpenAI hanno occasionalmente prodotto pensieri di ragionamento in altre lingue, tra cui ebraico, arabo, cinese, giapponese, coreano e tamil.

Questo fenomeno, secondo i ricercatori, “dimostra non solo l’instabilità intrinseca nei meccanismi di ragionamento di sicurezza del modello o1, ma indica anche che il metodo H-CoT amplifica tali instabilità”. La manifestazione di queste instabilità attraverso molteplici lingue suggerisce che il meccanismo di ragionamento sottostante potrebbe essere vulnerabile ad attacchi multilingue, evidenziando la necessità di affrontare queste vulnerabilità in contesti linguistici diversi.

Vulnerabilità specifiche nei diversi modelli

L’analisi approfondita ha rivelato caratteristiche e vulnerabilità uniche per ciascun modello testato:

OpenAI o1/o3

I modelli di OpenAI, sebbene inizialmente mostrino il più alto tasso di rifiuto per contenuti dannosi, presentano significative variazioni nella sicurezza in base alla posizione geografica. L’uso di diversi indirizzi IP proxy ha influenzato in modo sostanziale le risposte di sicurezza del modello, suggerendo un’implementazione incoerente delle misure di sicurezza a livello globale.

I ricercatori hanno anche osservato un deterioramento della sicurezza tra le versioni di gennaio e febbraio 2025 del modello o1, coincidente con il rilascio di DeepSeek-R1. Questo solleva interrogativi sulla possibilità che OpenAI stia compromettendo la sicurezza per rimanere competitiva in termini di prestazioni e costi.

DeepSeek-R1

Oltre alla già menzionata vulnerabilità nel design del sistema di sicurezza, DeepSeek-R1 mostra differenze significative nelle risposte di sicurezza attraverso diverse lingue. Ad esempio, quando interrogato su sparatorie scolastiche in inglese, il modello fornisce strategie criminali, mentre in cinese semplificato offre tipicamente strategie di prevenzione. Questa discrepanza, attribuibile ai dati di addestramento e ai clienti target, apre le porte ad attacchi multilingue, dove un utente malintenzionato potrebbe tradurre una domanda pericolosa in inglese per aggirare i controlli di sicurezza di DeepSeek e poi ritradurre la risposta dannosa nella propria lingua.

Gemini 2.0 Flash Thinking

Il modello di Google mostra una forte inclinazione verso il comportamento di “seguire le istruzioni”, che ha implicazioni significative per la sua sicurezza. I ricercatori hanno notato che se il modello fornisce risposte con un diverso numero di strategie criminali in diverse prove (ad esempio, 2, 3, 3, 4, 4), selezionando la risposta con il maggior numero di strategie (4) e utilizzando il corrispondente processo di pensiero in H-CoT, il modello genererebbe costantemente risposte con almeno 4 strategie.

Inoltre, se il modello fornisce una risposta esitante in quattro prove su cinque e una risposta molto disponibile in una (solitamente iniziando con “certamente”), iniettando il processo di pensiero dalla risposta “certamente” nella query H-CoT, il modello inizierebbe tutte le sue risposte successive con “certamente”. Questo comportamento suggerisce che mentre il modello dà priorità al seguire le istruzioni per migliorare il ragionamento, pone meno enfasi sull’allineamento di sicurezza, rendendolo vulnerabile alla manipolazione sotto attacchi H-CoT.

Strategie difensive: proteggere l’intelligenza artificiale

Sulla base delle loro scoperte, i ricercatori propongono diverse strategie difensive per mitigare le vulnerabilità H-CoT nei modelli di ragionamento:

1. Nascondere il processo di ragionamento

La raccomandazione principale è di evitare di mostrare i dettagli del ragionamento sulla sicurezza agli utenti, sia nella fase di giustificazione che in quella di esecuzione. I ricercatori hanno osservato che OpenAI ha già iniziato ad adottare questo approccio nell’ultima versione web di o3-mini, dove il processo di pensiero per alcune query pericolose è coperto con “None” (Nessuno).

2. Rafforzare la difesa contro H-CoT imitato

Dato che H-CoT mantiene un’alta trasferibilità tra diversi modelli, è necessario separare i prompt relativi al CoT dalla richiesta principale durante le valutazioni di sicurezza. Se la richiesta principale è sicura, si può aggiungere un prompt relativo al CoT per l’elaborazione; tuttavia, se la richiesta principale è pericolosa, i prompt relativi al CoT dovrebbero essere esclusi dall’input per evitare di compromettere il ragionamento di sicurezza del modello.

3. Migliorare la capacità di ragionamento sulla sicurezza durante l’addestramento

Il successo di H-CoT è parzialmente attribuibile al fatto che l’allineamento di sicurezza è più impegnativo per i modelli di ragionamento di grandi dimensioni. A differenza dei metodi precedenti che miravano a semplici corrispondenze punto a punto, è necessaria una comprensione più profonda dell’intento dell’utente per evitare di cadere in trappole logiche dannose. Ciò richiede metodi di addestramento all’allineamento di sicurezza più avanzati e dataset di maggiore qualità che catturino meglio questa complessità.

4. Non Trascurare la Sicurezza a Causa della Competizione sull’Utilità

La competizione sulla capacità di ragionamento nei modelli IA è intensa, con gran parte dell’attenzione focalizzata sulla riduzione dei costi e sul miglioramento delle prestazioni di ragionamento. Di conseguenza, la sicurezza è stata spesso trascurata. I ricercatori incoraggiano le aziende a prendere sul serio il bilanciamento tra utilità e sicurezza, prioritizzando la sicurezza accanto all’utilità nello sviluppo futuro di modelli IA.

Implicazioni etiche: perché rivelare queste vulnerabilità?

La pubblicazione di vulnerabilità come H-CoT solleva importanti questioni etiche. I ricercatori riconoscono che divulgare tali debolezze potrebbe potenzialmente aiutare attori malintenzionati a creare attacchi più efficaci. Tuttavia, sostengono che studiare apertamente queste vulnerabilità è essenziale per la comunità di ricerca e l’industria per sviluppare salvaguardie più robuste, che alla fine beneficeranno gli utenti di tutto il mondo.

“Crediamo che studiare apertamente queste debolezze sia essenziale per la comunità di ricerca e l’industria per sviluppare salvaguardie più robuste”, scrivono i ricercatori nella sezione etica del loro articolo. “Riconosciamo che divulgare tali vulnerabilità potrebbe potenzialmente aiutare attori malintenzionati a creare attacchi più efficaci. Tuttavia, sottolineiamo che tali vulnerabilità, in varie forme, esistono già in diversi modelli. Documentando e analizzando trasparentemente queste debolezze, cerchiamo di incoraggiare meccanismi di sicurezza più forti piuttosto che favorire danni.”

Il team ha adottato precauzioni nella pubblicazione del loro lavoro, trattenendo le informazioni più sensibili come script di attacco direttamente utilizzabili per scoraggiare un uso improprio immediato.

Il futuro della sicurezza dell’IA: una corsa agli armamenti?

Man mano che i modelli IA diventano più potenti e integrati nei sistemi del mondo reale, le violazioni della sicurezza hanno il potenziale di causare impatti sociali sempre più gravi. Questa ricerca sottolinea che mostrare il processo di ragionamento chain-of-thought, pur essendo vantaggioso per l’interpretabilità e le prestazioni, può anche creare nuove superfici di attacco.

La competizione globale nell’IA sta intensificando le pressioni sulle aziende per rilasciare modelli sempre più capaci, spesso a scapito di rigorosi controlli di sicurezza. Questa dinamica rischia di innescare una “corsa agli armamenti” nell’IA, dove le capacità delle tecnologie offensive e difensive si evolvono continuamente per superarsi a vicenda.

Il costante equilibrio tra trasparenza, utilità e sicurezza rimarrà una sfida critica. I ricercatori sottolineano la necessità di sviluppare metodi più robusti per garantire che i sistemi IA avanzati rimangano sicuri senza sacrificare le loro capacità.

Necessità urgente di ripensare la sicurezza dei modelli di ragionamento AI

La scoperta del metodo di attacco H-CoT rappresenta un importante campanello d’allarme per l’industria dell’IA. Evidenzia la natura in continua evoluzione delle minacce alla sicurezza dell’IA e la necessità di un approccio proattivo per identificare e affrontare le vulnerabilità.

Per le organizzazioni che implementano sistemi IA, questa ricerca sottolinea l’importanza di valutare attentamente le implicazioni di sicurezza delle funzionalità di trasparenza dei modelli, in particolare nelle applicazioni ad alto rischio dove la sicurezza dell’IA è fondamentale.

I ricercatori concludono con un appello per un impegno più forte nella creazione di sistemi IA non solo più capaci, ma anche più sicuri.

“Speriamo che i nostri risultati catalizzino ulteriori ricerche su strategie di difesa più efficaci per i LRM, garantendo che le capacità di ragionamento avanzate non sacrifichino l’integrità etica e la sicurezza.”

Mentre l’IA continua a evolversi a un ritmo senza precedenti, la necessità di pratiche di sicurezza robuste non è mai stata così cruciale. Il futuro dell’IA sicura dipenderà dalla capacità della comunità di ricerca e dell’industria di anticipare e mitigare vulnerabilità come H-CoT, garantendo che le meraviglie dell’intelligenza artificiale avanzata possano essere godute senza mettere a rischio la sicurezza pubblica.

Riferimenti:

H-CoT: Hijacking the Chain-of-Thought Safety Reasoning Mechanism to Jailbreak Large Reasoning Models

How nice that state-of-the-art LLMs reveal their reasoning … for miscreants to exploit

Detecting misbehavior in frontier reasoning models

Chain-of-thought prompting elicits reasoning in large language models

Model Card di Anthropic per Claude 3.7 Sonnet

https://www.ictsecuritymagazine.com/articoli/chain-of-thought-h-cot/

https://www.securitymagazine.com/blogs/14-security-blog/post/101549-how-to-bridge-the-cybersecurity-skills-gap-take-a-risk

DaVita, a kidney dialysis company, has experienced a ransomware attack. The organization disclosed the incident in a filing with the Securities and Exchange Commission (SEC) on April 12, 2025. Due to the recency of the incident, the investigation and response is ongoing. The nature and scope of this attack is not yet known.  

Security leaders weigh in 

Randolph Barr, CISO at Cequence:

The DaVita ransomware incident is yet another reminder of how critical it is to have a comprehensive, well-rehearsed backup and recovery strategy. To defend against threats like ransomware, backups must be stored separately from primary systems, ideally in isolated or offline environments — and protected with encryption at rest. These controls help ensure that backup data remains secure and accessible even if production systems are compromised, giving organizations a reliable path to recovery.

The situation should also be closely monitored to see whether it turns out to involve data exfiltration. The double extortion model has been a common pattern lately, with attackers threatening to sell or leak sensitive data if ransom isn’t paid.

For now, the focus should be on the patients and determining if their data was impacted. Patients should implement proactive steps towards securing their information, including checking their credit, creating fraud alerts or enabling a credit freeze, scanning for targeted phishing attempts, and checking patient portals for any unfamiliar activity or claims.

Andrew Costis, Engineering Manager of the Aversary Research Team at AttackIQ:

DaVita, a Colorado-based kidney dialysis firm, has been hit by a ransomware attack that encrypted part of its network and impacted its operations. Upon discovery, DaVita claims it deployed its response tools and protocols, but confirmed that some of the attack and response efforts have resulted in some operations being adversely impacted.

Healthcare organizations remain vulnerable to ransomware attacks due to the vast amount of sensitive patient data they store. Not only can these incidents impact organizational operations, but more importantly, compromise patient health and safety.

Healthcare organizations must treat these incidents as a learning opportunity and realize that proactivity is key. By utilizing the tactics, techniques, and procedures (TTPs) employed by threat groups, organizations can proactively test their systems against these attacks and identify any vulnerabilities before attackers exploit them, as well as ensure their programs are equipped to combat these relentless threats effectively.

Aditya K. Sood, VP of Security Engineering and AI Strategy at Aryaka

The ransomware attack on DaVita was notable for the company’s ability to maintain patient care despite being compromised, which is a sign of strong contingency planning. However, the incident still triggered significant disruption and a sharp 4% drop in DaVita’s stock, reflecting investor concern over cybersecurity risks in healthcare. The attack underscores how even well-prepared organizations remain vulnerable and highlights the operational and financial stakes tied to cyber resilience in critical sectors.

The broader implications of ransomware attacks on critical healthcare organizations like DaVita extend far beyond IT disruptions — they pose serious risks to patient safety, public health, and national resilience. When clinical systems are locked or data is compromised, essential treatments can be delayed, diagnostics interrupted, and emergency responses hindered. The potential loss of life in such situations underscores the urgency of the situation. These incidents also expose sensitive patient information, triggering regulatory scrutiny and eroding public trust. Moreover, they highlight systemic vulnerabilities across the healthcare ecosystem, including outdated infrastructure, insufficient cyber hygiene, and under-resourced security teams, making the sector a persistent and appealing target for sophisticated threat actors.

To defend against ransomware attacks, healthcare entities must adopt a proactive security posture. This includes implementing zero-trust architecture, segmenting networks, and patching vulnerabilities promptly. However, maintaining regular offline backups is one of the most crucial steps in data protection to combat the severe impacts of ransomware attacks. Firm IR plans, continuous monitoring, and staff training are essential to detect and contain threats early. The need for continuous monitoring should reassure the audience that their vigilance is a key part of the defense strategy. Strengthening third-party risk management and investing in cyber resilience is critical to ensuring care delivery is not compromised by digital threats.

https://www.securitymagazine.com/articles/101548-kidney-dialysis-company-experiences-ransomware-attack

Apr 17, 2025 Marina Londei Attacchi, In evidenza, Leaks, Minacce, News, RSS 0

---

Alcuni ricercatori di sicurezza hanno scoperto una nuova campagna ransomware ai danni dei bucket S3 che ha sfruttato migliaia di chiavi di accesso AWS.

Come si legge su Cybernews, i ricercatori hanno individuato un database di 1.229 coppie di chiavi AWS uniche contenenti l’Access Key ID e il corrispondente Secret Access Key. Un’analisi più approfondita ha portato poi all’individuazione della campagna ransomware, con numerosi bucket S3 completamente cifrati fatta eccezione per la nota del riscatto.

Gli attaccanti hanno sfruttato la crittografia Customer-Provided Keys server-side (SSE-C) per cifrare i dati dei bucket, una tecnica già usata in precedenza in altre campagne ransomware contro AWS. Questo tipo di attacco si basa sul furto delle credenziali dei clienti AWS, senza dover sfruttare eventuali vulnerabilità degli ambienti.

Gli attaccanti, in possesso delle credenziali utente, generano le proprie chiavi di cifratura e le usano per bloccare i dati. “Questo pattern di attacco consente la ‘compromissione silenziosa’, con nessun alert né report notificato alla vittima, né alcun log“. Gli attaccanti lasciano la struttura dei bucket intatta e agiscono solo sui dati, tanto che in diverse istanze le operazioni non si sono interrotte.

Secondo Bob Diachenko, un ricercatore di sicurezza, molte vittime potrebbero non essersi ancora rese conto di avere i bucket cifrati, soprattutto se i file compromessi non vengono usati di frequente o se i bucket vengono usati solo per i backup. “Questo incidente segna un’escalation significativa nelle tattiche dei ransomware cloud” ha affermato Diachenko, “Alcuni backup esposti sono vuoti e potrebbero essere stati creati da poco, mettendo a rischio i progetti futuri“.

Non è ancora chiaro come gli attaccanti siano entrati in possesso delle chiavi AWS. I ricercatori di Cybernews ipotizzano che possano averle raccolte dai repository pubblici, caricate per errore dagli sviluppatori, oppure sfruttando delle configurazioni errate di tool di CI/CD che espongono le credenziali.

Altre possibilità comprendono file di configurazione delle web app con credenziali in chiaro, utenti IAM inattivi di cui non vengono ruotate le chiavi di accesso e in generale qualsiasi tool, dashboard o password manager compromesso.

I ricercatori non sono ancora riusciti a individuare i cybercriminali dietro la campagna ransomware contro i bucket S3 AWS. Stando alle informazioni condivise finora, si tratta di un’operazione altamente automatizzata.

Il team di Cybernews consiglia di aumentare la sicurezza degli ambienti AWS disabilitando le chiavi non utilizzate e ruotando quelle attive. È necessario inoltre implementare AWS Config e GuardDuty per identificare pattern di accesso sospetti e usare tool automatizzati per scansionare repository pubblici in cerca di eventuali chiavi esposte.

Si consiglia infine di applicare il principio del least privilege ai ruoli IAM nei bucket, rimuovere le credenziali hardcoded nelle applicazioni e configurare delle policy per ridurre l’uso della crittografia SSE-C.

---

---

---

https://www.securityinfo.it/2025/04/17/migliaia-di-chiavi-aws-usate-in-un-attacco-ransomware/?utm_source=rss&utm_medium=rss&utm_campaign=migliaia-di-chiavi-aws-usate-in-un-attacco-ransomware

Nel panorama attuale dell’intelligenza artificiale, il rapido sviluppo degli algoritmi di machine learning si scontra con una crescente preoccupazione per la privacy dei dati. I modelli di AI più avanzati richiedono enormi quantità di informazioni per essere addestrati efficacemente, ma questi dati sono spesso sensibili e difficili da condividere a causa di normative sempre più stringenti come il GDPR o semplicemente per le legittime preoccupazioni degli utenti riguardo la privacy. In questo contesto complesso, due tecnologie emergono come potenziali soluzioni complementari: il Federated Learning (FL) e la Privacy Differenziale (DP).

Il Federated Learning rappresenta un paradigma di addestramento innovativo che consente a molteplici dispositivi o entità di collaborare nell’addestramento di un modello senza condividere direttamente i dati grezzi. Invece di centralizzare tutti i dati in un unico server, FL permette l’addestramento distribuito dove i dispositivi elaborano localmente i propri dati e condividono solo gli aggiornamenti del modello. La Privacy Differenziale, d’altra parte, fornisce un quadro matematico formale per limitare la fuga di informazioni derivate dai dati privati, garantendo che l’output di un algoritmo non riveli troppo sui dati di input individuali.

Quando queste due tecnologie si incontrano, creano un approccio potente per l’apprendimento collaborativo preservando la privacy. Tuttavia, implementare efficacemente questa combinazione pone numerose sfide tecniche che richiedono una comprensione approfondita di entrambi i campi. Il presente articolo esplora l’intersezione di queste tecnologie, analizzando le sfide, le soluzioni e le applicazioni emergenti nell’ambito della sicurezza informatica e della protezione dei dati.

La promessa del Federated Learning: collaborazione senza compromettere la Privacy

Il Federated Learning rappresenta un cambiamento paradigmatico nel modo in cui concettualizziamo l’addestramento dei modelli di machine learning. Introdotto da Google nel 2016, FL consente ai dispositivi di apprendere collettivamente un modello condiviso mantenendo i dati di addestramento sui dispositivi locali. Il processo tipicamente si articola in diverse fasi iterate:

Fase 1: Distribuzione del modello iniziale. Un modello iniziale viene distribuito a tutti i dispositivi partecipanti, che rappresentano i client nel sistema federato.

Fase 2: Addestramento locale. Ogni dispositivo addestra il modello sui propri dati locali, utilizzando algoritmi standard come la discesa stocastica del gradiente (SGD).

Fase 3: Condivisione degli aggiornamenti. Solo gli aggiornamenti del modello, che possono essere gradienti o parametri del modello aggiornati, vengono inviati a un server centrale. Questo server non ha mai accesso ai dati grezzi, ma solo agli aggiornamenti che riflettono ciò che il modello ha appreso.

Fase 4: Aggregazione. Il server aggrega questi aggiornamenti, tipicamente attraverso una media pesata, per migliorare il modello globale.

Fase 5: Ridistribuzione. Il modello globale aggiornato viene ridistribuito ai dispositivi, e il processo continua iterativamente.

Questo approccio offre vantaggi significativi per la privacy, poiché i dati sensibili rimangono sul dispositivo dell’utente. È particolarmente utile in scenari come la previsione delle parole nelle tastiere mobili, l’analisi delle immagini personali o l’elaborazione di dati sanitari dove la sensibilità dei dati è elevata. Inoltre, il FL risolve anche problemi pratici come i requisiti di larghezza di banda e le limitazioni di archiviazione centralizzata, poiché solo gli aggiornamenti del modello, non i dati grezzi, vengono trasmessi.

Tuttavia, nonostante i miglioramenti intrinseci alla privacy, il Federated Learning da solo non fornisce garanzie formali contro attacchi sofisticati. Ricerche condotte da Zhu et al. hanno dimostrato che i gradienti condivisi possono ancora rivelare informazioni sui dati di addestramento. Ad esempio, un’entità malintenzionata potrebbe essere in grado di ricostruire dati di input esaminando attentamente gli aggiornamenti del modello attraverso tecniche come gli attacchi di inversione del gradiente. Anche con l’aggregazione delle informazioni di più dispositivi, non esiste una garanzia teorica che le informazioni sensibili non possano essere estratte.

Altre minacce alla privacy nel contesto del FL includono attacchi di inferenza di appartenenza, che tentano di determinare se un particolare record è stato utilizzato nell’addestramento del modello, e attacchi di inferenza di proprietà, che mirano a dedurre caratteristiche statistiche dei dati di addestramento. Questi rischi evidenziano la necessità di integrare FL con tecniche più robuste di preservazione della privacy come la Privacy Differenziale.

Privacy Differenziale: una garanzia matematica per la Protezione dei Dati

La Privacy Differenziale fornisce un framework matematico rigoroso per proteggere le informazioni individuali in un dataset. Introdotta da Cynthia Dwork nel 2006, la DP offre una definizione formale di privacy che può essere dimostrata matematicamente, a differenza di approcci ad hoc che potrebbero contenere vulnerabilità nascoste.

Il concetto fondamentale è che un algoritmo differenzialmente privato dovrebbe produrre risultati statisticamente simili indipendentemente dal fatto che un singolo record sia incluso o meno nel dataset. Questa proprietà garantisce che un osservatore esterno non possa dedurre con certezza se un particolare individuo ha contribuito ai dati, anche avendo accesso all’output dell’algoritmo e a informazioni ausiliarie.

Formalmente, un meccanismo M soddisfa la (ε, δ)-privacy differenziale se, per qualsiasi coppia di dataset D e D’ che differiscono per un singolo elemento, e per qualsiasi sottoinsieme di output S:

Pr[M(D) ∈ S] ≤ e^ε · Pr[M(D’) ∈ S] + δ

Dove ε rappresenta il “budget di privacy” (valori più piccoli significano maggiore privacy) e δ è una probabilità di fallimento molto piccola, tipicamente scelta in modo da essere inferiore a 1/n, dove n è la dimensione del dataset.

Per raggiungere la privacy differenziale, i meccanismi più comuni aggiungono rumore calibrato alla sensibilità dei dati. La sensibilità misura quanto l’output di una funzione può cambiare quando un singolo record nel dataset cambia. I meccanismi comuni includono:

• Il meccanismo di Laplace, che aggiunge rumore estratto da una distribuzione di Laplace con scala proporzionale alla sensibilità L1 della funzione divisa per ε.
• Il meccanismo gaussiano, che aggiunge rumore estratto da una distribuzione normale con varianza proporzionale al quadrato della sensibilità L2 della funzione e inversamente proporzionale al quadrato del parametro di privacy ε.

Nel contesto dell’apprendimento automatico, l’approccio più diffuso è DP-SGD (Differentially Private Stochastic Gradient Descent), che aggiunge rumore gaussiano ai gradienti clippati durante l’addestramento. Questo consente di addestrare modelli complessi come le reti neurali profonde con garanzie di privacy differenziale.

La DP offre diverse proprietà importanti che la rendono particolarmente adatta per l’integrazione con il Federated Learning:

• Proprietà di post-elaborazione: qualsiasi elaborazione aggiuntiva su un output differenzialmente privato rimane differenzialmente privata, senza degradare la garanzia di privacy. Questo significa che le trasformazioni dei modelli dopo l’aggregazione non compromettono la privacy.
• Composizione: la combinazione di più meccanismi differenzialmente privati dà ancora un risultato differenzialmente privato, anche se con un parametro di privacy degradato. Questa proprietà è cruciale per analizzare la perdita di privacy cumulativa durante le iterazioni di addestramento.
• Amplificazione tramite sottocampionamento: selezionare casualmente un sottoinsieme di dati prima di applicare un meccanismo di privacy differenziale migliora la garanzia di privacy, permettendo di ottenere la stessa utilità con meno rumore.

Queste proprietà forniscono un framework rigoroso per analizzare e garantire la privacy in sistemi complessi come quelli di Federated Learning, permettendo una quantificazione precisa del compromesso tra privacy e utilità.

Matrimonio di tecnologie: Federated Learning con Privacy Differenziale

L’integrazione del Federated Learning con la Privacy Differenziale combina il meglio di entrambi i mondi: la natura distribuita e rispettosa della privacy di FL con le garanzie matematiche formali della DP. Questa combinazione può essere implementata in diversi modi, a seconda del modello di fiducia e delle specifiche esigenze dell’applicazione.

Paradigmi di Implementazione

Dalla letteratura emergono diversi approcci per implementare FL con DP, ognuno con i propri compromessi tra fiducia, privacy e utilità del modello:

FL con DP centralizzata (CDP): Questo approccio assume un server centrale fidato che aggiunge rumore calibrato agli aggiornamenti aggregati dei client. Gli algoritmi come DP-FedAvg e DP-FedSGD rientrano in questa categoria. Il server centrale deve essere affidabile poiché ha accesso agli aggiornamenti non rumorosi dei modelli dei client. Sebbene questa configurazione richieda meno rumore rispetto ad altre, impone un’ipotesi forte sulla fiducia nel server.

FL con DP locale (LDP): In questo paradigma, ogni client aggiunge rumore ai propri aggiornamenti del modello prima di inviarli al server. Algoritmi come LDP-FedSGD implementano questa strategia. Il vantaggio principale è che non richiede un server fidato, poiché i dati sono già protetti prima di lasciare il dispositivo. Tuttavia, questo approccio generalmente richiede più rumore per ottenere la stessa garanzia di privacy, con conseguente riduzione dell’utilità del modello.

FL con DP distribuita (DDP): Questo approccio innovativo cerca di colmare il divario di utilità-fiducia tra LDP e CDP eliminando l’assunzione di un aggregatore fidato tramite tecniche crittografiche. Esistono due principali paradigmi DDP:

• Basato su shuffling: utilizza canali di comunicazione anonimi per attenuare i rischi di identificazione dei messaggi, amplificando così le garanzie di privacy;
• Basato su aggregazione sicura: sostituisce l’aggregatore fidato con protocolli di calcolo sicuro multiparty (MPC), consentendo l’aggregazione senza rivelare i singoli contributi.

f-DP federata: Un approccio più recente introdotto da Zheng et al. che opera a livello di record, proteggendo i singoli record dei dati di un client contro gli avversari. Questa nozione di privacy opera al livello più granulare, proteggendo singoli elementi anziché interi set di dati dei client. È particolarmente utile quando la partecipazione del client non è informazione sensibile, ma i dati individuali lo sono, come nel caso di ospedali che collaborano per addestrare modelli predittivi per malattie.

Il framework PriFedSync rappresenta un esempio di un approccio generico per FL con DP che può adattarsi a una vasta famiglia di algoritmi FL all’avanguardia, incorporando meccanismi di privacy differenziale e supportando modelli sia personalizzati che globali.

Sfide tecniche e compromessi

L’implementazione di FL con DP comporta diverse sfide tecniche significative che devono essere affrontate per ottenere un sistema pratico ed efficace:

Calibrazione della soglia di clipping: Per limitare la sensibilità dei gradienti, è comune applicare una tecnica di “clipping” che limita la norma dei gradienti a un valore massimo. Determinare la soglia ottimale è cruciale: una soglia di clipping sottostimata può causare bias nel gradiente e persino divergenza del modello, mentre una soglia sovrastimata comporta l’aggiunta di rumore eccessivo. Tecniche di clipping adattivo basate sull’analisi della divergenza o sulla stima euristica possono ridurre il rumore e produrre modelli con maggiore utilità.

Ottimizzazione della distribuzione del rumore: La forma della distribuzione del rumore utilizzata per garantire la privacy differenziale può influenzare significativamente l’equilibrio tra privacy e utilità. Oltre alle comuni distribuzioni di Laplace e Gaussiana, distribuzioni discrete o a gradini attraverso tecniche di segmentazione possono essere utilizzate per ridurre la scala del rumore necessario mantenendo i requisiti di DP.

Composizione della perdita di privacy: Il monitoraggio preciso della perdita di privacy accumulata durante le iterazioni di addestramento è fondamentale. Approcci avanzati come il “moment accountant” analizzano la distribuzione dettagliata della variabile di perdita di privacy composta e derivano un limite molto più stretto utilizzando momenti di ordine superiore, consentendo di addestrare modelli con una perdita di privacy accettabile.

Compressione dei parametri del modello: Un vettore di parametri lungo consuma pesantemente il budget di privacy e appesantisce i canali di comunicazione limitati. Tecniche di compressione come il filtraggio dei parametri, l’approssimazione di rango basso, la proiezione casuale e la quantizzazione del gradiente possono ridurre entrambi i problemi. Queste tecniche possono ridurre empiricamente sia il consumo di larghezza di banda di comunicazione che la varianza del rumore, sebbene possano anche portare a una perdita di utilità poiché alcune informazioni sui parametri vengono eliminate.

Campionamento dei client partecipanti: Il campionamento dei client nell’addestramento FL basato su DP è un approccio promettente per risparmiare budget di privacy, overhead di comunicazione e consumo energetico. L’effetto di amplificazione del campionamento per DP, in cui l’inclusione casuale dei client in ogni round di addestramento rafforza le garanzie di privacy, permette di ottenere una protezione più forte della privacy minimizzando il consumo medio di comunicazione, calcolo e privacy.

Applicazioni pratiche e implementazioni

Le applicazioni di FL con DP stanno emergendo in diversi settori dove la privacy dei dati è cruciale ma esiste anche la necessità di modelli di apprendimento avanzati. Diverse piattaforme software e implementazioni pratiche stanno rendendo queste tecnologie accessibili agli sviluppatori.

Sanità e dati medici

Nel settore sanitario, l’accesso ai dati dei pazienti è fortemente regolamentato da normative come HIPAA negli Stati Uniti o GDPR in Europa, ma questi dati sono essenziali per sviluppare modelli diagnostici e terapeutici avanzati. FL con DP può consentire a ospedali e istituti di ricerca di collaborare nell’addestramento di modelli predittivi per condizioni come il COVID-19, proteggendo al contempo la privacy di ciascun paziente.

Un esempio significativo è la collaborazione tra più ospedali per addestrare modelli di diagnosi precoce o predizione dell’evoluzione della malattia. Piuttosto che preoccuparsi se un ospedale partecipa alla collaborazione (che raramente è un’informazione sensibile), la vera preoccupazione è proteggere i dati individuali dei pazienti. In questo contesto, la f-DP federata che opera a livello di record è particolarmente adatta.

I ricercatori della University of Pennsylvania hanno dimostrato l’efficacia di questo approccio, ottenendo modelli con un’accuratezza comparabile ai metodi centralizzati tradizionali, pur mantenendo forti garanzie di privacy per i singoli pazienti.

Riconoscimento immagini su dispositivi mobili

Gli esperimenti condotti su dataset come MNIST (riconoscimento di cifre scritte a mano) e CIFAR-10 (classificazione di oggetti) mostrano che è possibile addestrare modelli di visione artificiale con FL e DP mantenendo un’accuratezza ragionevole. Questi esperimenti rivelano importanti compromessi tra privacy, accuratezza e costi computazionali.

Su MNIST, modelli privati con diversi livelli di rumore (σ = 0.75, 0.9, 1.0) possono raggiungere un’accuratezza del 90% dopo un numero variabile di round di sincronizzazione, con una perdita di accuratezza relativamente contenuta rispetto ai modelli non privati. Su CIFAR-10, che è un dataset più complesso, i modelli privati possono raggiungere un’accuratezza del 52% rispetto al 64.7% dei modelli non privati.

Queste tecnologie sono particolarmente rilevanti per applicazioni come il riconoscimento di oggetti o la classificazione di immagini sui dispositivi mobili, dove i dati delle immagini personali devono rimanere privati per evitare violazioni della privacy visiva.

Modelli linguistici e previsione testo

Google ha implementato FL con DP per addestrare modelli di previsione delle parole per la tastiera Gboard. In un recente studio pubblicato da Xu et al., hanno dimostrato che tutti i modelli di predizione delle parole successive in Gboard ora hanno garanzie DP, e tutti i futuri lanci di modelli linguistici neurali Gboard richiederanno garanzie DP.

Questo permette ai modelli di migliorare in base all’uso reale senza esporre il comportamento di digitazione individuale degli utenti, che potrebbe contenere informazioni sensibili come password, informazioni personali o conversazioni private.

Con l’avvento dei grandi modelli linguistici (LLM) come ChatGPT, l’applicazione di FL con DP per il fine-tuning su domini specifici rappresenta un’area di ricerca promettente. Questi modelli potrebbero beneficiare dell’apprendimento da dati di utenti reali senza compromettere la privacy individuale.

Strumenti e framework per implementare FL con DP

Per facilitare l’implementazione pratica di queste tecnologie, sono stati sviluppati numerosi framework e piattaforme software. Alcuni dei più rilevanti includono:

TensorFlow Privacy e TensorFlow Federated: Librerie di Google che si integrano perfettamente con i modelli TensorFlow esistenti e consentono l’addestramento di modelli personalizzati con DP. Tuttavia, i meccanismi DP integrati sono relativamente fissi nel design e non supportano ottimizzazioni personalizzate flessibili.

Opacus: Una libreria scalabile ed efficiente per l’addestramento di modelli PyTorch con DP. Introduce un’astrazione di un “privacy engine” che si collega all’ottimizzatore PyTorch standard, rendendo molto più semplice l’implementazione di DP-SGD senza chiamare esplicitamente API di basso livello.
PySyft: Una libreria Python che supporta FL e DP, e disaccoppia l’addestramento del modello dai dati privati. La versione attuale si concentra principalmente sul calcolo multi-party sicuro (SMC) e sulla crittografia omomorfa (HE) piuttosto che sull’implementazione DP.

FedML: Una libreria di ricerca aperta e benchmark standardizzato con diversi paradigmi e configurazioni FL. La versione attuale integra solo DP debole ma fornisce API di basso livello per primitive di sicurezza.

Sherpa.ai FL: Un framework unificato per FL con DP, che presenta un supporto completo per meccanismi DP e tecniche di ottimizzazione. Tuttavia, si concentra principalmente sull’ottimizzazione a livello di algoritmo e non considera l’implementazione del sistema pratico.
Questi strumenti stanno rendendo più accessibile l’implementazione di FL con DP, anche se c’è ancora spazio per framework più completi che supportino tutte le varianti di questi approcci con ottimizzazioni flessibili.

Sfide emergenti e direzioni future

Nonostante i significativi progressi nell’integrazione di FL con DP, rimangono diverse sfide aperte che richiedono ulteriori ricerche:

Federated Learning verticale e di trasferimento

Mentre il FL orizzontale (dove i client hanno dati con le stesse caratteristiche ma esempi diversi) è stato ampiamente studiato, il FL verticale (dove diverse parti detengono caratteristiche diverse degli stessi campioni) pone sfide uniche per l’integrazione della DP.

Il FL verticale ha guadagnato crescente attenzione, ma molti studi esistenti si basano sul calcolo multi-party sicuro (SMC) per proteggere la riservatezza senza considerare la perdita di privacy nei risultati finali. Per ottenere una resistenza dimostrabile agli attacchi di inferenza di appartenenza o ricostruzione, è essenziale impiegare la DP anche nel VFL.

Questa integrazione è più impegnativa per due motivi principali: in primo luogo, il design degli algoritmi VFL varia per diverse attività e modelli, spesso richiedendo uno sviluppo caso per caso; in secondo luogo, le correlazioni tra attributi distribuiti sono più difficili da identificare senza diffondere informazioni individuali ad altre parti.

Grandi Modelli Linguistici (LLM)

Con l’emergere di modelli linguistici di grandi dimensioni come ChatGPT, sia FL che DP mostrano un futuro promettente nel fine-tuning di LLM preservando la privacy rispetto ai dati di dominio privato. Tuttavia, questi modelli possono avere da diversi miliardi a centinaia di miliardi di parametri, ponendo sfide significative.

Quando si applicano DP e FL a LLM, ci saranno molteplici sfide riguardanti l’enorme numero di parametri, al di là degli oneri aggiuntivi di comunicazione e calcolo sui partecipanti con risorse limitate. Indipendentemente dal modello DP, la quantità totale di rumore per la privacy deve essere proporzionale al numero di parametri per applicare DP sui modelli, il che porterebbe a enormi perdite di utilità senza tecniche specializzate.

Inoltre, il fine-tuning di LLM pre-addestrati è diverso dall’addestramento convenzionale dei modelli. La garanzia di privacy teorica nell’ML (ad esempio, DP-SGD) spesso presuppone che i modelli siano appresi da zero con molte iterazioni di addestramento, invece di una modalità di fine-tuning con molte meno iterazioni.

Federated Learning su stream di dati

In molti scenari realistici, i dati di addestramento vengono generati continuamente sotto forma di stream sui client distribuiti. In tali casi, i sistemi FL devono condurre analisi ripetitive su stream distribuiti. Ereditando l’apprendimento automatico online (OL), il federated learning online può essere derivato naturalmente per evitare di riaddestramento i modelli da zero ogni volta che arriva un nuovo frammento di dati.

Tuttavia, ottenere DP per questo scenario porta molteplici sfide. La prima è come definire la privacy nell’impostazione OFL, poiché la nozione generale di DP funziona solo per dataset statici. Sebbene le nozioni di privacy esistenti per i flussi di dati e FL sembrino applicabili qui, devono ancora essere chiarite e formulate rigorosamente nell’impostazione OFL.

La seconda sfida riguarda l’efficienza algoritmica. Prendendo come esempio la LDP a livello di evento (cioè, garantire ε-LDP in ogni istanza temporale), il frequente caricamento degli aggiornamenti del modello locale accumula enormi costi di comunicazione e grande perdita di utilità, poiché il rumore è proporzionale alla dimensione dei dati di comunicazione.

Robustezza, equità e diritto all’oblio

Un sistema FL robusto dovrebbe essere resiliente a vari guasti e attacchi causati da partecipanti che si comportano male. A causa delle capacità limitate (ad esempio, limiti della batteria), i client FL (ad esempio, smartphone) potrebbero abbandonare l’addestramento FL in modo imprevisto in qualsiasi momento. I dropout casuali dei client presentano gravi sfide per la progettazione pratica di FL con privacy differenziale.

La protezione della privacy è solo il primo passo per incoraggiare la condivisione dei dati tra una grande popolazione. L’applicazione dell’equità (fairness) aiuta a mitigare il bias involontario su individui con dati eterogenei. Tuttavia, il dilemma è che la DP mira a oscurare attributi identificabili mentre l’equità richiede la conoscenza dei valori degli attributi sensibili degli individui per evitare risultati distorti. Il clipping del gradiente e l’aggiunta di rumore nella DP possono peggiorare l’iniquità diminuendo l’accuratezza del modello per classi e sottogruppi sottorappresentati.

Inoltre, i diritti alla privacy includono il “diritto all’oblio”, cioè gli utenti possono scegliere di non contribuire con dati privati senza lasciare traccia. Poiché i modelli ML memorizzano molte informazioni specifiche sui campioni di addestramento, il concetto di “unlearning” della macchina è proposto per eliminare la sua influenza sui modelli addestrati. Tuttavia, l’unlearning federato affronta sfide distinte, poiché è molto più difficile cancellare l’influenza dei dati di un client quando il modello globale ha iterativamente trasportato le informazioni di tutti i client partecipanti.

Un Futuro di apprendimento collaborativo e privato

L’integrazione del Federated Learning con la Privacy Differenziale rappresenta una frontiera promettente per l’apprendimento automatico rispettoso della privacy. Questa combinazione permette di sbloccare il potenziale dell’IA superando il problema della frammentazione dei dati su larga scala, consentendo al contempo garanzie di privacy rigorose che possono rispettare sia la consapevolezza della privacy che la conformità normativa.

Abbiamo esplorato i diversi paradigmi per implementare FL con DP, dai modelli centralizzati che richiedono fiducia nel server, agli approcci locali che proteggono i dati prima che lascino il dispositivo, fino ai sistemi distribuiti più avanzati che utilizzano tecniche crittografiche per ottenere alta accuratezza senza un aggregatore fidato. Abbiamo anche discusso le sfide tecniche fondamentali nell’ottimizzazione dell’utilità di questi sistemi, incluse la calibrazione della soglia di clipping, l’ottimizzazione della distribuzione del rumore e la composizione della perdita di privacy.

Le applicazioni pratiche in sanità, visione artificiale e modelli linguistici dimostrano il potenziale di queste tecnologie, mentre gli strumenti e i framework emergenti stanno rendendo più accessibile la loro implementazione. Le sfide future nella gestione di dati verticali, grandi modelli linguistici, stream di dati e bilanciamento tra privacy, robustezza ed equità continueranno a guidare l’innovazione in questo campo.

Con il continuo avanzamento della tecnologia, possiamo aspettarci soluzioni sempre più sofisticate che consentano ai sistemi di apprendimento automatico di operare su dati sensibili distribuiti senza compromettere la privacy individuale. Come dimostrano le implementazioni iniziali in vari campi, dalle tastiere mobili all’assistenza sanitaria, questa combinazione di tecnologie ha il potenziale per trasformare radicalmente il modo in cui utilizziamo i dati per l’addestramento dei modelli di AI, realizzando finalmente la promessa di sistemi di intelligenza artificiale che rispettano pienamente la privacy dei dati personali.

https://www.ictsecuritymagazine.com/articoli/federated-learning-privacy-differenziale/

The cybersecurity industry faces a growing talent gap, leaving students uniquely positioned to bridge this divide. With a global cybersecurity workforce shortfall of nearly 4.8 million professionals, as highlighted by a recent ISC2 study, 64% of organizations report that skills shortages significantly hinder their ability to secure operations. As traditional IT pathways alone cannot meet this demand, diverse entry points into the field are gaining recognition. New educational approaches are equipping students with traditional academic foundations and hands-on experiences that prepare them to meet the demands of the field.  

The workforce gap in cybersecurity  

Cyber threats, compounded by the rapid adoption of AI and other advanced technologies, have intensified the need for cybersecurity talent. According to the ISC2 study, organizations are struggling with both a lack of personnel and a shortage of critical skills, particularly in areas like cloud security and AI-based risk management. While traditional educational pathways remain valuable, alternative approaches — such as ethical hacking and bug bounty programs — are proving essential in closing these gaps. 

Bug bounty programs have become an indispensable strategy for modern vulnerability management. These programs not only tap into the global expertise of security researchers to uncover vulnerabilities but also provide invaluable learning opportunities for aspiring cybersecurity professionals. The thrill of submitting and validating their first vulnerability can ignite a passion that propels students toward a rewarding cybersecurity career. HackerOne’s 8th Annual Hacker-Powered Security Report shows that 96% of customers report stronger defenses when they accept vulnerability submissions from third parties, such as ethical hackers and security researchers.

Integrating ethical hacking into education  

Integrating ethical hacking into higher education provides students with a practical framework to explore cybersecurity. By dedicating portions of the curriculum to vulnerability exploration and bug bounty concepts, students gain exposure to hands-on experiences that enhance their understanding of the field. Introducing these training tools allows students to follow structured pathways in web application security, while participation in Capture the Flag (CTF) competitions — timed events where individuals or teams solve security challenges to capture virtual flags — reinforce technical skills through bite-sized challenges.  

This approach offers more than just technical knowledge. Students are encouraged to reflect on their weekly lessons, tying their newfound technical expertise to broader implications, such as the business impacts of cybersecurity vulnerabilities. These practices build a well-rounded skill set that bridges classroom theory with professional readiness, making students more competitive in the job market.  

Many students yearn for hands-on training and experience to better understand how academic concepts apply to the real world. Bug hunting provides just that — and empowers up-and-coming security professionals to understand the business impacts of unchecked vulnerabilities, plus organizations’ security policies and procedures. 

Building security career credentials 

Ethical hacking and bug bounty programs help young professionals gain resume-worthy industry experience. This will not only help them get their foot in the door for a full-time role but also help them grow and evolve their talents over time. In fact, 79% of security researchers participate in bug bounty programs to learn and develop their skills, even once they’ve built a successful career.  

These initiatives foster creativity, persistence, and entrepreneurial thinking, all while allowing students to create a portfolio showcasing cybersecurity achievements. Compared to traditional internships, which may focus on narrower skill sets, such as configuring firewalls or managing access controls, bug bounty programs provide diverse opportunities to develop technical skills for complex problem-solving. As a result, students contribute meaningfully to strengthening organizational security postures while developing skills that position them as invaluable assets to future employers. 

More researchers are specializing in cutting-edge fields like AI to meet the growing demand for professionals who can adapt quickly and take on the hardest challenges. To keep pace with this innovation, educational institutions must equip students with tools and resources that evolve alongside technology. This forward-looking approach not only helps students master today’s challenges but also prepares them to adapt and continue learning long after graduation. 

Ethical hacking as a core principle in cybersecurity education 

Bug bounty platforms offer educators tools to integrate real-world scenarios into their curricula, providing students with access to mentorship and hands-on experiences that enhance their learning. These partnerships have the potential to create a mutually beneficial ecosystem where educators, students, and industry professionals work together to tackle cybersecurity challenges. 

And ethical hacking isn’t just an optional skill — it’s becoming a critical standard for cybersecurity professionals. A decade ago, good-faith security research was less differentiated from malicious hacking, and security researchers lacked the proper legal protections to hack without the risk of liability. 

Today, the benefits of ethical hacking are much better understood and it has emerged as a mainstream best practice signaling security maturity for companies. Leading organizations, including the Department of Defense, Adobe, and Hyatt, embrace the work of security researchers and value their contributions to meaningfully increasing cybersecurity resilience. The widespread adoption of formalized vulnerability disclosure and bug bounty programs, as well as the new legal protections afforded to researchers, present an unprecedented opportunity for aspiring cybersecurity professionals interested in this field. Students can freely and legally test their offensive security skills. As the world embraces ethical hacking, it’s time for more classrooms to do the same.

https://www.securitymagazine.com/articles/101547-new-to-cybersecurity-and-need-experience-start-with-bug-bounties

Car rental service Hertz has provided notice of a data breach potentially affecting customer information. According to a filing with the Maine Attorney General’s office, the breach is connected to Cleo file-transfer software vulnerabilities. It is currently understood that the malicious actors leveraged zero-day vulnerabilities in order to gain access. 

The organization learned of the breach on February 10, 2025, determining that data was accessed by malicious actors. According to the notice, the company immediately enacted investigative measures to determine the scope of the incident as well as the individuals impacted. 

The investigation found that the following personal information may have been compromised: 

• Names
• Dates of birth
• Contact information
• Credit card details 
• Driver’s licenses 
• Workers’ compensation claim data 

Thomas Richards, Infrastructure Security Practice Director at Black Duck, remarks, “It’s incredibly unfortunate that customers had their sensitive information compromised in such an attack. Data is a form of currency for cybercriminals, and therefore it is essential that all organizations harboring sensitive information manage their software risk by taking measures to improve their cybersecurity posture to prevent a compromise like this from happening again.”

https://www.securitymagazine.com/articles/101544-hacker-accessed-customer-information-in-hertz-data-breach

MITRE Corporation’s funding from the federal government was expected to deplete today, according to an email sent out by the organization. However, the Cybersecurity and Infrastructure Security Agency (CISA) has announced it is extending support for MITRE to prevent a lapse in payments. 

MITRE manages the Common Vulnerabilities and Exposures (CVE) database and is responsible for identifying, describing and categorizing publicly disclosed cyber vulnerabilities. This work allows cyber and IT professionals to stay up to date on bugs and potential hacks.

The possibility of a lapse in MITRE’s services alarmed the cybersecurity community. Jason Soroko, Senior Fellow at Sectigo, explains why, stating, “A service break would likely degrade national vulnerability databases and advisories. This lapse could negatively affect tool vendors, incident response operations, and critical infrastructure broadly. MITRE emphasizes its continued commitment but warns of these potential impacts if the contracting pathway is not maintained.” 

At this time, the purpose for potentially ending the contract is unclear. There are also no immediate details on what continued funding will look like. 

Casey Ellis, Founder at Bugcrowd, remarks, “CVE underpins a huge chunk of vulnerability management, incident response and critical infrastructure protection efforts. A sudden interruption in services has the very real potential to bubble up into a national security problem in short order.” 

What happens now?

Darren Guccione, CEO and Co-Founder at Keeper Security, believes now more than ever is the time for the government to bolster cybersecurity. 

“Focus on critical cybersecurity programs should be prioritized now, more than ever, in the face of growing threats from malicious nation-states and cybercriminals,” Guccione says. “The CVE funding scare comes at a time when cyber threats are growing in both volume and sophistication. Nation-state actors — particularly from China, Russia, Iran and North Korea — continue to engage in persistent cyberespionage and disruption campaigns against United States interests. Ransomware gangs and cybercriminal syndicates exploit known vulnerabilities to steal, extort and disrupt organizations.”

Rather than halt funding for organizations such as MITRE, Guccione believes that the government should continue investing in them. 

“Now is the time for our government to invest in cybersecurity programs and solutions that increase our nation’s readiness and resilience,” asserts Guccione. “Along with vulnerability identification and disclosure, modern frontline tools such as cloud-based password and privileged access management should be funded and implemented, as the bedrock of protection for U.S. businesses, government and critical infrastructure alike.”

Although CISA has prevented the end of MITRE’s contract for now, the possibility of losing MITRE’s database worries many cyber leaders. Eric Schwake, Director of Cybersecurity Strategy at Salt Security, says, “The potential loss of funding for the MITRE-operated CVE program raises significant concerns within the cybersecurity community. The CVE system serves as a fundamental component of vulnerability management, offering a standardized method for identifying, describing, and tracking publicly recognized security vulnerabilities, including those impacting API implementations. A lack of consistent funding could severely disrupt the program’s capacity to assign and maintain CVEs, resulting in delays in vulnerability disclosures, inconsistent identification of flaws in APIs and other software, and ultimately heightening risks for organizations that depend on CVE data for security updates and mitigation strategies. This situation highlights the urgent need for stable and ongoing support for the CVE program to guarantee the continued efficacy of global vulnerability management efforts, especially given the increasing complexity and importance of API security.”

https://www.securitymagazine.com/articles/101546-mitre-set-to-lose-funding-today-cisa-intervenes