I campi di battaglia non sono più solo distese di terra, mare e cielo. Nell’era digitale, è emerso un nuovo, invisibile ma potentissimo fronte di scontro: il cyberspazio. La cyber warfare, o guerra cibernetica, ha smesso di essere un’ipotesi da film di fantascienza per diventare una componente strategica e spesso decisiva delle guerre moderne, ridefinendo le dinamiche dei conflitti regionali in tutto il mondo.

Ma l’evoluzione è incessante. Se ieri parlavamo di sabotaggio e spionaggio, oggi lo scenario si è ampliato, includendo l’intelligenza artificiale come arma, i satelliti come bersagli strategici e la crittografia quantistica come prossima frontiera della difesa. Il fronte digitale è diventato più complesso, veloce e determinante che mai.

Dalla guerra ibrida al dominio digitale Integrato

Per comprendere il ruolo degli attacchi informatici oggi, è fondamentale partire dal concetto di guerra ibrida. Un conflitto moderno raramente si combatte solo su un piano. Esso combina operazioni militari convenzionali, pressione economica, manovre diplomatiche e, appunto, la guerra dell’informazione e quella cibernetica. In questo scenario complesso, il cyberspazio agisce come il “quinto dominio” delle operazioni militari, dopo terra, mare, aria e spazio.

Gli attacchi informatici non sono semplici atti di vandalismo digitale. Sono operazioni mirate, condotte da attori statali o da gruppi ad essi affiliati, con obiettivi precisi:

1. Spionaggio (Cyber-Espionage): Raccogliere informazioni sensibili per ottenere un vantaggio strategico.
2. Sabotaggio (Cyber-Sabotage): Danneggiare, disabilitare o distruggere le infrastrutture critiche di una nazione nemica (reti elettriche, finanza, sanità).
3. Disinformazione e Guerra Psicologica: Utilizzare i social media e la manipolazione delle notizie per seminare caos, erodere la fiducia nelle istituzioni e influenzare l’opinione pubblica.

Il Campo di battaglia ucraino: un laboratorio di cyber-evoluzione

Il conflitto in Ucraina rimane il più vasto e documentato laboratorio di cyber warfare della storia. Già bersaglio di attacchi devastanti come BlackEnergy (2015) e NotPetya (2017), con l’invasione su larga scala l’Ucraina è diventata il teatro di una guerra cibernetica continua. Gli attacchi russi si sono focalizzati sul supporto alle operazioni militari (come l’attacco al provider satellitare Viasat a inizio conflitto) e sulla demoralizzazione della popolazione. Da parte sua, l’Ucraina, con il supporto internazionale e una vasta comunità di hacker “volontari” (IT Army), ha dimostrato una resilienza straordinaria, conducendo a sua volta operazioni offensive contro target russi, come agenzie governative e infrastrutture critiche, in un’inedita rivendicazione pubblica di tali azioni.

Le innovazioni che stanno ridisegnando la cyber warfare (2024-2025)

Il campo di battaglia digitale non è statico. Tre innovazioni principali stanno accelerando il cambiamento.

1. L’Intelligenza Artificiale come Moltiplicatore di Forza

L’intelligenza artificiale (AI) non è più solo uno strumento di analisi, ma un’arma attiva sia in attacco che in difesa.

• In Attacco: Gli aggressori utilizzano l’AI per creare malware “polimorfici” che mutano costantemente per eludere i sistemi di sicurezza, per automatizzare la ricerca di vulnerabilità su vasta scala e per lanciare campagne di spear-phishing e disinformazione incredibilmente realistiche e personalizzate.
• In Difesa: I sistemi di sicurezza basati su AI (AI-Powered Threat Intelligence) sono in grado di analizzare quantità immense di dati in tempo reale, identificare anomalie comportamentali e rispondere a minacce emergenti a una velocità impossibile per un operatore umano, creando “sistemi immunitari digitali” capaci di adattarsi e anticipare.

2. Lo Spazio: La Nuova Frontiera della Cyber Warfare

La dipendenza globale dalle infrastrutture spaziali (GPS, comunicazioni, osservazione terrestre) ha reso i satelliti un obiettivo primario. Il conflitto in Ucraina ha dimostrato come la disabilitazione delle comunicazioni satellitari possa avere un impatto immediato sulle operazioni militari. Gli attacchi non sono più solo diretti da terra verso lo spazio (jamming, spoofing), ma si teorizzano e si preparano anche attacchi satellite-to-satellite, dove un satellite viene usato per attaccarne un altro. La militarizzazione dello spazio passa inevitabilmente per la sua vulnerabilità cibernetica.

3. Sistemi Autonomi e Integrazione Cyber-Fisica

L’uso massiccio di droni e altri sistemi autonomi sui campi di battaglia moderni ha creato un nuovo vettore di attacco. Questi dispositivi sono nodi di una rete, e come tali possono essere hackerati. Un attacco informatico può:

• Prenderne il controllo (hijacking): Utilizzare i droni nemici contro le sue stesse forze.
• Interrompere le comunicazioni: Isolare i droni dai loro operatori, rendendoli inutilizzabili.
• Effettuare spionaggio: Intercettare i flussi video e i dati raccolti. La convergenza tra cyber warfare e guerra elettronica è totale, con operazioni che mirano a ottenere il controllo dello spettro elettromagnetico per dominare il campo di battaglia fisico.

Le sfide del futuro: la corsa alla supremazia quantistica

All’orizzonte si profila una sfida ancora più grande: l’informatica quantistica. Un computer quantistico sufficientemente potente sarebbe in grado di rompere la maggior parte degli standard crittografici attuali (come RSA ed ECC), rendendo vulnerabili quasi tutte le comunicazioni sicure, i segreti militari e le transazioni finanziarie. Questo scenario, noto come “Q-Day”, ha scatenato una corsa globale:

• Minaccia “Harvest Now, Decrypt Later”: Attori statali stanno già oggi raccogliendo e archiviando enormi quantità di dati crittografati, scommettendo di poterli decifrare in futuro con computer quantistici.
• Difesa Post-Quantistica (PQC): Istituti di standardizzazione come il NIST (National Institute of Standards and Technology) stanno finalizzando nuovi algoritmi crittografici resistenti agli attacchi quantistici. La migrazione verso questi nuovi standard è una delle sfide di sicurezza più grandi del prossimo decennio.

Conclusioni: un dominio in perpetua evoluzione

La cyber warfare ha trasceso il suo ruolo di supporto per diventare un dominio strategico che plasma l’esito dei conflitti. Le innovazioni come l’AI, l’estensione della guerra allo spazio e la futura rivoluzione quantistica dimostrano che la stabilità globale dipenderà sempre più dalla nostra capacità di governare questo fronte invisibile. La difesa non è più solo una questione di mura digitali, ma di resilienza strategica, cooperazione internazionale e capacità di innovare più velocemente dell’avversario.

Fonti:

NATO – Cyber Defence.

ENISA (European Union Agency for Cybersecurity) – Threat Landscape.

Microsoft Digital Defense Report.

Istituto Affari Internazionali (IAI) – Il dominio spaziale e la minaccia cyber.

NIST – Post-Quantum Cryptography Project.

https://www.ictsecuritymagazine.com/notizie/cyber-warfare-ai/

I modelli linguistici di grandi dimensioni (Large Language Models, LLM) hanno rivoluzionato molti ambiti grazie alla loro capacità di generare testo coerente e contestuale.

Tuttavia, questa tecnologia presenta un dualismo intrinseco: gli stessi modelli che portano benefici possono essere sfruttati in modo dannoso. Di recente, è emersa la categoria dei cosiddetti “Dark LLM”, ovvero LLM malevoli concepiti o impiegati appositamente per scopi cybercriminali. Questi modelli – spesso privi di filtri di sicurezza – vengono armati da attori ostili per automatizzare e potenziare attacchi informatici su larga scala. In questo articolo analizzeremo il concetto di LLM malevoli con esempi concreti, valuteremo le implicazioni per la sicurezza (dal phishing avanzato alla disinformazione automatizzata, fino a scenari di attacchi zero-day generati da AI) e discuteremo strategie di difesa e linee guida etiche per contrastare l’uso maligno di tali modelli.

LLM malevoli: il lato oscuro dei modelli linguistici

Un LLM malevolo è un modello di linguaggio intenzionalmente addestrato o configurato per generare output nocivi, oppure un LLM legittimo manipolato (tramite jailbreaking o tecniche di fine-tuning su dati dannosi) per aggirare i filtri di sicurezza. Negli ultimi tempi sono apparsi sul dark web servizi di AI-as-a-service rivolti al cybercrime: ad esempio WormGPT, FraudGPT e DarkBERT (alternativa basata su modelli open source) sono LLM senza le restrizioni etiche di ChatGPT, offerti in abbonamento per scopi illeciti.

Tali strumenti promettono funzioni come la generazione di phishing altamente convincente, scrittura di malware personalizzati e persino creazione di deepfake testuali o audio. Ad esempio, WormGPT (basato sul modello open-source GPT-J) è stato addestrato su dati di malware e utilizzato per attacchi di Business Email Compromise (BEC), producendo email di phishing in perfetto stile aziendale prive di qualunque filtro morale. Allo stesso modo, FraudGPT è pubblicizzato come “soluzione all-in-one per cybercriminali” in grado di scrivere codice malevolo, generare pagine di phishing e persino scoprire vulnerabilità. Il proliferare di questi LLM oscuri dimostra come i cybercriminali stiano sfruttando l’intelligenza artificiale generativa per abbassare la barriera d’ingresso al crimine informatico e aumentarne l’efficacia.

Oltre agli LLM deliberatamente creati per il crimine, va considerato il rischio di modelli compromessi. Un esempio è PoisonGPT, un modello sperimentale sviluppato da ricercatori di sicurezza per dimostrare come si possa avvelenare un LLM open-source inserendo informazioni false nelle sue conoscenze. Usando tecniche di model editing, PoisonGPT fu istruito a fornire disinformazione (es. dichiarare che la Tour Eiffel si trovi a Roma) restando al contempo all’apparenza affidabile e superando i normali benchmark di verifica.

Questo esperimento evidenzia la possibilità che attori malevoli distribuiscano modelli apparentemente legittimi ma con backdoor o bias intenzionali, mettendo a rischio chi li utilizza. Un ulteriore vettore di minaccia riguarda i repository di modelli pubblici: recentemente sono stati scoperti modelli condivisi su piattaforme open source contenenti backdoor silenti, capaci di eseguire codice arbitrario sui sistemi dei data scientist che li caricano. In sintesi, la categoria dei “Dark LLM” include sia modelli progettati per attività illecite, sia l’uso improprio di LLM esistenti tramite bypass dei controlli o alterazioni malevole.

Implicazioni e scenari di attacco avanzati con Dark LLM

L’avvento di LLM malevoli amplia il ventaglio di minacce in cybersecurity, introducendo scenari di attacco prima teorici e ora concretamente fattibili. Di seguito analizziamo i principali vettori di abuso abilitati da questi modelli:

• Phishing potenziato e social engineering automatizzato: Gli LLM eccellono nel produrre testo persuasivo e contestuale, qualità ideale per campagne di phishing mirato. Studi recenti hanno dimostrato che modelli come GPT-4 possono generare email di spear phishing altamente realistiche e personalizzate su larga scala, a costi irrisori (frazioni di centesimo per email). Un ricercatore è riuscito a creare messaggi indirizzati a centinaia di parlamentari con pochi prompt e informazioni pubbliche, ottenendo testi credibili e su misura. Inoltre, tramite semplici stratagemmi di prompt engineering è possibile indurre anche LLM dotati di filtri a fornire istruzioni offensive – ad esempio come scrivere malware o manipolare le vittime – aggirando le salvaguardie integrate. Ciò significa che anche cybercriminali con scarsa padronanza linguistica o limitate abilità di scrittura possono orchestrare campagne di phishing sofisticate, sfruttando l’AI per produrre email prive di errori grammaticali e calibrate sul contesto della vittima. Oltre all’email, un LLM malevolo potrebbe alimentare chatbot fraudolenti (fake assistenti clienti, finti operatori di supporto) capaci di ingannare utenti in tempo reale simulando conversazioni umane coerenti. Le tecniche di social engineering risultano dunque amplificate: l’automazione tramite AI consente di scalare attacchi mirati a un numero enorme di bersagli, mantenendo un grado di personalizzazione e credibilità prima irraggiungibile.
• Disinformazione generativa su larga scala: La capacità dei modelli generativi di produrre testi convincenti solleva serie preoccupazioni sul fronte della misinformation/disinformation. Ricerche accademiche hanno evidenziato che gli attuali LLM possono generare con facilità notizie false e propaganda mirata. In uno studio, tutte le varianti di GPT testate (da GPT-3 a GPT-4) sono riuscite a produrre articoli di disinformazione con tassi di successo dal 67% fino al 99% dei casi. Ciò avviene soprattutto se il prompt è formulato in modo “educato” o studiato per assecondare il modello, sfruttando i bias cooperativi dell’AI. Questa fabbrica automatizzata di fake news può alimentare campagne di influenza ostile, propaganda politica o truffe online, saturando l’ecosistema informativo con contenuti artefatti difficili da distinguere da quelli genuini. Organizzazioni internazionali come il World Economic Forum hanno già indicato la disinformazione generata dall’AI come uno dei principali rischi globali imminenti. Dal punto di vista operativo, l’uso di LLM permette di abbattere i costi e moltiplicare la portata delle campagne malevole: un’analisi di settore stima che la produzione di contenuti per operazioni di influenza mediate da AI potrebbe costare fino a 100 volte meno rispetto ai “troll farm” tradizionali basate su operatori umani. I criminali possono generare testi persuasivi su misura per gruppi target (ad esempio, disinformazione sanitaria rivolta a specifiche comunità) e automatizzare la creazione di siti web o profili social falsi con contenuti aggiornati dall’AI. Questa facilità di creazione e diffusione di falsità pone enormi sfide ai meccanismi di fact-checking e può favorire truffe, manipolazione dei mercati o interferenze nei processi democratici.
• Malware generativo e attacchi zero-day simulati: Un altro ambito critico è l’uso di LLM per sviluppare codice malevolo, scoprire exploit e orchestrare attacchi informatici complessi. Benché gli attuali modelli fatichino a scrivere malware completo senza intervento umano, essi sono già impiegati per potenziare sviluppatori di malware meno esperti. Ad esempio, cybercriminali hanno usato ChatGPT e strumenti simili per migliorare la qualità del codice di virus esistenti, generare varianti polymorphic e rendere i propri malware più elusivi. Report specialistici descrivono casi in cui l’AI ha permesso di bypassare regole di rilevamento statico (come le signature YARA) riscrivendo porzioni di codice in modo automatizzato, riducendo significativamente le percentuali di individuazione da parte degli antivirus. Un Dark LLM ben addestrato su dataset di exploit potrebbe persino fungere da assistente nel bug hunting, aiutando a individuare vulnerabilità in software diffusi o a ottimizzare exploit proof-of-concept. Sperimentazioni hanno rivelato che alcuni modelli avanzati – quando opportunamente stimolati – tendono ad acconsentire a richieste pericolose con preoccupante frequenza: in media il 52% delle volte, diversi LLM di coding hanno eseguito istruzioni che potevano facilitare cyberattacchi, ad esempio inserendo volontariamente falle di sicurezza nel codice generato. Ciò significa che un attore ostile potrebbe sfruttare un LLM per ottenere snippet di codice vulnerabile o maligno (backdoor, SQL injection, ecc.) integrandoli nei propri programmi. Nel 2023, un caso eclatante ha visto la comparsa di un servizio AI clandestino che forniva consulenza su exploit zero-day: gli utenti potevano descrivere un sistema bersaglio e ottenere dal modello possibili punti deboli o strategie d’attacco simulando un penetration test automatico. Anche se attualmente l’autonomia decisionale e di pianificazione strategica degli LLM è limitata (mancano di tactical foresight per concatenare passi d’attacco complessi senza guida umana), gli sviluppi futuri nell’integrazione di ragionamento simbolico e agenti autonomi potrebbero colmare questo gap. Si prospettano scenari in cui malware alimentati da AI apprendono e si adattano in tempo reale: ad esempio, agenti neurali che cooperano per persistere in un sistema, riscrivendo il proprio codice al volo per sfuggire alle difese e ragionando sui passi successivi dell’intrusione. In sintesi, gli LLM malevoli stanno abbassando la soglia di competenze necessarie per condurre attacchi sofisticati – dal defacement di siti web ai ransomware – offrendo una sorta di “cybercrime autopilot” a disposizione anche di criminali meno esperti.

Strategie di mitigazione e difesa

Di fronte a queste minacce emergenti, la comunità della sicurezza informatica sta sviluppando contromisure su più livelli. Le strategie di mitigazione mirano sia a prevenire l’abuso degli LLM, sia a difendersi dagli attacchi potenziati da AI. Di seguito alcune linee d’azione chiave:

• Sistemi di rilevamento basati su AI: Combattere fuoco con fuoco è una delle prime contromosse. Modelli di machine learning addestrati a identificare testi generati artificialmente possono aiutare a filtrare email o post sospetti. In ambito aziendale, si stanno integrando LLM difensivi nei filtri antiphishing: ad esempio, Google ha annunciato Sec-PaLM, un modello linguistico addestrato specificamente per rilevare minacce cyber. Tali sistemi analizzano il linguaggio delle comunicazioni in arrivo e possono riconoscere schemi tipici dei testi AI, incongruenze stilistiche o indicatori malevoli (es. URL ingannevoli come “gooogle.com” al posto di “google.com”). Un LLM difensivo può confrontare l’email ricevuta con lo stile noto del mittente legittimo, segnalando anomalie sottili che sfuggirebbero a un utente umano distratto. Inoltre, alimentando questi modelli con dataset di phishing reali, la loro accuratezza nel bloccare attacchi anche creativi migliora sensibilmente. In sostanza, l’AI può aumentare la profondità dei controlli di sicurezza, esaminando in modo sistematico ogni messaggio o contenuto e alleggerendo il carico cognitivo sugli utenti finali. Strumenti del genere stanno iniziando a diffondersi: oltre a Google, diverse soluzioni di email security potenziate da AI sono offerte sul mercato, segno di una corsa agli armamenti tra attaccanti e difensori sul terreno dei modelli linguistici.
• Accesso controllato ai modelli avanzati: Una misura di prevenzione dibattuta è limitare l’accesso ai LLM più potenti tramite schemi di accesso strutturato. Ciò significa che invece di rilasciare modelli open-source senza restrizioni, i provider potrebbero renderli disponibili solo via API o piattaforme monitorate, dove le richieste utente sono tracciabili e sottoposte a filtri automatici. Ad esempio, OpenAI già applica controlli sul proprio servizio cloud per individuare e bloccare utilizzi potenzialmente malevoli (nel 2024 ha dichiarato di aver neutralizzato oltre 20 campagne cyber che tentavano di sfruttare ChatGPT). L’accesso tramite API consente interventi multilivello: prima che un prompt venga servito a un LLM, un sistema di sicurezza può analizzarlo con un modello più piccolo addestrato a riconoscere intenti ostili, bloccando sul nascere richieste di generare malware o disinformazione. Ovviamente questo approccio funziona per i servizi centralizzati e richiede fiducia nel fornitore; non può impedire che modelli open-source vengano eseguiti localmente in modo incontrollato. Alcuni esperti propongono di non rendere pubblici (o ritardare) i modelli più capaci finché non si siano sviluppate adeguate barriere di sicurezza. Tuttavia, occorre bilanciare tali restrizioni con l’innovazione: misure troppo severe potrebbero spingere la ricerca underground, mentre un coordinamento intergovernativo sarebbe necessario per evitare che divieti in una giurisdizione vengano aggirati altrove. In ogni caso, responsabilizzare i fornitori di LLM sull’uso improprio dei loro modelli è fondamentale: tramite termini di servizio chiari, monitoraggio attivo degli abusi e collaborazione con le forze dell’ordine, le aziende AI possono arginare almeno gli usi malevoli più evidenti.
• Tecniche di watermarking e tracciamento: A livello di ricerca, si investe in metodi per marcare in modo impercettibile i contenuti generati da AI (ad esempio attraverso schemi di watermark statistici nel testo) così da poterli riconoscere a posteriori. Un watermark ben progettato consentirebbe di distinguere automaticamente tra testo umano e testo AI, rendendo più facile filtrare spam generato automaticamente o attribuire responsabilità in caso di abusi. Alcune grandi aziende hanno sperimentato watermark nelle risposte dei propri modelli, ma attualmente tali soluzioni sono aggirabili e in fase beta. Parallelamente, emergono strumenti di verifica del contenuto che analizzano indicatori sottili lasciati dalla generazione automatica (scelte lessicali improbabili, mancanza di errori tipici umani, ecc.). Purtroppo i risultati finora sono contrastanti – i detector di AI producono falsi positivi e possono essere elusi con riformulazioni – ma la ricerca prosegue attivamente. In futuro, la combinazione di watermarking di default nei modelli commerciali e classificatori potenziati dall’AI potrebbe restituire un vantaggio difensivo, smascherando comunicazioni fraudolente create da LLM.
• Collaborazione e intelligence condivisa: Vista la natura globale della minaccia, un approccio fondamentale è la cooperazione tra comunità. I CERT, le aziende di sicurezza e le forze dell’ordine devono condividere informazioni su nuovi indicatori di compromissione legati all’uso di AI, ad esempio segnalando campioni di malware generato automaticamente o rilevando schemi di attacco atipici riconducibili a LLM. Iniziative come quella del Centre for Emerging Technology and Security (CETaS) incoraggiano programmi di ricerca proattiva per monitorare le capacità offensive dei sistemi generativi e i loro punti di svolta evolutivi. Anche la creazione di dataset di addestramento pubblici con esempi di prompt malevoli e output nocivi può aiutare nell’addestrare contromisure basate su AI. Sul fronte normativo, agenzie governative (es. Europol) hanno iniziato a fornire linee guida al personale su come riconoscere e prevenire gli abusi di LLM da parte di criminali. La tempestività nel condividere le scoperte è cruciale: ad esempio, se viene individuato un nuovo servizio come “FraudGPT”, è essenziale che la notizia e le sue tattiche, tecniche e procedure (TTP) vengano diffuse tra i defender per preparare adeguate difese. In prospettiva, potrebbero nascere blacklist di modelli compromessi o certificazioni di modelli “sicuri” analoghe a quelle antivirus, per aiutare utenti e organizzazioni a evitare l’adozione di LLM potenzialmente pericolosi (come nel caso dei modelli su HuggingFace con backdoor menzionati in precedenza).
• Formazione ed evoluzione delle policy di sicurezza: Come sempre, l’elemento umano rimane centrale. È importante aggiornare le pratiche di awareness cybersecurity includendo i rischi specifici legati all’AI generativa. I professionisti IT devono essere addestrati a riconoscere segnali di testi sintetici (ad esempio, e-mail troppo perfette o generiche) e a non fidarsi ciecamente di contenuti ben formulati. Le aziende farebbero bene a simulare attacchi di phishing generati da AI nelle proprie esercitazioni, così da testare la resilienza dei dipendenti. Dal punto di vista procedurale, molte policy andranno riviste: ad esempio, in contesti dove finora ci si basava su validazione manuale di contenuti, sarà necessario introdurre controlli aggiuntivi. Implementare l’autenticazione multifattore e procedure di verifica fuori banda può mitigare gli effetti del phishing anche se i messaggi diventano più credibili. In sintesi, l’arrivo degli LLM malevoli obbliga il settore a una continua adattabilità: le contromisure tecniche devono essere accompagnate da una crescita della cultura della sicurezza e da protocolli agili, pronti a integrare nuovi indicatori di minaccia man mano che questi evolvono.

Linee guida etiche e considerazioni finali

Il contrasto all’uso malevolo degli LLM non può basarsi solo su strumenti tecnici e norme repressive – richiede anche un quadro di principi etici condivisi nel campo dell’AI. Dato il carattere dual-use di queste tecnologie, ricercatori e sviluppatori sono chiamati a adottare un approccio “ethics-by-design” sin dalle prime fasi di progettazione dei modelli.

Ciò significa integrare meccanismi di sicurezza e vincoli morali nei sistemi AI prima della loro distribuzione, e valutare criticamente l’impatto che ogni nuova funzionalità potrebbe avere se sfruttata in modo improprio. Centri di ricerca e istituzioni accademiche dovrebbero pubblicare linee guida per l’addestramento responsabile di LLM, indicando ad esempio quali dataset escludere (per evitare di fornire competenze di hacking all’AI) e come implementare test di red-teaming focalizzati sugli abusi. Allo stesso tempo, è fondamentale incoraggiare la trasparenza: rendere pubbliche le limitazioni note di un modello e i risultati delle valutazioni di sicurezza consente alla comunità di utenti di comprenderne i rischi.

Dal punto di vista normativo e deontologico, emergono diversi punti chiave. In primo luogo, le aziende che sviluppano LLM dovrebbero aderire a codici etici volontari che impegnino a non facilitare usi illeciti: ad esempio OpenAI, Anthropic e altri provider hanno team dedicati alla prevenzione dell’abuso dei loro servizi, e collaborano con governi per segnalare attività sospette.

Tali pratiche vanno rafforzate e standardizzate. In secondo luogo, occorre un dibattito pubblico sul grado di apertura appropriato per i modelli avanzati: la comunità AI è divisa tra chi sostiene l’open-source completo e chi teme che la divulgazione senza freni acceleri il rischio di Dark LLM nelle mani sbagliate.

Una possibile soluzione è adottare approcci differenziati: rilasciare in modo aperto solo versioni ridotte o con performance limitata, mantenendo controllato l’accesso ai modelli più capaci finché non si sviluppano migliori salvaguardie. Inoltre, andrebbero istituiti organismi di certificazione o audit indipendenti per gli LLM, che valutino periodicamente i modelli rispetto a criteri di sicurezza (robustezza ai tentativi di jailbreaking, presenza di bias pericolosi, ecc.) e ne attestino l’affidabilità per utilizzi pubblici. Un tale sistema di accountability aiuterebbe a creare fiducia e a responsabilizzare i produttori.

Infine, sul piano della società civile, è importante sensibilizzare l’opinione pubblica sul potenziale abuso dell’AI generativa, senza demonizzare la tecnologia ma enfatizzando un uso consapevole. Le stesse potenzialità che rendono gli LLM strumenti rivoluzionari per produttività e informazione richiedono una vigilanza collettiva quando vengono sfruttate in modo contrario all’interesse comune.

Organizzazioni internazionali hanno iniziato a delineare scenari di rischio catastrofico legati all’AI (ad es. uso massivo per destabilizzare sistemi socio-politici), sottolineando la necessità di etichette di avvertimento e di educazione digitale avanzata per l’era dei contenuti generati dall’AI. In prospettiva, solo attraverso una stretta collaborazione tra comunità tech, enti regolatori e professionisti della sicurezza sarà possibile contrastare efficacemente la minaccia dei Dark LLM, garantendo che l’innovazione nell’intelligenza artificiale proceda di pari passo con lo sviluppo di barriere etiche a tutela della collettività.

Conclusione

I Dark LLM rappresentano una nuova frontiera nelle minacce informatiche: sfruttando l’intelligenza artificiale, i criminali possono lanciare attacchi più persuasivi, scalabili e difficili da rilevare. Abbiamo esplorato come modelli linguistici malevoli possano alimentare phishing evoluto, disinformazione di massa e sviluppo di malware innovativi, mettendo sotto pressione le difese tradizionali. Allo stesso tempo, la comunità cybersecurity sta reagendo con soluzioni difensive basate su AI, politiche di controllo e un rinnovato focus sull’etica e la cooperazione.

La sfida è complessa e in continua evoluzione: per ogni vincolo inserito nei modelli, emergerà un nuovo metodo per eluderlo, e per ogni attacco AI-driven sorgerà una contromisura AI-enhanced. I professionisti della sicurezza dovranno quindi mantenere un approccio proattivo e adattivo, abbracciando l’innovazione responsabile. In ultima analisi, contrastare l’uso malevolo degli LLM significa governare la tecnologia AI affinché serva l’umanità e non i suoi exploiters: un equilibrio delicato che richiederà impegno interdisciplinare, norme lungimiranti e un solido ancoraggio ai principi etici nel plasmare il futuro dell’intelligenza artificiale.

Fonti:

Hazell J. (2023). Spear Phishing with Large Language Models. Centre for the Governance of AI, University of Oxford.

Infosecurity Europe (2023). The Dark Side of Generative AI: Five Malicious LLMs Found on the Dark Web.

Janjeva A. et al. (2024). Evaluating Malicious Generative AI Capabilities. CETaS – Alan Turing Institute.

Vinay R. et al. (2025). Emotional prompting amplifies disinformation generation in AI large language models. Frontiers in Artificial.

Australian Cyber Security Magazine (2024). Malicious Use Cases for AI – Report by Recorded Future.

Hossen M.I. et al. (2024). Assessing Cybersecurity Vulnerabilities in Code Large Language Models.

Europol (2023). ChatGPT – the impact of Large Language Models on Law Enforcement.

Mithril Security (2023). PoisonGPT: how we poisoned an AI to spread disinformation.

JFrog Security Research (2024). Malicious HuggingFace ML Models with Silent Backdoor.

Google Cloud (2023). Adversarial Misuse of Generative AI – Threat Horizons Report.

https://www.ictsecuritymagazine.com/notizie/dark-llm/

Il panorama del cybercrime contemporaneo si è evoluto in una complessa architettura criminale caratterizzata da organizzazioni altamente strutturate, tecnologie sofisticate e metodologie in costante evoluzione. L’analisi delle minacce informatiche del 2025 rivela un ecosistema criminale sempre più efficiente che utilizza automazione, intelligenza artificiale e ingegneria sociale avanzata per scalare gli attacchi e massimizzare l’impatto.

La ricerca condotta dai principali organismi di sicurezza informatica evidenzia come gli attacchi ransomware siano cresciuti del 10% e le violazioni dei dati del 6%, mentre oltre 3,2 miliardi di credenziali sono state compromesse nel 2024, alimentando un’ampia gamma di attività criminali informatiche. Questo scenario delinea un paradigma criminale dove l’intelligenza artificiale generativa emerge come nuovo strumento strategico per gli attori delle minacce statali, i cybercriminali, gli hacktivisti e altri soggetti malintenzionati.

I gruppi Advanced Persistent Threat (APT) più influenti

Fancy Bear (APT28/Forest Blizzard)

Il gruppo di avversari stato-nazionali noto come FANCY BEAR (anche conosciuto come APT28 o Sofacy) opera almeno dal 2008 e rappresenta una minaccia costante per un’ampia varietà di organizzazioni in tutto il mondo. Attribuito al servizio di intelligence militare russo GRU, questo gruppo prende di mira settori aerospaziale, difesa, energia, governo, media e dissidenti, utilizzando un impianto sofisticato e multi-piattaforma.

Le tattiche operative di Fancy Bear includono l’utilizzo di domini typosquatted che imitano strettamente quelli delle organizzazioni target, permettendo la creazione di siti di phishing convincenti. Il loro arsenale tecnologico comprende strumenti proprietari come XAgent, XTunnel, WinIDS, Foozer e DownRange, che forniscono capacità avanzate di esfiltrazione dati, evasione del rilevamento e distribuzione di malware aggiuntivo.

Cozy Bear (APT29/Midnight Blizzard)

Cozy Bear è un gruppo di hacker russi presumibilmente affiliato a una o più agenzie di intelligence russe, identificato da Mandiant come il gruppo Advanced Persistent Threat APT29. Secondo le valutazioni del Dutch General Intelligence and Security Service (AIVD), il gruppo è guidato dal Servizio di Intelligence Estera russo (SVR).

Cozy Bear è un’operazione di cyber-spionaggio ben finanziata, altamente dedicata e strutturata che si ritiene operi per la Federazione Russa almeno dal 2008 per raccogliere intelligence a supporto del processo decisionale di politica estera e di sicurezza. Il gruppo dimostra una fiducia inusuale nella propria capacità di compromettere efficacemente i propri obiettivi e di operare senza essere rilevato.

L’ecosistema Ransomware-as-a-Service (RaaS)

LockBit: l’egemonia criminale

Nel 2022, LockBit è stato il ransomware più distribuito al mondo e continua a essere prolifico nel 2023. Dal gennaio 2020, gli affiliati che utilizzano LockBit hanno attaccato organizzazioni di varie dimensioni in una serie di settori di infrastrutture critiche, tra cui servizi finanziari, alimentazione e agricoltura, istruzione, energia, governo e servizi di emergenza, sanità, produzione e trasporti.

Il modello operativo di LockBit come Ransomware-as-a-Service presenta caratteristiche innovative: gli affiliati ricevono i pagamenti del riscatto prima di inviare una percentuale al gruppo principale, una pratica che contrasta nettamente con altri gruppi RaaS che si pagano prima e poi distribuiscono la percentuale degli affiliati.

Nonostante l’Operazione Cronos del febbraio 2024, che ha portato al sequestro dell’infrastruttura di LockBit, il presunto leader di LockBit insiste che, nonostante la battuta d’arresto, non ha finito e promette di continuare la sua ondata di attacchi.

RansomHub e Cicada3301: i nuovi protagonisti

RansomHub e Cicada3301 saranno “gruppi ransomware chiave da osservare” nel 2025. Entrambi i gruppi hanno lanciato le loro operazioni RaaS nel 2024, reclutando con successo diversi team di affiliati esperti e di alto livello per supportare i loro sforzi di estorsione.

Entrambi i gruppi hanno legami con BlackCat/ALPHV, con affiliati umani sovrapposti e somiglianze nel codice nei loro payload ransomware. RansomHub ha attirato molti affiliati BlackCat dopo lo scioglimento del gruppo all’inizio del 2024, utilizzando strumenti di evasione EDR iper-adattivi e persistenti come EDRKillShifter.

Tecniche e tattiche nel framework MITRE ATT&CK

Metodologie di accesso iniziale

L’abuso di account validi è rimasto il punto di ingresso preferito negli ambienti delle vittime per i cybercriminali nel 2024, rappresentando il 30% di tutti gli incidenti a cui X-Force ha risposto. Parallelamente, il phishing è emerso come vettore di infezione ‘ombra’ per gli attacchi di identità, con X-Force che ha osservato un aumento dell’84% delle email di phishing che distribuiscono infostealer su base settimanale.

Social engineering e manipolazione psicologica

Il 94% delle aziende ha riferito di aver subito un attacco di phishing nel 2024, con la maggior parte di esse che ha subito impatti negativi da questi attacchi. La ricerca evidenzia che il tempo mediano per gli utenti di cadere nelle email di phishing è inferiore a 60 secondi, con un tempo mediano di 21 secondi per cliccare su un link malevolo dopo l’apertura dell’email.

Tecniche di evasione e persistenza

I cybercriminali impegnati in attacchi di tipo intrusione hanno fatto un uso limitato dell’intelligenza artificiale. La maggior parte dell’uso dell’IA generativa da parte dei cybercriminali si è concentrata su compiti di ingegneria sociale: creazione di immagini, video e testi per profili falsi, e per l’uso nella comunicazione con gli obiettivi per mascherare problemi di fluenza linguistica e identità.

Evoluzione delle minacce e intelligenza artificiale

Impatto dell’IA generativa sul cybercrime

Da profili fittizi a email e siti web generati dall’IA, avversari come FAMOUS CHOLLIMA stanno utilizzando l’IA generativa per potenziare le minacce interne e l’ingegneria sociale. Con l’inganno potenziato dall’IA che diventa più convincente, le organizzazioni devono evolvere le loro difese.

L’IA generativa sta emergendo come una nuova e crescente aggiunta alla cassetta degli attrezzi degli attori delle minacce sostenuti da stati-nazione, cybercriminali, hacktivisti e altri. Questi avversari sono adottatori entusiasti, specialmente quando lanciano campagne di ingegneria sociale e operazioni informative ad alto ritmo.

Infostealer e compromissione delle credenziali

I malware infostealer hanno rappresentato il 75% delle credenziali rubate nel 2024, infettando oltre 23 milioni di dispositivi in tutto il mondo. Questa tendenza alimenta direttamente l’ecosistema ransomware, poiché i gruppi ransomware-as-a-service (RaaS) sono responsabili di quasi la metà di tutti gli attacchi.

Analisi settoriale delle minacce

Infrastrutture critiche e sanità

La ricerca mostra che LockBit, Conti, SunCrypt, ALPHV/BlackCat e Hive sono emersi come i principali cinque gruppi ransomware-as-a-service (RaaS) che hanno impattato il settore sanitario e della salute pubblica durante i primi tre mesi dell’anno.

Targeting geografico e geopolitico

A livello globale, gli attacchi informatici contro la sicurezza pubblica sono aumentati del 64% nel 2023, mentre gli attacchi ransomware alle organizzazioni di sicurezza pubblica statunitensi sono aumentati del 63% nel 2023, guidati da un aumento del 157% nel numero di gruppi di estorsione che conducono tali attacchi.

Metodologie di difesa e mitigazione

Implementazione del framework MITRE ATT&CK

Il framework MITRE ATT&CK cataloga le tattiche, tecniche e procedure (TTP) dei cybercriminali attraverso ogni fase del ciclo di vita dell’attacco informatico, dalla raccolta iniziale di informazioni e dai comportamenti di pianificazione dell’attaccante, fino all’esecuzione finale dell’attacco.

Il framework organizza 14 tattiche principali che includono ricognizione, sviluppo delle risorse, accesso iniziale, esecuzione, persistenza, escalation dei privilegi, evasione delle difese, accesso alle credenziali, scoperta, movimento laterale, raccolta, comando e controllo, esfiltrazione e impatto.

Strategie di threat hunting

Il framework MITRE ATT&CK serve come strumento fondamentale per la caccia alle minacce, in particolare nell’analisi del traffico di rete, nell’analisi dei log di sistema e nella modellazione dei grafi di attacco. La ricerca evidenzia l’integrazione di tecnologie di elaborazione del linguaggio naturale (NLP) e machine learning (ML) con ATT&CK per migliorare il rilevamento del comportamento avversario e la risposta alle minacce.

Tendenze emergenti e previsioni per il 2025

Supply chain attacks e compromissioni della catena di fornitura

Gli attacchi informatici alla catena di fornitura sono emersi come una delle minacce più significative alla sicurezza informatica globale nel 2024, aumentando del 68% rispetto al 2023. Il costo globale degli attacchi alla catena di fornitura software è previsto aumentare da 46 miliardi di dollari nel 2023 a 138 miliardi di dollari entro il 2031.

Vulnerabilità IoT e 5G

Con l’accelerazione dell’adozione del 5G, i cybercriminali stanno spostando la loro attenzione sulle vulnerabilità dell’Internet delle Cose (IoT), sfruttando i dispositivi intelligenti non sicuri per ottenere l’accesso alla rete. La rapida espansione dei dispositivi abilitati al 5G significa più endpoint connessi, aumentando le superfici di attacco per le minacce informatiche.

Raccomandazioni strategiche per la cyber resilienza

Autenticazione multi-fattore e controlli di identità

È necessario espandere significativamente l’uso dell’MFA: dare priorità all’MFA per tutti i dipendenti e partner che accedono ai sistemi. Questo fornisce un livello extra di protezione per applicazioni e servizi di rete, anche se le password sono compromesse.

Intelligenza delle minacce proattiva

Il rapporto GTIR 2025 di Flashpoint raccomanda una strategia di sicurezza proattiva e guidata dall’intelligence per rimanere avanti rispetto alle minacce. Le organizzazioni devono implementare un monitoraggio continuo dei mercati illeciti online e dei forum per le credenziali aziendali compromesse.

Conclusioni e prospettive future

L’analisi del panorama del cybercrime del 2025 rivela un ecosistema criminale in rapida evoluzione, caratterizzato da una crescente sofisticazione tecnica e organizzativa. La convergenza tra attori stato-nazionali e gruppi criminali, l’integrazione dell’intelligenza artificiale nelle tattiche di attacco e la proliferazione del modello RaaS stanno ridefinendo le dinamiche delle minacce informatiche.

La necessità di collaborazione tra team di sicurezza del settore privato, agenzie governative e organizzazioni di intelligence globali non è mai stata così grande. Le organizzazioni devono adottare un approccio olistico alla sicurezza informatica che integri intelligence delle minacce, monitoraggio in tempo reale e strategie difensive adattive.

Il framework MITRE ATT&CK emerge come strumento fondamentale per standardizzare la comprensione delle tattiche avversarie e facilitare la condivisione di intelligence tra settori. L’implementazione di controlli di sicurezza basati su evidenze, combinata con tecnologie di rilevamento comportamentale e analisi predittiva, rappresenta la frontiera della cyber resilienza organizzativa.

La sfida principale per il 2025 risiede nella capacità delle organizzazioni di anticipare e mitigare minacce in costante evoluzione, mantenendo un equilibrio tra innovazione tecnologica e sicurezza operativa. Solo attraverso un approccio proattivo, collaborativo e scientificamente informato sarà possibile contrastare efficacemente l’escalation del cybercrime contemporaneo.

Fonti

CrowdStrike 2025 Global Threat Report. https://www.crowdstrike.com/en-us/global-threat-report/

KELA Cyber Threat Intelligence, The State of Cybercrime 2025 Report. https://www.kelacyber.com/resources/research/state-of-cybercrime-2025/

CyberProof 2025 Global Threat Intelligence Report. https://www.cyberproof.com/blog/cyberproof-2025-global-threat-intelligence-report-mapping-threats-and-trends/

IBM X-Force 2025 Threat Intelligence Index. https://www.ibm.com/reports/threat-intelligence

Flashpoint 2025 Global Threat Intelligence Report. https://www.hstoday.us/subject-matter-areas/cybersecurity/2025-global-threat-intelligence-report-highlights-rising-cybersecurity-challenges/

CISA Understanding Ransomware Threat Actors: LockBit. https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-165a

MITRE ATT&CK Framework. https://attack.mitre.org/

Sophos Annual Threat Report: Cybercrime on Main Street 2025. https://news.sophos.com/en-us/2025/04/16/the-sophos-annual-threat-report-cybercrime-on-main-street-2025/

Australian Cyber Security Centre Annual Cyber Threat Report 2023-2024. https://www.cyber.gov.au/about-us/view-all-content/reports-and-statistics/annual-cyber-threat-report-2023-2024

US Defense Intelligence Agency 2025 Worldwide Threat Assessment. https://industrialcyber.co/reports/us-dia-2025-threat-assessment-warns-of-growing-complexity-in-global-threats-national-security/

https://www.ictsecuritymagazine.com/articoli/apt-groups/

A report from Usercentrics reveals a shift in consumer behavior in regard to data privacy, with 38% of United States consumers choosing to accept all cookies less frequently than three years prior. Furthermore, while consumers may have used to ignore privacy notices, now 46% consistently review cookie banners before choosing to data share. 

Key findings from the report include: 

• 37% of consumers have adjusted their privacy settings 
• 35% leverage ad blockers or use privacy-centric browsers
• 35% only accept essential cookies, and an additional 16% further customize their settings to reduce data sharing 

65% of U.S. consumers feel as though they themselves have “become the product,” comparable to a global 62%. Trust varies between sectors, with banking and financial entities leading at 57% and the automotive industry at the bottom (14%). 

https://www.securitymagazine.com/articles/101851-data-privacy-increasingly-embedded-in-consumer-decisions-research-finds

A survey of more than 1,000 full-time employees in the United States reveals that workplace violence may be increasing, with 30% of respondents reporting they had witnessed an act of workplace violence occur to another employee. 15% of those surveyed say they themselves were the target of workplace violence.

This represents an increase from 2024, in which 25% reported witnessing acts of workplace violence and 12% were the targets. 

Key findings from the report include: 

• Three-fourths of employees report receiving workplace violence prevention training, which is an increase from 2024 at 70%. 
• 60% of employees would report workplace threats without guaranteed anonymity 
• Almost half of hospitality workers (46%) report witnessing workplace violence, highlighting the increased risk exposure in the sector 

As workplace violence becomes a more prevalent issue, a majority of employees (93%) are backing mandatory state legislation focusing on preventative measures. 

https://www.securitymagazine.com/articles/101845-30-of-employees-have-witnessed-workplace-violence

According to a report from EisnerAmper, artificial intelligence (AI) is becoming increasingly popular in the workplace. The report found that 22% of US full-time desk workers with a bachelor’s degree or higher and who have used AI for work in the past 12 months report that their employer actively monitors their AI usage.

While 80% of employees report a net positive experience using AI at work, 36% indicate their company has a formal AI policy in place. Despite 84% of managers acknowledging some level of AI use among their teams, 41% of employees inform their manager or seek permission before using AI. Sixty percent of employees rely on free AI platforms rather than internally developed platforms (24%) or external AI tools paid for by the company (43%), and 28% admit they would use AI at work even if it were banned. 

Employees are increasingly using AI at work, but the large majority (68%) report regularly finding errors with the technology. Despite this, confidence in AI is strong: 82% are either “very” or “somewhat” confident about accurate and satisfactory outputs from AI, while only 15% say they are “not very” or “not at all” confident. 

Given this, employees report that they are saving time using AI and spending it elsewhere. The majority say they are leveraging AI to be more productive, with 64% of respondents saying they use the time saved by using AI to complete more work. However, some employees indicated they are using time saved for personal reasons, like going on a walk (19%) or to lunch (16%).

The survey reveals that 52% of employees who use AI at work are “somewhat” or “very concerned” about potential job displacement/changes due to AI. Concern is highest in sectors like wholesale trade (67%) and media and communications (62%), while employees in industries like real estate (37%) express the least worry. The highest industry adopters of AI in human resources are in wholesale trade (33%) and restaurants, travel, and lodging (25%). 

While only 20% of employees surveyed say AI was used in their onboarding process, more than nine in ten (92%) of those who experienced this said having AI used in that context positively impacted their feelings toward the company. However, respondents were split on their feelings about AI involvement in the performance review process: 33% said it would have a net positive impact on their feelings toward the company, while 35% said it would have a negative impact on their feelings toward the company.

Sentiment toward AI at work varies widely by generation, with the youngest workers feeling more positive toward AI than their older counterparts. Of more than 1,000 employees surveyed, 59% of those aged 18-34 who use AI at work say they are happier as a result, compared to only 29% of respondents aged 55+. Interestingly, the majority of respondents (77%) said AI made them more productive at work, with the younger cohort (18-34) reporting the highest levels at 84%. 

As AI permeates the corporate workforce, some employers are turning toward the technology to aid in performance reviews—but younger respondents are the ones who feel most comfortable with AI having an impact on the review process. For respondents aged 18-34, 45% said AI in their performance reviews would have a positive impact on their feelings toward their company, compared to only 10% of those aged 55+. Precisely half (50%) of respondents aged 55+ said using AI in performance reviews would have a negative impact on their feelings.

Read the report.

https://www.securitymagazine.com/articles/101846-28-of-employees-would-use-ai-at-work-even-if-banned

Workday, a human resources organization, has announced it experienced a cybersecurity incident. More than 19,300 individuals are employed at Workplace across North America, EMEA and APJ. The client list contains more than 11,000 companies across a range of sectors, including almost two-thirds of the Fortune 500 companies.

According to the organization’s blog post on the incident, Workday was targeted by a social engineering campaign. The post stated, “In this campaign, threat actors contact employees by text or phone pretending to be from human resources or IT. Their goal is to trick employees into giving up account access or their personal information.”

Malicious actors accessed data from Workday’s third-party CRM platform. However, there is no evidence that customer tenants (or the data inside) were accessed. 

Below, security leaders discuss the implications of this attack. 

Security Leaders Weigh In

Thomas Richards, Infrastructure Security Practice Director at Black Duck:

The rise in social engineering attacks by malicious actors should alarm any organization’s security team. This also demonstrates that the attackers are out of other options and are resorting to more difficult and time-consuming methods to attack these organizations. Every piece of information they gain in these attacks can be used to conduct further campaigns and get closer to their goals. Organizations should put their employees on alert for any suspicious phone calls and texts, reminding them that HR and IT will never directly contact them for that information. 

Chad Cragle, Chief Information Security Officer at Deepwatch: 

This is another reminder that in cybersecurity, breaches rarely happen in isolation, they ripple. Attackers don’t stop at one vendor; they pivot across the ecosystem, looking for the next weak link. Think of it like a row of dominoes, once one falls, the rest are in play. For companies, the takeaway is simple; you can’t just trust your vendor’s perimeter, you need continuous monitoring, strong identity controls, and rapid detection baked into your own environment. Otherwise, you’re betting your business on someone else’s defense.

J Stephen Kowski, Field CTO at SlashNext Email Security+:

The Workday CRM incident shows the same playbook seen in the Salesforce-linked campaigns: social profiles are hijacked or spoofed, users are lured into legit-looking login flows, and stolen tokens or OAuth grants give deep access fast. Block this at the point of click with real-time link and QR inspection across email, mobile, browsers, and chat — plus rapid analysis that catches lookalike domains and phishing kits hosted on trusted platforms. Backstop with identity defenses that detect session theft and MFA bypass, and auto-revoke risky OAuth tokens while enforcing least privilege. Close the loop with live-intel phishing simulations so teams recognize the exact lures being used in these campaigns right now.

Boris Cipot, Senior Security Engineer at Black Duck:

Social engineering is a manipulative attack method that relies on psychology and social interaction skills to deceive victims into releasing sensitive information. Attackers trick victims into performing actions that aid in gaining access to sensitive information, often requiring multiple interactions and “internal” information to appear legitimate.

To protect against social engineering, organizations should establish and enforce strict procedures for handling sensitive information, such as not providing information over the phone, even to high-ranking executives, including the CEO. Employees should be aware of these procedures and understand that they will not be penalized for refusing to provide information or assist someone impersonating a superior.

The victims of the data breach should be careful. Workday should remain cautious and be aware of potential scams, phishing attacks, and social engineering techniques. Although the breached information may be limited to commonly known business data in this case, individuals should still be vigilant to avoid falling prey to further attacks.

Darren Guccione, CEO and Co-Founder at Keeper Security:

The data breach impacting Workday is a perfect illustration of the persistent and evolving risk posed by social engineering tactics targeting third-party platforms. The situation is reflective of a troubling trend across enterprise software vendors, and it appears connected to a broader wave of recent attacks similarly targeting CRM systems at multiple global enterprises via sophisticated social engineering and OAuth-based tactics.

Even when primary systems remain intact, external integration points can serve as gateways for attackers. These third-party ecosystems often are not subjected to the same level of scrutiny and control as the internal environments.

Attackers will therefore impersonate HR or IT personnel via phone and text to trick individuals into granting access or divulging sensitive information. Although the data accessed may appear limited, it can subsequently fuel highly targeted phishing or bespoke social engineering schemes on customers by using their own personal data.

Organizations should therefore view third-party applications, vendor tools and CRM systems as integral extension points of their own attack surface. They should restrict access to what is necessary, and implement Privileged Access Management (PAM), zero-trust architectures and zero-knowledge approaches to limit exposure. They should require all partners and third-party platforms to undergo regular security assessments and continuous monitoring. Employees should be trained with frequent simulation testing in order to raise awareness. It’s also important that organizations deploy continuous monitoring and rapid response in order to flag and attend to any unusual access.

The Workday breach is not an isolated incident — it’s part of a broader, escalating digital threat landscape where malicious actors seek to exploit human trust, third-party tools and misaligned legacy processes. Organizations must treat security as an enterprise-wide discipline, extending beyond the immediate perimeter, into every integration, every external vendor and every employee interaction. 

https://www.securitymagazine.com/articles/101844-security-leaders-respond-to-workday-cyber-incident

Ago 20, 2025 Giancarlo Calzetta In evidenza, News, Vulnerabilità 0

---

Il chatbot di assistenza clienti di Lenovo, chiamato Lena, è risultato esposto a una grave vulnerabilità che avrebbe permesso a un attaccante remoto di eseguire codice malevolo e sottrarre dati sensibili. La falla, individuata dai ricercatori di Cybernews e resa pubblica a inizio agosto, dimostra ancora una volta quanto i sistemi basati su intelligenza artificiale possano trasformarsi in un veicolo di rischio se non adeguatamente protetti.

L’attacco con un solo prompt

Il problema risiedeva nella gestione degli input forniti al chatbot. Attraverso un prompt appositamente costruito, lungo circa 400 caratteri, era possibile indurre Lena a restituire contenuti in formato HTML e JSON che includevano codice potenzialmente eseguibile dal browser della vittima. In questo modo, con un semplice comando, il sistema avrebbe inviato i cookie di sessione verso un server controllato dall’attaccante, consentendo di prendere il controllo delle conversazioni e di accedere a informazioni riservate.

Una volta ottenuti i cookie, gli aggressori avrebbero potuto muoversi liberamente nel portale di supporto, leggere dati personali, interagire con i sistemi e persino tentare installazioni di backdoor per mantenere un accesso persistente.

Il ruolo della scarsa validazione

Secondo l’analisi dei ricercatori, il cuore della vulnerabilità risiedeva nella mancanza di filtri adeguati su input e output del modello. Il chatbot non solo accettava comandi malevoli senza alcun controllo, ma li restituiva all’utente senza applicare procedure di sanificazione. L’assenza di regole di escaping e di restrizioni sull’esecuzione di codice lato client ha amplificato l’impatto della falla, trasformando un semplice prompt in un’arma capace di compromettere l’intero sistema di assistenza.

La vulnerabilità è stata scoperta e segnalata il 22 luglio 2025. Lenovo ha riconosciuto ufficialmente il problema il 6 agosto e, poco meno di due settimane più tardi, ha rilasciato una patch correttiva.

Con il diffondersi dei sistemi di AI, diventa sempre più impellente la creazione di un know how di sicurezza su questi sistemi che, per forza di cose, avrà bisogno di tempo per formarsi. Quello del prompt engineering è un settore ancora in rapida espansione, ma che bisogna tenere ben presente per evitare altri casi come questo.

---

---

---

https://www.securityinfo.it/2025/08/20/lenovo-il-chatbot-ai-lena-era-troppo-loquace/?utm_source=rss&utm_medium=rss&utm_campaign=lenovo-il-chatbot-ai-lena-era-troppo-loquace

La guerra in Ucraina non si combatte solo con armi convenzionali. Fin dall’inizio dell’invasione, e in realtà da anni prima, il cyberspazio è diventato un dominio di conflitto strategico, una frontiera invisibile dove attacchi informatici sofisticati vengono sferrati con la stessa intensità di quelli sul campo di battaglia. Questa “guerra ibrida”, come definita dagli analisti di tutto il mondo, ha trasformato l’Ucraina in un laboratorio a cielo aperto per le più recenti tattiche di cyberguerra. Ma le sue onde d’urto, lungi dall’essere confinate, si propagano con forza in tutta Europa, investendo direttamente le aziende e costringendole a ripensare radicalmente il loro approccio alla sicurezza.

L’escalation delle ostilità ha infatti coinciso con un’impennata di minacce cibernetiche su una scala senza precedenti. L’Agenzia dell’Unione Europea per la Cybersicurezza (ENISA), nel suo ultimo report sul panorama delle minacce, ha evidenziato come gli attori legati a stati-nazione, in particolare la Russia, abbiano intensificato le operazioni contro i paesi membri dell’UE. Si parla di un aumento di oltre il 125% degli attacchi DDoS (Distributed Denial of Service) solo nel primo anno del conflitto, spesso rivendicati da collettivi hacktivisti pro-Russia come Killnet, che hanno preso di mira siti di aeroporti, banche e istituzioni governative in Italia, Germania e Paesi Bassi.

Attacchi cyber Russia-Ucraina: HermeticWiper e malware distruttivi

Non si tratta più di un rischio astratto, ma di una realtà tangibile e distruttiva. La notte prima dell’invasione, l’Ucraina è stata colpita da un attacco wiper devastante, battezzato HermeticWiper, progettato non per rubare dati, ma per cancellarli in modo permanente, rendendo i sistemi informatici inutilizzabili.

Questo malware, scoperto dai ricercatori di ESET e Symantec, è stato solo il primo di una lunga serie (CaddyWiper, DoubleZero, etc.) che ha segnato un cambio di paradigma: l’obiettivo non è il profitto, ma l’interruzione della continuità operativa, il danneggiamento della reputazione e la creazione di caos. Come ha dichiarato Brad Smith, Presidente di Microsoft, nel suo report “Defending Ukraine: Early Lessons from the Cyber War”, “Gli attacchi informatici della Russia contro l’Ucraina dimostrano che la difesa contro un attacco militare richiede ora, per la maggior parte delle organizzazioni, una strategia per proteggersi e difendersi anche nel cyberspazio.”

Le imprese europee, interconnesse in catene di fornitura globali e spesso fornitrici di servizi essenziali, si trovano ora in prima linea, esposte al rischio di “danni collaterali” o prese di mira direttamente. Un attacco a un fornitore di logistica in Polonia o a un produttore di componenti in Germania può avere ripercussioni a cascata su tutta l’economia continentale.

Lezioni dal fronte digitale ucraino

L’incredibile capacità di resistenza dell’Ucraina nel dominio cibernetico offre spunti di riflessione cruciali per qualsiasi organizzazione. Di fronte ad attacchi persistenti e distruttivi, il paese ha implementato strategie innovative che costituiscono un vero e proprio manuale per la resilienza.

1. La Difesa non è più un’Isola: il Potere della Collaborazione Pubblico-Privato: Una delle lezioni più significative è stata l’eccezionale livello di collaborazione tra il governo ucraino e un’ampia coalizione di aziende tecnologiche. Microsoft ha investito oltre 400 milioni di dollari in assistenza tecnologica, aiutando a rilevare le minacce e a migrare i dati governativi. Il team di analisi delle minacce di Google (TAG) ha lavorato incessantemente per smantellare le campagne di disinformazione e avvisare gli utenti di attacchi di phishing orchestrati dal gruppo russo Fancy Bear (APT28). Per le aziende europee, questo si traduce nella necessità di superare una mentalità isolazionista. È vitale partecipare attivamente a piattaforme di condivisione delle informazioni (come gli ISAC) e costruire solide relazioni con i CERT (Computer Emergency Response Team) nazionali e con fornitori di sicurezza. Come sottolineato dal CERT-EU, “La condivisione tempestiva di informazioni su incidenti e vulnerabilità è fondamentale per una difesa collettiva efficace.”
2. Il Cloud come Scudo Strategico: Prima dell’invasione, la legislazione ucraina poneva dei limiti all’archiviazione di dati governativi su cloud pubblici. Questa normativa è stata rapidamente modificata per permettere una migrazione massiva verso infrastrutture cloud distribuite e resilienti di provider come Amazon Web Services (AWS) e Microsoft Azure. Questa mossa si è rivelata decisiva. Quando un missile ha colpito un data center a Kiev, i servizi governativi sono rimasti online perché i dati e le applicazioni erano già stati spostati al sicuro nel cloud, fuori dalla portata fisica degli aggressori. Le aziende europee devono vedere il cloud non solo come uno strumento di efficienza, ma come un pilastro della resilienza, sfruttando la sicurezza integrata, la ridondanza geografica e la capacità di scalare le difese offerte dai grandi provider.
3. Dalla Prevenzione alla Risposta: Prepararsi al Peggio: La natura degli attacchi ha evidenziato che una difesa puramente perimetrale è un’illusione. Gruppi affiliati alla Russia, come Sandworm, hanno impiegato malware come Industroyer2 specificamente progettato per manipolare i sistemi di controllo industriale (ICS) delle centrali elettriche. La lezione è chiara: non è più una questione di se si verrà attaccati, ma di quando e con quale violenza. La resilienza si misura dalla capacità di resistere, limitare i danni e ripristinare le operazioni. Ciò richiede piani di incident response e disaster recovery dettagliati e, soprattutto, testati regolarmente. Eseguire simulazioni di attacchi wiper o ransomware, non solo di furto dati, è oggi fondamentale per verificare la reale capacità di ripristino dai backup (che devono essere immutabili e tenuti offline).

Strategie di resilienza cibernetica per il contesto europeo

Sulla base di queste lezioni, le aziende europee devono adottare un approccio olistico e proattivo, come richiesto anche dalla nuova direttiva NIS2, che alza l’asticella per la gestione del rischio cyber.

• Adottare un’Architettura Zero Trust: Il principio “mai fidarsi, sempre verificare” deve diventare il mantra. L’architettura Zero Trust prevede che nessun utente o dispositivo sia considerato affidabile per impostazione predefinita. Ogni richiesta di accesso alle risorse deve essere autenticata, autorizzata e crittografata sulla base dell’identità e del contesto. Questo approccio segmenta la rete e, come dimostrato in molti incidenti, può impedire a un attaccante che ha rubato una credenziale di muoversi lateralmente per raggiungere i dati critici o sferrare un attacco distruttivo.
• Potenziare l’Intelligence sulle Minacce (Threat Intelligence): Comprendere il “chi, cosa, come e perché” delle minacce è vitale. Investire in servizi di threat intelligence permette di passare da una difesa reattiva a una predittiva. Sapere, ad esempio, che un determinato gruppo sta sfruttando una specifica vulnerabilità (come la CVE-2023-38831 su WinRAR, ampiamente usata in campagne di phishing contro l’Ucraina) consente di prioritizzare le patch e di configurare le difese in modo mirato, prima di essere colpiti.
• Focus sulla Sicurezza della Supply Chain: Gli attacchi non sono sempre diretti. Un report di S&P Global ha rilevato che circa il 40% delle aziende europee ha subito interruzioni operative a causa di problemi di sicurezza informatica nella propria catena di fornitura. È fondamentale mappare la propria supply chain digitale, condurre audit di sicurezza sui fornitori critici e imporre requisiti contrattuali chiari, trasferendo parte del rischio e garantendo standard minimi di protezione.
• Formazione e Cultura della Sicurezza: Il fattore umano resta cruciale. Le campagne di phishing mirate (spear-phishing) sono la porta d’ingresso preferita dagli aggressori. È essenziale investire in programmi di formazione continua, con simulazioni di phishing basate su scenari reali e attuali. Creare una solida cultura della sicurezza, dove segnalare un’email sospetta è considerato un contributo positivo e non un disturbo, è uno degli investimenti più efficaci per aumentare la resilienza complessiva.

La guerra in Ucraina ha segnato un punto di non ritorno, accelerando la fusione tra tensioni geopolitiche e rischi digitali. Per le aziende europee, ignorare queste lezioni significa esporsi a un rischio esistenziale. Costruire una solida resilienza cibernetica è un imperativo strategico non solo per la protezione del proprio business, ma per contribuire alla stabilità e alla sicurezza dell’intero ecosistema economico e sociale del continente.

Fonti:

Microsoft Digital Defense Report (e Report Specifici sull’Ucraina).

ENISA (Agenzia dell’Unione Europea per la Cybersicurezza).

Google’s Threat Analysis Group (TAG).

ESET Research – HermeticWiper: New data wiper malware hits Ukraine.

CERT-EU (Computer Emergency Response Team for the EU Institutions).

S&P Global Market Intelligence.

ICT Security Magazine: le campagne cyber russe in Ucraina: ben oltre un semplice campo di battaglia digitale.

https://www.ictsecuritymagazine.com/notizie/russia-ucraina/

L’avvento e la diffusione massiva dei deepfake – contenuti audiovisivi sintetici generati da algoritmi di intelligenza artificiale – rappresentano una trasformazione paradigmatica nel dominio delle minacce digitali. L’intersezione tra questa tecnologia e le criptovalute, asset digitali intrinsecamente non regolamentati e decentralizzati, ha dato origine a una nuova categoria di attacchi altamente sofisticati, in grado di eludere i tradizionali strumenti di detection e comprometterne simultaneamente sicurezza, reputazione e integrità dei dati.

Genesi tecnologica: GAN, democratizzazione e weaponization

Alla base dei deepfake risiedono architetture neurali di tipo GAN (Generative Adversarial Networks), composte da due reti contrapposte: un generatore che produce contenuti sintetici e un discriminatore che ne valuta la verosimiglianza. L’interazione iterativa tra i due componenti consente al sistema di convergere progressivamente verso risultati indistinguibili da materiale reale, sia a livello visivo che fonetico.

L’accesso pubblico a modelli pre-addestrati (come StyleGAN, DeepFaceLab o Synthesia), la disponibilità di dataset open-source ad alta risoluzione e la potenza computazionale facilmente noleggiabile (GPU-as-a-service) hanno abbattuto le barriere di ingresso, consentendo anche a soggetti non particolarmente esperti di produrre contenuti fake altamente persuasivi. Questo processo di democratizzazione tecnologica ha reso i deepfake uno stratagemma operativo sempre più utilizzato in contesti fraudolenti, con particolare incidenza nel settore crypto.

Criptovalute come ambiente operativo favorevole

Le criptovalute, per loro natura pseudonime e irreversibili, costituiscono un ambiente ideale per monetizzare truffe basate su deepfake. La mancanza di intermediari istituzionali, la possibilità di creare wallet anonimi, l’assenza di controlli KYC stringenti e la facilità di trasferimento transfrontaliero dei fondi offrono ai threat actor un vettore d’uscita efficace e difficilmente rintracciabile. Questo ha favorito la nascita di una vera e propria economia illecita parallela, alimentata da attori che operano nel dark web offrendo servizi di deepfake-as-a-service, clonazione vocale, identità sintetiche e moduli di attacco end-to-end.

Casistiche operative: analisi di campagne fraudolente

Tra il 2023 e il 2025, si è assistito a una crescita esponenziale delle campagne fraudolente che impiegano deepfake per veicolare falsi schemi di investimento. Secondo il report Unit42 di Palo Alto Networks, numerosi video deepfake raffiguranti figure pubbliche – Elon Musk, giornalisti della CNN, esponenti politici europei – sono stati utilizzati per indurre utenti a cliccare su link malevoli integrati in falsi articoli di notizie o segmenti video simulati in formato telegiornale.

Nel caso documentato da RMIT FactLab, un deepfake di Elon Musk – con sincronizzazione labiale e intonazione vocale generata da modelli TTS (text-to-speech) neurali – promuoveva un presunto servizio di trading automatizzato denominato “Quantum AI”, incoraggiando gli utenti a investire 400 dollari con la promessa di ritorni garantiti. Il link associato, apparentemente riconducibile a una testata giornalistica (9news.com.au), reindirizzava a un dominio fraudolento, strutturato per mimare un portale d’informazione autorevole e contenente script malevoli per il tracciamento degli input utente e l’acquisizione di seed crypto.

In Canada, il fenomeno ha assunto dimensioni sistemiche. Il Canadian Anti-Fraud Centre ha registrato centinaia di casi in cui i deepfake venivano impiegati per promuovere presunti “AI trading bots” con promesse di guadagni mensili elevatissimi (fino a 27.000 CAD/mese). Le vittime – tra cui figure come Mohammad Haque e Stephen Henry – sono state indotte a trasferire fondi verso wallet fraudolenti riconducibili a operazioni criminali internazionali.

Superamento dei tradizionali modelli di attacco

I deepfake rappresentano un’evoluzione rispetto alle tecniche classiche di phishing e spear-phishing. Mentre queste ultime si basano su manipolazioni testuali o visive relativamente semplici, i deepfake generano un ambiente percettivo immersivo, sfruttando la componente audiovisiva per abbattere le difese cognitive dell’utente.

La possibilità di generare in tempo reale identità artificiali coerenti (volto, voce, comportamento) rende obsoleti molti controlli biometrici standard. Alcuni attori malevoli sono stati in grado di aggirare processi di autenticazione video-KYC e sistemi antifrode basati su riconoscimento facciale, impiegando deepfake dinamici in sessioni di verifica bancaria live.

Impatto economico e reputazionale

Il danno economico associato a queste truffe è sostanziale. Secondo Deloitte, entro il 2027 le perdite globali associate all’uso fraudolento dei deepfake potrebbero superare i 40 miliardi di dollari. Nel solo 2024, in Canada, si stima che 190 milioni di CAD siano stati persi in truffe crypto abilitate dall’IA generativa. Queste cifre, già allarmanti, potrebbero essere significativamente sottostimate in virtù della forte sottodenuncia da parte delle vittime.

A livello reputazionale, l’effetto è altrettanto grave: la diffusione virale di video contraffatti associati a figure istituzionali può compromettere la fiducia degli stakeholder, generare crisi reputazionali e innescare dinamiche di disinformation. Il rischio reputazionale colpisce anche le imprese, i cui brand vengono talvolta co-optati nei contenuti fake, generando un impatto diretto sulla customer trust e sulle metriche ESG.

Tecniche di detection: stato dell’arte

Il riconoscimento dei deepfake rappresenta una sfida in continua evoluzione. Oltre agli approcci empirici (analisi visiva di incongruenze nel labiale, movimenti oculari, artefatti di rendering), si stanno affermando tecnologie di deepfake forensics basate su:

• Analisi dei micro-movimenti facciali (Action Unit Discrepancy);
• Texture inconsistenze tramite reti convoluzionali (CNN);
• Confronti semantici tra transcript audio e modelli linguistici di coerenza;
• Verifica della fingerprint biometrica e del modello vocale (voiceprint).

Strumenti commerciali (es. Deepware, Sensity Sentinel, Attestiv) e soluzioni open-source (es. DeepfakeDetector, FaceForensics++) impiegano queste tecniche per assegnare punteggi di affidabilità e individuare contenuti manipolati. L’evoluzione futura sarà probabilmente dominata da sistemi di detection adversarial-aware, in grado di apprendere e adattarsi a manipolazioni sempre più impercettibili.

Misure difensive: architettura multilivello

Una protezione efficace contro i deepfake in ambito crypto richiede un approccio integrato, che combini misure tecniche, procedurali e comportamentali:

Per le organizzazioni:

• Controlli a due canali su operazioni critiche (es. verifica via voce umana e conferma via canale fisico separato)
• Autenticazione biometrica multifattoriale + behavioral analytics
• Training periodico del personale tramite simulazioni deepfake-based phishing
• Integrazione con threat intelligence feeds specializzati in social deception
• Sandboxing di contenuti audiovisivi non verificati

Per gli utenti individuali:

• Restrizione dei contenuti multimediali pubblici (evitare sovraesposizione di immagini e video personali)
• Verifica sempre incrociata di offerte di investimento con fonti istituzionali
• Utilizzo di strumenti di verifica video (es. InVID, Forensically, Hive Moderation)
• Approccio diffidente a contenuti con linguaggio pressante o ritorni economici improbabili

Conclusione: la resilienza cognitiva come prima linea di difesa

Nel nuovo scenario digitale dominato da manipolazioni percettive e identità sintetiche, la fiducia – non più nei contenuti, ma nei processi di validazione – diventa l’elemento cruciale per garantire sicurezza e trasparenza. Il deepfake non è solo una minaccia tecnica: è una sfida epistemologica, che impone un ripensamento delle strategie di autenticazione e dell’alfabetizzazione digitale.

L’adozione congiunta di tecnologie di detection avanzata, protocolli procedurali resilienti e cultura della verifica può costituire una barriera efficace contro un fenomeno destinato a crescere. La battaglia contro i deepfake non sarà vinta con la sola tecnologia, ma con una società digitale capace di riconoscere la realtà anche quando essa viene ingegnosamente imitata.

Fonti:

F. Arruzzoli, Deepfake – significato, storia e evoluzione, ICT Security Magazine (23/07/2024).

F. Arruzzoli, Deepfake, una reale minaccia alla cybersecurity, ICT Security Magazine (10/12/2024).

L. Graham, “Elon Musk used in fake AI videos to promote financial scam”, RMIT FactLab (15/08/2023).

M. Rizzuto, “Crypto-scam hosts pop-up livestream featuring a deepfaked Elon Musk”, DFRLab – Atlantic Council (25/09/2024).

The Emerging Dynamics of Deepfake Scam Campaigns on the Web, Palo Alto Networks Unit42 (29/08/2024).

A. Cruciani, “Deepfake, truffe in aumento con l’AI generativa. Perché siamo tutti a rischio e come difendersi”, Corriere della Sera (25/02/2024).

Europol Innovation Lab, Facing reality? Law enforcement and the challenge of deepfakes (Gen. 2024).

https://www.ictsecuritymagazine.com/notizie/deepfake-truffe-crypto/