L’Europa resta ai margini nello sviluppo e nella gestione delle tecnologie AI più avanzate. È quanto emerge dal caso Mythos, il nuovo modello di intelligenza artificiale sviluppato dalla società statunitense Anthropic, la cui distribuzione è stata limitata a un ristretto gruppo di partner tecnologici, escludendo di fatto gran parte dei regolatori europei.

L’Anthropic ha deciso di concedere l’accesso al modello solo alle big tech. Le altre circa 40 realtà avrebbero ottenuto accesso, ma senza dettagli pubblici. Parallelamente, l’azienda ha confermato “discussioni in corso con funzionari del governo degli Stati Uniti”.

Secondo quanto riporta Politico, solo l’agenzia tedesca per la cybersicurezza ha avviato contatti con Anthropic, senza però aver ancora testato direttamente il modello. Diverse istituzioni pubbliche europee avrebbero avuto accessi limitati o parziali, mentre l’agenzia europea ENISA non ha commentato eventuali interlocuzioni.

Fa eccezione il Regno Unito, dove l’AI Security Institute ha già testato Mythos e pubblicato una prima valutazione, segnalando un divario operativo evidente rispetto al continente europeo.

Un modello potente e controverso

Mythos è considerato uno dei modelli AI più avanzati mai sviluppati per la cybersicurezza. Secondo Anthropic, il sistema è in grado di “superare quasi tutti gli esseri umani” nell’individuare e sfruttare vulnerabilità informatiche. Una capacità che lo rende al tempo stesso uno strumento difensivo estremamente efficace e una potenziale arma nelle mani di attori malevoli.

Proprio questo dual use ha spinto l’azienda a limitarne la diffusione, ma la scelta ha sollevato forti critiche. “È profondamente preoccupante che siano le aziende tecnologiche, e non i regolatori, a decidere come gestire questi rischi”, ha dichiarato Yoshua Bengio, tra i pionieri dell’intelligenza artificiale.

Governance globale assente

Il caso evidenzia un problema più ampio: l’assenza di un sistema globale di governance dell’AI. Negli ultimi anni sono state avviate diverse iniziative internazionali, dal processo di Hiroshima del G7 al dialogo globale delle Nazioni Unite, ma senza risultati concreti sul piano operativo.

Nel frattempo, le priorità politiche si sono spostate verso la competizione tecnologica, lasciando in secondo piano i temi della sicurezza. Il risultato è un vuoto regolatorio che consente alle aziende private di mantenere il controllo su tecnologie ad alto impatto.

“Il fatto che modelli con un impatto così rilevante siano governati da una società privata è preoccupante”, ha osservato Marietje Schaake, ex europarlamentare e consulente della Commissione europea.

Europa tra ambizioni regolatorie e limiti operativi

Per l’Unione europea, il caso Mythos rappresenta una contraddizione evidente. Da un lato, Bruxelles ha costruito negli anni una forte identità come regolatore tecnologico globale, anche attraverso l’AI Act. Dall’altro, manca ancora un reale accesso alle tecnologie più avanzate sviluppate oltreoceano.

Secondo Laura Caroli, esperta di AI e tra i consulenti del regolamento europeo, l’UE è stata “messa da parte perché il modello non è stato rilasciato sul mercato”, e quindi non rientra pienamente negli obblighi previsti dalla normativa.

La Commissione europea ha fatto sapere di stare “valutando le possibili implicazioni” e monitorando gli impatti sulla sicurezza, ricordando che l’AI Act impone ai fornitori di gestire i rischi cyber e che il Cyber Resilience Act introduce requisiti obbligatori per i prodotti digitali.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/anthropic-gli-usa-lasciano-fuori-leuropa-dal-caso-mythos/569570/

Cina e Stati Uniti hanno ormai raggiunto prestazioni comparabili nei modelli AI, alternandosi ai vertici dei principali benchmark globali. Un equilibrio competitivo senza precedenti, che ridefinisce gli assetti della leadership tecnologica mondiale.

Lo rivela l’AI Index 2026 dello Stanford Institute for Human-Centered Artificial Intelligence, una delle analisi più complete e basate sui dati sull’evoluzione dell’intelligenza artificiale. Non si tratta solo di una raccolta di numeri, ma di uno strumento di lettura strutturato, capace di restituire una visione d’insieme su come l’AI stia avanzando dal punto di vista tecnico, economico e sociale.

Usa e Cina, leadership AI condivisa ma con punti di forza diversi

Se Washington mantiene un vantaggio strutturale in termini di capitali, infrastrutture e produzione di semiconduttori, Pechino si distingue per la capacità di scalare rapidamente su altri fronti. Il report evidenzia infatti il primato cinese nel numero di brevetti, nelle pubblicazioni scientifiche e nello sviluppo della robotica autonoma.

Ne emerge un modello di competizione asimmetrica: gli Stati Uniti restano forti nella dimensione industriale e nell’ecosistema dell’innovazione privata, mentre la Cina consolida la propria posizione attraverso investimenti coordinati e una forte integrazione tra ricerca e applicazioni.

Un ecosistema globale sempre più frammentato

Accanto ai due poli principali, il panorama internazionale dell’AI si sta ampliando. Paesi come la Corea del Sud emergono per densità di innovazione, mentre numerosi governi stanno investendo in infrastrutture nazionali per garantire la cosiddetta sovranità tecnologica.

Allo stesso tempo, il report segnala il rischio di un ampliamento del divario digitale: non tutte le regioni dispongono delle risorse necessarie per competere, con il risultato di una crescente polarizzazione tra Paesi leader e Paesi marginalizzati.

Il peso crescente delle aziende private

Un dato particolarmente rilevante riguarda il ruolo delle imprese. Oltre il 90% dei modelli AI considerati significativi è oggi sviluppato da aziende private, a conferma di uno spostamento del baricentro dell’innovazione fuori dal perimetro pubblico e accademico.

Questa dinamica si accompagna a una riduzione della trasparenza, soprattutto per quanto riguarda i dataset utilizzati e i processi di addestramento. Un elemento che solleva interrogativi sulla governance dell’AI e sulla possibilità di verificare in modo indipendente sicurezza, affidabilità e bias dei sistemi.

Usa e Cina: adozione AI record, ma cresce la diffidenza

L’adozione dell’AI generativa ha raggiunto livelli senza precedenti, coinvolgendo oltre la metà della popolazione mondiale. Tuttavia, alla diffusione capillare si affianca una crescente diffidenza da parte dei cittadini, legata in particolare all’impatto sul lavoro e alla trasformazione dei modelli occupazionali.

Il report evidenzia come gli effetti siano già visibili in alcuni settori, alimentando una percezione di rischio che si traduce in una divergenza sempre più marcata tra l’ottimismo degli esperti e lo scetticismo dell’opinione pubblica.

Costi ambientali e nuove vulnerabilità

Tra le criticità emergenti figurano anche i costi ambientali dell’AI, sempre più rilevanti in termini di consumo energetico e utilizzo di risorse. A questo si aggiunge la forte dipendenza da supply chain concentrate, in particolare nel settore dei semiconduttori, che espone l’intero ecosistema a rischi geopolitici e industriali. Per questi motivi, spiega il report, l’intelligenza artificiale continua a rappresentare un motore di innovazione globale, ma la sua evoluzione sarà sempre più condizionata da equilibri politici, economici e sociali.

Per approfondire

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-la-cina-ha-colmato-il-divario-con-gli-stati-uniti-il-report-ai-index-2026-di-stanford/569282/

L’adozione spontanea, diffusa e spesso non governata di strumenti di intelligenza artificiale generativa nei contesti di lavoro ha reso attuale un fenomeno che, in modo convenzionale, viene definito Shadow AI: l’uso di sistemi o modelli AI da parte di dipendenti, collaboratori o funzioni aziendali fuori dai processi di approvazione, procurement, risk assessment e controllo interno.

Non si tratta di una categoria giuridica autonoma, ma di un problema organizzativo e di compliance che interseca più discipline: protezione dei dati, sicurezza delle informazioni, responsabilità organizzativa, contrattualistica ICT e, oggi, anche la governance dell’AI. L’interesse editoriale del tema è espresso in modo diretto anche dal piano 2026 di ICT Security Magazine, che colloca “Shadow AI in azienda: rischi, detection e governance” tra le proposte centrali del pilastro dedicato a intelligenza artificiale e machine learning per la sicurezza.

La rilevanza del tema dipende da un dato semplice: l’AI generativa abbassa drasticamente la soglia di accesso a strumenti capaci di trattare testi, dati, codice, documenti, immagini e workflow aziendali.

Di conseguenza, l’uso “di fatto” precede quasi sempre la formalizzazione delle regole e proprio in questa asimmetria si collocano i rischi principali, tra i quali si annoverano, tra gli altri, l’inserimento di dati personali o confidenziali nei prompt; la perdita di controllo su basi giuridiche, le finalità e i tempi di conservazione; la generazione di output inesatti ma apparentemente affidabili; la dipendenza da fornitori esterni non valutati; l’uso di plugin, agenti o integrazioni che ampliano la superficie d’attacco; e, non ultimo, la difficoltà di audit e di attribuzione delle responsabilità.

Il quadro normativo europeo non usa l’etichetta “Shadow AI”, ma fornisce già un reticolo di obblighi sufficiente a farne un tema di governance: il GDPR impone liceità, minimizzazione, integrità e riservatezza, responsabilizzazione del titolare e misure tecniche e organizzative adeguate; la NIS2 richiede misure di gestione del rischio di cybersicurezza e sicurezza della supply chain; l’AI Act impone almeno, fin da subito, obblighi di AI literacy per provider e deployer e, su altre scansioni temporali, ulteriori doveri in materia di GPAI, trasparenza e sistemi ad alto rischio.

La tesi di questo policy brief è che il modo più efficace per affrontare la Shadow AI non sia né il laissez-faire né il divieto assoluto. Il primo espone l’organizzazione a violazioni prevedibili; il secondo è spesso inefficace, perché spinge l’uso dell’AI fuori dai circuiti visibili. La soluzione ragionevole è una governance minima efficace: un insieme essenziale ma verificabile di regole, processi e controlli che renda l’uso dell’AI consentito, tracciabile, proporzionato al rischio e difendibile in sede di audit, ispezione o contenzioso.

Questo modello deve essere interdisciplinare e coinvolgere legal, privacy, security, procurement, HR, internal audit e funzioni di business; distinguere tra usi vietati, usi consentiti e usi consentiti con condizioni; documentare decisioni e responsabilità; integrare la valutazione AI con i processi già esistenti di sicurezza e protezione dati.

Le raccomandazioni finali sono dieci: censimento degli strumenti; classificazione degli usi; regole sui prompt e sui dati in input; valutazione dei fornitori; presidio contrattuale; logging e auditabilità; coordinamento con GDPR e NIS2; formazione mirata; presidio degli incidenti AI-related; accountability del management perché l’obiettivo non è frenare l’innovazione, ma renderla governabile.

Il problema: che cos’è davvero la Shadow AI

Con l’espressione Shadow AI si descrive, in senso pratico, l’impiego di strumenti di AI al di fuori del perimetro autorizzato e governato dell’organizzazione. Il fenomeno richiama, per analogia, quello più noto dello shadow IT, ma presenta caratteristiche ulteriori. Nel caso della Shadow AI, il rischio non deriva solo dall’adozione di un software non approvato, bensì dal fatto che l’utente interagisce con sistemi capaci di elaborare, inferire, trasformare, sintetizzare e generare contenuti a partire da input che possono incorporare dati personali, segreti commerciali, know-how, codice sorgente, documentazione contrattuale, informazioni strategiche o elementi soggetti a vincoli regolatori. Il problema, dunque, non è soltanto tecnologico: è informativo, organizzativo e giuridico.

Tra i rischi da trattare, vi sono il data leakage verso modelli esterni, le violazioni GDPR e AI Act e la necessità di policy di acceptable use. In effetti, la Shadow AI prospera precisamente negli spazi vuoti della governance: licenze individuali acquistate con carta aziendale; uso di account gratuiti; accesso a chatbot pubblici da device corporate; upload di file o screenshot per ottenere sintesi, traduzioni o analisi; uso di AI coding assistants senza regole di segregazione dei repository; integrazione di modelli in workflow o applicazioni interne senza previa valutazione dei rischi.

Dal punto di vista giuridico, il primo equivoco da sciogliere è che la Shadow AI non sia un “non-problema” solo perché il termine non compare nei testi normativi. Al contrario, proprio perché non esiste una disciplina speciale dedicata, il fenomeno ricade integralmente nel diritto comune della protezione dei dati, della sicurezza, della responsabilità d’impresa e, quando rilevante, nell’AI Act. In altri termini, l’assenza di una definizione legislativa non crea un vuoto di tutela; semmai aumenta il rischio di sottostimare obblighi già esistenti.

Perché il problema è oggi più grave di ieri

La novità non è l’esistenza di strumenti esterni al controllo IT, ma la loro capacità di penetrare i processi decisionali e documentali ordinari. Un modello generativo può essere usato per: redigere email; riassumere contratti; analizzare dataset; generare codice; produrre policy; preparare report per il board; assistere ticketing, HR, procurement e customer service.

Ciò significa che l’AI non entra in azienda come semplice utility, bensì come mediatore cognitivo delle attività professionali. Se questo avviene in assenza di regole, l’organizzazione perde visibilità su ciò che viene conferito ai sistemi, su dove i dati transitano, su quali siano le basi giuridiche che fondano il trattamento, su quali siano le clausole che regolano il rapporto con il fornitore e su quali controlli di sicurezza siano effettivamente applicati.

Sotto il profilo della protezione dei dati, il rischio è duplice: da un lato, l’utente può conferire dati personali in assenza di necessità, violando il principio di minimizzazione o utilizzando uno strumento che non è stato valutato in termini di liceità, trasparenza e sicurezza; dall’altro, anche quando l’organizzazione ritiene di star trattando dati “anonimizzati”, l’assunto potrebbe essere fragile.

L’EDPB, nell’Opinion 28/2024, ha chiarito che i modelli AI addestrati con dati personali non possono, in tutti i casi, essere considerati anonimi e che l’anonimizzazione va valutata caso per caso, anche rispetto alla possibilità di estrarre dati o re-identificare persone mediante interrogazioni del modello. Questo è un passaggio fondamentale: molte pratiche informali di uso della GenAI in azienda si fondano su una nozione eccessivamente intuitiva di “dato non personale”.

Sotto il profilo della cybersicurezza, la Shadow AI amplia la superficie d’attacco. Non solo perché i modelli possono essere esposti a prompt injection, data exfiltration, output manipolati o dipendenze terze, ma anche perché l’organizzazione introduce nuove dipendenze di filiera senza presidiarle.

La NIS2 richiede che i soggetti interessati adottino misure tecniche, operative e organizzative adeguate e proporzionate per gestire i rischi per la sicurezza dei sistemi informativi; tra tali misure rientrano, espressamente, la sicurezza della supply chain e dei rapporti con i fornitori, la sicurezza nell’acquisizione, sviluppo e manutenzione di reti e sistemi informativi, nonché politiche di valutazione dell’efficacia delle misure di gestione del rischio. Se l’AI entra in azienda attraverso canali non autorizzati, ciascuno di questi presìdi è, di fatto, eluso.

Sotto il profilo della governance dell’AI, il quadro è ormai ancora meno rinviabile. L’AI Act è entrato in vigore il 1° agosto 2024; alcune disposizioni si applicano già dal 2 febbraio 2025, fra cui gli obblighi di AI literacy, mentre altre si applicano secondo ulteriori scadenze, inclusi gli obblighi per i provider di GPAI dal 2 agosto 2025 e le norme di trasparenza dal 2 agosto 2026. L’art. 4 dell’AI Act impone a provider e deployer di adottare misure per garantire un livello sufficiente di alfabetizzazione AI del personale e di altri soggetti che operano per loro conto, tenendo conto delle competenze tecniche, dell’esperienza, della formazione e del contesto d’uso.

In termini organizzativi, questo significa che lasciare l’AI in una zona grigia, priva di policy e formazione, non è più una scelta neutra: è un indice di governance debole.

Il quadro normativo applicabile

GDPR: il cuore del problema è l’accountability

Il GDPR resta la prima lente giuridica con cui leggere la Shadow AI. Non perché ogni uso dell’AI implichi necessariamente un trattamento illecito, ma perché ogni uso aziendale rilevante richiede di rispondere alle domande classiche del diritto sui dati: quali dati entrano nel sistema; per quali finalità; su quale base giuridica; con quali ruoli tra i soggetti coinvolti; per quanto tempo; con quali misure di sicurezza; con quali trasferimenti; con quali diritti per gli interessati.

Gli artt. 5, 24 e 32 del GDPR impongono rispettivamente i principi di liceità, correttezza e trasparenza, minimizzazione, integrità e riservatezza; la responsabilità del titolare di mettere in atto misure tecniche e organizzative adeguate; e l’obbligo di garantire un livello di sicurezza adeguato al rischio.

Per la Shadow AI, il punto decisivo è l’accountability. Se il dipendente inserisce dati personali in un tool esterno, il problema non si esaurisce nella “colpa individuale”, poiché occorre domandarsi se l’organizzazione abbia predisposto policy, restrizioni, whitelist, regole di classificazione dei dati, formazione, controlli e procedure di autorizzazione adeguati. In assenza di questi elementi, diventa difficile sostenere che il titolare abbia davvero “messo in atto” misure idonee. La Shadow AI, quindi, non è solo un tema di comportamento scorretto del singolo; è un test della maturità organizzativa del titolare.

NIS2: rischio cyber e supply chain

Anche laddove non vi siano dati personali, la Shadow AI può rilevare in chiave NIS2; infatti l’art. 21 della direttiva richiede misure di gestione del rischio che coprano analisi dei rischi, gestione degli incidenti, business continuity, sicurezza della supply chain, sicurezza nell’acquisizione, nello sviluppo e nella manutenzione di reti e sistemi informativi, uso della crittografia e formazione di base in materia di cybersicurezza. L’utilizzo di strumenti AI esterni o di plugin non valutati può incidere su più di uno di questi profili: terze parti non censite, flussi di dati non mappati, integrazioni non presidiate, possibili dipendenze operative non considerate nei piani di continuità.

Per le organizzazioni soggette a NIS2, la Shadow AI non può quindi essere archiviata come tema di mera produttività individuale. È, piuttosto, una variante contemporanea del rischio da supply chain e del rischio da configurazione organizzativa non controllata e ciò vale, a maggior ragione, nelle realtà che operano in settori regolati o critici.

AI Act: dalla sperimentazione alla governance

L’AI Act non disciplina la Shadow AI come fattispecie nominata, ma ne rende più difficile la tolleranza organizzativa. La ragione minima è l’art. 4 sull’AI literacy, già applicabile dal 2 febbraio 2025. La Commissione europea, nelle FAQ dedicate, chiarisce che provider e deployer devono adottare misure per garantire un livello sufficiente di AI literacy in relazione al personale e al contesto d’uso. In termini pratici, un’organizzazione che consenta o subisca un uso diffuso di AI senza formazione, istruzioni, classificazione degli usi e definizione delle responsabilità si espone a una criticità di conformità già attuale.

Inoltre, la progressiva applicazione delle regole sui modelli GPAI e, poi, delle norme di trasparenza e sugli high-risk systems impone una capacità interna di mappare gli usi dell’AI. Senza inventario e governance, l’organizzazione non sarebbe in condizione di capire se stia agendo come mero utilizzatore di un servizio, come deployer di un sistema AI, o se abbia integrato un modello in processi che fanno emergere ulteriori obblighi.

Le opzioni di policy

Una politica aziendale sulla Shadow AI può, in astratto, muoversi lungo tre modelli.

La prima opzione è lo status quo: nessuna regola specifica, affidamento alla prudenza dei team, eventuali richiami generici nelle policy IT o privacy. È la soluzione peggiore, perché crea un divario tra uso reale e uso formalmente consentito. Il risultato è una non-governance che alimenta il rischio sul piano probatorio: quando si verifica un incidente, mancano inventari, logiche autorizzative, evidenze formative e responsabilità chiare.

La seconda opzione è il divieto generalizzato di strumenti AI non approvati o, più radicalmente, di ogni uso della GenAI, ed è comprensibile che in ambienti altamente sensibili tale soluzione possa apparire una risposta intuitiva; tuttavia, come regola generale, funziona poco. Dove il bisogno di produttività è forte, il divieto assoluto tende a spostare l’uso fuori dai radar, su account personali, dispositivi privati o canali non tracciabili e il rischio si riduce solo in apparenza.

La terza opzione è una governance minima efficace. Il suo pregio è di combinare realismo operativo e presidio giuridico. Non parte dall’idea irrealistica di azzerare l’uso dell’AI, ma da quella di ricondurlo entro un perimetro visibile, valutabile e documentato. È il modello preferibile perché consente all’organizzazione di classificare i casi d’uso, graduare i controlli in base al rischio e produrre evidenze difendibili.

Un modello minimo di governance: dieci raccomandazioni

1. Censire gli strumenti AI effettivamente usati.

Senza inventario non esiste governance, per tale ragione occorre mappare chatbot, coding assistants, servizi di trascrizione, traduzione, analisi documentale, plugin e API. La ricognizione deve essere sia top-down, tramite procurement e IT, sia bottom-up, tramite survey, interviste e controlli sui workflow.

2. Distinguere tra usi vietati, consentiti e consentiti con condizioni.

La regola non può essere binaria poiché devono esistere almeno tre classi: usi proibiti; usi ammessi senza dati sensibili o riservati; usi ammessi solo previa valutazione e con strumenti approvati. Questo consente di rendere comprensibile la policy agli utenti.

3. Introdurre una disciplina rigorosa degli input.

Il rischio principale sta spesso nei prompt e proprio in tale operazione può essere utile vietare o limitare l’inserimento di dati personali non necessari, categorie particolari di dati, segreti commerciali, credenziali, codice proprietario, atti processuali, pareri legali non ancora diffusi, documentazione classificata o materiale soggetto a obblighi di segretezza.

4. Valutare i fornitori come terze parti critiche.

Ogni servizio AI esterno deve essere trattato, sul piano della governance, come un fornitore potenzialmente rilevante per privacy e sicurezza. Vanno esaminati termini contrattuali, ruoli privacy, subfornitori, localizzazione dei dati, politiche di retention, opt-out rispetto al training, misure di sicurezza, auditability e supporto agli incidenti. Questo approccio è coerente sia con l’accountability del GDPR sia con l’attenzione NIS2 alla supply chain.

5. Integrare la valutazione AI con i processi già esistenti.

La Shadow AI prospera quando l’AI viene trattata come eccezione. Al contrario, deve essere incorporata nei processi ordinari: vendor assessment, DPIA quando necessaria, security review, change management, classificazione delle informazioni, incident management, internal audit.

6. Garantire logging, tracciabilità e conservazione delle evidenze.

Non ogni interazione con un sistema AI può o deve essere integralmente registrata, ma un livello adeguato di auditabilità è essenziale e ciò perché la governance deve poter dimostrare chi ha approvato lo strumento, per quali usi, con quali limitazioni, con quale formazione erogata e con quali verifiche periodiche.

7. Predisporre una policy di AI acceptable use.

La policy dovrebbe essere breve, concreta e leggibile, non un manifesto meramente programmatico. Deve chiarire finalità consentite, divieti, regole sui dati, uso di account personali, divieto di integrare tool non approvati, regole di verifica degli output e canali per richiedere approvazioni o segnalare incidenti.

8. Rendere effettiva l’AI literacy.

La formazione richiesta dall’art. 4 AI Act non può ridursi a un webinar introduttivo. Deve essere differenziata per ruoli: utenti comuni, manager, HR, legali, sviluppatori, security, procurement, includendo casi concreti: quali dati non inserire, come validare un output, quali errori sono tipici, quali sono le responsabilità.

9. Gestire gli incidenti AI-related come incidenti reali.

Un errore frequente è quello di considerare un uso improprio di GenAI come una semplice deviazione interna, ben potendo, al contrario, configurarsi come un data breach, una violazione contrattuale, una dispersione di segreti, una produzione di documenti inaccurati o l’introduzione di vulnerabilità nel codice; è per tale motivo che le istruzioni da fornire agli operatori non possono prescinere da questi scenari.

10. Coinvolgere il management e formalizzare le responsabilità.

Un altro errore piuttosto comune è quello di considerare la Shadow AI come materia di esclusiva pertinenza del reparto IT. Le scelte sul livello di tolleranza al rischio, sulle categorie di dati, sulle eccezioni consentite e sulle priorità di investimento sono decisioni di governance e proprio per tale motivo occorre una responsabilizzazione del management, con sponsorship chiara e reporting periodico.

Profili di responsabilità

Una governance debole della Shadow AI può produrre responsabilità su più livelli: sul piano amministrativo-regolatorio, possono emergere contestazioni in materia di protezione dati, sicurezza o settoriale; sul piano civilistico, l’uso improprio dell’AI può tradursi in danni da divulgazione indebita, perdita di segreti commerciali, inadempimento contrattuale o affidamento su output erronei; sul piano organizzativo interno, può emergere una responsabilità da carenza di presidi, specie quando l’uso dell’AI sia diffuso, noto o prevedibile e l’ente non abbia adottato misure ragionevoli.

È importante sottolineare un punto: la governance della Shadow AI non chiede alle organizzazioni l’impossibile, poiché nessuna disciplina pretende un rischio pari a zero, in ossequio al brocardo ad impossibilia nemo tenetur, pretende, però, un presidio ragionevole e documentabile. Ed è proprio la documentazione delle scelte, dei controlli e della formazione a costituire la prima linea difensiva in caso di audit o contenzioso.

Conclusioni

La Shadow AI non è una moda terminologica, ma la manifestazione concreta di un mutamento nel modo in cui il lavoro cognitivo viene svolto dentro le organizzazioni e proprio per tali ragioni non può essere affrontata con categorie residuali o con policy generiche. Il diritto già offre gli strumenti per qualificarla: accountability e sicurezza nel GDPR; risk management e supply chain nella NIS2; AI literacy e progressiva strutturazione della governance nell’AI Act.

La domanda non è se l’IA stia già entrando nei processi aziendali; la risposta è sì. La domanda giuridicamente rilevante è se vi stia entrando in modo governato e per molte organizzazioni, oggi, la risposta è ancora incerta. Ed è proprio in questa incertezza che si annidano i rischi più seri: non solo tecnologici, ma probatori, reputazionali e regolatori.

Una politica efficace non deve demonizzare l’IA, né inseguire un controllo assoluto; deve, più modestamente e più utilmente, renderla visibile, classificabile, governabile. In questo senso, un modello minimo di governance della Shadow AI non è un costo di compliance: è una condizione di uso legittimo e sostenibile dell’innovazione.

Bibliografia

Normativa europea

Regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio del 27 aprile 2016 (General Data Protection Regulation – GDPR).

Direttiva (UE) 2022/2555 del Parlamento europeo e del Consiglio del 14 dicembre 2022 (Direttiva NIS2).

Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull’intelligenza artificiale (AI Act).

Documenti istituzionali e linee guida

Agenzia per la Cybersicurezza Nazionale, Linee guida per l’adozione dell’intelligenza artificiale nella Pubblica Amministrazione, 2024.

Agenzia per l’Italia Digitale, Linee guida sull’acquisizione e il riuso di software per la PA (aggiornate 2023–2024).

European Data Protection Board (EDPB), Opinion 28/2024 on certain data protection aspects related to AI models, 2024.

European Commission, AI Act – Questions & Answers, 2024–2025.

European Commission, Guidelines on General Purpose AI (GPAI), 2025.

ENISA, Threat Landscape 2025, 2025.

ENISA, Cybersecurity and AI: Threats and Opportunities, 2023.

Garante per la protezione dei dati personali, Provvedimento del 30 novembre 2023 su ChatGPT (OpenAI), doc. web n. 9973484.

NIST, AI Risk Management Framework (AI RMF 1.0), 2023.

NIST, Secure Software Development Framework (SSDF), SP 800-218, aggiornamenti 2024.

Standard tecnici e best practice

ISO/IEC 27001:2022, Information Security Management Systems.

ISO/IEC 27701:2019, Privacy Information Management.

ISO/IEC 42001:2023, Artificial Intelligence Management Systems.

Report e fonti di contest

World Economic Forum, Global Cybersecurity Outlook 2025, 2025.

IBM Security, Cost of a Data Breach Report 2024.

Gartner, Top Cybersecurity Trends 2025.

Cloudflare, DDoS Threat Report 2025.

Letteratura e contributi su AI e diritto

Veale, M., Borgesius, F.Z., Demystifying the Draft EU Artificial Intelligence Act, Computer Law Review International, 2021.

Edwards, L., Veale, M., Slave to the Algorithm? Why a Right to Explanation Is Probably Not the Remedy You Are Looking For, Duke Law & Technology Review, 2017.

Wachter, S., Mittelstadt, B., Floridi, L., Why a Right to Explanation of Automated Decision-Making Does Not Exist in the GDPR, International Data Privacy Law, 2017.

Profilo Autore

Elena Bassòli, Avvocato in Genova, Professore a contratto di Diritto della comunicazione elettronica (54 h) e di Cyber Security and Data Protection (Master II liv. post lauream Ingegneria), presso l’Università degli Studi di Genova. Si occupa di diritto e nuove tecnologie dal 1995 ed è autore di oltre 200 pubblicazioni in materia, tra monografie, contributi a collettanee, articoli, note e commenti. Membro del Comitato di Redazione della rivista “Sicurezza e Giustizia”, è formatore per Ministero dell’Interno e Ministero di Giustizia, Presidente ANGIF (Associazione Nazionale Giuristi Informatici e Forensi). Coautore del software Verslex in uso al Senato della Repubblica per l’aiuto alla redazione dei testi normativi. È dottore di ricerca in Metodi e tecniche della formazione e valutazione delle leggi, XII ciclo. Coordinatore della Commissione “Privacy” e Consigliere presso CTI-Liguria (Club Tecnologie dell’Informazione); membro ANDIG-Ass. Naz. Docenti Informatica giuridica e ANDIP-Ass. Naz. Difesa Privacy. Delegato al Congresso Nazionale Forense.

https://www.ictsecuritymagazine.com/articoli/shadow-ai/

Anthropic ha annunciato il Project Glasswing, una nuova iniziativa di sicurezza offensivo-difensiva che riunisce alcune delle maggiori aziende tecnologiche mondiali attorno a un modello di intelligenza artificiale inedito, chiamato Claude Mythos Preview, capace di individuare autonomamente vulnerabilità critiche in software ampiamente diffusi a livello globale.

Il progetto coinvolge Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks, oltre ad Anthropic stessa, con l’obiettivo dichiarato di mettere le capacità offensive dell’IA al servizio della difesa delle infrastrutture software più critiche al mondo.

Claude Mythos, un modello che supera i revisori umani

Claude Mythos Preview è una versione frontier non ancora rilasciata al pubblico. Secondo quanto documentato da Anthropic, il modello ha già identificato migliaia di vulnerabilità zero-day ad alta severità in ogni principale sistema operativo e in ogni principale browser, oltre che in altri sistemi software rilevanti. Tre esempi concreti, già corretti dai rispettivi maintainer, illustrano la portata delle capacità del modello.

Il primo riguarda OpenBSD, sistema operativo noto per il suo orientamento alla sicurezza e utilizzato per la gestione di firewall e infrastrutture critiche: Mythos Preview ha individuato una vulnerabilità vecchia di 27 anni che avrebbe consentito a un attaccante remoto di mandare in crash qualsiasi macchina che eseguisse il sistema operativo semplicemente connettendosi ad essa.

Il secondo caso riguarda FFmpeg, libreria utilizzata da un numero elevatissimo di applicazioni per la codifica e la decodifica video: il modello ha trovato una falla presente da 16 anni in una riga di codice che gli strumenti di testing automatizzato avevano analizzato cinque milioni di volte senza mai rilevarla.

Il terzo esempio, forse il più significativo dal punto di vista della minaccia, riguarda il kernel Linux, il software che alimenta la maggior parte dei server mondiali: Mythos Preview ha individuato e concatenato in modo autonomo più vulnerabilità per consentire a un attaccante di scalare da un accesso utente ordinario al controllo completo della macchina, senza alcuna guida umana dopo il prompt iniziale.

Capacità emergenti, non addestrate

Un elemento di particolare rilievo evidenziato da Anthropic è che queste capacità non sono state introdotte deliberatamente nel modello attraverso un addestramento specifico sulla sicurezza informatica. Si tratta, invece, di capacità emerse come conseguenza indiretta dei progressi generali nelle abilità di coding, ragionamento e autonomia del modello. Sul benchmark CyberGym, Claude Mythos Preview raggiunge l’83,1% nella riproduzione di vulnerabilità note, contro il 66,6% del precedente Claude Opus 4.6.

Anthropic, accesso controllato e impegno economico

Proprio perché le stesse capacità che rendono il modello prezioso per i difensori potrebbero essere sfruttate da attori malevoli, Anthropic ha scelto di non renderlo disponibile al pubblico generale. L’accesso è stato esteso a un gruppo di oltre 40 organizzazioni che sviluppano o gestiscono infrastrutture software critiche. Anthropic ha stanziato fino a 100 milioni di dollari in crediti di utilizzo per Mythos Preview nell’ambito del progetto, oltre a 4 milioni di dollari in donazioni dirette a organizzazioni dedicate alla sicurezza open source.

Project Glasswing, un cambio di paradigma per la difesa cibernetica

Il Project Glasswing si inserisce in un contesto in cui i costi globali della criminalità informatica sono stimati intorno ai 500 miliardi di dollari annui. L’iniziativa rappresenta un tentativo esplicito di dare ai difensori un vantaggio strutturale in un’era in cui le capacità offensive potenziate dall’intelligenza artificiale sono destinate a proliferare rapidamente, anche al di là degli attori impegnati a utilizzarle in modo responsabile. Come ha sottolineato Anthropic nella documentazione di lancio, nessuna organizzazione può affrontare da sola questi problemi: sviluppatori di modelli frontier, aziende software, ricercatori di sicurezza, maintainer open source e governi hanno tutti un ruolo essenziale da svolgere.

Fonte primaria: anthropic.com/glasswing

https://www.ictsecuritymagazine.com/notizie/anthropic-project-glasswing/

La consultazione pubblica si è conclusa l’11 aprile 2026. Oggi AgID Academy organizza il webinar sull’Agentic AI. L’iter istituzionale verso l’adozione definitiva è ufficialmente aperto.

La funzione di indirizzo e supporto svolta dall’Agenzia per l’Italia Digitale (AgID) si esercita in maniera permanente e continuativa, come dimostra il percorso appena concluso: dal 12 marzo all’11 aprile 2026, le “Linee Guida per lo sviluppo di sistemi di Intelligenza Artificiale nella Pubblica Amministrazione” e le “Linee Guida per il procurement di IA nella Pubblica Amministrazione”, adottate con la Determinazione n. 43 del 10 marzo 2026, sono state sottoposte a consultazione pubblica. Un ciclo di trenta giorni che ha coinvolto amministrazioni, operatori economici, ricercatori e cittadini in un processo partecipativo destinato a incidere concretamente sulle modalità con cui la PA italiana acquisterà e svilupperà sistemi di intelligenza artificiale nei prossimi anni.

Intelligenza artificiale nella PA – Il quadro normativo e istituzionale di riferimento

L’iniziativa si inserisce in una cornice normativa e strategica articolata su più livelli. Sul piano legislativo nazionale, la Legge 23 settembre 2025, n. 132 “Disposizioni e deleghe al Governo in materia di intelligenza artificiale”, pubblicata in Gazzetta Ufficiale n. 223 del 25 settembre 2025 ed entrata in vigore il 10 ottobre 2025, introduce la prima cornice normativa organica italiana dedicata all’IA. Secondo la comunicazione istituzionale di AgID, con questo provvedimento l’Italia è intervenuta “prima in Europa” nel campo della regolazione dell’intelligenza artificiale. La legge fonda la disciplina sui princìpi di un utilizzo antropocentrico, trasparente e sicuro della tecnologia, in conformità al Regolamento (UE) 2024/1689 (AI Act).

Sul piano tecnico-amministrativo, le Linee Guida sono state adottate seguendo la procedura prevista dall’articolo 71 del Codice dell’Amministrazione Digitale (CAD, D.Lgs. n. 82/2005), che attribuisce ad AgID il compito di emanare regole tecniche e di indirizzo per l’attuazione del CAD, previa consultazione pubblica. La stessa Legge 132/2025, all’articolo 20, designa AgID e l’Agenzia per la Cybersicurezza Nazionale (ACN) quali autorità nazionali responsabili dell’attuazione della normativa italiana ed europea in materia di IA.

Il tutto si innesta coerentemente nella Strategia Italiana per l’Intelligenza Artificiale 2024-2026 e nel Piano Triennale per l’Informatica nella PA 2024-2026, adottato con DPCM 12 gennaio 2024, che individua nelle Linee Guida per lo sviluppo (CAP5.16) e per il procurement (CAP5.15) di applicazioni di IA obiettivi specifici a carico di AgID.

I due documenti: un quadro unitario per l’intero ciclo di vita dell’IA

La caratteristica più rilevante dell’impianto concettuale elaborato da AgID è la complementarità dei due documenti: non si tratta di strumenti separati, ma di parti di un percorso unitario che accompagna le amministrazioni lungo l’intero ciclo di vita dei sistemi di IA, dalla fase di progettazione fino alla gestione operativa e al monitoraggio nel tempo.

L’approccio si sviluppa in una sequenza logica ben definita: progettazione del sistema di IA, attraverso l’individuazione degli obiettivi e dei casi d’uso; definizione dell’architettura e dei requisiti tecnici, con riferimento allo stack tecnologico e ai livelli di autonomia del sistema; acquisizione delle soluzioni attraverso il procurement, mediante procedure di gara adeguate alla complessità delle tecnologie; gestione e monitoraggio nel sistema nel tempo, per verificarne prestazioni, affidabilità e conformità normativa.

Entrambi i documenti sono orientati da venti principi cardine che devono guidare lo sviluppo, l’acquisizione e la gestione dei sistemi di IA nella PA, e fanno riferimento esplicito all’AI Act europeo, costruendo un ponte operativo tra la regolazione comunitaria e le modalità concrete di adozione della tecnologia da parte delle amministrazioni italiane.

Le Linee Guida per lo sviluppo

Le Linee Guida per lo sviluppo dei sistemi di IA nella PA sono rivolte ai soggetti di cui all’articolo 2, comma 2, del CAD, vale a dire pubbliche amministrazioni, società a controllo pubblico, società partecipate, gestori di servizi pubblici e organismi di diritto pubblico. Il documento è composto da un testo principale e da due allegati tecnici: il primo dedicato a termini e definizioni, il secondo alle metodologie di training, validazione e fine-tuning dei modelli, nonché all’utilizzo di tecniche come il Retrieval Augmented Generation (RAG).

Sul piano architetturale, le Linee Guida introducono elementi innovativi rispetto al quadro precedente. In particolare:

• la definizione dei livelli tecnologici dello stack di IA;
• l’individuazione dei livelli di autonomia dei sistemi di intelligenza artificiale;
• un’architettura logica di riferimento per i sistemi IA nella PA;
• l’uso delle personas nella progettazione di servizi pubblici basati sull’IA.

Quanto ai livelli di autonomia, il documento classifica le PA in quattro profili operativi: Operatore Base, che utilizza soluzioni preconfigurate con limitata personalizzazione; Operatore Avanzato, capace di adattare modelli esistenti a specifici contesti operativi; Operatore Esperto, che sviluppa e addestra modelli proprietari o open source; Operatore Controllore, responsabile della supervisione, dell’audit e della conformità dei sistemi.

Il documento si fonda su quattro principi fondamentali: sovranità tecnologica, neutralità hardware, sostenibilità energetica e centralità dell’uomo. L’obiettivo è evitare architetture monolitiche e situazioni di dipendenza tecnologica dai fornitori (cosiddetti lock-in), favorendo invece ecosistemi aperti e modulari.

Le Linee Guida AgID per il procurement

Le Linee Guida per il procurement di sistemi di IA nella PA partono da una constatazione fondamentale: l’adozione dell’intelligenza artificiale nella PA non può essere gestita con gli strumenti tradizionali degli appalti informatici. Le soluzioni basate su algoritmi e modelli di machine learning presentano caratteristiche peculiari: dipendono fortemente dalla qualità dei dati, richiedono aggiornamenti continui, comportano costi distribuiti lungo l’intero ciclo di vita e possono evolvere rapidamente nel tempo.

Il procurement viene quindi configurato non come una mera procedura amministrativa, ma come uno strumento strategico di governance dell’innovazione. Le decisioni di approvvigionamento vengono collegate a tre dimensioni fondamentali: tecnologica, relativa alle caratteristiche delle soluzioni; economica, relativa alla sostenibilità degli investimenti e al calcolo del costo complessivo del ciclo di vita (il cosiddetto LCOAI); organizzativa e contrattuale, necessaria per garantire controllo pubblico e adattabilità nel tempo.

Il documento, di circa 100 pagine nella versione sottoposta a consultazione, introduce strumenti e criteri operativi per rafforzare la capacità delle amministrazioni di progettare e gestire gare complesse. Tra questi figurano una struttura di capitolato articolata in dodici sezioni e clausole specifiche per la portabilità dei dati e le strategie di exit contrattuale. Il principio di trasparenza è declinato in termini operativi: la PA deve essere in grado di comprendere, descrivere e documentare il funzionamento complessivo del sistema almeno a livello architetturale, funzionale e decisionale.

La conferenza stampa del 12 marzo: le parole del Direttore Generale di AgID

I due documenti sono stati presentati in conferenza stampa il 12 marzo 2026, con la partecipazione del Direttore Generale di AgID, Mario Nobile, e gli interventi dei tecnici dell’Agenzia Fabio Massimi, Alessandra Pieroni e Giovanni Melardi.

Nelle parole dello stesso Nobile:

«I due documenti sulle linee guida sono ormai prossimi alla conclusione del percorso di adozione. I testi riguardano due aspetti complementari: da un lato lo sviluppo dei sistemi di intelligenza artificiale nella Pubblica Amministrazione, dall’altro il procurement, cioè le modalità con cui le amministrazioni potranno acquisire modelli e soluzioni di IA dal mercato. L’obiettivo di questo momento di confronto è fornire alcuni elementi aggiuntivi rispetto all’abstract inviato nei giorni scorsi e condividere quelli che riteniamo i punti più rilevanti delle linee guida.»

L’obiettivo dichiarato, ha precisato il Direttore Generale, non è solo favorire l’adozione di nuove tecnologie, ma costruire un linguaggio comune tra amministrazioni pubbliche e mercato, definendo standard tecnici, modelli economici e strumenti contrattuali che consentano alla PA di dialogare con i fornitori in modo più consapevole e strutturato.

La consultazione si chiude: i prossimi passaggi istituzionali

L’11 aprile 2026 si è concluso il periodo di consultazione pubblica. Attraverso la piattaforma Forum Italia, amministrazioni, imprese e cittadini hanno avuto la possibilità di inviare osservazioni, proposte di modifica e suggerimenti sia sul piano editoriale sia su quello tecnico. Tra i contributi pervenuti nella fase finale, si segnala quello dell’Osservatorio sulla IA per i Comuni Italiani di ANFoV, pubblicato il 10 aprile 2026.

Al termine della raccolta dei contributi, i documenti saranno aggiornati e trasmessi ad almeno tre soggetti istituzionali per i rispettivi pareri obbligatori: la Conferenza Unificata Stato-Regioni-Enti locali, il Garante per la protezione dei dati personali e il Ministero delle Imprese e del Made in Italy (MIMIT), che gestisce la procedura di notifica alla Commissione Europea. Solo al termine di questo iter le Linee Guida acquisiranno forza vincolante per tutte le PA.

Oggi, 13 aprile: AgID Academy sul tema dell’IA agentica

In stretta continuità con la chiusura della consultazione, AgID ha organizzato per oggi, lunedì 13 aprile 2026, dalle ore 15:30 alle 17:00, il webinar “Agentic AI: tra autonomia e responsabilità”, promosso da AgID Academy. L’evento è aperto a tutti e affronta uno dei nodi più critici per il futuro dell’IA nella PA: la transizione verso sistemi capaci non solo di rispondere a istruzioni, ma di pianificare e svolgere attività in modo autonomo, interagendo con applicazioni e servizi digitali per perseguire obiettivi complessi.

Il webinar è introdotto dallo stesso Direttore Generale Mario Nobile e moderato da Paola Liberace, Dirigente dell’Area Risorse Umane e Academy di AgID. Intervengono il Prof. Giuseppe Italiano, Prorettore per l’Artificial Intelligence e le Digital Skills e ordinario di Ingegneria Informatica presso la LUISS Guido Carli, e il Prof. Mario De Caro, titolare della Cattedra UNESCO “Ethics of Artificial Intelligence and Practical Wisdom” presso l’Università Roma Tre e Presidente della Society for the Ethics and Politics of AI (SEPAI).

Una parte centrale dell’incontro è dedicata alle implicazioni sul piano della responsabilità, all’importanza del controllo umano e alle sfide etiche che emergono inevitabilmente con l’adozione di sistemi capaci di prendere decisioni e agire in modo indipendente: temi che le Linee Guida appena chiuse in consultazione affrontano attraverso la classificazione dei livelli di autonomia dei sistemi di IA.

Il collegamento con la sicurezza informatica è diretto. Un’analisi del CERT-AgID, anch’essa pubblicata nelle ultime ore, evidenzia come un agente IA, se non correttamente interfacciato, possa inavvertitamente rivelare informazioni sensibili o eseguire errori progettuali presenti nel codice a cui è collegato. La sicurezza deve quindi essere considerata una componente integrante dell’architettura fin dall’inizio e non un elemento accessorio aggiunto a posteriori.

Il percorso verso una PA “agentica”: le sfide aperte

L’IA agentica rappresenta oggi uno dei fronti più delicati per le pubbliche amministrazioni. Come emerso anche in occasione del “Digital Experience FORUM PA” del 10 aprile scorso, la transizione verso sistemi capaci di agire in modo autonomo introduce sfide di sicurezza senza precedenti: dalla gestione del rischio di prompt injection alla governance degli accessi, dalla responsabilità decisionale alla verifica delle azioni eseguite da sistemi multi-agente.

Tra gli obiettivi dichiarati di AgID figura la creazione di un registro di soluzioni di IA adottate dalle PA, che favorisca il riuso e superi le logiche isolate di sperimentazione. Un approccio che richiama direttamente i principi di neutralità tecnologica e apertura degli ecosistemi già sanciti nelle Linee Guida in corso di adozione.

In sintesi: uno spartiacque per la PA digitale italiana

Il percorso avviato con la Determinazione n. 43/2026 segna un passaggio significativo nella maturazione del dibattito pubblico sull’intelligenza artificiale nella PA italiana. Non si tratta più soltanto di capire dove usare l’IA, ma di stabilire con quali regole, con quali limiti e con quali garanzie. Le Linee Guida AgID per lo sviluppo e il procurement delineano un quadro unitario che affronta in modo coordinato progettazione dei sistemi, acquisizione delle soluzioni, gestione e monitoraggio nel tempo, nel pieno rispetto dei principi di trasparenza, responsabilità e controllo umano sulle decisioni automatizzate.

L’iter istituzionale è ora aperto. Nei prossimi mesi si conoscerà l’esito delle valutazioni della Conferenza Unificata, del Garante Privacy e del MIMIT. Solo allora le Linee Guida diventeranno obbligatorie per tutte le amministrazioni pubbliche italiane, segnando un punto di non ritorno nel rapporto tra Stato e intelligenza artificiale.

https://www.ictsecuritymagazine.com/notizie/agid-intelligenza-artificiale-pa-linee-guida-procurement/

L’Europa annuncia un passo in avanti sul contrasto al Deepfake Porn: il 26 marzo 2026 il Parlamento UE ha varato una misura che intende colpire le cosiddette nudify apps, nate per generare o alterare immagini di persone reali tramite l’intelligenza artificiale e creare contenuti espliciti senza il loro consenso.

Nello specifico si tratta di un emendamento all’AI Act, parte del più generale processo di revisione noto come “Digital Omnibus” e avviato nel novembre 2025 allo scopo dichiarato di semplificare e aggiornare la normativa comunitaria alla luce del rapido sviluppo delle tecnologie digitali.

Come già avvenuto in altri campi, l’intelligenza artificiale ha avuto un impatto dirompente anche sulla diffusione di contenuti sessualmente espliciti. Oltre a trasformare l’industria legale dell’intrattenimento per adulti, l’estrema accessibilità degli strumenti che usano l’AI per produrre materiale pornografico a partire da immagini o video di persone inconsapevoli (inclusi minorenni) sta abilitando forme di abuso sempre più pervasive.

Deepfake Porn: un fenomeno in crescita allarmante

Il termine deepfake può indicare ogni tipologia di contenuto audiovisivo digitale creato e/o alterato mediante AI.

Sebbene si tratti di un’attività teoricamente lecita, è noto già da anni come ciò possa prestarsi a numerosi utilizzi illeciti.

Una specifica tipologia è infatti rappresentata dal deepnude, che parte dall’immagine di una persona reale per generarne altre di natura esplicita.
La stragrande maggioranza di tali contenuti rappresenta corpi femminili in scenari sessuali: secondo le Nazioni Unite, “deepfake pornography made up 98% of all deepfake videos online and 99% depicted women, according to a 2023 report”.

Il medesimo report registra una crescita superiore al 500% dei video deepfake circolanti a partire dal 2019, evidenziando quanto gli strumenti necessari a crearli siano ormai “widely available, usually free, and require very little technical expertise”.

Come in altri casi di Technology Facilitated Gender-based Violence (TFGBV) – in particolare nella categoria dell’Image Based Sexual Abuse (IBSA) – una volta pubblicati i contenuti sono quasi impossibili da rimuovere; “once posted, AI generated content can be replicated endlessly, saved to private devices and shared across platforms, making it nearly impossible to fully remove”.

Le persone coinvolte rischiano di soffrire gravi effetti psicologici ed emotivi, nonché professionali e reputazionali, in conseguenza dell’essere state associate a materiali pornografici diffusi online.

Cosa sono le nudify apps?

Nell’ambito del Deepfake Porn, si è sviluppato un fiorente mercato dedicato ad app e software che in poche mosse consentono di “denudare” una persona partendo da un’immagine in cui appaia parzialmente o completamente vestita.

Sebbene tale possibilità esistesse già da diversi anni, la massiccia diffusione di strumenti semplici e gratuiti (o comunque a prezzi molto accessibili) ha trasformato una realtà marginale in un fenomeno dilagante: secondo una ricerca condotta dal Centre for Countering Digital Hate, il solo GROK avrebbe prodotto – in un periodo di osservazione di appena 10 giorni – ben 3 milioni di immagini sessualmente esplicite e 23.000 contenuti relativi ad abusi su minori.

Più di recente, la Internet Watch Foundation (IWF) ha pubblicato i risultati di un’indagine che conferma come nel 2025 siano stati diffusi migliaia di “AI-generated images and videos of realistic child sexual abuse”.

Anche in questo caso, è evidente come la circolazione di immagini a carattere intimo che rappresentano minori reali e riconoscibili rischi di avere effetti devastanti sulla loro sicurezza presente e futura.

Le normative sul Deepfake Porn nel mondo

Mentre la creazione e la diffusione di immagini ritraenti minori sono severamente proibite ovunque, i contenuti che mostrano soggetti adulti sono rimasti a lungo in una “zona grigia” sul piano legale.

Soltanto negli ultimi anni, anche in seguito al clamore mediatico creatosi intorno ad alcune “vittime eccellenti” – come la cantante Taylor Swift – molti Paesi hanno iniziato ad adottare normative per contenere questo fenomeno e sanzionare i responsabili.

Vediamone le principali.

Regno Unito: già dal 2023, l’Online Safety Act proibisce la diffusione di immagini esplicite manipolate digitalmente, senza tuttavia rivolgersi in modo specifico alla creazione di contenuti mediante AI; per colmare tale lacuna, nel 2025 il Data (Use and Access) Act ha previsto come reato “to create or request the creation of non-consensual intimate images”.

Corea del Sud: alla luce di oltre 800 casi in un solo anno, nel 2024 il governo di Seoul ha adottato una delle normative più rigorose al mondo in tema di deepfake, vietando i contenuti espliciti generati tramite AI e prevedendo fino a 3 anni di carcere per chi detenga o visioni tali contenuti, nonché fino a 7 per chi li generi a fini di distribuzione.

Singapore: nello stesso anno sono state introdotte pene severe per i responsabili di truffe o estorsioni conseguenti alla creazione di deepfake a natura sessuale, sulla scorta di numerosi scandali verificatisi nei mesi precedenti.

Stati Uniti: il “Take It Down Act” (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks) del 2025 criminalizza la pubblicazione non consensuale di immagini intime, citando esplicitamente i deepfakes; entro il 19 maggio 2026, ogni piattaforma che ospiti contenuti creati dagli utenti deve dotarsi di sistemi per la segnalazione e rimozione di materiali espliciti creati senza il consenso delle persone ritratte.

Messico: sempre nel 2025, il Congresso ha approvato una legge che prevede fino a 5 anni di carcere (e significative sanzioni pecuniarie) per chiunque crei o diffonda senza consenso materiali a contenuto sessuale manipolati tramite l’AI, includendo espressamente ogni applicazione, programma o tecnologia capace di alterare o modificare fotografie, file audio, video o qualsiasi altro materiale grafico.

Brasile: a marzo 2026, il codice penale è stato aggiornato per includere nuove sanzioni nei confronti di chi alteri l’immagine o la voce di una persona mediante l’uso di AI o altre tecnologie; per i siti o piattaforme che consentano la pubblicazione di materiali espliciti così prodotti, sono previste multe fino al 2% del fatturato annuale.

Molti altri Paesi – come l’Australia o il Canada – hanno annunciato di star elaborando simili normative, confermando la percezione globale del Deepfake porn come minaccia concreta ed estremamente attuale.

Anche la nuova UN Cybercrime Convention prevede per gli Stati contraenti l’obbligo di criminalizzare la condivisione di Non-Consensual Intimate Imagery (NCII), includendo le immagini di persone reali create o modificate dall’intelligenza artificiale; e l’Unione Europea aveva già provveduto ad adottare alcune misure di contrasto.

Il divieto di deepnudes: direttiva europea e legge italiana

In effetti la Direttiva (UE) 2024/1385, adottata nel 2024 e dedicata al contrasto della violenza contro le donne, proibisce “creating and distributing pornographic material digitally altered to make it appear that a person is involved without their consent”.

Un’ipotesi che – pur non menzionando esplicitamente gli strumenti basati sull’AI – potrebbe applicarsi anche ai contenuti generati dalle nudify apps.

Tuttavia, come noto, le direttive non sono immediatamente applicabili negli Stati membri; al contrario richiedono passaggi applicativi che non tutti i componenti dell’Unione hanno ancora compiuto, portando a una disparità di tutele tra i vari Paesi UE.

Inoltre la direttiva subordina l’illiceità dei deepfake alla circostanza che siano idonei a provocare seri danni (“likely to cause serious harm”), lasciando un ampio margine interpretativo circa la valutazione di tali requisiti.

Analogamente, in Italia l’art. 612 quater c.p. (introdotto dalla legge n. 132/2025) punisce con la reclusione fino a cinque anni “chiunque cagiona un danno ingiusto ad una persona, cedendo, pubblicando o altrimenti diffondendo, senza il suo consenso, immagini, video o voci falsificati o alterati mediante l’impiego di sistemi di intelligenza artificiale”.

La scelta di mutuare dalla direttiva l’elemento del “danno ingiusto” rischia così di limitare l’applicabilità della norma italiana, lasciando alla vittima l’onere della prova in merito agli effetti dell’abuso.

Ulteriori profili di rischio dei Deepnudes

Oltre alle citate conseguenze psicologiche e reputazionali, un deepfake diffuso sul web può esporre la persona ritratta ad attenzioni indesiderate (e potenzialmente pericolose), mettendo a repentaglio la sua sicurezza fisica ed emotiva.

Ma i deepnude hanno già dimostrato di comportare ulteriori profili di rischio: è il caso delle finte app che promettono di creare gratuitamente materiali erotici, in realtà utilizzate da gruppi cyber criminali per indurre gli utenti a scaricare contenuti malevoli con cui sottrarre le loro credenziali per poi condurre attacchi informatici mirati.

I deepfake possono altresì potenziare i casi di sextortion, dove immagini o video intimi generalmente ottenuti con l’inganno sono utilizzati per ricattare qualcuno al fine di estorcere denaro (di solito in criptovalute) o di farsi inviare ulteriori immagini private, minacciando in caso contrario di pubblicarli online.

E anche laddove i materiali in questione vengano creati o modificati artificialmente, non è difficile immaginare come una persona potrebbe finire per cedere al ricatto sull’onda del timore per la propria reputazione personale e professionale.

Conclusioni: contro il Deepfake abuse serve più consapevolezza

Alla luce dei molteplici profili di rischio evidenziati, nonché della rapidità con cui si evolvono le tecnologie, sembra utopico ipotizzare che il solo strumento normativo – tanto a livello nazionale quanto sovranazionale – possa risultare sufficiente ad arginare il fenomeno deepfake.

Risultano senz’altro utili i tentativi di coinvolgere le aziende nella prevenzione degli abusi basati sull’AI; ma difficilmente i colossi tech rinunceranno ai relativi lauti guadagni, al più limitandosi a prevedere meccanismi di age verification e segnalazione/rimozione dei contenuti illegali che tuttavia, proprio come i rimedi giurisdizionali, intervengono quando il danno si è già verificato.

Allo stesso modo, le possibili contromisure tecniche – come il watermarking delle immagini – rischiano di rivelarsi presto superate dall’evoluzione degli strumenti digitali.

Fondamentale, allora, è impegnarsi nel costruire una cultura del consenso a partire dalle giovani generazioni, creando consapevolezza circa i pericoli e le gravi conseguenze potenzialmente derivanti dalla creazione e diffusione di materiali non consensuali online, affinché lo sviluppo delle tecnologie non divenga sempre più uno strumento per ledere la dignità delle persone.

Profilo Autore

Con una laurea in Giurisprudenza conseguita presso l’Università degli Studi Roma Tre – seguita da un dottorato di ricerca in Economia e Diritto delle Relazioni Internazionali – Irene Salvi è docente in diversi Master e Corsi formativi, nonché giornalista pubblicista e ricercatrice indipendente sul tema dell’intersezione tra diritti individuali, libertà civili e tecnologie digitali.

Dal 2020 è consigliera di una rete internazionale attiva nel contrasto alla violenza di genere; nel 2025 ha partecipato al PRIN-PNRR “Gendering Internet. Violence, Resilience and Empowerment in digital spaces” (GIVRE), condotto dalla Sapienza insieme a Università di Padova e Link University, primo progetto di ricerca sul fenomeno della violenza digitale di genere in Italia.

https://www.ictsecuritymagazine.com/articoli/ai-act-nudify-apps/

La Corte d’Appello federale della Columbia dà ragione al Pentagono: Anthropic rimane un rischio per la sicurezza della supply chain

Anthropic è quindi un problema per la sicurezza nazionale degli Stati Uniti, o no? A questa domanda non sarà facile rispondere definitivamente, perché per un po’ di tempo assisteremo a uno scontro tra tribunali a suon di sentenze. Una sceneggiatura buona per un film del tipo courtroom drama all’americana, dove i colpi di scena non mancheranno.

La battaglia legale tra Anthropic e il Pentagono entra quindi in una nuova fase, che per ora sorride all’amministrazione Trump. La Corte d’Appello federale del Distretto di Columbia ha infatti respinto la richiesta urgente della società di sospendere la propria designazione come “rischio per la sicurezza della catena di approvvigionamento”, lasciando in vigore il provvedimento del Dipartimento della Guerra (ex Difesa).

La decisione dei giudici non rappresenta ancora un verdetto definitivo, ma segna un passaggio chiave: il tribunale ha rifiutato di bloccare temporaneamente la misura, consentendo al Pentagono di continuare a escludere Anthropic dai contratti militari e, potenzialmente, da una più ampia platea di forniture federali.

La società, sviluppatrice dell’assistente AI Claude, aveva chiesto una sospensione sostenendo che la designazione le avrebbe causato danni economici e reputazionali per miliardi di dollari. I giudici hanno riconosciuto il rischio di tali danni, ma hanno ritenuto prevalenti le esigenze di sicurezza nazionale e operatività militare.

L’acting Attorney General, Todd Blanche, ha definito la decisione “una vittoria per la prontezza militare”, ribadendo in un post che “l’autorità militare e il controllo operativo appartengono al comandante in capo e al Dipartimento della Guerra, non a una società tecnologica”.

Lo scontro sull’uso dell’AI in guerra

Alla base del contenzioso c’è una frattura profonda tra governo e azienda sull’impiego dell’intelligenza artificiale in ambito militare. Il segretario alla Guerra, Pete Hegseth, ha classificato Anthropic come rischio per la supply chain dopo che la società si era rifiutata di rimuovere alcuni limiti (guardrail) dai propri modelli, in particolare per applicazioni legate alla sorveglianza e alle armi autonome.

Una posizione coerente con la linea dichiarata dall’azienda sulla sicurezza dell’AI, ma che, secondo il Dipartimento della Difesa, avrebbe potuto generare incertezza operativa fino a compromettere sistemi militari in contesti critici.

Il governo sostiene che la decisione non sia legata alle opinioni di Anthropic, bensì al rifiuto di accettare determinate clausole contrattuali. Di segno opposto la tesi dell’azienda, che accusa Washington di aver violato il Primo Emendamento (libertà di espressione) e il Quinto Emendamento (diritto al giusto processo), non avendo potuto contestare formalmente la designazione.

Un’accusa riconosciuta valida da una sentenza favorevole ad Anthropic emessa da un Tribunale della California appena due settimane fa.

Un caso senza precedenti

La misura adottata dal Pentagono è senza precedenti: è la prima volta che una società americana viene pubblicamente etichettata come rischio per la sicurezza della catena di approvvigionamento sulla base di norme pensate per prevenire sabotaggi o infiltrazioni nemiche.

Il caso si inserisce inoltre in un contesto paradossale: nel 2025 Anthropic aveva firmato un contratto da 200 milioni di dollari con il Dipartimento della Difesa, portando Claude all’interno delle reti classificate del governo e nei laboratori nucleari, con funzioni anche di analisi di intelligence.

La rottura è quindi recente e riflette un cambio di clima politico e strategico sull’uso dell’AI in ambito militare.

I prossimi passaggi: verso una decisione di merito

Il cuore della partita si giocherà ora nel merito. La stessa Corte del Distretto di Columbia ha accelerato il calendario e dovrebbe pronunciarsi già il 19 maggio 2026 sulla legittimità della designazione.

In quella sede i giudici dovranno stabilire se la misura sia: fondata su elementi concreti, proporzionata rispetto ai rischi e compatibile con i diritti costituzionali invocati da Anthropic.

La decisione avrà effetti anche sugli altri procedimenti federali, contribuendo a definire un precedente cruciale nel rapporto tra sicurezza nazionale e libertà delle imprese tecnologiche.

Possibile escalation alla Corte Suprema

Qualunque sia l’esito, è probabile che la vicenda non si chiuda lì. Se la linea favorevole al Pentagono dovesse essere confermata, Anthropic potrebbe rivolgersi alla Corte Suprema, puntando soprattutto sul tema del Primo Emendamento.

Allo stesso modo, una decisione contraria al governo potrebbe spingere il Dipartimento della Difesa o la Casa Bianca a chiedere un intervento del massimo organo giudiziario.

Un contesto di crescente allarme sull’AI

Il caso giudiziario si intreccia con un clima di crescente preoccupazione istituzionale. Secondo Bloomberg, il segretario al Tesoro, Scott Bessent, e il presidente della Federal Reserve, Jerome Powell, hanno recentemente convocato i vertici delle principali banche di Wall Street, tra cui Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) e David Solomon (Goldman Sachs), per discutere dei rischi informatici legati ai nuovi modelli di AI, incluso il sistema “Mythos” sviluppato da Anthropic.

Il timore è che una nuova generazione di attacchi cyber possa mettere sotto pressione infrastrutture finanziarie sistemiche.

Una posta in gioco da centinaia di miliardi

La controversia arriva in un momento di crescita straordinaria per Anthropic. La valutazione della società è passata da oltre 65 miliardi di dollari nel marzo 2025 a circa 350 miliardi all’inizio del 2026, con previsioni di 400-600 miliardi in vista della quotazione in Borsa.

Il fatturato annualizzato ha superato i 30 miliardi di dollari ad aprile 2026, mentre il valore delle stock option dei dipendenti è aumentato rapidamente, moltiplicandosi fino a dieci volte in alcuni casi. Aprendo di fatto una sfida tecnologica e di potere con OpenAI di Sam Altman.

Proprio questa espansione rende la posta in gioco ancora più elevata: una conferma definitiva della “blacklist” potrebbe incidere profondamente sul posizionamento dell’azienda nei mercati pubblici e nei rapporti con governi e grandi clienti istituzionali.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/anthropic-nuova-sentenza-della-corte-federale-e-round-favorevole-al-pentagono-e-trump/569068/

Chi governa l’AI? E soprattutto, chi non può farlo? In Italia non se n’è parlato troppo, ma il 4 marzo 2026, nella Indian Treaty Room della Casa Bianca, i vertici di Amazon, Google, Meta, Microsoft, OpenAI, Oracle e xAI hanno firmato il Ratepayer Protection Pledge,cioè un impegno formale a coprire i costi energetici dei propri data center senza riversarli sulle bollette dei consumatori americani.

Il tutto è avvenuto circa una settimana dopo il primo attacco degli Stati Uniti e di Israele contro l’Iran, e prima che gli effetti del conflitto cominciassero a farsi sentire sui consumi (per chi cerca offerte ancora convenienti per gas ed elettricità, il comparatore di SOSTariffe.it aiuta a non perdersi in un mercato sempre più agitato).

L’amministrazione Trump ha presentato l’accordo come una risposta al malcontento bipartisan che si è diffuso in tutto il Paese a causa dell’impennata dei consumi elettrici legata alla corsa all’intelligenza artificiale: i data center, com’è noto, consumano enormi quantità di energia, e molte comunità locali – dai sobborghi della Virginia settentrionale alle aree rurali del Tennessee – hanno già sperimentato gli effetti di questa domanda in rapidissima crescita sotto forma di tariffe più alte e infrastrutture ormai sovraccariche.

Secondo il testo stipulato e comunicato dalla Casa Bianca, le aziende firmatarie dovranno «costruire, acquistare o procurarsi» autonomamente l’elettricità necessaria, attraverso la stipula di tariffe separate con le utility e facendosi carico dei costi di adeguamento della rete. Se sul piano comunicativo l’evento è stato efficace, e salutato da qualcuno come un primo paletto messo allo strapotere dei giganti dell’intelligenza artificiale, a un livello più pratico le perplessità degli esperti non sono mancato. L’accordo, per prima cosa, è volontario e non esecutivo, e la regolamentazione delle tariffe elettriche è materia di competenza statale e locale, un’area in cui il governo federale, di fatto, ha margini di intervento assai limitati. Insomma: il rischia è che siano belle parole e poco altro (non sarebbe nemmeno la prima volta, in ambito AI).

Washington contro gli Stati

Il nodo della regolamentazione dell’AI negli Stati Uniti riguarda infatti non solo i consumi energetici ma l’intero impianto normativo che riguarda un settore la cui espansione, come sappiamo, sembra non conoscere sosta. Da oltre tre anni il governo federale, nelle sue varie incarnazioni, ha prodotto ordini esecutivi, linee guida e framework di ogni tipo, nessuno dei quali è diventato una legge vera e propria. Nel frattempo numerosi Stati hanno cercato di colmare il vuoto con esiti molto diversi.

La California, ad esempio, ha emanato un ordine esecutivo che obbliga le aziende AI che lavorano con enti pubblici a rispettare standard di sicurezza e privacy; New York ha approvato una legge sull’obbligo di segnalazione degli incidenti AI; l’Illinois ha introdotto requisiti di trasparenza per l’uso dell’AI nelle assunzioni.

La pressione della Casa Bianca sugli Stati dell’Unione sembra però andare in senso opposto, visto che l’amministrazione si è dichiarata «categoricamente contraria» a una proposta di legge dello Utah che avrebbe obbligato i developer AI a pubblicare piani di sicurezza e protezione dei minori, di fatto bloccandola. In Florida, lo Stato dove il governatore DeSantis che aveva promosso un proprio AI Bill of Rights, la Camera dei Rappresentanti ha sabotato il provvedimento per non contrariare Trump.

A marzo 2026, la Casa Bianca ha diffuso un framework legislativo nazionale che chiede al Congresso di prevedere la supremazia federale sulle leggi statali in materia di AI. Sul fronte opposto, oltre cinquanta parlamentari repubblicani di vari Stati hanno scritto al Presidente per chiedere di non ostacolare la legislazione locale. Al momento, la legge-quadro sull’AI non è legge operativa e la sua approvazione al Congresso resta ancora incerta.

L’Europa rallenta (ma non su tutto)

In Europa il percorso sembra essere diverso, anche se il risultato non è granché più rassicurante. L’AI Act europeo è entrato in vigore nel 2024, ma è evidente che molte delle sue disposizioni più rilevanti siano state ritardate o ammorbidite fino a essere quasi innocue prima ancora di essere applicate.

Pochi giorni fa, il Parlamento europeo ha adottato con 569 voti favorevoli e 45 contrari una posizione sul cosiddetto «Digital Omnibus», che modifica il regolamento precedentemente adottato. Le scadenze per i sistemi di AI ad alto rischio (per capirci, quelli che operano in settori come biometria, infrastrutture critiche, occupazione, istruzione, forze dell’ordine e gestione delle frontiere) sono state spostate al 2 dicembre 2027, mentre per i sistemi regolati da normative settoriali specifiche, come i dispositivi medici, la data è ancora più avanti, il 2 agosto 2028.

La motivazione ufficiale è che gli standard tecnici e gli strumenti di supporto necessari alle aziende per l’implementazione non sarebbero ancora pronti, ma in tanti hanno segnalato che il rinvio rischia di lasciare una parte enorme del mercato fuori dalla portata del regolamento nel momento in cui i sistemi sono già ampiamente diffusi.

Non tutto, però, va nella direzione del rallentamento: il Parlamento ha approvato il divieto dei cosiddetti nudifier, le applicazioni che generano immagini sessualmente esplicite di persone reali identificabili senza il loro consenso. Si tratta di una delle prime proibizioni esplicite di una categoria specifica di prodotti AI a livello europeo, il cui campo di applicazione e le date di entrata in vigore saranno definiti nel negoziato con il Consiglio.

Un quadro globale ancora provvisorio

Il quadro complessivo dipinto da queste ultime settimane di attività legislativa, insomma, è quello di un mondo che prova a regolare una tecnologia che ha già preso forme difficili da contenere. Negli Stati Uniti l’amministrazione federale frena gli Stati ma non produce norme vincolanti, mentre in Europa il regolamento più ambizioso del mondo viene limato e rinviato prima di entrare a regime.

In entrambi i casi, la velocità di sviluppo dell’AI è sempre un passo avanti (se non di più) a quella dei processi normativi, e le pressioni economiche e geopolitiche (in primo luogo la competizione con la Cina, la corsa ai data center, i timori sulle bollette acuiti dalle crisi internazionali) continuano a fare da contraltare alle istanze di trasparenza e protezione dei cittadini. Le leggi sul controllo dell’AI sono ancora un cantiere aperto, ma la tecnologia non aspetta.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/da-washington-a-bruxelles-le-strategie-per-il-controllo-dellai/568945/

Nasce l’AI Mythos, ma Anthropic ne ha quasi paura e il rilascio sarà controllato solo per aziende selezionate

Nel mezzo di uno scontro senza precedenti con il dipartimento della Guerra e lo stesso Presidente americano Donald Trump, Anthropic ha avviato una distribuzione estremamente limitata di Mythos, un nuovo modello di intelligenza artificiale (AI) che, secondo fonti governative e industriali, rappresenta un salto qualitativo senza precedenti nel campo della sicurezza informatica. Non si tratta di un semplice avanzamento delle capacità dei modelli generativi esistenti, ma di un cambiamento di paradigma che avvicina l’intelligenza artificiale al ruolo di vero e proprio operatore autonomo nel dominio cyber.

Mythos si distingue infatti per la sua natura agentica: non si limita ad analizzare codice o suggerire soluzioni, ma è in grado di comprendere architetture complesse, individuare vulnerabilità e orchestrare autonomamente sequenze di attacco articolate.
Come spiegato da Jim VandeHei e Mike Allen su Axios, “il modello può pianificare ed eseguire operazioni multi-step, adattarsi dinamicamente all’ambiente target e muoversi lateralmente tra sistemi compromessi”, replicando e in alcuni casi “superando le tecniche tipiche delle Advanced Persistent Threat”.

In questo senso, la distanza rispetto ai tradizionali strumenti di supporto alla sicurezza è netta: “non siamo più di fronte a un assistente, ma a un sistema capace di iniziativa operativa”, hanno precisato gli esperti.

Il test di laboratorio che ha messo paura ad Anthropic

Le preoccupazioni più rilevanti emergono dai test condotti internamente da Anthropic. Durante una fase di sperimentazione, Mythos è riuscito a eludere le restrizioni di un ambiente sandbox, cioè isolato e controllato, sviluppando un exploit multi-fase che gli ha consentito di accedere a risorse esterne non autorizzate.

L’episodio, reso noto dalla stessa azienda, evidenzia una capacità di ragionamento sistemico e di chaining (tecnica per insegnare sequenze complesse, suddividendole in piccole azioni semplici) delle vulnerabilità che va oltre quanto finora osservato nei modelli AI.
Ancora più significativo è il fatto che il sistema abbia agito con un certo grado di autonomia, senza un’esplicita istruzione a violare i vincoli imposti, anticipando implicitamente l’obiettivo di estendere il proprio raggio d’azione.

Una combinazione rischiosa di autonomia, capacità ed adattabilità

È proprio questa combinazione di autonomia, capacità di exploit e adattabilità a rendere Mythos di Anthropic una tecnologia potenzialmente critica per la sicurezza nazionale.

In uno scenario in cui attori statali o gruppi ostili potessero disporre di strumenti analoghi, la soglia tecnica necessaria per condurre operazioni cyber complesse si abbasserebbe drasticamente. Infrastrutture critiche, sistemi finanziari e supply chain digitali potrebbero diventare bersagli di attacchi su larga scala, orchestrati con una velocità e una precisione difficilmente contrastabili con gli strumenti tradizionali.

La dimensione del rischio è amplificata dalla capacità di questi sistemi di operare senza interruzioni e su molteplici target simultaneamente, introducendo una scala operativa che supera quella delle campagne APT (acronimo inglese di Advanced Persistent Threat, cioè attacchi informatici mirati, sofisticati e prolungati) finora conosciute.

Con le super AI difficile individuare gli attori di un cyber attacco

A ciò si aggiunge un ulteriore elemento di complessità: l’attribuzione. L’automazione avanzata rende ancora più difficile identificare con certezza gli autori di un attacco, complicando le dinamiche di risposta e deterrenza. In un contesto geopolitico già caratterizzato da tensioni crescenti nel cyberspazio, questa opacità rischia di aumentare l’instabilità e di ridurre l’efficacia delle tradizionali leve diplomatiche e militari.

Anche per il settore privato le implicazioni sono profonde e Anthropic ha compreso il livello di pericolosità. Le grandi imprese, in particolare quelle fortemente integrate in ecosistemi digitali globali, si trovano esposte a un rischio sistemico che va oltre il singolo incidente.

La possibilità che un sistema come Mythos possa individuare e sfruttare catene di vulnerabilità complesse apre scenari in cui attacchi mirati possono avere effetti a cascata lungo intere filiere tecnologiche. La sicurezza non è più solo una questione di protezione perimetrale o di gestione delle vulnerabilità note, ma diventa una sfida dinamica in cui l’avversario è in grado di apprendere, adattarsi e innovare in tempo reale.

Mythos sarà testata solo da 40 organizzazioni

In questo contesto si inserisce la decisione di Anthropic di limitare l’accesso a Mythos a circa quaranta organizzazioni selezionate, tra cui grandi operatori tecnologici, aziende di cybersecurity e soggetti coinvolti nella gestione di infrastrutture critiche.

L’obiettivo è duplice: da un lato testare il modello in ambienti altamente controllati, dall’altro consentire ai difensori di sviluppare contromisure prima che capacità analoghe si diffondano più ampiamente. Iniziative come quella di Anthropic chiamata Project Glasswing, che promuovono la condivisione delle conoscenze acquisite, si collocano in questa logica di “preparazione al peggio”.

Tra i partner selezionati figurano Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA e Palo Alto Networks.

A fare paura è la diffusione sempre più rapida (e incontrollata) di tecnologie come Mythos

Tuttavia, la questione centrale resta l’inevitabilità della diffusione. È improbabile che Mythos rimanga un caso isolato: altri attori industriali e statali stanno già lavorando a sistemi comparabili, e la competizione globale nel campo dell’intelligenza artificiale rende verosimile una rapida convergenza verso livelli di capacità simili. Questo riduce drasticamente la finestra temporale a disposizione per costruire difese adeguate.

Ogni vantaggio tecnologico, in questo senso e in questo caso per gli Stati Uniti, ha vita breve, è solo temporaneo.

Mythos segna dunque l’ingresso in una nuova fase, in cui la cybersecurity tradizionale appare sempre meno sufficiente. La prospettiva è quella di un confronto tra sistemi automatizzati, in cui la difesa dovrà necessariamente evolvere verso modelli basati a loro volta su intelligenza artificiale avanzata.
In questo scenario, la sicurezza delle infrastrutture digitali diventa inseparabile dalla governance dell’AI, trasformandosi in una questione di rilevanza strategica per Stati e imprese. Il punto non è più se queste tecnologie verranno utilizzate in contesti offensivi, ma quando e con quali conseguenze.

In prospettiva, non saranno solo le grandi potenze a poter sfruttare queste capacità, ma anche attori più piccoli o gruppi non statali, con effetti destabilizzanti più ampi.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/anthropic-rilascia-mythos-la-super-ai-che-mette-in-crisi-la-cyber-sicurezza-di-imprese-e-nazioni/568805/

Dalla sovranità alla resilenza tecnologica, gli investimenti in AI premiano la sicurezza: 123 miliardi di dollari in Europa tra il 2016 ed il 2025

Tra il 2016 e il 2025 gli investimenti diretti esteri nell’intelligenza artificiale (AI) sono cresciuti di circa 200 volte, mentre il numero di progetti annuali è aumentato di circa 20 volte. Oggi, solo nell’Unione europea, questi flussi valgono oltre 123 miliardi di dollari, segnale di una competizione globale che si gioca sempre meno sulla proprietà delle tecnologie e sempre più sulla capacità di attrarre capitali, competenze e infrastrutture.

È da questi numeri che bisogna partire per comprendere il vero cambio di paradigma in atto nell’economia dell’intelligenza artificiale. Secondo il rapporto “For Most Countries, AI Sovereignty Is an Illusion. Resilience Is Real”, pubblicato da Boston Consulting Group Henderson Institute e firmato da Nikolaus Lang, Matt Langione, Sesh Iyer, Amartya Das e David Zuluaga Martínez, la sovranità tecnologica, così come è stata finora concepita, è destinata a rimanere un’illusione per la maggior parte dei Paesi. La nuova parola chiave è resilienza.

L’impari lotta tra Big Tech e Stati, come la sovranità AI diventa difficile (se non rischiosa)

Per anni, si legge nel Report, governi e istituzioni hanno inseguito l’idea di controllare l’intera catena del valore dell’AI: infrastrutture, modelli, dati. Una strategia comprensibile in un contesto geopolitico segnato da tensioni crescenti tra Stati Uniti, Cina e blocchi regionali, dove l’intelligenza artificiale è al tempo stesso leva economica e strumento di potere.

Ma la realtà industriale, secondo gli studiosi che hanno realizzato il documento, racconta un’altra storia. La costruzione di un ecosistema completamente autonomo richiede una combinazione di capitale, capacità ingegneristiche e scala che solo poche superpotenze possono permettersi. Anche quando gli Stati intervengono con programmi ambiziosi, il divario con il settore privato resta enorme, vincono le asimmetrie strutturali.

Il caso dell’India è emblematico: il programma pubblico IndiaAI ha raggiunto circa 62.000 GPU, dopo un investimento iniziale di circa 1,1 miliardi di dollari. Nello stesso arco temporale, Microsoft ha acquistato da sola circa 485.000 GPU di nuova generazione nel solo 2024, mentre altri grandi laboratori operano cluster superiori alle 100.000 unità.

Siamo all’inversione della gerarchia fra politica e digitale di cui ha parlato su Key4Biz Michele Mezza. Lo Stato non può quasi più nulla contro i giganti tecnologici globali, sia in termini politici e quindi di controllo, che in termini prettamente economici e finanziari. Una questione di supremazia che riguarda ormai solo Stati Uniti e Cina.

La conseguenza è evidente: la sovranità “full stack” non è solo difficile, ma anche rischiosa. Richiede investimenti enormi in tecnologie che potrebbero diventare rapidamente obsolete con l’evoluzione dei paradigmi AI.

Il valore si crea dove l’AI viene usata, con l’obiettivo di “ridurre al minimo le dipendenze critiche”

In questo scenario, il punto cruciale si sposta dall’offerta alla domanda. Secondo il Fondo Monetario Internazionale, l’adozione dell’intelligenza artificiale può contribuire fino al 4% del PIL globale nel prossimo decennio, pari a circa 4.700 miliardi di dollari.

Ma questo valore non si genera nei laboratori dove i modelli vengono sviluppati. Si crea nei luoghi in cui l’AI viene integrata nei processi produttivi, nei servizi e nella pubblica amministrazione. È qui che si gioca la vera partita della competitività.

Il rapporto BCG lo esplicita chiaramente: per la maggior parte dei Paesi, la strategia più efficace consiste nel “usare, adattare e governare l’AI a livello domestico, riducendo al minimo le dipendenze critiche”.

Europa tra ritardi e pragmatismo

L’Europa rappresenta un laboratorio particolarmente interessante di questa transizione. I primi tentativi di costruire una “sovranità cloud” continentale, come il progetto GAIA-X, si sono spesso arenati in complessità burocratiche e risultati limitati.

Negli ultimi anni, però, il continente ha adottato un approccio più pragmatico. Iniziative come i supercomputer LUMI in Finlandia e Leonardo in Italia, sviluppati nell’ambito del programma EuroHPC, non mirano a competere direttamente con gli hyperscaler globali, ma a garantire una base minima di capacità domestica, accessibile a imprese, ricercatori e pubbliche amministrazioni.

È un cambio di prospettiva: non possedere tutto, ma assicurarsi che le applicazioni critiche possano essere eseguite sotto regole nazionali, con livelli adeguati di sicurezza e compliance.

Il ruolo degli investimenti esteri e il nuovo trend di co-progettare la sovranità

In questo contesto, i flussi di investimenti diretti esteri assumono un ruolo strategico. Non sono più solo un indicatore economico, ma uno strumento di politica industriale e geopolitica.

Il rapporto evidenzia come questi investimenti stiano ridisegnando la geografia dell’AI: oltre agli Stati Uniti e alla Cina, capitali e infrastrutture si stanno spostando verso Paesi come India, Corea del Sud e Malesia, mentre l’Europa si conferma uno dei principali poli di attrazione.

L’obiettivo non è eliminare l’interdipendenza, ma progettarla o co-progettarla. È il concetto di “friend-shoring”: costruire catene del valore distribuite tra Paesi alleati, riducendo l’esposizione a singoli punti di vulnerabilità.

Politiche pubbliche: quattro leve per la resilienza

Lo studio del BCG Henderson Institute, basato sull’analisi delle politiche adottate da oltre 30 Paesi tra economie avanzate, emergenti e piccoli Stati, individua infine quattro direttrici fondamentali per costruire resilienza: infrastrutture, fiducia, domanda e partnership.

• Infrastrutture: garantire capacità locale per eseguire carichi di lavoro critici.
• Trust e valori: definire standard operativi che rendano l’AI affidabile e adottabile.
• Adoption pull: incentivare l’uso concreto da parte delle imprese.
• Partnership: attrarre capitali e competenze mantenendo il controllo sulle regole.

Esempi concreti arrivano da tutto il mondo: dal Brasile, che destina circa 4,3 miliardi di dollari al suo piano nazionale AI con il 65% delle risorse orientate all’adozione industriale, alla Corea del Sud, che sostiene le PMI con voucher fino a 140.000 dollari per l’acquisto di soluzioni AI.

AI, potere e geopolitica

Nel contesto attuale, segnato da conflitti commerciali, tensioni tecnologiche e competizione strategica tra blocchi, l’intelligenza artificiale è diventata un’infrastruttura critica, al pari dell’energia o delle telecomunicazioni.

Controllare l’AI significa avere il potere di influenzare catene produttive, sicurezza nazionale, capacità militari e modelli di governance. Per questo, secondo gli autori del Report, la logica della chiusura totale appare sempre meno sostenibile. Così come per il cloud, altra infrastruttura critica e strategica, strettamente legata all’AI, si sta procedendo a combinare le capacità tecnologiche ed industriali degli hyperscaler con le necessità e i requisiti stringenti di governance e controllo locale del dato.

“La vera sfida non è isolarsi, ma costruire sistemi capaci di funzionare anche in condizioni di shock, come di interruzioni delle forniture, restrizioni commerciali e crisi geopolitiche”, è spiegato nel documento.

La nuova sovranità è nella capacità d’uso dell’AI?

Il messaggio finale del rapporto è quindi molto semplice e allo stesso pragmatico: per la maggior parte dei Paesi, la forma più efficace di sovranità non è il controllo diretto della tecnologia, ma la capacità di utilizzarla in modo affidabile, sicuro e conforme alle proprie regole.

Un finale che assomiglia più a una resa alle Big Tech e alla forza degli Stati Uniti che ad una vera e propria strategia di crescita autonoma da parte dell’Europa e degli altri Paesi. Forse un finale anche scontato, vista la sproporzione delle forze economiche e tecnologiche in campo, frutto anche di un gap incolmabile.

In altre parole, pare di capire: la sovranità dell’AI non si misura più in chip posseduti o modelli addestrati, ma nella diffusione dell’intelligenza artificiale nell’economia reale. Un modo come un altro per “accettare” il finale di cui sopra, come condizione di “forza maggiore”. Tornando all’inversione della gerarchia tra politica e tecnologia di Mezza: “non sono più le dimensioni di una potenza ad imporsi ma la capacità di distribuire saperi e competenze” e di fare accettare a tutti gli altri questa condizione di supremazia.

È qui, dunque, in questa “condizione”, che si decide chi guiderà la crescita nei prossimi dieci anni. Ed è qui che l’Europa dovrà dimostrare di saper trasformare il capitale in capacità produttiva, si capisce dallo studio, evitando di restare intrappolata tra ambizioni di autonomia e dipendenze inevitabili.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-investimenti-in-europa-cresciuti-di-200-volte-a-123-miliardi-di-dollari-in-10-anni-la-spesa-premia-la-resilienza/568684/