Agenti AI nella Cybersecurity: la nuova frontiera della Difesa Digitale

Nel panorama in rapida evoluzione della sicurezza informatica, gli agenti AI autonomi rappresentano una rivoluzione fondamentale nelle strategie di protezione digitale. Questi sistemi intelligenti stanno trasformando radicalmente l’approccio alla cybersecurity, passando da un modello difensivo reattivo a uno proattivo e anticipatorio.

Mentre i criminali informatici adottano strumenti sempre più sofisticati basati sull’intelligenza artificiale, lanciando attacchi a velocità macchina e spesso eludendo i tradizionali strumenti di sicurezza, la risposta del settore si sta evolvendo verso l’implementazione di agenti AI autonomi. Questi sistemi sono capaci di analizzare enormi volumi di dati, individuare pattern sottili e rispondere alle minacce quasi istantaneamente, trasformando la difesa da un gioco reattivo di inseguimento a una partita a scacchi proattiva contro le minacce informatiche.

Agentic AI vs Generative AI: una distinzione cruciale

Per comprendere appieno il potenziale rivoluzionario degli agenti AI nella cybersecurity, è essenziale approfondire la distinzione fondamentale tra Generative AI e Agentic AI, due paradigmi con funzionalità e scopi profondamente diversi.

La Generative AI si concentra primariamente sulla creazione di contenuti. Questi sistemi, come i noti Large Language Models (LLMs), possono produrre testi, immagini o codice basandosi su pattern appresi da vasti dataset. Pur essendo strumenti potenti, operano in modo relativamente statico; generano output basati su prompt specifici forniti dall’utente, senza reale capacità di ragionamento autonomo o esecuzione di azioni multiple coordinate. L’obiettivo principale di questi sistemi è semplicemente generare contenuti coerenti e pertinenti in risposta a una richiesta specifica, rendendo impossibile l’adattamento dinamico a circostanze in evoluzione tipiche degli scenari di cybersecurity.

La Agentic AI, invece, rappresenta un salto evolutivo significativo. Si riferisce a sistemi AI che possono agire autonomamente per raggiungere obiettivi senza la necessità di una costante guida umana. A differenza della Generative AI, i sistemi agentici non si limitano a creare contenuti, ma prendono decisioni indipendenti, eseguono azioni complesse e si adattano dinamicamente all’ambiente circostante. Sono progettati per ottimizzare particolari obiettivi o funzioni, come massimizzare la sicurezza di una rete o minimizzare i tempi di risposta agli incidenti.

Nel campo della cybersecurity, gli agenti AI operano seguendo un sofisticato modello a quattro fasi che ne caratterizza l’approccio autonomo e adattivo:

  1. Percezione: raccolgono e processano dati da diverse fonti come sensori, database, log di sistema e interfacce digitali, costruendo una rappresentazione completa dell’ambiente da monitorare.
  2. Ragionamento: utilizzano modelli linguistici avanzati come orchestratori che comprendono il contesto della situazione, generano soluzioni potenziali e coordinano modelli specializzati per funzioni specifiche di analisi e difesa.
  3. Azione: implementano decisioni concrete interagendo con strumenti e software esterni tramite API, eseguendo rapidamente contromisure basate sui piani formulati.
  4. Apprendimento: migliorano continuamente attraverso un ciclo di feedback, dove i dati generati dalle loro interazioni alimentano il sistema per migliorare i modelli e aumentarne l’efficacia nel tempo.

Architettura e funzionamento degli Agenti AI nella cybersecurity

Gli agenti AI dedicati alla cybersecurity rappresentano sistemi autonomi progettati per operare con minimo intervento umano, integrando componenti sofisticati che permettono loro di percepire, interpretare e rispondere alle minacce in modo intelligente e proattivo.

Al cuore dell’architettura di questi sistemi troviamo un set di strumenti integrati che fungono da interfaccia con il mondo esterno. Questi strumenti consentono all’agente di interagire con ambienti esterni e raccogliere informazioni critiche per l’analisi della sicurezza. Gli analizzatori di domini permettono di valutare la reputazione e il potenziale rischio di URL e siti web, esaminando strutture, certificati, registrazioni e cronologia. Gli analizzatori di messaggi esaminano il contenuto di comunicazioni come email e messaggi di testo per identificare tecniche di ingegneria sociale, link malevoli o allegati sospetti. Gli analizzatori di numeri telefonici verificano se i numeri sono associati a campagne di phishing o altre attività fraudolente.

La capacità di pianificazione rappresenta un altro elemento distintivo degli agenti AI avanzati per la cybersecurity. Attraverso meccanismi di riflessione e raffinamento, questi sistemi possono valutare criticamente le proprie azioni passate, identificare successi e fallimenti, e perfezionare le proprie strategie per operazioni future. Questa capacità metacognitiva permette agli agenti di migliorare progressivamente senza intervento umano diretto. Inoltre, attraverso la scomposizione in sotto-obiettivi, gli agenti possono affrontare compiti complessi suddividendoli in componenti più gestibili.

Il sistema di memoria costituisce un elemento fondamentale per l’efficacia degli agenti AI, consentendo loro di acquisire, memorizzare e recuperare informazioni rilevanti per le loro operazioni. A differenza dei semplici sistemi reattivi, gli agenti AI in cybersecurity mantengono contesto tra diverse operazioni, permettendo loro di riconoscere pattern che si manifestano nel tempo e collegare eventi apparentemente non correlati.

In sistemi di sicurezza avanzati, troviamo spesso architetture multi-agente coordinate da orchestratori, componenti specializzati che gestiscono il flusso di lavoro tra diversi agenti specializzati. Questi orchestratori possono essere considerati come “meta-agenti” che coordinano l’esecuzione di processi complessi multipli, assegnando compiti agli agenti più adatti in base alle loro competenze specifiche e integrando i risultati in un’analisi coerente.

Tecnologie e framework di sviluppo

Lo sviluppo di agenti AI per la cybersecurity è facilitato da una crescente gamma di framework open source, ciascuno con caratteristiche distintive che rispondono a diverse esigenze implementative. Questi framework offrono diversi livelli di astrazione e modalità di interazione, da approcci puramente programmatici a interfacce visuali no-code che democratizzano la creazione di agenti AI.

I framework moderni per l’Agentic AI consentono l’integrazione con diversi modelli LLM, offrendo flessibilità nella scelta dell’architettura più adatta alle specifiche esigenze di sicurezza. Questa capacità di agnosticismo rispetto al modello rappresenta un vantaggio significativo in un panorama tecnologico in rapida evoluzione, permettendo di adattarsi alle nuove generazioni di modelli linguistici senza necessità di riprogettare l’intera architettura di sicurezza.

Particolarmente rilevante è l’emergere di architetture orientate alla collaborazione multi-agente, dove diversi agenti specializzati possono cooperare per risolvere problemi complessi. Nel contesto della cybersecurity, questo approccio consente di creare ecosistemi difensivi dove agenti specializzati in diverse aree (analisi del traffico di rete, monitoraggio degli endpoint, analisi comportamentale) possono lavorare insieme, scambiando informazioni e coordinando le risposte alle minacce in modo organico.

Per le organizzazioni che preferiscono un approccio visuale e low-code, esistono strumenti che permettono di progettare flussi di lavoro complessi attraverso interfacce drag-and-drop intuitive, democratizzando la creazione di applicazioni AI agentiche. Gli analisti di sicurezza possono così concentrarsi sulla progettazione logica dei sistemi difensivi senza dover padroneggiare linguaggi di programmazione complessi.

Altri framework sono orientati alla creazione di flussi di lavoro complessi, offrendo un approccio più tecnico ma estremamente potente. Con questi strumenti, è possibile orchestrare interazioni sofisticate tra diversi agenti, modelli e tecniche di elaborazione dati, creando pipeline di sicurezza altamente personalizzate. Le architetture basate su grafi consentono di modellare relazioni complesse tra entità e processi, particolarmente adatte per rappresentare e analizzare le intricate connessioni tipiche degli scenari di sicurezza avanzati.

L’ecosistema tecnologico per lo sviluppo di agenti AI in cybersecurity è in rapida evoluzione, con nuovi framework che emergono continuamente, ampliando ulteriormente le possibilità implementative per le organizzazioni di ogni dimensione.

Applicazioni avanzate nella cybersecurity

Gli agenti AI autonomi stanno rivoluzionando diverse aree della cybersecurity, introducendo capacità che superano significativamente i limiti dei sistemi tradizionali e ridefinendo gli standard di protezione digitale.

Nel campo del rilevamento proattivo delle minacce, gli agenti AI rappresentano un salto paradigmatico rispetto ai tradizionali sistemi basati su firme. Mentre questi ultimi possono identificare solo minacce già catalogate, gli agenti AI monitorano continuamente il traffico di rete utilizzando tecniche avanzate di anomaly detection per identificare pattern insoliti che potrebbero indicare attacchi zero-day o minacce sofisticate. Questi agenti costruiscono modelli comportamentali complessi della rete e dei suoi utenti, permettendo di rilevare anche sottili deviazioni dalla norma che potrebbero passare inosservate all’occhio umano.

La risposta automatizzata agli incidenti rappresenta un’altra area dove gli agenti AI stanno dimostrando un valore eccezionale. Quando viene rilevata una minaccia, questi sistemi possono orchestrare risposte complesse in frazioni di secondo, un tempo di reazione irraggiungibile per gli operatori umani. Ad esempio, se un agente AI rileva un ransomware in fase iniziale di distribuzione, può immediatamente implementare una sequenza coordinata di contromisure: bloccare la comunicazione con i server di comando e controllo identificati, isolare i sistemi potenzialmente compromessi per prevenire la propagazione laterale, avviare il backup dei dati critici su sistemi sicuri, e simultaneamente raccogliere prove forensi per analisi successive.

Nella complessa area dell’analisi delle vulnerabilità, gli agenti AI offrono un approccio significativamente più sofisticato rispetto alle tradizionali scansioni di sicurezza. Questi sistemi non si limitano a identificare vulnerabilità note, ma utilizzano tecniche avanzate per comprendere come diverse vulnerabilità, apparentemente minori se considerate isolatamente, possano combinarsi creando percorsi di attacco complessi. Utilizzando modelli di ragionamento causale, questi agenti possono simulare scenari di attacco sofisticati, identificando catene di vulnerabilità che potrebbero essere sfruttate da attaccanti avanzati.

Gli agenti AI si stanno dimostrando particolarmente efficaci nelle attività di threat hunting, trasformando questo processo da reattivo a proattivo. Operando come “cacciatori digitali”, questi sistemi esplorano continuamente reti e sistemi alla ricerca di indicatori di compromissione che potrebbero essere sfuggiti ai sistemi di rilevamento tradizionali. Utilizzando tecniche di machine learning non supervisionato, possono identificare comportamenti anomali anche quando non corrispondono a pattern di attacco noti.

Nella critica area della sicurezza delle email, gli agenti AI hanno introdotto capacità che vanno ben oltre i tradizionali filtri antispam. Questi sistemi analizzano le comunicazioni in entrata attraverso molteplici dimensioni simultaneamente: esaminano l’autenticità del mittente verificando non solo gli header tecnici ma anche la coerenza con pattern comunicativi storici, analizzano il contenuto semantico per individuare tentativi di manipolazione e ingegneria sociale, verificano dinamicamente link e allegati in ambiente sandbox, e correlano queste informazioni con intelligence globale sulle minacce.

Le fondamenta tecnologiche degli Agenti AI nella cybersecurity

Il funzionamento efficace degli agenti AI nella cybersecurity si basa su un sofisticato insieme di tecnologie che ne abilitano le capacità cognitive e operative avanzate.

Al centro di questi sistemi troviamo i Large Language Models (LLMs), che forniscono la capacità fondamentale di comprensione e generazione del linguaggio naturale. Questi modelli, addestrati su vasti corpus di testi, permettono agli agenti di interpretare richieste complesse, analizzare contenuti testuali come email o codice, e generare risposte articolate e contestualizzate. Tuttavia, nella cybersecurity, i LLMs standard presentano limitazioni significative: non hanno accesso a informazioni in tempo reale sulle minacce emergenti e mancano della capacità di interagire direttamente con strumenti esterni. È qui che entra in gioco il concetto di Retrieval-Augmented Generation (RAG), fondamentale per superare queste limitazioni.

Nell’implementazione tradizionale di RAG, il sistema arricchisce le capacità del modello linguistico permettendogli di accedere a database esterni contenenti informazioni aggiornate. Ciò consente di fornire risposte basate su dati recenti senza necessità di riaddestrare costantemente il modello. Tuttavia, nell’approccio agentico alla cybersecurity, assistiamo a un’evoluzione significativa di questo concetto verso quello che possiamo definire “agentic RAG”. Mentre la RAG tradizionale si limita a recuperare informazioni su richiesta specifica seguendo pattern predefiniti, l’agentic RAG permette all’agente di formulare autonomamente strategie di ricerca, decidere quali fonti consultare in base al contesto, e persino concatenare diverse query per costruire un quadro informativo completo.

Questo livello avanzato di integrazione informativa si basa su architetture di orchestrazione sofisticate che consentono agli agenti di pianificare e coordinare l’uso di diversi strumenti esterni e fonti di dati. Queste architetture implementano modelli computazionali che permettono di definire flussi di lavoro complessi, dove l’output di uno strumento può influenzare dinamicamente la selezione e l’utilizzo di strumenti successivi. Questa capacità di “ragionamento procedurale” è ciò che distingue fondamentalmente gli agenti AI avanzati da semplici sistemi di risposta predefinita.

Un altro elemento tecnologico cruciale è rappresentato dai sistemi di memoria contestuale avanzata. Gli agenti AI efficaci non trattano ogni interazione come isolata, ma mantengono e aggiornano continuamente un modello del contesto operativo. Questa memoria può essere strutturata in diversi livelli: una memoria a breve termine per il contesto immediato dell’analisi in corso, una memoria episodica per situazioni e incidenti passati rilevanti, e una memoria semantica per conoscenze generali sulla sicurezza informatica.

Fondamentale per l’efficacia operativa degli agenti AI è anche l’integrazione con API specializzate per la cybersecurity. Queste interfacce permettono agli agenti di accedere a servizi esterni per l’analisi di file sospetti, informazioni su domini e indirizzi IP, database di vulnerabilità, e piattaforme di threat intelligence che aggregano informazioni su minacce attive. La capacità di interagire programmaticamente con questi servizi, interpretarne i risultati e integrarli in analisi più ampie è ciò che permette agli agenti AI di operare efficacemente nell’ecosistema complesso della cybersecurity moderna.

Vantaggi strategici e operativi

L’adozione di agenti AI autonomi in cybersecurity offre numerosi vantaggi strategici e operativi che stanno ridefinendo i paradigmi di difesa digitale nelle organizzazioni moderne.

Il monitoraggio continuo rappresenta uno dei vantaggi più immediatamente evidenti. Gli agenti AI operano ininterrottamente, 24 ore su 24, 7 giorni su 7, senza risentire della fatica cognitiva che inevitabilmente affligge gli analisti umani dopo lunghe ore di lavoro. Questa vigilanza costante elimina le vulnerabilità temporali che spesso vengono sfruttate dagli attaccanti, i quali tradizionalmente pianificano operazioni offensive durante notti, fine settimana o festività quando la supervisione umana è ridotta.

La velocità di risposta rappresenta un altro vantaggio cruciale in un panorama di minacce dove i tempi di reazione sono determinanti per contenere i danni. Gli agenti AI possono identificare anomalie, analizzare potenziali minacce e implementare contromisure in millisecondi, rispetto ai minuti o ore richiesti anche dal team umano più reattivo. Questa capacità di risposta quasi istantanea è particolarmente preziosa contro minacce come ransomware o worm ad alta velocità di propagazione, dove ogni secondo di ritardo può significare centinaia o migliaia di sistemi aggiuntivi compromessi.

La capacità di analisi avanzata degli agenti AI introduce un cambiamento qualitativo nella profondità e ampiezza del monitoraggio di sicurezza. Questi sistemi possono processare e correlare enormi volumi di dati provenienti da diverse fonti simultaneamente, identificando connessioni e pattern che potrebbero facilmente sfuggire agli analisti umani. Un singolo indicatore di compromissione potrebbe sembrare innocuo se considerato isolatamente, ma assumere un significato completamente diverso quando correlato con altri eventi distribuiti attraverso la rete.

L’adattabilità rappresenta una differenza fondamentale rispetto ai sistemi di sicurezza tradizionali. Mentre questi ultimi tendono a basarsi su regole statiche che devono essere aggiornate manualmente, gli agenti AI migliorano continuamente attraverso processi di apprendimento automatico. Ogni interazione con una minaccia, sia essa un falso positivo o un attacco reale, diventa un’opportunità di apprendimento, permettendo agli agenti di affinare le loro capacità di rilevamento e risposta nel tempo.

La personalizzazione delle strategie difensive rappresenta un ulteriore vantaggio significativo. Gli agenti AI non adottano un approccio standardizzato, ma sviluppano modelli di sicurezza altamente specializzati per ciascuna organizzazione. Analizzando il normale comportamento della rete, degli utenti e dei sistemi specifici di un’organizzazione, questi agenti costruiscono modelli comportamentali baseline molto dettagliati.

L’allocazione ottimizzata delle risorse umane rappresenta infine un vantaggio operativo fondamentale. Automatizzando attività ripetitive e ad alta intensità di dati, gli agenti AI liberano il tempo degli esperti di sicurezza umani, permettendo loro di concentrarsi su attività a più alto valore aggiunto che richiedono creatività, intuizione e giudizio strategico.

Sfide e considerazioni etiche nell’implementazione

Nonostante i numerosi vantaggi, l’implementazione di agenti AI autonomi nella cybersecurity presenta anche sfide significative e considerazioni etiche che richiedono un’attenta valutazione.

Le questioni etiche legate all’autonomia decisionale rappresentano una delle sfide più profonde. Quando un agente AI prende decisioni autonome in ambito di cybersecurity, chi è ultimamente responsabile delle conseguenze di tali decisioni? Se un agente isola erroneamente un sistema critico causando interruzioni operative, o al contrario, fallisce nel rilevare una minaccia significativa, come dovrebbero essere attribuite le responsabilità? È fondamentale stabilire framework etici chiari che definiscano i limiti dell’autonomia degli agenti AI e implementare meccanismi di governance che garantiscano supervisione umana appropriata per decisioni ad alto impatto.

Il problema dei falsi positivi rimane una sfida significativa anche per i sistemi AI avanzati. Gli agenti AI potrebbero identificare erroneamente attività legittime come potenziali minacce, portando a reazioni difensive non necessarie che possono interrompere operazioni aziendali critiche o causare perdite di produttività. Trovare il giusto equilibrio tra sensibilità al rilevamento e specificità è un compito complesso che richiede calibrazione continua.

Le preoccupazioni relative a privacy e protezione dei dati sono particolarmente acute quando si parla di agenti AI per la cybersecurity. Questi sistemi necessitano di accesso a vasti quantitativi di dati per operare efficacemente, inclusi log di rete, contenuti di email, comportamenti degli utenti e altre informazioni potenzialmente sensibili. Tale accesso solleva importanti questioni sulla privacy dei dipendenti e sulla conformità con normative come il GDPR in Europa o il CCPA in California.

Il rischio di dipendenza tecnologica rappresenta una considerazione strategica importante. Affidarsi eccessivamente agli agenti AI potrebbe portare a un’atrofia delle competenze umane in cybersecurity, creando vulnerabilità organizzative in caso di fallimento o limitazione dei sistemi automatizzati. Le organizzazioni dovrebbero mantenere un equilibrio sano tra automazione e capacità umane, assicurandosi che gli analisti continuino a sviluppare e mantenere le competenze fondamentali.

La trasparenza algoritmica e l’interpretabilità delle decisioni rappresentano un’altra sfida significativa. Molti sistemi AI avanzati operano come “scatole nere” le cui decisioni possono essere difficili da spiegare o giustificare. Questa opacità è problematica in contesti di cybersecurity, dove la capacità di comprendere e comunicare le ragioni di un alert o di una risposta automatizzata è fondamentale per la fiducia e l’efficacia operativa.

Il futuro degli Agenti AI nella cybersecurity

Guardando al futuro, possiamo anticipare diverse tendenze nell’evoluzione degli agenti AI per la cybersecurity.

La prossima generazione di difese cibernetiche probabilmente utilizzerà ecosistemi di agenti specializzati che collaborano tra loro in sistemi multi-agente sofisticati. Ad esempio, un agente potrebbe specializzarsi nell’analisi del traffico di rete, un altro nel monitoraggio degli endpoint, e un terzo nella risposta agli incidenti, tutti coordinati da un meta-agente o orchestratore che garantisce coerenza nelle strategie difensive.

Gli agenti AI saranno sempre più integrati con altre tecnologie emergenti, come blockchain per garantire l’integrità delle informazioni, quantum computing per analisi crittografiche avanzate, e Internet of Things per estendere il monitoraggio a dispositivi edge e sensori distribuiti nell’infrastruttura fisica.

Man mano che i modelli LLM e le tecniche di apprendimento avanzano, gli agenti AI evolveranno verso una vera intelligenza autonoma, sviluppando strategie innovative che potrebbero non essere state previste dai loro creatori umani. Questa evoluzione porterà a sistemi di difesa adattivi capaci di rispondere a classi di minacce completamente nuove con approcci creativi e non convenzionali.

Conclusione

Gli agenti AI autonomi rappresentano la nuova frontiera della cybersecurity, offrendo capacità di difesa proattive che superano significativamente i limiti dei sistemi tradizionali. Le organizzazioni che adottano questa tecnologia emergente potranno beneficiare di un livello di protezione senza precedenti, capace di contrastare efficacemente minacce sempre più sofisticate.

Tuttavia, è fondamentale un approccio equilibrato che consideri non solo i vantaggi tecnici, ma anche le implicazioni etiche, legali e organizzative. L’obiettivo non è sostituire completamente l’elemento umano, ma creare una sinergia efficace tra l’intelligenza artificiale e l’esperienza umana.

Nel futuro della cybersecurity, gli agenti AI non saranno semplici strumenti, ma veri e propri partner nella difesa digitale, in grado di anticipare, contrastare e neutralizzare minacce a velocità e con capacità che superano i limiti umani. L’adozione di queste tecnologie non è più una scelta, ma una necessità per organizzazioni che intendono mantenere un adeguato livello di sicurezza in un panorama di minacce in continua evoluzione.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/agenti-ai-cybersecurity/




5G: la crescita della spesa mondiale in roaming (+157%) e base station (+1.200%) entro i prossimi dieci anni

Il 5G alla conquista del mondo: tra roaming e infrastrutture, ecco cosa ci attende

A partire dal terzo trimestre del 2024, gli abbonamenti globali al 5G hanno raggiunto circa 2,1 miliardi, e si stimato aver raggiunto i 2,3 miliardi entro a fine 2024, rappresentando oltre il 25% di tutti gli abbonamenti mobili, secondo l’ultimo Ericsson Mobility Report.

Guardando al futuro, si stima che l’adozione del 5G continuerà a crescere rapidamente. Entro la fine del 2025, si prevede che il numero di abbonamenti 5G raggiungerà circa 2,61 miliardi.
Proiezioni più a lungo termine indicano che gli abbonamenti 5G supereranno i 5,3 miliardi entro il 2029, coprendo circa l’85% della popolazione mondiale.

Dopo il debutto commerciale delle reti 5G nel 2019, la rivoluzione globale della connettività sta entrando nel vivo, ma non senza ostacoli. Due nuovi studi, uno di Juniper Research sul mercato del mobile roaming, e l’altro di Precedence Research sul 5G Base Station Market, tracciano un quadro dettagliato dell’evoluzione tecnologica e delle dinamiche economiche che stanno trasformando il settore.

Duello Cina-Nord America

​Entro il 2025, l’adozione del 5G varierà significativamente tra i diversi paesi. Secondo le stime più aggiornate (Statista), la Cina guiderà questa tendenza con circa 1 miliardo di connessioni 5G, seguita dagli Stati Uniti con 252 milioni e dal Giappone con 129 milioni. ​

In termini di penetrazione del 5G rispetto al totale delle connessioni mobili, invece, sempre l’Ericsson Mobility Report ai attende che sia il Nord America a raggiungere una percentuale del 71% entro la fine del 2024, seguito dall’Asia nord-orientale con il 51%, dai paesi del Consiglio dei Pasi per la cooperazione nel Golfo Persico (Bahrain, Kuwait, Oman, Qatar, Saudi Arabia) con il 47% e dall’Europa occidentale con il 41%

Roaming, il sorpasso del 5G sul 4G arriverà nel 2028

Secondo il Rapporto pubblicato da Juniper Research, il 2028 sarà il primo anno in cui la spesa per il roaming 5G supererà quella per il 4G. Nonostante le reti 5G siano attive dal 2019, ci vorrà circa un decennio affinché gli operatori generino più entrate annue dal roaming 5G rispetto al 4G. Le cause? Architetture 5G complesse e accordi di roaming ancora limitati, che ne stanno rallentando la diffusione.

Uno dei principali ostacoli rimane l’incapacità degli operatori di identificare e gestire efficacemente le connessioni in roaming, causando perdite di entrate dovute a errori nei conteggi e ad attività fraudolente. Tuttavia, l’adozione di accordi standalone e l’implementazione di core di rete di nuova generazione, che includono tecnologie come SEPP (Security Edge Protection Proxy), promettono di risolvere il problema.

“La maggiore identificazione delle connessioni permetterà di compensare l’alto investimento richiesto dai core standalone”, afferma Georgia Allen, autrice della ricerca. E con la crescente popolarità di tecnologie concorrenti come le eSIM da viaggio, l’urgenza di adeguarsi è sempre più pressante.

Lo studio Global Mobile Roaming Market 2025-2029 di Juniper Research include oltre 48.300 statistiche di mercato su 61 Paesi e offre strumenti analitici come l’Indice di Prontezza Paese e una classifica competitiva.

Infrastrutture, il mercato delle stazioni base 5G verso gli 832 miliardi di dollari

Sul fronte infrastrutturale, Precedence Research ha valutato, in una nuova sua nuova pubblicazione, che il mercato globale delle stazioni base 5G passerà da 44,86 miliardi di dollari nel 2024 a 832,42 miliardi entro il 2034, con un tasso di crescita annuo (CAGR) del 33,92%. A trainare la domanda sono la crescente necessità di connettività ad alta velocità e la diffusione di applicazioni come automazione industriale, smart cities e IoT.

I colossi Huawei, Ericsson e Nokia dominano il settore, impegnati nello sviluppo di soluzioni avanzate come celle macro e small cells. La disponibilità di spettro, le politiche governative e la transizione dal 4G sono fattori chiave per la crescita.

Tra le sfide più significative emergono i costi elevati, il consumo energetico e la necessità di un’infrastruttura densa, soprattutto nelle aree urbane. Ma proprio sul fronte energetico si stanno facendo progressi grazie all’intelligenza artificiale.

AI e 5G, una sinergia strategica

Le stazioni base 5G alimentate da intelligenza artificiale stanno rivoluzionando la gestione delle reti: l’AI-RAN Parameter Recommender, ad esempio, è una tecnologia sviluppata da SK Telecom e Samsung Electronics che ottimizza le performance delle reti 5G attraverso l’analisi continua dei parametri di traffico. L’intelligenza artificiale migliora anche l’efficienza energetica e semplifica manutenzione e operatività.

Un altro esempio è la partnership del giugno 2024 tra Mobix Labs Inc. e TalkingHeads Wireless (THW), finalizzata alla creazione di stazioni base 5G più efficienti e meno costose. La soluzione AI-driven di THW, unita ai componenti ad alta prestazione di Mobix Labs (ICs, antenne, transceiver), rappresenta un passo avanti verso reti più sostenibili.

Outlook globale, investimenti e sfide regionali

Il mercato 5G mostra forti differenze regionali. Asia-Pacifico guida la corsa con Cina, Corea del Sud e Giappone in prima linea. La Cina, in particolare, investe massicciamente grazie a iniziative statali, mentre Corea e Giappone puntano su ottimizzazione AI e applicazioni avanzate.

Nord America è trainata da AT&T, Verizon e T-Mobile, supportati da politiche governative. L’Europa, con Germania, UK e Francia in testa, avanza più lentamente ma con una visione integrata tra 5G e smart city. America Latina e Africa mostrano segnali di crescita, anche se ostacolati da costi e carenze infrastrutturali.

La rivoluzione 5G è ormai inarrestabile, ma procede a velocità diverse tra regioni e segmenti. La sfida per gli operatori è doppia: migliorare la gestione del roaming con tecnologie standalone e investire in infrastrutture intelligenti e sostenibili. Il futuro è connesso, e il 5G è il filo che lo unisce.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/5g-la-crescita-della-spesa-mondiale-in-roaming-157-e-base-station-1-200-entro-i-prossimi-dieci-anni/525443/




Misurare e rendere affidabile un sistema di AI

Questo articolo fa parte di una serie di contenuti dedicati alla Generative AI ed esplora la complessa dimensione dell’affidabilità nei sistemi di intelligenza artificiale, analizzando le sfide psicologiche, tecniche ed etiche nella progettazione di tecnologie AI che conquistino la fiducia degli utenti finali. Attraverso una prospettiva multidisciplinare, vengono identificati criteri, metodologie e raccomandazioni per sviluppare sistemi intelligenti trasparenti, sicuri e orientati alle esigenze umane.

La produzione di sistemi affidabili basati sull’intelligenza artificiale ne aumenterà l’impatto in ambito lavorativo e nel supportare altre finalità. Pertanto, è fondamentale incorporare gli obiettivi indicati sin dalla fase di pianificazione iniziale fino al rilascio finale e alla manutenzione del prodotto.

Evoluzione dell’AI: Opportunità e Criticità Emergenti

Da qualche anno stiamo osservando una crescita esponenziale di nuove applicazioni che sfruttano le opportunità offerte dall’intelligenza artificiale (IA) per la risoluzione di alcune criticità che solitamente, ovvero tramite l’applicazione dei sistemi informativi di tipo classico, risultano molto più complesse e onerose da esitare.

Parallelamente, man mano che gli utenti iniziano a prendere dimestichezza con queste nuove funzionalità, hanno iniziato a insinuarsi i primi dubbi circa l’accettazione e la fiducia che gli stessi utenti ripongono nei confronti di queste tecnologie.

Per cui, sorge la domanda: gli utenti desiderano realmente utilizzare l’intelligenza artificiale per risolvere i propri problemi e, soprattutto, si fidano dei loro risultati? Di conseguenza, quali sfide dovrà affronta chi progetta prodotti, servizi e funzionalità abilitati all’AI, affinché siano accettati favorevolmente, piuttosto che vengano scartati perché non soddisfano i requisiti operativi o le aspettative, come la fiducia dell’utente finale?

Fiducia nell’AI: Percezione e Accettazione Tecnologica

In sintesi, il successo dell’AI, come lo è stato in passato per tutte le innovazioni, è legato alla percezione della sua affidabilità, prima ancora dell’utilità.

Per capire meglio il problema introdotto, prendiamo in considerazione i seguenti esempi che ci consentono di evidenziare alcuni scenari applicativi del mondo reale:

  • Come fa un ingegnere informatico a valutare l’affidabilità di uno strumento per la generazione automatica del codice che produce un output funzionale e di qualità?
  • Come fa un medico a misurare l’affidabilità delle applicazioni sanitarie predittive che possono agevolare la diagnosi sulle condizioni cliniche del paziente?
  • In che modo un soldato può stimare l’attendibilità delle informazioni riguardanti le minacce fornite da un visore artificiale in grado di individuare gli avversari?

In sintesi, cosa succede quando gli utenti non si fidano dei nuovi sistemi? La capacità dell’AI di collaborare positivamente con l’ingegnere, il medico o il soldato, dipende dalla fiducia che questi ripongono sui sistemi basati sull’AI, perché quest’ultima possa collaborare con loro efficacemente e sia in grado di fornire i risultati attesi.

Di conseguenza, affinché si possano creare livelli di fiducia adeguati, è necessario gestire le aspettative su ciò che l’AI può offrire realisticamente.

Di seguito sono illustrate le principali ricerche e lezioni apprese su come sia possibile misurare l’affidabilità dell’AI e, di conseguenza, in che modo gli utenti finali possano ottenere i risultati attesi.

Fiducia nell’intelligenza artificiale

Prima di iniziare la disamina, analizziamo alcune definizioni chiave relative ad un sistema basato sull’intelligenza artificiale:

  • trust (fiducia): è uno stato psicologico basato sulle aspettative del comportamento di un sistema, la fiducia che il sistema manterrà la sua promessa;
  • calibrated trust (fiducia calibrata): è uno stato psicologico basato sulla fiducia regolata, ovvero allineata – in tempo reale – alle percezioni di affidabilità degli utenti finali;
  • trustworthiness (affidabilità): è la proprietà di un sistema in grado di dimostrare che questi manterrà la sua promessa e, contestualmente, fornirà la prova che in quel determinato contesto il sistema sia affidabile e che durante l’utilizzo gli utenti finali siano consapevoli delle sue capacità.

La fiducia è una variabile complessa, transitoria e personale; tutti questi fattori rendono difficile la misurazione dell’esperienza umana in rapporto alla fiducia. Anche l’esperienza individuale di sicurezza psicologica (ad esempio: sentirsi al sicuro all’interno della propria relazione personale, del proprio team, della propria organizzazione e del proprio governo), così come la percezione del legame tra il sistema di intelligenza artificiale con sé stesso, possono influenzare la fiducia nel sistema.

Quando le persone interagiscono e/o lavorano con i sistemi di AI, sviluppano una comprensione (o un’incapacità di comprendere) delle capacità e dei limiti del sistema in un determinato contesto di utilizzo.

La consapevolezza può essere sviluppata anche attraverso la formazione, l’esperienza e le informazioni che i colleghi condividono sulle loro esperienze. Questa comprensione può trasformarsi in un livello di fiducia del sistema giustificato dalle esperienze di utilizzo.

Un altro modo di ragionare prevede che gli utenti finali sviluppino un livello di fiducia nel sistema calibrato su ciò che conoscono delle sue capacità nel contesto attuale.

Pertanto, la costruzione di un sistema affidabile genera la fiducia del sistema percepita dagli utenti.

Come progettare un’AI affidabile

Tendiamo a pensare all’intelligenza artificiale esclusivamente come a uno strumento per automatizzare una serie di processi, facilitando compiti, spesso con risultati migliori, in meno tempo e a costi più bassi. È tutto vero, ma ciò che spesso dimentichiamo è che l’intelligenza artificiale è anche una scienza e, come tutte le scienze, ci racconta qualcosa di noi – come singoli e come società – e del mondo in cui viviamo.

Partiamo dall’assunto che non possiamo costringere le persone a fidarsi dei sistemi di AI, ma potremmo progettarli concentrandoci sugli aspetti che ci consentano di misurarne l’affidabilità. Sebbene non sia matematicamente possibile quantificare l’affidabilità complessiva di un sistema nel suo contesto di applicazione, alcuni aspetti dell’affidabilità possono essere quantitativamente misurati, per esempio potremmo rilevare la fiducia dell’utente attraverso i suoi comportamenti, come l’utilizzo del sistema.

All’inizio del 2023, il National Institute of Standards and Technology (NIST) ha pubblicato l’Artificial Intelligence Risk Management Framework in cui indica i seguenti aspetti essenziali per misurare l’affidabilità dell’AI:

  • validità e affidabilità,
  • protezione,
  • sicurezza e resilienza,
  • responsabilità e trasparenza,
  • comprensione e modellazione,
  • riservatezza,
  • imparzialità, attraverso la mitigazione dei pregiudizi dannosi.

Queste variabili possono essere valutate attraverso strumenti qualitativi e quantitativi, come i valori delle prestazioni funzionali utilizzati per misurare la validità e l’affidabilità, oppure l’analisi della user experience (UX) per determinare l’usabilità, la comprensione e la modellazione di un sistema.

Tuttavia, alcune di queste componenti potrebbero non essere misurabili a causa della loro stessa natura. Ad esempio, il progettista di un sistema potrebbe essere in grado di valutare se lo stesso funziona bene in ciascuno di queste componenti, ma gli utenti potrebbero essere cauti o diffidenti nei confronti dell’output a causa delle interazioni che hanno con il sistema.

La misurazione dell’affidabilità dell’AI dovrebbe avvenire durante l’intero ciclo di vita di un sistema di intelligenza artificiale.

All’inizio, durante le fasi di progettazione di un sistema di intelligenza artificiale, i responsabili del progetto, i ricercatori incentrati sul lato umano e gli specialisti dei rischi connessi all’uso dell’intelligenza artificiale, dovrebbero condurre una serie di test per comprendere le esigenze degli utenti finali e, preferibilmente, anticipare i requisiti per l’affidabilità dell’AI.

La progettazione iniziale di un sistema deve necessariamente tenere conto delle esigenze e dell’affidabilità volute dagli utenti.

Inoltre, mentre gli sviluppatori inizieranno ad implementare il sistema, gli altri componenti del team dovrebbero continuare a condurre sessioni di user experience con gli utenti finali per convalidare il progetto e raccogliere i feedback sulle componenti per poter misurare l’affidabilità durante l’intero ciclo di sviluppo del sistema.

Contemporaneamente, il team di sviluppo dovrebbe continuare a convalidare il sistema, in base ai criteri indicati dalle componenti di affidabilità e con gli utenti finali, anche durante la distribuzione iniziale. Queste attività hanno uno scopo diverso dalle consuete procedure di testing utilizzate per garantire la qualità di un prodotto.

Durante l’implementazione, ogni versione deve essere costantemente monitorata, sia per controllare le sue prestazioni rispetto alle aspettative, sia per valutare la percezione del sistema da parte degli utenti.

Gli amministratori di sistema dovrebbero stabilire anche i criteri per il rilascio all’interno di un sistema distribuito e un manuale d’uso, in modo tale che gli utenti possano crearsi aspettative adeguate nel momento in cui interagiranno con il sistema.

Infine, anche i system builder dovrebbero collaborare con gli utilizzatori finali affinché la tecnologia sia creata per soddisfare le loro esigenze. Tali collaborazioni aiutano le persone che utilizzano il sistema a ponderare regolarmente la propria fiducia nei suoi confronti.

In sintesi, la fiducia è un fenomeno interno e i system builder devono creare esperienze affidabili attraverso punti di contatto, come la documentazione del prodotto, le interfacce digitali e i test di convalida, per consentire agli utenti di esprimere giudizi sull’affidabilità del sistema in tempo reale.

Contestualizzare gli indicatori di affidabilità per gli utenti finali

La possibilità di valutare accuratamente l’affidabilità di un sistema consente agli utenti di ottenere una fiducia misurata del sistema stesso. La fiducia, che solitamente l’utente ripone nei confronti dei sistemi basati sull’intelligenza artificiale, implica che questi ultimi siano considerati affidabili entro una certa soglia.

Tra i principali indicatori, che ci consentono di caratterizzare un sistema di AI affidabile, possiamo includere la possibilità che gli utenti finali possano rispondere alle seguenti domande:

  • Sa cosa sta facendo il sistema e il perché?
  • È in grado di valutare perché il sistema sta formulando determinate risposte o generando un determinato output?
  • Comprende quanto siano affidabili le risposte del sistema?
  • Riesce a valutare quanto potrebbe essere sicuro un determinato output?

Se la risposta ad una di queste domande fosse negativa, allora sarebbe necessario migliorare ulteriormente il sistema per garantire che sia progettato per essere affidabile.

Inoltre, è fondamentale che le capacità del sistema siano rese trasparenti e verificabili, in modo tale che gli utenti possano essere informati e sicuri durante lo svolgimento del proprio lavoro e possano utilizzarlo per come previsto.

Criticità di un’AI affidabile

Come già evidenziato in questo testo, per valutare l’affidabilità di un sistema di intelligenza artificiale occorre considerare diversi elementi e punti di vista.

Le criticità, che solitamente vengono rivolte all’AI, includono la possibilità che possa generare confusione (per esempio non restituisce sempre risultati univoci), possa essere talvolta dirompente (per esempio può ribaltare un output consolidato da anni), sia apparentemente poco pratica o vista come non necessaria perché fornisce alternative complesse.

Una ricerca sulla letteratura riguardante l’AI rivela che alcuni autori usano spesso i termini “fiducia” e “affidabilità” in modo intercambiabile, mentre altra letteratura li considera come due caratteristiche distinte. Quindi, per un verso è incoraggiante sapere che l’AI affidabile è un ambito multidisciplinare, di converso, avere una moltitudine di definizioni, può generare confusione in coloro i quali sono nuovi alla progettazione di un sistema di AI affidabile.

Le diverse definizioni di affidabilità per i sistemi di AI consentono ai progettisti, inoltre, di scegliere o selezionare arbitrariamente gli elementi di affidabilità che consentono di soddisfare le loro esigenze.

Allo stesso modo, la definizione di AI affidabile varia a seconda del contesto di utilizzo del sistema. Ad esempio, i fattori che caratterizzano un sistema di intelligenza artificiale affidabile in un contesto sanitario potrebbero non essere gli stessi di un sistema di intelligenza artificiale affidabile in un contesto finanziario.

Queste differenze contestuali, e l’influenza delle caratteristiche del sistema, sono rilevanti per poter progettare un sistema di intelligenza artificiale affidabile in un determinato contesto e, contemporaneamente, in grado di soddisfare le esigenze degli utenti finali, al fine di incoraggiare l’accettazione e l’adozione dello stesso.

Per coloro che non abbiano familiarità con tali considerazioni, tuttavia, la progettazione di sistemi affidabili potrebbe risultare frustrante e, persino, deprimente.

Anche alcuni elementi caratteristici dell’affidabilità, comunemente accettati, possono apparire in contrasto tra di loro. Ad esempio, la trasparenza e la privacy sono spesso in conflitto. Per garantire la trasparenza, è opportuno rivelare agli utenti le informazioni che descrivano adeguatamente le modalità di sviluppo del sistema, viceversa, per garantire la privacy, gli utenti non dovrebbero avere accesso a tutti i dettagli del sistema.

In questi casi è necessario effettuare una negoziazione per determinare come bilanciare gli aspetti che sono in conflitto e quali compromessi dovrebbero essere accettati. In questi casi, il team di sviluppo deve dare priorità all’affidabilità del sistema, alle esigenze degli utenti finali e al contesto di utilizzo, il che può comportare compromessi per altri aspetti del sistema.

È interessante notare che, mentre i compromessi sono una considerazione necessaria quando si progettano e sviluppano sistemi di intelligenza artificiale affidabili, l’argomento è assolutamente assente da molti documenti tecnici che discutono della fiducia e dell’affidabilità dell’AI.

Spesso, l’individuazione del grado di compromesso è delegata agli esperti legali e di etica. Invece, questo lavoro dovrebbe essere condotto dallo stesso gruppo multidisciplinare che sta realizzando il sistema e gli dovrebbe essere data la stessa rilevanza attribuita alle attività per definire gli aspetti matematici o ingegneristiche di questi sistemi.

Esplorare l’affidabilità delle tecnologie AI emergenti

Man mano che le tecnologie di intelligenza artificiale innovative e dirompenti, come Microsoft 365 Copilot e ChatGPT, entreranno realmente nel mercato, ci saranno diversi aspetti che dovranno essere presi in considerazione. Un’organizzazione che decidesse di impiegare una nuova tecnologia AI dovrebbe chiedersi:

  • Qual è l’uso previsto del prodotto di AI?
  • Quanto è rappresentativo il dataset di addestramento rispetto al contesto operativo?
  • Come è stato addestrato il modello?
  • Il prodotto è adatto al caso d’uso?
  • In che modo le caratteristiche del prodotto si allineano al grado di responsabilità del mio caso d’uso e del mio contesto?
  • Quali sono i limiti della sua funzionalità?
  • Qual è il processo per controllare e verificare le prestazioni del prodotto di AI?
  • Quali sono le metriche delle prestazioni del prodotto?
  • In che modo gli utenti possono interpretare l’output del prodotto?
  • In che modo il prodotto è continuamente monitorato per guasti e altre condizioni di rischio?
  • Quali pregiudizi impliciti sono incorporati nella tecnologia?
  • Come vengono valutati gli aspetti dell’affidabilità? Con quale frequenza?
  • C’è un modo per far re-addestrare questo strumento da un esperto per implementare politiche di equità?
  • Sarò in grado di comprendere e controllare l’output dello strumento?
  • Quali sono i controlli di sicurezza per evitare che questo sistema causi danni
  • Come possono essere testati questi controlli?

Generalmente, gli utenti finali diventano i primi osservatori dei fallimenti della tecnologia AI e le loro esperienze negative sono indicatori del rischio di deterioramento dell’affidabilità. Pertanto, le organizzazioni che decidessero di implementare e/o utilizzare tali sistemi e, contestualmente, renderli affidabili, dovrebbero supportare gli utenti finali sui seguenti aspetti:

  • Inserire degli indicatori all’interno del sistema per segnalare quando non funziona come previsto,
  • Effettuare delle valutazioni sulle prestazioni del sistema nei contesti attuali e nuovi,
  • Prevedere un alert del sistema quando non funziona dentro un range di affidabilità accettabile,
  • Acquisire informazioni utili ad allineare le loro aspettative ed esigenze con il potenziale rischio introdotto dal sistema.

Le risposte alle domande introdotte all’inizio di questo paragrafo mirano, da un lato, a chiarire se la tecnologia sia adatta allo scopo previsto e, dall’altro, a verificare se l’utente possa convalidare l’affidabilità su base continuativa. Le organizzazioni possono anche implementare funzionalità tecniche e modelli di governance per incentivare il mantenimento continuo dell’affidabilità dell’AI e fornire piattaforme per testare, valutare e gestire i prodotti AI.

Raccomandazioni

I concetti illustrati rappresentano una base di partenza per la creazione di un AI affidabile. Occorrerà, ovviamente, condurre ulteriori attività di ricerca e sviluppo per indagare su nuovi metodi, best practices e linee guida per la creazione di un’AI affidabile. Ecco alcuni elementi su cui i ricercatori dell’AI stanno lavorando per la misurazione dell’affidabilità:

  • Fairness (imparzialità): l’identificazione e la mitigazione dei pregiudizi nei modelli di machine learning (ML) che consenta la creazione di sistemi più equi.
  • Robustness (robustezza): se i sistemi di intelligenza artificiale non fossero sufficientemente resistenti ai guasti o agli errori, fallirebbero in breve tempo.
  • Explainability (dimostrabilità): rappresenta un attributo rilevante per un sistema che vuole essere affidabile per tutti gli stakeholders: ingegneri e sviluppatori, utenti finali.

La produzione di sistemi affidabili basati sull’intelligenza artificiale aumenterà l’impatto di questi sistemi in ambito lavorativo e nel supportare altre finalità. Pertanto, è fondamentale incorporare gli obiettivi indicati sin dalla fase di pianificazione iniziale fino al rilascio finale e alla manutenzione del prodotto. Solo in questo modo le aziende potranno raggiungere il massimo potenziale delle aspettative previste dall’AI.

Questo approfondimento rappresenta solo l’inizio di un viaggio verso l’AI affidabile. Per continuare ad esplorare le frontiere dell’innovazione e comprendere le ultime evoluzioni dei modelli generativi, ti invitiamo a scaricare il white paper dedicato alla Generative AI dal titolo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/misurare-ai/




AI, quantum computing, droni e cyberswarfare, ecco le tecnologie del Libro Bianco per la Difesa UE. Scarica il documento

Libro Bianco sulla Difesa Europa/European Defence Readiness 2030

L’Unione Europea si prepara a rafforzare la propria Difesa. Il Libro Bianco per la Difesa: ‘Readiness 2030’

L’Unione europea (Ue) sta delineando una nuova strategia per rafforzare la propria capacità di difesa, puntando su investimenti massicci e coordinati tra gli Stati membri. Questo è quanto emerge dal Libro Bianco sul Futuro della Difesa europea, un documento programmatico che è stato presentato oggi e a cui hanno lavorato il Commissario europeo per la Difesa e lo spazio Andrius Kubilius (ex Primo Ministro della Lituania) e il capo della diplomazia europea Kaja Kallas (ex Primo Ministro dell’Estonia).

La strategia della Commissione punta su una maggiore spesa militare, sulla cooperazione tra gli Stati membri e sulla creazione di un mercato unico per la Difesa.

Il White Paper per la Difesa Europea – Readiness 2030 è un documento strategico volto a rafforzare la sicurezza del continente. Contestualmente, la Commissione ha annunciato un ambizioso pacchetto di misure nell’ambito del piano ReArm Europe/Readiness 2030, mirato a stimolare gli investimenti negli armamenti e nelle capacità industriali della difesa europea.

Von der Leyen, Kallas e Kubilius inaugurano un cambio di paradigma per la Difesa europea

La presidente della Commissione Europea, Ursula von der Leyen, ha dichiarato: “L’era del dividendo della pace è finita. Non possiamo più dare per scontata l’architettura di sicurezza su cui abbiamo fatto affidamento. L’Europa è pronta a fare un passo avanti: dobbiamo investire nella difesa, rafforzare le nostre capacità e adottare un approccio proattivo alla sicurezza”.

“Ciò che investiamo nella difesa riflette quanto la valorizziamo. E negli ultimi decenni, non le abbiamo attribuito un valore abbastanza alto. Dobbiamo spendere di più. Allo stesso tempo, il valore aggiunto derivante dalla collaborazione è inestimabile. Ci offre un vantaggio competitivo senza eguali in nessuna parte del mondo. Nel nostro Libro Bianco sulla Difesa Europea – Readiness 2030, delineiamo modi concreti per raggiungere questo obiettivo. Sia nel nostro sostegno all’Ucraina, nell’affrontare le nostre lacune in termini di capacità, sia nel difendere un mondo in cui la forza non prevale sulla giustizia, siamo sempre più forti insieme“, ha dichiarato Kaja Kallas.

“Questo pacchetto sulla difesa, che comprende il Libro Bianco sulla Difesa Europea e il Piano ReArm Europe/Readiness 2030, segna un momento decisivo per la nostra Unione. L’Europa non può più permettersi di essere spettatrice della propria sicurezza. Dobbiamo prendere in mano la nostra difesa, rafforzando i nostri impegni per la sicurezza collettiva e opponendoci con fermezza a chiunque cerchi di mettere in discussione la nostra sovranità. Non si tratta solo di forza militare, ma della nostra prontezza, della nostra autonomia strategica e del futuro dell’Europa come attore globale“, ha sostenuto il commissario Andrius Kubilius.

“L’Italia ha un’industria della difesa e dello spazio molto forte: Leonardo è la più robusta azienda europea nel settore“, ha affermato sempre Kubilius rivolgendosi al nostro Paese, nella conferenza stampa di presentazione del Libro bianco sulla Difesa. Il commissario lituano è stato interrogato sull’allineamento degli Stati sull’urgenza di investire nella Difesa.
“Investire nella Difesa significa anche posti di lavoro di qualità, la gente deve capire che ora per l’industria arriva un momento molto importante per espandersi e creare nuovi posti di lavoro; sarebbe strano se l’Italia non guardasse a questa possibilità“, ha proseguito Kubilius.

L’obiettivo principale del White Paper è chiudere i divari di capacità militare e costruire una base industriale della difesa più solida. Per farlo, si propone di:

  • Colmare le lacune operative, concentrandosi sulle capacità critiche individuate dagli Stati membri;
  • Sostenere l’industria della difesa europea con una maggiore cooperazione e aggregazione della domanda;
  • Incrementare l’assistenza militare all’Ucraina, rafforzando l’integrazione tra le industrie della difesa europee e ucraine;
  • Creare un mercato unico europeo per la difesa, semplificando le normative;
  • Accelerare le innovazioni tecnologiche dirompenti, come l’intelligenza artificiale e la tecnologia quantistica;
  • Potenziare la mobilità militare e lo stoccaggio di materiali strategici, migliorando le infrastrutture di confine con la Russia e la Bielorussia;
  • Rafforzare le partnership globali con Paesi alleati.

ReArm Europe Plan: confermati gli investimenti da 800 Miliardi di Euro. Gli strumenti

Uno degli aspetti chiave della nuova strategia europea è il piano ReArm Europe/Readiness 2030, che prevede un massiccio incremento degli investimenti nella difesa, con oltre 800 miliardi di euro stanziati attraverso diverse misure finanziarie.

  1. Sblocco di fondi pubblici nazionali
    • Gli Stati membri potranno attivare la clausola di esclusione del Patto di Stabilità e Crescita, consentendo un incremento del budget per la difesa fino all’1,5% del PIL per quattro anni.
  2. SAFE: Un Nuovo Strumento di Finanziamento
    • La Commissione raccoglierà 150 miliardi di euro sui mercati finanziari per offrire prestiti agevolati agli Stati membri.
    • I fondi saranno destinati all’acquisto congiunto di equipaggiamenti militari europei, garantendo maggiore interoperabilità e riduzione dei costi.
    • L’Ucraina, i Paesi dell’EFTA/EEA e i candidati all’adesione UE potranno partecipare agli acquisti comuni.
  3. Mobilitazione del Settore Privato e della Banca Europea per gli Investimenti (BEI)
    • La BEI espanderà i propri finanziamenti ai progetti di sicurezza e difesa.
    • Il piano Accelerating the Savings and Investments Union mira a mobilitare capitali privati per sostenere l’industria della difesa.

Gli Stati membri, infatti, dovranno acquistare i prodotti ammissibili da soggetti giuridici con sede legale nell’Ue, negli Stati EFTA – Islanda, Liechtenstein, Norvegia e Svizzera – e in Ucraina.

Per i materiali di consumo bellici (prodotti non complessi), gli Stati membri “dovranno garantire che i componenti che rappresentano il 65% dei costi del prodotto finale provengano dall’Unione Europea/Paesi EFTA/ Ucraina“.

Una risposta alla nuova realtà geopolitica

L’iniziativa europea è una risposta diretta alla crescente instabilità geopolitica e alla guerra in Ucraina. L’UE si impegna non solo a sostenere Kiev, ma anche a rafforzare la propria sicurezza interna, in un contesto in cui la dipendenza dalla NATO e dagli Stati Uniti non è più sufficiente.

Con il White Paper per la Difesa e il piano ReArm Europe, Bruxelles traccia una nuova rotta per garantire l’autonomia strategica dell’Europa, puntando su un’industria militare più forte e su investimenti senza precedenti nel settore della difesa.

Altri Paesi, per partecipare, dovranno essere Paesi candidati all’ingresso nell’Ue – come la Turchia – o aspiranti candidati oppure firmare un accordo strategico di sicurezza con l’Ue (sarebbe il caso del Regno Unito o del Canada).

l’Ue poi promette di “sostenere azioni industriali per lo sviluppo di partenariati industriali transfrontalieri per coordinare le riserve di prodotti per la difesa, componenti e relative materie prime“, sostenendo azioni di approvvigionamento per creare riserve strategiche di componenti e materie prime rilevanti.

Investimenti senza precedenti per la sicurezza dell’Europa

Nel 2024, gli Stati membri dell’UE hanno raggiunto un record di investimenti nella difesa pari a 326 miliardi di euro. Tuttavia, le stime indicano che nei prossimi dieci anni saranno necessari almeno 500 miliardi di euro per colmare le principali lacune nelle capacità militari del blocco. Il documento fa esplicito riferimento al piano in cinque punti per riarmare il continente recentemente presentato dalla Presidente della Commissione europea, Ursula von der Leyen, in cui si punta a mobilitare fino a 800 miliardi di euro.

Uno degli strumenti chiave proposti è un nuovo meccanismo di prestiti da 150 miliardi di euro, destinato agli Stati membri per favorire gli acquisti congiunti nel settore della difesa e della sicurezza. Inoltre, la Commissione sta valutando una revisione della normativa sulla finanza sostenibile (Sustainable Finance Disclosures Regulation, SFDR) per includere la difesa tra gli “obiettivi di investimento nel quadro della sostenibilità“.

Un mercato unico per la Difesa Ue, le tecnologie warfare

Per ottimizzare l’uso dei fondi disponibili, il White Paper evidenzia la necessità di una maggiore cooperazione tra i paesi UE. “Coordinare la spesa aumenta il potere negoziale degli Stati membri, riduce i prezzi per unità e rafforza la consolidazione industriale“, si legge nel documento. La creazione di un vero mercato unico della difesa consentirebbe di superare la frammentazione attuale, ancora fortemente legata a dinamiche nazionali.

A tal fine, la Commissione propone semplificazioni normative e incentivi per gli acquisti congiunti, con una particolare attenzione ad alcuni progetti chiave ritenuti critici per la sicurezza dell’Unione. Questi includono diverse tecnologie avanzate e sistemi di trasporto e difensivi di nuova concezione:

  • Mobilità militare
  • Sistemi di droni e anti-droni
  • Intelligenza artificiale
  • Quantum computing
  • Sicurezza informatica/Cyber and electronic warfare
  • Difesa aerea e missilistica

tecnologie dual use e sistemi avanzati che rientrano nel “warfare” moderno, termine usato per indicare il modo in cui un conflitto viene condotto, includendo strategie, tattiche e tecnologie militari. Un concetto che può riferirsi sia alle guerre tradizionali tra eserciti, sia a forme più moderne di conflitto, come la guerra cibernetica (cyber warfare) o la guerra psicologica.

Verso una maggiore autonomia strategica

Uno degli obiettivi principali delineati è ridurre la dipendenza dell’Ue da paesi terzi, in particolare nel settore tecnologico e della difesa: “Mentre le dipendenze dalla Russia sono state significativamente ridotte, molti Stati membri dipendono ancora fortemente da tecnologie provenienti da paesi terzi, inclusi Cina e Stati Uniti“.

Le tecnologie dirompenti, come l’intelligenza artificiale (AI), il cloud computing, il quantum computing e i sistemi autonomi, sistemi per la guerra cyber/elettronica, stanno già trasformando il campo di battaglia. Per questo motivo, l’Unione deve aumentare i propri investimenti per non rimanere indietro rispetto ai principali concorrenti globali.

Un tema molto delicato, quello della Difesa comune, “che non è solo armamenti”, ma anche tecnologie digitali avanzate, come ha spiegato ieri al Senato Mario Draghi, rimarcando che in questo settore occorre anche dotarsi di “una strategia continentale unificata per il cloud, il supercalcolo e l’intelligenza artificiale, la cyber sicurezza”.

Difesa che diventa il campo più adatto “per utilizzare al meglio le tecnologie che dovranno garantire la nostra sicurezza” e “per includere gli investimenti su digitale, spazio e cybersicurezza”, ha sottolineato l’ex Premier nell’illustrare il suo Rapporto sulla competitività europea ai parlamentari italiani.

Il ruolo dell’Europa in un contesto geopolitico mutevole

Il paper sottolinea anche che l’Europa non può più dare per scontata la garanzia di sicurezza offerta dagli Stati Uniti, specialmente mentre Washington sposta sempre più la sua attenzione verso la regione dell’Indo-Pacifico. “L’Europa non può dare per scontata la garanzia di sicurezza degli Stati Uniti e deve aumentare significativamente il proprio contributo per mantenere forte la NATO“, è riportato nel Libro.

Oltre alla minaccia russa, il testo evidenzia l’instabilità del Medio Oriente come un’altra sfida imminente per la sicurezza dell’Europa. Per affrontare queste minacce, la Commissione suggerisce di introdurre una “preferenza europea” nelle regole di appalto pubblico per i settori e le tecnologie strategiche legate alla difesa, con una possibile revisione delle normative prevista per il 2026.

L’ambizioso piano delineato dalla Commissione europea mira a trasformare l’UE in uno dei principali attori globali nel settore della difesa, creando “uno dei più grandi mercati interni della difesa al mondo“, come dichiarato da Ursula von der Leyen. La sfida ora sarà quella di garantire un’attuazione efficace delle misure proposte, mantenendo l’equilibrio tra l’autonomia strategica europea e la cooperazione con gli alleati della NATO.

E’ la strada giusta? E’ l’unica strada?

Il piano Rearm EU, presentato dalla presidente della Commissione Europea Ursula von der Leyen, rappresenta una svolta storica per l’Europa, segnando un passo deciso verso una maggiore autonomia militare e una capacità di difesa rafforzata.
La guerra in Ucraina avviata dalla Russia, le rinnovate tensioni nei Balcani, i diversi teatri di guerra in Medio Oriente e l’instabilità crescente nel Pacifico ci impongono certo un confronto serio sul come l’Unione europea deve porsi e sul da farsi per prepararsi ad affrontare queste crisi.
In molti si chiedono, però, se questa del riarmo sia davvero la strada giusta, e soprattutto, se questa sia davvero l’unica strada.

Il Piano esprime una posizione netta e manda un messaggio chiaro: l’UE si sta preparando alla guerra. Questo riduce lo spazio per la diplomazia e il dialogo, rischiando di trasformare l’Europa in un attore bellico anziché in un mediatore per la pace.

L’Unione sembra stia abbandonando la sua tradizionale immagine di potenza civile e diplomatica per diventare sempre più un soggetto militarizzato, allineandosi alle politiche di difesa della NATO e aumentando la dipendenza da strategie di deterrenza armata.

Senza contare che le ingenti risorse destinate al riarmo e al potenziamento delle capacità industriali militari potrebbero essere impiegate in settori strategici per la pace e la stabilità, come l’istruzione, la sanità e la transizione ecologica. Forse le priorità dovrebbero essere diverse, soprattutto in un periodo di crisi economica e sociale.

Ci si avvia ad un’economia di guerra? La maggioranza degli esperti indica che siamo ancora ben lontani da questo scenario, ma qualcosa di sta muovendo proprio in quella direzione. Altri ancora, parlando del mega piano di finanziamenti appena votato dal Parlamento tedesco, spiegano che non si tratta solo di riarmarsi, ma di inaugurare una nuova politica di spesa in più settori, tra cui anche le infrastrutture di cui tutti i Paesi europei devono dotarsi per rilanciare la propria economia, anche in chiave di resilienza alle nuove aggressive politiche tariffarie applicate (e in continua evoluzione) dal Presidente degli Stati Uniti, Donald Trump. Di certo, i venti del cambiamento iniziano a soffiare forte e bisogna anche sviluppare un maggiore senso critico, come ci impone la cultura democratica di cui siamo tutti portatori.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-quantum-computing-droni-e-cyberswarfare-ecco-le-tecnologie-del-libro-bianco-per-la-difesa-ue-scarica-il-documento/524917/




Tlc, cloud e Difesa. Un fondo sovrano europeo per le infrastrutture tecnologiche, la lettera alla Commissione Ue di 100 aziende

La Lettera a Ursula von der Leyen e Henna Virkkunen

In un appello diretto alla Commissione europea, 100 tra aziende e organizzazioni europee hanno richiesto la creazione di un fondo sovrano per le infrastrutture tecnologiche. L’obiettivo è rilanciare gli investimenti pubblici e rafforzare l’autonomia strategica del continente nei settori digitali, colmando il divario con Stati Uniti e Cina.

La lettera, di cui è stata data notizia da Reuters, Cnbc e altre testate europee, indirizzata alla presidente della Commissione europea, Ursula von der Leyen, e alla vicepresidente esecutiva Henna Virkkunen, evidenzia la necessità di una maggiore autosufficienza tecnologica europea.

Tra i firmatari figurano nomi di spicco come Airbus, Dassault Systemes, OVHcloud e la European Startup Network. Il documento sottolinea che l’Europa si trova in una posizione di ritardo significativo nello spazio digitale e che, se non si interviene rapidamente, il rischio grave ed evidente è che nei prossimi tre anni la dipendenza del continente da tecnologie non europee diventerà quasi totale. Le Lettera fa diretto riferimento al rapporto Draghi del 2024 sulla competitività dell’Unione europea.

Comprare made in EU

Il messaggio lanciato dagli industriali europei è chiaro: “è essenziale recuperare l’iniziativa e garantire un’indipendenza tecnologica a tutti i livelli dell’infrastruttura digitale critica. Ciò significa intervenire sia sulle infrastrutture logiche (applicazioni, piattaforme, media, cloud, modelli di intelligenza artificiale), sia su quelle fisiche (chip, calcolo, archiviazione e connettività)”.

La lettera avverte che “l’attuale dipendenza multipla da attori extraeuropei pone rischi in termini di sicurezza e affidabilità, compromette la sovranità e penalizza la crescita economica del continente“. Per affrontare questa situazione, i firmatari propongono una strategia industriale pragmatica che includa, tra le altre cose, un requisito formale per il settore pubblico di acquistare prodotti e servizi tecnologici europei, cioè “made in Europe”.

L’iniziativa, è sottolineato, non mira a escludere i fornitori extraeuropei, ma a creare condizioni di mercato che consentano ai player europei di competere su basi eque e a giustificare nuovi investimenti.

Un fondo sovrano per le infrastrutture digitali: quantum, AI, semiconduttori, cloud

La richiesta principale del documento è la creazione di un fondo sovrano destinato a finanziare investimenti pubblici nel settore tecnologico, in particolare per progetti ad alta intensità di capitale come il quantum computing e la produzione di semiconduttori. Il finanziamento, secondo i firmatari, dovrebbe essere garantito dalla Banca europea per gli investimenti e da organismi pubblici nazionali, con risorse significative che potrebbero sostenere le imprese europee nella scalata tecnologica globale.

L’Europa sta cercando di recuperare terreno nel settore tecnologico, mentre dirigenti aziendali e investitori chiedono maggiori finanziamenti e una regolamentazione più flessibile per favorire la crescita, soprattutto nell’ambito dell’intelligenza artificiale.

Come riportato da techcrunch.com, il cloud occupa un posto centrale nel documento inviato a Bruxelles. I firmatari, infatti, chiedono all’Ue di sostenere lo sviluppo di requisiti armonizzati per gli utenti di cloud pubblico/privato affinché optino per l’utilizzo di “servizi cloud sovrani” per l’archiviazione dei propri dati sensibili, il che è anche da considerarsi come una misura di sicurezza ulteriore per proteggersi dalle leggi extraterritoriali non UE, che potrebbero rappresentare un rischio per i dati europei.

Il contesto geopolitico attuale, segnato da politiche protezionistiche aggressive da parte degli Stati Uniti e da tensioni commerciali globali, sta spingendo Bruxelles a rafforzare le proprie capacità strategiche. Proprio all’inizio di marzo, l’Unione europea ha proposto misure fiscali per mobilitare quasi 800 miliardi di euro, destinati in gran parte all’aumento della spesa per la Difesa e alla resilienza economica.

La necessità di una Strategia di Indipendenza Digitale

L’appello delle aziende e di aziende ed organizzazioni europee rappresenta un chiaro segnale della necessità di un cambio di passo. Resta da vedere se la Commissione risponderà con misure concrete per ridurre la dipendenza tecnologica e rilanciare il ruolo del continente nel panorama digitale globale.

In tutto questo contesto geopolitico, si colloca l’iniziativa di Key4biz e ReD OPEN, spin-off dell’Università degli Studi di Milano-Bicocca, che hanno iniziato a dar vita a una Community internazionale e a un tavolo di lavoro permanente con l’obiettivo di definire la Strategia di Indipendenza Digitale da presentare al Governo e al Parlamento e a tutti gli stakeholder.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/tlc-cloud-e-difesa-un-fondo-sovrano-europeo-per-le-infrastrutture-tecnologiche-la-lettera-alla-commissione-ue-di-100-aziende/524698/




L’AI ci può salvare dalle fake news? Lo studio della Sapienza Università di Roma

Scarica la ricerca

Lo studio della Sapienza

Negli ultimi anni, l’uso dei modelli di linguaggio di grandi dimensioni (LLM) per valutare l’affidabilità delle notizie è diventato sempre più comune. Tuttavia, poco si sa su come questi modelli prendano le loro decisioni. Uno studio condotto da Edoardo Loru, Jacopo Nudo, Niccolò Di Marco, Matteo Cinelli e Walter Quattrociocchi, tutti ricercatori della Sapienza Università di Roma, ha analizzato il comportamento di tre tra i più avanzati LLM: Gemini 1.5 Flash (Google), GPT-4o mini (OpenAI) e LLaMA 3.1 (Meta), confrontando le loro valutazioni con quelle di sistemi esperti come NewsGuard e Media Bias Fact Check (MBFC).

L’obiettivo della ricerca dal titolo “Decoding AI Judgment: How LLM Assess News Credibility and Bias” era duplice: da un lato, verificare la coerenza tra le valutazioni dei modelli di linguaggio e quelle dei sistemi di rating esperti; dall’altro, comprendere i meccanismi con cui gli LLM classificano le fonti come affidabili o non affidabili.

Il team di ricercatori ha analizzato un campione di 2.302 siti di notizie, valutando non solo le etichette assegnate (“affidabile” o “non affidabile”), ma anche i termini linguistici utilizzati dai modelli per giustificare le loro scelte.

Risultati

“I nostri risultati rivelano un forte allineamento tra le classificazioni dei Llm e quelle umane in particolare nell’identificazione di fonti inaffidabili“, hanno sottolineato i ricercatori. 

I modelli LLM presi in esame classificano le teorie del complotto, il sensazionalismo e i pregiudizi in maniera speculare ai criteri chiave usati dagli esperti nelle loro valutazioni. Sono meno coerenti quando il contesto è limitato.

  1. Accuratezza delle valutazioni: tutti e tre i modelli hanno dimostrato un’elevata capacità di identificare le fonti non affidabili, con una precisione che varia dall’85% al 97%. Tuttavia, la classificazione delle fonti affidabili ha mostrato maggiori discrepanze, in particolare per GPT-4o mini, che ha erroneamente classificato il 33% delle fonti affidabili come non affidabili.
  2. Influenza dell’orientamento politico: l’analisi ha rivelato che gli LLM tendono a sovrastimare l’affidabilità delle fonti di orientamento politico di sinistra e a sottovalutare quelle di destra. Questo suggerisce che i modelli potrebbero ereditare pregiudizi dai dati di addestramento.
  3. Ruolo delle parole chiave: gli LLM associano la credibilità delle notizie a specifici indicatori linguistici. Le fonti affidabili sono frequentemente descritte con termini come “trasparenza”, “fatti verificabili” e “diversità di opinioni”. Al contrario, le fonti non affidabili sono spesso legate a parole come “sensazionalismo”, “teorie del complotto” e “disinformazione”.
  4. Valutazioni senza contenuto esplicito: anche quando i modelli sono stati testati senza accedere al contenuto delle pagine web, ma solo al dominio del sito, hanno mostrato un’alta coerenza con le valutazioni umane. Questo solleva il dubbio che gli LLM possano basarsi più su conoscenze pregresse che su un’analisi contestuale effettiva.
  5. Miglioramento del processo decisionale: i ricercatori hanno testato un framework in cui gli LLM potevano affinare le loro valutazioni recuperando informazioni esterne o interagendo con altri modelli. Questo ha permesso di osservare come i modelli modificassero le proprie risposte e se adottassero strategie più sofisticate di valutazione.

LLM affidabili o no?

Nel complesso, i ricercatori ritengono che per i modelli di grandi dimensioni le parole chiave che si riferiscono a notizie locali, resoconti basati su fatti o al linguaggio neutro sono generalmente associate a un concetto di affidabilità. Al contrario, l’inaffidabilità è spesso caratterizzata da termini relativi a sensazionalismo, controversie o pregiudizi, che riflettono indicatori di uso comune usati da esperti umani per identificare fonti a bassa credibilità. Inoltre, ‘trasparenza’ e ‘bias’ emergono come i criteri più comunemente valutati per l’affidabilità o l’inaffidabilità delle informazioni.

Lo studio evidenzia che, sebbene i modelli di linguaggio siano strumenti promettenti per la valutazione dell’affidabilità delle notizie, presentano ancora limiti significativi. L’influenza dell’orientamento politico, l’uso di euristiche linguistiche e la dipendenza da informazioni pre-acquisite sollevano interrogativi su quanto questi strumenti possano essere utilizzati in modo neutrale ed equo.

I ricercatori propongono di approfondire il confronto tra i processi decisionali umani e quelli degli LLM, esplorando in che modo questi ultimi possano evolvere per diventare “agenti valutatori” più trasparenti e autonomi. Lo studio non solo offre spunti per migliorare la progettazione dei modelli, ma invita anche a una riflessione critica sul loro impatto nella società dell’informazione e più in generale su come noi tutti approcciamo al mondo delle informazioni e delle notizie.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/lai-ci-puo-salvare-dalle-fake-news-lo-studio-della-sapienza-universita-di-roma/524476/




UE, 500 milioni di euro per la nuova ondata di AI Factory. In totale adesso se ne contano 13 (una a Bologna)

Sei nuove fabbriche europee dell’AI, ecco dove sorgeranno

L’Unione europea (Ue) punta con maggiore decisione sulle tecnologie di punta e quindi sull’intelligenza artificiale (AI). L’impresa comune europea per il calcolo ad alte prestazioni (EuroHPC JU) ha selezionato sei nuove AI Factories che dovranno nascere entro il 2026 in Austria, Bulgaria, Francia, Germania, Polonia e Slovenia.

A sostegno dei nuovi siti è previsto un investimento nazionale e comunitario complessivo di 485 milioni di euro.

L’obiettivo dell’iniziativa è garantire un accesso facilitato all’AI per startup e piccole e medie imprese (Pmi), promuovendo crescita, competitività e un’espansione più efficace sul mercato interno e quelli esteri.

Cosa sono le AI Factories

Le fabbriche di intelligenza artificiale sono state ideate come ecosistemi dinamici che promuovono innovazione, collaborazione e sviluppo in questa nuova tecnologia, nel suo sviluppo, nelle applicazioni e nella crescita delle competenze.

Si tratta di ‘fabbriche’ all’interno delle quali sono riunite tutte le risorse necessarie (potenza di calcolo, dati e talento) per creare modelli di AI generativa all’avanguardia.

Non solo, secondo Bruxelles, queste Factories dovranno promuovere e favorire la collaborazione in ricerca, innovazione e sviluppo in tutta Europa, collegando università, centri di supercalcolo, industria e attori finanziari.

Il risultato finale sarà un’infrastruttura comunitaria di hub che guidano i progressi nelle applicazioni di AI in vari settori, come salute, produzione, clima, finanza e altro ancora. 

Le prime nasceranno entro il 2025, una delle prime è stata selezionata a Bologna

La Commissione vorrebbe vedere avviate le prime fabbriche entro la fine del 2025 e l’obiettivo molto ambizioso annunciato dalla stessa Presidente Ursula von der Leyen è dare vita al primo continente dell’intelligenza artificiale.

A dicembre sono stati selezionati i primi sette consorzi per dare il via alla realizzazione di altrettante AI Factories, coinvolgendo 15 Stati membri dell’Unione e altri 2 Stati partecipanti di EuroHPC (Spagna, Italia con il Cineca-tecnopolo di Bologna, Finlandia, Svezia, Germania, Grecia, più Portogallo, Romania e Turchia, Austria e Slovenia, Repubblica Ceca, Danimarca, Estonia, Norvegia e Polonia).

Con un investimento di circa 1,5 miliardi di euro da parte dell’Ue e degli Stati membri, questi siti implementeranno nuovi supercomputer ottimizzati per l’AI e aggiorneranno i sistemi esistenti, migliorando significativamente le capacità, la sicurezza e l’autonomia tecnologica dell’Europa.

Di questo e di altro si parlerà ampiamente alla prossima edizione del convegno promosso dal CNIT Telecommunications of the Future by 5GItaly, che si terrà il prossimo 9 aprile a Roma.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ue-500-milioni-di-euro-per-la-nuova-ondata-di-ai-factory-in-totale-adesso-se-ne-contano-13-una-a-bologna/524410/




Machine Unlearning: Metodologie di Mitigazione

Il machine unlearning emerge come soluzione critica per affrontare le sfide della privacy e della sicurezza nei modelli di machine learning. Questo articolo esplora le metodologie di mitigazione, le tecniche implementative e i criteri di valutazione per rimuovere efficacemente dati specifici dai modelli addestrati, senza necessità di riaddestramento completo. Vengono analizzati gli scenari di applicazione, dalle normative sulla privacy come il GDPR alla mitigazione dei bias, evidenziando l’importanza di questo approccio nell’evoluzione dell’AI responsabile.

Stiamo assistendo ad una crescita esponenziale nell’utilizzo del machine learning per lo svolgimento di qualsiasi attività. I modelli di machine learning (ML) si stanno sempre di più integrando in molti prodotti e servizi di uso quotidiano. Tuttavia, la proliferazione della tecnologia di AI/ML solleva una serie di problemi in termini di violazione della privacy, di bias (pregiudizi) del modello e dell’uso non autorizzato dei dati utilizzati per il training dei modelli.

Questi ambiti evidenziano ancora una volta la necessità di adottare un controllo flessibile e reattivo sui dati con cui viene addestrato un modello. Il riaddestramento da zero di un modello di ML, per la rimozione di specifici dati, è poco pratico a causa degli elevati costi computazionali ed economici. Pertanto, è stata avviata la ricerca sul “machine unlearning” (MU), ovvero si sta cercando di sviluppare nuovi metodi in grado di rimuovere determinati dati da un modello addestrato in modo efficiente, efficace e, soprattutto, senza la necessità di realizzare un nuovo addestramento. Analizziamo le criticità del machine unlearning e le metodologie di valutazioni più efficaci.

Scenari di Mitigazione dei Rischi nel Machine Unlearning

Il machine unlearning (MU) rappresenta un tema rilevante, che non può essere sottovalutato, perché è in grado di affrontare una serie di problemi quali: la conformità alla privacy dei dati di training, la gestione dinamica dei dati, l’inclusione non autorizzata di dati tutelati dalla proprietà intellettuale o altre forme di tutela e, infine, l’uso di dati provenienti da data breaches.

Vediamo i principali use case del machine unlearning:

  • Protezione della privacy: il MU può svolgere un ruolo cruciale nell’applicazione dei diritti alla privacy e nel rispetto di normative come il GDPR dell’UE[1] (che include anche il diritto all’oblio). Consentirebbe di rimuovere i dati personali dai modelli addestrati, salvaguardando la privacy degli individui.
  • Incremento della sicurezza: il MU potrebbe migliorare la sicurezza dei modelli contro gli attacchi di “data poisoning” attraverso la rimozione dei dati c.d. tossici che mirano a manipolare il comportamento di un modello.
  • Miglioramento dell’adattabilità: il MU su larga scala potrebbe aiutare i modelli a rimanere pertinenti anche quando cambiano le distribuzioni dei dati nel tempo, ad esempio in base all’evoluzione delle preferenze dei clienti o delle tendenze di mercato.
  • Conformità normativa: nei settori fortemente regolamentati, il MU potrebbe essere fondamentale per mantenere la conformità alle leggi e ai regolamenti in continua evoluzione.

Mitigazione dei bias/pregiudizi: il MU potrebbe offrire un metodo per rimuovere i dati identificati dopo il training che creano distorsione, promuovendo così l’imparzialità e riducendo il rischio di risultati scorretti.

Tecniche di Mitigazione e Implementazione

La maggior parte delle implementazioni di machine unlearning suddividono il data set utilizzato per il training originario (“Dtrain”) in dati che devono essere conservati (“retain set” o Dr) e dati che devono essere dimenticati/rimossi (“forget set” o Df), come mostrato in Figura.

Il tipico training di un modello di ML (a) prevede l’utilizzo di tutti i dati di training per impostare i parametri del modello. I metodi di machine unlearning comportano la suddivisione dei dati di training (Dtrain) in retain set (Dr) e forget set (Df), quindi un utilizzo iterativo di questi set per modificare i parametri del modello (passaggi da b a d in maniera ciclica). La sezione gialla rappresenta i dati che sono stati dimenticati durante il processo.

Successivamente, i due set vengono utilizzati per modificare i parametri del modello sottoposto a training. Nel corso del tempo, i ricercatori hanno sviluppato diverse tecniche per migliorare questa fase di unlearning, analizziamole:

  • Ottimizzazione: la tecnica prevede che il modello sia ulteriormente addestrato sul retain set, consentendogli di adattarsi alla nuova distribuzione dei dati. Questa tecnica è semplice, ma può richiedere molta potenza di calcolo[2].
  • Etichettatura casuale: la tecnica prevede l’assegnazione di etichette errate casuali al forget set in grado di confondere il modello. In questo modo, il modello viene ottimizzato[3] [4].
  • Inversione del gradiente: questa tecnica prevede che, durante l’ottimizzazione del modello, sia invertito il segno dei gradienti di aggiornamento del peso per i dati del forget set. Questa tecnica contrasta il training precedente[5].
  • Riduzione selettiva dei parametri: questa tecnica prevede la riduzione selettiva dei parametri specificamente legati al forget set attraverso tecniche di analisi del peso e senza alcuna ottimizzazione[6].

Le scelte delle tecniche di unlearning riflettono i casi d’uso di unlearning. Ogni use case ha i propri requisiti che riguardano, in particolare, l’efficacia, l’efficienza e i problemi di privacy.

Valutazione e privacy e Sicurezza nel Machine Unlearning

Una delle principali difficoltà del machine unlearning consiste nel valutare se la tecnica di unlearning prescelta sia in grado di dimenticare i dati specificati e, contestualmente, mantenere le performance sui dati conservati e, inoltre, proteggere la privacy. Idealmente, un metodo di unlearning automatico dovrebbe produrre un modello che funzioni come se fosse stato addestrato da zero, quindi privo del set di dati da dimenticare.

I metodi di unlearning più utilizzati (come l’etichettatura casuale, l’inversione del gradiente e la riduzione selettiva dei parametri) provocano un degrado delle prestazioni del modello esattamente nei punti corrispondenti al dataset dei dati da dimenticare, mentre cercano di mantenere un alto grado di prestazioni del modello nei corrispondenti punti del dataset da mantenere.

Per semplicità, si potrebbe considerare un metodo di unlearning basato su due semplici obiettivi: ottenere prestazioni elevate sul set da conservare e scarse sul set dell’oblio. Questo approccio, tuttavia, rischierebbe di aprire un’altra superficie di attacco sul fronte della privacy: per esempio, se un modello unlearned funzionasse particolarmente male con un determinato input, ciò potrebbe far capire all’aggressore che in origine l’input fosse incluso nel set di dati utilizzati nel training originale e che sia stato rimosso successivamente.

Questo tipo di violazione della privacy, chiamato attacco di “membership inference” [7], è in grado di rivelare i dati importanti e sensibili di un determinato utente o su un set di dati specifico. Pertanto, durante la valutazione dei metodi di unlearning automatico, è importante testare la loro efficacia contro questa tipologia di attacco.

In questo contesto di analisi, i termini “stronger” e “weaker” si riferiscono alla complessità e all’efficacia dell’attacco:

Weaker attacks (Attacchi più deboli): si tratta di tentativi semplici e diretti per ricavare l’appartenenza inferenziale. Questi attacchi potrebbero fare affidamento su informazioni basilari, come i punteggi di confidenza del modello o la probabilità di un determinato output per un input definito. Spesso questi attacchi si basano su ipotesi semplificatrici del modello o sulla distribuzione dei dati, il che può fortunatamente limitarne l’efficacia.

Stronger attacks (Attacchi più forti): si tratta di attacchi sofisticati che utilizzano informazioni o tecniche più avanzate. In particolare, sono in grado di:

  • utilizzare più punti di query oppure input particolarmente elaborati,
  • sfruttare la conoscenza dell’architettura del modello o del processo di training,
  • utilizzare modelli ombra per comprendere il comportamento del modello target,
  • combinare più strategie di attacco,
  • adattarsi alle specifiche caratteristiche del modello target o del set di dati.

Generalmente, gli attacchi più forti sono più efficaci nell’inferenza di appartenenza e quindi sono più difficili da contrastare. Inoltre, rappresentano un modello di minaccia realistico, presente in molti scenari del mondo reale, in cui gli aggressori potrebbero disporre di importanti risorse e competenze.

Raccomandazioni

Il mondo della ricerca sta continuando a lavorare per lo sviluppo di nuove soluzioni di machine unlearning che siano aderenti agli ambienti di produzione e, inoltre, vengano sottoposti ad attacchi alla privacy o all’oblio dei dati più realistici. Uno studio recente offre una serie di raccomandazioni per migliorare la valutazione dell’unlearning basate sulla letteratura già esistente, in particolare vengono proposti nuovi benchmark e riprodotti diversi algoritmi di unlearning. In particolare, sono stati valutati gli algoritmi per misurare l’accuratezza sui dati conservati, la protezione della privacy dei dati dimenticati e la velocità di esecuzione del processo di unlearning[8].

I test hanno rivelato notevoli discrepanze tra gli algoritmi di unlearning, in molti casi sono state riscontrate difficoltà nel raggiungere il risultato in tutte le aree di valutazione. Sono stati testati tre metodi (Identity, Retrain e Finetune on retain) e cinque algoritmi (RandLabel[9], BadTeach[10], SCRUB+R [11] , Selective Synaptic Dampening [SSD][12] e una combinazione di SSD e finetuning).

Come evidenziato in figura, alcuni metodi riescono a difendersi bene dagli attacchi di inferenza debole, mentre sono completamente inefficaci contro gli attacchi più forti, evidenziando la necessità di effettuare il test del caso peggiore. Alla luce di questi risultati, è stata dimostrata l’importanza di dover effettuare la valutazione degli algoritmi in contesti iterativi, poiché alcuni algoritmi degradano la loro accuratezza complessiva durante le iterazioni di unlearning, mentre altri sono in grado di mantenere elevate prestazioni in maniera costante.

Sulla base di questi risultati, si suggerisce di adottare le seguenti raccomandazioni:

1)è necessario dare enfasi alle metriche del caso peggiore rispetto a quelle del caso medio e, inoltre, opportuno utilizzare attacchi avversari forti per la valutazione degli algoritmi. Gli utenti sono più preoccupati per gli scenari gravi, come l’esposizione di informazioni finanziarie personali, che non per gli scenari meno gravi. La valutazione delle metriche del caso peggiore fornisce un limite di alto livello sulla privacy.

2)è opportuno considerare tipi di attacchi specifici alla privacy, in cui l’aggressore ha l’accesso all’output da due versioni diverse dello stesso modello. In questi scenari, l’unlearning può portare a risultati peggiori perché stiamo fornendo all’aggressore maggiori informazioni. Se si verificasse un attacco di perdita di aggiornamento, il danno non dovrebbe essere maggiore di un attacco al modello di base.

3)è utile analizzare le prestazioni dell’algoritmo di unlearning su un numero ripetuto di applicazioni, ovvero il disapprendimento iterativo, per essere in grado di valutare il degrado delle prestazioni di accuratezza del test dei modelli. Poiché i modelli di unlearning automatico sono distribuiti in ambienti in continuo cambiamento, in cui le richieste di oblio, i dati dei nuovi utenti e i dati errati o avvelenati arrivano dinamicamente, è fondamentale essere in grado di poterli valutare in un ambiente online, cioè in un ambiente dove le richieste arrivano attraverso un flusso.

Poiché l’intelligenza artificiale sarà sempre più integrata nei vari aspetti della vita, molto probabilmente il machine unlearning automatico diventerà uno strumento essenziale e un complemento alla cura/manutenzione dei dati di training, e sarà in grado di bilanciare le capacità dell’intelligenza artificiale con le minacce relative alla privacy e alla sicurezza dei dati.

Questo aspetto aprirà nuove opportunità per migliorare la protezione della privacy e per lo sviluppo di sistemi di intelligenza artificiale adattabili, inoltre deve essere in grado di affrontare sfide significative, tra cui le limitazioni tecniche e l’elevato costo computazionale di alcuni metodi di unlearning. La ricerca e lo sviluppo stanno svolgendo un ruolo fondamentali per migliorare queste tecniche e garantire che le stesse possano essere efficacemente implementate in scenari reali.

Il machine unlearning si conferma come tecnologia essenziale per bilanciare le potenzialità dell’AI con la protezione della privacy e la sicurezza dei dati. Nonostante le sfide tecniche e computazionali, la ricerca continua a sviluppare soluzioni sempre più efficaci per scenari reali. Nel prossimo capitolo esploreremo le metodologie per misurare e garantire l’affidabilità dei sistemi di AI. Per un’analisi più completa, il white paper “Generative artificial intelligence rischi e contromisure” offre ulteriori approfondimenti sulle sfide e le soluzioni nel campo dell’IA Gen.

Note bibliografiche

[1]General Data Protection Regulation: https://en.wikipedia.org/wiki/General_Data_Protection_Regulation

[2] AA.VV., Machine unlearning through fine-grained model parameters perturbation: https://arxiv.org/abs/2401.04385, College of Computer Science and Electronic Engineering, 2024

[3] AA.VV., Random Relabeling for Efficient Machine Unlearning: https://arxiv.org/abs/2305.12320, Pennsylvania State University, 2023

[4] AA.VV., Amnesiac Machine Learning: https://arxiv.org/pdf/2010.10981, University of Waterloo, 2020

[5] AA.VV., Gone but Not Forgotten: Improved Benchmarks for Machine Unlearning: https://arxiv.org/pdf/2405.19211, Carnegie Mellon University, 2024

[6]AA.VV., Fast Machine Unlearning Without Retraining Through Selective Synaptic Dampening: https://arxiv.org/abs/2308.07707, University of Cambridge, 2023

[7]ML04:2023 Membership Inference Attack: https://owasp.org/www-project-machine-learning-security-top-10/docs/ML04_2023-Membership_Inference_Attack

[8] AA.VV., Gone But Not Forgotten: Improved Benchmarks for Machine Unlearning: https://arxiv.org/pdf/2405.19211, Carnegie Mellon University, 2024

[9] AA.VV., Amnesiac Machine Learning: https://arxiv.org/abs/2010.10981, University of Waterloo, 2020

[10] AA.VV., Can Bad Teaching Induce Forgetting? Unlearning in Deep Networks using an Incompetent Teacher: https://arxiv.org/abs/2205.08096, Mavvex Lab, 2023

[11] AA.VV., Towards Unbounded Machine Unlearning: https://arxiv.org/abs/2302.09880, University of Warwick, 2023

[12] AA.VV., Fast Machine Unlearning Without Retraining Through Selective Synaptic Dampening: https://arxiv.org/abs/2308.07707, University of Cambridge, 2023

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/machine-unlearning/




AI, copyright e audiovisivo. Lasorella (Agcom): “Tecnologia dirompente capace di ridefinire il modo di produrre, distribuire e consumare contenuti”

Tra tutele e innovazione. L’audiovisivo nella corsa all’Intelligenza Artificiale

L’innovazione tecnologica sta progressivamente investendo tutti i settori industriali, economici e sociali della nostra società. Il legislatore è chiamato al difficile compito di regolamentare un ambito che è profondamente segnato dalla rapidità del progresso di queste tecnologie, sia a livello nazionale, sia europeo.

Il tema è stato al centro del convegno dal titolo “Tra Tutele e Innovazione. L’audiovisivo nella corsa all’Intelligenza Artificiale”, organizzato a Roma dall’Autorità per le Garanzie nelle Comunicazioni (Agcom) presso lo spazio Esperienza Europa “David Sassoli”, messo a disposizione dal Parlamento europeo.

Un’occasione per fare il punto sulle opportunità e i rischi generati dall’incontro tra intelligenza artificiale (AI) e settore audiovisivo, assieme a regolatori, policy maker e stakeholder, che si sono confrontati sulle principali dorsali dell’attuale impiego di questa tecnologia nell’ambito dell’industria culturale.

“Un confronto sull’audiovisivo al tempo dell’AI è rilevante nel contesto europeo, sia per il copyright, sia per l’industria, sia della pirateria, sia in termini di regolamento. Una tecnologia dirompente che si inserisce in un contesto fortemente instabile, che richiede una nuova visione di policy. Le piattaforme digitali oggi hanno un ruolo chiave nello sviluppo del settore dell’informazione e dei media, con l’obbligo di affrontare con decisione il problema della disinformazione e della manipolazione dell’opinione pubblica. L’UE deve rimanere uno spazio di regole”, ha detto Carlo Corazza, Direttore del Parlamento europeo in Italia, aprendo il convegno con i saluti delle Istituzioni.

Secondo Giacomo Lasorella, Presidente AGCOM: “L’AI è una tecnologia dirompente in grado di ridefinire il modo in cui i contenuti mediatici sono prodotti, distribuiti e consumati. Per l’AI Act e il suo corso legislativo in Italia come Agcom cerchiamo di capire in che modo regolamentare l’utilizzo di questa tecnologia nei settori di interesse, nella tutela dei diritti e nell’innovazione. Nostro compito è regolare tutto questo. Il DSA è il plesso normativo che riguarda l’AI che è già tra noi, come le piattaforme la usano per regolare i servizi che offrono. Il DSA detta le norme fondamentali affinché il design stesso delle piattaforme nell’uso dell’AI risponda ai criteri di trasparenza e tutela degli utenti. I gatekeeper hanno già investito nei grandi sistemi di AI e per integrarla nei vari servizi si rischia di erigere nuove barriere di accesso al mercato. Poi ci sono criticità per quel che riguarda il copyright. È necessario garantire un’interazione più efficace tra disciplina settoriale dei media e copyright e i plessi normativi DSA e AI Act”.

“Dal codice di buone pratiche siamo passati al codice di condotta sulla disinformazione ai sensi del DSA. Con questa conversone l’UE compie un passo decisivo nel contrasto alla disinformazione. È un benchmark per valutare le responsabilità delle piattaforme digitali in questo campo. Dal 1° luglio prossimo le piattaforme saranno sottoposte a verifiche annuali indipendenti. Il codice è frutto di un confronto multilaterale tra tutti gli attori impegnati nella lotta alla disinformazione. I suoi pilastri sono diversi: eliminare gli incentivi economici alle fake news e a chi le diffonde, aumentare la trasparenza della pubblicità politica, aumentare la consapevolezza degli utenti con strumenti più efficaci. Alcune piattaforme importanti si sono ritirate dagli impegni del fact-checking. Ci sono dei dubbi in generale sull’efficacia del codice e la Commissione avvierà un dialogo per il follow-up. Poi c’è la questione della relazione tra copyright e AI. I dati per l’addestramento di questi modelli sono protetti dal diritto d’autore. L’UE si è dotata di strumenti di policy per lo sviluppo di tecnologie di machine learning, introducendo due eccezioni al copyright per consentire l’impiego di queste tecnologie nell’industria dei contenuti. La più importante è l’eccezione TDM per bilanciare la promozione dell’innovazione e la tutela dei diritti d’autore, che possono sfruttare lo strumento dell’opt-out, un cardine fondamentale per favorire il rispetto dei diritti in qualsiasi luogo e per conciliare l’ubiquità del web con il rispetto del diritto d’autore a livello nazionale”, ha spiegato Giuseppe Abbamonte, Direttore per le politiche dei media Commissione Europea.

“L’AI va affrontata a seconda delle applicazioni, con delle regole specifiche per ogni settore di impiego, mentre nell’industria creativa e culturale si deve dare un’attenzione diversa, una regolamentazione diversa. C’è il diritto d’autore e la tutela dell’immagine, della voce e dei testi dei creatori. Abbiamo messo nel tax credit della legge cinema strumenti di regolamentazione per l’industria dell’audiovisivo che necessità di regole che si adattino rapidamente ai cambiamenti tecnologici. Abbiamo messo dei paletti per garantire trasparenza nell’uso dell’AI, che rimane uno strumento e che non deve togliere nulla all’uomo e il suo specifico spazio esistenziale e professionale. I fondi dati agli attori e altri professionisti siano garantiti per le persone. Abbiamo sottolineato come non potesse essere sottinteso in un contratto che le immagini siano sfruttabili in altri contesti fuori dal consenso specifico per un’opera. Serve un’autoregolamentazione dei soggetti interessati”, ha dichiarato Lucia Borgonzoni, Sottosegretario di Stato Ministero della Cultura.

“In pochi anni siamo arrivati alle soglie di un mondo sempre più distopico, con tecnologie in grado di stupirci sempre di più, ma a rischio altissimo in termini di democrazia, copyright e sostenibilità sociale. Si pone un problema di tutela della proprietà intellettuale dei lavoratori e delle loro competenze. La maggior parte delle piattaforme è impostata per profilare i contenuti attraverso algoritmi troppo opachi. Le innovazioni non sono sbagliate per sé, dipende dagli usi che se ne fanno. L’utilizzo delle tecnologie avviene in contesti non ancora pienamente regolamentati e segnati da squilibri spaventosi tra imprese e utenti. Serve un perimetro di regole trasparenti, uno sforzo sulle competenze e un confronto serrato tra Governi e imprese tecnologiche”, ha detto Alessio Butti, Sottosegretario di Stato Presidenza del Consiglio dei Ministri, intervenendo in video.

L’evento – articolato in tre panel dedicati a disinformazione e hate speech, tutela del copyright online e pirateria, impatti dei sistemi di AI nella produzione e distribuzione dei contenuti audiovisivi – è stato moderato da Enrico Pagliarini di Radio24.

L’AI vista dall’Europa

Nel panel dal titolo “L’AI vista dall’Europa”, Andrea Renda, Coordinatore Comitato AGCOM sull’AI, ha dichiarato che si deve “cercare di capire come la creatività umana si adatterà all’AI, uno strumento che si riproduce rapidamente con formidabile efficacia e che si alimenta con quanto fatto fino ad oggi dall’umanità. Negli USA l’AI generativa è stata spinta al punto che investimenti enormi non producono eguali profitti. Siamo di fronte alla consapevolezza che il futuro dell’AI non è negli LLM. In Europa si cerca un’AI affidabile con requisiti stringenti e gli attuali LLM non riescono ad adeguarsi a nessuno di questi criteri. In Europa si sta lavorando ad un’idea di un CERN he si occupi di fare ricerca sull’AI pe renderla sicura e affidabile, per migliorarne le applicazioni nella scienza, nell’industria e nei servizi pubblici ed evitare i rischi che già abbiamo individuato. Si tratta di tecnologie centrali per il mantenimento dei livelli di competitività che l’UE ha fissato come obiettivi chiave per la crescita. Nell’interazione tra competenza e sicurezza si sta lavorando su alcuni punti chiave. Riaprire l’AI Act per semplificarne l’applicazione e ridurre i costi amministrativi e di compliance per le imprese e le PMI in particolare. La Commissione ha ritirato la direttiva sulla responsabilità civile al tempo dell’AI ma il parlamento potrebbe portarla avanti comunque, per creare un quadro giuridico comune tra i Paesi UE, tale da semplificare lo sviluppo dell’AI”.

Successivamente, ha preso la parola in collegamento da Strasburgo, Brando Benifei, Deputato Parlamento europeo: “Stanotte sono stati attivati negli USA i dazi su acciaio e alluminio europei. Stamattina la Commissione ha annunciato delle misure di risposta. Questo perché non possiamo accettare tutto quello che gli USA ci chiedono e non possiamo sperare che i rapporti migliorino andando sempre incontro alle aspettative americane. Si deve rispondere con l’obiettivo di negoziare da un punto di forza. Il parlamento non intende mollare la direttiva e stiamo proponendo alla Commissione di trovare una formulazione diversa. Si rischia di trasferire la responsabilità dell’AI dalle grandi imprese alle più piccole. Stiamo dando un messaggio chiaro: aspettiamo che si abbassi la tensione politica con gli USA e cerchiamo di lavorare lucidamente. Su questo tema c’è convergenza nel Parlamento sull’AI Act e la tutela dei diritti. La semplificazione va bene, ma non possiamo deregolamentare ogni settore per far piacere alle esigenze degli Stati Uniti. Nel negoziato sulle tariffe non possiamo farci mettere in discussione le nostre leggi, piuttosto lavoriamo con l’AI office per semplificare la compliance delle piccole e medie imprese. L’AI Act lavora su questo fronte: ridurre i rischi e rendere più sicuro l’uso dell’AI da parte di imprese, PA e cittadini. Solo con regole chiare e un clima di fiducia è possibile sfruttare al massimo e in sicurezza le potenzialità di questa tecnologia in chiave di crescita e sviluppo”.

Per quel che riguarda l’impatto della diffusione dell’AI sull’attività regolamentare di AGCOM, intervenendo nel panel “AI, Disinformazione, Hate Speech e Tutela dei Minori”, la Commissaria Laura Aria ha sottolineato che “noi tutti siamo coinvolti nella sfida per una regolazione efficace dell’Intelligenza Artificiale, specie in relazione alla tutela dei diritti fondamentali, sia per individuare le criticità e i rischi che l’Intelligenza Artificiale porta con sé, ma soprattutto per coglierne le opportunità di innovazione, crescita e sviluppo sociale ed economico”.

“L’innovazione va guidata e resa sicura per imprese e cittadini. Ci sono casi però in cui la titolarità del diritto deve rimanere nelle mani degli autori. Devono essere le società che gestiscono l’algoritmo ha dichiarare che i dati acquisiti per il training siano aderenti al copyright, se ne devono preoccupare loro. Fondamentale il nuovo comitato Agcom sull’AI. La difesa del copyright va aggiornata ai nuovi utilizzi della tecnologia. La normativa italiana, istituendo il nuovo reto di deep fake, è innovativa a livello europeo. Il caso Crosetto ha fatto scuola. Ci stiamo interfacciando con potenti strumenti che hanno anche finalità criminali particolarmente gravi”, ha precisato Alberto Barachini, Sottosegretario di Stato Presidenza del Consiglio dei Ministri.

AI, copyright e pirateria

Da sinistra: Massimiliano Capitanio, Gina Nieri, Federico Bagnoli Rossi

“Sulla tutela del copyright la situazione è grave, perdiamo 2 miliardi di ricavi per colpa della pirateria e oggi fare pirateria nonostante l’AI possa darci una grande mano in questa lotta in Italia è semplicissimo. Chiunque può andare sullo store di Google e scaricare app per vedere partite e film violando il copyright, rubando i contenuti. Su Alibaba si può comprare una chiavetta per vedere contenuti piratati. Su TikTok è possibile guardare partite di calcio senza pagare. Solo per fare alcuni esempi. Barachini ha fatto bene ha dire che il tema fondamentale è la fiducia. L’AI dal nulla non crea niente, genera acquisendo proprietà intellettuale che va riconosciuta e remunerata. Vale per ogni settore, soprattutto l’audiovisivo. Ci sono diverse criticità, tra cui la violazione dei diritti d’autore. L’innovazione c’è mancano le tutele. Agcom c’è, sia nel settore dei diritti sportivi, ora anche nell’audiovisivo, con la rimozione tempestiva dei link pirata entro 30 minuti. Agcom ha stretto un protocollo col MUR per investire nelle competenze, perché l’AI è un grande strumento di conoscenza ma bisogna saperlo usare, stiamo potenziando il ruolo di chi deve segnalare le violazioni del copyright in rete. L’avvento comunque positivo dell’Intelligenza Artificiale impone con urgenza un’azione di responsabilizzazione per fare in modo che i cittadini possano esserne fruitori attivi e non consumatori passivi. Regole ed educazione civica digitale sono imprescindibili”, ha detto Massimiliano Capitanio, Commissario AGCOM, aprendo il panel “AI, Copyright e Pirateria”.

“Senza regole forse qualcuno fa soldi più facilmente. Noi vogliamo lavorare in un contesto di regole chiare, che tutti devono rispettare. Con l’arrivo di Trump sono state spedite lettere dall’FCC in cui si evidenzia che le leggi dell’Europa sono liberticide e che limitano l’azione delle imprese americane nel mercato europeo. Le piattaforme che avevano sottoscritto il codice sulla disinformazione prodotto da Bruxelles hanno subito sfruttato l’occasione per liberarsi dai vincoli del DSA”, ha sostenuto Gina Nieri di Mediaset.

Secondo Federico Bagnoli Rossi di FAPAV: “L’Italia è uno dei Paesi più attenzionati dai pirati. Noi come FAPAV utilizziamo in maniera responsabile l’AI per fare attività di comunicazione e lo facciamo anche oggi, come nel caso della campagna di sicurezza nelle sale cinematografiche “Il cinema siete voi”. L’AI non è solo uno strumento dalle grandi potenzialità, ma anche dai grandi rischi. Dietro alla pirateria c’è la criminalità organizzata che vuole fare facili profitti, come nel caso delle IPTV illegali, che proprio grazie al piracy shield stiamo contenendo e contrastando. Un business pirata che gestisce un’intera filiera della pirateria che oggi può avvantaggiarsi proprio delle potenzialità dell’AI. Come FAPAV inizieremo ad introdurre il lato positivo dell’AI che può essere impiegata nella lotta alla pirateria. Fondamentale sarà la formazione. Oggi c’è il semaforo verde al primo corso del LABS – Learn Antipiracy Best Skills, la società benefit di FAPAV – Federazione per la Tutela delle Industrie dei Contenuti Audiovisivi e Multimediali, in collaborazione con Anica Academy, per sviluppare competenze post laurea proprio su queste tematiche”.

L’AI nella produzione e distribuzione dei contenuti audiovisivi

“L’audiovisivo è un settore che sta vedendo un crescente utilizzo dell’AI, con un tasso di penetrazione del 38% e le prospettive sono di una crescita esponenziale. Accanto a questa crescita esponenziale si accompagna ovviamente allarme sociale e una sottile inquietudine, che però è la stessa che ha accolto ogni nuova tecnologia o nuovo mezzo di comunicazione.
Preoccupazioni in ordine al possibile rimpiazzo e sostituzione del fattore umano, dell’autodeterminazione umana, per mezzo delle macchine, aprendo agli scenari apocalittici narrati dalla fantascienza. Più precisamente, quanto al settore diventa audiovisivo, la preoccupazione riguarda la sostituzione dei talenti, degli attori, dei doppiatori, ma anche di chi lavora nel backstage, cioè tutte quelle maestranze creative coinvolte nella realizzazione del prodotto, dal concept alla scrittura, dalle riprese alla postproduzione e alla distribuzione. Sono molto lieta che la sottosegretaria Borgonzoni abbia fatto riferimento al fatto che non è sul piatto l’idea di una intelligenza artificiale applicata agli attori, ma perimetrata e ridotta semplicemente all’opera.
In nessun modo, io credo, l’intelligenza artificiale arriverà a ledere la centralità, il ruolo centrale dell’attore nel determinare il valore del prodotto e l’engagement con l’audience. E questo ce lo racconta anche la scienza. In nessun modo la mediazione tecnologica ha nel tempo ridotto la centralità dell’umano e della corporeità umana, al contrario ha permesso l’affermarsi di un vero e proprio star system.
Quando si va a verificare qual è l’effettivo utilizzo dell’intelligenza artificiale nella filiera produttiva, ci si rende conto che gli usi sono volti a potenziare la creatività umana, ad aumentare il controllo editoriale.
L’AI può potenziare l’immagine degli attori nell’industria dell’audiovisivo, soprattutto con algoritmi che ringiovaniscono volti, ma anche con sistemi di traduzione di molte opere che altrimenti non varcherebbero il imiti del mercato nazionale. La stessa tecnologia può tutelare il copyright andando a rintracciare ogni violazione
”, ha dichiarato Elisa Giomi, Commissaria AGCOM, intervenendo nel panel “L’AI nella Produzione e Distribuzione dei Contenuti Audiovisivi”.

“Il nostro settore è da sempre la frontiera delle nuove tecnologie applicate all’industria, che qui trovano pieno e pioneristico impiego. Pensiamo alla CGI e altri visual effects legati al virtuale. Ovviamente non mancano mai diffidenza e paura, ma c’è anche tanta voglia di sperimentare. I cambiamenti tecnologici portano sempre con sé nuove opportunità e nuovi rischi. L’AI è una grande opportunità per potenziare la creatività nel settore audiovisivo. Gli artisti contemporanei posso sfruttare oggi effetti visivi avanzati, alcuni dei quali incorporano l’AI, che aiuta notevolmente il processo creativo e produttivo. Basti pensare alla tecnica di rotoscopica, che è essenziale nella postproduzione, oggi fortemente investita dall’AI, che interviene nella correzione del colore, nella rimozione di oggetti, nell’affilatura dei dettagli, nel tracciamento del movimento, nei processi di invecchiamento o de-invecchiamento di un attore. Sono numerose le applicazioni dell’AI nel modo del cinema e dell’audiovisivo. L’espressione creativa degli esseri umani è la linfa vitale dell’industria cinematografica e gli esseri umani rimarranno sempre al centro del processo creativo”, ha dichiarato Emilie Anthonis della Motion Pictures Association.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-copyright-e-audiovisivo-lasorella-agcom-tecnologia-dirompente-capace-di-ridefinire-il-modo-di-produrre-distribuire-e-consumare-contenuti/524308/




Manus, dalla Cina l’AI completamente autonoma. Come funziona e perché ci deve preoccupare

Manus: la prima IA completamente autonoma sviluppata in Cina

L’intelligenza artificiale (AI) ha compiuto un nuovo salto evolutivo con l’arrivo di Manus, definita dagli sviluppatori cinesi di The Butterfly Effect come la “prima intelligenza artificiale completamente autonoma” al mondo. A differenza di chatbot come ChatGPT, Google Gemini o Grok, che necessitano di input umano per eseguire compiti, Manus sarebbe in grado di operare in totale autonomia, prendendo decisioni e portando a termine operazioni complesse senza alcuna supervisione.

Come funziona Manus?

Il funzionamento di Manus, secondo Forbes e altri quotidiani di settore, si basa su un’architettura avanzata che va oltre il concetto tradizionale di AI generativa. Anziché affidarsi a un singolo modello, il sistema opera come un “manager” che coordina diversi agenti specializzati, dei sub AI agents, assegnando loro compiti e supervisionando il processo fino al completamento. Questo permette all’AI di gestire workflow articolati senza necessitare di continue istruzioni umane.

Un esempio pratico? Se un utente chiedesse “Trovami un appartamento”, Manus non si limiterebbe a fornire una lista di opzioni, ma eseguirebbe una ricerca approfondita, analizzando fattori come tasso di criminalità, condizioni climatiche e andamento del mercato immobiliare, fornendo un report dettagliato con le migliori soluzioni personalizzate.

Un altro elemento distintivo è la capacità di operare in modalità asincrona: una volta avviato un compito, Manus lo esegue in background e notifica l’utente solo al termine dell’elaborazione, senza bisogno di interazioni continue.

[embedded content]

Le possibili applicazioni di Manus

L’arrivo di Manus potrebbe rivoluzionare numerosi settori. Nel campo del recruitment, potrebbe analizzare autonomamente i curriculum, incrociando dati del mercato del lavoro per suggerire i candidati migliori e fornire analisi dettagliate per le assunzioni.

Nel software development, invece, potrebbe realizzare da zero un sito web professionale: dalla raccolta delle informazioni sui social media fino al deployment online e alla risoluzione delle eventuali problematiche tecniche.

Secondo Yichao “Peak” Ji, responsabile della ricerca per Manus, l’AI autonoma supera la ricerca approfondita su un benchmark popolare per assistenti AI generici chiamato GAIA, che sonda la capacità di un’IA di svolgere specifiche attività navigando sul Web, utilizzando software e altro ancora.

Le implicazioni e le criticità di un agente AI completamente autonomo

Se da un lato Manus rappresenta una straordinaria innovazione (o almeno sembra tale), dall’altro solleva questioni etiche, economiche e regolatorie di non poco conto. Il timore più immediato riguarda l’impatto sul mercato del lavoro: a differenza di altre IA che migliorano l’efficienza dei lavoratori umani, questa tecnologia potrebbe effettivamente sostituirli in molte mansioni, portando a una possibile crisi occupazionale.

Altra problematica fondamentale è la responsabilità legale: se un agente virtuale autonomo come Manus commettesse un errore con gravi conseguenze, chi ne risponderebbe? Attualmente, la regolamentazione globale in materia di AI non è ancora attrezzata per affrontare scenari di questo tipo.

Infine, il debutto di Manus solleva anche questioni di geopolitica tecnologica. Da tempo la leadership americana nell’IA sembrava incontrastata, con aziende della Silicon Valley che procedevano per incrementi graduali nello sviluppo delle tecnologie. L’emergere di un’intelligenza artificiale realmente autonoma, sviluppata in Cina, potrebbe ribaltare questo equilibrio e offrire a Pechino un vantaggio competitivo cruciale nelle industrie basate sull’AI.

Manus è o non è un’AI ‘completamente’ autonoma?

La domanda l’abbiamo posta a ChatGPT (un diretto futuro competitor). Il dubbio, quando si legge “la prima” AI completamente autonoma della storia, viene sempre. E in effetti qualcosa non torna.

Ma è davvero la prima AI completamente autonoma?

  1. Non è un’entità indipendente
    • Anche se Manus può eseguire compiti da solo, dipende ancora da server e infrastrutture digitali per funzionare.
    • Non prende iniziative senza input iniziale (ha bisogno di una richiesta o di un obiettivo da parte dell’utente).
  2. Non evolve autonomamente come un organismo
    • Non sviluppa una coscienza o un’intelligenza generale (AGI).
    • Non può autonomamente ridefinire la propria esistenza, ma migliora i suoi processi sulla base di dati e feedback.
  3. Non è il primo agente AI con autonomia crescente
    • AlphaGo Zero (2017) è stato il primo sistema a superare il livello umano senza input esterni.
    • AutoGPT e OpenAI Five hanno dimostrato capacità simili di pianificazione e autoapprendimento.
    • MuZero (2020) ha imparato senza conoscere le regole del gioco, dimostrando un’elevata autonomia.

Manus è la prima AI autonoma?

  • Se consideriamo l’autonomia come “capacità di eseguire compiti senza supervisione umana”, allora sì, Manus è tra i più avanzati al mondo.
  • Se per autonomia intendiamo “un’AI che si evolve, migliora e prende iniziative senza input umano”, allora Manus è molto avanzato, ma non è ancora una vera AGI (Intelligenza Artificiale Generale).
  • Non è necessariamente la “prima”, ma probabilmente è il primo AI agent con un alto livello di autonomia praticabile in ambito generale.

Quindi, cosa manca a Manus per essere davvero la prima AI completamente autonoma?

  1. Una vera indipendenza decisionale senza input umano iniziale.
  2. La capacità di apprendere nuovi concetti al di fuori del suo addestramento.
  3. Un sistema di auto-miglioramento che funzioni senza intervento umano.

Al momento, questo lo possiamo dire, Manus è probabilmente il miglior esempio di agente AI autonomo per compiti pratici.

Verso un futuro di agenti AI autonomi? Siamo pronti ad affrontarlo?

L’arrivo di Manus segna una svolta significativa nel panorama dell’intelligenza artificiale. Se questa tecnologia dovesse mantenere le promesse (ed è tutto da dimostrare), potremmo essere sull’orlo di una nuova era dominata da agenti IA autonomi.

Tuttavia, anche questo possiamo dire, resta da vedere come il mondo reagirà a questa rivoluzione, se non si tratti di una notizia volutamente ‘pompata’ da Pechino e, in caso di conferma, quali misure verranno adottate per gestire le opportunità e i rischi connessi.

La sfida, a questo punto (che sia o meno confermate le reali potenzialità di Manus), non è solo tecnologica, ma anche sociale e politica: il (nuovo) futuro dell’AI potrebbe essere già iniziato e la domanda principale, in parte suggerita anche dal Premio Nobel Hinton, è: siamo davvero pronto ad affrontarlo?

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/manus-dalla-cina-lai-completamente-autonoma-come-funziona-e-perche-ci-deve-preoccupare/524025/