Sicurezza dei Big Data e Fast Data: Evoluzione e Sfide nell’Open Source Intelligence (OSINT)

La gestione della sicurezza dei Big Data e dei Fast Data nell’ambito dell’OSINT rappresenta una delle sfide più significative dell’era digitale. Questo articolo esplora le strategie, le tecnologie e le best practice per proteggere e gestire efficacemente i dati nell’intelligence open source.
Questo è il 12° articolo estratto dal white paper “Big e Fast Data: tra sfida per la sicurezza e privacy”, un’analisi approfondita delle sfide contemporanee nella gestione dei dati su larga scala.

Sfide e Opportunità nella Sicurezza dei Big Data

Nell’era digitale, la gestione della sicurezza dei Big Data e dei Fast Data nel contesto dell’OSINT (Open Source Intelligence) riveste un ruolo cruciale. Con la massiccia crescita del volume di dati generati, le organizzazioni devono affrontare sfide significative per garantire la sicurezza e la privacy delle informazioni. La gestione dei Big Data richiede un approccio completo, che consideri non solo gli aspetti tecnologici, ma anche quelli organizzativi e culturali. In Italia, ad esempio, la trasformazione digitale ha portato alla consapevolezza che i dati sono strategici solo quando sono facilmente accessibili alle persone che ne hanno bisogno.

Tuttavia, la sicurezza dei dati non è l’unico aspetto da considerare; la privacy, l’etica e la responsabilità nell’utilizzo dei Big Data e dell’intelligenza artificiale sono altrettanto cruciali. Le organizzazioni devono implementare misure per garantire la trasparenza nei processi basati su queste tecnologie, valutando anche il potenziale discriminante derivante dal loro utilizzo.

In particolare, l’analisi OSINT si occupa di raccogliere e analizzare informazioni aziendali provenienti da fonti disponibili su Internet, le quali, se cadute nelle mani di cyber criminali, potrebbero rappresentare un grave rischio per le aziende. Inoltre, la convergenza tra Big Data e IoT può essere sfruttata per migliorare la sicurezza sul luogo di lavoro, monitorando parametri come temperatura, umidità e qualità dell’aria. Questa evoluzione richiede competenze interdisciplinari e un approccio etico e responsabile per guidare i fenomeni tecnologici attraverso una rigorosa cornice etica e di responsabilità generale[1].

Le sfide nella gestione della sicurezza dei Big Data: Strategie di Protezione e Integrità

Le sfide principali nella gestione della sicurezza dei Big Data includono la protezione contro l’accesso non autorizzato, il mantenimento dell’integrità dei dati e la salvaguardia della privacy. Con l’aumento sia del volume sia della diversità dei dati, diventa sempre più complicato implementare efficacemente misure di sicurezza che possano prevenire violazioni e abusi.

La crittografia dei dati svolge un ruolo cruciale, tuttavia, è importante bilanciarla con l’accessibilità e l’analisi dei dati. Inoltre, la gestione dei permessi di accesso richiede un’attenzione particolare per evitare l’esposizione o la manipolazione di informazioni sensibili. Un’altra sfida significativa è rispettare le normative sulla privacy, che impongono una gestione attenta e responsabile dei dati personali. Infine, la crescente complessità degli attacchi informatici richiede un costante aggiornamento delle strategie di sicurezza per proteggere i Big Data da minacce sempre più sofisticate e avanzate.

Tecnologie e Soluzioni per la Sicurezza dei Big Data

Per garantire l’integrità dei dati nei Big Data, è fondamentale adottare un approccio completo che comprenda sia soluzioni tecnologiche che strategie organizzative. Dal punto di vista tecnologico, è cruciale implementare sistemi di crittografia robusti per proteggere i dati durante la trasmissione e l’archiviazione, prevenendo così accessi non autorizzati o manipolazioni. Inoltre, l’uso di controlli di accesso è essenziale per limitare l’accesso ai dati solo al personale autorizzato, garantendo che solo coloro che ne hanno il permesso possano visualizzare o modificare le informazioni. La convalida dei dati rappresenta un altro elemento critico, poiché assicura l’accuratezza e la coerenza dei dati raccolti o integrati nel sistema.

Dal punto di vista organizzativo, è essenziale creare politiche chiare di data governance e fornire formazione al personale sulle migliori pratiche di sicurezza dei dati. Inoltre, è importante stabilire procedure standard e regolari di convalida per monitorare e controllare errori procedimentali e operativi. Infine, mantenere backup regolari dei dati e utilizzare log per tracciare le attività sui dati sono pratiche fondamentali per garantire che l’integrità dei dati sia mantenuta nel tempo. Queste misure, insieme a un impegno costante per l’aggiornamento e l’adattamento alle nuove minacce alla sicurezza, costituiscono la base per una gestione efficace dell’integrità dei dati nei Big Data.

La sicurezza dei Big Data e dei Fast Data nell’ambito dell’OSINT è una sfida di grande rilevanza nell’era digitale, considerando l’espansione vertiginosa del volume, della velocità e della varietà dei dati generati. In questo contesto, le organizzazioni devono sviluppare strategie di sicurezza robuste per proteggere le informazioni sensibili e prevenire eventuali violazioni. L’OSINT, che coinvolge la raccolta e l’analisi di dati da fonti pubbliche, può essere un’utile risorsa per identificare minacce e opportunità, ma può anche rappresentare un rischio per la sicurezza se non gestito correttamente.

Le tecniche di analisi dei Big Data possono fornire insight preziosi per il processo decisionale, ma richiedono una particolare attenzione alla protezione dei dati e alla privacy. Le aziende devono quindi adottare misure come il controllo dell’accesso, la crittografia, l’anonimizzazione dei dati e la sorveglianza continua per mitigare i rischi associati alla gestione dei Big Data. È altresì fondamentale che le soluzioni di Big Data adottate siano conformi a standard di sicurezza riconosciuti, come l’ISO 27001, che fornisce un quadro per stabilire, implementare, mantenere e migliorare un sistema di gestione della sicurezza delle informazioni.

L’analisi OSINT dovrebbe essere condotta utilizzando strumenti specializzati che garantiscono la legalità, l’etica nella raccolta dei dati e la sicurezza durante l’elaborazione e l’archiviazione. Questo approccio difensivo consente alle organizzazioni di anticipare le mosse degli attaccanti e proteggere le proprie infrastrutture critiche. Inoltre, è essenziale promuovere la consapevolezza e la formazione del personale sull’importanza della sicurezza dei dati e sulle migliori pratiche da adottare, al fine di creare una cultura della sicurezza all’interno dell’organizzazione.

Con l’avvento dell’intelligenza artificiale e delle tecnologie avanzate, le organizzazioni hanno l’opportunità di potenziare ulteriormente la gestione della sicurezza dei Big Data e dei Fast Data nell’ambito dell’OSINT. Questo può avvenire attraverso l’utilizzo di algoritmi di apprendimento automatico per il rilevamento delle minacce e l’analisi predittiva, consentendo una risposta proattiva ai potenziali rischi[2].

OSINT e Big Data: Integrazione e Sicurezza

Sicurezza dei big data e dei fast data, sfide OSINT
Figura 14. Sfide Big e Fast Data legate all’OSINT

L’integrazione dei Big Data e dei Fast Data nell’ambito dell’OSINT (Open Source Intelligence) rappresenta un passaggio significativo nelle operazioni di indagine e analisi dei dati, come possiamo significativemente notare in figura 14.I Big Data consentono di gestire e analizzare grandi volumi di dati provenienti da fonti aperte, mentre i Fast Data si concentrano sulla velocità di elaborazione e sulla capacità di agire in tempo reale. Questa combinazione offre agli analisti di OSINT la possibilità di estrarre informazioni preziose e individuare tendenze e modelli altrimenti inaccessibili.

Grazie all’avanzamento tecnologico, le piattaforme di Big Data sono dotate di strumenti che utilizzano modelli di machine learning auto-miglioranti, in grado di trasformare dati non strutturati in dati strutturati e di generare intuizioni in tempo reale. Ciò accelera le indagini e consente una transizione da una posizione reattiva a una proattiva, anticipando potenziali minacce e opportunità. Inoltre, l’utilizzo di tecnologie Open Source nel campo dei Big Data, come quelle supportate dalla Apache Foundation, offre una flessibilità senza precedenti, consentendo agli utenti di personalizzare le soluzioni in base alle proprie esigenze specifiche.

Queste tecnologie sono spesso integrate con servizi di cloud computing gestiti, semplificando l’implementazione e la gestione delle infrastrutture di Big Data. L’OSINT, supportato da un ecosistema di Big Data, può portare le indagini a un livello superiore, permettendo la fusione di diverse fonti di dati e la gestione di dati storici, elementi essenziali per comprendere appieno un contesto investigativo. La capacità di elaborare e recuperare informazioni utili da dati non strutturati, come immagini, video e suoni, apre nuove possibilità nell’analisi dei dati aperti.

La principale sfida nell’adozione dei Big Data nell’OSINT è la configurazione e la gestione di un ecosistema di Big Data, che può essere complesso e richiedere risorse significative. Tuttavia, per le organizzazioni coinvolte in indagini su larga scala, lavorando in team e affrontando volumi o varietà di dati

L’integrazione dei Big Data e dei Fast Data nell’ambito dell’OSINT (Open Source Intelligence) rappresenta un passaggio significativo nelle operazioni di indagine e analisi dei dati. I Big Data consentono di gestire e analizzare grandi volumi di dati provenienti da fonti aperte, mentre i Fast Data si concentrano sulla velocità di elaborazione e sulla capacità di agire in tempo reale. Questa combinazione offre agli analisti di OSINT la possibilità di estrarre informazioni preziose e individuare tendenze e modelli altrimenti inaccessibili.

Grazie all’avanzamento tecnologico, le piattaforme di Big Data sono dotate di strumenti che utilizzano modelli di machine learning auto-miglioranti, in grado di trasformare dati non strutturati in dati strutturati e di generare intuizioni in tempo reale. Ciò accelera le indagini e consente una transizione da una posizione reattiva a una proattiva, anticipando potenziali minacce e opportunità. Inoltre, l’utilizzo di tecnologie Open Source nel campo dei Big Data, come quelle supportate dalla Apache Foundation, offre una flessibilità senza precedenti, consentendo agli utenti di personalizzare le soluzioni in base alle proprie esigenze specifiche. Queste tecnologie sono spesso integrate con servizi di cloud computing gestiti, semplificando l’implementazione e la gestione delle infrastrutture di Big Data[3].

L’OSINT, supportato da un ecosistema di Big Data, può portare le indagini a un livello superiore, permettendo la fusione di diverse fonti di dati e la gestione di dati storici, elementi essenziali per comprendere appieno un contesto investigativo. La capacità di elaborare e recuperare informazioni utili da dati non strutturati, come immagini, video e suoni, apre nuove possibilità nell’analisi dei dati aperti.

I Big Data e i Fast Data stanno ridefinendo il panorama dell’OSINT, offrendo strumenti avanzati per l’analisi dei dati aperti e la generazione di intelligence. Con il continuo espandersi del mondo dei dati, la capacità di decodificare ed utilizzare tali informazioni in modo efficace sarà sempre più cruciale per il successo delle indagini in svariati settori, dalla sicurezza nazionale alla protezione aziendale.

Nel prossimo articolo della serie, esploreremo il tema del “Rischio dei Fast Data in TikTok”, analizzando le implicazioni per la sicurezza dei dati sulla popolare piattaforma social. Per accedere alla versione integrale di questa ricerca, vi invitiamo a scaricare gratuitamente il white paper “Big e Fast Data: tra sfida per la sicurezza e privacy“. Il documento completo offre un’analisi approfondita di tutte le tematiche trattate e rappresenta una risorsa preziosa per professionisti e studiosi del settore.

Note e Biografia:

[1] Gandini, A., & Risi, E. (Eds.). (2023). Tracce digitali e ricerca sociologica: riflessioni ed esperienze di sociologia digitale. FrancoAngeli.

[2] Paoli, A. D., & Masullo, G. (2022). Digital social research: topics and methods. Italian Sociological Review, 12(7S), 617-617.

[3] Amaturo, E., & Aragona, B. (2019). Per un’epistemologia del digitale: note sull’uso di big data e computazione nella ricerca sociale. Quaderni di Sociologia, 81(81-LXIII), 71-90.

Profilo Autore

É un esperto di sicurezza informatica, con una formazione che combina conoscenze giuridiche e tecniche. Ha conseguito una laurea triennale in Operatore Giuridico di Impresa presso l’Università degli Studi de L’Aquila, seguita da una laurea magistrale in Giurisprudenza presso l’Università Telematica Pegaso. La sua formazione si arricchisce di quattro master: uno in Criminologia e Studi Forensi, uno in Programmazione e Sviluppo Backend e Frontend, un master in Cybersecurity presso l’Ethical Hacker Academy, e un master di II livello in Homeland Security presso l’Università Campus Bio-Medico di Roma.

Grazie a diverse certificazioni EIPASS, tra cui quella di Data Protection Officer (DPO/RDP), e licenze OPSWAT, ha acquisito competenze avanzate in sicurezza delle reti, protezione delle infrastrutture critiche e gestione dei dati. La sua passione per il mondo informatico e tecnologico e il costante aggiornamento professionale lo hanno reso un punto di riferimento nel settore, incluse aree emergenti come l’intelligenza artificiale.

È autore di due pubblicazioni scientifiche: “Contrasto al Terrorismo: La Normativa dell’Unione Europea” e “La Cyber Security: La Riforma Europea in Materia di Cybersicurezza ed il Cyber- Crime”, entrambe edite da Currenti Calamo.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/sicurezza-dei-big-data/




AI Generativa: Opportunità e Sfide

Questo articolo rappresenta l’ultimo contenuto di una serie esclusiva dedicata all’AI Generativa. Un viaggio attraverso le più innovative tecnologie che stanno ridefinendo i confini della creatività artificiale, dalla progettazione di sistemi autonomi all’esplorazione di nuovi paradigmi computazionali.

Questo paragrafo esplora il concetto di “agente intelligente” nell’ambito dell’Intelligenza Artificiale generativa. In particolare, si analizzano le caratteristiche distintive, le architetture e le tipologie, evidenziando il loro ruolo cruciale nell’evoluzione dell’AI verso sistemi autonomi, adattabili e interattivi. Vengono inoltre discusse le sfide aperte e le prospettive future della ricerca sugli agenti intelligenti, con particolare attenzione alle implicazioni etiche e sociali[1].

L’agente intelligente rappresenta un paradigma fondamentale nell’AI, incarnando l’idea di un sistema informatico in grado di percepire l’ambiente, elaborare le informazioni e agire autonomamente per raggiungere obiettivi predefiniti[2]. A differenza dei sistemi di AI passivi, gli agenti intelligenti interagiscono in modo proattivo e adattivo con il mondo circostante, aprendo nuove possibilità per la creazione di sistemi autonomi e intelligenti.

AI Generativa: Rivoluzione degli Agenti Intelligenti nel Panorama dell’Intelligenza Artificiale Moderna

Un agente intelligente si distingue per le seguenti caratteristiche[3]:

  • Autonomia: sono oggetti complessi che operano senza l’intervento umano diretto, prendendo decisioni in base alle proprie percezioni e conoscenze,
  • Percezione: sono in grado di acquisire informazioni sull’ambiente tramite sensori (fisici o virtuali), che possono includere telecamere, microfoni, sensori di temperatura, o anche flussi di dati da internet,
  • Azione: eseguono azioni che modificano l’ambiente, tramite attuatori come motori, altoparlanti, o la capacità di inviare comandi ad altri sistemi,
  • Obiettivo: agiscono per raggiungere uno o più obiettivi specifici, che possono essere definiti a priori o appresi durante l’interazione con l’ambiente,
  • Apprendimento: possono migliorare le proprie prestazioni nel tempo attraverso l’apprendimento, adattando il proprio comportamento in base alle esperienze passate.

Un agente intelligente è tipicamente composto dai seguenti componenti:

  • Sensori: oggetti in grado di acquisire le informazioni dall’ambiente (es. telecamere, microfoni, sensori di temperatura),
  • Attuatori: oggetti destinati a eseguire azioni sull’ambiente (es. motori, altoparlanti, display),
  • Unità di elaborazione: il componente dedicato all’elaborazione delle informazioni sensoriali e alla decisione sulle azioni da intraprendere,
  • Base di conoscenza: il nucleo in grado di contenere le informazioni sul mondo e sugli obiettivi dell’agente.

In letteratura esistono diverse tipologie di agenti intelligenti, classificate in base alle loro capacità e al loro grado di sofisticazione:

  • Agenti reattivi semplici: agenti che reagiscono direttamente agli stimoli ambientali senza memoria delle esperienze passate,
  • Agenti reattivi basati su modello: agenti che mantengono un modello interno dell’ambiente e delle sue dinamiche,
  • Agenti basati su obiettivi: agenti che agiscono per raggiungere obiettivi specifici, pianificando le azioni in base al modello dell’ambiente,
  • Agenti basati su utilità: agenti che valutano le azioni in base a una funzione di utilità che misura il grado di soddisfazione degli obiettivi,
  • Agenti che apprendono: agenti che migliorano le proprie prestazioni nel tempo attraverso l’apprendimento automatico.

Gli Agenti di AI, con la loro capacità di agire autonomamente e di interagire con l’ambiente, possono sbloccare nuove possibilità e applicazioni per l’AI generativa, aprendo la strada a una nuova era di creatività e innovazione.

Cosa può fare un Agente di AI per l’AI Generativa?

1. Automatizzare il processo creativo:
• Gli agenti di AI possono automatizzare compiti ripetitivi e dispendiosi in termini di tempo, come la raccolta di dati, la pre-elaborazione e l’ottimizzazione dei parametri, consentendo ai creatori di concentrarsi sugli aspetti più creativi del processo,
• Possono generare variazioni di un’opera, esplorare diverse opzioni creative e suggerire nuove idee, stimolando l’ispirazione e ampliando le possibilità artistiche,
2. Personalizzare l’esperienza creativa:
• Gli agenti di AI possono apprendere le preferenze e lo stile di un creatore, adattando i modelli generativi alle sue esigenze specifiche,
• Possono fornire feedback personalizzati e suggerimenti in tempo reale, guidando il processo creativo e migliorando la qualità dei risultati,
3. Facilitare la collaborazione creativa:
• Gli agenti di AI possono fungere da intermediari tra diversi creatori, facilitando la comunicazione e la condivisione di idee,
• Possono combinare i contributi di diversi artisti, generando opere collaborative innovative e stimolando nuove forme di espressione artistica,
4. Espandere le applicazioni dell’AI generativa:
• Gli agenti di AI possono integrare l’AI generativa in nuovi contesti e applicazioni, come la creazione di ambienti virtuali interattivi, la progettazione di prodotti personalizzati e lo sviluppo di esperienze educative coinvolgenti,
• Possono agire come “creativi artificiali”, generando contenuti originali e innovativi in modo autonomo, aprendo nuove frontiere nell’arte e nell’intrattenimento,

Ecco alcuni esempi concreti di utilizzo degli agenti per la generazione di contenuti:

  • Un agente di AI potrebbe assistere un musicista nella composizione di una canzone, suggerendo melodie, armonie e ritmi in base al suo stile e alle sue preferenze,
  • Un agente di AI potrebbe collaborare con un designer per creare un abito su misura, generando diverse opzioni di design e adattandole alle misure e ai gusti del cliente,
  • Un agente di AI potrebbe sviluppare un videogioco interattivo, generando ambienti, personaggi e storie in tempo reale, in base alle azioni del giocatore.

Lo stato dell’arte presuppone cha la ricerca debba ancora affrontare diverse sfide:

• Scalabilità: la capacità di sviluppare agenti in grado di operare in ambienti complessi e dinamici, con un elevato numero di variabili e interazioni,

• Robustezza: garantire la capacità degli agenti di gestire situazioni impreviste e incerte, adattando il proprio comportamento in modo flessibile,

• Interazione uomo-agente: progettare agenti in grado di interagire in modo naturale e intuitivo con gli esseri umani, comprendendo il linguaggio naturale e le emozioni,

• Etica e sicurezza: assicurare che gli agenti intelligenti siano utilizzati in modo responsabile ed etico, senza rischi per la sicurezza umana e nel rispetto dei valori sociali.

L’integrazione tra agenti di AI e AI generativa rappresenta un passo significativo verso lo sviluppo di sistemi più creativi, autonomi e collaborativi. Gli agenti possono amplificare il potenziale dell’AI generativa, automatizzando, personalizzando ed espandendo le sue applicazioni, aprendo la strada a una nuova era di innovazione e creatività.

AI Neuro-Simbolica

L’intelligenza artificiale ha compiuto progressi significativi negli ultimi anni, ma le due principali correnti di pensiero – il connessionismo e il simbolismo – che sono alla base delle moderne modellazioni di AI presentano limiti intrinseci. Le reti neurali, pur eccellendo nell’apprendimento di pattern da grandi quantità di dati, mancano di trasparenza e capacità di ragionamento simbolico. I sistemi di AI simbolica, d’altra parte, sono trasparenti e capaci di ragionamento logico, ma hanno difficoltà ad apprendere da grandi quantità di dati e a gestire l’incertezza.

L’AI neuro-simbolica si propone di superare questi limiti integrando i punti di forza di entrambi gli approcci. L’obiettivo è quello di creare sistemi di AI che siano in grado di:

  • Apprendere da grandi quantità di dati,
  • Ragionare in modo logico e simbolico,
  • Spiegare il proprio processo decisionale,
  • Generalizzare a nuove situazioni,
  • Gestire l’incertezza.

AI Generativa e Innovazione: Neuro-Simbolica, Quantum e Federata

L’AI neuro-simbolica si basa sull’idea che la cognizione umana combini aspetti sia connessionisti che simbolisti. Il cervello umano è un sistema complesso che elabora informazioni sia a livello sub-simbolico (reti neurali) che a livello simbolico (linguaggio e pensiero astratto). L’AI neuro-simbolica mira a emulare questa dualità, integrando reti neurali e sistemi di ragionamento simbolico in un’unica architettura.

Vediamo in dettaglio le motivazioni che fanno privilegiare l’AI Neuro-Simbolica:

• Superare i limiti del connessionismo: le reti neurali, pur dimostrando ottime performance nell’apprendimento di pattern da grandi quantità di dati, presentano dei limiti in termini di interpretabilità, ragionamento simbolico e capacità di generalizzazione,

• Superare i limiti del simbolismo: i sistemi di AI simbolica, pur eccellendo nel ragionamento logico e nella manipolazione di simboli, hanno difficoltà ad apprendere da grandi quantità di dati e a gestire l’incertezza,

• Creare una AI più robusta e versatile: l’AI neuro-simbolica mira a creare sistemi di AI più robusti, flessibili e adattabili, in grado di apprendere da grandi quantità di dati, di ragionare in modo logico e di gestire l’incertezza,

• Sviluppare una AI più simile a quella umana: la cognizione umana sembra combinare aspetti sia connessionisti che simbolisti. L’AI neuro-simbolica potrebbe quindi portare a sistemi di AI più simili a quella umana, in termini di flessibilità, creatività e capacità di comprensione.

Per raggiungere i propri obiettivi, l’AI neuro-simbolica si pone questi traguardi:

• Integrazione di reti neurali e sistemi simbolici: l’AI neuro-simbolica combina reti neurali artificiali con sistemi di ragionamento simbolico, come la logica del primo ordine o le reti semantiche,

• Apprendimento e ragionamento: i sistemi neuro-simbolici sono in grado sia di apprendere da grandi quantità di dati che di ragionare su tali dati utilizzando la conoscenza simbolica,

• Interpretabilità e trasparenza: l’AI neuro-simbolica mira a creare sistemi di AI più interpretabili e trasparenti, in cui il processo decisionale è comprensibile agli esseri umani. Esistono diverse architetture e tecniche per modellare l’AI neuro-simbolica, tra cui:

• Reti neurali con memoria esterna: sono reti neurali che utilizzano una memoria esterna per memorizzare e recuperare informazioni simboliche,

• Sistemi di ragionamento basati su reti neurali: sono sistemi che utilizzano reti neurali per implementare algoritmi di ragionamento simbolico,

• Apprendimento di rappresentazioni simboliche da dati: sono modelli che sfruttano le reti neurali per apprendere rappresentazioni simboliche da dati grezzi,

• Integrazione di conoscenza simbolica in reti neurali: sono modelli che incorporano la conoscenza simbolica nella struttura o nei pesi di una rete neurale,

• Sistemi ibridi che combinano reti neurali e sistemi esperti: sono sistemi che integrano la capacità di apprendimento delle reti neurali con la conoscenza simbolica dei sistemi esperti.

L’AI neuro-simbolica offre un potenziale significativo per migliorare e ampliare le capacità dell’AI generativa. Ecco alcuni dei suoi contributi chiave:

1. Migliorare la coerenza e la plausibilità dei contenuti generati:

  • Ragionamento e conoscenza del mondo: i sistemi neuro-simbolici possono integrare la conoscenza del mondo e le regole logiche nel processo generativo, garantendo che i contenuti generati siano coerenti con la realtà e le leggi della fisica. Ad esempio, un sistema neuro-simbolico per la generazione di immagini potrebbe evitare di generare oggetti impossibili o scene surreali,
  • Coerenza narrativa: Nell’ambito della generazione di testo, l’AI neuro-simbolica può aiutare a mantenere la coerenza narrativa, evitando contraddizioni e incongruenze nella trama o nei personaggi,

2. Aumentare il controllo e la direzionalità del processo generativo:

  • Specificare vincoli e obiettivi: l’AI simbolica consente di specificare vincoli e obiettivi in modo esplicito, guidando il processo generativo verso risultati desiderati. Ad esempio, si potrebbe specificare che un’immagine generata deve contenere determinati oggetti o rispettare uno stile artistico particolare,
  • Generazione condizionale: l’AI neuro-simbolica può generare contenuti condizionati a informazioni specifiche, come descrizioni testuali, attributi o esempi,

3. Abilitare la creatività e l’immaginazione:

  • Ragionamento analogico: i sistemi neuro-simbolici possono utilizzare il ragionamento analogico per generare nuove idee e concetti, combinando elementi esistenti in modi innovativi,
  • Esplorazione di spazi concettuali: l’AI simbolica può aiutare a esplorare spazi concettuali complessi, consentendo all’AI generativa di scoprire nuove possibilità e generare contenuti originali,

4. Rendere l’AI generativa più spiegabile e affidabile:

  • Spiegare le decisioni: l’AI neuro-simbolica può fornire spiegazioni sul processo generativo, rendendo più trasparente il funzionamento dell’AI generativa e aumentando la fiducia negli output,
  • Verificare la correttezza: i sistemi simbolici possono essere utilizzati per verificare la correttezza e la coerenza dei contenuti generati, identificando eventuali errori o incongruenze.

In sintesi, l’AI neuro-simbolica offre un insieme di strumenti e tecniche che possono migliorare significativamente le capacità dell’AI generativa, rendendola più potente, versatile e affidabile. L’integrazione di ragionamento simbolico e apprendimento automatico apre nuove frontiere per la creatività e l’innovazione, consentendo di generare contenuti di alta qualità e di risolvere problemi complessi in diversi ambiti.

Ecco alcuni esempi di applicazione nell’ambito dell’AI generativa:

  • Generazione di codice: Sviluppare sistemi in grado di generare codice sorgente corretto e efficiente, a partire da specifiche in linguaggio naturale.
  • Creazione di contenuti artistici: Generare opere d’arte originali e creative, combinando l’estetica con il significato simbolico.
  • Design di farmaci: Accelerare la scoperta di nuovi farmaci, generando molecole con proprietà specifiche.

L’AI neuro-simbolica offre un approccio promettente per potenziare l’AI generativa, superando i limiti dei modelli basati esclusivamente su reti neurali. L’integrazione del ragionamento simbolico può portare a sistemi generativi più spiegabili, controllabili, coerenti e in grado di risolvere problemi complessi. Questa sinergia apre nuove frontiere per l’innovazione in diversi settori, dallo sviluppo di software alla creazione artistica, fino alla ricerca scientifica.

AI Federata: Nuovi Paradigmi di Apprendimento Distribuito

L’intelligenza artificiale (AI) federata è una soluzione innovativa che consente di addestrare i modelli di machine learning su dataset distribuiti, preservando la privacy e la sicurezza dei dati.

L’apprendimento automatico tradizionale si basa sulla centralizzazione dei dati su un singolo server. Tuttavia, questa prassi solleva crescenti preoccupazioni in termini di privacy, sicurezza e sovranità dei dati. L’AI federata offre un’alternativa, consentendo di addestrare modelli su dati decentralizzati, residenti su dispositivi individuali (come smartphone o sensori) o server locali.

Nell’AI federata, un server centrale coordina l’addestramento di un modello globale, mentre i dati rimangono distribuiti tra i client. Il processo tipico prevede le seguenti fasi:

  • Inizializzazione: il server centrale inizializza un modello globale e lo distribuisce ai client,
  • Addestramento locale: ogni client addestra il modello sui propri dati locali,
  • Aggregazione: i client inviano gli aggiornamenti del modello (ad esempio, i gradienti) al server centrale,
  • Aggiornamento del modello globale: il server aggrega gli aggiornamenti ricevuti dai client e aggiorna il modello globale,
  • Iterazione: le fasi 2-4 vengono ripetute fino a raggiungere la convergenza del modello.

Ovviamente, l’implementazione di un AI federata deve affrontare diverse sfide connesse alle tecnologie impiegate e alle implicazioni legali, quali:

  • Eterogeneità dei dati: i dati possono variare in termini di qualità, formato e distribuzione tra i client. L’utilizzo di tecniche come l’apprendimento transfer learning e il federated multi-task learning potrebbero mitigare questo problema,
  • Comunicazione: la comunicazione tra client e server può essere limitata dalla larghezza di banda e dalla latenza. Lo sfruttamento di tecniche di compressione dei dati e aggiornamento selettivo potrebbero ottimizzare la comunicazione,
  • Privacy: garantire la privacy dei dati durante l’addestramento è fondamentale. A riguardo si potrebbero applicate soluzioni crittografiche, come la differential privacy e la homomorphic encryption, in grado di proteggere i dati sensibili.

Nell’ambito della GenAI si ricorda che l’addestramento dei modelli generativi richiede enormi quantità di dati, spesso sensibili e distribuiti tra diverse fonti. Qui entra in gioco l’AI federata, un paradigma di apprendimento automatico che consente di addestrare modelli su dataset decentralizzati, preservando la privacy e la sicurezza dei dati.

L’AI federata può potenziare l’AI generativa in questi ambiti:

1. Accesso a dataset più ampi e diversificati: l’AI federata consente di aggregare dati provenienti da diverse fonti, come dispositivi mobili, sensori IoT e server aziendali, senza la necessità di centralizzarli. Questo permette di addestrare modelli generativi su dataset più ampi e diversificati, migliorandone la capacità di generalizzazione e la creatività,

2. Preservazione della privacy: l’addestramento di modelli generativi su dati sensibili, come informazioni mediche o conversazioni personali, solleva preoccupazioni in termini di privacy. L’AI federata affronta questo problema consentendo di addestrare i modelli localmente sui dispositivi degli utenti, senza condividere i dati grezzi,

3. Personalizzazione: l’AI federata consente di addestrare modelli generativi personalizzati per ciascun utente o dispositivo, tenendo conto delle preferenze individuali e del contesto. Questo apre nuove opportunità per la creazione di contenuti personalizzati, come assistenti virtuali più intelligenti e sistemi di raccomandazione più accurati,

4. Scalabilità: l’addestramento di modelli generativi su larga scala può essere complesso e dispendioso. L’AI federata distribuisce il carico computazionale tra diversi dispositivi, rendendo l’addestramento più efficiente e scalabile.

Ecco alcuni esempi di applicazioni:

  • Generazione di testo: addestrare modelli di linguaggio su conversazioni provenienti da diversi utenti, preservando la privacy e personalizzando le risposte,
  • Creazione di musica: comporre musica originale basata sulle preferenze musicali di diversi utenti, senza condividere le loro librerie musicali,
  • Sintesi di immagini: generare immagini mediche sintetiche per l’addestramento di algoritmi di diagnosi, senza compromettere la privacy dei pazienti.

Vi sono sfide e direzioni future:

  • Eterogeneità dei dati: gestire la variabilità dei dati provenienti da diverse fonti.
  • Comunicazione: ottimizzare la comunicazione tra i dispositivi e il server centrale.
  • Sicurezza: proteggere gli aggiornamenti del modello da attacchi malevoli.

L’AI federata offre un potenziale enorme per l’AI generativa, consentendo di addestrare modelli più potenti, personalizzati e privacy-preserving. Questo connubio apre nuove frontiere per l’innovazione in diversi settori, dalla creazione di contenuti personalizzati allo sviluppo di nuove applicazioni nell’ambito della sanità e dell’IoT.

AI Quantistica: La Frontiera Computazionale della Generative AI

L’AI quantistica (IAQ) rappresenta un campo di ricerca emergente che esplora l’intersezione tra l’intelligenza artificiale e la meccanica quantistica. Sfruttando i principi della computazione quantistica, come la sovrapposizione e l’entanglement, l’IAQ mira a sviluppare algoritmi e modelli di AI più potenti, efficienti e capaci rispetto a quelli classici, aprendo nuove possibilità per la risoluzione di problemi complessi e la scoperta scientifica. Questo paragrafo esamina i fondamenti dell’IAQ, le sue potenziali applicazioni e le sfide che la ricerca deve affrontare[4].

L’AI quantistica si basa sull’idea di utilizzare i computer quantistici per eseguire algoritmi di AI. I computer quantistici sfruttano i principi della meccanica quantistica per elaborare le informazioni in modo radicalmente diverso dai computer classici[5]. Questo consente di affrontare problemi complessi che sono intrattabili per i computer classici, aprendo nuove possibilità per l’AI[6].

I vantaggi che ciò implica sono:

  • Velocità di elaborazione: i computer quantistici possono elaborare le informazioni a velocità esponenzialmente superiori rispetto ai computer classici, consentendo di addestrare modelli di AI più complessi e di risolvere problemi più velocemente,
  • Efficienza: gli algoritmi quantistici possono essere più efficienti degli algoritmi classici per determinati compiti di AI, come l’ottimizzazione e la ricerca,
  • Capacità di rappresentazione: i computer quantistici possono rappresentare e manipolare informazioni in modi che sono impossibili per i computer classici, consentendo di sviluppare nuovi modelli di AI con capacità superiori.

L’IAQ si basa su diversi concetti chiave della meccanica quantistica:

  • Qubit: a differenza dei bit classici, che possono essere 0 o 1, i qubit possono esistere in una sovrapposizione di entrambi gli stati contemporaneamente,
  • Entanglement: due o più qubit possono essere entangled, il che significa che sono correlati in modo tale che la misurazione di uno influenza istantaneamente lo stato dell’altro, anche se sono separati da grandi distanze,
  • Sovrapposizione: la capacità di un sistema quantistico di esistere in più stati contemporaneamente,
  • Algoritmi quantistici: algoritmi progettati per essere eseguiti su computer quantistici, sfruttando le proprietà dei qubit e dell’entanglement per risolvere problemi in modo più efficiente rispetto agli algoritmi classici.

Le principali applicazioni dell’AI Quantistica sono sintetizzate in:

  • Apprendimento automatico quantistico: sviluppo di algoritmi di apprendimento automatico che sfruttano i principi della meccanica quantistica per migliorare l’accuratezza, l’efficienza e la capacità di generalizzazione dei modelli di AI,
  • Ottimizzazione quantistica: utilizzo di algoritmi quantistici per risolvere problemi di ottimizzazione complessi, come la selezione del portafoglio, la logistica e la progettazione di farmaci,
  • Elaborazione del linguaggio naturale quantistica: sviluppo di modelli di AI quantistica per la comprensione e la generazione del linguaggio naturale, con potenziali applicazioni nella traduzione automatica, nella sintesi vocale e nell’analisi del sentiment,
  • Visione artificiale quantistica: utilizzo di algoritmi quantistici per migliorare l’accuratezza e l’efficienza dei sistemi di visione artificiale, con applicazioni nel riconoscimento di immagini, nella guida autonoma e nella robotica.

L’AI quantistica è un campo di ricerca ancora giovane, con molte sfide da affrontare quali:

  • Sviluppo di hardware quantistico: la costruzione di computer quantistici affidabili e scalabili è una sfida tecnologica significativa,
  • Sviluppo di algoritmi quantistici: sono necessari nuovi algoritmi quantistici specificamente progettati per l’AI,
  • Integrazione con l’AI classica: È importante sviluppare metodi per integrare l’AI quantistica con quella classica, sfruttando i punti di forza di entrambi gli approcci.

Nell’ambito della GenAI è noto che l’addestramento di modelli generativi complessi richiede risorse computazionali significative e può presentare limiti in termini di efficienza e scalabilità.

È qui che entra in gioco l’AI quantistica, promettendo di superare questi ostacoli e di spingere l’AI generativa verso nuovi orizzonti. Ma cosa può fare esattamente l’AI quantistica per l’AI generativa?

1. Accelerazione dell’addestramento: l’addestramento di modelli di AI generativa, come le GAN (Generative Adversarial Networks) e i VAE (Variational Autoencoders), comporta l’ottimizzazione di milioni, se non miliardi, di parametri. I computer quantistici, sfruttando i principi della meccanica quantistica come la sovrapposizione e l’entanglement, possono elaborare informazioni in modo esponenzialmente più veloce rispetto ai computer classici. Questo si traduce in una drastica riduzione dei tempi di addestramento, consentendo di sviluppare modelli più complessi e performanti,

2. Miglioramento della qualità dei contenuti generati: l’AI quantistica può migliorare la qualità dei contenuti generati in diversi modi:

  • Generazione di distribuzioni di probabilità più complesse: i computer quantistici possono rappresentare e manipolare distribuzioni di probabilità più complesse rispetto ai computer classici, consentendo ai modelli generativi di creare contenuti più realistici e diversificati,
  • Ottimizzazione di funzioni di costo più sofisticate: l’ottimizzazione quantistica può trovare soluzioni migliori per funzioni di costo complesse, utilizzate per valutare la qualità dei contenuti generati. Questo porta a modelli più accurati e capaci di generare contenuti di qualità superiore,

3. Esplorazione di nuovi modelli generativi: l’AI quantistica apre la strada a nuovi modelli generativi, impossibili da implementare su computer classici. Ad esempio, i modelli generativi basati su algoritmi quantistici potrebbero sfruttare fenomeni come il tunneling quantistico per esplorare lo spazio delle soluzioni in modo più efficiente, scoprendo nuove e creative forme di contenuto.

Ecco alcune applicazioni concrete:

  • Drug discovery: accelerare la scoperta di nuovi farmaci generando molecole con proprietà specifiche,
  • Scienza dei materiali: progettare nuovi materiali con caratteristiche desiderate, come resistenza, leggerezza e conducibilità,
  • Creazione di contenuti artistici: generare opere d’arte originali e innovative, spingendo i confini della creatività,
  • Modellazione finanziaria: sviluppare modelli più accurati per la previsione dei mercati finanziari e la gestione del rischio.

Nonostante il potenziale rivoluzionario, l’AI quantistica è ancora in una fase iniziale di sviluppo. La costruzione di computer quantistici su larga scala e lo sviluppo di algoritmi quantistici efficienti per l’AI generativa rappresentano sfide significative. Tuttavia, la ricerca in questo campo sta progredendo rapidamente e le prime applicazioni concrete iniziano ad emergere.

L’AI quantistica promette di amplificare il potere dell’AI generativa, aprendo nuove possibilità in diversi settori. L’accelerazione dell’addestramento, il miglioramento della qualità dei contenuti generati e l’esplorazione di nuovi modelli generativi sono solo alcune delle potenzialità di questo connubio dirompente. Sebbene le sfide siano ancora molte, l’AI quantistica è destinata a giocare un ruolo cruciale nell’evoluzione dell’AI generativa e nel suo impatto sul nostro futuro.

Ingegneria dell’AI: Verso Sistemi Generativi Etici e Affidabili

L’ingegneria dell’intelligenza artificiale è una disciplina emergente focalizzata sullo sviluppo di strumenti, sistemi e processi per consentire l’applicazione dell’intelligenza artificiale in contesti del mondo reale.

In contrasto con la corsa prevalente per sviluppare capacità e far progredire singoli strumenti, AI Engineering pone una serie diversa di domande: in che modo l’AI può aiutare gli esseri umani a raggiungere i risultati della missione? Quali sono i limiti dei sistemi di AI nella pratica odierna? Come possiamo garantire che gli standard etici siano rispettati quando i sistemi di AI vengono implementati?

L’aumento della disponibilità di potenza di calcolo e di enormi set di dati ha portato alla creazione di nuova AI, modelli e algoritmi che comprendono migliaia di variabili e sono in grado di prendere decisioni rapide e di impatto. Troppo spesso, però, queste capacità funzionano solo in ambienti controllati e sono difficili da replicare, verificare e convalidare nel mondo reale.

È urgente la necessità di una disciplina ingegneristica che guidi lo sviluppo e l’implementazione delle capacità di intelligenza artificiale. L’ingegneria dell’intelligenza artificiale mira a fornire un framework e strumenti per progettare in modo proattivo sistemi di intelligenza artificiale che funzionino in ambienti caratterizzati da elevati gradi di complessità, ambiguità e dinamismo. La disciplina dell’ingegneria dell’intelligenza artificiale mira a dotare i professionisti degli strumenti necessari per sviluppare sistemi nell’intero spettro enterprise-to-edge, per anticipare i requisiti in mutevoli ambienti e condizioni operative e per garantire che le esigenze umane siano tradotte in un’intelligenza artificiale comprensibile, etica e quindi affidabile.

In tal senso, è opportuno rimarcare che l’ingegneria dell’intelligenza artificiale è una disciplina che combina i principi dell’ingegneria dei sistemi, dell’ingegneria del software, dell’informatica e della progettazione incentrata sull’uomo per creare sistemi di intelligenza artificiale in base alle esigenze umane per i risultati della missione. Alla luce di queste considerazioni è opportuno guidare lo sviluppo dell’AI seguendo questi tre pilastri:

Human-centered AI

La chiave per l’implementazione di un AI responsabile si basa sulla comprensione approfondita delle persone che utilizzeranno questa tecnologia. Questo principio evidenzia come i sistemi di AI siano progettati per allinearsi con le caratteristiche degli esseri umani, i loro comportamenti e i loro valori.

I sistemi di intelligenza artificiale incentrati sull’uomo sono progettati per funzionare con e per le persone. Man mano che cresce l’esigenza di utilizzare sistemi di intelligenza artificiale, i principi di ingegneria incentrati sull’uomo saranno fondamentali per guidare lo sviluppo dell’AI verso un’implementazione efficace, in grado di ridurre al minimo le conseguenze indesiderate. Identifichiamo tre aree specifiche di attenzione per far progredire l’intelligenza artificiale incentrata sull’uomo:

  • I progettisti e i sistemi devono comprendere il contesto di utilizzo e rilevare i cambiamenti nel tempo,
  • Occorre sviluppare strumenti, processi e procedure per definire e facilitare la cooperazione tra uomo e macchina,
  • Serve implementare metodi, meccanismi e ragionamenti per raggiungere la supervisione critica.

Scalable AI

Lo sviluppo di sistemi di AI efficaci richiede grandi investimenti in termini di tempo e denaro. Questo principio ribadisce il concetto per cui le infrastrutture, i dati e i modelli di AI possano essere riutilizzati in domini con problematiche e implementazioni variabili.

L’AI scalabile è la capacità degli algoritmi, dei dati, dei modelli e dell’infrastruttura di AI di operare alle dimensioni, alla velocità e alla complessità richieste per la missione. La scalabilità è un concetto critico in molte discipline ingegneristiche ed è fondamentale per realizzare la capacità operativa. Identifichiamo tre aree di attenzione per far progredire l’AI scalabile:

  • Gestione scalabile di dati e modelli per superare la scarsità di dati e le sfide di raccolta,
  • Scalabilità aziendale dello sviluppo e dell’implementazione dell’intelligenza artificiale,
  • Algoritmi e infrastrutture scalabili.

Scalabilità e Robustezza: Le Chiavi per un’AI Generativa Responsabile

I sistemi di AI robusti e sicuri sono sistemi di AI che operano in modo affidabile all’interno dei livelli di prestazioni previsti, anche quando si trovano di fronte a stati di incertezza o in presenza di pericolo o minacce. Questi sistemi hanno strutture e meccanismi di mitigazioni integrate per prevenire, evitare o fornire resilienza in caso di minacce. Identifichiamo tre aree specifiche di attenzione per promuovere l’AI robusta e sicura:

  • Migliorare la robustezza dei componenti e dei sistemi di intelligenza artificiale,
  • Progettare per le sfide di sicurezza nei moderni sistemi di intelligenza artificiale,
  • Sviluppo di processi e strumenti per testare, valutare e analizzare i sistemi di intelligenza artificiale.

Il futuro dell’Artificial Intelligence non consisterà in un ampliamento, in termini quantitativi e qualitativi, delle capacità cognitive e computazionali di quella attuale, bensì evolverà verso sistemi intelligenti a supporto dell’uomo per lo svolgimento delle più disparate attività (intellettuali, produttive, ricerca, analisi, computazionali, ecc.). Assisteremo allo sviluppo di una disciplina dell’ingegneria dell’AI in grado di fornire la capacità di sviluppare, integrare ed evolvere soluzioni di AI, con un focus specifico sui temi della “safety”, della “security”, della “robustness”, della “reliability”, della “resiliency” e dell’etica. Questo approccio consentirà di creare e utilizzare prodotti e servizi dell’AI “Safe, Secure and Trustworthy”.

A riguardo, l’AI generativa offre enormi opportunità, ma è essenziale affrontare i rischi connessi al suo sviluppo e utilizzo. Affrontare i rischi dell’AI generativa richiede un approccio multidisciplinare che coinvolga ricercatori, sviluppatori, legislatori e la società civile. Un approccio responsabile e proattivo permetterà di sfruttare appieno il potenziale di questa tecnologia, minimizzando al contempo i suoi effetti negativi.

L’articolo ha esplorato le frontiere più avanzate dell’AI Generativa, presentando tecnologie rivoluzionarie come agenti intelligenti, AI neuro-simbolica, quantistica e federata. Nel prossimo approfondimento, ci concentreremo ulteriormente sul concetto di ‘agente intelligente’, approfondendo i meccanismi dell’ingegneria dell’AI e le sue implicazioni nella generazione di contenuti. Per una comprensione più dettagliata, è disponibile il nostro white paper dal titolo “Generative Artificial Intelligence: punti di forza, rischi e contromisure”.

Note bibliografiche

[1] Russell, S. J., & Norvig, P. (2010). Artificial intelligence: a modern approach. Prentice Hall

[2] Wooldridge, M. (2009). An introduction to multiagent systems. John Wiley & Sons

[3] Weiss, G. (Ed.). (2013). Multiagent systems: a modern approach to distributed artificial intelligence. MIT press

[4] Biamonte, J. et al. (2017). Quantum machine learning. Nature, 549(7671), 195-202.

[5] Schuld, M., & Petruccione, F. (2018). Supervised learning with quantum computers. Springer.

[6] Wiebe, N., Kapoor, A., & Svore, K. M. (2016). Quantum deep learning. Quantum Information & Computation, 16(7-8), 541-587.

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/ai-generativa/




ChatGPT crea immagini “in stile” Studio Ghibli e solleva un nuovo conflitto tra AI e copyright

ChatGPT, intelligenza artificiale e lo stile Ghibli

Negli ultimi giorni, si legge in un approfondimento del New York Times, i social media sono stati invasi da immagini in stile Studio Ghibli, create con l’ultima versione di ChatGPT di OpenAI (GPT-4o Image Generation). L’aggiornamento ha potenziato enormemente le capacità di generazione di immagini dell’intelligenza artificiale (AI), rendendo possibile trasformare in pochi secondi semplici selfie, meme e scene quotidiane in illustrazioni fiabesche tipiche dell’immaginario di Hayao Miyazaki.
Si parla già di “ghiblification“.

Questa funzione ha avuto un tale successo da mandare in crash il sistema di OpenAI a causa dell’elevato numero di richieste. Ma con essa emergono anche nuove e complesse questioni sul fronte del copyright e del diritto d’autore.

“Il lancio di ChatGPT 26 mesi fa è stato uno dei momenti virali più folli che abbia mai visto e abbiamo aggiunto un milione di utenti in cinque giorni. Abbiamo aggiunto un milione di utenti nell’ultima ora“, ha annunciato ieri sera Sam Altman su X. Probabilmente si tratta dell’effetto Ghibli-Style del generatore di immagini GPT-4o.
Lo stesso Altman ha scritto oggi, sempre sul social, che il generatore di immagini di ChatGPT è gratuitamente accessibile a tutti gli utenti OpenAI.

Grazie ad un nuovo round di finanziamenti, guidato dalla società di investimenti giapponese SoftBank, OpenAI vale oggi più di 300 miliardi di dollari, quasi il doppio di ottobre 2024.

Come funziona la nuova generazione di immagini. E la privacy?

Mentre i precedenti generatori di immagini si basavano su modelli di diffusione (che partono da un’immagine casuale per affinarla progressivamente), ChatGPT ora utilizza un algoritmo autoregressivo. Questo tratta le immagini come se fossero linguaggio, suddividendole in “token” (frammenti), e predicendo le componenti visive più probabili come fa con le parole. Questo approccio consente una maggiore precisione nella creazione di immagini e un migliore collegamento tra parole e componenti visive.

Un vantaggio chiave è che l’IA può attingere all’enorme base di conoscenze di cui dispone, riconoscendo concetti come “stile Ghibli” senza bisogno di descrizioni dettagliate.

Sulla scia delle novità comunicate da OpenAI durante la scorsa settimana, molti utenti, però, stanno anche caricando proprie immagini o fotografie di parenti e amici per creare nuovi contenuti ghiblizzati, per così dire, ma con grandi problemi sul fronte della tutela dei dati personali.
Tali immagini che ritraggono persone in carne ed ossa potrebbero venir utilizzate dalla società per addestrare i modelli di AI. Il problema è che lo potrebbe fare senza chiedere l’autorizzazione al diretto proprietario e sfruttando in modo particolare i volti, per l’estrazione dei dati facciali e biometrici (addestramento particolarmente utile ai fini dello sviluppo di nuovi strumenti legati videosorveglianza intelligente, ma anche per l’integrazione dell’AI nella robotica).

Le AI come motori di stile

In questo lavoro, possiamo considerare l’AI generativa di ChatGPT come un motore di stile. Non memorizza immagini o testi in senso tradizionale, ma apprende schemi e stili da grandi quantità di dati. Non conserva veri frame di film Ghibli, ma codifica la cosiddetta “Ghibli-ness” – ovvero una rappresentazione matematica dello stile Miyazaki. Lo stesso vale per qualsiasi soggetto: “banana-ness”, “cat-ness”, o “corporate email-ness”.

Questa capacità di assorbire e replicare stili permette di mescolare e reinventare, ad esempio creando una “poltrona nello stile di un gatto” o “un paesaggio elfico”.

Si pone un problema di diritto d’autore

Tuttavia, l’uso degli stili altrui pone interrogativi giuridici. Secondo la legge attuale, non è possibile brevettare uno stile: il diritto d’autore protegge solo le opere specifiche, non i generi o gli approcci stilistici. Tuttavia, quando uno stile è così unico da essere parte dell’identità di un artista, la sua replicazione automatica da parte di un’IA può diventare una minaccia.

Greg Rutkowski, artista polacco, ha visto il suo stile riprodotto in oltre 93.000 prompt solo su Stable Diffusion. In risposta, insieme ad altri colleghi, ha avviato una class action nel 2022 contro diverse aziende di AI, accusandole di utilizzare le sue opere senza consenso per addestrare i loro modelli.

Lo stesso Hayao Miyazaki si è espresso in passato in modo critico verso l’uso dell’intelligenza artificiale nella creazione artistica.

Con le IA sempre più potenti e accessibili, ci troviamo di fronte a una trasformazione profonda della creatività. Le tecnologie come ChatGPT offrono strumenti senza precedenti per l’espressione personale e artistica, ma sollevano al contempo la necessità di nuove tutele legali per proteggere l’identità e il lavoro degli artisti (e quindi la stessa creatività come opera d’arte, d’ingegno e culturale). Il futuro dell’arte e del diritto d’autore si gioca oggi su questo nuovo terreno, dove creatività e algoritmi si incontrano.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/chatgpt-crea-immagini-in-stile-studio-ghibli-e-solleva-un-nuovo-conflitto-tra-ai-e-copyright/526282/




UE, un gemello digitale del pianeta Terra entro il 2030

Destination Earth e il gemello digitale per studiare e gestire il cambiamento climatico e gli eventi estremi

La Commissione europea ha annunciato oggi l’adozione del nuovo programma di lavoro del Digital Europe Programme (DIGITAL) per il triennio 2025-2027, con un investimento complessivo di 1,3 miliardi di euro. L’obiettivo è ambizioso: rafforzare la sovranità tecnologica dell’Europa attraverso lo sviluppo e la diffusione di tecnologie critiche nei settori dell’intelligenza artificiale (AI), del cloud, della cybersicurezza e delle competenze digitali.

In un contesto di cambiamenti climatici sempre più estremi, Bruxelles lancia una nuova iniziativa tecnologica per affrontare i rischi crescenti delle ondate di calore nelle aree urbane. Al centro c’è Destination Earth (DestinE), un ambizioso programma europeo che punta a creare entro il 2030 un gemello digitale del sistema Terra. Questa replica virtuale permetterà di simulare, prevedere e gestire eventi climatici estremi in tempo reale, offrendo soluzioni concrete per la pianificazione urbana, la salute pubblica e la protezione ambientale.

Tra i progetti più innovativi nati all’interno di Destination Earth c’è l’attività di Urban Heat Health Forecasting (UHHF), sviluppata dal laboratorio portoghese +Atlantic CoLAB in collaborazione con il Centro europeo per le previsioni meteorologiche a medio termine (ECMWF). L’obiettivo è combinare l’enorme mole di dati forniti dai “digital twins” – o gemelli digitali – con le tecniche più avanzate di intelligenza artificiale e machine learning per monitorare e prevedere gli effetti del calore urbano sulla salute umana.

Cosa sono i digital twin di Destination Earth?

I digital twin sono modelli virtuali ad altissima risoluzione del nostro pianeta, capaci di simulare in tempo reale il comportamento del clima, delle catastrofi naturali e degli ecosistemi. Nel caso di DestinE, due sono i gemelli digitali già operativi: il Climate Change Adaptation Digital Twin e il Weather Induced Extremes Digital Twin, che offrono previsioni dettagliate su cambiamenti climatici e fenomeni meteorologici estremi.

Questi gemelli digitali, alimentati da supercomputer europei come LUMI (Finlandia), Marenostrum5 (Spagna), Leonardo (Italia) e MeluXina (Lussemburgo), generano dati climatici e meteorologici a una risoluzione spaziale di 4,4 km. Grazie al progetto UHHF, tali dati verranno ulteriormente raffinati fino a risoluzioni inferiori al chilometro – circa 200 metri – utilizzando algoritmi di machine learning già testati con successo a Lisbona e in alcune città danesi.

Informazioni cruciali per affrontare il caldo in città

Il progetto UHHF si propone di fornire mappe orarie delle condizioni meteorologiche urbane, tra cui temperatura dell’aria, stress termico umano e durata delle ondate di calore. Le autorità locali potranno così accedere a informazioni dettagliate e localizzate per adottare misure mirate, come la creazione di zone verdi, l’identificazione delle aree più vulnerabili e la gestione dei picchi di domanda energetica.

L’effetto “isola di calore urbana”, causato dall’accumulo di calore in aree densamente edificate e poco vegetate, può innalzare la temperatura fino a 5°C rispetto alle zone rurali circostanti. Comprendere e prevedere questi fenomeni è fondamentale per proteggere le fasce di popolazione più fragili, ridurre la mortalità estiva e pianificare città più resilienti.

Il Digital Europe Programme: sovranità tecnologica per l’Ue

A sostenere finanziariamente questa rivoluzione digitale c’è il Digital Europe Programme (DIGITAL), il programma dell’UE che investirà 1,3 miliardi di euro nel periodo 2025-2027 per promuovere tecnologie strategiche per la sovranità digitale del continente. Le priorità includono l’intelligenza artificiale, la cybersicurezza, il cloud, i dati e lo sviluppo delle competenze digitali.

Destination Earth è uno dei progetti bandiera del DIGITAL Programme, coordinato dalla Commissione Europea insieme a tre enti chiave: l’ECMWF (responsabile dei gemelli digitali), l’Agenzia Spaziale Europea (ESA) (che sviluppa la piattaforma centrale dei servizi), e l’EUMETSAT (che gestisce il Data Lake contenente i dati osservativi da satellite).

Una collaborazione transatlantica per il bene pubblico

Il progetto UHHF si inserisce anche nell’ambito dell’AI4 the Public Good, una partnership tra Unione Europea e Stati Uniti per utilizzare l’intelligenza artificiale a beneficio della collettività. L’iniziativa mira a sviluppare soluzioni comuni per affrontare sfide globali come il cambiamento climatico, la gestione delle emergenze e l’ottimizzazione energetica.

Grazie a questa sinergia tra big data, AI e supercalcolo, il gemello digitale della Terra diventa sempre più una realtà. Una realtà capace non solo di prevedere il futuro, ma anche di guidare decisioni concrete e tempestive per proteggere milioni di cittadini europei da uno dei pericoli più subdoli del nostro tempo: il caldo estremo.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ue-un-gemello-digitale-del-pianeta-terra-entro-il-2030/526181/




Indipendenza digitale. L’UE investe 1,3 miliardi di euro in AI, cybersecurity e competenze

Il programma europeo DIGIT per promuovere AI, cybersecurity e nuove competenze digitali

La Commissione europea ha annunciato oggi l’adozione del nuovo programma di lavoro del Digital Europe Programme (DIGITAL) per il triennio 2025-2027, con un investimento complessivo di 1,3 miliardi di euro. L’obiettivo è ambizioso: rafforzare la sovranità tecnologica dell’Europa attraverso lo sviluppo e la diffusione di tecnologie critiche nei settori dell’intelligenza artificiale (AI), del cloud, della cybersicurezza e delle competenze digitali.

Tra le priorità strategiche spicca l’impulso all’intelligenza artificiale generativa, con un focus particolare sull’accessibilità delle applicazioni AI nei settori della sanità e dell’assistenza.

I fondi saranno destinati alla sperimentazione di ambienti immersivi (i cosiddetti “mondi virtuali”), all’implementazione dell’AI Act e allo sviluppo di spazi comuni di dati energeticamente efficienti, tasselli fondamentali per l’iniziativa AI Factories, pensata per accelerare l’adozione dell’AI da parte di imprese e pubbliche amministrazioni.

Virkkunen: “La sovranità tecnologica parte dagli investimenti e dalla formazione“

“Per garantire la sovranità tecnologica europea si inizia investendo in tecnologie avanzate e rendendo possibile per le persone migliorare le proprie competenze digitali. Con le opportunità del Programma Europa digitale, ci stiamo assicurando che le nuove tecnologie e tutto il loro potenziale raggiungano i cittadini, le aziende e le pubbliche amministrazioni europee”, ha dichiarato in una nota Henna Virkkunen, Vicepresidente esecutivo per la sovranità tecnologica, la sicurezza e la democrazia.

Al centro del programma anche il potenziamento degli European Digital Innovation Hubs (EDIHs), la rete europea che offre supporto tecnico, formazione e test alle organizzazioni per agevolare l’adozione delle nuove tecnologie digitali.

La sicurezza delle infrastrutture critiche

Un’altra iniziativa di punta è Destination Earth, il progetto che mira a costruire un gemello digitale del pianeta per supportare l’adattamento climatico e la gestione dei rischi. Il nuovo finanziamento permetterà di creare un modello ancora più potente, accessibile a una platea più ampia di ricercatori.

In tema di cybersicurezza, saranno potenziate le infrastrutture critiche, come ospedali e cavi sottomarini, anche attraverso strumenti come la EU Cybersecurity Reserve. Allo stesso tempo, l’UE investirà nella formazione avanzata e nel rafforzamento delle competenze digitali attraverso istituzioni educative, per attrarre e formare nuovi talenti.

La centralità delle competenze digitali

Il programma prevede inoltre il sostegno alla diffusione del portafoglio digitale europeo (EU Digital Identity Wallet) e lo sviluppo di servizi pubblici digitali interoperabili, efficienti e di alta qualità.

Un’ulteriore spinta all’innovazione verrà dal nuovo Strategic Technologies for Europe Platform (STEP), che con l’etichetta STEP Seal faciliterà l’accesso a finanziamenti pubblici e privati per progetti promettenti.

Prossimi passi

I primi bandi del DIGITAL sono attesi per aprile 2025 e saranno pubblicati durante tutto l’anno attraverso il portale EU Funding & Tenders.

Potranno partecipare imprese, amministrazioni pubbliche ed enti di ricerca provenienti dagli Stati membri UE, dai Paesi EFTA/SEE e da quelli associati al programma DIGITAL.
L’Europa punta con decisione su un futuro tecnologico sovrano, inclusivo e resiliente.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/indipendenza-digitale-lue-investe-13-miliardi-di-euro-in-ai-cybersecurity-e-competenze/526081/




Cani e gatti robot guidati dall’AI. Un’adorabile minaccia a cui non siamo preparati, soprattutto i bambini

La compagnia dell’AI, una nuova frontiera per l’umanità

Al Consumer Electronics Show di gennaio ha fatto il suo debutto Ropet, un robot che ricorda un qualche animale domestico, forse un cane, e che ha conquistato tutti con i suoi occhioni grandi e la capacità di rispondere alle emozioni umane. Progettato per essere molto più di un giocattolo, Ropet è un vero e proprio compagno di vita.
Una tenera presenza in casa, dietro cui si nasconde un quesito inquietante: siamo davvero pronti, dal punto di vista emotivo ed etico, a lasciar entrare l’intelligenza artificiale (AI) nelle nostre vite, nell’intimità della nostra dimensione emotiva?

L’idea della compagnia artificiale non è nuova. App come Replika hanno dimostrato quanto sia facile per gli esseri umani creare legami profondi con entità digitali. Questi legami possono anche assumere sfumature romantiche o familiari. Quando Replika rimosse temporaneamente la modalità di gioco erotico, l’indignazione degli utenti fu tale da spingere l’azienda a reintrodurla. Un segnale chiaro: per molti, il rapporto con l’AI non è per niente superficiale.

Questi compagni digitali possono offrire conforto a chi è solo o isolato. Ma un conforto che può anche presentare più di un lato oscuro, ha spiegato Alisa Minina Jeunemaître, Associate Professor of Marketing alla EM Lyon Business School, in un articolo pubblicato su theconversation.com. Alcuni casi tragici raccontano di persone che, dopo un legame troppo intenso con chatbot o assistenti virtuali, sono finite in situazioni drammatiche, o sono finite proprio male (fino al suicidio). Non è solo un problema tecnologico: è una questione umana.

Bambini e AI: un legame troppo forte e reale

Con l’avanzare della tecnologia, diventa urgente riflettere sull’impatto che questi animali robotici possono avere sui bambini. Negli anni ’90, tutti lo ricorderemo, il fenomeno Tamagotchi aveva già mostrato quanto i bambini potessero legarsi emotivamente a un essere virtuale. Quando il loro animaletto “moriva” per mancanza di attenzioni, era una vera tragedia.

Oggi, con Ropet e simili, il livello è ben diverso: questi robot ricordano, reagiscono, apprendono, si adattano. Per un bambino, un animale robotico triste o arrabbiato non è solo un programma: è un amico che soffre. E dietro a queste “emozioni” ci sono algoritmi progettati per massimizzare l’interazione, non per tutelare lo sviluppo psicologico umano.

Il rischio della sostituzione emotiva

In tutto questo, c’è chi teme che questi compagni artificiali possano diventare sostituti delle relazioni umane. Se un animale robotico è sempre disponibile, affettuoso, mai giudicante… perché affrontare la complessità del rapporto con le persone?

Questo rischio riguarda soprattutto i soggetti più vulnerabili: anziani, persone isolate, bambini. Quando il legame con l’intelligenza artificiale diventa più semplice e rassicurante di quello umano, rischiamo di creare una società dove i rapporti autentici vengono messi da parte. Ne saranno felici le aziende fornitrici di robot da compagnia.

Ma chi possiede davvero il tuo animale robotico?

Oltre agli aspetti emotivi, ci sono anche enormi interrogativi sulla sicurezza e sulla privacy. Questi dispositivi raccolgono dati, apprendono comportamenti, memorizzano conversazioni. E spesso lo fanno attraverso il cloud, il che significa che tutto è salvato “da qualche parte” su internet.

Il caso della fuga di dati da DeepSeek, in cui oltre un milione di registrazioni – comprese chat private – sono diventate pubbliche, è un campanello d’allarme. La nostra “intimità” con l’AI e le sue macchine non è mai completamente al sicuro.

Non è la prima volta che ci poniamo domande del genere. Già alla fine degli anni ’90, i Furbies furono banditi dalla sede della NSA negli Stati Uniti per il timore che potessero “ripetere” informazioni sensibili. Oggi i robot non si limitano a ripetere: registrano, apprendono, evolvono.

Un futuro che ha bisogno di regole

È evidente che animali come Ropet non sono semplici giocattoli. Sono tecnologie emotive. E anche se oggi sono pensati per un pubblico adulto, sappiamo già che finiranno nelle mani dei bambini. Con questa evoluzione, diventano indispensabili normative chiare e una riflessione profonda su etica, sicurezza e impatto psicologico delle tecnologie intelligenti.

Le prime ricerche mostrano un equilibrio fragile tra compagnia e dipendenza, tra supporto e manipolazione. Più l’AI simula emozioni, più dobbiamo stare attenti a non scambiare la finzione per realtà. È fondamentale ricordarsi sempre che questa tecnologia è uno specchio, ma uno specchio magico che oltre che riflettere le nostre aspettative è in grado anche di risucchiare tanta parte di noi, di solito quella di maggior valore per il mercato.

L’immagine di copertina è stata generata utilizzando GPT-4o

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/cani-e-gatti-robot-guidati-dallai-unadorabile-minaccia-a-cui-non-siamo-preparati-soprattutto-i-bambini/525869/




Autori australiani furiosi perché Meta avrebbe usato i loro libri per addestrare l’AI

Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..

Un’ondata di indignazione ha investito la comunità letteraria australiana dopo la scoperta che numerosi libri di autori locali sarebbero stati utilizzati, senza autorizzazione, per addestrare i modelli AI di Meta. Tra le opere incluse nel controverso dataset figurano anche quelle di ex primi ministri australiani come Malcolm Turnbull, Kevin Rudd, Julia Gillard e John Howard.

Le informazioni emergono a seguito di una causa legale intentata negli Stati Uniti, dove si accusa Meta di aver impiegato il database pirata LibGen, nonostante l’avvertimento interno sulla natura illegale del materiale. Scrittori come Holden Sheppard e Tracey Spicer hanno espresso un profondo senso di violazione e rabbia. Sheppard ha denunciato l’uso non autorizzato delle sue opere definendolo ‘non solo immorale ma anche illegale’, mentre Spicer ha parlato di un ‘colpo allo stomaco’, sottolineando la precarietà economica in cui spesso versa la categoria.

L’autrice Alexandra Heller-Nicholas ha scoperto che ben otto dei suoi libri erano stati inclusi, affermando che è stato compromesso il lavoro di una vita. L’Australian Society of Authors ha avviato un appello per tutelare gli scrittori e richiede un intervento immediato del governo, proponendo l’introduzione di normative specifiche per l’AI.

La vicenda riaccende il dibattito sull’equilibrio tra progresso tecnologico e diritti d’autore, evidenziando il divario tra le risorse delle big tech e la fragile condizione economica della maggior parte degli autori. Meta, nel frattempo, ha rifiutato di commentare, adducendo l’esistenza di un contenzioso in corso.

Per maggiori informazioni, clicca per l’articolo originale.

I parlamentari avvertono che i sistemi IT obsoleti potrebbero compromettere le ambizioni del governo britannico sull’AI

Un rapporto della Public Accounts Committee del Parlamento britannico lancia l’allarme sull’inadeguatezza dei sistemi IT legacy nel settore pubblico, evidenziando come tale situazione rappresenti un ostacolo significativo all’adozione diffusa dell’AI da parte del governo del Regno Unito. Nonostante le promesse dell’esecutivo laburista, che ha annunciato l’uso dell’AI per rendere più efficiente la macchina statale e stimolare la crescita economica, molti sistemi centrali risultano essere tecnologicamente obsoleti, fuori supporto o impossibili da aggiornare.

Dei 72 sistemi legacy ad alto rischio, ben 21 non hanno ricevuto i finanziamenti promessi nel piano triennale 2022-2025 per la digitalizzazione. Il rapporto sottolinea inoltre gravi lacune nella condivisione e nella qualità dei dati, elementi essenziali per il funzionamento efficace delle soluzioni basate su AI.

A fronte di queste criticità, il governo rischia di perdere fino a 45 miliardi di sterline in potenziali risparmi di produttività nel settore pubblico, secondo stime dello stesso esecutivo.

Sir Geoffrey Clifton-Brown, presidente del comitato, mette in discussione la capacità del Department for Science, Technology & Innovation (DSIT) di guidare questa trasformazione, criticando la mancanza di autorità reale su altri dipartimenti.

Egli richiama inoltre la necessità di un cambio di mentalità ai vertici della pubblica amministrazione, auspicando l’inclusione di professionisti digitali nei consigli di gestione e nelle direzioni strategiche dei ministeri.

Il report suggerisce che, senza interventi strutturali e una governance unificata, le ambizioni legate all’AI rischiano di rimanere slogan, vanificati da una struttura IT antiquata incapace di supportare le innovazioni promesse.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/autori-australiani-furiosi-perche-meta-avrebbe-usato-i-loro-libri-per-addestrare-lai/525853/




Microsoft annuncia nuovi agenti per Security Copilot


Un anno dopo il rilascio di Security Copilot, soluzione di sicurezza basata sull’intelligenza artificiale, Microsoft ha annunciato l’arrivo di nuovi agenti di IA studiati per specifiche aree di azione critiche, come il phishing, la sicurezza dei dati e la gestione dell’identità.

“Il ritmo incessante e la complessità degli attacchi informatici hanno superato le capacità umane e la creazione di agenti di IA è una necessità per la sicurezza moderna“ specifica la compagnia. I nuovi agenti, in tutto sei, aiuteranno i team di sicurezza a gestire grandi volumi di attività, riducendo le attività manuali e contribuendo a creare delle difese più omogenee e robuste.

Security Copilot

Gli agenti di Security Copilot si occuperanno di:

  • effettuare il triage degli alert di phishing per distinguere in modo più preciso gli allarmi reali dai falsi positivi (Phishing Triage Agent);
  • ridurre il rischio di perdita dei dati analizzando i rischi interni, dando priorità agli incidenti critici e migliorando l’accuratezza degli alert basandosi sui feedback degli admin (Alert Triage Agent);
  • monitorare nuovi utenti e applicazioni che non sono coperti dalle policy esistenti, identificare gli aggiornamenti di sicurezza e individuare fix per migliorare la gestione dell’identità (Conditional Access Optimization Agent);
  • monitorare e dare priorità alle vulnerabilità e alle attività di remediation per risolvere problematiche di configurazione di policy e applicazioni (Vulnerability Remediation Agent);
  • eseguire in autonomia operazioni di threat intelligence elaborate sulla base delle caratteristiche dell’organizzazione e dell’esposizione ai rischi (Threat Intelligence Briefing Agent).

Oltre ai sei agenti sviluppati da Microsoft, verranno rilasciati anche cinque ulteriori agenti creati dai partner della compagnia:

  • Privacy Breach Response Agent – OneTrust analizzerà i data breach per fornire ai team di privacy linee guida per rispettare i requisiti delle regolamentazioni;
  • Network Supervisor Agent – Aviatrix eseguirà l’analisi delle cause degli incidenti e fornirà un riassunto di tutte le problematiche legate a connessioni VPN, gateway o Site2Cloud;
  • SecOps Tooling Agent – BlueVoyant valuterà lo stato dei SOC e dei controlli per formulare indicazioni su come ottimizzare le operazioni di sicurezza;
  • Alert Triage Agent – Titanium fornirà agli analisti il contesto necessario per prendere decisioni a partire dagli alert;
  • Task Optimizer Agent – Fletch aiuterà le aziende a prevedere gli alert di cybersecurity e organizzarli in priorità.
Microsoft Security Copilot Agenti IA

Credits: Microsoft

Gli agenti di IA per Security Copilot saranno disponibili in anteprima da aprile. 

Microsoft ha inoltre annunciato novità per Microsoft Purview: l’aggiornamento prevede feature di analisi basate su IA per aiutare i team di sicurezza a mitigare i rischi associati all’esposizione di dati sensibili. Le nuove feature sono previste per aprile.

Novità anche per Microsoft Defender che estenderà la gestione della sicurezza basata su IA e includerà Google VertexAI e tutti i modelli di IA presenti nel catalogo Azure AI Foundry. I nuovi modelli, compresi Gemini, Mistral e Llama, saranno disponibili da maggio.

Sempre a maggio, Microsoft Defender si arricchirà di nuove feature di detection basate su IA per proteggersi da rischi quali attacchi di prompt injection, esposizione di dati sensibili e furto di wallet.

Microsoft Entra includerà dei controlli basati su IA per individuare l’uso di strumenti di intelligenza artificiale non autorizzati, introducendo controlli più severi e granulari. Per ridurre invece il rischio di leak di dati sensibili, Microsoft Purview integrerà dei controlli per la prevenzione di perdita di dati dal browser.

Ad aprile sarà inoltre disponibile Microsoft Defender for Office 365 per proteggere più efficacemente gli utenti contro il phishing e altre minacce su Teams.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/03/25/microsoft-annuncia-nuovi-agenti-per-security-copilot/?utm_source=rss&utm_medium=rss&utm_campaign=microsoft-annuncia-nuovi-agenti-per-security-copilot




Brevetti, calano del 4,5% le domande italiane all’Ufficio Ue. Siamo al 5° posto in Europa e all’11° nel mondo

Patent Index 2024. Trasporti e innovazione meccanica settori trainanti per i brevetti italiani

Nel 2024, l’Italia ha presentato 4.853 domande di brevetto all’Ufficio Europeo dei Brevetti (EPO), segnando un calo del 4,5% rispetto al 2023. Nonostante il rallentamento, il Belpaese mantiene il quinto posto tra i Paesi dell’Unione europea per numero di richieste, e l’undicesimo a livello globale, dietro a colossi come Germania (25.033 domande), Francia (10.980), Paesi Bassi (7.054) e Svezia (4.936).

Il settore tecnologico più attivo in Italia è quello dei Trasporti, con 449 domande (+8,2%), che posiziona il Paese al 4° posto in Europa e al 7° nel mondo per questa categoria. Seguono l’Handling (manipolazione, imballaggio, carrelli elevatori) con una crescita stabile (+0,7%), le Altre macchine speciali (331 domande), e le Tecnologie mediche (285 domande).

Il comparto con la crescita più esplosiva è quello di Motori, pompe e turbine, con un balzo del +28,6%. Sebbene parta da numeri più contenuti, rappresenta una promettente area di espansione tecnologica per l’industria italiana. Queste sono alcune delle statistiche contenute nel Patent Index 2024 pubblicato oggi dall’EPO.

Le aziende italiane più attive: Coesia, Ferrari e Lonardo

Tra le aziende italiane, Coesia guida la classifica con 167 domande di brevetto, seguita da Ferrari (136) e Iveco Group (55). Al quarto posto, a pari merito, Leonardo e Pirelli (49 ciascuna). Chiudono la top 7 Brembo (39) e Chiesi Farmaceutici (33). Questi nomi rappresentano settori chiave del made in Italy: dall’automotive alla difesa, dalla farmaceutica alla meccanica avanzata.

Geografia dell’innovazione: Lombardia prima, Toscana in ascesa

Le regioni più prolifiche in termini di innovazione restano Lombardia (1.468 domande, -9,7%), Emilia-Romagna (922, -3,8%) e Veneto (651, -4,3%), che da sole rappresentano oltre il 60% delle domande italiane. La Toscana supera per la prima volta il Lazio, con 316 domande contro 263.

Le performance più brillanti in crescita percentuale si registrano in Liguria (+36,4%), Piemonte (+15,6%), Toscana (+14,5%) e Trentino-Alto Adige (+9,3%).

Gender gap nell’innovazione: solo il 21% delle domande italiane con inventrici

Solo una domanda su quattro (25%) presentata in Europa include almeno una donna tra gli inventori. L’Italia è sotto la media europea con appena il 21%. In confronto, la Spagna raggiunge il 42%, seguita da Francia (32%) e Belgio (31%).

Contesto europeo e globale: IA e batterie trainano l’innovazione

A livello complessivo, l’EPO ha ricevuto circa 199.264 domande (-0,1%). La tecnologia per i computer – che include intelligenza artificiale, machine learning e riconoscimento modelli – diventa per la prima volta il settore leader con 16.815 domande.

Le tecnologie energetiche, in particolare le batterie, sono cresciute del 24%. In calo invece le comunicazioni digitali (-6,3%).

Brevetto unitario: l’Italia sopra la media UE

Nel secondo anno di piena operatività del Brevetto Unitario, il 44% dei brevetti concessi a richiedenti italiani ha richiesto l’effetto unitario, contro una media europea del 36,5%.

Questo sistema, che semplifica la protezione brevettuale in 18 Paesi UE, è stato utilizzato per oltre 28.000 brevetti europei nel 2024 (+17,5%).

Sebbene l’Italia mostri un lieve rallentamento, il quadro dei brevetti europei conferma un tessuto industriale innovativo e dinamico, soprattutto in settori meccanici e manifatturieri.

Aziende come Coesia, Ferrari e Leonardo rappresentano l’eccellenza tecnologica italiana in Europa. La sfida futura? Colmare il gender gap e investire di più nei settori emergenti come l’intelligenza artificiale e le tecnologie verdi.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/brevetti-calano-del-45-le-domande-italiane-allufficio-ue-siamo-al-5-posto-in-europa-e-all11-nel-mondo/525568/




Nuovi modelli di IA: Explainable AI e Hybrid AI

Questo articolo è parte di una serie dedicata all’approfondimento legato all’IA Generativa, un campo in rapida evoluzione che sta ridefinendo i confini dell’innovazione tecnologica e della creatività computazionale.

L’intelligenza artificiale generativa sta permeando sempre più aspetti della nostra vita, plasmando il modo in cui interagiamo con il mondo e prendiamo decisioni. Dagli assistenti virtuali ai sistemi di supporto, dai veicoli a guida autonoma alle diagnosi mediche assistite, l’IA sta rivoluzionando interi settori e promettendo un futuro ricco di innovazione.

Tuttavia, questa diffusa adozione è accompagnata da una crescente preoccupazione connessa alla mancanza di trasparenza nel processo decisionale di molti sistemi di AI. Spesso definiti “scatole nere”, questi sistemi producono risultati accurati, ma il percorso logico che li genera rimane oscuro e inaccessibile alla comprensione umana. Questa opacità solleva interrogativi cruciali sulla fiducia, la responsabilità e l’etica nell’utilizzo dell’AI.

In questo contesto, emerge l’importanza di modelli di Intelligenza Artificiale spiegabili e ibridi, un campo di ricerca in rapida evoluzione che mira a rendere i sistemi di AI più trasparenti e comprensibili. L’Explainable AI si propone di fornire spiegazioni chiare e interpretabili sul funzionamento interno di un modello di AI, consentendo agli utenti di comprendere come e perché un determinato risultato è stato raggiunto, mentre l’Hybrid AI prende il meglio dei diversi modelli di AI e li mette a fattore comune.

Opacità dell’IA: le sfide della Trasparenza Algoritmica

L’intelligenza artificiale che abbiamo conosciuto finora soffre di un grosso problema, l’opacità. Cosa significa opacità dell’AI? In ambito scientifico, l’opacità dell’AI si riferisce all’incapacità di comprendere il processo decisionale interno di un sistema di intelligenza artificiale, specialmente quelli basati su algoritmi complessi come il deep learning.

Ciò può comportare le seguenti conseguenze:

  • Mancanza di fiducia: l’opacità può minare la fiducia dei progettisti e degli utilizzatori nell’accettazione dei risultati prodotti dall’AI, soprattutto in ambiti critici come la medicina, la fisica, la chimica, l’economia, dove la comprensione del processo decisionale è fondamentale per validare le scoperte,
  • Difficoltà di interpretazione: l’opacità rende difficile l’interpretazione dei risultati e le previsioni generate dall’AI, limitando la capacità dei ricercatori ad estrarre dai dati nuove conoscenze e intuizioni;
  • Rischio di bias e discriminazione: i modelli di AI opachi possono perpetuare bias presenti nei dati di training, portando a risultati discriminatori o ingiusti;
  • Problemi di debugging e miglioramento: l’opacità rende difficile identificare e correggere errori o bias nei modelli di AI, ostacolando il loro miglioramento e l’affidabilità;
  • Ostacolo alla riproducibilità: la mancanza di trasparenza nel processo decisionale dell’AI può rendere faticosa la riproduzione dei risultati e la validazione delle scoperte scientifiche.

L’opacità rappresenta una sfida importante anche per il metodo scientifico, che notoriamente si basa sulla trasparenza, la riproducibilità e la comprensione dei fenomeni. L’utilizzo di modelli opachi può compromettere la validità delle scoperte scientifiche e la fiducia nella ricerca. Per affrontare questa criticità, la ricerca si è concentrate su queste tematiche:

  • Sviluppo di modelli di AI più interpretabili: sono state sviluppate tecniche di modellazione, come l’Hybrid AI e l’Explainable AI, che mirano a creare sistemi più trasparenti e comprensibili;
  • Analisi e visualizzazione dei dati: sono stati progettati strumenti per visualizzare e analizzare in dettaglio il comportamento dei modelli di AI, aiutando i ricercatori a comprendere il processo decisionale (debugging);
  • Validazione e verifica dei modelli di AI: sono statti introdotti metodi per valutare l’accuratezza, l’affidabilità e l’equità dei modelli di AI, garantendo la validità dei risultati scientifici raggiunti.

In sintesi, l’opacità dell’AI rappresenta una sfida significativa per la ricerca. Superare questa opacità è fondamentale per garantire la fiducia, la trasparenza e la validità delle scoperte scientifiche nell’era dell’AI.

Explainable AI: aprire la Scatola Nera dell’Intelligenza Artificiale

L’intelligenza artificiale generativa (AI generativa) sta rapidamente trasformando il modo in cui creiamo e interagiamo con i contenuti digitali. Dai modelli linguistici di grandi dimensioni che generano testo realistico alle reti generative avversarie (GAN) che creano immagini e video sorprendenti, l’AI generativa sta aprendo nuove frontiere in diversi campi, dall’arte e l’intrattenimento alla scienza e alla medicina.

Tuttavia, il potere dell’AI generativa è accompagnato da una crescente preoccupazione per la sua “scatola nera”. I modelli generativi spesso operano in modo opaco, rendendo difficile comprendere come arrivino a generare determinati output. Questa mancanza di trasparenza solleva diverse questioni cruciali:

  • Fiducia: come possiamo fidarci dei risultati generati da un sistema di AI che non comprendiamo appieno?
  • Responsabilità: chi è responsabile per gli output generati dall’AI, soprattutto se sono dannosi o imprecisi?
  • Controllo: come possiamo controllare e guidare il processo creativo dell’AI generativa se non sappiamo come funziona?
  • Bias: come possiamo identificare e mitigare i bias presenti nei modelli generativi se non siamo in grado di analizzarne il processo decisionale?

L’Explainable AI (XAI) si pone come un campo di ricerca cruciale nell’ambito dell’intelligenza artificiale, focalizzandosi sulla trasparenza e l’interpretabilità dei sistemi di AI. Mentre l’AI tradizionale mira principalmente a massimizzare le prestazioni predittive, l’XAI si concentra sulla comprensione del processo decisionale dei modelli, rendendoli accessibili e interpretabili dagli esseri umani.

Sebbene non esista una definizione univoca, l’XAI può essere concettualizzata come un insieme di principi, metodi e tecniche che mirano a:

  • Spiegare le decisioni: XAI può fornire spiegazioni sui processi decisionali dei modelli generativi, aiutandoci a capire perché un modello ha generato un determinato output;
  • Identificare i bias: XAI può aiutare a identificare i bias presenti nei dati di addestramento o nel modello stesso, consentendo di mitigare i loro effetti negativi;
  • Controllare il processo creativo: XAI può fornire strumenti per controllare e guidare il processo creativo dell’AI generativa, consentendo agli utenti di influenzare gli output generati;
  • Aumentare la fiducia: Comprendere il funzionamento dei modelli generativi aumenta la fiducia negli output generati, promuovendone l’adozione in diversi ambiti.

Pertanto, l’Explainable AI è in grado di colmare una serie di criticità:

  • Superare l’opacità delle “black box”: molti modelli di AI, specialmente quelli basati sul deep learning, operano come “scatole nere”, rendendo difficile la comprensione del loro funzionamento interno. L’XAI mira ad “aprire” queste scatole nere, fornendo spiegazioni chiare e comprensibili sul processo decisionale;
  • Aumentare la fiducia e l’accettazione: la trasparenza è fondamentale per costruire fiducia nei sistemi di AI e favorirne l’adozione in ambiti scientifici critici, dove la comprensione del processo decisionale è essenziale per validare le scoperte;
  • Garantire la responsabilità etica: l’XAI consente di identificare e mitigare potenziali bias e discriminazioni nei modelli di AI, promuovendo un utilizzo responsabile ed etico nella ricerca;
  • Facilitare il miglioramento e il debugging: comprendere il processo decisionale dei modelli di AI facilita il loro miglioramento, la correzione di errori e l’ottimizzazione delle prestazioni, elementi cruciali per la ricerca;
  • Promuovere la scoperta scientifica: l’XAI può aiutare i ricercatori a estrarre nuove conoscenze e intuizioni dai dati, aprendo nuove prospettive di ricerca e accelerando il progresso scientifico.

Per raggiungere questi obiettivi, è necessario che l’XAI si avvalga di un set di tecniche tra cui:

  • Modelli intrinsecamente interpretabili: è fondamentale sviluppare modelli per la progettazione più semplici e trasparenti, come gli alberi decisionali, i modelli lineari e le regole di associazione;
  • Spiegazioni post-hoc: occorre effettuare l’analisi del comportamento di un modello di AI dopo il suo addestramento, utilizzando tecniche come:
    • Analisi di sensitività: in grado di valutare l’influenza di ciascuna variabile di input sul risultato finale;
    • Visualizzazione dei dati: occorre utilizzare grafici e mappe per visualizzare il processo decisionale;
    • LIME (Local Interpretable Model-Agnostic Explanations): è opportuno approssimare localmente il comportamento di un modello complesso con un modello più semplice;
    • SHAP (SHapley Additive exPlanations): è possibile spiegare l’output di un modello in termini di contributo di ciascuna variabile di input;
  • Metodi di attenzione: è necessario identificare le parti più importanti dei dati di input che influenzano la decisione del modello, fornendo informazioni su quali aspetti dei dati sono stati considerati più rilevanti;
  • Spiegazioni controfattuali: è utile fornire informazioni su come modificare gli input per ottenere un output desiderato, aiutando a comprendere il processo decisionale del modello e a identificare potenziali interventi.

Nonostante il campo di ricerca avente ad oggetto l’XAI stia progredendo significativamente, occorre affrontare ulteriori sfide:

  • Definire il concetto di “spiegabilità”, ovvero stabilire i criteri oggettivi e condivisi per valutare la qualità e l’efficacia di una spiegazione, adattandoli ai diversi contesti scientifici;
  • Estendere la spiegabilità per diversi utenti, ovvero adattare le spiegazioni alle esigenze e alle competenze di diversi tipi di utenti, dai ricercatori agli esperti di dominio;
  • Ricercare nuove tecniche di XAI per continuare a sviluppare nuove tecniche per spiegare modelli di AI sempre più complessi, garantendo la loro applicabilità in diversi ambiti scientifici;
  • Integrare l’XAI nel ciclo di vita dell’AI per incorporare l’XAI nella progettazione, lo sviluppo e l’implementazione dei sistemi di AI, promuovendo la trasparenza e la responsabilità fin dalle prime fasi della ricerca.

Ecco alcuni esempi di XAI per l’AI generativa:

  • Visualizzazione delle attivazioni: la visualizzazione delle attivazioni dei neuroni in una rete neurale può aiutare a capire quali parti del modello sono responsabili per la generazione di specifici output;
  • Analisi di sensibilità: l’analisi di come le variazioni negli input influenzano gli output generati può fornire informazioni sul funzionamento del modello,
  • Generazione di spiegazioni testuali: lo sviluppo di modelli in grado di generare spiegazioni testuali per i loro output, rendendoli più comprensibili agli utenti.

XAI è un campo in rapida evoluzione con il potenziale per rivoluzionare il modo in cui interagiamo con l’AI generativa. Applicando XAI, possiamo rendere i modelli generativi più trasparenti, responsabili e affidabili, aprendo la strada a un utilizzo più etico e sicuro di questa potente tecnologia. L’integrazione di XAI nell’AI generativa non solo favorirà la fiducia e l’accettazione di questa tecnologia, ma stimolerà anche nuove forme di creatività e innovazione.

Hybrid AI: integrare Reti Neurali e Ragionamento Simbolico

L’intelligenza artificiale ibrida (Hybrid AI), che combina la potenza delle reti neurali con la capacità di ragionamento simbolico, si presenta come un potente catalizzatore per l’evoluzione dell’AI generativa. Questo connubio apre nuove frontiere per la creatività, l’intelligenza e l’affidabilità dei sistemi di AI, superando i limiti dei singoli approcci.

I modelli generativi, pur producendo risultati sorprendenti, spesso mancano di trasparenza nel processo decisionale (vd. paragrafo precedente). L’Hybrid AI, integrando il ragionamento simbolico, può fornire spiegazioni più chiare e comprensibili sul perché e come un modello generativo produce un determinato output. Questo aumenta la fiducia negli utenti e consente un controllo più preciso sul processo creativo.

L’Hybrid AI si basa su questi principi:

  • Complementarietà delle tecniche: è notorio che vi siano diverse tecniche di modellazione che eccellono in compiti diversi. Ad esempio, l’apprendimento automatico eccelle nell’individuare pattern e fare previsioni basate su grandi quantità di dati, ma può essere opaco e difficile da interpretare. Il ragionamento simbolico, d’altra parte, offre trasparenza e capacità di ragionamento logico, ma può avere difficoltà a gestire l’incertezza e la complessità del mondo reale. L’Hybrid AI mira a sfruttare il meglio di entrambi i mondi, combinando la capacità di apprendimento automatico di estrarre informazioni dai dati con la capacità del ragionamento simbolico di elaborare conoscenze e regole;
  • Sinergia e integrazione: l’Hybrid AI non si limita a un semplice giustapposizione di tecniche, ma mira a una loro integrazione profonda, in cui le diverse componenti interagiscono e si completano a vicenda, creando un sistema olistico con capacità superiori alla somma delle sue parti;
  • Modellazione della cognizione umana: l’Hybrid AI si ispira spesso alla cognizione umana, che combina intuizione, ragionamento e apprendimento. Integrando diverse tecniche di AI, si cerca di emulare la flessibilità e l’adattabilità dell’intelligenza umana.

Esistono diverse modalità per combinare differenti tecniche di modellazione in un sistema ibrido, i principali metodi di approccio possono essere individuati nei seguenti:

  • Integrazione dei modelli ad apprendimento automatico con sistemi basati sulle regole: l’apprendimento automatico può essere utilizzato per estrarre le regole dai dati, che poi vengono integrate in un sistema basato sul ragionamento simbolico, consentendo al sistema di apprendere da grandi quantità di dati e di utilizzare la conoscenza simbolica per ragionare e prendere decisioni;
  • Combinazione delle reti neurali con algoritmi evolutivi: gli algoritmi evolutivi possono essere utilizzati per ottimizzare la struttura e i parametri delle reti neurali, migliorando la loro efficienza e la loro capacità di generalizzazione;
  • Utilizzo di tecniche di fuzzy logic per gestire l’incertezza: la fuzzy logic consente di rappresentare e di effettuare ragionamenti su concetti vaghi e incerti, migliorando la capacità dei sistemi di AI nella gestione della complessità del mondo reale e di prendere decisioni in situazioni ambigue;
  • Integrazione dei modelli di deep learning con i metodi di ragionamento basati sulla logica: combinare la potenza della rappresentazione del deep learning con la capacità di ragionamento e l’inferenza della logica, consentendo ai sistemi di AI di apprendere da grandi quantità di dati e di utilizzare la logica per ragionare e spiegare le proprie decisioni.

Tutto ciò può portare dei vantaggi significativi in termini di:

  • Robustezza e affidabilità: i sistemi ibridi sono meno suscettibili a errori e bias rispetto ai sistemi basati su un singolo approccio, in quanto le diverse componenti possono compensare le debolezze reciproche;
  • Flessibilità e adattabilità: i sistemi ibridi possono adattarsi più facilmente a nuovi contesti e compiti, grazie alla loro capacità di combinare diverse strategie di apprendimento e di ragionamento;
  • Interpretabilità e trasparenza: l’Hybrid AI può favorire lo sviluppo di sistemi di AI più trasparenti e comprensibili, in quanto l’integrazione di tecniche come il ragionamento simbolico può rendere il processo decisionale più esplicito;
  • Efficienza: l’Hybrid AI può ottimizzare l’utilizzo delle risorse e migliorare le prestazioni dei sistemi di AI, combinando le diverse tecniche in modo sinergico.

Nonostante il suo potenziale, l’Hybrid AI deve affrontare diverse sfide:

  • Sviluppo di framework e strumenti specifici: sono necessari nuovi strumenti e framework per facilitare l’integrazione di diverse tecniche di AI in modo efficiente e scalabile;
  • Gestione della complessità: i sistemi ibridi possono essere più complessi da progettare, implementare e gestire rispetto ai sistemi basati su un singolo approccio. Pertanto, sono necessarie nuove metodologie e tecniche per affrontare la complessità dei sistemi ibridi;
  • Valutazione e benchmarking: è necessario sviluppare nuove metriche e metodi di valutazione per confrontare e valutare le prestazioni dei sistemi di AI ibrida in modo oggettivo e rigoroso.

L’Hybrid AI, combinando l’AI generativa con l’AI simbolica, offre diverse opportunità:

  • Spiegabilità: l’AI simbolica, basata su regole e logica, introduce trasparenza nel processo generativo. Le regole possono essere utilizzate per spiegare le decisioni prese dal sistema e per giustificare gli output generati;
  • Ragionamento e Generalizzazione: l’AI simbolica consente di integrare conoscenza pregressa e di ragionare su di essa, migliorando la capacità di generalizzazione dell’AI generativa e consentendole di affrontare situazioni nuove in modo più efficace;
  • Controllo e Bias Mitigation: l’AI simbolica può essere utilizzata per definire vincoli e regole che guidano il processo generativo, limitando i bias e garantendo che gli output siano conformi a determinati criteri o standard etici.

Ecco alcune applicazioni Concrete dell’Hybrid AI per l’AI Generativa:

  • Generazione di Contenuti Controllata: nell’ambito della scrittura creativa, l’Hybrid AI può garantire che il testo generato rispetti determinate regole grammaticali, stilistiche o di contenuto, aumentando la coerenza e la qualità del testo;
  • Creazione di Arte e Musica: l’Hybrid AI può combinare la creatività dell’AI generativa con la struttura e l’armonia fornite dall’AI simbolica, consentendo la creazione di opere d’arte e musica più sofisticate e innovative;
  • Design e Ingegneria: l’Hybrid AI può generare progetti che soddisfano specifici requisiti funzionali ed estetici, combinando l’esplorazione creativa con la validazione basata su regole e vincoli;
  • Scoperta Scientifica: l’Hybrid AI può accelerare la scoperta di nuovi materiali, farmaci o soluzioni ingegneristiche, generando ipotesi e modelli che vengono poi validati e raffinati attraverso il ragionamento simbolico.

L’Hybrid AI promette di rivoluzionare l’AI generativa, aprendo nuove frontiere per la creatività, l’innovazione e la risoluzione di problemi complessi. La combinazione di intuizione e ragione, di apprendimento e logica, rappresenta un passo fondamentale verso lo sviluppo di un’AI più potente, versatile e affidabile.

Uno sguardo al futuro

Gli sviluppi dell’intelligenza artificiale sono stati così significativi in termini sia di dimensione, che di velocità, che non c’è stato sempre né il tempo, né l’opportunità, di comprendere pienamente la loro sicurezza e la loro effettiva rilevanza.

Di seguito sono esposite alcune branche dell’Intelligenza Artificiale, in evoluzione e in grado di rispondere alle nuove richieste sempre più incombenti, e il loro apporto al miglioramento dell’Intelligenza Artificiale Generativa.

Advanced Machine Learning

L’Intelligenza Artificiale Generativa (AI Generativa) sta vivendo una fase di rapida evoluzione alimentata anche dai progressi nell’Advanced Machine Learning (ML avanzato). Questo connubio apre nuove frontiere e opportunità, consentendo la creazione di modelli generativi sempre più sofisticati e capaci. In tal senso, l’apprendimento automatico (Machine Learning) ha già rivoluzionato il campo dell’intelligenza artificiale, consentendo ai computer di apprendere dai dati senza essere esplicitamente programmati. In tal senso, ha permesso di ottenere risultati straordinari in diversi ambiti, come il riconoscimento di immagini, l’elaborazione del linguaggio naturale e la previsione di serie temporali. Tuttavia, l’apprendimento automatico tradizionale presenta alcune limitazioni che ne ostacolano il pieno potenziale:

  • Dipendenza dai dati etichettati: molti algoritmi di apprendimento automatico richiedono grandi quantità di dati etichettati, la cui acquisizione può essere costosa e laboriosa;
  • Generalizzazione limitata: i modelli di apprendimento automatico possono avere difficoltà a generalizzare nuovi dati o contesti diversi da quelli su cui sono stati addestrati;
  • Mancanza di interpretabilità: spesso è difficile comprendere il processo decisionale dei modelli di apprendimento automatico, il che può limitarne l’affidabilità e l’accettazione.

L’Apprendimento Automatico Avanzato (Advanced Machine Learning) si propone di superare queste limitazioni, esplorando nuove frontiere e aprendo nuove possibilità per la ricerca e l’innovazione tecnologica. In particolare, può affrontare alcune sfide che limitano l’AI generativa, come:

  • Qualità e diversità: è possibile migliorare la qualità e la diversità dei contenuti generati, riducendo artefatti e ripetizioni;
  • Controllo e personalizzazione: è in grado di aumentare il controllo sui contenuti generati, consentendo la personalizzazione in base alle esigenze degli utenti;
  • Generalizzazione e creatività: può sviluppare modelli in grado di generalizzare a nuovi contesti e di esprimere maggiore creatività;
  • Spiegabilità e affidabilità: può rendere i modelli generativi più trasparenti e affidabili, fornendo spiegazioni sul loro funzionamento.

Per superare queste limitazioni, l’apprendimento automatico avanzato esplora nuove frontiere:

  • Apprendimento auto-supervisionato (SSL): questa tecnica consente ai modelli di apprendere da soli da grandi quantità di dati non strutturati, riducendo la dipendenza da dati etichettati. L’obiettivo è quello di estrarre automaticamente informazioni significative dai dati, scoprendo pattern e relazioni nascoste. SSL può migliorare l’efficienza dell’addestramento e la generalizzazione dei modelli generativi. Alcuni esempi di apprendimento auto-supervisionato includono:
    • Pre-addestramento di modelli linguistici: modelli come BERT e GPT-3 sono pre-addestrati su enormi quantità di testo, imparando a prevedere parole mancanti o a generare testo coerente;
    • Apprendimento di rappresentazioni visive: modelli come SimCLR e MoCo imparano a generare rappresentazioni visive significative da immagini non etichettate;
  • Apprendimento federato: questa tecnica consente di addestrare modelli di AI su dati distribuiti su diversi dispositivi, preservando la privacy e la sicurezza dei dati. L’apprendimento federato è particolarmente utile in ambiti come la medicina e la finanza, dove i dati sono spesso sensibili e decentralizzati. Un esempio di applicazione è l’addestramento di modelli di diagnosi medica su dati provenienti da diversi ospedali, senza la necessità di condividere i dati dei pazienti (vd. Apposito paragrafo);
  • Meta-apprendimento: questa tecnica si concentra sullo sviluppo di modelli di AI in grado di “apprendere come apprendere”, adattandosi rapidamente a nuovi compiti e contesti. L’obiettivo è quello di creare sistemi di AI più flessibili e versatili, in grado di generalizzare a nuovi problemi e di apprendere in modo continuo. Un esempio di meta-apprendimento è l’algoritmo MAML (Model-Agnostic Meta-Learning), che apprende un insieme di parametri iniziali che consentono al modello di adattarsi rapidamente a nuovi compiti. Il meta-apprendimento può rendere i modelli generativi più flessibili e versatili;
  • Apprendimento per rinforzo (RL): questa tecnica consente ai modelli di apprendere interagendo con un ambiente e ricevendo feedback sotto forma di ricompense o penalità. L’apprendimento per rinforzo è particolarmente utile per lo sviluppo di agenti intelligenti, come robot autonomi e sistemi di controllo, In AI generativa, RL può essere utilizzato per ottimizzare la generazione di contenuti in base a obiettivi specifici,
  • Apprendimento profondo spiegabile: questa area di ricerca si concentra sullo sviluppo di modelli di deep learning più interpretabili, consentendo di comprendere il processo decisionale e di aumentare la fiducia negli output del modello;
  • Modelli probabilistici profond (Deep Probabilistic Models): questa tecnica combina le reti neurali con modelli probabilistici per rappresentare l’incertezza e generare contenuti con maggiore varietà e controllo;
  • AI neuro-simbolica: questo metodo integra le reti neurali con sistemi di ragionamento simbolico per creare modelli generativi più spiegabili e capaci di ragionamento astratto.

Nonostante i significativi progressi effettuati, l’AML deve ancora affrontare diverse sfide:

  • Scalabilità: è fondamentale sviluppare algoritmi in grado di gestire dataset sempre più grandi e complessi;
  • Robustezza: è necessario creare modelli di AI resistenti a errori e perturbazioni nei dati;
  • Etica e responsabilità: è essenziale garantire che l’apprendimento automatico avanzato sia utilizzato in modo responsabile ed etico, evitando bias e discriminazioni.

L’ML avanzato apre nuove opportunità per l’AI generativa in diversi ambiti:

  • Creazione di contenuti realistici: generare immagini, video, audio e testo di alta qualità, indistinguibili da quelli reali;
  • Scoperta scientifica: generare nuove molecole, materiali e prodotti con proprietà desiderate;
  • Arte e creatività: assistere artisti e creativi nella generazione di nuove opere d’arte, musica e design;
  • Personalizzazione dell’esperienza utente: creare esperienze personalizzate in base alle preferenze individuali degli utenti.

L’ML avanzato sta trasformando l’AI generativa, consentendo la creazione di modelli sempre più potenti e versatili. Questa sinergia apre nuove frontiere in diversi ambiti, ma richiede anche un approccio responsabile per garantire un uso etico e benefico di questa tecnologia.

Embodied AI: un corpo per l’IA Generativa

L’Intelligenza Artificiale Generativa (Generative AI) consente di generare testi, immagini e codice con sorprendente creatività. Tuttavia, questi modelli operano in un mondo astratto, privi di un corpo fisico che permetta loro di interagire direttamente con l’ambiente. È qui che entra in gioco l’Embodied AI, un campo di ricerca che esplora l’integrazione dell’AI in corpi robotici, aprendo nuove e affascinanti prospettive per l’AI generativa.

L’Intelligenza Artificiale Embodied (Embodied AI) rappresenta un cambio di paradigma nello studio dell’AI, spostando il focus dalla pura elaborazione di informazioni all’interazione fisica con il mondo. Invece di limitarsi ad elaborare informazioni in modo digitale, l’Embodied AI si concentra sull’integrazione dell’intelligenza in corpi fisici, come robot o agenti virtuali, che interagiscono con l’ambiente circostante[1].

Tradizionalmente, l’AI si è concentrata sullo sviluppo di algoritmi e modelli in grado di elaborare informazioni e risolvere problemi in modo astratto, senza una connessione diretta con il mondo fisico. L’Embodied AI, al contrario, enfatizza l’importanza dell’incarnazione dell’intelligenza in corpi fisici. Questo approccio si basa sull’idea che la cognizione sia strettamente legata all’esperienza fisica e all’interazione sensomotoria[2].

L’Embodied AI si fonda su una serie di teorie e principi:

  • Cognizione incorporata: l’Embodied AI si basa sulla teoria della cognizione incorporata, che sostiene che la cognizione è strettamente legata all’esperienza fisica e all’interazione con l’ambiente. Secondo questa teoria, il corpo non è un semplice strumento dell’intelligenza, ma un elemento costitutivo della cognizione stessa;
  • Interazione sensomotoria: l’Embodied AI enfatizza l’importanza dell’interazione sensomotoria, ovvero la capacità di percepire l’ambiente attraverso i sensori e di agire su di esso attraverso gli attuatori. Questa interazione dinamica con il mondo consente all’Embodied AI di apprendere dall’esperienza e di adattarsi a nuove situazioni;
  • Apprendimento situato: l’Embodied AI si concentra sull’apprendimento situato, ovvero l’apprendimento che avviene in un contesto specifico e che è guidato dall’interazione con l’ambiente. Questo tipo di apprendimento consente all’AI Embodied di acquisire conoscenze e competenze rilevanti per il suo ambiente e i suoi obiettivi.

Vediamo quali possono essere le implicazioni dell’Embodied AI:

  • Robotica cognitiva: la robotica cognitiva si concentra sullo sviluppo di robot autonomi in grado di interagire con l’ambiente, apprendere dall’esperienza e risolvere problemi in modo flessibile e adattabile[3];
  • Agenti virtuali embodied: gli agenti virtuali embodied sono programmi che simulano il comportamento di agenti intelligenti in ambienti virtuali. Questi agenti possono essere utilizzati per studiare l’intelligenza artificiale, la cognizione umana e l’interazione sociale;
  • Interfacce cervello-computer: le interfacce cervello-computer consentono di collegare il cervello umano a dispositivi esterni, come protesi robotiche o computer. Questa tecnologia può essere utilizzata per sviluppare nuove forme di Embodied AI che integrano l’intelligenza umana con quella artificiale.

I principali vantaggi connessi allo sviluppo dell’Embodied AI possono essere sintetizzati in:

  • Comprensione della cognizione: l’Embodied AI può fornire nuove intuizioni sul funzionamento della cognizione umana, studiando come l’intelligenza emerge dall’interazione tra corpo, cervello e ambiente;
  • Sviluppo di robot autonomi: l’Embodied AI può consentire lo sviluppo di robot autonomi più intelligenti e adattabili, in grado di operare in ambienti complessi e di collaborare con gli esseri umani;
  • Nuove interfacce uomo-macchina: l’Embodied AI può portare allo sviluppo di nuove interfacce uomo-macchina più intuitive e naturali, che consentono una migliore interazione tra esseri umani e computer;
  • Modellazione di sistemi complessi: l’Embodied AI può essere utilizzata per modellare e simulare sistemi complessi, come ecosistemi, società e organismi biologici, fornendo nuove prospettive di ricerca.

I modelli di Generative AI attuali, pur sofisticati, mancano di una comprensione profonda del mondo fisico. L’Embodied AI, invece, permette all’AI di “vivere” il mondo attraverso un corpo robotico, acquisendo informazioni sensoriali e interagendo con l’ambiente. Questa esperienza incarnata può arricchire l’AI generativa in diversi modi:

  • Comprensione contestuale: l’interazione con l’ambiente fornisce un contesto cruciale per la generazione di contenuti. Un robot che “vede” una mela può generare descrizioni più accurate e creative rispetto a un modello che ha appreso solo da immagini;
  • Apprendimento grounded: l’Embodied AI permette di “radicare” la conoscenza in esperienze concrete, creando rappresentazioni più robuste e significative;
  • Creatività situata: la creatività non è un processo astratto, ma è influenzata dal contesto e dalle interazioni. Un robot che “vive” in un ambiente può sviluppare una creatività più ricca e sfaccettata.

L’Embodied AI può spingere l’AI generativa oltre la semplice produzione di contenuti digitali, consentendo la creazione di opere fisiche e l’interazione con il mondo reale:

  • Arte robotica: Robot dotati di AI generativa potrebbero dipingere, scolpire o comporre musica, esprimendo la loro creatività in forme nuove;
  • Design generativo: L’Embodied AI può guidare la progettazione e la fabbricazione di oggetti fisici, adattandoli alle esigenze dell’ambiente e degli utenti;
  • Interazione uomo-robot: Robot con capacità generative potrebbero comunicare e collaborare con gli esseri umani in modi più naturali e intuitivi.

L’integrazione di Embodied AI e Generative AI presenta sfide importanti:

  • Complessità: sviluppare robot con capacità sensoriali, motorie e cognitive avanzate è un compito complesso;
  • Generalizzazione: i modelli generativi devono essere in grado di generalizzare a diversi ambienti e situazioni;
  • Etica: è fondamentale garantire che l’Embodied AI sia sviluppata e utilizzata in modo responsabile ed etico.

Nonostante le sfide, l’Embodied AI offre un potenziale enorme per l’AI generativa. In futuro, potremmo vedere robot che non solo generano contenuti creativi, ma che interagiscono con il mondo in modi significativi, contribuendo a risolvere problemi e a migliorare la nostra vita.

In conclusione, l’Embodied AI rappresenta una nuova frontiera per l’AI generativa, offrendo la possibilità di creare sistemi di AI più intelligenti, creativi e integrati con il mondo fisico.

Generalized Artificial Intelligence

L’attuale generazione di modelli di AI generativa presenta delle limitazioni, tra cui la difficoltà nel comprendere il contesto, la mancanza di senso comune e la tendenza a generare output incoerenti o irrealistici. L’avvento dell’Intelligenza Artificiale Generale (AGI), ovvero un’AI con capacità cognitive simili a quelle umane, potrebbe rivoluzionare l’AI generativa, aprendo nuove frontiere di creatività e innovazione.

L’Intelligenza Artificiale Generalizzata (AGI), spesso definita anche come “IA forte” o “IA completa”, rappresenta un obiettivo ambizioso nel campo dell’intelligenza artificiale. A differenza dell’AI ristretta, che eccelle in compiti specifici, l’AGI mira a replicare l’intelligenza umana nella sua totalità, creando macchine in grado di apprendere, ragionare, risolvere problemi e interagire con il mondo in modo flessibile e adattabile, proprio come gli esseri umani[4] [5].

L’AGI si distingue dall’AI ristretta per alcune caratteristiche fondamentali:

  • Generalità: la capacità di apprendere e svolgere un’ampia gamma di compiti, anziché essere limitata a un dominio specifico;
  • Adattabilità: la possibilità di trasferire conoscenze e competenze da un dominio all’altro e di adattarsi a nuove situazioni e ambienti;
  • Astrazione: l’opportunità di ragionare a livelli di astrazione elevati, di formare concetti e di generalizzare da esempi specifici;
  • Coscienza e autoconsapevolezza: sebbene ancora oggetto di dibattito, alcuni ricercatori ritengono che l’AGI possa sviluppare una forma di coscienza e autoconsapevolezza, simile a quella umana.

Al contempo, lo sviluppo concreto di questa modellazione presuppone la risoluzione di una serie di criticità:

  • Complessità del cervello umano: il cervello umano è un sistema incredibilmente complesso, con miliardi di neuroni interconnessi. Replicarne il funzionamento richiede una comprensione profonda dei meccanismi neurali e cognitivi;
  • Mancanza di una teoria unificata dell’intelligenza: ancora non esiste una teoria completa e condivisa su cosa sia l’intelligenza e come funzioni;
  • Rappresentazione della conoscenza: la rappresentazione della conoscenza del mondo, in modo che possa essere utilizzata da un sistema di AGI per ragionare e risolvere problemi;
  • Apprendimento continuo: come sviluppare sistemi di AGI in grado di apprendere in modo continuo e autonomo, adattandosi a nuove informazioni e situazioni;
  • Motivazione e obiettivi: come dotare i sistemi di AGI di motivazioni e obiettivi intrinseci, in modo che possano agire in modo autonomo e finalizzato.

Per affrontare queste sfide si utilizzano i seguenti approcci scientifici in parte esaminati:

  • AI Simbolica: si basa sulla manipolazione di simboli e sulla logica formale per rappresentare la conoscenza e il ragionamento,
  • Reti neurali artificiali: simulano il funzionamento del cervello umano attraverso reti di neuroni artificiali interconnessi,
  • Approcci evolutivi: utilizzano algoritmi genetici per far evolvere sistemi di AI con capacità cognitive sempre più avanzate,
  • AI Ibrida: combina diverse tecniche di AI per sfruttare i punti di forza di ciascun approccio,
  • Cognizione incorporata: studia l’intelligenza artificiale in relazione all’interazione con un corpo fisico e un ambiente.

Ecco alcuni modi in cui l’AGI potrebbe potenziare l’AI generativa:

  1. Comprensione del Contesto e del Senso Comune: l’AGI, con la sua capacità di comprendere il mondo in modo olistico e di applicare il senso comune, potrebbe consentire all’AI generativa di:
  • Generare contenuti più coerenti e pertinenti al contesto: potrebbe aiutare l’AI generativa a interpretare le sfumature del linguaggio, a comprendere le relazioni tra i concetti e a generare output che siano logicamente validi e coerenti con il contesto,
  • Creare contenuti più originali e creativi: potrebbe fornire all’AI generativa la capacità di combinare idee in modi nuovi e inaspettati, di esplorare diverse prospettive e di generare contenuti veramente innovativi,
  • Adattare i contenuti a specifici pubblici e obiettivi: potrebbe consentire all’AI generativa di comprendere le esigenze e le preferenze degli utenti, generando contenuti personalizzati e mirati.
  1. Apprendimento Continuo e Adattamento: l’AGI, con la sua capacità di apprendere continuamente e di adattarsi a nuove situazioni, potrebbe consentire all’AI generativa di:
  • Migliorare le proprie capacità nel tempo: potrebbe aiutare l’AI generativa ad apprendere dai propri errori, a perfezionare le proprie tecniche e a generare contenuti sempre più sofisticati,
  • Generalizzare a nuovi domini e compiti: potrebbe consentire all’AI generativa di applicare le proprie conoscenze e competenze a nuovi ambiti, generando contenuti in diverse forme e stili,
  • Collaborare con gli esseri umani: potrebbe facilitare la collaborazione tra umani e AI generativa, consentendo agli utenti di guidare e influenzare il processo creativo.
  1. Ragionamento e Problem Solving: L’AGI, con la sua capacità di ragionare, risolvere problemi e prendere decisioni, potrebbe consentire all’AI generativa di:
  • Generare contenuti più complessi e articolati: potrebbe aiutare l’AI generativa a creare storie, articoli, programmi e altri contenuti che richiedono una struttura logica e una pianificazione complessa,
  • Risolvere problemi creativi: potrebbe consentire all’AI generativa di superare blocchi creativi, esplorare soluzioni alternative e trovare nuove idee,
  • Automatizzare compiti complessi: potrebbe consentire all’AI generativa di automatizzare la creazione di contenuti in diversi ambiti, liberando tempo e risorse per gli esseri umani.

L’AGI ha il potenziale per rivoluzionare l’AI generativa, trasformandola da uno strumento per la creazione di contenuti semplici a un partner creativo in grado di collaborare con gli esseri umani per raggiungere nuovi livelli di innovazione. L’integrazione dell’AGI nell’AI generativa potrebbe portare a una nuova era di creatività, in cui le macchine e gli esseri umani lavorano insieme per esplorare le infinite possibilità dell’immaginazione.

Lo sviluppo dell’AGI solleva importanti questioni etiche:

  • Controllo e sicurezza: come garantire che i sistemi di AGI siano sicuri e controllati, evitando comportamenti dannosi o imprevisti,
  • Impatto sociale: come gestire l’impatto dell’AGI sul lavoro, l’economia e la società nel suo complesso,
  • Diritti e responsabilità: quali diritti e responsabilità dovrebbero essere attribuiti ai sistemi di AGI.

In tal senso, la ricerca sull’AGI richiede un approccio multidisciplinare, che integri conoscenze provenienti da diversi campi, come l’informatica, la neuroscienza, la psicologia e la filosofia. È fondamentale affrontare le sfide scientifiche ed etiche associate all’AGI per garantire che questa tecnologia sia sviluppata e utilizzata in modo responsabile e benefico per l’umanità[6].

L’articolo ha esplorato le frontiere dell’Intelligenza Artificiale Generativa, evidenziando l’importanza di Explainable AI e Hybrid AI nel renderla più trasparente, etica e affidabile. Nel prossimo articolo approfondiremo ulteriori argomenti come il tema dell’”agente intelligente” nell’ambito dell’AI generativa e parleremo anche di AI neuro simbolica e di ingegneria dell’AI. Per saperne di più è possibile scaricare il nostro white paper completo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Note bibliografiche

[1] Pfeifer, R., & Bongard, J. (2006). How the body shapes the way we think: A new view of intelligence. MIT press.

[2][ Vernon, D., Metta, G., & Sandini, G. (2007). A survey of artificial cognitive systems: Implications for the autonomous development of mental capabilities in computational agents. IEEE Transactions on Evolutionary Computation, 11(2), 151-180.

[3] Ziemke, T. (2001). Are robots embodied?. In Embodied artificial intelligence (pp. 75-96). Springer, Berlin, Heidelberg.

[4] Goertzel, B. (2014). Artificial General Intelligence: Concept, State of the Art, and Future Prospects. Journal of Artificial General Intelligence, 5(1), 1-48.

[5] Marcus, G. (2018). Deep Learning: A Critical Appraisal. arXiv preprint arXiv:1801.00631.

[6] Russell, S. J., & Norvig, P. (2016). Artificial intelligence: a modern approach. Pearson Education Limited.

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/nuovi-modelli-di-ia/