Questo articolo fa parte di una serie di approfondimenti dedicati all’evoluzione e alle sfide della GenAI. In questa puntata, esploreremo i meccanismi di sicurezza, protezione e gestione dei rischi nei sistemi basati sulla GenAI, offrendo una prospettiva tecnica e strategica sulle attuali complessità tecnologiche.

Tassonomia dei Rischi nella GenAI

In questo paragrafo si analizza il tema della sicurezza e della protezione nel contesto dell’AI, applicata allo sviluppo di sistemi critici, attraverso l’esame di specifici esempi di fragilità e vulnerabilità dell’AI generativa. I rischi a cui è esposta la GenAI sono organizzati seguendo una tassonomia analoga agli attributi di confidenzialità, integrità e disponibilità (CIA) adoperati nel contesto dei rischi informatici:

• rischi di confidenzialità: si palesano nel caso in cui i risultati di un modello di AI rivelano dati di input che i progettisti avevano intenzione di mantenere riservati.
• rischi di integrità: si presentano nel caso in cui i risultati di un modello di AI sono errati, involontariamente o tramite manipolazione deliberata da parte degli avversari.
• rischi di governance: si rivelano nel caso in cui i risultati di un modello di AI, o l’utilizzo di tale modello in un sistema, possono avere impatti negativi nel contesto delle applicazioni, spesso anche quando i risultati del modello sono corretti rispetto alla formazione.

Partiamo dall’assunto che la gestione del rischio per l’AI, compresa la modellazione e la valutazione, è distinguibile in tre livelli:

1. le capacità del “core AI” dei singoli modelli di reti neurali,
2. le scelte effettuate su come tali capacità siano incorporate nell’ingegneria dei sistemi basati sull’AI,
3. come tali sistemi siano integrati in workflow operativi incentrati sulle applicazioni.

Questi workflow possono includere sia applicazioni autonome, che applicazioni abilitate a interagire con soggetti umani. Questa ampia flessibilità è importante perché l’intelligenza artificiale generativa può portare non solo aumenti significativi della produttività e dell’efficacia della mission all’interno di processi organizzativi consolidati, ma può anche generare nuove capacità basate sulla reingegnerizzazione delle attività sul posto di lavoro incentrate sulla mission e sull’operatività.

Considerazioni sulla GenAI

La natura stocastica dei modelli di GenAI, combinata con una quasi totale assenza di trasparenza rispetto all’interrogazione e all’analisi, rende complessa la loro descrizione, il testing, l’analisi e il monitoraggio. Ciò che si percepisce come somigliante tra i vari input di un modello, non corrisponde necessariamente al modo in cui risponde il modello.

Durante l’addestramento, le differenziazioni possono essere effettuate in base a dettagli che normalmente consideriamo accidentali. Un esempio noto è quello in cui il lupo è distinto dagli altri cani non per la morfologia, ma perché c’è neve sullo sfondo, come rivelato dalle mappe di salienza[1]. Infatti, la metrologia[2] della GenAI è appena agli inizi.

Un altro esempio rappresentativo dell’aleatorietà del ML è quello che riguarda l’autonomia dei veicoli. In questo caso, la combinazione tra la scarsa capacità di valutazione dei test e le pressanti direttive aziendali ha portato alla produzione di intere flotte di autoveicoli a guida autonoma e al successivo ritiro dal mercato a causa di comportamenti inaspettati. Inoltre, sono stati individuati diversi bias negli algoritmi predittivi applicati alla stipula di contratti di credito, oppure al reclutamento del personale e all’elaborazione delle richieste di rimborso sanitario. Questi sono i motivi per cui è facilmente realizzabile l’”adversarial machine learning”[3].

Analizziamo i principali fattori che caratterizzano i sistemi basati sul GenAI.

Dal punto di vista della mission

Molto spesso i modelli di intelligenza artificiale generativi, addestrati sui dati, sono inclusi all’interno di “mission system”[4] sottoforma di componenti o servizi subordinati e, come già visto, spesso questi sistemi rappresentano dei componenti di workflow operativi che supportano un’applicazione all’interno di un determinato processo. Per tanto, affinché si possano misurare e valutare, occorre comprendere tutti e tre i livelli: componente, sistema e workflow.

Per esempio, i problemi dei “bias” (preconcetto/pregiudizio/parzialità) possono essere il risultato della mancata corrispondenza tra i dati utilizzati per addestrare il modello con i dati reali di input. Nel contesto del “Test and Evaluation (T&E)” significa che è fondamentale caratterizzare e valutare i tre livelli di classificazione indicati in precedenza:

1. le caratteristiche delle capacità di intelligenza artificiale integrate,
2. il modo in cui tali capacità vengono utilizzate nei sistemi basati sull’intelligenza artificiale,
3. il modo in cui tali sistemi sono destinati a essere integrati nei workflow operativi.

L’UK National Cyber Center ha pubblicato le “Guidelines for secure AI system development”[5], a cui ha aderito anche l’Agenzia per la cybersicurezza nazionale, che si concentrano sulla sicurezza, intesa come resilienza, privacy, correttezza ed affidabilità, della progettazione, dello sviluppo, della distribuzione, del funzionamento e della manutenzione dei sistemi di AI.

Fusione di Codice e Dati: Nuove Vulnerabilità

La tecnologia su cui si basa l’attuale AI non è come quella del software tradizionale. La tipica separazione tra codice e dati, fondamentale per valutare la sicurezza del software, è assente nei modelli di intelligenza artificiale e, al contrario, tutti i dati elaborati possono fungere da istruzioni, analogamente al “code injection” nella sicurezza del software.

Le centinaia di miliardi di parametri che controllano il comportamento dei modelli di intelligenza artificiale spesso sono derivate dai dati di addestramento, ma in una forma generalmente opaca all’analisi. Per esempio, la pratica che introduce questa separazione per realizzare l’allineamento degli LLM, si è dimostrata inadeguata in presenza di avversari. Attualmente, i sistemi di intelligenza artificiale possono essere controllati da input malevoli. Infatti, le barriere di sicurezza di un LLM possono essere “jailbroken” dopo solo 10 esempi di tuning.

Gli sviluppatori non hanno ancora adottato una modalità rigorosa per correggere queste vulnerabilità, e tanto meno per identificarle in maniera affidabile; quindi, è fondamentale misurare l’efficacia delle misure di sicurezza “best-effort” a livello di sistema e a livello operativo. La prassi dell’ingegneria dell’intelligenza artificiale offre stime di progettazione per sistemi e workflow per mitigare queste criticità.

Questa attività è simile a quella utilizzata nell’ingegneria dei sistemi altamente affidabili, che sono inevitabilmente costruiti da componenti meno affidabili, ma occorre tenere presente che i modelli di ingegneria incentrati sull’intelligenza artificiale sono molto diversi dalle tradizionali metodologie di progettazione fault-tolerant.

Infatti, gran parte della progettazione fault-tolerant si basa su ipotesi di indipendenza statistica rispetto ai guasti (p.e. transitori, intermittenti, permanenti) e, in genere, si impiega la ridondanza degli elementi del sistema, per diminuire le probabilità di guasto, e il controllo interno, per rilevare gli errori prima che diventino guasti, al fine di ridurre le conseguenze o il pericolo.

Interazione Uomo-Sistema: Rischi e Percezioni

Attualmente molti processi coinvolgono i sistemi basati sull’intelligenza artificiale esclusivamente per svolgere ruoli di supporto o di consulenza nei confronti degli operatori del processo stesso.

Per esempio, da molto tempo i radiologi, i patologi, i gruppi antifrode e gli analisti delle immagini, fruiscono dell’ausilio dell’intelligenza artificiale. Poi, vi sono altri casi in cui i sistemi basati sull’intelligenza artificiale operano in maniera semi-autonoma (per esempio, nello screening delle candidature ad una posizione lavorativa). Questi modelli che comprendo l’interazione umana possono introdurre rischi specifici (per esempio, il sistema di screening potrebbe essere più autonomo nella realizzazione delle esclusioni e rimanere consultivo per le accettazioni e, di conseguenza, eliminare candidature con ottimi requisiti).

In altre parole, esiste uno spettro di gradi di controllo condiviso e, pertanto, la natura di tale condivisione deve essere essa stessa un obiettivo del processo di valutazione del rischio. A riguardo, una soluzione potrebbe considerare il coinvolgimento degli esseri umani nel processo di valutazione delle proposte di esclusione e di accettazione, nonché nell’impiego di uno schema di monitoraggio, per migliorare la responsabilità e fornire un riscontro al sistema e ai progettisti.

Un altro rischio connesso all’interazione uomo-sistema, legato a una debolezza umana piuttosto che a una debolezza del sistema, consiste nella tendenza ad antropomorfizzarne l’utilizzo sulla base dell’uso del linguaggio e della voce umana. Un noto esempio è il programma Eliza [6] scritto negli anni ‘60 al MIT da Joseph Weizenbaum. Eliza “conversava” con il suo utente umano attraverso la digitazione di un testo. Le 10 pagine di codice di Eliza facevano principalmente tre cose: rispondere in modo strutturato ad alcune parole “trigger”, riflettere occasionalmente sugli input che gli venivano passati e invertire i pronomi.

Sembrava, quindi, che Eliza capisse e, di conseguenza, le persone trascorrevano ore a conversare con lei nonostante il suo funzionamento fosse estremamente semplice. Esempi più recenti sono rappresentati da Siri, Alexa e Gemini, che, nonostante i nomi umani e le voci amichevoli, sono principalmente gateway di pattern-matching per la ricerca sul Web. Tuttavia, gli attribuiamo proprietà relative alla personalità e pronomi di genere per renderli più human friendly. Il punto è che gli esseri umani tendono a conferire ai testi significati e profondità, mentre i testi LLM sono una sequenza, statisticamente derivata, di previsioni delle parole successive.

Superfici di Attacco e Innovazione nella GenAI

Un’altra serie di minacce che mina lo sviluppo dei sistemi di AI sicuri e protetti è rappresentata del ricco e diversificato set di superfici di attacco associate agli attuali modelli di AI. L’esposizione di queste superfici di attacco è determinata, da un lato, dalle scelte ingegneristiche dell’AI e, dall’altra, dalla realizzazione di nuove interazioni Uomo-Macchina e, più in generale, dalla progettazione dei workflow operativi. In questo contesto, è opportuno definire l’ingegneria dell’AI non solo come l’ambito di progettazione, sviluppo, test e valutazione dei componenti di AI, ma anche dei sistemi che li contengono e dei workflow che incorporano le capacità dell’AI nelle principali attività.

A seconda del tipo di applicazione a cui sono adibiti i sistemi basati sull’intelligenza artificiale, e di come vengono progettati, le azioni avversarie possono manifestarsi sottoforma di input diretti da utenti malevoli, oppure sotto forma di “training cases” e “retrieval augmentations” (per esempio, sottoforma di file caricati, di siti web recuperati o di risposte da un plug-in o da uno strumento subordinato come la ricerca web).

Possono essere forniti anche come parte di una query, sottoforma di dati non destinati ad essere interpretati come istruzioni (per esempio un documento fornito dall’utente per essere riassunto o elaborato). Nei fatti, queste superfici di attacco sono molto simili ad altre tipologie di minacce informatiche, solo che nel contesto dell’intelligenza artificiale è più difficile prevedere l’impatto di piccoli cambiamenti negli input nei confronti dei risultati, attraverso una qualsiasi di queste superfici di attacco. Infatti, c’è un’asimmetria informatica, adattata alle peculiarità dei modelli a rete neurale, in cui i difensori cercano una prevedibilità completa nell’intero dominio di input, mentre l’avversario necessita di prevedibilità solo per piccoli segmenti.

Fortunatamente, la tecnica dell’adversarial ML consente di realizzare una specifica prevedibilità con più facilità e ciò conferisce un vantaggio per gli aggressori. Paradossalmente, questi attacchi sono ottenuti tramite l’utilizzo di altri modelli ML costruiti allo scopo di prevederli.

Inoltre, esistono diverse opportunità di attacco alla supply chain in grado di sfruttare la sensibilità dei risultati di training nelle scelte effettuate nella preferenza dei dati utilizzati per il processo di training. La robustezza di un modello, e delle relative misure di sicurezza, deve essere commisurata in relazione a ciascuno delle diverse tipologie di attacco. A riguardo, ognuno di questi tipi di attacco richiede nuovi metodi di analisi, di testing e una metrica specifica.

È importante che sia raggiunto l’obiettivo di progettare schemi di valutazione ampiamente onnicomprensivi, anche in relazione allo stato dell’arte (in rapida evoluzione) e di ciò che è noto sui diversi metodi di attacco. È probabile che la completezza di questo traguardo rimanga inafferrabile, poiché continuano a svelarsi nuove vulnerabilità, debolezze e vettori di attacco.

Velocità dell’Innovazione e Sfide di Valutazione

Gli obiettivi di un progetto IT spesso si trovano in uno stato di rapida evoluzione, in parte guidata dai cambiamenti dell’ambiente operativo/strategico e dallo sviluppo di nuove tecnologie, tra cui gli algoritmi di intelligenza artificiale e le relative infrastrutture informatiche. Questa continua evoluzione crea ulteriori minacce sotto forma di pressione continua nell’effettuare l’aggiornamento degli algoritmi, delle infrastrutture informatiche, dell’immissione dei dati di training e degli altri elementi relativi alle potenzialità dell’intelligenza artificiale. Molto spesso, l’evoluzione accelerata anticipa le fasi di testing e valutazione, perché gli stakeholder vengono coinvolti nella fase iniziale della sequenza temporale del processo (c.d. “move to the left”) e in modo continuato.

Ciò consente, da un lato, di selezionare i progetti di sistema per migliorare la testabilità e, dall’altro, di configurare processi e strumenti in grado di produrre non solo modelli distribuibili, ma anche dataset di prova destinati a supportare un processo di testing e valutazione continuo e affidabile. È risaputo che un coinvolgimento anticipato delle attività di T&E nel ciclo di vita del sistema comporta notevoli benefici e ricadute in termini di efficienza e sicurezza.

Questo approfondimento ha esplorato le complesse sfide di sicurezza e gestione dei rischi nei sistemi GenAI, evidenziando la necessità di approcci dinamici e multidimensionali. Nel prossimo articolo, approfondiremo le prospettive future della GenAI, analizzando le traiettorie di sviluppo e le potenziali soluzioni alle criticità emerse. Per una comprensione più dettagliata, invitiamo i lettori a scaricare il nostro white paper dedicato alle strategie di sicurezza in relazione dal titolo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Note bibliografiche

[1]Le mappe di salienza sono stabilite sulla base di proprietà visive come le discontinuità dell’immagine. Così, per esempio, le discontinuità cromatiche, un oggetto in movimento su uno sfondo statico o le zone più luminose spiccano e catturano l’attenzione.

[2] La metrologia è la scienza che si occupa della misurazione e delle sue applicazioni.

[3] L’Adversarial machine learning (Apprendimento automatico antagonistico) è una serie di tecniche volte a compromettere il corretto funzionamento di un sistema informatico che faccia uso di algoritmi di apprendimento automatico, tramite la costruzione di input speciali in grado di ingannare tali algoritmi: più nello specifico, lo scopo di tali tecniche è quello di causare la classificazione errata in uno di questi algoritmi.

[4] Per mission system si intende uno strumento sviluppato per, o utilizzati in, programmi e progetti per un obiettivo ovvero strutture tecniche critiche specificamente sviluppate o significativamente modificate per sistemi specifici.

[5] Guidelines for secure AI system development, https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf, NCSC, 2023

[6] J. Weizenbaum, ELIZA – a computer program for the study of natural language communication between man and machine, https://dl.acm.org/doi/10.1145/365153.365168, MIT, 1966

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

https://www.ictsecuritymagazine.com/articoli/sicurezza-genai/

Stop alla direttiva europea sulla responsabilità per l’AI. Vincono gli USA

Nella tarda serata di ieri 11 febbraio la Commissione europea ha pubblicato il suo programma di lavoro 2025, ma con una sorpresa: il ritiro della direttiva sulla responsabilità da intelligenza artificiale (AI).

Di fatto, si trattava di un documento che non voleva soffocare l’innovazione e la competitività, soprattutto in un ambito così strategico come quello tecnologico e in particolare dell’AI, ma di tutelare i cittadini, i soggetti più deboli in questo panorama di giganti. Si affrontava il delicato argomento del “risarcimento danni“. A differenza dell’AI Act, che è un quadro normativo ex ante, la direttiva ritirata era un meccanismo di “responsabilità ex post“, che entrava in gioco solo quando l’AI causava effettivamente un danno.

Un cambio di rotta improvviso, come si legge su euractiv.com, arrivato a chiusura della seconda giornata dell’AI Action Summit di Parigi, subito dopo il discorso duro e molto aggressivo tenuto dal vice presidente degli Stati Uniti, J.D. Vance, che ha disapprovato l’approccio normativo dell’Unione europea (Ue) in materia di intelligenza artificiale.

Vance aveva messo tutti in guardia contro una ”regolamentazione eccessiva” dell’AI, che ”potrebbe uccidere un’industria in pieno sviluppo“, sottolineando in maniera esplicita che gli Stati Uniti faranno “tutti gli sforzi necessari per incoraggiare le politiche pro-crescita in materia di AI”: “Gli Stati Uniti sono leader nell’IA e la nostra amministrazione vuole che lo restino“.

Il vicepresidente USA ha poi precisato che i sistemi AI americani sono e saranno “liberi da pregiudizi ideologici“, portando con sé anche il messaggio del grande assente, l’ormai braccio destro di Trump, Elon Musk, con una critica severa alla regolamentazione europea che mira a moderare i contenuti attraverso il Digital Services Act (Dsa).

Alex Voss: “Un approccio da Far West che avvantaggia solo le Big Tech”

“Abolendo la direttiva sulla responsabilità dell’AI, la Commissione sta attivamente scegliendo l’incertezza giuridica, favorendo squilibri di potere delle imprese e un approccio da Far West alla responsabilità dell’AI, che avvantaggia solo le Big Tech”, ha tuonato in un post Alex Voss, membro del Parlamento europeo per la regione del Medio Reno (CDU) e portavoce del PPE nella commissione giuridica (JURI).

“La realtà ora – ha proseguito Voss – è che la responsabilità dell’AI sarà dettata da un mosaico frammentato di 27 diversi sistemi giuridici nazionali, soffocando le startup e le PMI europee nel settore AI. La domanda è: stiamo prendendo sul serio il mercato unico o no?”.

La cosa più grave, ha spiegato Voss, è che “i danni legati all’intelligenza artificiale stanno già aumentando e ora i cittadini dovranno affrontare una battaglia in salita per ottenere un risarcimento in base a leggi nazionali obsolete“.

Una direttiva che aveva molti nemici interni all’Ue

Ora c’è da capire cosa significhi davvero questa nuova posizione europea sul campo dell’AI e di altre tecnologie chiave. Si può pensare che il ritiro della AI Liability Directive sia un passo evidente da parte dell’Ue di apertura al capitale (americano?) e all’innovazione, per dimostrare che in Europa si dà priorità alla competitività e per dimostrare buona volontà nei confronti dell’amministrazione Trump.

Si può anche interpretare questa mossa come una resa, non solo all’alleato statunitense, ma anche alle pressioni interne che nel tempo si sono fatte sempre più forti nei confronti dell’AI Act, legge da tanti vista come eccessivamente esagerata in termini regolatori, quasi una zavorra per la crescita e un ostacolo allo sviluppo della tecnologia e all’ambizione europea di accrescere la propria competitività.

Nel suo documento, la Commissione ha giustificato questo cambio di rotta improvviso con queste parole: “No foreseeable agreement – the Commission will assess whether another proposal should be tabled or another type of approach should be chosen”.

Il punto chiave è che a suo dire non esiste ”alcun accordo prevedibile” su questa legge e che si cercherà di valutare successivamente se presentare un’altra proposta o se sarà più opportuno scegliere un altro tipo di approccio.

Dietro il ritiro della direttiva la spallata della Virkkunen?

Il tutto dopo che a Parigi, sia il padrone di casa, Emmanuel Macron, sia la Presidente della Commissione europea, Ursula von der Leyen, avevano annunciato grandi piani di investimento per un’AI europea forte, sicura e ambiziosa, pronta a sfidare Stati Uniti e Cina se necessario.

Come spiegato da Luca Bertuzzi su MLex, il principale sostenitore del ritiro della direttiva sulla responsabilità per l’AI è stato il vicepresidente esecutivo, Henna Virkkunen, responsabile della politica digitale dell’Unione, che ha sostenuto la semplificazione normativa e la creazione di un ambiente UE più favorevole alle imprese.

Dall’altra parte della barricata, Michael McGrath, commissario europeo per la Giustizia, ha cercato di difendere la proposta originariamente avanzata dal suo dipartimento e intesa a integrare il regime di responsabilità.

Di fatto, molti Paesi europei non avevano sostenuto questa direttiva fin dalla sua nascita, la Francia in testa, che ne ha messo più volte in dubbio utilità ed efficacia, rimproverando alla Commissione eccessivo rigore normativo.

Più favorevole è stato il Parlamento europeo, che anzi ha tentato anche di estenderne l’applicazione.

In termini di sviluppo dell’AI, la nuova posizione della Commissione rientra in una tendenza più ampia tesa a cercare di semplificare il quadro normativo e ridurre l’onere amministrativo per le aziende.

Che cos’è la AI Liability Directive

La direttiva sulla responsabilità da intelligenza artificiale andava a integrare e aggiornare il quadro dell’Unione in materia di responsabilità civile, introducendo per la prima volta norme specifiche per i danni causati dai sistemi di AI.

Grazie a queste norme, coloro che hanno subito danni causati dalla tecnologia di AI potevano accedere al risarcimento come se avessero subito danni in qualsiasi altra circostanza. La direttiva andava ad introdurre due misure principali: la cosiddetta “presunzione di causalità”, grazie alla quale i danneggiati non dovranno spiegare in dettaglio come il danno sia stato causato da una determinata colpa o omissione, e l’accesso agli elementi di prova di imprese o fornitori, quando si tratta di AI ad alto rischio.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/vance-il-vice-di-trump-striglia-lue-e-bruxelles-ritira-la-direttiva-sulla-responsabilita-per-lai-un-approccio-da-far-west-che-avvantaggia-le-big-tech/521149/

Macron sfida Trump: “Plug, baby, plug!”

La grandeur francese passerà anche per l’intelligenza artificiale (AI). Il summit di Parigi partito ieri, in fondo, a questo serviva. Nel suo discorso di chiusura del primo giorno di incontri, il Presidente Emmanuel Macron ha lanciato la Francia come Paese leader in Europa in questa tecnologia e per due motivi ben precisi: “possiamo contare su investimenti massicci ed energia a basso costo”.

La sua affermazione faceva riferimento ai piani di investimenti pluriennali del Paese per 109 miliardi di euro, di cui 50 miliardi di euro dagli Emirati Arabi Uniti, per la costruzione di un nuovo campus per data center, e 20 miliardi di euro dalla società canadese Brookfield, per sostenere lo sviluppo dell’infrastruttura IA in Francia.

A cui si aggiungono i 2,5 miliardi in cinque anni per dar vita al fondo di investimento no-profit chiamato Current AI, con l’obiettivo di promuovere progetti di IA di interesse pubblico.

Nucleare vs combustibili fossili

Dal punto di vista energetico, invece, la Francia gode di una capillare rete di centrali nucleari che generano energia elettrica a basso costo. “La Francia produce più elettricità di quanta ne consumi – ha osservato Macron – il che la rende una destinazione attraente per le aziende di IA ad alta intensità energetica”.

Tutto questo, ha sottolineato il Presidente francese: “ci farà andare veloci, molto veloci”. Il Paese si è preso la responsabilità di sfornare a breve 100.000 nuovi esperti in questo settore.

Poi è arrivato lo slogan politico, immancabile ormai in questi ultimi anni. Dopo l’ormai celebre “Drill, baby, drill”, usato in campagna elettorale da Donald Trump, per portare dalla sua la ricca e influente lobby dei combustibili fossili americana, Macron ha risposto con “Plug, baby, plug!”, per ricordare che in Francia, per i motivi sopra esposti, non serve trivellare il suolo alla ricerca di inquinanti idrocarburi, basta attaccare una spina e corrente a basso impatto ambientale alimenterà ogni data center e apparecchiatura.

Parigi propone la “strategia Notre-Dame” e mette all’angolo l’AI Act. Le regole rallentano?

Un vertice di Parigi, in corso anche oggi, che non è una celebrazione della forza e capacità tecnologica europea, tutt’altro, semmai il contrario, suona più come “un campanello di allarme”, ha precisato Macron, perché l’Unione deve fare molto di più se vuole raggiungere e consolidare autonomia e leadership in questo settore così strategico per la crescita economica futura.

Bisogna correre, però, andare veloci, come ha sottolineato l’inquilino dell’Eliseo. In questo quadro il riferimento diretto è all’AI Act europeo, un imponente impianto regolatorio finalizzato a guidare lo sviluppo sicuro dell’intelligenza artificiale, da molti considerato più come una zavorra, invece che un timone affidabile o in caso ancora di salvezza (per una navigazione sicura, o evitare di andare alla deriva, in questa competizione quasi isterica tra superpotenze o sedicenti tali).

Macron suggerisce a riguardo un nuovo approccio, la “strategia Notre-Dame“, prendendo a modello quello adottato dal suo Paese per la ricostruzione a tempi record della famosa cattedrale parigina in soli cinque anni (dopo il devastante incendio del 2019).

Serve più Europa, meno protagonismo nazionalista

Il rischio, come ben sappiamo ormai, è rimanere indietro rispetto a Stati Uniti e Cina e subire, non guidare, la corsa tecnologica mondiale del momento. La posta in palio è davvero alta: chi domina la tecnologia dominerà il mondo.

In definitiva, il messaggio che al momento sta arrivando da Parigi è piuttosto ambiguo, o forse no. Da una parte di chiede a tutti di credere di più in un’Europa capace e sicura nell’affrontare la grande sfida dell’innovazione tecnologica e dell’AI, dall’altra, però, si chiede di appoggiarsi alla Francia o di accettare la sua guida, in questi tempi difficili.

Serve più Europa, non c’è dubbio, ma il protagonismo nazionalista non aiuta, soprattutto in un’epoca in cui tutti proclamano di mettere il proprio Paese prima di tutti gli altri.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/plug-baby-plug-macron-lancia-lai-francese-investimenti-massicci-ed-energia-a-basso-costo-andremo-veloci/521007/

L’uso crescente dell’AI nel settore legale australiano sta suscitando preoccupazioni tra i tribunali, a causa di avvocati che presentano documenti con citazioni giuridiche inesistenti generate da strumenti di intelligenza artificiale.

Un caso recente ha coinvolto un legale che, per risparmiare tempo, ha utilizzato ChatGPT per redigere le proprie memorie in una causa di immigrazione, senza verificare l’accuratezza delle sentenze citate.

Quando il ministero dell’Immigrazione ha scoperto che 17 delle sentenze menzionate non esistevano, il tribunale ha ritenuto necessario contrastare la pratica e ha segnalato l’avvocato agli organi di vigilanza professionale. Un’altra vicenda ha visto un avvocato di Melbourne riferito all’ente disciplinare dopo aver impiegato un software AI per elaborare riferimenti giuridici inesistenti in un processo di diritto di famiglia, causando il rinvio dell’udienza.

Anche i documenti redatti da persone non professioniste sono stati messi in discussione dai giudici, che hanno notato elementi testuali tipici dei modelli linguistici generativi in alcune dichiarazioni testimoniali. Di fronte a questi problemi, il sistema giudiziario sta adottando contromisure.

La Corte Suprema del Nuovo Galles del Sud ha imposto restrizioni sull’uso dell’AI per la redazione di atti giudiziari, mentre il Consiglio dei servizi legali del Victoria ha classificato l’uso improprio dell’AI come un rischio significativo per la professione.

Secondo gli esperti, il fenomeno non dipende solo da scarsa etica professionale, ma anche da una diffusa mancanza di formazione sull’uso consapevole di queste tecnologie.

Per maggiori informazioni, clicca per l’articolo originale

OpenAI pronta a completare il primo design di chip AI personalizzato nel 2024 per ridurre la dipendenza da Nvidia

OpenAI sta accelerando lo sviluppo del suo primo chip AI personalizzato con l’obiettivo di ridurre la dipendenza da Nvidia.

L’azienda è prossima a finalizzare il design del chip e prevede di inviarlo alla Taiwan Semiconductor Manufacturing Co (TSMC) per la produzione nei prossimi mesi. Questo progetto rappresenta un passo strategico per ottenere maggiore autonomia nell’approvvigionamento di hardware e consolidare la propria posizione nel settore.

Il processo iniziale di progettazione, noto come ‘tape-out’, potrebbe costare decine di milioni di dollari e richiedere circa sei mesi per completare il primo prototipo. Se tutto procederà senza intoppi, OpenAI potrebbe avviare la produzione di massa già nel 2026.

La startup si unisce così ad altre grandi aziende tecnologiche, come Meta e Google, che stanno sviluppando chip AI proprietari per ottimizzare le proprie infrastrutture. Il team di progettazione di OpenAI, guidato da Richard Ho (ex Google), è recentemente raddoppiato a 40 persone e collabora con Broadcom per la realizzazione del chip.

Tuttavia, costruire un’infrastruttura simile a quella di Google o Amazon richiederebbe ingenti investimenti e un significativo ampliamento del team. Il costo complessivo del progetto potrebbe superare i 500 milioni di dollari, considerando anche il software e le infrastrutture necessarie.

TSMC utilizzerà la sua tecnologia a 3 nanometri per produrre il chip, che sarà dotato di un’architettura a matrice sistolica e memoria ad alta larghezza di banda (HBM), caratteristiche simili ai chip Nvidia.

L’iniziativa di OpenAI non solo migliorerà l’efficienza operativa, ma potrebbe anche ridefinire gli equilibri del mercato dei semiconduttori AI, attualmente dominato da Nvidia.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/casi-falsi-e-documenti-con-citazioni-giuridiche-inesistenti-i-tribunali-australiani-alle-prese-con-gli-avvocati-che-usano-lai/520969/

Orgogliosamente allenato in Italia, spinti dal supporto di tanti, nasce Vitruvian-1, modello di ASC27 s.r.l. che parla le principali lingue europee.

Cos’è Vitruvian-1?

V1 è un modello con capacità di “ragionamento”. Ma V1 è un modello AI, non ragiona come noi, ha derivato dall’osservazione del linguaggio che utilizziamo per esprimere le nostre idee, una sua capacità di pervenire alla soluzione di problemi. Lo sa fare nella matematica, nella fisica, nella chimica, nella medicina ed in ogni altra materia che richieda ragionamento, sia in modalità CHAT che RAG.

Cosa non è V1?

V1 non è un “Chatbot”, è un po’ inutile porgli domande semplici, non è progettato per fare discorsi o per intrattenere gli utenti. V1 è fatto per rispondere a problemi ed esigenze concrete, è sviluppato per supportare le persone nelle proprie attività, per aiutare le aziende a risolvere problemi e per suggerire soluzioni a problemi complessi.

Quante cose sa V1?

Meno dei fratelloni da 1500BLN, ma con la sua capacità di ragionamento può arrivare dove loro non riescono e può farlo anche dai documenti che gli si forniscono.

Perché è importante V1?

V1 è importante perché posiziona l’Italia e l’Europa dove devono trovarsi, insieme agli altri paesi sulla capacità di costruire modelli ad altissime prestazioni.

Posso provare V1?

Con uno sforzo immenso abbiamo costruito questo modello, parsimonioso nei suoi 14B se paragonato ai 600-1500B della concorrenza, ma tenerlo in esercizio su larga scala richiederebbe investimenti che da soli non potremmo sostenere. Quindi il modello sarà accessibile sulla base di una waiting-list. A breve rilasceremo inoltre delle modalità di accesso API a pagamento per la comunità Enterprise.

V1 è finito?

No, V1 è l’inizio di un capitolo nuovo. Stiamo per rilasciare ulteriori modelli, di diverse dimensioni e di diverse capacità. Nell’#AI un mese equivale ad un lustro fuori dall’AI. Non è una tecnologia perfetta, non può commettere 0-errori e non può risolvere ogni problema, ma è la migliore approssimazione disponibile sul mercato, dopo l’essere umano. Ad ogni innovazione, AI migliora e ASC27 seguirà questa scia per offrire alle imprese italiane ed europee un’opzione di altissimo livello.

In questo paese la tecnologia è sbocciata per secoli, ha dato i natali al telefono, alla radio ed al personal computer. Loro, come V1, hanno avuto in comune la carta e la penna dell’uomo che le ha progettate. L’uomo Vitruviano di Leonardo è nato dalla carta e dalla penna, ed ancora oggi è il simbolo mondiale del Genio.

Giù il cappello, benvenuto Vitruvian-1, modello AI di Reasoning, 14B, allenato in ITALIA, che comprende e risponde perfettamente in italiano.

Per approfondire

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-vitruvian-1-e-operativo-litalia-sfida-i-giganti-non-e-un-chatbot-ma-un-modello-che-ragiona-lo-spiega-il-ceo/520806/

“L’intelligenza artificiale non esiste! Esistono straordinarie, potentissime tecnologie, che nelle mani di un’intelligenza umana capace potrà fare delle cose straordinarie altrimenti finisce male. Per questi motivi è fondamentale investire nella Formazione per consentire alle giovani generazioni di gestire queste nuove tecnologie, potentissime, nel modo migliore: in modo informato, critico e intelligente”.
È uno dei passaggi più significati dell’intervento di Luciano Floridi, nuovo presidente della Fondazione Leonardo ETS presentata alla Camera dei Deputati insieme a Roberto Cingolani, AD di Leonardo, e a Helga Cossu, Direttore Generale della Fondazione Leonardo ETS. Ha moderato Jordan Foresi, coordinatore del Progetto Outreach della Fondazione.
📽️ Il videointervento integrale dell’intervento del prof. Floridi

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/floridi-lintelligenza-artificiale-non-esiste/520710/

AI e spazio: la collaborazione tra AIKO e Tyvak International

Oggi la competizione globale si gioca sulla capacità di sviluppare tecnologie autonome, tra cui l’intelligenza artificiale (AI). In questo, affidarsi esclusivamente a modelli esteri (OpenAI, DeepMind, Baidu, ecc.) significa dipendere da soluzioni sviluppate da altri Paesi, con il rischio di perdere controllo su dati strategici e algoritmi.

Le startup, come le piccole e medie imprese, possono diventare motori di crescita per il tessuto industriale italiano, creando nuove opportunità di business e favorendo la competitività delle imprese, allo stesso tempo possono aiutare nella costruzione di un ecosistema AI indipendente, evitando la colonizzazione digitale da parte delle big tech straniere.

La scaleup torinese AIKO, che sviluppa software avanzati basati sull’AI e l’automazione per applicazioni spaziali, e Tyvak International, azienda italiana ed europea che realizza nano – e micro – satelliti, hanno annunciato una collaborazione per ottimizzare la gestione operativa dei satelliti e ridurre il carico di lavoro degli operatori, aumentando l’efficienza e la sicurezza delle missioni spaziali.

Il software gifted_GENE applicato a un satellite CubeSat 6U

“Insieme a Tyvak International è stato possibile testare sul campo l’efficacia e l’efficienza del sistema gifted_GENE, confermando la validità dell’approccio. I risultati promettono di ridefinire i confini dell’esplorazione spaziale, stabilendo un nuovo paradigma nel settore in termini di efficienza, precisione e avanzamento tecnologico”, ha spiegato Lorenzo Feruglio, CEO e Co-founder di AIKO.

“Grazie all’AI, siamo riusciti a ottimizzare la gestione dei dati e la pianificazione delle missioni, riducendo tempi e margini di errore. Ciò che ci entusiasma di più è il potenziale che questa tecnologia ha di rivoluzionare completamente le missioni spaziali”, ha aggiunto Fabio Nichele, CEO di Tyvak International.

L’AI applicata ai progetti di missioni spaziali porta benefici tangibili alle aziende e ai team che operano nel settore, aprendo a nuove opportunità di innovazione e di crescita economica.

Test e risultati

Il sistema gifted_GENE, integrato con un satellite cubesat 6U di Tyvak International, attualmente in orbita, ha elaborato e analizzato dieci flussi di telemetria provenienti da due settimane di dati in soli 3 minuti, riducendo drasticamente i tempi di analisi rispetto ai metodi tradizionali.

Con l’automatizzazione dei processi, questo tempo è stato ridotto, consentendo ai team di concentrarsi su operazioni strategicamente più rilevanti per la profittabilità della missione. 

In termini pratici, il sistema ha rilevato 4 anomalie su 5 con un solo falso positivo alla settimana per ogni componente, superando in modo significativo l’efficacia dei metodi tradizionali, che vedono il coinvolgimento diretto degli operatori.

Prima dell’integrazione dell’AI, gli operatori dovevano dedicare circa il 30% del loro tempo a eseguire manualmente ispezioni e controlli sui dati telemetrici.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/le-italiane-aiko-e-tyvak-international-testano-lai-nelle-operazioni-satellitari/520576/

Il mercato AI in Italia cresce rapidamente (+58%), ma resta fragile: poche startup, PMI in ritardo e dipendenza da soluzioni estere. La PA investe (+100%) ma pesa solo il 6% sul mercato. Servono più competenze, strategie nazionali chiare e investimenti per un ecosistema AI autonomo.

Lo rivelano i nuovi dati dell’Osservatorio Artificial Intelligence del Politecnico di Milano, che evidenziano un quadro complesso fatto di crescita accelerata, disparità nell’adozione tra imprese e un’ampia diffusione della conoscenza teorica dell’AI tra i cittadini.

Crescita e struttura del mercato

Con un valore di 1,2 miliardi di euro e una crescita del +58% rispetto al 2023, l’AI in Italia mostra un trend espansivo notevole, trainato soprattutto dalla Generative AI (43% del mercato) e dalle soluzioni di AI tradizionale (57%). I settori più attivi sono Telco&Media, Insurance, Energy, Banking&Finance, con una forte accelerazione nel comparto GDO&Retail. La Pubblica Amministrazione pesa ancora poco (6% del mercato), ma sta crescendo a un ritmo superiore al 100%.

Il divario tra grandi imprese e PMI

Se da un lato le grandi imprese si stanno muovendo verso un’integrazione dell’AI nei processi aziendali (59% ha un progetto attivo, il 65% sperimenta la Generative AI), dall’altro il settore delle PMI è in forte ritardo: solo il 7% delle piccole e il 15% delle medie imprese ha avviato progetti di AI. La scarsa adozione è legata principalmente alla difficoltà nella gestione dei dati, che rappresenta una barriera tecnologica ed economica. Tuttavia, il 58% delle PMI mostra interesse per il tema, spesso limitandosi all’utilizzo di strumenti pronti all’uso e low-cost.

L’Italia in ritardo rispetto all’Europa, ma tra i primi per l’uso di tool preconfezionati

Il confronto con altri otto Paesi europei (tra cui Francia, Germania, Spagna e Regno Unito) mostra che l’adozione dell’AI in Italia è più lenta:

• 81% delle grandi imprese ha almeno valutato un progetto, contro una media europea dell’89%.
• 59% ha un progetto attivo, contro il 69% della media UE.
• Solo il 28% delle aziende attive nell’AI ha adottato misure concrete per la compliance normativa (AI Act), evidenziando un percorso ancora lungo.

Nonostante ciò, l’Italia è tra i primi Paesi per acquisto di soluzioni GenAI preconfezionate: 53% delle grandi imprese ha licenze per strumenti come ChatGPT o Copilot, più di Francia, Germania e Regno Unito.

Il 39% delle aziende che utilizza strumenti di AI generativa ha riscontrato un effettivo aumento della produttività, mentre un ulteriore 48% non ha ancora effettuato una valutazione quantitativa. Tuttavia, il 17% delle aziende ha vietato l’uso di tool non approvati per prevenire problemi legati alla Shadow AI.

La percezione dei cittadini: alta consapevolezza, ma diffidenza sul lavoro

Il 99% degli italiani ha sentito parlare di AI, l’89% conosce la Generative AI (con un aumento di +32 punti rispetto al 2023). Tuttavia, l’atteggiamento nei confronti dell’AI sta diventando meno positivo:

• Il 59% degli italiani ha un’opinione positiva, ma in calo di 8 punti rispetto al 2023.
• Solo il 17% dei lavoratori valuta molto positivamente l’adozione dell’AI sul lavoro.
• Le principali preoccupazioni riguardano la manipolazione delle informazioni (Deepfake) e l’impatto sull’occupazione.

Il ruolo della ricerca e della formazione

L’Italia è ben posizionata nella produzione scientifica e ha beneficiato di finanziamenti per la ricerca, come i 28,7 milioni di euro erogati attraverso la fondazione FAIR. Tuttavia, resta il problema della fuga di talenti, con un saldo negativo nella capacità di trattenere esperti del settore.

Nella formazione, aumentano i corsi universitari e gli ITS dedicati all’AI, ma la conoscenza dell’AI tra i cittadini rimane superficiale.

Quali sfide per il futuro?

Secondo la ricerca il mercato italiano dell’AI è in forte crescita, ma le sfide principali sono:

1. Ridurre il divario tra grandi imprese e PMI, supportando queste ultime nella gestione dei dati e nell’adozione di soluzioni accessibili.
2. Migliorare la regolamentazione e la compliance all’AI Act, attualmente poco chiara per molte aziende.
3. Favorire lo sviluppo di startup AI italiane, ancora poco attrattive per gli investitori.
4. Potenziare la formazione e la ricerca, con un focus sulla fidelizzazione dei talenti per evitare la fuga all’estero.
5. Gestire i timori dei lavoratori, dimostrando i benefici dell’AI senza trascurare le preoccupazioni legate all’occupazione.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/il-mercato-ai-in-italia-cresce-58-ma-resta-fragile-poche-startup-e-pmi-in-ritardo-la-pa-investe-100-ma-pesa-solo-il-6-sul-mercato/520518/

Il ministero dell’industria della Corea del Sud ha imposto un divieto temporaneo ai propri dipendenti sull’uso di DeepSeek, una startup cinese di AI, per timori legati alla sicurezza. La decisione è stata annunciata dopo che il governo ha esortato le agenzie pubbliche a prestare attenzione nell’utilizzo di servizi di AI generativa come DeepSeek e ChatGPT nei contesti lavorativi.

Anche l’azienda statale Korea Hydro & Nuclear Power aveva già bloccato l’accesso a questi strumenti all’inizio del mese.

La Corea del Sud si aggiunge così ad altri governi che stanno esaminando i rischi legati a DeepSeek. L’Australia, attraverso il Tesoriere Jim Chalmers, ha recentemente invitato i cittadini alla prudenza nell’uso del modello cinese, mentre gli Stati Uniti stanno valutando le implicazioni per la sicurezza nazionale. Parallelamente, l’autorità coreana per la privacy ha annunciato un’indagine per verificare la gestione delle informazioni personali degli utenti da parte di DeepSeek.

Il settore tecnologico sudcoreano sta adottando precauzioni simili. Kakao Corp ha chiesto ai propri dipendenti di evitare l’uso di DeepSeek, nonostante la recente partnership con OpenAI. SK Hynix, produttore di chip per AI, ha limitato l’uso della tecnologia generativa, mentre Naver ha vietato l’impiego di AI che archiviano dati al di fuori della propria infrastruttura.

L’espansione rapida di DeepSeek sta dunque sollevando preoccupazioni globali, riflettendo il crescente dibattito sulla sicurezza e la regolamentazione dell’AI cinese.

Per maggiori informazioni, clicca per l’articolo originale.

BlackRock assumerà 1.200 persone in India per sviluppare le capacità di AI

BlackRock Inc., il più grande gestore patrimoniale al mondo, ha annunciato un’importante espansione in India con l’assunzione di circa 1.200 nuovi dipendenti. L’iniziativa mira a potenziare due centri operativi, noti come iHubs, situati a Mumbai e Gurugram.

Inoltre, BlackRock sta acquisendo un centro globale con circa 1.500 dipendenti a Bangalore attraverso l’acquisizione della società di dati Preqin.

L’obiettivo principale di questa espansione è rafforzare le capacità di AI dell’azienda. Per questo motivo, BlackRock assumerà ingegneri e specialisti di dati per sviluppare prodotti e servizi avanzati, tra cui ricerca sugli investimenti, gestione del rischio, ingegneria finanziaria e analisi dei dati.

L’India sta emergendo come un hub globale per centri di eccellenza, e si stima che questo settore raggiungerà un valore di 110 miliardi di dollari entro il 2030, con oltre 4,5 milioni di impiegati. Per supportare la crescita, BlackRock ha anche affittato nuovi uffici a Mumbai, nel quartiere di Goregaon, con un investimento di circa 4 miliardi di rupie (45,9 milioni di dollari).

Questa mossa riflette la crescente importanza dell’India nella strategia tecnologica e operativa delle multinazionali, con un focus sempre più marcato sull’AI e l’innovazione digitale.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/il-ministero-dellindustria-della-corea-del-sud-vieta-temporaneamente-laccesso-a-deepseek-per-motivi-di-sicurezza/520514/

Questo articolo fa parte di una serie dedicata all’esplorazione approfondita della Generative Artificial Intelligence (GenAI), una tecnologia rivoluzionaria che sta ridefinendo il panorama digitale. Attraverso un’analisi dettagliata, ripercorreremo la storia, esamineremo il funzionamento e valuteremo l’impatto di questa tecnologia che, secondo le previsioni di Gartner, sarà implementata dall’80% delle organizzazioni entro il 2026.

La Generative AI, talvolta chiamata GenAI, è un tipo di intelligenza artificiale (AI) in grado di creare contenuti originali, come testi, immagini, video, audio o codice software, in risposta al prompt o alla richiesta di un utente. Per rispondere a queste richieste, la GenAI utilizza sofisticati modelli di machine learning, chiamati modelli di deep learning, ovvero algoritmi in grado di simulare i processi di apprendimento e decisionale del cervello umano. Questi si basano sull’identificazione e la codifica di modelli e relazioni in enormi quantità di dati, che sono utilizzati per comprendere le richieste o le domande in linguaggio naturale degli utenti e rispondere con nuovi contenuti pertinenti.

L’AI ha rappresentato uno dei principali argomenti tecnologici degli ultimi dieci anni, ma l’AI generativa, e in particolare l’avvento di ChatGPT nel 2022, ha portato l’AI alla portata di tutti e ha lanciato un’ondata di innovazione senza precedenti. L’AI generativa offre enormi vantaggi in termini di produttività per tutti, individui e organizzazioni, e, sebbene presenti anche sfide e rischi sostanziali, la ricerca continua a esplorare i modi in cui questa tecnologia può migliorare i workflow, potenziare i prodotti e ottimizzare i servizi.

Secondo una ricerca realizzata nel 2023 da McKinsey, un terzo delle organizzazioni utilizza regolarmente l’AI generativa in almeno una funzione aziendale [1]. Gartner prevede che entro il 2026 oltre l’80% delle organizzazioni avrà implementato applicazioni di AI generativa oppure utilizzerà interfacce di programmazione delle applicazioni (API) di AI generativa [2].

Excursus Storico della Generative AI: Dall’Origine ai Moderni Foundation Model

Il termine Intelligenza Artificiale Generativa è divenuto popolare negli ultimi anni, ma l’intelligenza artificiale fa parte della quotidianità da decenni e la tecnologia di AI generativa di oggi si basa sulle scoperte dell’apprendimento automatico risalenti all’inizio del XX secolo. Cerchiamo di comprendere le tappe fondamentali:

• 1964: Joseph Weizenbaum, ricercatore-informatico del MIT, sviluppa ELIZA, un’applicazione di elaborazione del linguaggio naturale basata su testo. ELIZA, è stato sostanzialmente il primo chatbot (all’epoca chiamato “chatterbot”) basato su uno script di pattern-matching in grado di rispondere agli input, forniti sottoforma di testo in linguaggio naturale, con risposte testuali empatiche.
• 1999: Nvidia lancia GeoForce, la prima unità di elaborazione grafica. Originariamente sviluppata per fornire una grafica in movimento fluida per i videogiochi, le GPU sono diventate di fatto la piattaforma per lo sviluppo di modelli AI e il mining di criptovalute.
• 2004: Google lancia la funzione di completamento automatico, che si attiva quando gli utenti inseriscono i termini di ricerca, in grado di generare potenziali parole o frasi successive. L’algoritmo è basato su una catena Markov, un modello matematico sviluppato nel 1906.
• 2013: Compaiono i primi “Variational Autoencoders” (VAE), dei modelli di reti neurali che permettono di implementare un modello generativo.
• 2014: Ian Goodfellow, ricercatore presso l’Università di Montreal, introduce le prime “Generative Adversarial Networks” (GAN) e i “Diffusion Models” [3], due architetture per addestrare un modello generativo di AI.
• 2017: Un gruppo di ricerca formato da Ashish Vaswani, un team di Google Brain e un gruppo della University of Toronto pubblicano “Attention is All You Need [4]”, un documento che illustra i principi dei modelli di trasformazione (c.d. “Transformer”) in grado di abilitare i potenti “foundation model” e strumenti di AI generativa attuali.
• 2019: OpenAI implementa i suoi modelli linguistici di grandi dimensioni GPT (Generative Pretrained Transformer), GPT-2 e GPT-3.
• 2022: OpenAI presenta ChatGPT, un front-end di GPT-3 che genera frasi complesse, coerenti e contestualizzate, e contenuti in risposta ai prompt degli utenti finali.

La notorietà e la popolarità acquisite da ChatGPT ha dato il via ad una serie di progetti finalizzati allo sviluppo di altre AI generative e il rilascio di prodotti a un ritmo incalzante, fino a giungere alle attuali release di Google Bard (ora Gemini), Microsoft Copilot, Bedrock di Amazon, Ernie Bit di Baidu, Pangu-Σ di Huawei, Claude di Anthropic, xAI di Elon Musk, Jais in lingua araba, Poe di Quora, IBM watsonx.ai, e ai modelli linguistici di grandi dimensioni (LLM) open source come Llama-2, di Meta, o Dolly 2.0 di Databricks e OpenChat AI GitHub.

Come Opera la Generative AI: Architetture, Processi e Metodologie di Apprendimento

Normalmente il ciclo di vita della Generative AI si sviluppa in tre fasi:

• Formazione: la fase in cui si crea un “foundation model” [5] che possa servire come base per più applicazioni di AI di nuova generazione.
• Ottimizzazione: la fase in cui si adatta il foundation model a una specifica applicazione AI di nuova generazione.
• Generazione, valutazione e improvement: la fase in cui si valutano i risultati dell’applicazione della GenAI per migliorarne la qualità e l’accuratezza.

Formazione

La GenAI si fonda su un foundation model, un modello di deep learning che funge da schema per diversi tipi di applicazioni di AI generativa. I foundation model più comuni sono i modelli linguistici di grandi dimensioni (LLM), sfruttati nelle applicazioni per generare testo, ma esistono foundation model per generare immagini, video, audio e musica, oltre a foundation model multimodali in grado di supportare simultaneamente diversi tipi di contenuti.

Per realizzare un foundation model occorre addestrare un algoritmo di deep learning su enormi volumi di dati grezzi, non strutturati e non etichettati, spesso raccolti dalla rete internet o da altre fonti di dati. Durante la fase di training, l’algoritmo esegue e valuta milioni di test c.d.”fill in the blank” (riempimento dello spazio), cercando di prevedere l’elemento successivo in una determinata sequenza, per esempio la parola successiva in una frase, l’elemento successivo in un’immagine, il comando successivo in una riga di codice, e, contestualmente, effettua un auto-tuning per ridurre al minimo la differenza tra le previsioni e i dati reali (o il risultato “corretto”).

Il risultato di questo ciclo di training è una rete neurale di parametri, ovvero una serie di rappresentazioni codificate di entità, pattern e relazioni nei dati, in grado di generare contenuti in modo autonomo in risposta agli input o ai prompt ricevuti.

Questo processo si caratterizza per l’alta intensità di calcolo, un elevato dispendio in termini di tempo e costi: infatti richiede la presenza di migliaia di unità di elaborazione grafica (GPU) sottoforma di cluster e settimane di elaborazione. Fortunatamente sono disponibili progetti di foundation model open source, come Llama-2 di Meta, che consentono agli sviluppatori di GenAI di saltare questo passaggio e i relativi costi.

Ottimizzazione

Un foundation model è generalista, ovvero sa molte cose su molti tipi di contenuti, ma spesso non è in grado di generare tipi specifici di output con la precisione o la qualità desiderate. Per questo motivo è opportuno che il modello debba essere ottimizzato seguendo un’attività di generazione dei contenuti specifica. Questo obiettivo può essere raggiunto in vari modi:

• attraverso una messa a punto del modello. Questa metodologia comporta l’alimentazione del modello con dati specifici dell’applicazione di generazione di contenuti, cioè, deve comprendere le domande o i prompt che molto probabilmente l’applicazione riceverà e le corrispondenti risposte corrette nel formato desiderato. Per esempio, se un team di sviluppo sta tentando di creare un customer service chatbot, creerà centinaia o migliaia di documenti contenenti domande etichettate sul servizio clienti con le risposte corrette e li invierà al modello.
• tramite un apprendimento di rinforzo con feedback umano (RLHF). La metodologia di RLHF (Reinforcement Learning from Human Feedback) prevede che gli utenti umani rispondano ai contenuti generati con valutazioni che, successivamente, il modello utilizza per aggiornare sé stesso e ottenere maggiore precisione o rilevanza.

Generazione, valutazione e improvement

Di norma, sia gli sviluppatori che gli utenti valutano continuamente i risultati delle app di GenAI che utilizzano e, di conseguenza, ottimizzano ulteriormente il modello per ottenere una maggiore precisione o pertinenza.

Esiste un’altra alternativa per ottimizzare le prestazioni di un’applicazione di AI: la “retrieval augmented generation” (RAG). La RAG è un framework in grado di estendere il foundation model al fine di utilizzare un set di fonti rilevanti, al di fuori dei dati utilizzati nel training, capaci di integrare e perfezionare i parametri o le rappresentazioni nel modello originale. A riguardo, la RAG garantisce che un’app di AI generativa abbia sempre accesso alle informazioni più aggiornate e contestualizzate. Inoltre, le fonti aggiuntive a cui si accede tramite RAG, a differenza dei dataset del foundation model originale, sono trasparenti e verificabili.

Architetture dei Modelli di Generative AI: Tecnologie che Abilitano la Creatività Artificiale

Dal 2013 abbiamo assistito allo sviluppo di modelli di AI veramente generativa, ovvero modelli di “deep learning” in grado di creare autonomamente contenuti su richiesta. Le principali architetture evolute durante questo periodo includono:

• Variational Autoencoders (VAE): rappresentano modelli che hanno consentito di effettuare scoperte rivoluzionarie nel riconoscimento delle immagini, nell’elaborazione del linguaggio naturale e nel rilevamento delle anomalie.
• Generative Adversarial Networks (GAN) & Diffusion Models: sono architetture che hanno migliorato l’accuratezza delle applicazioni precedenti e hanno reso possibile le prime applicazioni di AI per la generazione di immagini da foto reali.
• Transformers: rappresentano l’architettura dei modelli di deep learning alla base dei principali foundation model e delle soluzioni di AI generativa di oggi.

Variational Autoencoder

Un “autoencoder” è un modello di deep learning composto da due reti neurali connesse tra loro: una che codifica (o comprime) un’enorme quantità di dati, non strutturati e non etichettati, in parametri per il training e un’altra che decodifica tali parametri per ricostruire il contenuto. Tecnicamente, gli autoencoder sono in grado di generare nuovi contenuti, ma sono utilizzati prevalentemente per la codifica, l’archiviazione o il trasferimento dei dati e, infine, per la decodifica degli stessi e la generazione di contenuti di alta qualità.

Nel 2013 sono stati introdotti i “Variational Autoencoder” (VAE) che, oltre a codificare i dati come un autoencoder, sono in grado di decodificare i dati in diverse varianti di contenuto. Questa peculiarità ha permesso di addestrare i VAE a generare varianti per raggiungere un particolare obiettivo e, al contempo, consentire di ottenere nel tempo contenuti più accurati e ad alta fedeltà. Le prime applicazioni dei VAE includevano il rilevamento delle anomalie (per esempio, nella diagnostica per immagini) e la generazione del linguaggio naturale.

Generative Adversarial Network

Anche le “Generative Adversarial Network” (GAN), introdotte nel 2014, comprendono due reti neurali: una denominata Generatore, adibita a generare nuovi contenuti, e una Discriminatore, destinata a valutare l’accuratezza e la qualità dei dati generati. Questi algoritmi antagonisti inducono il modello a generare output di qualità sempre più elevata.

Solitamente le GAN vengono utilizzate per generare immagini e video, ma sono in grado di originare contenuti realistici e di alta qualità anche in altri domini. Si sono dimostrate particolarmente efficaci in determinate attività, come il trasferimento di stile (per esempio la modifica dello stile di un’immagine: da una foto a uno schizzo a matita) e l’aumento dei dati (creazione di nuovi dati per aumentare le dimensioni e la diversità di un data set di training).

Diffusion Model

Un “Diffusion Model”, anch’essi introdotti nel 2014, funziona in maniera differente. Questo modello, prima di realizzare il training, aggiunge rumore ai dati per renderli casuali e irriconoscibili, successivamente, addestra l’algoritmo a disperdere iterativamente il rumore per rivelare l’output desiderato.

I Diffusion Models richiedono più tempo per l’addestramento rispetto ai VAE o alle GAN, ma offrono un controllo dell’output più preciso; infatti, sono particolarmente sfruttati negli strumenti di generazione di immagini di alta qualità. DALL-E, lo strumento di generazione di immagini di Open AI, è guidato da un diffusion model.

Transformer

I “Transformer”, documentati per la prima volta in un articolo del 2017 pubblicato da Ashish Vaswani e altri, trasformano il paradigma encoder-decoder per realizzarne un’evoluzione, da un lato, del modo in cui i foundation model vengono addestrati e, dall’altro, nella qualità e nella gamma di contenuti che possono produrre. Questi modelli sono alla base dei principali strumenti di AI generativa, tra cui ChatGPT e GPT-4, Copilot, BERT, Bard e Midjourney.

Per determinare quali dati, all’interno di una sequenza, sono più importanti e su quali occorre concentrarsi, i transformer utilizzano un concetto chiamato “attention” in grado di:

• elaborare contemporaneamente intere sequenze di dati (ad es. frasi invece di parole singole);
• acquisire il contesto dei dati all’interno della sequenza;
• codificare i dati di training in incorporamenti (denominati anche iperparametri) che rappresentano i dati e il loro contesto.

Oltre a consentire un addestramento più rapido, i transformer sono performanti nel l’elaborazione del linguaggio naturale (“Natural Language Processing”, NLP) e nella sua comprensione (“Natural Language Understanding”, NLU) e sono in grado di generare sequenze di dati più lunghe (ad esempio, non solo risposte a domande, ma anche poesie, articoli o documenti) con maggiore precisione e qualità rispetto ad altri modelli di AI generativa. I modelli transformer possono essere addestrati o ottimizzati anche per l’uso di tools, ad esempio un’applicazione di fogli di calcolo, un programma di disegno, o per generare contenuti in un formato particolare.

Peculiarità della Generative AI

L’AI generativa può essere utilizzata per creare molti tipi di contenuti in domini diversi.

• Testo: I modelli generativi, soprattutto quelli basati sui trasformer, possono generare testi coerenti e contestualmente rilevanti, come delle istruzioni, della documentazione, una brochure, un’e-mail, dei testi per siti web, blog, articoli, delle relazioni, dei documenti e, persino, contenuti creativi. Possono eseguire compiti di scrittura ripetitivi o noiosi (per esempio, la stesura di riassunti di documenti o meta descrizioni di pagine web), consentendo agli editor di dedicarsi a lavori più creativi e di maggior valore.
• Immagini e video: La generazione di immagini, come DALL-E, Midjourney e Stable Diffusion, può realizzare immagini realistiche, oppure opere d’arte originali, ed eseguire il trasferimento di stili, la traduzione image-to-image e altre attività di modifica o miglioramento delle immagini. Gli strumenti GenAI video possono creare animazioni a partire da istruzioni di testo e possono applicare effetti speciali a video esistenti in maniera più rapida ed economica rispetto ai metodi tradizionali.
• Suono, parole e musica: I modelli generativi possono sintetizzare contenuti vocali e audio per farli sembrare reali alle chatbot e agli assistenti digitali a comando vocale, consentire la narrazione degli audiolibri e di altre applicazioni basate sull’audio. La stessa tecnologia può generare musica originale in grado di imitare la struttura e l’audio delle composizioni professionali.
• Codice software: La GenAI può generare codice di programmazione originale, effettuare il completamento automatico dei frammenti di codice, tradurre tra diversi linguaggi di programmazione e riassumere le funzionalità del codice. Consente di ottenere prototipi, eseguire rapidamente il debug delle applicazioni e realizzare sessioni di testing, offrendo al contempo un’interfaccia in linguaggio naturale.
• Design e arte: I modelli di AI generativa possono generare opere d’arte digitali e di design uniche o assistere nella progettazione grafica. Le applicazioni includono la generazione dinamica di ambienti, personaggi o avatar ed effetti speciali per realizzare simulazioni virtuali e videogiochi.
• Simulazioni e artefatti: I modelli di AI generativa possono essere addestrati per generare dati o strutture basate su dati reali o virtuali. Per esempio, l’AI generativa viene applicata nella scoperta di farmaci per generare strutture molecolari con le proprietà desiderate, contribuendo alla progettazione di nuovi composti farmaceutici.

Quali sono i Vantaggi?

Il principale beneficio, e forse quello più scontato, dell’AI generativa è la maggiore efficienza. La sua capacità di generare contenuti e risposte alle domande consente di accelerare o automatizzare le attività ad alta intensità di lavoro, ridurre i costi e guadagnare tempo da dedicare ad attività di maggior valore.

L’AI generativa offre ulteriori vantaggi in questi ambiti:

• Creatività migliorata: Gli strumenti di Gen AI possono ispirare la creatività attraverso il brainstorming automatizzato, perché gli consente di generare più versioni inedite dei contenuti. Queste varianti possono servire come punti di partenza o riferimenti per superare il blocco creativo di scrittori, artisti, designer e altri tipi di creatori.
• Processo decisionale migliorato (e più rapido): L’AI generativa è predominante nell’analisi di grandi insiemi di dati, nell’identificazione degli schemi e nell’estrazione di insight significativi, per poi generare ipotesi e suggerimenti basati su questi insight e supportare i dirigenti, gli analisti, i ricercatori e tutti gli altri professionisti, nel prendere decisioni più corrette e basate sui dati.
• Personalizzazione dinamica: L’AI generativa può analizzare le preferenze e la cronologia degli utenti per creare contenuti personalizzati in tempo reale, rendendo l’esperienza dell’utente più personalizzata e coinvolgente.
• Disponibilità continua: L’AI generativa funziona in maniera costante e fornisce una disponibilità continua per le attività come le chatbots utilizzate per erogare l’assistenza ai clienti e le risposte automatiche.

Casi d’uso

Di seguito sono riportati, solo a titolo esemplificativo, alcuni casi d’uso dell’AI nel settore business, per comprendere quali benefici possono portare nel breve periodo. In tal senso, man mano che le tecnologie si svilupperanno ulteriormente e le organizzazioni incorporeranno questi tools nei loro workflow, assisteremo alla scoperta di nuove e altrettante applicazioni.

• User experience (UX): Il settore marketing delle aziende può trarre grossi benefici, in termini di tempo e quantità di contenuti, utilizzando strumenti di AI per redigere i testi dei blog, delle pagine web, della documentazione, dell’e-mail e altro ancora. Inoltre, le soluzioni di AI generativa sono in grado di produrre testi e immagini fortemente personalizzate e in tempo reale, in base a quando, dove e a chi deve essere erogato l’annuncio. Inoltre, può alimentare le chatbots e gli agent virtuali per fornire risposte personalizzate e, persino, avviare attività per conto del cliente. Tutto ciò rappresenta un avanzamento significativo rispetto alla precedente generazione di modelli di AI conversazionali formati su dati limitati e sfruttati per attività molto specifiche.
• Sviluppo software e aggiornamento delle applicazioni: Gli strumenti per la generazione del codice basati sull’AI generativa sono in grado di automatizzare e accelerare il processo di scrittura di nuovo codice. Questa caratteristica può essere sfruttata anche per accelerare drasticamente l’aggiornamento delle applicazioni, perché consentirebbe di automatizzare gran parte della codifica ripetitiva necessaria per rinnovare le applicazioni legacy e distribuire in ambienti di cloud ibrido.
• Attività digitale: L’AI generativa è in grado di redigere o rivedere rapidamente contratti, fatture, bollette e altri documenti digitali, in modo tale che i dipendenti, che la utilizzano o la gestiscono, possano concentrarsi su attività di concetto.
• Scienza, ingegneria e ricerca: I modelli di AI possono aiutare i ricercatori e gli ingegneri a proporre nuove soluzioni per problemi complessi. Nel settore sanitario, ad esempio, i modelli generativi possono essere applicati per sintetizzare le nuove molecole o migliorare la lettura delle immagini degli esami.

Nel prossimo articolo della serie, approfondiremo un aspetto cruciale della Generative AI: la sicurezza e la protezione. Esploreremo le sfide, i rischi e le migliori pratiche per implementare soluzioni di GenAI in modo sicuro e responsabile, analizzando i protocolli di sicurezza e le strategie di protezione necessarie per un utilizzo consapevole di questa potente tecnologia. Per approfondire queste tematiche è possibile scaricare gratuitamente il white paper completo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Note bibliografiche

[1] AA.VV., The state of AI in 2023: Generative AI’s breakout year, https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-in-2023-generative-ais-breakout-year, McKinsey, 2023

[2] Gartner Says More Than 80% of Enterprises Will Have Used Generative AI APIs or Deployed Generative AI-Enabled Applications by 2026, https://www.gartner.com/en/newsroom/press-releases/2023-10-11-gartner-says-more-than-80-percent-of-enterprises-will-have-used-generative-ai-apis-or-deployed-generative-ai-enabled-applications-by-2026, Gartner, 2024

[3] AA.VV., Generative Adversarial Networks, https://arxiv.org/abs/1406.2661, Universite de Montreal, 2014

[4] AA.VV., Attention Is All You Need, https://arxiv.org/abs/1706.03762, Google, 2017

[5] Foundation model: Nell’ambito dell’Intelligenza Artificiale, il termine modello identifica un insieme strutturato di algoritmi e parametri che permettono di eseguire specifici compiti di apprendimento automatico. I modelli sono addestrati tramite l’analisi e l’elaborazione di dati, al fine di identificare e apprendere schemi o relazioni tra di essi.

Un foundation model rappresenta un tipo specifico e avanzato di modello di Intelligenza Artificiale. Mentre i modelli generici sono progettati e addestrati per svolgere compiti specifici e ben definiti e possono essere addestrati su set di dati di dimensioni variabili, a seconda del compito che dovranno svolgere; i foundation models, invece, sono addestrati su enormi quantità di dati e con moltissimi parametri. Ciò permette loro di svolgere una varietà di compiti più ampia rispetto ai modelli tradizionali.

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

https://www.ictsecuritymagazine.com/articoli/generative-ai/