Ferrovie, l’IA potrebbe sbloccare già oggi fino a 22 miliardi di dollari di valore a livello mondiale

Quale l’impatto dell’intelligenza artificiale (IA) sui trasporti ferroviari su scala globale? La risposta l’ha data il nuovo Rapporto dal titolo “A Journey to Building AI-enabled Railway Companies”, pubblicato dall’Unione Internazionale delle Ferrovie (UIC) in collaborazione con McKinsey.

Secondo lo studio, ci sono più di 100 potenziali casi d’uso di IA per il trasporto ferroviario, ma le aziende del settore si sono concentrate su circa 20 casi, quelli che mirano a valorizzare quattro KPI: puntualità, coinvolgimento dei clienti, sicurezza e prestazioni operative.

Un KPI (indicatore chiave di prestazione) è un valore misurabile che dimostra l’efficacia con cui un’azienda sta raggiungendo gli obiettivi.

È inoltre emerso che circa il 25% delle aziende ha implementato più casi d’uso su larga scala e il 35% delle aziende solo uno o due, mentre altri casi d’uso sono in fase pilota. Ciò dimostra che esiste un potenziale significativo per le applicazioni dell’intelligenza artificiale e, con il tempo, è probabile che l’adozione aumenterà nel mondo dei trasporti su ferro.

Per le imprese ferroviarie, i casi d’uso più maturi si concentrano sulla pianificazione dei turni e sulla manutenzione predittiva del materiale rotabile, mentre altri includono l’efficienza energetica, la programmazione dei servizi, i treni autonomi e la gestione delle interruzioni in tempo reale.

Per quanto riguarda la gestione dell’infrastruttura, le aziende sembrano concentrarsi sulla manutenzione predittiva della rete ferroviaria, ma anche sulla pianificazione della capacità, sulla gestione del traffico in tempo reale, sulla gestione dell’inventario, sino ai copiloti di manutenzione e ai gemelli digitali dell’infrastruttura di rete.

L’utilizzo dell’IA in questo settore industriale potrebbe sbloccare tra 13 e 22 miliardi di dollari all’anno di valore per le imprese di settore a livello mondiale.

Un impatto economico e finanziario che è riscontrabile in un aumento dei ricavi, nell’ottimizzazione dei costi e nella maggiore capacità dell’infrastrutture nel suo complesso.

https://www.key4biz.it/ferrovie-lia-potrebbe-sbloccare-gia-oggi-fino-a-22-miliardi-di-dollari-di-valore-a-livello-mondiale/481966/




Del Fante: “Nelle Poste 1.500 totem con AI come uffici del turismo”

Presentato oggi all’Ufficio Postale di piazza San Silvestro a Roma alla presenza del Ministro dell’Interno, Matteo Piantedosi, della Presidente di Poste Italiane, Silvia Maria Rovere, dell’Amministratore Delegato di Poste Italiane, Matteo Del Fante, e del Direttore Generale, Giuseppe Lasco, il progetto Polis di Poste Italiane.

“Al Ministro dell’Interno va il ringraziamento di Poste Italiane per la collaborazione che ci ha permesso di ottenere un obiettivo così importante nel quadro del progetto – ha dichiarato l’Amministratore Delegato Matteo Del Fante – Polis procede rispettando con puntualità la tabella di marcia e suscita grande interesse anche in Europa per il suo valore inclusivo e per la capacità di offrire servizi essenziali al cittadino che risiede in piccoli Comuni, mettendolo al pari di chi vive nelle grandi città ed ha facile accesso agli uffici e ai servizi, grazie all’idea innovativa di ufficio postale che funge da sportello unico della pubblica amministrazione”.

“Negli stessi uffici postali dei piccoli Comuni sotto 15mila abitanti”, ha aggiunto Del Fante, “stiamo attivando totem dotati di intelligenza artificiale: in grado di dare informazioni sul territorio comunale: da cosa visitare a dove è possibile parcheggiare”.

https://www.key4biz.it/del-fante-nelle-poste-1-500-totem-con-ai-come-uffici-del-turismo/481951/




Apple rivede i piani, niente auto elettrica meglio l’IA

Auto elettrica a guida autonoma Apple, cancellata o rinviata?

Addio, o forse arrivederci al progetto Titan della Apple. Dopo un decennio almeno di grandi annunci, salti in avanti e passi indietro, sembra che stavolta Cupertino abbia messo una grande pietra sopra il progetto di veicoli elettrici a guida autonoma marchiati con la mela.

Bloomberg News ha riportato che la decisione di fermare i lavori sul progetto Titan è stata annunciata dal COO Apple, Jeff Williams, e dal vicepresidente responsabile del progetto stesso, Kevin Lynch, durante una riunione interna.

Intanto 2mila dipendenti sono stati spostati su progetti IA e machine learning

Centinaia di dipendenti (circa 2.000) saranno spostati in altri reparti, soprattutto quelli dedicati allo sviluppo dell’intelligenza artificiale (IA) e soluzioni di machine learning. Dal 2017 ad oggi Apple ha acquisito oltre 20 startup specializzate in queste tecnologie.

Non si sa se sia uno stop definitivo all’auto elettrica a guida autonoma Apple o un rinvio. A gennaio, sempre secondo Bloomberg, si parlava di un rinvio del progetto dal 2026 al 2028, con possibile ribasso del prezzo di vendita sul mercato dei veicoli da 120 mila a 100 mila dollari.

Grandi investimenti, margini bassi

Progettare, sviluppare e realizzare questo tipo di automobili ad alto contenuto tecnologico, come quelli immaginati a Cupertino, non è una cosa semplice e soprattutto richiede grandi investimenti.

La Big Tech americana è abituata ad elevati livelli di redditività nei settori economici di competenza, quello dei veicoli elettrici è un mercato che non regala gli stessi risultati, se non nel lungo termine. L’industria automobilistica, in generale, offre margini bassi a fronte di un’elevatissima concorrenza.

L’ironia di Elon Musk

Il CEO di Tesla, Elon Musk, ha postato sul social X la notizia, ovviamente a modo suo commentando la scelta Apple.

https://www.key4biz.it/apple-rivede-i-piani-niente-auto-elettrica-meglio-lia/481603/




MWC24. Arriva il barista ‘on demand’, caffetteria mobile con IA e IoT

Un barista on demand al Mobile World Congress 2024

Una caffetteria mobile a guida autonoma che offrirà caffè e altre bevande al pubblico tramite un avatar generato dall’intelligenza artificiale (IA), al Mobile World Congress di Barcellona arriva “Barista on demand”, modello avanzato di esercizio “shop-to-consumer”.

L’avatar avrà il volto del coffee expert Andrea Lattuada.

Tutti i consumatori interessati al servizio dovranno solo scaricarsi un’applicazione sul proprio smartphone, poi basterà ordinare il proprio caffè, che arriverà direttamente in ufficio, al negozio o qualsiasi altro posto di lavoro o di studio.

“Siamo felici di portare al MWC una nuova soluzione, ad alto contenuto tecnologico, frutto di intense attività di ricerca e innovazione del gruppo Rhea, che hanno permesso di coniugare mobilità sostenibile, guida autonoma, IA e soluzioni di internet of things, per offrire la pubblico dei consumatori una coffee experience all’avanguardia nel panorama mondiale”, ha spiegato Andrea Pozzolini, CEO di Rhea.

Design italiano, automazione cinese

Barista on demand è frutto della manifattura e del design italiani di Rhea Vendors Group e della robotica cinese applicata al settore delivery di Neolix.

La coffee station è in demo presso Journey to the Future, l’area high-tech del Mobile World Congress (Hall 6, stand 6A20) in cui sono messe in mostra le migliori innovazioni tecnologico applicate a diversi settori industriali ed economici.

La sua prima presentazione pubblica in Cina è avvenuta lo scorso novembre alla China International Import Expo, come esempio di distribuzione automatica di bevande, soprattutto di caffè italiano, su veicoli della mobilità autonoma ed elettrica (con batterie ricaricate tramite fonti energetiche pulite e rinnovabili).

https://www.key4biz.it/mwc24-arriva-il-barista-on-demand-un-caffe-un-po-ia-e-iot/481366/




Cresce il mercato italiano della cybersecurity, ma l’Italia è ancora all’ultimo posto per investimenti


Con l’aumento degli attacchi informatici in tutto il mondo, le imprese hanno cominciato a investire sulla cybersecurity per proteggersi dalle nuove minacce. Secondo l’ultima ricerca dell’Osservatorio Cybersecurity & Data Protection della School of Management del Politecnico di Milano, anche in Italia continua a crescere l’interesse per la sicurezza: il mercato italiano della cybersecurity ha raggiunto i record di 2,15 miliardi di euro, 16% in più rispetto al 2022.

Sono soprattutto le grandi aziende ad aver aumentato la spesa in cybersecurity: il 62% ha incrementato gli investimenti nell’ultimo anno, e l’81% ha definito un piano di sviluppo strutturato con strategia di lungo periodo. L’incremento è trainato principalmente dall’inserimento di nuovi strumenti (68%), dalla maggior attenzione dedicata ai board aziendali (62%) e dalla necessità di azioni di adeguamento normativo (43%).

Le aziende più piccole, seppur interessate a migliorare la propria sicurezza, faticano a tramutare questo desiderio in investimenti concreti a causa delle risorse limitate e all’assenza di un’offerta di mercato che risponda alle loro esigenze.

Il rapporto tra spesa in sicurezza informatica e PIL si attesta allo 0,12%, in crescita rispetto allo 0,1% del 2022. Nonostante gli investimenti, l’Italia si trova ancora all’ultimo posto nel G7 in termini di spesa in cybersecurity, a grande distanza da Stati Uniti (0,34%) e Regno Unito (0,29%), primi in classifica.

Pixabay

“Il continuo aumento degli attacchi informatici e l’evoluzione del contesto hanno generato una progressiva presa di coscienza sulla necessità di investire in sicurezza informatica da parte delle organizzazioni, specialmente quelle più strutturate” spiega Gabriele Faggioli, Responsabile Scientifico dell’Osservatorio Cybersecurity & Data Protection. “Per ridurre il divario ancora presente tra l’Italia e gli altri Paesi, però, è necessario un corretto bilanciamento tra investimenti tecnologici e capitale umano. Da un lato, è essenziale cogliere il potenziale delle tecnologie, in primis quelle più innovative come l’intelligenza artificiale. Dall’altro, non va sottovalutata la componente umana, insistendo sulla formazione e sensibilizzazione dei lavoratori, con l’obiettivo di creare una mentalità security-first che rappresenti la prima forma di difesa anziché l’elemento più debole della catena“.

Gli attacchi più diffusi

In Italia la maggior parte degli attacchi è riconducibile al cybercrime, anche se il 30% di essi è legato ad azioni di hacktivism che stanno assumendo crescente rilevanza in tutto il mondo.

Per quanto riguarda le tecniche di attacco, nel nostro Paese gravano gli incidenti di social engineering, molto più che a livello globale (14% contro l’8,6%). In aumento anche gli attacchi di tipo supply chain che si propagano tra fornitori e clienti .

A preoccupare è anche il legame sempre più stretto tra gli attacchi e le tecnologie di IA, usate soprattutto per creare campagne di social engineering su larga scala, sviluppare deepfake per campagne di disinformazione e trovare vulnerabilità software più velocemente.

Nel mercato italiano di cybersecurity non c’è (ancora) spazio per l’IA

L’intelligenza artificiale può diventare un alleato importante per la protezione delle aziende, ma il mercato italiano di cybersecurity è ancora in uno stato precoce in tal senso: nonostante il 56% delle imprese abbia introdotto strumenti di IA in ambito sicurezza, solo il 22% di esse li usa in maniera estesa.

Le soluzioni impiegato mirano principalmente a individuare anomalie che di discostano da pattern comportamentali tipici (73%), identificare nuove potenziali minacce e vulnerabilità zero-day (70%) e analizzare correlazioni tra eventi per agire in modo preventivo (70%).

Sarà necessario un periodo di transizione affinché le imprese adottino questi strumenti innovativi e aggiornino le soluzioni tradizionali; in questo caso, un aiuto può arrivare dalle startup: nel mondo ce ne sono 167 che stanno sviluppando soluzioni di cybersecurity basate su IA. Anche in Italia ci sono realtà che stanno lavorando in questa direzione, anche se finora hanno raccolto pochi finanziamenti.

“Nell’ambito della cybersecurity, l’intelligenza artificiale può essere sia un’arma nelle mani dei cybercriminali, che uno strumento di difesa per le aziende” dice Alessandro Piva, Direttore dell’Osservatorio Cybersecurity & Data Protection. “Da un lato emerge un legame sempre più stretto tra attacchi informatici e tecnologie che sfruttano algoritmi di Artificial Intelligence, in particolare AI generativa, con cui le minacce possono essere industrializzate e rese più efficaci. Dall’altra parte l’Intelligenza Artificiale può essere usata dalle aziende per aumentare il proprio livello di sicurezza. Il 56% delle organizzazioni ne sfrutta le potenzialità per incrementare la protezione del patrimonio informativo risultando essenziale per contrastare la crescita costante delle minacce informatiche”.

Pixabay

L’importanza della formazione

Tra le priorità in ambito cybersecurity c’è la formazione aziendale: il 71% delle grandi imprese sta lavorando per sensibilizzare i dipendenti alla sicurezza e sviluppare una cultura in ambito cyber.

Il 77% delle aziende prevede già iniziative volte ad accrescere la competenza in materia, con piani di formazione che coinvolgono i propri dipendenti. Al contempo, le imprese italiane stanno cercando di rendere più robusti i team di cybersecurity, anche coinvolgendo figure esterne: nell’ultimo anno è aumentato sia il numero di specialisti interni (51%) che di consulenti esterni (45%).

Le sfide, però, non mancano, e non solo in Italia: oltre a una mancanza strutturale di competenze nell’uso di strumenti tecnologici in generale, c’è un forte gap di skill nel mondo della cybersecurity che evidenzia un bisogno di circa 300.000 specialisti a livello europeo.

È necessario rimanere al passo con l’evoluzione delle minacce e questo può essere fatto, oltre che con maggiori investimenti in sistemi di sicurezza, anche con la definizione di piani di studio e corsi per la formazione di nuovi tecnici e specialisti di cybersecurity.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/02/23/cresce-il-mercato-italiano-della-cybersecurity-ma-litalia-e-ancora-allultimo-posto-per-investimenti/?utm_source=rss&utm_medium=rss&utm_campaign=cresce-il-mercato-italiano-della-cybersecurity-ma-litalia-e-ancora-allultimo-posto-per-investimenti




Ufficio Ue per l’IA, favorirà l’immissione sul mercato interno e l’uso dei sistemi di intelligenza artificiale

L’Europa accelera sull’adozione dell’IA a livello comunitario

Prende vita il nuovo ufficio dell’Unione europea che raccoglierà tutte le competenze generali in materia di intelligenza artificiale (IA), con diversi compiti e funzioni di base, tra cui il supporto tecnico, legale, amministrativo e giuridico all’attuazione della legge europea sull’IA, promuovendo una tecnologia che risulti accessibile, affidabile e sicura, anche a livello di cooperazione internazionale.

L’ufficio in questione è istituito all’interno della Commissione europea, con più responsabilità oltre l’attuazione dell’AI Act, ad esempio aiuto e consulenza per i singoli Stati membri nello sviluppo di soluzioni conformi al regolamento, o nell’applicazione delle soluzioni di IA per scopi generali, ma anche richiedere informazioni e documenti ai fornitori dei vari modelli.

Dovrà inoltre sviluppare strumenti, metodologie e benchmark per valutare la capacità e la portata dei modelli di IA adottati, evidenziando e classificando anche i possibili rischi, ed elaborare codici di condotta per definire regole chiare ed efficaci assieme alla comunità degli sviluppatori e alla comunità scientifica nel suo insieme.

Non ultimo, l’ufficio europeo per l’IA dovrà indagare su ogni possibile tipo di violazione del regolamento generale, compreso il compito di valutare le capacità dei modelli ed eventuali richieste di intervento ai fornitori.

Dalle competenze alle opportunità di lavoro

A livello istituzionale, l’unità lavorerà a stretto contatto con il Comitato europeo per l’intelligenza artificiale, formato da rappresentanti degli Stati membri, e con il Centro europeo per la trasparenza algoritmica (ECAT) della Commissione.

Per lo sviluppo dell’intelligenza artificiale è inoltre fondamentale offrire livelli di consulenza scientifica e tecnologica adeguati alla sfida, quindi dalle best practice ai sandbox, dai test nel mondo reale al supporto per lo sviluppo di progetti di adozione dell’IA, fino ai programmi di formazione per l’acquisizione delle necessarie competenze.

La nascita di questo ufficio significherà, infine, anche nuove opportunità di lavoro. La ricerca di figure professionali inizierà nelle prossime settimane, sia tecniche, sia legali o di carattere amministrativo.

Per mettersi in contatto con l’Ufficio europeo epr l’IA la Commissione europea segnala i seguenti canali: CNECT-AIOFFICE@ec.europa.eu per domande generali e CNECT-AIOFFICE-RECRUITMENT@ec.europa.eu per domande relative a opportunità di lavoro.

https://www.key4biz.it/ufficio-ue-per-lia-favorira-limmissione-sul-mercato-interno-e-luso-dei-sistemi-di-intelligenza-artificiale/481185/




IA e machine learning per ottimizzare il cloud. Intervista a Daniele Migliorini (Aruba) e Carlo Vallati (Università di Pisa)

Il tema dell’efficienza energetica sta diventando sempre più importante e determinante nella progettazione di qualsiasi servizio, per ovvie ragioni economiche ed ambientali, oltre che per l’attenzione al tema delle normative di riferimento, prima su tutte la EED – Energy Efficiency Directive – della Commissione europea.

Nasce da questo l’accordo quadro, di durata biennale, che coinvolge il Gruppo Aruba ed il Dipartimento di Ingegneria dell’Informazione dell’Università di Pisa per realizzare un progetto sperimentale di machine learning e artificial intelligence (AI) applicato al cloud computing. Ne abbiamo parlato con Daniele Migliorini, Head of Engineering di Aruba, e Carlo Vallati, docente di Ingegneria informatica all’Università di Pisa.

Key4biz. Nei giorni scorsi il Gruppo Aruba e il Dipartimento di Ingegneria dell’Informazione dell’Università degli Studi di Pisa hanno siglato un accordo di collaborazione di durata biennale in merito ad un progetto sperimentale di machine learning e AI applicata al cloud computing. Ce ne può parlare?

Daniele Migliorini

Daniele Migliorini (Aruba). “L’accordo prevede la possibilità di attivare diversi progetti sperimentali, il primo dei quali riguarda lo sviluppo di sistemi predittivi in ambienti cloud volti ad ottimizzare prestazioni e consumo energetico. L’obiettivo è sviluppare una soluzione integrata per la gestione dei carichi su piattaforme cloud, basata sulla predizione delle risorse utilizzate dai carichi di lavoro. Questa previsione utilizzerà l’analisi di dati storici per garantire il livello di servizio richiesto, ottimizzando il consumo energetico dell’hardware.”

Key4biz. Quali sono gli obiettivi che il progetto si prefigge di raggiungere e quali i benefici e i vantaggi che questo rappresenta per il mondo delle aziende?

Daniele Migliorini (Aruba). In termini di benefici azienda-cliente, questo ci consente di minimizzare costi e sapere che l’azienda che sta erogando i servizi ha attenzione per l’efficientamento energetico (green). In questo modo, il tutto si traduce in costi più bassi.
L’iniziativa, inoltre, permette all’azienda di esplorare come usare l’AI, non come servizio fine a sé stesso, ma come strumento di supporto ad altri servizi. L’AI diventa quindi un abilitatore, ad esempio per migliorare l’efficienza del cloud, o per gestire il raffreddamento di un’infra etc.. Una soluzione che complessivamente permette di ottimizzare varie aree.

Key4biz. Perché è così importante l’efficienza energetica delle architetture cloud? E che rapporto c’è con la direttiva sull’efficienza energetica della Commissione europea?

Daniele Migliorini (Aruba). In generale, il settore del cloud è in grande crescita con grande incidenza in tutti i settori e allo stesso tempo è energivoro. È quindi essenziale sia pensare in ottica di riduzione dei consumi che di rafforzamento delle infrastrutture, per raggiungere un livello di maggiore resilienza.
Il cloud è un canale per efficientare non solo l’energia ma anche il costo dell’infra e tutto l’ecosistema. Con questo progetto infatti stiamo provando ad efficientare ulteriormente l’architettura.
La sostenibilità è un tema fondamentale per il cloud quale prodotto innovativo e di minor impatto ambientale. La virtualizzazione delle risorse computazionali che è alla base del cloud computing, infatti, consente una riduzione dell’impiego dei server, e – di conseguenza – una riduzione delle emissioni o, nel caso dell’utilizzo di energia pulita, un risparmio di risorse naturali.
L’EED pone degli obiettivi come ad es. un range del PUE, WUE ed energia pulita, per i quali Aruba già in linea con gli obiettivi a giugno 2023. Questo progetto ci consente di migliorare ulteriormente le prestazioni e anticipare eventualmente ulteriori target più alti che potrebbero arrivare dalla Commissione europea.

Key4biz. Quanto contano le sinergie ben riuscite tra mondo delle imprese e della ricerca universitaria nell’accelerare la trasformazione digitale in corso?

Daniele Migliorini (Aruba). Sicuramente l’università ha delle competenze e specificità verso cui le aziende continuano a puntare. L’università riesce ad essere molto ‘deep’ es. data scientist, profili altamente specializzati e in questi casi per le aziende le sinergie sono necessarie ed essenziali; permette di affrontare temi e progetti che per un’azienda allungherebbe ad es. tempi, si dovrebbe strutturare ad hoc.
Ad es. in questo caso, la richiesta di sviluppo di algoritmi specifici… è un’attività tipica di ricerca, per cui è un’attività tipica, un approccio che solo le Università possono davvero avere e seguire.

###

Key4biz. Partendo dall’accordo con Aruba, che tipo di impatto avranno tecnologie come l’IA o il machine learning nel futuro del cloud nazionale ed europeo?

Carlo Vallati

Carlo Vallati (Università di Pisa). A livello di comunità europea c’è una forte spinta a favorire lo sviluppo di nuovi servizi basati su AI e ML realizzati in infrastrutture cloud europee. L’obiettivo è quello di permettere la valorizzazione dei dati senza doverli condividere in maniera incontrollata, regolamentando in maniera stretta come i dati possono essere usati e trattati.
In questo contesto, la ricerca svolta nell’ambito dell’accordo ARUBA-DII mira a migliorare l’efficienza delle piattaforme cloud europee, riducendo il consumo energetico e migliorandone le prestazioni. Realizzare un’infrastruttura più performante ed efficiente è un fattore cruciale che permetterà di realizzare soluzioni IA e ML ancora più complesse, garantendone la sostenibilità in termini energetici.

Key4biz. Questo tipo di collaborazione può esser considerata un modello a livello nazionale? Far dialogare e lavorare assieme ricercatori universitari e imprese, magari con il supporto delle istituzioni, in che modo contribuisce a innovare, a far crescere le competenze e a rafforzare la capacità di competere sui mercati internazionali?

Carlo Vallati (Università di Pisa). Superare il gap tra ricerca e impresa è un fattore cruciale per il nostro paese per intraprendere la strada della digitalizzazione. Spesso infatti in Italia le soluzioni provenienti dal mondo accademico restano in accademia, sia perché i due mondi, quello universitario e quello industriale, si parlano poco, sia perché le esigenze delle imprese spesso richiedono un approccio interdisciplinare, e un interlocutore quindi in grado di declinarle mettendo a disposizione diverse competenze.
Il Dipartimento di Ingegneria dell’Informazione dell’Università di Pisa ha fatto del superamento di questo gap la propria mission, prevedendo al proprio interno cinque laboratori interdisciplinari e aperti alle imprese, chiamati Crosslab, in cui il Dipartimento mette personale e tecnologie a disposizione delle realtà impegnate in processi di innovazione digitale.
La ricerca nei Crosslab è interamente dedicata alle tecnologie abilitanti per la rivoluzione del 4.0, e immediatamente a disposizione del mondo industriale. Concentrando in un unico luogo fisico un numero elevato di attrezzature digitali di avanguardia e sfruttando le conoscenze create dalle attività di ricerca del Dipartimento di Ingegneria dell’Informazione in tutti i settori dell’ICT, I CrossLab rappresentano uno dei luoghi più avanzati sulla digitalizzazione nel panorama nazionale e internazionale e costituiscono, per le molte  imprese con cui collaborano, un’occasione unica per avere accesso agli strumenti e alla conoscenza necessarie per la loro trasformazione digitale.

https://www.key4biz.it/ia-e-machine-learning-per-ottimizzare-il-cloud-intervista-a-daniele-migliorini-aruba-e-carlo-vallati-universita-di-pisa/480811/




Chatbot e IA ruberanno il 25% del traffico ai motori di ricerca entro il 2026

L’IA per cercare risposte e notizie

L’intelligenza artificiale (IA), i chatbot e altri agenti virtuali di assistenza all’utente di rete stanno progressivamente sostituendo il lavoro dei motori di ricerca. Questi servizi, infatti, se ben interrogati, offrono risposte che possono quasi sempre sostituire le query generate dai tradizionali motori di ricerca.

Secondo un nuovo report pubblicato da Gartner, si stima che entro il 2026 il volume di utilizzo dei motori di ricerca diminuirà del 25%.

Il dato comporterà dei cambiamenti profondi nel rapporto tra utenti e web. Le società di marketing e comunicazione stanno già ripensando le proprie strategie sui canali di marketing tradizionali, perché l’IA si sta ormai integrando sempre più velocemente in tutta l’organizzazione.

Certo, la qualità e la funzionalità dei contenuti generati dall’IA saranno fondamentali per creare una gerarchia delle risposte nei risultati di ricerca (d’altronde, il volume di contenuti prodotti dall’IA generativa è e sarà sempre più vasto).

Ovviamente, si inizia a porre in maniera chiara ed evidente a tutti che la proliferazione incontrollata di questi contenuti “made in AI” è un problema di non poco conto, su cui si deve intervenire.

Sostituire completamente i motori di ricerca con l’IA? Vantaggi e sfide

L’idea di sostituire completamente i motori di ricerca con l’IA non solo è possibile, nel tempo, ma potrebbe da un lato offrire crescente vantaggi e allo stesso tempo però comportare delle sfide rilevanti:

Vantaggi:

  1. Personalizzazione avanzata: ‘IA potrebbe offrire risultati di ricerca ancora più personalizzati, adattandosi alle esigenze e ai comportamenti individuali degli utenti.
  2. Comprensione del linguaggio naturale: Gli algoritmi di IA potrebbero essere in grado di comprendere meglio le query complesse e ambigue, migliorando la precisione dei risultati di ricerca.
  3. Approccio più dinamico: ‘IA potrebbe essere in grado di adattarsi rapidamente ai cambiamenti nelle preferenze degli utenti e nelle tendenze di ricerca, offrendo risultati più rilevanti nel tempo.
  4. Integrazione con altre tecnologie emergenti: ‘IA potrebbe essere integrata con tecnologie emergenti come la realtà aumentata e la realtà virtuale per offrire esperienze di ricerca più immersive e interattive.

Sfide:

  1. Bias algoritmici: l’IA potrebbe introdurre nuovi rischi legati al bias algoritmico, con il potenziale di perpetuare pregiudizi o discriminazioni presenti nei dati utilizzati per il training.
  2. Controllo e trasparenza: spostare il controllo dei risultati di ricerca completamente nelle mani dell’IA potrebbe sollevare preoccupazioni riguardo alla trasparenza e alla responsabilità delle decisioni algoritmiche.
  3. Protezione della privacy: l’elaborazione delle query di ricerca da parte di sistemi di IA potrebbe sollevare preoccupazioni sulla protezione della privacy degli utenti e sull’uso dei loro dati personali.

Il watermarking per distinguere i contenuti creati dall’uomo da quelli creati dall’IA

Uno degli svantaggi dell’adozione di questa tecnologia, infatti, è che sta diventando sempre più difficile differenziare i contenuti generati dall’uomo dai quelli sintetici generati dall’intelligenza artificiale, consentendo potenzialmente condotte illegali e dannose.

Governi e autorità regolatorie di tutto il mondo stanno quindi riflettendo su come progettare e implementare tecniche di “watermarking” per garantire un ambiente artificiale affidabile.

La Cina ha già adottato misure per vietare le immagini generate da ogni IA senza autenticazione, mentre l’amministrazione statunitense è stata incaricata di sviluppare meccanismi efficaci di etichettatura e identificazione della provenienza dei contenuti in modo che gli utenti finali siano in grado di determinare quando il contenuto viene generato utilizzando l’IA e quando no.

La stessa cosa è stata fatta in sede di G7 e dall’Unione europea con l’AI Act, con l’obiettivo di sviluppare sistemi di tracciamento di ogni contenuto generato artificialmente.

È un diritto del consumatore, non un rifiuto della tecnologia.

https://www.key4biz.it/chatbot-e-ia-ruberanno-il-25-del-traffico-ai-motori-di-ricerca-entro-il-2026/480729/




Useremo l’IA generativa sempre più nei messaggi. Investimenti in crescita del +1.250% entro il 2028

IA generativa per messaggi di testo mobile, il Report

L’intelligenza artificiale (IA) generativa viene impiegata in maniera crescente anche per produrre messaggi di testo da inviare con il proprio smartphone o altri device mobili.

Secondo un nuovo Report di Juniper Research, entro quest’anno le imprese investiranno in automazione e personalizzazione dei contenuti di testo circa 830 milioni di dollari a livello mondiale.

Entro il 2028 la spesa in soluzioni di IA generativa per messaggi di testo di rete mobile è stimata raggiungere gli 11 miliardi di dollari di valore, con un incremento del +1.250% in soli quattro anni.

I driver di questo segmento di mercato tecnologico saranno l’automazione della messaggistica, la personalizzazione dei messaggi, le azioni di marketing e le interazioni con i clienti, soprattutto tramite chatbot e Rich communications services (Rcs).

Il 40% della spesa in soluzioni Rcs

Questo tipo di IA è fondamentale per arricchire l’esperienza utente e per massimizzare le strategie omnichannel delle aziende.

Lo studio stima che entro i prossimi quattro anni gli investimenti in soluzioni Rcs rappresenteranno il 40% della spesa totale in IA generativa applicata alla messaggistica mobile, proprio per valorizzare i contenuti multimediali e unificare il campo della user experience.

Soluzioni tecnologiche che saranno integrate sempre più massicciamente nelle strategie di marketing delle aziende con l’obiettivo di accorciare i tempi di ritorno degli investimenti

https://www.key4biz.it/useremo-lia-generativa-sempre-piu-nei-messaggi-investimenti-in-crescita-del-1-250-entro-il-2028/480466/




Considerazioni su Modelli di Intelligenza Artificiale Generativa

Nell’ultimo anno siamo tutti rimasti sorpresi dall’avvento dei modelli di Intelligenza Artificiale (IA) Generativa, a partire dal famosissimo ChatGPT (ovvero GPT-3 e GPT-4).

L’impressione è che stiamo vivendo una rivoluzione non solo informatica ma per la vita di tutti noi che potrebbe trasformare in modo inaspettato, e al momento imprevedibile, la società umana. Pertanto in questo articolo vengono proposti alcuni temi e osservazioni su quanto realmente sta accadendo, cercando di fornire degli spunti al lettore per delle riflessioni più approfondite.

Informatica e “UI”

Sin dalla nascita dell’informatica, uno dei principali problemi è quello della “User Interface” (UI) ovvero di come noi umani possiamo interagire con i programmi in esecuzione sugli elaboratori. Inizialmente si preparavano delle schede perforate che traducevano in un linguaggio più facile da interpretare per la macchina i codici scritti in linguaggi di programmazione già molto tecnici (e a cui bisognava essere iniziati), e si ottenevano i risultati dell’elaborazione su stampe cartacee.

Ma, sin dalla nascita della fantascienza, gli elaboratori vedono, leggono, ascoltano, scrivono e disegnano (su carta e su video) e parlano. Nel tempo sviluppano anche altri sensi umani e sovra-umani, ad esempio diventando androidi. Siamo di fronte a una dicotomia: da una parte la realtà con un’interfaccia tecnica, difficile da capire e utilizzare ancora oggi, dall’altra il nostro desiderio di poter interagire con gli elaboratori al nostro livello e nelle stesse modalità con cui interagiamo tra esseri umani. Come esempio di questa, in fondo, frustrazione, anche di recente mi è capitato di interagire con un ChatBot con un numero limitato di possibili risposte e che, dopo pochi scambi di messaggi, ha continuato a rispondermi con un messaggio di saluto.

Ma cosa è realmente successo negli ultimi anni?

Ci siamo abituati dapprima ai siti di Ricerca di informazioni e di Traduzione di testi, ai Navigatori per le indicazioni stradali, agli Assistenti digitali e alla fine del 2022 è arrivato ChatGPT che ci ha travolti tutti.

La differenza principale di ChatGPT rispetto al passato è che per la prima volta abbiamo potuto interloquire per iscritto con un elaboratore come se fosse una persona. A prima vista, domande e risposte sembrano quelle scambiate tra due esseri umani. E i programmi di IA Generativa, o “assistenti generativi”, non sono solo in grado di rispondere a domande su quasi qualsiasi argomento, ma anche di generare testi, disegni, immagini, codice per programmi di elaboratore ecc.

Siamo finalmente arrivati a dotare gli elaboratori di una UI “umana”?

E’ molto difficile rispondere a questa domanda, ma bisogna sottolineare che una UI “umana” richiede non solo che l’elaboratore sia in grado di capire il nostro linguaggio (in qualunque lingua o modalità ci si esprima) ma anche avere cognizioni sufficienti per poter rispondere adeguatamente. Una UI “umana” richiede quindi non solo un’interfaccia opportuna, che può anche essere una banalissima Chat testuale, ma soprattutto conoscenze e la capacità di intendere quanto espresso dall’interlocutore umano per rispondere in maniera appropriata se non intelligente.

Per approfondire questo argomento, è necessario analizzare ad altissimo livello come funzionano i modelli IA Generativa attuali partendo dall’informatica a cui siamo abituati.

Dalla Fantascienza alla Realtà

Visto che abbiamo accennato a temi di fantascienza, si può qui fare riferimento al famoso romanzo di Robert A. Heinlein “The Moon Is a Harsh Mistress” in cui il co-protagonista è Mike (ufficialmente HOLMES IV, “High-Optional, Logical, Multi-Evaluating Supervisor, Mark IV“), un elaboratore divenuto senziente. È molto interessante analizzare le caratteristiche che Heinlein, nel 1966, assegna a Mike:

  1. capacità tecniche
    • enorme capacità di catalogazione e archiviazione di dati tutti reperibili quasi istantaneamente
    • elaborazione e correlazione in tempi brevissimi di grandi moli di dati
    • grandi capacità di elaborazioni parallele
    • possibilità di segregare dati per garantire la riservatezza anche rispetto alle proprie elaborazioni (concetto di “sandbox”)
  2. caratteristiche di elaborazione
    • raffinate deduzioni logiche da dati noti
    • valutazione estremamente precise di correlazioni tra dati e di probabilità di eventi su scenari estremamente complessi
    • capacità di riproduzione e imitazione di stili, persone ecc., e generazione di “nuovi” dati mescolando appropriatamente dati noti
  3. debolezze
    • mancanza di immaginazione
    • mancanza di inventiva
    • totale incomprensione di barzellette, scherzi, doppi sensi, allusioni
    • errori banali dovuti alla mancanza di dati specifici ma in cui difficilmente cadrebbe un uomo.

Come vedremo, la descrizione di Mike che Heinlein fece circa 60 anni fa ha molti punti in comune con un attuale sistema IA.

Alcuni concetti sull’Intelligenza Artificiale

Sicuramente l’informatica che oggi chiamiamo IA Generativa ha delle caratteristiche tecniche e operative decisamente diverse da quanto siamo abituati e che ci è stato insegnato in informatica sino a poco tempo fa. Per semplicità chiamiamo White Box l’approccio tradizionale in quanto possiamo descrivere il funzionamento di un sistema informatico con le seguenti caratteristiche principali:

  • Determinismo: ad ogni dato in ingresso corrisponde un dato prodotto predeterminato
  • Programmabilità esatta: le logiche e le operazioni che a partire da un dato in ingresso generano il corrispondente dato prodotto sono decise, disegnate e implementate esattamente dai programmatori
  • Simbolismo localizzato: ogni informazione è rappresentata da un corrispondente simbolo gestito e archiviato dal programma; è quindi possibile identificare ove una informazione è localizzata/archiviata e seguire esattamente le trasformazioni dei dati durante l’esecuzione del programma.

In altre parole, le informazioni sono codificate in simboli che sono processati esattamente come deciso dal programmatore. Tutto questo porta al concetto di White Box, ovvero perfetta conoscenza e controllo (a meno di errori di programmazione purtroppo presenti troppo spesso) di quanto avviene all’interno del sistema.

I più recenti modelli IA Generativi, tipicamente modelli Machine Learning (ML) e Reti Neurali Artificiali (ANN), si discostano notevolmente da questa descrizione. Il punto principale è che il programmatore disegna e implementa in codice solo l’architettura del modello IA. Ad esempio in un modello ANN il programmatore disegna e implementa il codice che ogni nodo di calcolo (rappresentante un neurone sintetico) esegue. Il codice è molto generico: tipicamente viene eseguita solo una operazione elementare, quale una somma pesata, sui dati in ingresso al nodo con dei coefficienti arbitrari, e questa operazione genera il dato in uscita dal nodo. Non c’è alcuna logica predeterminata che correli un dato in ingresso al programma al corrispondente dato in uscita dal programma ma solo la logica di calcolo di ognuno dei milioni (o miliardi) di nodi.

Inoltre il programmatore non sceglie il valore numerico dei coefficienti presenti nei calcoli, a cui vengono invece inizialmente assegnati valori casuali. È il processo di addestramento che seleziona i valori più appropriati dei coefficienti presenti nel codice. La matematica che descrive questi modelli è basata principalmente sul calcolo delle probabilità: ogni risultato che il modello fornisce è quello più probabile rispetto ai dati di addestramento utilizzati e all’architettura del modello stesso.

Un’altra importante osservazione è che in questi modelli il valore numerico dei coefficienti gioca un doppio ruolo: definisce le regole di calcolo e al contempo memorizza le informazioni. Quindi i coefficienti sono al contempo logica e memoria. Contrariamente ai programmi tradizionali, logica e memoria non possono essere distinti, sono intrinsecamente unificati.

È importante sottolineare il ruolo dell’architettura di un modello IA: le architetture dei primi modelli a reti neurali erano molto semplici, per lo più reticoli piani, anche perché gli elaboratori non avevano capacità di elaborazione sufficiente per implementare architetture più complesse. Ma dall’architettura del modello dipende la capacità di interpretare, memorizzare ed elaborare i dati. Ad esempio: architetture molto semplici sono in grado per lo più di gestire efficientemente dati con informazioni localizzate senza correlazioni tra dati distanti. Come esempio si consideri un modello IA con architettura “semplice” per la traduzione di testi, in questo caso la traduzione risulta essere fatta parola per parola senza tenere conto della frase in cui le parole sono poste.

“Transformer” è invece una delle architetture più recenti e più complesse alla base di molti dei modelli IA Generativi e delle loro capacità di analizzare in maniera sofisticata i dati in ingresso per poi memorizzarli e processarli. In altre parole, le capacità di apprendimento e “ragionamento” di un modello IA dipendono fortemente dalla sua architettura.

Riprendendo le caratteristiche principali elencate precedentemente per un sistema informatico tradizionale ma ora valutandole per un modello IA Generativo, otteniamo:

  • Probabilità (era Determinismo): ad ogni dato in ingresso corrisponde il dato prodotto più probabile rispetto ai dati di addestramento utilizzati e all’architettura del modello stesso
  • Opacità (era Programmabilità esatta): le logiche di elaborazione sono apprese dal modello stesso e non determinate dal programmatore; le logiche stesse non sono formalizzate ma codificate nei valori dei coefficienti distribuiti, il che le rende difficili da desumere e interpretare
  • Rappresentazione sub-simbolica distribuita e sparsa (era Simbolismo localizzato): ogni informazione non è rappresentata da simboli ma codificata nei valori dei coefficienti che sono distribuiti e sparsi (ovvero non localizzati); si noti che concetti come “controllo accessi al dato”, “cifratura applicativa dei dati”, “Bring Your Own Key (BYOK)” ecc. non sono implementabili in questo contesto all’interno di un modello IA.

In pratica questa è una rivoluzione Copernicana: i principali assunti informatici a cui siamo abituati non valgono più per i modelli IA più recenti.

Si potrebbe avere l’impressione di rischiare di perdere completamente il controllo di questi programmi, ma in realtà la situazione non è per nulla negativa, anzi come vediamo quotidianamente, funziona egregiamente. Ritornando alle caratteristiche di Mike di Heinlein, ogni giorno constatiamo che sono applicabili abbastanza bene ai più recenti modelli IA Generativi (ad eccezione di 1.4 sulla segregazione dei dati).

Ma per poter utilizzare al meglio questi strumenti, dobbiamo avere una diversa percezione di come funzionano e un nuovo approccio al loro utilizzo rispetto a quanto fatto sinora.

IA Generativa come una Black Box

L’approccio con cui si propone di considerare e valutare i più recenti modelli IA è più vicino ad una valutazione Black Box di un programma informatico che a un’analisi tradizionale. Si è nella situazione in cui si conoscono o si possono conoscere bene i dati in ingresso e quelli prodotti dal programma, ma si hanno poche informazioni su come i dati sono elaborati. Su questa Black Box ideale si può solo assumere ad alto livello che:

  1. l’elaborazione dei dati è fatta con tecniche probabilistiche
  2. i dati memorizzati e le logiche di elaborazione derivano dai dati utilizzati per l’addestramento del modello.

Si può quindi studiare questa Black Box ideale dall’esterno considerando prima cosa riceve in ingresso e poi cosa produce in uscita.

Dati in ingresso per addestramento

Come già descritto, i dati di addestramento insieme all’architettura del modello IA, costituiscono l’elemento principale e fondamentale del modello stesso. Semplificando si possono dividere i modelli in due classi: quelli in cui la fase di addestramento precede ed è distinta dalla fase di generazione, e quelli in cui addestramento e generazione avvengono contemporaneamente o in continua successione. Come sempre, la realtà è abbastanza più complessa, ma per i nostri scopi possiamo semplificare il modello teorico e semplicemente considerare le due fasi, addestramento e generazione, come indipendenti.

Il fatto è che quando i dati in ingresso sono utilizzati per addestrare il modello, questi modificano il modello stesso e vengono memorizzati. Descrivendo il modello IA come una Black Box, non si sa esattamente come i dati sono memorizzati nel modello, ma si può assumere sia che modifichino le logiche di elaborazione, quindi i dati “insegnano” qualche cosa al modello IA, sia che rimangano in memoria in maniera più o meno completa e integra.

Si aggiunga a ciò che per essere addestrati, i modelli IA Generativi richiedono enormi quantità di dati, appunto per essere in grado di sostenere una conversazione o generare dati in uscita di quasi qualsiasi tipo. In altre parole, questi modelli mirano ad avere una conoscenza generica, anche se non approfondita, dello scibile, della storia e delle informazioni umane.

Si deve allora fare estrema attenzione a condividere informazioni riservate o personali o comunque soggette a diritto d’autore o limitazioni di uso e condivisione, per l’addestramento di questi modelli. Infatti la Black Box può utilizzare queste informazioni in qualunque maniera, ad esempio condividendole integralmente con altri utenti, o utilizzandole per generare dei dati che ne derivano.

Come accennato precedentemente, ad oggi non è possibile implementare un sistema di controllo accessi interno alla Black Box in grado di utilizzare i dati memorizzati a seconda dell’utente che sta utilizzando l’applicazione. Quindi qualunque dato utilizzato per l’addestramento di un modello IA pubblico deve essere considerato anch’esso pubblico e non soggetto ad alcuna limitazione.

Questo non vuol dire che non si può utilizzare un modello IA Generativo con dati riservati o soggetti a limitazioni, ma per farlo bisogna implementare il controllo accessi esternamente al modello stesso. Ad esempio, si può partire da un modello pre-addestrato con dati pubblici, crearne un’istanza dedicata sotto il proprio controllo, completare l’addestramento con i propri dati e permettere l’accesso a questa istanza solo a chi è autorizzato ad accedere alle informazioni utilizzate per l’addestramento. In altre parole, bisogna creare una sandbox intorno al modello IA piuttosto che all’interno del programma, come invece immaginò Heinlein per Mike (punto 1.4).

Dati in ingresso per generazione

Quando i dati in ingresso sono utilizzati esclusivamente per generare dei dati in uscita, non si presentano i rischi appena descritti perché il comportamento dell’applicazione è assimilabile a quello di una applicazione tradizionale. I dati in ingresso vengono elaborati ma non sono memorizzati dall’applicazione IA, al più possono essere memorizzati dalle applicazioni a supporto dell’applicazione IA, che sono gestite secondo l’approccio tradizionale e permettono l’implementazione degli usuali processi di controllo accessi, protezione/cifratura dei dati ecc.

Dati prodotti

È necessario fare alcune considerazioni sui dati prodotti da un modello IA Generativo.

La prima è che, come è stato ripetuto già più volte, qualunque dato prodotto non è deciso a priori da un programmatore: non è possibile chiedere ad alcuno perché ha programmato che a uno specifico dato in ingresso corrisponde un certo dato in uscita. In altre parole: non c’è una logica definita da una persona tra un input e il corrispondente output.

Come già indicato, i dati prodotti o generati sono quelli che hanno la più alta “probabilità di similitudine” (da intendersi in senso lato) tra i dati in ingresso e quanto appreso dal modello dai dati di apprendimento. Ad alto livello questo può essere descritto come segue: il modello crea una propria rappresentazione interna dei dati di apprendimento, identifica le “somiglianze” maggiori di questa rappresentazione con i dati in ingresso e utilizza queste “somiglianze” per generare i dati in uscita.

In linea teorica, un dato generato può avere una probabilità del 99,99% di corrispondere al dato in ingresso, o molto minore, ad esempio solo il 30%. Tocca a chi gestisce il modello IA decidere una soglia sotto la quale il modello può non rispondere alla richiesta.

La natura probabilistica dei dati generati può facilmente ingannare gli utilizzatori del modello IA e richiede che chi lo utilizza sia molto accorto nell’interpretare il loro significato. Il modo più semplice per approfondire questo aspetto è tramite un paio di esempi.

Curriculum Vitae di una Persona

Si immagini di chiedere a un modello IA Generativo di fornirci informazioni su di una persona, realmente esistita che si afferma essere stata studente di un premio Nobel. Il modello IA Generativo tipicamente fornisce un breve Curriculum Vitae della persona, elencando articoli scientifici pubblicati, premi vinti, posizioni ricoperte ecc. Alcuni di questi dati possono essere corretti, altri invece sono “generati”, ma realistici, e altri ancora possono essere del tutto errati (in alcuni casi chiamati “allucinazioni”). La “logica” del modello IA Generativo può essere descritta come segue: dai dati di addestramento ha appreso che la maggior parte degli studenti di premi Nobel ha avuto una carriera di successo nella ricerca scientifica, vincendo premi e occupando posizioni di rilievo. Inoltre, il premio Nobel indicato appartiene a una specifica area scientifica e il modello IA è a conoscenza di quali sono i principali argomenti di ricerca, i principali premi e posizioni lavorative e di prestigio in questo campo scientifico. Sulla base di questi dati, il modello IA ha quindi identificato quali sono le pubblicazioni scientifiche, i premi e le posizioni (tutti reali o “generati”) che più probabilmente sono associabili alla persona indicata nei dati in ingresso, e questi sono i dati prodotti in risposta alla richiesta. La quantità di dati esatti prodotti dal modello IA può variare da un Curriculum Vitae totalmente reale, a uno contenente metà di dati reali e metà “generati”, a uno totalmente “generato” ovvero plausibile ma non corrispondente al vero, o infine uno contenente alcuni dati del tutto errati; tutto dipende dai dati di addestramento utilizzati e dall’architettura stessa del modello IA.

Selezione di personale e “bias”

I Curriculum Vitae (CV) forniscono un esempio per un altro aspetto dei dati generati da un modello IA (anche non Generativo), che va sotto il nome “bias” (ovvero una distorsione o deviazione sistematica rispetto al risultato atteso). Si supponga di addestrare un modello IA con molti CV divisi tra quelli ritenuti validi per l’occupazione richiesta e quelli non validi. Si utilizzi poi l’applicazione IA per una prima selezione di nuovi CV validi. Potrebbe capitare (questo è un esempio estremo riportato solo per evidenziare il possibile comportamento del modello IA) di accorgersi che i CV validi (ovvero con una probabilità di somiglianza ai CV di addestramento validi superiore ad una certa soglia) corrispondono per lo più a persone che si sono laureate in un certo anno e con particolari caratteristiche somatiche, e che CV che non hanno queste caratteristiche ma per il resto sono equivalenti, hanno ottenuto una valutazione inferiore. Come già indicato, i modelli IA sono estremamente bravi a trovare somiglianze in enormi quantità di dati, e in questo caso il modello IA ha identificato l’anno di laurea e alcune caratteristiche somatiche come la caratteristica più comune dei CV di addestramento validi. L’esempio appena descritto è molto banale, ma il problema del “bias” dei modelli IA è molto ricorrente e spesso di difficile soluzione.

Questi semplici esempi rafforzano l’affermazione che alla base del comportamento di un modello IA vi è principalmente una triade: probabilità, architettura, dati di addestramento.

È utile fare qualche ulteriore osservazione sull’utilizzo e i limiti degli attuali modelli IA Generativi.

Etica

Da quanto appena scritto, è difficile oggi immaginare che, oltre a distinguere tra reale e “generato”, i modelli IA Generativi possano generare dati che rispettano sempre principi connaturati nell’uomo chiamati “etici”, quali ad esempio i concetti di giusto e sbagliato o lecito e illecito, che comunque hanno a volte delle diverse interpretazioni tra gli uomini o tra società umane. Ed è anche difficile immaginare che un attuale modello IA Generativo sia in grado di apprendere concetti più fondamentali per l’uomo quali l’istinto di preservazione della persona, di prosecuzione della specie, di protezione della prole. È stata utilizzata la parola “istinto” perché questi sono tratti fondamentali e comuni a tutti gli uomini, e più in generale agli animali, ma difficilmente presenti nei dati di addestramento di un modello IA.

Al contrario, se si addestra un modello IA con dati reperibili in Internet, le informazioni derivanti dai notiziari descrivono una realtà in cui spiccano reati, violenze, violazioni dei diritti umani, guerre ecc. Analizzando solo questi dati ne deriva ad esempio che la probabilità di un atto violento è molto più alta di quella della protezione di una persona debole. Ma la realtà (per fortuna) è assai diversa (anche se abbiamo un ampio margine di miglioramento).

Anche addestrare un modello IA con i manuali di storia e in generale con la documentazione universitaria più completa sull’uomo, la società umana e la storia dell’uomo potrebbe non risolvere realmente il problema. Insegnare i valori “etici” a un modello IA è un grande problema aperto che molto probabilmente richiederà la creazione di appositi dati sintetici per l’addestramento.

Aritmetica e matematica

Un altro aspetto apparentemente sorprendente degli attuali modelli IA, è la loro difficoltà nell’apprendere l’aritmetica. Ma non è difficile intuire questo aspetto utilizzando quanto sinora descritto: i modelli IA attuali non sono veramente in grado di “ragionare” e quindi imparare autonomamente regole di calcolo esatte, ma correlano probabilisticamente grandi quantità di dati. La “logica” da considerare è più simile a chiedersi qual è la probabilità (derivante dai dati di addestramento utilizzati) che 2+2 sia 3,9 o 4,1 o, ovviamente, 4 senza fare alcun calcolo aritmetico. Questo è altamente contro-intuitivo anche perché gli elaboratori sono basati in hardware proprio sull’esattezza del calcolo matematico e in particolare aritmetico.

D’altra parte, i modelli IA di ultima generazione si stanno dimostrando estremamente utili nel contribuire a risolvere numericamente equazioni matematiche particolarmente complesse. Data una equazione particolarmente complessa e non risolvibile esattamente con le tecniche matematiche note, si cercano soluzioni numeriche necessariamente approssimate. I modelli IA di ultima generazione sono in grado di generare i set di dati numerici con la maggior probabilità di essere una soluzione approssimata al problema tra cui poi va selezionata la soluzione appropriata. In questo modo sono già state trovate nuove molecole chimiche per applicazioni farmaceutiche, identificate debolezze in algoritmi crittografici in corso di sviluppo, ecc.

Utilizzo “Sicuro” dell’IA Generativa

I modelli IA Generativi sono già estremamente utili e potrebbero portare un grande avanzamento nelle capacità, usi e utilità per l’uomo dell’informatica. Ma oggi è necessario utilizzarli essendo ben consci dei loro limiti e delle specifiche modalità di approccio e uso necessari per poterne fare un uso “sicuro”. In questa sede è possibile solamente indicare alcuni suggerimenti per poter beneficiare il più possibile dell’uso odierno dell’IA Generativa in modo “sicuro”:

  1. Supervisione umana: i dati generati da un modello IA Generativo devono essere valutati da persone che ne comprendono le logiche, i limiti e che sono in grado di distinguere quanto è reale, quanto è solamente “realistico” e quanto è del tutto errato.
  2. Dati di addestramento: bisogna essere ben consapevoli di quali dati sono stati utilizzati per l’addestramento del modello IA e assumere che chiunque utilizza il modello IA è in grado di accedere a tutti i dati di addestramento. Come è stato indicato, oggi non è possibile implementare logiche di controllo accesso all’interno del modello (ma si veda il suggerimento 4), pertanto chi utilizza il modello accede direttamente o indirettamente a tutti i dati di addestramento.
  3. Controllo accessi e filtri sui dati in ingresso: è necessario quindi implementare il sistema di controllo accessi a un modello IA Generativo al di fuori dello stesso, e affiancare a questo anche un’applicazione di verifica ed eventuale filtro dei dati in ingresso. Quest’ultima è una funzione simile concettualmente alla validazione dei dati in ingresso comune a qualunque applicazione e che, ad esempio per applicazioni Web, previene attacchi quali quelli di “SQL Injection”. Infatti uno degli scopi è di bloccare attacchi quali “Prompt Injection” che hanno come principale fine quello di sovvertire le logiche di utilizzo del modello IA per scopi diversi da quelli autorizzati o per l’estrazione di informazioni riservate.
  4. Addestramento con prefissi: in aggiunta al controllo accessi e filtro dei dati in ingresso, è anche possibile addestrare specificatamente un modello IA utilizzando dei Prefissi che identificano particolari richieste o utenti; ad esempio, un modello IA può essere addestrato in modo che se la richiesta inizia con il prefisso “Minore” (che identifica il richiedente essere minorenne, o il risultato essere indirizzato a minorenni), il modello IA genera più probabilmente dati appropriati per minorenni. Analogamente si può addestrare il modello IA in modo che certi tipi di dati siano più probabilmente generati o non generati a seconda del richiedente o dell’uso previsto.
  5. Filtri sui dati generati: come descritto, oggi un modello IA Generativo potrebbe comunque generare dei contenuti non appropriati, errati o che violano la riservatezza, privacy, diritti di autore ecc. Per questo si dovrebbero introdurre dei filtri sui dati generati. Un approccio per implementare questa funzionalità è idealmente simile a quanto si fa ormai da tempo per i filtri Anti-Spam, e spesso si utilizzano degli altri modelli IA addestrati appositamente per identificare i contenuti non leciti.
  6. Monitoraggio: oltre ai filtri in uscita per evitare la condivisione di dati non appropriati, errati o non leciti, è bene monitorare in continuazione quanto generato dal modello IA Generativo per identificare eventuali “bias”, “allucinazioni” e altri eventi che possono indicare un abuso, un attacco e ulteriori debolezze del modello.

In ogni caso è molto probabile che nel prossimo futuro, nuove architetture e nuove tecniche di addestramento saranno in grado di migliorare grandemente gli attuali modelli di Intelligenza Artificiale.

Articolo a cura di Andrea Pasquinucci

Profilo Autore

PhD CISA CISSP
Consulente freelance in sicurezza informatica: si occupa prevalentemente di consulenza al top management in Cyber Security e di progetti, governance, risk management, compliance, audit e formazione in sicurezza IT.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/considerazioni-su-modelli-di-intelligenza-artificiale-generativa/