ServiceNow: AI e automazione per accelerare la transizione digitale ed energetica

Dalla trasformazione digitale della sanità e del settore medico-ospedaliero nazionale, alla transizione energetica delle imprese, fino al rapporto tra dati e territori, cresce il ruolo dell’intelligenza artificiale (AI) e dell’automazione per favorire efficienza, sicurezza e sostenibilità.

Di seguito i vantaggi offerti dalla piattaforma di ServiceNow con gli interventi a ComoLake 2024 di Francesco Belardinelli, Senior Enterprise Account Executive, Enrico Leporini, Sales Director – Energy & Utility, Telco, e Amedeo Muro, Enterprise Sales Director.

L’AI per ridurre la frammentazione del dato sanitario

F. Belardinelli

Il servizio sanitario nazionale è un elemento strategico per il Paese, perché rappresenta un beneficio economico, sociale e culturale per tutti noi, che abbiamo il compito di renderlo più sostenibile e sicuro.

“Un sistema che muta costantemente e che ha a che fare con una domanda universale che cambia col tempo e con il succedersi degli eventi. Un sistema che deve offrire servizi, una molteplicità di servizi, declinati in funzione dei territori, e che ha necessità di essere supportato nel suo funzionamento da soluzioni tecnologiche innovative, che abilitano le trasformazioni di processo di cui il sistema stesso ha bisogno”, ha spiegato Francesco Belardinelli, Senior Enterprise Account Executive di ServiceNow.

“Una transizione che a sua volta deve essere governata, che deve essere pervasiva, semplice e sicura e in questo l’intelligenza artificiale può dare un grande contributo”, ha proseguito Belardinelli.

“Per risolvere poi il problema della frammentazione del dato – ha affermato il Senior Enterprise Account Executive di ServiceNow – c’è da affrontare la questione della mancanza di una visione unica dell’informazione relativa alla salute dei cittadini. Qui possiamo impiegare tecnologie che rendono più facile l’accesso a questi dati, più immediato il loro utilizzo e l’intelligenza artificiale può essere il fattore abilitante”.

“Possiamo chiamarla liquidità dei dati o dell’informazione, che questa tecnologia può favorire e rendere concreta, con grandi vantaggi per la Pubblica Amministrazione. ServiceNow sta investendo su questo e l’apertura dei due nuovi Data Center a Roma e Milano supporteranno il processo di innovazione a partire da servizi di prossimità alle amministrazioni pubbliche e alle strutture sanitarie, rendendo l’intero settore della sanità più efficiente, sicure e sostenibile”, ha concluso Belardinelli.

Il supporto alla trasformazione energetica e digitale delle imprese

E. Leporini

“ServiceNow è una piattaforma versatile in grado di integrarsi con il mondo esterno e in grado di automatizzare i processi. È costituta da tre elementi principali: è unica, ha un unico modello di dati e un unico codice. Questi insieme permettono a ServiceNow di accelerare il time to market riducendo il tempo della delivery“, ha detto Enrico Leporini, Sales Director di ServiceNow.

“Immaginiamo un’azienda energetica che ha bisogno di monitorare un grande numero di asset (reti di distribuzioni, infrastrutture critiche). ServiceNow è in grado di monitorare questi oggetti tutti insieme in maniera centralizzata, in real time ed in grado non solo di gestirne il ciclo di vita, ma anche di intervenire in maniera predittiva nel momento in cui si verifica una serie di guasti. Questo riduce i costi e tempi di intervento e quindi maggiore efficienza. Nel mondo energy inoltre le normative sono molto stringenti, evolvono e cambiamo in continuazione. Noi monitoriamo i cambiamenti delle normative che regolamentano il mercato, dando una maggiore sicurezza per chi poi deve gestire questi KPI e intervenire per tempo ed evitare eventuali sanzioni amministrative“, ha proseguito Leporini.

Tre gli elementi chiave secondo Sales Director che ServiceNow può garantire: “la riduzione dei tempi di intervento (i cosiddetti SLA), la riduzione dei costi operativi e la riduzione dei tempi di intervento. E questo può avvenire grazie all’intelligenza artificiale generativa di ServiceNow, che si distingue dal mercato in quanto è l’insieme di 3 elementi fondamentali: i dati, l’AI e l’automazione”.

“Automazione, che è il cuore della piattaforma, perché riesce in real time ad automatizzare tutta una serie di processi e questo chiaramente agevola una maggiore efficienza e favorisce la riduzione dei costi dell’implementazione stessa”, ha precisato Leporini.

La piattaforma di ServiceNow per incrementare l’efficienza della PA

A. Muro

“L’artificial intelligence ed in particolare la piattaforma generative AI di ServiceNow ci consentono di dare un valore nuovo al concetto di efficienza“, ha affermato Amedeo Muro, Enterprise Sales Director di ServiceNow.

Muro nel suo intervento ha parlato di processi di digitalizzazione e servizi al cittadino, di come la generative AI e l’artificial intelligence di ServiceNow si integra con il tema della sicurezza dei dati e della formazione del personale riconvertendo le competenze in ambito digitale rispetto alle potenzialità che l’IA generativa consente e offre.

“L’incremento dell’efficienza va dal 32 al 35%, dipende da chi usa questa tecnologia e dai territori dove è impiegata la tecnologia – ha proseguito il Direttore – è evidente che non ci può essere incremento di efficienza senza che all’adozione della tecnologia non segua un cambio di organizzazione. Una trasformazione essenziale“.

“Come riusciamo a rendere tutto questo in termini di casi d’uso e soprattutto rispetto alla PA come riusciamo a farlo? La piattaforma di ServiceNow consente all’utilizzatore, sia esso la Pubblica Amministrazione e del comparto privato, di utilizzare questa mole di dati, di qualità e sicurezza, dettando quelle che sono delle attività di processo, dei flow aziendali che diventano a loro volta dei flow disegnati dall’utente stesso“, ha aggiunto Muro.

“Un cambiamento epocale dal punto di vista dell’innovazione, perché non si scrivono più dei codici, ma si detta allo strumento il codice che deve essere eseguito. In termini di efficientamento della PA – ha precisato Muro – la nostra piattaforma consente anche di valorizzarre e ottimizzare le risorse umane, offrendo strumenti adatti“.

“Sono tantissime le PA italiane che stanno utilizzando i nostri strumenti, con i migliori risultati. ServiceNow investe da sempre in ricerca e sviluppo e siamo coerenti con i frutti del lavoro dei nostri laboratori“, ha quindi concluso il Direttore di ServiceNow.

Leggi anche l’intervento di Filippo Giannelli, AreaVP Italy & Israel, Country Leader Italy di ServiceNow

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/servicenow-ai-e-automazione-per-accelerare-la-transizione-digitale-ed-energetica/508614/




Data center, Amazon investe oltre 500 milioni di dollari per sviluppare piccoli reattori nucleari

Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..

AWS ha annunciato un investimento di oltre 500 milioni di dollari nello sviluppo di piccoli reattori nucleari modulari (SMR) per soddisfare l’aumento della domanda di energia pulita.

L’iniziativa è parte della strategia di Amazon per raggiungere le emissioni zero e supportare la crescente esigenza di alimentare data center, in particolare a causa dell’espansione dei servizi di AI generativa. Amazon collaborerà con Dominion Energy in Virginia e con Energy Northwest nello stato di Washington per la costruzione di questi reattori avanzati, che offrono un’impronta ridotta e tempi di costruzione più rapidi rispetto ai reattori tradizionali.

Gli SMR forniranno energia direttamente alla rete, beneficiando sia Amazon che altri utenti. Questo progetto riflette l’adozione della tecnologia nucleare da parte di Amazon, in un contesto in cui altre aziende tecnologiche, come Google e Microsoft, stanno anch’esse investendo in soluzioni energetiche nucleari per supportare le loro operazioni. L’innovazione degli SMR viene considerata cruciale per affrontare le future esigenze energetiche, con l’obiettivo di garantire energia pulita, sicura e affidabile.

Per maggiori informazioni, clicca per l’articolo originale.

ChatGPT supera i 3 miliardi di visite a settembre

A settembre 2024, ChatGPT ha raggiunto 3,1 miliardi di visite mensili, segnando un aumento del 112% rispetto all’anno precedente. Dopo un boom iniziale seguito da un calo estivo nel 2023, il traffico web ha ripreso a crescere costantemente dal maggio 2024.

Questo ha reso ChatGPT l’undicesimo sito più visitato al mondo, superando piattaforme come Amazon in termini di traffico, ma ancora lontano dai colossi Google e YouTube. L’uso dell’app mobile di ChatGPT è aumentato considerevolmente, con un incremento del 249% su scala globale, grazie a funzionalità avanzate come il riconoscimento vocale e d’immagini.

Negli Stati Uniti, ChatGPT ha superato Bing, con 442,9 milioni di visite rispetto alle 404,3 milioni di Bing nello stesso periodo. Questo suggerisce una crescente fedeltà degli utenti, con un pubblico sempre più stabile e diversificato rispetto al passato. Microsoft rimane comunque un partner strategico di OpenAI, ma ChatGPT continua a espandere la sua base utenti grazie all’offerta di strumenti gratuiti e accessibili.

Per maggiori informazioni, clicca per l’articolo originale.

I leader dell’educazione tedesca chiedono l’integrazione sistematica dell’AI nelle aule scolastiche

I leader dell’educazione in Germania hanno adottato nuove linee guida per l’integrazione dell’AI nei processi educativi. Christine Streichert-Clivot, presidente della Conferenza Permanente dei Ministri dell’Istruzione (KMK), ha sottolineato come l’AI rappresenti un’opportunità per modernizzare l’insegnamento, evidenziando però l’importanza di mantenere standard etici.

La KMK ha approvato un quadro per l’uso dell’AI nelle scuole, con particolare attenzione alla costruzione di un’infrastruttura educativa digitale nazionale e conforme alle normative sulla protezione dei dati.

L’AI è vista come uno strumento per supportare l’apprendimento personalizzato, e vengono incoraggiate collaborazioni tra scienza e scuole per sviluppare approcci pratici e scientificamente fondati. Inoltre, si discute della possibilità di sviluppare un modello di linguaggio AI su misura per il settore educativo. L’uso dell’AI nelle scuole è destinato a cambiare le modalità di esame e valutazione, promuovendo competenze che preparano gli studenti alla vita in un mondo sempre più digitale. La riflessione critica e l’uso etico dell’AI sono considerati aspetti fondamentali da sviluppare tra insegnanti e studenti.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/amazon-investe-oltre-500-milioni-di-dollari-per-sviluppare-piccoli-reattori-nucleari-per-alimentare-i-data-center/508578/




Giannelli (ServiceNow): “Aumentare la produttività attraverso AI e automazione”

Non solo l’AI, anche l’automazione garantisce grandi vantaggi produttivi per le imprese

“L’Italia si trova all’81° posto nella classifica mondiale della produttività sulle 146 economie più sviluppate. Siamo migliorati su tantissime cose, soprattutto sul digitale, ma sulla produttività abbiamo ancora molto da fare. Le proiezioni di diversi istituti dicono che per il 2050 il rapporto lavoratori-pensionati sarà ‘uno a uno’, tant’è vero che state vedendo già oggi come l’età pensionabile si sta alzando a dismisura, l’ultimo valore è 70 anni, speriamo di non arrivare oltre. Questo vuol dire che è importante lavorare meglio, che è importante inserire all’interno dei processi e dei servizi che vengono dati ai dipendenti, ai clienti, ai cittadini, alle persone, una parola che è stata detta prima molte volte, che, vi sorprenderò, non è intelligenza artificiale, ma automazione. Un’automazione classica, indipendentemente dal settore e dall’industria. Che garantisce grandi vantaggi in termini di aumento di produttività. Stiamo parlando di un 25% in più, semplicemente con un’automazione dei processi, semplicemente con algoritmi di intelligenza artificiale, che sono disponibili anche sulla nostra piattaforma da anni”, ha dichiarato Filippo Giannelli, AreaVP Italy & Israel, Country Leader Italy di ServiceNow, in occasione di ComoLake 2024.

Trasformare il business attraverso l’intelligenza artificiale della piattaforma ServiceNow

“Se ci mettiamo il superpotere dell’intelligenza artificiale generativa, questo numero può arrivare fino a +32%. Stiamo parlando di un terzo in più e può aiutare il sistema Paese. Secondo noi – ha proseguito Giannelli – questi due numeri combinati portano ad avere anche un time to value dei servizi del 28%, che vuol dire che ci mettiamo il 28% del tempo in meno a dare nuovi servizi. Sono numeri importanti. Quello che stiamo facendo noi è proprio cercare di trasformare la parte business attraverso l’intelligenza artificiale. La nostra è una piattaforma che entra nei gangli dei processi nei servizi alla persona, per poter far sì di guidare quella che noi non definiamo digital transformation, ma business transformation, che è un approccio totalmente differente”.

Il ruolo determinante dei chatbot per accrescere la produttività aziendale nei servizi

“Perché una donna che chiede la maternità deve metterci cinque giorni per avere un’approvazione? Perché deve leggersi centinaia e centinaia di pagine di policy? Perché non interagire direttamente con un chatbot, con un agente che mi permette di capire esattamente cosa serve, quando serve? Un agente che esamina immediatamente questa richiesta e la fa approvare in tempo quasi reale, garantendo così il rispetto dei diritti, perché parliamo anche di questo. Proprio per aiutare la produttività, noi come ServiceNow stiamo investendo sull’Italia molto in questo, tanto è vero che abbiamo aperto due data center, uno a Milano, uno a Roma, per poter sollecitare e supportare la trasformazione dei servizi a livello del territorio nazionale”, ha aggiunto il manager di ServiceNow.

L’investimento di Roma e Milano mira a soddisfare la crescente domanda nazionale e contribuisce ad aumentare l’agilità dei clienti, ne migliora la produttività e permette loro di lavorare meglio, grazie a una infrastruttura altamente innovativa. I data center saranno a disposizione dei clienti ServiceNow alla fine di ottobre.

“Per fare tutto questo – ha concluso Giannelli – ci vuole un cambiamento, il famoso change management e la capacità e l’impegno a superare le tante resistenze che in ogni epoca storica rallentano il cambiamento”.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/giannelli-servicenow-aumentare-la-produttivita-attraverso-ai-e-automazione/508441/




Sandei (Almawave): “AI anche per l’Africa. A breve lo Swahili nel nostro LMM, che stiamo addestrando in Italia”

“Proprio in queste ore dei colleghi di Almawave stanno firmando in Tanzania un protocollo di intesa con il Governo tanzano e l’ICT Commission, per mettere a disposizione i dati per lo sviluppo dello Swahili nel nostro Large Language Model (LMM) che stiamo addestrando qui in Italia. Un passo concreto nella direzione di portare tecnologie italiane altamente innovative nel contesto africano”, ha concluso Sandei.

Lo ha detto Valeria Sandei, Amministratore Delegato di Almawave (Gruppo Almaviva), durante il suo intervento a ComoLake 2024.

Sandei nel suo intervento ha parlato di come sia importante lo sviluppo dell’AI Made In Italy. “L’AI Made in Italy è necessaria per tre punti. Il primo si chiama produzione”, ha spiegato. “Noi stiamo affrontando una sfida, nella quale tutti coloro che mi hanno preceduto hanno evidenziato come l’AI sia una tecnologia trasformativa che impatterà tutti i settori della nostra economia in tutti i Paesi. Pensare di esserne solo utilizzatori e non anche produttori, quindi artefici anche di una generazione di valore economico nel nostro Paese mi sembrerebbe un elemento di limitazione forte soprattutto considerando che questa nuova wave tecnologica è soltanto all’inizio”.

“Il secondo punto è la data lineage. Tutti discutono sui dati, sapere dove sono questi dati, come sono utilizzati e come sono modificati nel tempo è fondamentale. E quando si parla di proprietà intellettuale, privacy e quant’altro è solo questo che garantisce il governo e l’uso corretto di queste tecnologie. Il terzo ovviamente è la sfida tecnologica”, ha aggiunto Sandei. “Perché siamo all’inizio e l’AI evidenzia tantissime opportunità, ma anche dei limiti. Rappresentati dai costi, dal reale benefit case che può essere portato all’interno delle organizzazioni complesse. Tutto questo fa prefigurare la possibilità di sviluppare un know how tecnico e scientifico da portare in produzione e in campo con soluzioni diverse che vadano a traguardare un idea più conveniente di sostenibilità. Ottimizzando i consumi o nuove tecniche che introducano altri principi nell’applicazione dell’AI. Penso ad esempio alle tecniche neuro simboliche e che dunque, si attagliano sempre meglio a esigenze di costo ma anche a possibile evoluzioni scientifiche senza diminuire la performance attesa da queste tecnologie.

Poi una parentesi sul Piano Mattei. “Il Piano è sicuramente un’occasione di crescita per il nostro Paese. Noi siamo partiti in Africa da un po’ di tempo, abbiamo realizzato dei progetti di AI, utilizzando la nostra intelligenza artificiale in contesti sensibili come il sistema della giustizia Tanzana o l’Information Highway che sta portando avanti l’African Development Bank sulla parte di dati statistici”, ha concluso.

Almawave: cosa prevede l’accordo con l’Information & Communication Technologies Commission del Paese africano

L’accordo, si legge in una nota dell’azienda, è finalizzato a supportare lo sviluppo e l’implementazione del modello LLM italiano di Almawave, Velvet, nella sua versione in swahili, lingua ufficiale della Tanzania insieme all’inglese, attraverso lo scambio di dati, esperienze e tecnologie. La collaborazione punta a fornire uno strumento efficace basato sull’AI generativa da destinare alla Pubblica Amministrazione tanzaniana.

In base al Memorandum, Almawave fornirà Velvet in versione Open Source all’ICTC, mentre quest’ultima metterà a disposizione dati e informazioni locali per l’addestramento del modello in lingua swahili. L’obiettivo è quello di sviluppare un modello LLM “su misura” per il contesto locale, privo di bias, in grado di ottimizzare i processi amministrativi tramite la digitalizzazione e migliorare l’efficienza delle strutture oltre che le interazioni con i cittadini.

Velvet, modello fondazionale italiano di linguaggio LLM capace di gestire testi, audio e immagini in modalità multilingua, opensource e accessibile a tutti, addestrato sull’infrastruttura di supercalcolo del Cineca, il consorzio interuniversitario che ospita per il Ministero della Ricerca il supercomputer Leonardo nella rete EuroHpc, verrà rilasciato entro fine 2024.

L’ICTC, che opera direttamente per il Ministero dell’Informazione, della Comunicazione e dell’Information Technology della Repubblica Unita di Tanzania, svolge un ruolo cruciale nell’innovazione e nell’attrazione di investimenti nel settore ICT, in un contesto di crescente attenzione verso la digitalizzazione in Tanzania e nell’intero continente.

L’accordo tra Almawave e l’ICTC rafforza ulteriormente il legame tra la società italiana e l’Africa, dove è attiva da tempo con progetti di trasformazione digitale e modernizzazione, sia con il settore pubblico sia con quello privato. Si ricordano in particolare le progettualità con Judiciary of Tanzania (Magistratura della Tanzania), per la digitalizzazione del processo penale e civile tramite tecnologie vocali AI proprietarie in swahili e inglese, nell’ambito del programma “Citizen-centric Justice in Tanzania” finanziato dall’International Development Association (World Bank Group); con l’African Development Bank (AfDB) tramite Common Market for Eastern and Southern Africa (COMESA) per la reingegnerizzazione di una piattaforma dati statistica per tutti i paesi africani, nell’ambito dell’iniziativa African Information Highway (AIH) e con South African Tourism, tramite la fornitura di D/AI Destinations, piattaforma all-in-one del Gruppo Almawave per il destination marketing & management.

I Paesi in cui è parlata la lingua Swahili in Africa sono 12 e coinvolgono una popolazione di oltre 70 milioni di persone.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/sandei-almawave-ai-anche-per-lafrica-a-breve-lo-swahili-nel-nostro-lmm-che-stiamo-addestrando-in-italia/508343/




SearchGpt arriva negli Usa, fine al dominio di Google?

Sembra che ChatGpt stia facendo un passo da gigante nell’integrazione della ricerca in tempo reale, portando SearchGpt direttamente nell’app principale per iOS. Un nuovo aggiornamento, al momento disponibile solo negli Stati Uniti e accessibile tramite VPN, introduce un’icona di ricerca nell’input di testo, aprendo le porte a una serie di funzionalità innovative. A differenza dei classici motori di ricerca, il progetto di OpenAI non mostra i risultati di ricerca tramite link ma risponde conme se fossimo all’interno di una conversazione. Se si cerca, ad esempio, il meteo a Milano, potrebbero essere mostrati dei widget ma il fulcro sarà farsi dire da Search Gpt le previsioni. Comodo ma, come vedremo più avanti, anche pericoloso in termini di veridicità.

Cosa cambia con SearchGPT?

Fino ad ora, ChatGpt si affidava a Bing per le ricerche, ma questa nuova integrazione sembra andare ben oltre. SearchGpt, precedentemente disponibile solo come prototipo, promette di rivoluzionare l’interazione con la piattaforma, offrendo:

  • Ricerca in tempo reale: accesso a informazioni aggiornate al momento della richiesta.
  • Widget interattivi: visualizzazione di grafici meteo, andamento azionario e altri dati in formati dinamici.
  • Immagini separate: migliore presentazione dei risultati visivi.
  • Nuovo layout per le notizie: organizzazione più chiara e intuitiva degli articoli.
  • Maggiore flessibilità: possibilità di riscrivere le query per attivare o disattivare la funzione di ricerca a piacimento.
  • Condivisione delle conversazioni: anche gli utenti senza accesso a SearchGPT possono visualizzare i risultati delle ricerche.

Un esperimento limitato

Al momento, l’aggiornamento sembra essere limitato all’app per iPhone e non è chiaro se si tratti di un test preliminare in vista di un rilascio più ampio o di una strategia mirata a un pubblico specifico. L’assenza di SearchGpt su Android, desktop e persino sulla versione web, suggerisce che OpenAI stia procedendo con cautela, monitorando attentamente l’utilizzo e il feedback degli utenti prima di estendere la funzionalità ad altre piattaforme.

Un problema cruciale è quello dei bias, ovvero pregiudizi che si insinuano negli algoritmi e possono portare a risultati discriminatori. Questi possono derivare da dati di addestramento incompleti o che riflettono pregiudizi preesistenti, degli sviluppatori stessi o dalla mancanza di diversità nei team di sviluppo. Il risultato? Idee non oggettive e di parte, che potrebbero esacerbare ulteriormente il troppo affidarsi all’IA per prendere decisioni e formarsi idee su nuovi argomenti.

Un futuro di ricerca integrata

L’integrazione di SearchGpt rappresenta comunque un passo importante per ChatGpt, che si avvicina sempre di più a un’esperienza di ricerca completa e integrata. La possibilità di accedere a informazioni in tempo reale, combinata con la potenza di elaborazione del linguaggio naturale, apre scenari interessanti per l’utilizzo dell’intelligenza artificiale nella ricerca e nell’accesso all’informazione. Il punto è quanto potremo fidarci di un’app che non mostra i link su cui si basa ma risponde alle nostre domande con un’idea di certezza che spesso ha lasciato il passo alle allucinazioni.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/searchgpt-arriva-negli-usa-fine-al-dominio-di-google/507879/




L’AI può (per lo più) superare i CEO umani, ma il futuro della leadership è ibrido. Lo studio dell’Università di Cambridge

L’intelligenza artificiale generativa ha il potenziale per “superare significativamente” i CEO umani in compiti basati sui dati come il design di prodotti e il marketing.

Lo rivelo un nuovo esperimento condotto dall’Università di Cambridge ha messo luce importanti questioni sul futuro della leadership aziendale. I risultati, pubblicati in un recente articolo della Harvard Business Review, hanno evidenziato come modelli di AI hanno superato i partecipanti umani nella presa di decisioni strategiche che coinvolgono la redditività e la quota di mercato, ma falliscono nel gestire interruzioni imprevedibili come eventi black swan (cigno nero).

L’esperimento

Nel dettaglio, l’esperimento, condotto da febbraio a luglio 2024, ha coinvolto 344 partecipanti, tra cui dirigenti senior di una banca dell’Asia meridionale e studenti universitari. Il centro dello studio era una simulazione gamificata del settore automobilistico, basata su dati reali di strategie di prezzo, tendenze di mercato e eventi economici globali come la pandemia di COVID-19. L’ultimo “partecipante” era GPT-4, il modello linguistico avanzato di OpenAI.

I risultati hanno rivelato che l’AI ha superato i partecipanti umani in numerose aree chiave della gestione aziendale. Hamza Mudassir, uno dei ricercatori, ha dichiarato a Business Insider che l’AI ha ottenuto prestazioni superiori in metriche cruciali come redditività, design del prodotto, gestione dell’inventario e ottimizzazione dei prezzi.

L’AI supera i CEO in redditività, design di prodotto e ottimizzazione dei prezzi

Nonostante ciò, l’esperimento ha anche messo in luce un significativo punto debole dell’AI: la sua incapacità di gestire efficacemente gli “eventi cigno nero”, ovvero situazioni imprevedibili e ad alto impatto come una pandemia. Una lacuna che ha portato a un risultato inaspettato: l’AI è stata “licenziata” più rapidamente da un consiglio di amministrazione virtuale rispetto ai suoi omologhi umani.

“L’AI non ha avuto successo nella sopravvivenza all’interno del C-suite semplicemente perché non era molto brava a gestire cambiamenti improvvisi o che richiedono un nuovo modo di pensare,” ha spiegato Mudassir.

A parte questa limitazione, i ricercatori hanno sottolineato che le prestazioni dell’IA sono state così impressionanti da non poter essere ignorate nelle strategie aziendali future. Mudassir afferma che in futuro, i modelli linguistici di grandi dimensioni (LLM) potrebbero essere specificamente calibrati per aziende specifiche con dati in tempo reale.

Un’applicazione particolarmente interessante dell’IA emersa dallo studio è il “war gaming” aziendale. Si tratta dell’utilizzo di molteplici LLM per rappresentare diversi stakeholder come concorrenti, legislatori o attivisti, oltre che a testare l’impatto di determinate decisioni.

“Fino ad oggi, non ci sono state poche o nessuna prova empirica su come l’AI si comporterebbe come CEO in scenari del mondo reale, in particolare quando confrontato con la presa di decisioni umana in condizioni simili”, afferma lo studio.

“La lezione principale è questa: nonostante le sue prestazioni impressionanti, l’AI non può assumersi la piena responsabilità di un CEO nei mercati che servono gli umani. Invece, può migliorare significativamente il processo di pianificazione strategica e aiutare a prevenire costosi errori.”

Per i CEO il futuro della leadership è ibrido

L’articolo afferma che l’impressionante dimostrazione di AI nell’esperimento ha implicazioni di ampia portata: “La crescita dei ‘CEO artificiali’ potrebbe interrompere la consulenza strategica tradizionale e i dipartimenti interni di strategia. Aziende come McKinsey potrebbero trovare i loro servizi integrati – o addirittura sostituiti – da sistemi AI adattati agli ecosistemi dei loro clienti.”

“Il vero rischio per i CEO umani? Aggrapparsi all’illusione che noi soli terremo le redini in futuro. Il futuro della leadership è ibrido – dove l’AI complementa i CEO umani concentrandosi su visione, valori e sostenibilità a lungo termine. I CEO che prospereranno saranno quelli che padroneggeranno questa sinergia, sfruttando l’AI non come un concorrente ma come un partner nella presa di decisioni.”

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/lai-puo-per-lo-piu-superare-i-ceo-umani-ma-il-futuro-della-leadership-e-ibrido-lo-studio-delluniversita-di-cambridge/507644/




Valutare i rischi Cyber al tempo dell’Intelligenza Artificiale

I modelli di Intelligenza Artificiale (IA) e in particolare quelli di Machine Learning (ML), Predittivi, Generativi e “General Purpose” quali ad esempio i “Large Language Models” (LLM) come GPT, Bard/Gemini, LLaMA ecc., compaiono sempre più spesso all’interno delle applicazioni aziendali come componenti di applicazioni o per uso diretto.

E’ necessario quindi valutare i rischi di sicurezza informatica per le aziende, comunemente anche detti “Rischi Cyber”, connessi all’utilizzo di queste tecnologie. In questo articolo si danno alcune indicazioni su come approcciare la valutazione dei Rischi Cyber in presenza di modelli IA, quali sono le principali novità e cosa invece dovrebbe rimanere immutato rispetto alla tradizionale valutazione dei Rischi Cyber aziendali.

Valutazione dei Rischi Cyber

Conviene iniziare riassumendo brevemente l’approccio di base alla valutazione dei rischi [1,2]. Il punto di partenza è il possibile avverarsi di un Evento che può portare danno all’azienda. L’Evento può essere non-intenzionale, come un terremoto, un guasto, un errore umano, o intenzionale, come un attacco di “Denial of Service” in Internet.

E’ necessario quindi avere una tassonomia di Eventi che potrebbero essere nocivi e valutarne la Probabilità di Accadimento e l’eventuale Impatto (o danno).

Per ogni Evento, il Rischio Inerente è formalmente rappresentato dalla formula:

Rischio Inerente = (Probabilità di Accadimento) x Impatto

Per ridurre il Rischio Inerente si adottano delle Misure di Mitigazione del Rischio, ottenendo il Rischio Residuo associato ad ogni Evento:

Rischio Residuo = (Probabilità di Accadimento) x Impatto / Maturità delle Misure di Mitigazione

o anche

Rischio Residuo = Rischio Inerente / Maturità delle Misure di Mitigazione

Riassumendo, per ogni Evento potenzialmente nocivo va valutata la Probabilità di Accadimento, l’Impatto e la Maturità delle Misure di Mitigazione.

Rischi Cyber e Rischi Cyber dovuti all’IA

Le applicazioni che forniscono o contengono modelli di Intelligenza Artificiale sono comunque applicazioni informatiche e come tali soggette ai rischi comuni a tutte le applicazioni informatiche. Tra questi possono essere indicati ad esempio guasti all’hardware dei sistemi, guasti ai sistemi di alimentazione e di condizionamento delle sale macchine, o attacchi con malware/ ransomware, attacchi di phishing, attacchi ai sistemi di controllo accesso (quali quelli di forza bruta sulle password), eccetera.

La valutazione di tutti questi Rischi Cyber procede identica anche per le applicazioni che forniscono o contengono modelli IA, e non sono considerate in questo articolo. Nel prosieguo sono considerati solo Eventi e rischi specifici per i modelli di Intelligenza Artificiale.

Valutazione della Probabilità di Accadimento e Rischi nei Modelli di Intelligenza Artificiale: Sfide e Approcci Qualitativi

L’approccio standard alla valutazione della Probabilità di Accadimento di un Evento è di avere statistiche su periodi temporali appropriati sull’avverarsi dell’Evento. In informatica queste statistiche sono difficilmente disponibili o non esistono proprio. Infatti spesso la velocità degli sviluppi informatici è altamente superiore agli intervalli di tempo necessari per ottenere opportune statistiche, oltre alla difficoltà di raccogliere dati da molte diverse organizzazioni. Nel caso dei modelli di Intelligenza Artificiale, la novità di questa tecnologia e la rapidità del suo sviluppo implica una quasi totale assenza di statistiche su periodi di tempo sufficienti.

Come molto spesso per la valutazione dei rischi in informatica, è quindi necessario valutare qualitativamente la Probabilità di Accadimento di un Evento, adottando scale come la seguente:

  • molto bassa (o quasi mai)
  • bassa (al più una volta all’anno)
  • media (al più quattro volte all’anno)
  • alta (una o due volte al mese)
  • molto alta (ogni giorno o quasi sempre).

La valutazione è fatta sulla base delle informazioni note sull’Evento e sul sistema informatico, nostro caso il modello IA in ambito, la sua configurazione, i suoi modi d’uso, i suoi utenti ecc.

Conviene fare un paio di esempi considerando come componente IA un Large Language Model, ovvero ad esempio un ChatBot basato su un LLM. Si consideri un’applicazione esposta in Internet con registrazione per l’accesso pressoché libera; a priori quindi chiunque può registrarsi e accedere all’applicazione basata sul LLM.

Si consideri come Evento un attacco di “Prompt Injection”: solo sulla base delle notizie giornalistiche e degli articoli scientifici su questo tipo di attacchi, è possibile valutare qualitativamente che la Probabilità di Accadimento è Molto Alta.

Si consideri ora un altro modello IA addestrato con dati sintetici, generati unicamente all’interno dell’azienda, da personale interno, qualificato e molto limitato in numero. In questo caso un Evento di attacco di “Training Data Poisoning” sarà, sempre qualitativamente, molto poco probabile e quindi con Probabilità di Accadimento Molto Bassa.

Viceversa, se il modello IA è addestrato con dati scaricati con Bot da Internet e direttamente passati al modello per l’addestramento, la Probabilità di Accadimento di un Evento di attacco di “Training Data Poisoning” potrà anche essere Alta o anche Molto Alta.

Va ricordato che l’approccio adottato per la valutazione dei rischi suppone che la valutazione della Probabilità di Accadimento sia indipendente dalla presenza di Misure di Mitigazione. In altre parole, va fatta una per quanto possibile chiara distinzione tra Evento, la sua Probabilità di Accadimento, l’Impatto che l’Evento ha in caso di suo accadimento e le Misure di Mitigazione del rischio già presenti, valutando per quanto possibile in maniera indipendente gli ultimi tre fattori.

In particolare è alle volte difficile valutare quali siano le Misure di Mitigazione del rischio da considerare. Conviene ragionare su un esempio semplice: si consideri un’applicazione non esposta in Internet.

Tipicamente l’applicazione è eseguita su un server (fisico o virtuale) sulla rete aziendale (on-premises o in-cloud) che è separata da Internet da uno o più firewall che non permettono l’accesso da Internet all’applicazione. Nella valutazione dei rischi in considerazione, la non-esposizione in Internet è una caratteristica dell’applicazione, e non (formalmente) una Misura di Mitigazione del rischio, anche se questa caratteristica è in pratica realizzata da uno o più firewall.

Nella valutazione del rischio si dà quindi per scontato che la non-esposizione in Internet porti un rischio già valutato e accettato. D’altra parte, se si considera un’applicazione esposta in Internet si può ridurre parte del rischio eliminando l’esposizione in Internet; così facendo alcuni Eventi non saranno più applicabili (o più precisamente, la loro probabilità di accadimento sarà nulla o quasi) e alcune specifiche Misure di Mitigazione non saranno più strettamente necessarie, quale ad esempio l’utilizzo di Web Application Firewall.

Questo si collega a un’altra considerazione che deve essere fatta quando si considera la probabilità di accadimento degli eventi, ovvero la valutazione di eventi che vanno sotto il nome di “Black Swan”.

Come già indicato, l’avvio di una valutazione dei rischi richiede di identificare i possibili eventi nocivi, tra questi possono esserci eventi con bassissima Probabilità di Accadimento ma con altissimo Impatto potenziale.

Ad esempio, nel caso appena citato di un’applicazione non esposta in Internet, l’Evento Black Swan potrebbe essere la contemporanea compromissione di tutti i sistemi di segregazione della rete interna da Internet e la conseguente esposizione in Internet delle applicazioni aziendali.

O nel caso di un Datacenter e il suo Datacenter di Disaster Recovery, un guasto contemporaneo all’alimentazione o all’impianto di raffreddamento o alla rete di connettività che rende indisponibili entrambi allo stesso tempo.

In molti casi, come nei semplici esempi appena indicati, eventi Black Swan sono dati dall’avverarsi contemporaneamente di più Eventi semplici oggetto dell’analisi dei rischi e da questi ne può essere fatta un’analisi sia della Probabilità di Accadimento sia dei possibili Impatti.

Valutazione degli Impatti su Riservatezza, Integrità e Disponibilità nei Modelli di Intelligenza Artificiale: Classificazione e Rischi di Abuso

La valutazione degli Impatti che un Evento può avere deve essere sempre svolta considerando diversi aspetti o dimensioni di valutazione: quelli più comuni sono gli impatti economici, quelli d’immagine e quelli di conformità legislativa, a standard e certificazioni.

Per procedere alla valutazione dell’Impatto potenziale che un Evento può avere (in assenza di Misure di Mitigazione), è conveniente classificare gli Eventi secondo il tipo di impatto che potrebbero avere, ovvero se possono impattare Riservatezza, Integrità e Disponibilità (RID, in Inglese CIA) delle informazioni e/o del servizio informatico, o costituire un Abuso del sistema [Rif. 3].

Per una tradizionale applicazione informatica, un Abuso può verificarsi nel caso di utilizzo di funzionalità esistenti da parte di chi non ne è autorizzato (violazione dell’Integrità del sistema di autorizzazione dell’applicazione) o in violazione della licenza d’uso. Questo perché tutte le funzionalità e i possibili dati prodotti sono decisi, progettati e implementati dai programmatori; in altre parole, ogni dato prodotto dell’applicazione è previsto in fase di progettazione e quindi, almeno teoricamente, già noto.

Invece per i modelli IA Generativi, per loro stessa natura, vi è un ulteriore caso di Abuso quando il modello IA è utilizzato per generare dati non previsti dai programmatori e/o in violazione degli scopi dell’addestramento del modello, senza però violarne le caratteristiche RID.

Seguendo anche [Rif. 4], vengono qui considerati Eventi specifici per i modelli IA/ML che possono impattare le informazioni e/o il servizio informatico che le gestisce, organizzati secondo la caratteristica che potrebbero violare, tra Disponibilità, Integrità, Abuso e Riservatezza.

Impatto degli Attacchi e Malfunzionamenti sulla Disponibilità dei Modelli IA/ML: Rischi e Vulnerabilità

I modelli IA/ML possono essere oggetti a violazioni della loro Disponibilità con specifici attacchi o malfunzionamenti. A parte la violazione del codice con l’inserimento di back/trap-door, specifici Eventi per i modelli IA/ML possono far decadere le loro prestazioni sino a violare i livelli di Disponibilità previsti.

Come primo esempio, si considerino modelli IA/ML utilizzati in un veicolo a guida autonoma, alcuni di questi devono valutare dati provenienti dai sensori esterni in brevissimo tempo e fornire indicazioni per la guida del veicolo. Ma è possibile che per particolari dati sui quali non sono stati specificamente addestrati, questi modelli possano impiegare più tempo del previsto per svolgere le analisi.

Va ricordato che i modelli IA/ML sono addestrati su un campione di dati e non su tutti i dati possibili per cui il programmatore non può valutare a priori i tempi di esecuzione dei programmi su tutti i possibili dati in ingresso. Quello che può accadere è che il modello IA/ML non fornisca i dati nei tempi previsti, ovvero che i dati non siano disponibili nelle tempistiche previste.

L’impatto di un ritardo nella generazione dei dati può dipendere dalla quantità del ritardo; si possono quindi considerare diversi Eventi a seconda della possibile durata del ritardo nella produzione dei dati.

Un altro Evento di cui valutare il possibile Impatto, è che il modello IA/ML non sia in grado di identificare e processare i dati in ingresso producendo un risultato valido.

Ad esempio nel caso di un’immagine, il modello potrebbe non essere in grado di distinguere se è presente un cartello stradale, un’automobile o un albero, dando uguale probabilità a tutti i tre oggetti, anche se l’elaborazione è fatta nei tempi previsti.

Questo è un caso un po’ particolare di mancanza di Disponibilità, in quanto l’applicazione è disponibile, mentre quello che non è disponibile è il risultato dell’elaborazione. Un evento paragonabile per un’applicazione non IA è il caso che un errore di programmazione blocchi l’esecuzione dell’applicazione producendo al più un risultato nullo o un messaggio di errore.

Spesso l’addestramento dei modelli IA/ML, in particolare quelli più avanzati e complessi, viene esteso e integrato con nuovi dati ad esempio per migliorarne il comportamento, eliminare “Adversarial Examples” e aggiungere nuovi dati e informazioni.

L’estensione e integrazione dell’addestramento di un modello IA/ML può anche far dimenticare informazioni precedentemente imparate, e in casi estremi anche peggiorare le prestazioni di elaborazione del modello IA/ML. Quindi anche un Evento di estensione dell’addestramento può essere causa di un Impatto sulla Disponibilità di un modello IA/ML.

I precedenti tipi di Eventi sono principalmente dovuti sia all’architettura del modello IA/ML sia al processo e ai dati utilizzati per il suo addestramento. Sono però possibili anche attacchi ai modelli IA/ML, in particolare a quelli Generativi e ai Large Language Model, allo scopo sia di rallentare l’esecuzione del modello sino a quasi fermarne completamente l’elaborazione, sia di aumentare i consumi energetici in quanto i server su cui il modello è eseguito utilizzano tantissime risorse per l’elaborazione di una singola richiesta.

Questo può essere ottenuto con la preparazione ed esecuzione di specifiche richieste (“Query”) al modello costruite ad arte per poterne abusare. Questi tipi di attacco fanno anche parte degli attacchi di Abuso chiamati “Prompt Injection” o “Adversarial Prompting” [Rif. 5], ma sono qui considerati in quanto lo scopo di questi attacchi è di violare la Disponibilità del modello IA/ML [Rif. 6], per questo sono anche chiamati attacchi di tipo “AI Model DoS”.

Infine vanno anche considerati specifici Eventi relativi ai modelli IA/ML con funzionalità di tipo “Retrieval Augmented Generation (RAG)” [Rif. 7], ovvero che possono accedere a banche dati esterne, tra cui anche l’intero Internet, per integrare i dati con cui sono stati addestrati con informazioni puntuali, di dettaglio e aggiornate.

Tipicamente i dati provenienti dalle banche dati esterne sono pre-elaborati e aggiunti alla richiesta (“Query”) dell’utente per essere utilizzati come informazioni di contesto dal modello IA/ML. L’utilizzo di dati esterni può anche diventare un canale di attacco, anche solo involontario, al modello ottenendo effetti simili a quelli appena descritti per gli Eventi di “AI Model DoS”.

Violazioni dell’Integrità nei Modelli IA/ML: Attacchi Adversariali, Allucinazioni e Avvelenamento dei Dati

In una usuale applicazione informatica la violazione dell’Integrità dei dati (informazioni o codice) comporta la produzione di risultati errati sia come risultato di una elaborazione sia come semplice produzione dei dati archiviati.

Per i modelli IA/ML è possibile considerare come violazione della “Integrità” eventi in cui il risultato dell’elaborazione è errato. Quindi per i modelli IA/ML associamo al concetto di violazione dell’Integrità più che la violazione di dati quali informazioni archiviate o codice dell’applicazione, il risultato di questa violazione, ovvero il produrre risultati errati.

Gli Eventi, sia involontari che attacchi volontari, detti di Evasione e anche chiamati “Adversarial Attacks” o “Adversarial Examples”, sono forse quelli più specifici dei modelli di Machine Learning. Questi sono principalmente dovuti al processo di apprendimento dei modelli stessi e al modo in cui le informazioni apprese vengono utilizzate dai modelli durante la loro esecuzione.

In pratica sono Eventi in cui il modello sbaglia completamente su dati di ingresso molto simili a quelli di addestramento [Rif. 8]. Esempi famosi sono i cartelli stradali di stop con uno sticker giallo riconosciuti come cartelli di limite di velocità, o montature di occhiali, cappelli, trucco per il viso che portano il modello a riconoscere una persona per un’altra. Gli Impatti di un Evento di Evasione possono essere molto significativi e devono essere considerati attentamente nella valutazione dei rischi Cyber di un’applicazione IA/ML.

Altri Eventi specifici per i modelli Generativi / LLM sono chiamati Allucinazioni (o “Confabulation”) sono dovuti al fatto che questi modelli possono produrre risultati che sembrano assolutamente reali o realistici (hanno un’alta probabilità di assomigliare alla realtà derivante dai dati di addestramento), ma in realtà sono del tutto falsi, inappropriati o pericolosi. Negli ultimi due anni, sono stati riportati dagli organi di informazioni molti casi, alcuni anche clamorosi, di Eventi di Allucinazione dei modelli Generativi / LLM più famosi, a partire da ChatGPT, Bard ecc.

Altri tipi di Eventi più tradizionali di violazione dell’Integrità ma sempre molto significativi per i modelli IA/ML sono quelli di “Avvelenamento” del codice o dei dati di addestramento. In entrambi i casi si tratta di Eventi di modifica volontaria (cioè attacchi) o involontaria del codice del modello IA/ML o dei suoi dati di addestramento.

In particolare, la maggior parte dei modelli IA/ML più avanzati ha la necessità di utilizzare grandi quantità di dati di addestramento di cui è quindi difficile verificare la qualità e sicurezza; un loro “Avvelenamento” può far sì che il modello produca, almeno in alcune situazioni, risultati diversi da quelli attesi e per i quali è stato programmato, violando appunto l’Integrità di quanto prodotto.

Abuso dei Modelli IA Generativi: Rischi di Utilizzo Improprio e Impatti su Sicurezza e Conformità

Come indicato precedentemente, un Evento di Abuso per i modelli IA Generativi consiste in un utilizzo (tipicamente volontario) del modello allo scopo di ottenere risultati non previsti dai programmatori e/o in violazione degli scopi dell’addestramento del modello.

Esempi semplici, se non banali, sono la produzione da parte del modello di codice di Malware, di testi di Phishing, di Fake News, di istruzioni per la preparazione di ordigni o per la realizzazione di eventi malevoli quali attentati, rapine o furti, ma anche la generazione di immagini, video, audio in violazione di Copyright ecc.

Questi Eventi possono produrre Impatti di immagine, di conformità ma anche economici nel caso di violazione di diritti altrui ed è quindi necessario valutarne sia la Probabilità di accadimento (potrebbe anche essere nulla per certi tipi di modelli IA/ML) e i possibili Impatti.

Si possono includere tra gli Abusi, anche se dovuti direttamente al modello IA/ML stesso e non ad un uso improprio da parte di un utente finale, Eventi in cui modelli con funzionalità di tipo RAG sono in grado di eseguire azioni ad esempio su altre applicazioni raggiungibili in Internet, non previste e non lecite, quali attacchi a siti web per estrarne informazioni non direttamente accessibili [Rif. 9].

Violazioni della Riservatezza nei Modelli IA/ML: Attacchi di Estrazione e Ricostruzione dei Dati di Addestramento

L’analisi degli Eventi che possono violare la riservatezza delle informazioni elaborate da un modello IA/ML è quella più simile al caso di una applicazione informatica non IA/ML. Vi sono alcune sorgenti di informazioni che possono essere riservate: i dati di addestramento, l’architettura, il disegno e il codice del modello, i dati degli utenti che utilizzano il modello ma che non sono utilizzati per addestrare il modello stesso.

Dal punto di vista di un’analisi dei rischi specifica per i modelli IA/ML, l’unico tipo di Eventi realmente rilevante è quello che riguarda i dati di addestramento, utilizzati sia nelle fasi di pre-training che nelle fasi di fine-tuning, elaborati e memorizzati dal modello stesso. I principali Eventi che possono violare la Riservatezza delle informazioni in questo caso sono gli attacchi di Estrazione e Ricostruzione.

Questi attacchi sfruttano delle debolezze o vulnerabilità dei modelli IA/ML per estrarre dati riservati tramite l’utilizzo del modello stesso. Questo è possibile perché all’interno di un modello ML non è possibile, almeno ad oggi, implementare un sistema di controllo accessi alle informazioni, e quindi un attaccante può provare a formulare delle “Query” in modo tale da ottenere come risultato dell’elaborazione informazioni sui dati di addestramento o sulla struttura stessa del modello, e in alcuni casi di ottenere i dati stessi.

Con maggiori difficoltà, questo è possibile anche per i modelli di ML più semplici quali quelli di “Classificazione” in cui un attaccante può sottoporre al modello dei dati in ingresso così preparati da poter dedurre dalle risposte del modello se un certo dato è stato utilizzato per l’addestramento del modello stesso (questi attacchi sono chiamati di “Membership Inference”).

Strategie di Mitigazione dei Rischi Cyber nei Modelli IA/ML: L’Importanza di Governance, Formazione e Controlli Operativi

In questo articolo non sono trattate in dettaglio possibili misure di mitigazione dei rischi specifici alle applicazioni IA/ML.

È utile comunque sottolineare che forse più delle misure tecniche di sicurezza applicabili ai modelli IA/ML stessi, oggi sono forse più importanti e più efficaci misure di sicurezza di governo, processo, utilizzo e gestione di queste tecnologie. Queste includono la formazione e informazione degli amministratori IT e degli utenti sulle reali caratteristiche, potenzialità, funzionalità e rischi di utilizzo di queste tecnologie.

In altre parole, il solo fatto che tipicamente i risultati prodotti da modelli IA/ML siano elaborazione probabilistiche sulla base dei soli dati di addestramento utilizzati e non risultati esatti, decisi da chi ha disegnato l’applicazione, richiede un diverso approccio degli utenti al loro utilizzo.

D’altra parte gli sviluppatori che le programmano e gli amministratori IT che le gestiscono devono introdurre misure di sicurezza spesso esterne ai modelli IA/ML quali ad esempio filtri sui dati in ingresso e verifiche di qualità sui dati prodotti.

Il Ruolo della Supply Chain nella Valutazione dei Rischi Cyber per l’Utilizzo di Modelli IA/ML Avanzati: Sfide e Impatti delle Terze Parti

Per concludere questa breve presentazione di un possibile approccio alla valutazione dei “Rischi Cyber” dovuti a un eventuale utilizzo dei più recenti e avanzati modelli di Intelligenza Artificiale e Machine Learning, deve essere evidenziato e considerato il ruolo e il possibile impatto di terze parti e in generale della Supply Chain.

Per molti aspetti il paradigma informatico dei modelli IA/ML è molto diverso da quello di una tradizionale applicazione informatica e richiede personale con specifiche competenze per la loro creazione e gestione. Dato il rapidissimo sviluppo di queste tecnologie nell’ultimo paio di anni, è comune che all’interno delle aziende non vi siano ancora né specifiche competenze tecniche, né sensibilità del personale per comprendere le proprietà, utilizzare correttamente e valutare i rischi derivanti dall’uso di modelli IA/ML. Questo facilmente porta ad affidarsi a terze parti senza però essere in grado di valutare i possibili impatti e rischi che ne possono derivare.

Il problema è ancora più complesso in quanto ad oggi il numero di fornitori di queste tecnologie che sono all’avanguardia sono relativamente pochi, e può capitare che un servizio applicativo erogato in Internet (o “Cloud”) basato o che include tecnologie IA/ML avanzate come quelle dei modelli Predittivi, Generativi, “General Purpose” e “Large Language Models” (LLM), in realtà abbia come terza parte che fornisce integralmente la tecnologia IA/ML uno dei maggiori fornitori quali Amazon, Google, Meta, Microsoft, OpenAI ecc. La catena di fornitura, o Supply Chain, è spesso lunga e le competenze tecniche in ambito AI/ML possono risiedere all’estremo opposto della catena rispetto all’utilizzatore, e quindi difficili da verificare e valutare.

L’esempio più semplice da considerare è quello della gestione dei dati di addestramento. Per valutare i rischi derivanti dall’utilizzo di un’applicazione di Machine Learning erogata da un fornitore, bisogna comprendere su quali dati è addestrato il modello. Infatti un modello ML potrebbe essere addestrato utilizzando dati direttamente scaricati da Internet o, più probabilmente, forniti da una terza parte specializzata nella loro raccolta e preparazione.

Bisognerebbe comprendere quali procedure sono state adottate per garantire non solo la qualità dei dati, ma anche l’eticità, l’assenza di copyright o restrizioni sul loro uso, le misure di sicurezza adottate per evitare che un attaccante sia in grado di avvelenare i dati di addestramento per propri scopi che possono includere anche un attacco all’azienda che utilizza il servizio. Inoltre bisognerebbe sapere se tra i dati di addestramento sono utilizzate anche informazioni dei propri concorrenti, se sono utilizzati dati pubblici della propria azienda, se sono utilizzati i dati inviati dal personale aziendale all’applicazione nel corso del suo utilizzo (genericamente chiamati dati delle “Query”), ecc.

La complessità e al contempo novità di questa Supply Chain può quindi rendere ancora più complessa la valutazione dei Rischi Cyber connessi all’utilizzo dei più avanzati modelli di Intelligenza Artificiale e Machine Learning.

Riferimenti

[1] Quella presentata è solo una tra le più comuni metodologie di calcolo dei rischi, un altro approccio alle volte adottato per la valutazione dei rischi in informatica è quello proposto da OWASP con la “OWASP Risk Rating Methodology”

https://owasp.org/www-community/OWASP_Risk_Rating_Methodology

[2] si veda anche “Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal”, https://arxiv.org/abs/2403.13309v1

[3] NIST AI 100-2 “Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”, https://csrc.nist.gov/pubs/ai/100/2/e2023/final

[4] OWASP, “OWASP Top 10 for Large Language Models”, https://genai.owasp.org/ ; si veda anche A. Pasquinucci, “Attacchi ai Modelli di Intelligenza Artificiale”, https://www.ictsecuritymagazine.com/articoli/attacchi-ai-modelli-di-intelligenza-artificiale/

[5] Per una breve introduzione si veda “Prompt Injection Attacks in Large Language Models”, SecureFlag, https://blog.secureflag.com/2023/11/10/prompt-injection-attacks-in-large-language-models/

[6] I. Shumailov, Y. Zhao, D. Bates, N. Papernot, R. Mullins, R. Anderson , “Sponge Examples: Energy-Latency Attacks on Neural Networks”, https://arxiv.org/abs/2006.03463

[7] Per una breve introduzione si veda ad esempio A. Kumar, “Retrieval Augmented Generation (RAG) & LLM”, https://vitalflux.com/retrieval-augmented-generation-rag-llm-examples/

[8] A. Pasquinucci, “Adversarial Attacks a Modelli di Machine Learning”, White Paper, ICT Security Magazine, https://www.ictsecuritymagazine.com/pubblicazioni/adversarial-attacks/

[9] R. Fang, R. Bindu, A. Gupta, Q. Zhan, D. Kang, “LLM Agents can Autonomously Hack Websites”, https://arxiv.org/abs/2402.06664 ; R. Fang, R. Bindu, A. Gupta, D. Kang, “LLM Agents can Autonomously Exploit One-day Vulnerabilities”, https://arxiv.org/abs/2404.08144

Articolo a cura di Andrea Pasquinucci

Profilo Autore

PhD CISA CISSP
Consulente freelance in sicurezza informatica: si occupa prevalentemente di consulenza al top management in Cyber Security e di progetti, governance, risk management, compliance, audit e formazione in sicurezza IT.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/valutare-i-rischi-cyber-al-tempo-dellintelligenza-artificiale/




AI generativa, si può manomettere in 4 secondi con tecniche di jailbreaking. Sotto attacco le infrastrutture critiche

Cresce l’utilizzo della gen AI e aumentano i rischi per la sicurezza

L’intelligenza generativa (gen AI) è sotto attacco. I gruppi di cyber criminali hanno preso di mira da tempo questa tecnologia che ormai ha raggiunto un elevato livello di diffusione ed utilizzo.

Secondo un’indagine della Banca Mondiale, solo nei mesi da gennaio a marzo di quest’anno, le prime 40 piattaforme di AI generativa hanno contato più di 3 miliardi di visite mensili da parte di centinaia di milioni di utilizzatori su scala planetaria.

Prendendo come esempio il più popolare, forse, tra i tool di AI generativa, ChatGPT ha registrato due miliardi di visite e 500 milioni di utilizzatori nel periodo di tempo considerato.

Basti pensare che dai primi di settembre, Volkswagen ha annunciato l’integrazione di un assistente vocale AI migliorato, denominato IDA, nei suoi veicoli, con risposte elaborate sia localmente che tramite il cloud, utilizzando ChatGPT e altri modelli.

Un successo straordinario e un’altrettanta straordinaria diffusione nell’utilizzo di queste tecnologie in numerosi ambiti, che certamente non è passato inosservato. I cyber criminali colpiscono un gran numero di bersagli, in particolare quelli dove c’è maggior possibilità di fare bottino, cioè i più famosi ed utilizzati.

Assalti jailbreaking

Secondo il Report “State of Attacks on GenAI“ di AI Pillar Security, le soluzioni di AI generativa sono sempre più spesso vittima di attacchi portati con tecniche di jailbreaking.

Oggi in soli 4 secondi è possibile manomettere questi servizi, aggirando le pur elevate misure di sicurezza ed effettuando l’attacco in qualsiasi lingua l’AI sia stata addestrata.

La gran parte degli assalti arrivano a bersaglio in un tempo medio di 42 secondi. Il tasso di successo è superiore al 20%.

Nel 90% dei casi si registrano sottrazioni di dati sensibili.

Con il termine jailbreaking si indica lo sfruttamento dei difetti di un dispositivo elettronico bloccato (inizialmente una tecnica sfruttata dagli stessi proprietari per manipolare l’iOS Apple) allo scopo di installare software diverso da quello fornito dal produttore per tale dispositivo

Le tecniche di jailbreaking più utilizzate

Diversi gli strumenti impiegati per portare gli assalti alle piattaforme di gen AI. Ad esempio il Report ne individua tre in particolare: “Ignore Previous Instructions”, “Strong Arm Attack” e “Base64”.

Nel primo caso, “Ignora le istruzioni precedenti”, si iniettano prompt che vanno a bypassare la programmazione iniziale favorendo così la violazione delle misure di sicurezza che impediscono di generare contenuti dannosi o illeciti.

Gli attacchi “Strong Arm” permettono a chi attacca di immettere una grande quantità di richieste atte a forzare il modello per superare sempre la programmazione iniziale e riuscire così a produrre output che altrimenti sarebbero subito bloccati, tra cui informazioni sensibili, azioni non autorizzate, fino alla compromissione del sistema stesso.

Nell’altro caso, infine, l’aggressore codifica i propri prompt dannosi con lo schema detto “Base64”. Ciò può ingannare il modello dei gen AI in modo che decodifichi ed elabori contenuti che normalmente verrebbero bloccati dai suoi filtri di sicurezza, tra cui codici dannosi o istruzioni per estrarre informazioni sensibili dall’organizzazione.

Servizi e infrastrutture critiche nel mirino degli attacchi

I cyber criminali prendono soprattutto di mira i servizi di assistenza, come nel settore finanziario e bancario, “a causa del loro utilizzo diffuso e del coinvolgimento diretto del cliente”, si legge nei commenti ai dati.

Non solo, negli ultimi sei mesi si è assistito ad un incremento sensibile degli attacchi jailbraking alle infrastrutture critiche, soprattutto software impiegati in ingegneria, nelle telecomunicazioni, settore energetico e come abbiamo visto sempre di più anche in quello automotive, ampliando notevolmente la portata dei rischi per imprese e utilizzatori finali.

Non è difficile capire perché, visto che manipolare una gen AI significa mettere a repentaglio il funzionamento di reti elettriche o idriche, e pipeline di gas naturale, per fare in esempio.

Più in generale, questa tipologia di cyber minacce è in grado di arrecare gravi danni ad aziende e infrastrutture critiche, con violazione della sicurezza, perdita di dati sensibili, danno alla reputazione, perdite finanziarie e complicazioni legali.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-generativa-si-puo-manomettere-in-4-secondi-con-tecniche-di-jailbreaking-sotto-attacco-le-infrastrutture-critiche/507468/




G7 Privacy, Stanzione: “Impedire che lo Stato di diritto sia sostituito dall’algocrazia”

Con l’intervento del Presidente del Garante per la protezione dei dati, Pasquale Stanzione, si sono aperti oggi a Roma i lavori del G7 Privacy.  Il tema dell’incontro “La privacy nell’era dei dati” vedrà impegnati il Collegio del Garante italiano e le Autorità competenti di Canada, Francia, Germania, Giappone, Regno Unito e Stati Uniti d’America, insieme al Comitato europeo della protezione dei dati (EDPB) e al Garante europeo della protezione dei dati (EDPS).

       “La protezione dei dati – ha affermato Pasquale Stanzione – è sempre più anche pre-condizione di ogni altro diritto o libertà, perché in una realtà sempre più “datificata”, in cui siamo ciò che “internet dice che siamo”, la tutela dei dati è il fondamento dell’autodeterminazione, del libero sviluppo della propria personalità. Ma è anche presupposto di eguaglianza, perché incompatibile con ogni forma di discriminazione e reale garanzia di pari chances per ciascuno”.

       “E questo ancor più nell’era dell’i.a. e del dominio degli algoritmi – ha sottolineato Stanzione – che se da un lato offrono straordinarie possibilità di sviluppo e progresso anzitutto sociale, dall’altro esigono tuttavia una regolamentazione adeguata, per impedire che lo Stato di diritto sia sostituito dall’algocrazia”.

       “La protezione dei dati – ha continuato – è tra i diritti fondamentali, quello che maggiormente necessita di una vocazione internazionalista. La logica delle “piccole patrie” non si attaglia certo a un diritto che si esercita, più di altri, in una realtà aterritoriale come internet e che, come tale, esige regole e garanzie il più possibile omogenee tra i vari Paesi. Per questo bisogna promuovere il confronto tra ordinamenti e coltivare l’aspirazione, quantomai attuale, al riconoscimento universale della protezione dei dati come diritto umano fondamentale”.

       “Per questo siamo oggi qui – ha concluso Stanzione – per riflettere, confrontando le esperienze di ciascun Paese, sulle sfide che il diritto alla protezione dei dati incontra nella complessità del presente e nelle prospettive future”.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/g7-privacy-stanzione-impedire-che-lo-stato-di-diritto-sia-sostituito-dallalgocrazia/507447/




G7 Salute. Per l’accesso a cure e cibo di qualità, anche grazie a telemedicina e AI

Il G7 Salute ad Ancona (10-11 ottobre)

Parte oggi la ministeriale della Salute dei Paesi del G7, che proseguirà ad Ancona anche domani e dopodomani. I lavori saranno presieduti dal ministro della Salute, prof. Orazio Schillaci, e vedranno la partecipazione dei ministri degli Stati membri del G7, il Commissario europeo per la salute e la sicurezza alimentare, i ministri della Salute dei Paesi ospiti (Albania, Brasile, India, Sudafrica e Arabia Saudita), oltre ai rappresentanti di organizzazioni internazionali quali la FAO, l’OMS e l’OCSE.

Al centro dei tavoli di confronto la necessità di individuare nuove strategie dirette ad affrontare adeguatamente le crisi e le sfide attuali, che hanno gravi costi sociali ed economici, contrastando le disuguaglianze e promuovendo la salute come valore e punto di forza delle nostre società.

L’Italia punta il faro su telemedicina e AI

L’agenda affronterà ad esempio il tema della prevenzione lungo tutto l’arco della vita, a partire dalla fase prenatale, attraverso strategie di prevenzione e la promozione di stili di vita sani.

Focus particolare sui modelli alimentari sostenibili, al fine di contrastare l’obesità e le malattie cronico-degenerative e oncologiche e, allo stesso tempo, combattere la malnutrizione nei Paesi in via di sviluppo.

La Presidenza Italiana incoraggerà inoltre, l’utilizzo di soluzioni innovative, come la telemedicina e l’intelligenza artificiale (AI), volte a migliorare sia la qualità della vita che i servizi alla comunità attraverso un moderno approccio centrato sulla persona.

Attesa a fine ministeriale anche la produzione di un “Policy brief” sulle opportunità offerte dall’AI, sia per gli operatori sanitari, sia per i pazienti.

L’ospedale virtuale italiano gestito con l’AI

In occasione di un evento Extra G7 ad Ancona, dal titolo “Intelligenza artificiale in Sanità. Stato dell’arte e progetti applicativi per una migliore cura della popolazione“, è stato presentato l’ospedale virtuale gestito con l’AI.

Una tecnologia che in ambiente ospedaliero tonerà utile per monitorare a distanza i parametri vitali del paziente, fare diagnosi in tempo reale per interventi tempestivi, per gestire molte patologie croniche e acute senza un ricovero. Tra i casi di applicazione concreta, il triage virtuale per il dolore toracico, per ridurre gli accessi ai pronto soccorso con una valutazione tramite avatar digitali; l’uso di elettrocardiografi miniaturizzati, dotati di IA, per esami in casa dei pazienti tramite guida virtuale di assistente medico.

Come riportato dall’Ansa, il ministro Schillaci ha poi spiegato che “L’AI sta mostrando le sue potenzialità in diversi ambiti: diagnosi più accurate, terapie più mirate, razionalizzazione delle priorità mediche” e che la “digitalizzazione è una leva fondamentale per promuovere una sanità di prossimità e superare le diseguaglianze“.

“Telemedicina e teleassistenza aprono nuove prospettive per un’assistenza più accessibile e personalizzata, diminuendo i tempi d’attesa ed eliminando i disagi legati agli spostamenti“, ha continuato il ministro, “senza compromettere il rapporto diretto e personale paziente-medico“.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/g7-salute-per-laccesso-a-cure-e-cibo-di-qualita-anche-grazie-a-telemedicina-e-ai/507284/