FedEx utilizza l’AI dopo il licenziamento di 22mila dipendenti
Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..
FedEx ha avviato una profonda trasformazione attraverso l’adozione di un modello AI innovativo, con l’obiettivo di sostituire molte delle attività tradizionalmente svolte dai dipendenti umani.
Dopo aver licenziato 22.000 lavoratori nell’ultimo anno, FedEx ha introdotto la piattaforma AI denominata ‘Shipment Eligibility Orchestrator’, un motore decisionale in continua evoluzione che impiega il machine learning per ottimizzare la gestione delle spedizioni in tempo reale.
Questo strumento consente a FedEx di assegnare in modo dinamico le spedizioni a corrieri specializzati, in particolare per consegne urgenti e legate alla sanità. Inoltre, è stato testato con successo il sistema ‘Hold-to-Match’, che riduce i costi di consegna dell’ultimo miglio, consolidando più pacchi destinati allo stesso indirizzo.
<!-- ARUBA - 300x250 -->
Questa iniziativa si inserisce nel più ampio progetto ‘Network 2.0’, un programma pluriennale volto a migliorare l’efficienza della catena logistica globale di FedEx, riducendo i costi di prelievo e consegna di circa il 10% nei mercati di Stati Uniti e Canada.
Nonostante i progressi tecnologici, FedEx ha riportato un calo dei ricavi nel primo trimestre del 2025, a causa della minore domanda e della preferenza crescente dei clienti per servizi più economici.
IBM licenzia migliaia di dipendenti in silenzio, afferma una fonte
IBM ha recentemente avviato una serie di licenziamenti che hanno colpito migliaia di dipendenti, concentrandosi principalmente su programmatori senior, vendite e supporto.
Questi tagli sono avvenuti in modo discreto, con i manager vincolati da accordi di non divulgazione. L’azienda aveva precedentemente annunciato di voler ribilanciare la forza lavoro con un costo stimato di 400 milioni di dollari.
Nonostante ciò, IBM ha mantenuto la previsione di concludere l’anno con livelli occupazionali simili a quelli iniziali. Un aspetto rilevante di questa operazione è il ruolo dell’AI: il CEO Arvind Krishna ha dichiarato che IBM prevede di sostituire circa 7.800 posti di lavoro con l’AI, sebbene non sia stato specificato un lasso di tempo preciso.
Questo sottolinea l’intento dell’azienda di implementare sempre più soluzioni di intelligenza artificiale per ottimizzare la forza lavoro, riducendo i costi e aumentando l’efficienza. Il trasferimento di alcune posizioni in India è parte della strategia globale di IBM per ridurre le spese operative.
Scornajenchi: l’intelligenza artificiale è una svolta, così cambia la finanza nelle aziende
L’intelligenza artificiale (AI) sta rivoluzionando i dipartimenti di finanza e controllo delle aziende, consentendo di automatizzare processi che fino a poco tempo fa richiedevano intervento umano. In un’intervista, Scornajenchi sottolinea come le grandi aziende americane, come Amazon, stiano già implementando algoritmi per gestire interamente la pianificazione e il controllo finanziario.
Questa trasformazione consente una capacità di calcolo superiore, permettendo alle macchine di elaborare autonomamente una serie di operazioni complesse, riducendo i tempi e migliorando l’efficienza.
Con l’adozione di AI, i bilanci aziendali non verranno più elaborati manualmente, ma generati da algoritmi in grado di interpretare e calcolare con precisione i dati finanziari. La finanza aziendale si trova quindi di fronte a un cambiamento epocale, in cui l’automazione sarà sempre più integrata nei processi decisionali.
Questa trasformazione non solo migliora l’efficienza operativa, ma consente anche una maggiore trasparenza e precisione nei risultati finanziari. Tuttavia, resta il dibattito su come questa tecnologia influenzerà l’occupazione nei settori finanziari e su quale sarà il ruolo dell’uomo in un contesto sempre più automatizzato.
L’AI a supporto della crescita delle abilità per la Data Driven Governance
Il confronto avvenuto in questi mesi nell’ambito del progetto del Digital Innovation Hub ER2Digit, ha portato in evidenza un forte interesse nell’autovalutazione delle abilità che la PA può maturare nel suo percorso verso un uso sempre più consapevole dei dati che ha a disposizione.
In questo il Capability Maturity Model (CMM), lo strumento utilizzato per valutare e migliorare la gestione dei processi all’interno delle organizzazioni, può essere d’aiuto. In più, la riflessione maturata durante gli incontri di coinvolgimento degli Enti è che l’intelligenza artificiale (AI) può sostenere la progressione tra i diversi livelli del CMM fornendo i propri algoritmi per migliorare l’efficienza, la precisione e l’autonomia nella governance dei dati.
Infatti, alcuni algoritmi di AI possono aiutare a riconoscere automaticamente i dati, analizzare Big Data e definire politiche di governance dei dati. Inoltre, l’AI può automatizzare processi come la classificazione dei dati e il monitoraggio degli impegni, supportando la gestione delle risorse e l’ottenimento degli obiettivi.
<!-- ARUBA - 300x250 -->
L’adozione dell’AI nel processo di governance dei dati può aiutare le organizzazioni a raggiungere i livelli più alti del CMM, come il livello 5: ottimale.
In questo modo, si possono migliorare l’efficienza e la precisione della gestione dei processi, supportando la crescita e lo sviluppo dell’Amministrazione. Su questo ambito, nei prossimi mesi si concentreranno le azioni di coinvolgimento degli Enti in vista di un futuro bando, in cui tutti i settori delle attività di Test Before Invest di ER2Digit saranno sollecitati a portare un contributo di crescita.
AI nell’industria dei media, impiegata da sette aziende su dieci
Il Rapporto Ascendant sull’AI nell’industria dei media
Il 71% delle aziende del settore media sta già impiegando in maniera crescente soluzioni di intelligenza artificiale (AI) nella gestione dei contenuti, evidenziando l’importanza di questa tecnologia per migliorare l’efficienza, mentre nell’85% dei casi l’AI utilizza per lo sviluppo dei prodotti e di nuove funzionalità.
Questo il quadro generale restituito dal Rapporto Ascendant di Minsait (Indra) dal titolo “AI: radiografia di una rivoluzione in corso”, dedicato all’esame del livello di adozione dell’intelligenza artificiale nelle aziende private e nelle istituzioni pubbliche.
Come si utilizza l’AI e perchè
E sono diversi gli impieghi dell’AI nell’industria dei media in generale: dalla produzione di contenuti alla traduzione di testi, fino alla gestione dei documenti, per ottimizzare e innovare i processi operativi dei media tradizionali.
<!-- ARUBA - 300x250 -->
Un’industria che vede nell’AI uno strumento in grado di migliorare la gestione dei contenuti per la distribuzione personalizzata o l’ottimizzazione dei titoli (70%), la gestione della pubblicità per personalizzare le campagne e analizzarne le prestazioni (57%), l’aumento dell’efficienza operativa (54%), l’offerta di servizi e la conoscenza dei clienti, ottimizzando così i risultati aziendali (46%).
Dalla progettazione di servizi e contenuti alla gestione dei clienti
Non solo, perché consente di migliorare l’esperienza utente e incoraggia il consumo di nuovi contenuti audiovisivi, anche attraverso l’iper-personalizzazione della user experience.
Le aziende del settore impiegano l’AI soprattutto per progettare nuovi servizi e contenuti (43%), per migliorare la conoscenza e la gestione dei clienti (29%) e nel restante dei casi per stabilire strategie di pricing e identificare opportunità e minacce del mercato.
AI, media e nuove TV
L’evoluzione del televisore verso internet e lo streaming ha sancito, se non proprio la fine, un ridimensionamento epocale delle tradizionali pellicole da vedere nelle sale cinematografiche.
Per fare un esempio riportato in un articolo pubblicato sul nostro sito a firma di Edoardo Stigliani, poche settimane fa Google ha presentato il nuovo Google TV Streamer, destinato a prendere il posto occupato finora dalla Chromecast, il dispositivo che ha permesso di rendere “smart” anche TV che non lo erano ma avevano una presa HDMI libera. Tra le novità c’è proprio la presenza di una serie di funzionalità AI basate su Google Gemini, così come per gli altri apparecchi della gamma Nest per la smart home.
Il regista indiano Ram Gopal Varma abbandona i musicisti umani a favore della musica generata dall’AI
Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..
Il celebre regista indiano Ram Gopal Varma ha deciso di eliminare completamente i musicisti umani dalle sue produzioni cinematografiche, preferendo utilizzare esclusivamente musica generata da AI.
Varma, noto per film di successo come ‘Company’, ‘Rangeela’, ‘Sarkar’ e ‘Satya’, ha lanciato un’iniziativa chiamata RGV Den Music, che si avvarrà di applicazioni AI per creare le colonne sonore. Il regista sostiene che l’AI permette una produzione musicale più rapida e a costo zero, senza le complicazioni tipiche dei collaboratori umani, come ritardi e problemi di programmazione. Nel suo prossimo film ‘Saree’, la colonna sonora sarà completamente creata dall’AI.
Varma invita gli artisti a non opporsi all’uso dell’AI, poiché ritiene che il talento risieda nella capacità di indirizzare l’AI verso ciò che si desidera ottenere. Tuttavia, l’adozione crescente dell’AI nel settore creativo sta sollevando preoccupazioni per la perdita di posti di lavoro, con registi di alto profilo come Christopher Nolan che mettono in guardia contro la sostituzione dell’intuizione umana nella creazione artistica.
<!-- ARUBA - 300x250 -->
Varma prevede che i musicisti umani scompariranno gradualmente con l’avanzare delle tecnologie AI. Ha inoltre iniziato a collaborare con startup come Reclaim Protocol e Story Protocol per proteggere i diritti di proprietà intellettuale delle sue composizioni create dall’AI attraverso prove crittografiche.
Con l’AI, le celebrità decedute lavorano di nuovo—e guadagnano milioni
L’articolo esplora l’incredibile opportunità economica offerta dall’AI per le celebrità defunte, consentendo loro di continuare a “lavorare” post mortem e generare nuove fonti di reddito.
Aziende come ElevenLabs stanno utilizzando tecnologie avanzate di clonazione vocale e creazione di avatar digitali per far rivivere figure iconiche come James Dean, Judy Garland e persino Michael Jackson.
Queste tecnologie permettono di far narrare libri, film e persino eventi dal vivo a celebrità digitali, aumentando notevolmente le entrate per i loro patrimoni. I progetti alimentati dall’AI, come concerti virtuali e film, rappresentano una fonte crescente di guadagno per le tenute delle star, potenzialmente sostituendo le classiche entrate derivate da proprietà intellettuali.
Tuttavia, c’è un dibattito etico in corso sull’utilizzo dell’AI per “replicare” artisti, come dimostrano le controversie legate alla CGI in film recenti come Alien: Romulus. Alcuni manager, come Jeff Jampol, ritengono che l’uso dell’AI possa danneggiare la vera eredità di un artista. Al contrario, altri, come i creatori dello spettacolo ABBA Voyage, vedono un futuro brillante per questa nuova forma di intrattenimento virtuale.
Come l’intelligenza artificiale sta colpendo la forza lavoro creativa della Svizzera
In Svizzera, i lavoratori del settore creativo stanno subendo una significativa pressione a causa dell’introduzione dell’AI, con un impatto negativo su professioni come la scrittura, il design visivo e la programmazione.
La ricerca ha evidenziato che, solo otto mesi dopo il lancio di ChatGPT, circa il 20% dei posti di lavoro legati alla scrittura e alla codifica è scomparso, mentre quelli legati alla generazione di immagini hanno registrato un calo del 17%.
La situazione sta creando uno shock tecnologico, in particolare tra i freelance, che vedono le loro mansioni progressivamente sostituite da strumenti di AI. Molti lavoratori, come un’illustratrice che ha perso il suo lavoro, ritengono che l’AI abbia cambiato radicalmente il loro settore.
Nonostante ciò, alcune aziende negano di sostituire completamente il personale, limitandosi a utilizzare l’AI per aumentare l’efficienza. Mentre la Svizzera potrebbe trarre grandi benefici dall’integrazione dell’AI, con un aumento previsto del PIL fino all’11%, il destino della forza lavoro creativa rimane incerto. Molti sono costretti a riorientarsi verso settori meno soggetti all’automazione, a causa della crescente domanda di tecnologie generative e della diminuzione delle opportunità lavorative nel settore creativo.
Grandi e “registe”. Sono le nuove televisioni con l’AI
Rubrica settimanale SosTech, frutto della collaborazione tra Key4biz e SosTariffe. Per consultare gli articoli precedenti, clicca qui..
Vent’anni fa, gli americani guardavano i programmi allora più di moda – American Idol, la seconda stagione del successone Lost, o un’altra all’esordio, Grey’s Anatomy, che sembrava promettere bene – su un televisore in media di una trentina di pollici: da noi in Italia, anche meno.
Ora dispositivi con il triplo della diagonale sono sempre più comuni nelle case italiane, e abbordabili anche senza rinunciare a diverse mensilità di stipendio: schermi che, considerata la distanza solitamente abbastanza ridotta tra il divano e la parete di fronte, offrono in tutto e per tutto un’esperienza paragonabile a quella del cinema (e i popcorn si possono preparare nel microonde di casa).
E infatti insieme al proliferare della tv streaming, con una quantità sempre maggiore di programmi a disposizione a pochi euro al mese (a proposito, su SOSTariffe.it si possono trovare le offerte più convenienti per i diversi servizi), l’evoluzione del televisore ha sancito, se non proprio la fine, un ridimensionamento epocale delle tradizionali pellicole da vedere nelle sale cinematografiche; il colpo di grazia l’ha dato al Covid, che ha mostrato anche a chi ancora era restio all’intrattenimento audiovisivo casalingo le potenzialità di questa scelta.
<!-- ARUBA - 300x250 -->
Ma se è sempre più numeroso chi parla di subscription fatigue per lo stress di dover gestire diversi abbonamenti ad altrettante piattaforme, ognuna col suo catalogo di film, serie, documentari e quant’altro, anche la crescita degli schermi, prima o poi, dovrà finire; proprio come si evita di sedersi nella prima fila al cinema, così non sarà auspicabile superare di molto gli 80 pollici, tranne per i fortunati che possono contare su salotti con l’estensione di una piazza d’armi.
Ma allora, dove trovare l’innovazione, che con sé porta la necessità di sostituire il proprio apparecchio (problema già affrontato dagli smartphone, che una volta si cambiavano ogni due anni e oggi rimangono nelle nostre tasche per un lasso di tempo sempre più lungo)? La risposta non può che arrivare dalla rivoluzione attualmente in corso, ovviamente quella dell’intelligenza artificiale, che si farà strada sempre di più anche nei nostri televisori, compresi quelli più grandi ormai fotografatissimi nelle fiere (come i nuovi Hisense da 100 pollici, che possono essere acquistati per circa 3.000 euro, cifra impensabile fino a pochi mesi fa).
Gemini per Google TV Streamer, la guida per non perdersi
Poche settimane fa Google ha presentato il nuovo Google TV Streamer, destinato a prendere il posto occupato finora dalla Chromecast, il dispositivo che ha permesso di rendere “smart” anche TV che non lo erano ma avevano una presa HDMI libera. Tra le novità c’è proprio la presenza di una serie di funzionalità AI basate su Google Gemini, così come per gli altri apparecchi della gamma Nest per la smart home.
Il primo compito dell’intelligenza artificiale sulla tv sarà quello di aiutare a orientarci tra le centinaia di migliaia di contenuti a cui abbiamo accesso, ormai sempre meno gestibili navigando con il proprio telecomando; Google TV Streamer promette l’accesso a oltre 700.000 film e spettacoli attraverso le diverse app di streaming, con più di 800 canali gratuiti per la tv in diretta, e quindi sarà necessario avere l’intelligenza artificiale di Google pronta a fornire algoritmi migliori e più “mirati” rispetto a quelli già garantiti dalle piattaforme tradizionali.
Ma non ci sarà solo la possibilità di ricevere raccomandazioni più mirate sui nostri gusti: Gemini potrà anche metterci a disposizione comodi riassunti dei film, delle serie o delle singole stagioni, e aggiornare in tempo reale i pareri degli utenti per avere una recensione artificiale sì, ma guidata dalle opinioni umane. In più Google TV Streamer è pensato come hub digitale per gestire una casa sempre più connessa, in modo da controllare i vari gadget direttamente dal divano.
Il contenuto non c’è? Lo creiamo noi
Ma il cambiamento non riguarda ovviamente solo i cosiddetti dongle, che alla fine rimangono dispositivi esterni. Il CES 2024 ha messo in mostra i televisori con funzionalità avanzate di Samsung, LG, TCL e Hisense, basate sull’intelligenza artificiale: si parte dalle più semplici, come la riduzione del “rumore” nell’immagine, fino a quelle più complesse, come l’identificazione e l’isolamento di oggetti di interesse nelle immagini, attraverso algoritmi in grado di regolare dinamicamente contrasto e colore per dare un maggiore impatto visivo.
Inoltre, l’AI viene utilizzata anche per ottimizzare la mappatura dei toni HDR nei film e negli spettacoli ad alta gamma dinamica e persino per “rimasterizzare” i contenuti più vecchi che non sono stati prodotti in formato HDR, grazie a un database di immagini preesistenti che viene usato per elaborazioni ulteriori. Insomma, la versione “video” di quello che fanno ChatGPT e gli altri chatbot di intelligenza artificiale generativa, ovvero rifarsi a un gigantesco pregresso (nel caso di OpenAI, con diversi problemi di trasparenza per quanto riguarda il copyright e la legittimità del “prelievo”) per prevedere statisticamente cosa fare in futuro.
LG ha già annunciato una funzione per i suoi migliori televisori OLED chiamata AI Director Processing, che può analizzare lo schema cromatico previsto dal regista per ogni scena di un film e, nelle parole della casa sudcoreana, “migliorare l’espressione dei colori” di conseguenza. Per quanto riguarda Samsung invece l’innovazione si chiama AI Motion Enhancer Pro, prevista per i suoi televisori a 8K di quest’anno e che farà la gioia di tutti gli appassionati di sport, in particolare quelli con la palla o un pallone: l’IA viene utilizzata per rilevare il tipo di palla e sostituirla efficacemente sullo schermo, fotogramma per fotogramma, non solo per ridurre, ma per eliminare completamente la sfocatura del movimento, in modo da non perdere mai di vista il centro del gioco.
Infine, l’IA dà la risposta anche a un annoso problema: a che serve avere un televisore ad altissima definizione – 8K, appunto – se poi la grande maggioranza dei contenuti è a 4K o inferiore? L’intelligenza artificiale entra in gioco anche per l’upscaling: calcolando che un televisore 4K ha 8,3 milioni di pixel sul suo schermo, mentre un televisore 8K ne ha 33 milioni, l’IA crea milioni di nuovi pixel per riempire lo schermo, sempre basandosi su un database visivo per creare nuovi pixel “plausibili”, con linee lisce e dettagli non troppo accentuati. Quasi meglio di un regista vero.
I protection server non sono “onniscenti” e non sono in grado di comprendere il testo all’interno del body né di individuare qualunque tipo di minaccia.
Ad esempio, le email contenente solo testo (in cui si invita l’utente ad effettuare pagamenti e/o lo si minaccia) proveniente da domini molto utilizzati (come gmail, yahoo ecc) tendenzialmente non vengono bloccate in quanto il protection server non è in grado di comprendere il “significato” del testo di una mail. Quindi una mail proveniente da “pippo@gmail.com” contenente solo testo in cui si richiede un pagamento su un certo IBAN non è sempre detto che venga bloccata, anzi. In figura 10 è possibile osservare un tentativo di frode in cui si richiede un pagamento in bitcoin per evitare che venga diffuso materiale altamente personale del dipendente.
Figura 10. Mail malevola
Come si può evincere, la mail fa leva sullo stato emozionale che può scaturire sul destinatario. Realisticamente è probabile che non abbia nemmeno a disposizione il materiale di cui parla tuttavia tenta di creare panico nel dipendente che potrebbe, se non ha effettuato alcun tipo di training contro queste minacce, andare ad eseguire le azioni richieste.
Uno dei problemi principali quindi, oltre alla mancanza di training dei dipendenti, è legata alla mancanza da parte del secure gateway di bloccare queste tipologie di mail:
sender proveniente da domini noti (gmail, yahoo e simili);
mail contenente solo testo;
nessuna evidenza malevola e/o di spoofing/phishing;
questo perché i mail secure gateway non sono “senzienti” e non sono quindi in grado di comprendere il testo. È in questo campo che si sta osservando l’entrata in gioco dell’intelligenza artificiale (IA). Di fatto molti secure gateway moderni stanno iniziando ad integrare le IA nei loro sistemi allo scopo di bloccare e/o prevenire un maggior numero di minacce di questo tipo e non solo. Tra le IA più note ci sono chatGTP e Gemini ma se ne potrebbero citare molte altre in base all’ambito di interesse, tra cui Synthesia, Midjourney e Stable Diffusion.
Fabrizio Giorgione è nato a Napoli (NA) nel 1992. Si è laureato in ingegneria informatica presso l’università degli studi del Sannio il 17 dicembre del 2018 con una tesi dal titolo: “Analisi della superficie di un sistema SCADA”. Ha sviluppato, presso il laboratorio ISWATlab, un’applicazione Android denominata “Privacy Guard” la quale valuta il rischio di privacy leakage, ovvero il furto di informazioni, sugli smartphone (http://www.iswatlab.eu/?page_id=499). Ha effettuato il tirocinio presso lo “ZLab” di “Cse Cyber Sec” nell’ambito “SOC”, “Forensic” e “Malware Analysis”. Attualmente lavora presso la società di “NTT DATA” come “Cyber security Analyst” nel SOC di Napoli. Il suo compito è quello di effettuare analisi di log, di malware e di prevenire minacce interne ed esterne alla sua azienda e ai clienti della società. Si è occupato, inoltre, del montaggio e della gestione di sonde IDS/IPS presso Telecom Italia nella sede di Roma (RM).
Democrazia in declino, sul banco degli imputati fake news e uso inappropriato dell’AI. Lo Studio
Il 47% dei Paesi ha registrato un calo consistente degli indicatori democratici e sul banco degli imputati c’è la disinformazione online e l’uso inappropriato dell’intelligenza artificiale (AI), secondo la nuova edizione della Relazione sullo Stato globale della democrazia dell’International Idea.
Un dato estremamente preoccupante e che tende a peggiorare costantemente da ormai otto anni.
Le sfide poste dai tempi che viviamo alle Istituzioni democratiche e allo Stato di diritto sono diverse, dalle pressioni indebite dei Governi nei confronti della stampa libera alle interferenze straniere, fino al tentativo di controllo del Parlamento e alla scarsa affidabilità dei risultati delle tornate elettorali.
<!-- ARUBA - 300x250 -->
A colpire è il dato sull’Europa, uno dei continenti che ha registrato il declino maggiore e Italia e Slovacchia sono menzionate per i tentativi del Governo di esercitare pressioni indebite sull’informazione e sui media in generale.
“Tra tutti i Paesi del mondo in cui lo Stato di diritto si è deteriorato, spicca l’Europa, c’è sempre più pressione sullo Stato di diritto e sulle libertà civili, è un problema reale“, ha spiegato all’Ansa Sam van der Staak, direttore del programma regionale europeo di International Idea, sottolineando come la questione riguardi ormai “non solo l’Ungheria“, ma “un numero crescente di Stati, come l’Italia, i Paesi Bassi, la Grecia, il Portogallo e, fuori dell’Ue, la Norvegia, anche se in misura inferiore“.
Per il nostro Paese negativo anche il giudizio del Democracy Index, rapporto annuale che classifica le democrazie internazionali tenendo conto di fattori come le elezioni, il pluralismo, il governo, la partecipazione politica dei cittadini e le libertà civili.
Tra le “democrazie imperfette”, cioè i Paesi che nel ranking dell’Economist Intelligence Unit ottengono un punteggio compreso tra 6,01 e 8,01, si posiziona l’Italia: il nostro Paese è al 34° posto della classifica.
Cambia il modo in cui le persone si impegnano nei processi elettorali negli ultimi decenni: l’affluenza alle urne è scesa dal 65,2% nel 2008 al 55,5% nel 2023, mentre l’incidenza delle proteste e delle rivolte è aumentata.
Tra il 2020 e il 2024, in quasi una elezione su cinque, un candidato o un partito sconfitto ha rifiutato il risultato elettorale e quasi allo stesso ritmo, le elezioni vengono decise da ricorsi in tribunale.
Come anticipato, la tecnologia gioca un ruolo chiave in tutto questo. Utilizzare l’AI e i social per finalità antidemocratiche mette in serio pericolo la stabilità sociale e politica di ogni Paese, fino a minarne le istituzioni e la convivenza civile.
Già il Global Risks Report 2024 del World Economic Forum puntava il dito contro le fake news e l’AI, descrivendoli come strumenti caratterizzati da elevata capacità di incidere nella società civile e negli equilibri democratici.
L’European Digital Media Observatory(EDMO) vedeva nei chatbot sistemi in grado di compromettere la tenuta dei sistemi democratici a partire dalla veicolazione di false notizie in grado di alterare ogni competizione elettorale e il dibattito pubblico attorno a temi divisivi (guerra in Ucraina, cambiamenti climatici, migrazioni, percezione pubblica della sicurezza).
OpenAI o1 pensa davvero? Se la risposta è “si” commette gli stessi errori dell’uomo
La scorsa settimana, OpenAI ha lanciato la sua ultima intelligenza artificiale, o1, definendola un “modello di ragionamento” con capacità di risoluzione dei problemi simili a quelle umane. Sebbene sia ancora in anteprima limitata, OpenAI afferma che o1 è molto più efficace nei compiti complessi grazie a una “catena di pensiero” interna che gli permette di suddividere i problemi in fasi, autocorreggersi e perfezionare il suo approccio.
La ricerca e i test dimostrano che o1 supera i modelli precedenti in codifica, matematica e vari campi scientifici. Tuttavia, il suo funzionamento interno rimane un mistero, con OpenAI che rivela poco sulla sua costruzione. Nonostante il marketing, non è chiaro se o1 offrirà un’esperienza radicalmente nuova o un miglioramento incrementale. Un aspetto importante è il costo: ogni parola prodotta da o1 è circa quattro volte più costosa di GPT-4o, evidenziando le crescenti spese legate all’AI generativa. Inoltre, il tempo di elaborazione più lungo di o1 solleva interrogativi sulla sua redditività futura.
Quanto è “umano” Gpt-o1?
OpenAI e altri nel settore hanno deciso di seguire un trend chiaro nel particolare contesto dell’AI: proporre modelli plasmati sulle capacità umane, descrivendoli come dotati di “carattere”, “mente” e capacità di “ragionamento”. La start-up Anthropic ha descritto il suo modello, Claude, come dotato di “carattere” e “mente”. Google decanta le capacità di “ragionamento” della sua IA ; la start-up di ricerca di IA Perplexity afferma che l’omonima piattaforma che sviluppa “capisce” il mondo.
<!-- ARUBA - 300x250 -->
Una strategia che sembra nata per vendere un prodotto il cui valore è difficile da definire. Del resto, paragonare l’AI al ragionamento umano solleva interrogativi sull’accuratezza e sull’etica di tale paragone. Sebbene il linguaggio dell’umanità possa essere allettante, è importante ricordare che ogni mente è unica e che l’intelligenza artificiale, per quanto avanzata, opera in modo fondamentalmente diverso dal cervello umano.
Catena di ragionamento
Progettato espressamente per richiedere più tempo nel rispondere, o1 consuma necessariamente più risorse, aumentando a sua volta la posta in gioco sul fatto se l’AI generativa possa essere redditizia, se mai lo sarà. Forse la conseguenza più importante di questi tempi di elaborazione più lunghi non sono tanto i costi tecnici o finanziari quanto piuttosto una questione di branding. I modelli di “ragionamento” con “catene di pensiero” che necessitano di “più tempo” non sembrano roba da laboratori di informatica, a differenza del linguaggio esoterico di “trasformatori” e “diffusione” utilizzato in precedenza per modelli di testo e immagini.
Ma vendere il ragionamento umano, uno strumento che pensa come te, insieme a te, è diverso, roba da letteratura anziché da laboratorio. Il linguaggio non è, ovviamente, più chiaro di qualsiasi altra terminologia dell’IA, e se non altro è meno preciso: ogni cervello e la mente che supporta sono completamente diversi, e paragonare in generale l’IA a un essere umano potrebbe dimostrare un malinteso sull’umanesimo.
Sempre, gli stessi, errori
Considerare l’AI in grado di ragionare non la pone in una situazione privilegiata rispetto alle persone, anzi solleva ulteriori dubbi sull’affidabilità “certa” di un modello. Su X, l’ingegnere del software Zach Nagengast ha spiegato di aver usato o1 per “chiedere di ottimizzare il codice usando un algoritmo specifico. Inizialmente l’AI ha prodotto un errore, poi ha tentato di fornire una correzione, quindi ha semplicemente passato al vecchio codice nello stesso output”.
Fascinating new behavior in o1-preview: it is smart enough to give up.
When asked to optimize code using a specific algorithm and initially producing an error, it attempted to provide a fix, then simply passed back to the old code in the same output. Careful copy-pasting folks! pic.twitter.com/capT0BDvzF
C’è poi chi si è accorto che, nel fornire una risposta, o1 non corregge quello che scrive, quando capisce di aver sbagliato, ma modifica il contesto facendo credere all’utente umano di aver posto in modo errato la questione.
One of the things we saw with GPT-4’s function calling is the concept of “positive hallucinations” where the model decides it knows better and returns the correct result regardless. We see something similar happening here in OpenAI o1 in its reasoning steps where it… pic.twitter.com/UM05h8VZEw
Se non è un modo per ingannare le persone è sicuramente una mossa con cui costruire una società a proprio piacimento. Stravolgendo quello in cui abbiamo sempre creduto.
Gli Adversarial Examples illustrati nella sezione precedente non sono di per sé degli eventi di attacco ma, più precisamente, delle vulnerabilità che possono essere sfruttate da un attaccante.
Fig. 3 Reese Witherspoon o Russel Crowe? [Fonte Rif. 5]
Si consideri l’esempio riportato in Fig. 3, che riporta a sinistra un’immagine dell’attrice Reese Witherspoon, come tale riconosciuta da uno specifico modello ML studiato in [Rif. 5]. Analogamente l’immagine a destra riporta l’attore Russel Crowe, correttamente identificato dal modello ML. Viene poi sottoposta al modello ML l’immagine centrale di Reese Witherspoon a cui sono stati aggiunti dei particolari occhiali creati appositamente (la versione fisica di questi occhiali costa solo pochi Euro). Questa immagine è però riconosciuta dal modello ML come un’immagine di Russel Crowe e non di Reese Witherspoon.
Come per molti altri tipi di vulnerabilità dei sistemi IT, se questo modello ML fosse utilizzato in un sistema di controllo degli accessi, questa vulnerabilità potrebbe essere sfruttata da un attaccante per impersonare un’altra persona e accedere illegalmente a un sistema o servizio.
La presenza di Adversarial Examples non è l’unico tipo di vulnerabilità o l’unico modo per attaccare o abusare di un modello ML. Sono state proposte alcune tassonomie di attacchi e minacce ai modelli ML e in generale ai modelli di Intelligenza Artificiale, tra cui quella di Microsoft [Rif. 6] riassunta in Fig. 4 e quella di MITRE [Rif. 7], riassunta in Fig. 5.
Fig. 4 Microsoft Threat taxonomy – Failure modes in machine learning [Fonte Rif. 6]Fig. 5 MITRE ATLAS [Fonte Rif. 7]
Senza addentrarsi in dettaglio in queste tassonomie, è utile approfondire i principali tipi di attacchi che possono sfruttare vulnerabilità dei modelli ML, inclusa quella degli Adversarial Examples.
Attacchi ai dati di addestramento
La qualità e integrità dei dati utilizzati per l’addestramento di un modello ML sono cruciali per ottenere il comportamento atteso. Per l’addestramento è inoltre spesso necessaria una grande mole di dati, spesso forniti da terze parti.
Come semplice esempio, si consideri il caso di un modello ML utilizzato per identificare messaggi di posta elettronica di SPAM. Un attaccante che vuole organizzare una campagna di SPAM è interessato ad evitare che i propri messaggi siano identificati come SPAM dal modello ML. Per far questo può cercare di inserire i propri messaggi nei dati di addestramento classificandoli come non-SPAM. Oppure può cercare di accedere ai dati di addestramento e modificare la classificazione di alcuni di essi in modo che non risultino più classificati come SPAM. Gli esempi di SPAM che forniscono i dati di addestramento del modello ML sono di norma raccolti da molte sorgenti, per lo più pubbliche: può essere pertanto sufficiente che l’attaccante riesca ad attaccare una componente della Supply Chain per sovvertire o “avvelenare” (Poisoning) il modello ML.
La modifica dei dati d’addestramento fatta alla fonte, presso eventuali terze parti che raccolgono i dati o presso l’utente finale che addestra il modello ML, può portare ad esempio alla creazione di Backdoor quali comportamenti nascosti attivabili tramite particolari sequenze di dati in input, o di Bias (una distorsione o deviazione sistematica rispetto al risultato atteso) che possono permettere ad un attaccante di utilizzare il modello ML per i propri scopi.
Attacchi al codice dei modelli di Machine Learning
Anche piccole modifiche al codice o all’eseguibile di un modello di Machine Learning possono portare a introdurre comportamenti malevoli come quelli appena descritti. Molto spesso un utente di un modello ML non costruisce da zero il codice del modello ma ottiene un modello già costruito e pre-addestrato da un fornitore, per poi completare l’addestramento con i propri dati. Un attaccante può quindi attaccare questa Supply Chain con l’intento di modificare il codice del modello ML in modo che questo, anche se ulteriormente addestrato, continui a presentare delle Backdoor,Bias o in generale dei comportamenti malevoli. Nel caso più semplice di un modello ML il cui codice sorgente è pubblico, l’attaccante può ottenere e modificare il codice, addestrare il modello ML e far sì, ad esempio tramite un’intrusione nel server che distribuisce il codice, che l’utente utilizzi il modello ML con il codice modificato.
Attacchi al modello di Machine Learning
In questo caso l’attaccante accede come utente ad un modello ML già addestrato per attaccarlo. L’attaccante può non avere alcuna informazione sul modello (attacco Black Box), qualche informazione sui dati di addestramento e/o sulla struttura del modello (attacco Grey Box), o completa informazione e disponibilità sia dei dati di addestramento sia del modello stesso (attacco White Box). In tutti i casi, l’attaccante non è in grado di modificare i dati di addestramento o il codice del modello sotto attacco se non interagendo con il modello ML stesso.
L’attaccante può quindi utilizzare direttamente il modello ML sotto attacco e analizzare i dati prodotti dal modello a seconda dei diversi input inviati al modello. Questo può permettere all’attaccante di identificare delle vulnerabilità del modello ML che possono permettergli di abusare del modello, ovvero ottenere dei risultati non previsti o a proprio favore (Inference e ModelEvasion). Ad esempio l’attaccante può identificare e sfruttare a proprio favore dei Bias nel modello ML, oppure costruire degli Adversarial Examples come descritto precedentemente, o ancora identificare dei modi di utilizzo del modello ML non previsti e per i quali il modello ML non è stato specificatamente addestrato. Può essere utile presentare alcuni esempi teorici.
Riprendendo l’esempio precedente di un modello ML utilizzato per identificare messaggi di posta elettronica di SPAM, l’attaccante continua a modificare la formulazione del proprio messaggio sino a che il modello cessa di identificarlo come SPAM. Ovviamente in breve tempo i nuovi messaggi di SPAM non correttamente classificati dal modello ML vengono identificati manualmente, il che richiede un ulteriore addestramento del modello ML aggiungendo i nuovi campioni di SPAM. Ciò porta, anche in questo caso, al ben noto ciclo di attività attaccante-difensore tipico di molti sistemi di sicurezza. Come indicato precedentemente, alcuni modelli ML hanno mostrato una vulnerabilità indicata come “smemoratezza” (Forgetfulness): ovvero il fatto che ulteriori aggiornamenti di un modello ML con nuovi dati di addestramento possono portare il modello ML a dimenticare informazioni precedentemente acquisite. Se questo succedesse nel presente esempio, una volta ulteriormente addestrato il modello ML non identificherebbe più alcuni messaggi di SPAM che prima identificava correttamente.
Un altro tipico caso di studio è quello di un modello ML a supporto del processo di erogazione di un mutuo, prestito o finanziamento. L’attaccante, utilizzando il modello, scopre che questo ha dei Bias e che alcune classi di richiedenti (identificati per gruppo sociale o geografico, etnia ecc.) sono favorite dal modello ML nell’ottenere l’erogazione a discapito di altre. L’attaccante può quindi formulare la domanda in modo da presentarsi al modello ML come parte di un gruppo favorito e quindi avere maggiori possibilità di ottenere il finanziamento, anche se in realtà non gli sarebbe dovuto.
Altri esempi sono i modelli ML a supporto dei sistemi di controllo accessi e videosorveglianza. Come descritto precedentemente, l’identificazione da parte di un attaccante di Adversarial Examples per un modello ML utilizzato a questi scopi può permettere all’attaccante di aggirare un sistema di controllo degli accessi o evitare di essere riconosciuto da un sistema di videosorveglianza.
Invece di abusare dei risultati di un modello ML, un attaccante può essere interessato al modello ML stesso: alla sua architettura, al suo codice sorgente e ai dati con cui è stato addestrato. Sempre interagendo con un modello ML, l’attaccante può quindi cercare di estrarre informazioni interne al modello stesso. Come esempio di questo tipo di attacco si può considerare non un modello ML per la classificazione di immagini ma un ChatBot come il famoso ChatGPT. Questi tipi di modelli ML interagiscono con l’utente e producono tipicamente testi o immagini. Con opportune richieste al modello ML e analizzando le risposte ottenute, l’attaccante può dedurre e in alcuni casi ottenere copia di alcuni dati utilizzati per l’addestramento del modello, che possono anche essere riservati. Alcuni di questi modelli ML apprendono anche dalle richieste e dalle interazioni con gli utenti; e analogamente un attaccante potrebbe venire a conoscenza di informazioni fornite in input al modello ML da un altro utente, in alcuni casi violandone la privacy. Sempre con opportune richieste al modello ML, l’attaccante potrebbe venire a conoscenza dell’architettura, configurazione e anche del valore di alcuni parametri. Si tratta quindi di attacchi il cui scopo è l’inversione del modello ML e/o l’estrazione o furto di informazioni dal modello stesso.
Infine alcuni di questi attacchi possono anche essere sfruttati per rendere il modello non operativo, nel senso che il modello non è più in grado di svolgere il compito per cui è stato costruito e addestrato. Ad esempio, nel caso di un modello ML per il riconoscimento di immagini o messaggi di posta elettronica di SPAM, il modello dopo l’attacco non riconosce più alcuna immagine o messaggio di SPAM. Si può quindi classificare l’effetto di questi attacchi come un particolare tipo di Denial of Service.
Vulnerabilità e Sicurezza Proattiva
Come già accennato all’inizio di questo articolo, per gestire la “sicurezza” dei modelli di Machine Learning è possibile adottare l’approccio usuale alla gestione della sicurezza IT (o Cyber-sicurezza). Anche se di tipo e con caratteristiche diverse, i modelli di ML e in generale di Intelligenza Artificiale sono applicazioni IT e, come tali, possono avere delle vulnerabilità specifiche che possono essere sfruttate da un attaccante. Chi ne gestisce la sicurezza può quindi sottomettere a verifica queste applicazioni prima che siano messe in produzione per individuare l’eventuale presenza di queste vulnerabilità. Verifiche simili – in termini di approccio – a quelle svolte con i Penetration Test (o Red Teaming) per un’applicazione Web prima del rilascio in produzione, dovrebbero essere fatte anche per i modelli di Machine Learning al fine di identificare l’eventuale presenza di vulnerabilità quali quelle brevemente descritte in questo articolo.
PhD CISA CISSP Consulente freelance in sicurezza informatica: si occupa prevalentemente di consulenza al top management in Cyber Security e di progetti, governance, risk management, compliance, audit e formazione in sicurezza IT.
G7 Lavoro e Occupazione, la dichiarazione finale (video)
La Riunione ministeriale G7 Lavoro e Occupazione, che si è tenuta a Cagliari dall’11 al 13 settembre e presieduta dal Ministro del Lavoro e delle Politiche Sociali, Marina Calderone, si è conclusa con l’adozione della Dichiarazione finale dal titolo “Towards an inclusive human-centered approach for new challenges in the world of work”.
Otto pagine, 22 paragrafi e due allegati nei quali ci si impegna per uno sviluppo umano-centrico dell’utilizzo dell’intelligenza artificialenel mondo del lavoro, per mercati di lavoro resilienti in società che invecchiano, per lo sviluppo delle competenze dei lavoratori con politiche e sistemi di formazione continua e per la promozione di mercati del lavoro inclusivi, sicuri e salutari.
Le tecnologie basate su un’Intelligenza Artificiale sicura, protetta e affidabile, inclusa l’IA generativa, possono aumentare la produttività del lavoro, migliorare le condizioni di lavoro e la salute e sicurezza nei luoghi di lavoro, dare potere ai lavoratori e creare opportunità di lavoro di qualità, anche per le persone con disabilità, migliorare l’efficacia delle politiche del mercato del lavoro e della formazione e affrontare le carenze di manodopera, si legge in uno dei passaggi chiave.
<!-- ARUBA - 300x250 -->
Attenzione però ai lavoratori: “Sottolineiamo che i benefici dell’IA nel mondo del lavoro possono essere massimizzati e distribuiti equamente solo quando i diritti umani e l’inclusione sociale sono al centro, dando potere ai lavoratori. Per sfruttare appieno le opportunità offerte dall’IA, dobbiamo continuare a conciliare lo sviluppo tecnologico con la protezione dei diritti dei lavoratori e minimizzare i possibili rischi per il mondo del lavoro, in particolare per le persone in situazioni vulnerabili e marginalizzate. Questi rischi includono l’aumento delle disuguaglianze e delle discriminazioni, un impatto negativo sulla salute e sicurezza sul lavoro, inclusa la salute mentale, l’indebolimento della rappresentanza dei lavoratori e del potere di contrattazione collettiva, l’uso improprio della sorveglianza digitale dei lavoratori, nonché minacce alla privacy e alla responsabilità nel mondo del lavoro. Evidenziamo che il dialogo sociale e la contrattazione collettiva possono aiutare a garantire l’adozione sicura, protetta e affidabile dell’IA nel mondo del lavoro“.
Oltre al ministro Calderone, hanno preso parte alla riunione gli altri Ministri del Lavoro e dell’Occupazione del G7, con il Commissario europeo per il Lavoro e i Diritti sociali, nonché il Direttore generale dell’OIL, il Direttore per l’Occupazione, il Lavoro e gli Affari sociali dell’OCSE e i rappresentanti di Business 7 e Labour 7, così come i rappresentanti di Civil 7, Women 7 e Youth 7.
Diversi i temi di massima priorità su cui si sono confrontati i partecipanti alla Ministeriale G7 Lavoro e Occupazione saranno, tra cui:
lo sviluppo e l’uso umano-centrico dell’intelligenza artificiale nel mondo del lavoro;
i mercati del lavoro resilienti in società che invecchiano;
le competenze reattive, flessibili e inclusive, e le politiche e i sistemi di apprendimento permanente.
“Il tema delle competenze è centrale, ma c’è anche la consapevolezza che non si può fare tutto da soli e che anzi questo sia un percorso che deve aprire ancora di più a quelle condizioni in cui il dialogo sociale diventa una condizione di effettività. Nel disegno di legge che è oggi all’esame del Parlamento è previsto un osservatorio sull’andamento dell’impatto dell’intelligenza artificiale sul mercato del lavoro“, ha detto la ministra Marina Calderone al termine del G7 Lavoro e Occupazione a Cagliari.
“Vuol dire non solo analizzare la situazione attuale del mercato del lavoro ma anche capire in prospettiva di che cosa avremo bisogno. Non lo faremo da soli. Lo faremo certamente con l’attiva partecipazione e il coinvolgimento delle parti sociali“, ha concluso Calderone.
Già ieri il ministro italiano aveva spiegato che in occasione del G7 Lavoro: “Sono stati affrontati due temi che sono particolarmente importanti e sentiti da tutti i sette Paesi perché diventano proprio un elemento, un fattore comune di congiunzione delle nostre riflessioni. Mi riferisco all’intelligenza artificiale e al suo impatto nel mondo del lavoro e dell’invecchiamento progressivo della popolazione“.
“Quello dell’IA è uno dei temi che il vertice dei capi di Stato e di Governo che si è tenuto in Puglia a giugno, ha consegnato come impegno ai ministri del lavoro e dell’occupazione dei sette Paesi perché sia tradotto in un piano di azione”, aveva precisato Calderone.