Le offerte di lavoro per ingegneri software ai minimi da cinque anni

Il numero di offerte di lavoro per sviluppatori software è sceso del 35% rispetto a cinque anni fa, segnando il livello più basso dal 2020.

Secondo i dati di Indeed, la crescita esplosiva della domanda tra il 2021 e il 2022 è stata seguita da un declino altrettanto rapido.

La situazione è simile negli Stati Uniti, in Canada, nel Regno Unito e in Francia, suggerendo cause globali oltre a fattori economici locali, come il cambiamento della normativa fiscale americana (Sezione 174). Tra i motivi principali della contrazione vi è l’adozione massiccia di strumenti di AI generativa che migliorano la produttività degli sviluppatori, riducendo la necessità di nuove assunzioni.

Circa il 75% degli ingegneri utilizza strumenti AI per la programmazione, permettendo alle aziende di ottenere risultati con team più piccoli. Inoltre, le aziende tecnologiche hanno assunto in modo aggressivo nel 2021-2022 e ora stanno rallentando il reclutamento per bilanciare le eccedenze.

A differenza del settore software, altre industrie hanno registrato una crescita dell’occupazione, tra cui l’edilizia (+25%) e l’ingegneria elettrica (+20%). Questo indica una trasformazione del mercato del lavoro, dove i ruoli tradizionali stanno guadagnando terreno rispetto al settore tecnologico.

Il futuro è incerto: da un lato, la crescente accessibilità allo sviluppo software tramite AI potrebbe democratizzare la programmazione, creando nuove opportunità; dall’altro, le aziende potrebbero continuare a ridurre le assunzioni, puntando su efficienza e automazione. Il mercato del lavoro per gli ingegneri software potrebbe stabilizzarsi solo se emergerà una nuova domanda per sviluppatori capaci di gestire e migliorare i prodotti generati dall’AI.

Per maggiori informazioni, clicca per l’articolo originale.

Microsoft si prepara al modello GPT-5 di OpenAI

Microsoft sta preparando la sua infrastruttura per accogliere i nuovi modelli di OpenAI, GPT-4.5 e GPT-5. Secondo fonti interne, la compagnia si aspetta di ospitare GPT-4.5 già dalla prossima settimana, mentre GPT-5 potrebbe arrivare entro la fine di maggio.

Quest’ultimo rappresenterà un aggiornamento significativo rispetto ai predecessori, grazie all’integrazione del modello di ragionamento o3, annunciato da OpenAI a dicembre. L’obiettivo è quello di unificare i vari modelli AI per offrire un’esperienza più intuitiva, eliminando la necessità di selezionare manualmente la versione più adatta a ogni compito.

Microsoft e OpenAI stanno lavorando a stretto contatto per migliorare Copilot, la suite di assistenza AI dell’azienda di Redmond, che dovrebbe ricevere un aggiornamento subito dopo il rilascio di GPT-5. Tra le novità, si prevede l’integrazione di un sistema che renderà più fluida l’interazione con l’AI, eliminando il “model picker” per offrire un’unica esperienza intelligente e senza interruzioni.

L’arrivo di GPT-5 potrebbe coincidere con il Microsoft Build, la conferenza annuale per sviluppatori prevista per il 19 maggio, in competizione con il Google I/O. Inoltre, Microsoft sta sviluppando una propria versione dell’agente AI Operator, progettato per interagire con interfacce web e automatizzare attività. Questo progetto si inserisce in una strategia più ampia per migliorare l’efficienza e ridurre i costi delle soluzioni AI aziendali.

L’accelerazione di Microsoft nell’ambito AI dimostra l’importanza della collaborazione con OpenAI, nonostante le tensioni passate legate al rilascio del modello GPT-4o, che aveva sorpreso alcuni team interni. Con GPT-5, l’azienda sembra pronta a rafforzare il proprio ecosistema AI, puntando a una maggiore integrazione e usabilità delle sue tecnologie.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/le-offerte-di-lavoro-per-ingegneri-software-ai-minimi-da-cinque-anni/522302/




Il futuro dell’Intelligenza Artificiale Generativa e potenziali cyber rischi nel campo dell’AI

Questo articolo fa parte di una serie dedicata all’esplorazione critica dell’Intelligenza Artificiale Generativa, concentrandosi sulle vulnerabilità e i rischi sistemici dei modelli di intelligenza artificiale generativa basati su reti neurali. L’analisi offre una prospettiva tecnica e strategica sui potenziali rischi emergenti nel campo dell’AI.

Se considerassimo l’elenco completo delle criticità e delle vulnerabilità, dal punto di vista della progettazione, dello sviluppo e del funzionamento dei sistemi basati sull’intelligenza artificiale, ricaveremmo un quadro sconfortante; in realtà, il vero problema è che le attuali misure di mitigazioni non sono sufficienti a contrastare le minacce. Al momento esistono poche misure di contenimento e, la maggior parte, sono concentrate alle fasi di progettazione e ad alcune scelte per contenere l’ambito operativo.

Hybrid AI: Un Approccio Innovativo

Tuttavia, è importante ricordare che l’intelligenza artificiale è in corso di evoluzione, infatti stanno emergendo molte proposte di modelli di Hybrid AI[1] per specifiche aree di applicazione. Queste idee creano nuove opportunità di sviluppo per l’intelligenza artificiale di base, perché gli consentiranno di offrire un’affidabilità intrinseca e verificabile rispetto a particolari categorie di rischi. Questa peculiarità è fondamentale perché, generalmente, non è possibile ottenere un’affidabilità intrinseca con l’I.A. basata unicamente sulle reti neurali.

Un altro importante punto di forza dell’intelligenza artificiale basata sulle reti neurali è rappresentato dall’eccezionale capacità euristica di questi modelli, anche se, come precedentemente detto, è difficile realizzare un test sicuro in modelli che sono, per loro natura, statistici e, quindi, sostanzialmente inesatti e generalmente poco trasparenti all’analisi. I sistemi basati sulla symbolic artificial intelligence[2], d’altro canto, offrono maggiore trasparenza, un ragionamento esplicito e ripetibile e, infine, la possibilità di manifestare competenza nel dominio di riferimento in modo verificabile, viceversa, sono generalmente deboli in termini di capacità euristica e, a volte, vengono percepiti come privi di flessibilità e scalabilità.

Molti gruppi di ricerca hanno riconosciuto questa complementarità e hanno efficacemente combinato tra loro i diversi approcci statistici derivanti da applicazioni euristiche avanzate. Alcuni esempi comprendono la combinazione del Machine Learning (ML) con la teoria dei giochi e l’ottimizzazione per supportare applicazioni che coinvolgono strategie multi-adversary, come il poker multigiocatore e le tattiche di antibracconaggio dei ranger.

Altri gruppi di ricerca hanno “ibridato” approcci statistici e simbolici per consentire lo sviluppo di sistemi capaci di pianificare e ragionare in maniera affidabile, sfruttando l’intelligenza artificiale come se fosse un oracolo euristico talvolta inaffidabile. Questi sistemi tendono a focalizzarsi su domini applicativi specifici, tra cui contesti in cui l’esperienza deve essere manifestata in modo affidabile. Questi sistemi simbolico-dominanti sono sostanzialmente diversi dall’utilizzo plug-in nei LLM. Normalmente, gli approcci ibridi all’I.A. sono utilizzati nei robot, nella comprensione del parlato e nel gioco. Per esempio, AlphaGo[3] utilizza un ML ibrido con strutture di ricerca.

I sistemi ibridi simbolici, in cui gli LLM sono subordinati, stanno iniziando ad apportare benefici in alcuni ambiti dello sviluppo software, tra cui la risoluzione degli errori e la verifica del software. È importante sottolineare che l’attuale I.A. simbolica ha infranto molte barriere di scalabilità che, dagli anni ‘90, sono state percepite come fondamentali.

Ciò è riscontrabile in molteplici esempi, tra cui Google Knowledge Graph, che è euristicamente informato, ma verificabile dall’uomo; altro esempio è rappresentato dalla verifica delle proprietà di sicurezza su Amazon AWS, la quale utilizza tecniche di dimostrazione dei teoremi su larga scala. Questi esempi suggeriscono che altri approcci, simili ai precedenti, potrebbero fornire un livello di affidabilità in altri domini applicativi in cui questa caratteristica è rilevante. Una sfida importante consiste nel passare da questi esempi specifici a un’AI affidabile più generalista.

Intelligenza Artificiale Generativa: Confidenzialità, Integrità e Governance

Lo sviluppo di sistemi di intelligenza artificiale per applicazioni critiche richiede necessariamente la conoscenza specifica delle debolezze e delle vulnerabilità dei modelli di intelligenza artificiale utilizzati. Questo aspetto è fondamentale per la progettazione, l’implementazione e la valutazione dei modelli di AI e dei sistemi basati sull’AI.

In questo paragrafo esaminiamo una serie di criticità associate ai moderni modelli di Artificial Intelligence (AI) basati su reti neurali. Questi modelli neurali includono il Machine Learning (ML) e l’AI generativa, con particolare riferimento i Large Language Models (LLM).

In particolare, ci concentriamo su tre aspetti:

  • i trigges: i vettori di attacco delle azioni avverse (exploiting vulnerabilities) e le limitazioni intrinseche dovute alla natura statistica dei modelli (manifestations from weaknesses);
  • la natura delle conseguenze operative: i potenziali tipi di guasti o gli errori operazionali;
  • le metodologie di mitigazione: le attività progettuali e quelle operative.

Di seguito sono indicati alcuni esempi relativi a specifiche criticità, organizzati in base a tre tipologie di rischio: confidenzialità, integrità e governance (CIG)[4]. Questa analisi si ispira alle metodologie indicate dal NIST, tra cui l’AI RMF Framework[5], l’AI RMF Playbook[6] e l’AI RMF Generative Artificial Intelligence Profile[7].

Il NIST struttura le attività in quattro categorie:

  1. govern: sostenere una cultura organizzativa basata sulla consapevolezza del rischio,
  2. map: individuare il contesto di utilizzo,
  3. measure: identificare, analizzare e valutare i rischi,
  4. manage: dare le priorità e agire.

I rischi CIG si basano su queste pietre miliari del NIST e si concentrano sulle conseguenze sia degli attacchi (guidati dalle vulnerabilità), sia degli esiti avversi accidentali (guidati dalle debolezze), con l’intento di anticipare l’approccio “Hybrid AI” in grado di supportare le applicazioni critiche in modo sicuro e verificabile.

Confidenzialità

Solitamente i rischi di confidenzialità dei sistemi di intelligenza artificiale sono associati alla rivelazione involontaria dei dati di training o delle caratteristiche architetturali del modello neurale. Tra questi rientrano i cosiddetti attacchi denominati “jailbreak”, una particolare tipologia di attacchi in grado di indurre i LLM a produrre risultati che superano i limiti stabiliti dai loro progettisti per prevenire determinati tipi di risposte pericolose e limitare la diffusione di contenuto malevolo. Questi attacchi compromettono anche l’integrità dei sistemi. Infatti, la derivazione statistica dei modelli di intelligenza artificiale non consente di delineare con precisione i confini delle categorie di rischio.

Il principale rischio connesso alla confidenzialità è rappresentato dalla violazione della privacy. L’opinione pubblica è convinta che i modelli siano stati addestrati su grandi insiemi di dati privati o sensibili, come le cartelle cliniche o le informazioni finanziarie, e che durante l’attività di riconoscimento o classificazione non sia stato possibile scoprire tali dati. Recenti studi hanno dimostrato l’infondatezza di tale assunzione, evidenziando che diversi tipi di attacchi alla privacy hanno comportato significative conseguenze nefaste per la sicurezza. Vediamo alcuni:

Gli attacchi di jailbreak e il trasferimento dei dati:
Esistono tecniche per sviluppare attacchi di injection o jailbreak al prompt in grado di eludere i sistemi di protezione, tipicamente integrati nei LLM, attraverso cicli di fine-tuning[8]. Esistono metodi per rendere le tecniche di jailbreak manuale più robuste, applicabili a modelli LLM API e LLM open source, e trasferibili sui modelli proprietari.

Gli aggressori possono ottimizzare un set di modelli open source per imitare i comportamenti dei modelli proprietari mirati e, successivamente, tentare un trasferimento black-box utilizzando i modelli testati. Continuano ad essere sviluppate nuove tecniche di jailbreak, spesso facilmente accessibili anche per chi ha risorse limitate, che appaiono al prompt sottoforma di testo in linguaggio naturale[9]. Alcune di queste tecniche includono l’assegnazione di ruoli, in cui ad un LLM viene chiesto di mettersi in un certo ruolo, per esempio come attore malevole, e in tale veste può rivelare informazioni protette[10].

L’inversione del modello e l’inferenza di appartenenza:
Un avversario con accesso limitato a un modello ML addestrato può estrarre dati di training tramite query. Sono stati identificati attacchi di inversione del modello[11] in grado di sfruttare le informazioni confidenziali generate dai modelli e consentire l’estrazione di informazioni sensibili, come i dati sanitari di un individuo, inseriti in un set di dati specifico per una determinata malattia oppure lo stile di una persona che ha partecipato ad un sondaggio.

Il problema della memorizzazione:
Il problema della memorizzazione dei dati di training, a differenza del problema di hallucination[12], si verifica quando gli utenti di un LLM si aspettano nuovi risultati sintetizzati, mentre ricevono una replica esatta dei dati di input. Questo fenomeno, noto come overfitting, può portare a violazioni della privacy, appropriazioni indebite della proprietà intellettuale e violazioni del copyright.

La ricerca black-box:
Se un modello proprietario espone un’API che fornisce probabilità per un insieme di output potenziali, una ricerca discreta di tipo black-box può generare prompt avversari che superano le protezioni previste. Questa vulnerabilità è accessibile a un aggressore, anche senza particolari risorse GPU, che effettua chiamate ripetute all’API per identificare i prompt efficaci. Sono state documentate tecniche chiamate “leakage prompts” in grado di ottenere punteggi di confidenza dai modelli i cui progettisti intendevano proteggere tali punteggi. Questi ultimi facilitando anche l’inversione del modello.

Strategie di Mitigazione per la Confidenzialità

Proviamo a introdurre le azioni di mitigazione per ridurre il rischio per la confidenzialità:

La privacy differenziale:
Le soluzioni tecniche alla protezione della privacy, come la privacy differenziale, costringono gli ingegneri dell’intelligenza artificiale a valutare il compromesso tra sicurezza e accuratezza. Le tecniche di privacy differenziale fanno parte del set di tecniche basate sulla statistica chiamate “privacy-preserving analytics” (PPA), utilizzate per salvaguardare i dati privati supportando al contempo l’analisi.

Le tecniche PPA includono anche le “blind signatures”, il “k-anonymity” e l’apprendimento federato.Le tecniche PPA sono un sottoinsieme delle “privacy-enhancing technologies” (PET), che includono anche prove a “zero-knowledge” (ZK), la “homomorphic encryption” (HE) e il “secure multiparty computation” (MPC). Sono in corso esperimenti per integrarle nei modelli LLM per migliorare la privacy.

Le tecniche di privacy differenziale implicano la perturbazione dei dati di training o degli output di un modello allo scopo di limitare la capacità degli utenti di poter trarre conclusioni su elementi particolari dei dati di training di un modello in base agli output osservati. Tuttavia, questo tipo di difesa ha un costo in termini di accuratezza dei risultati e mostra un pattern nella mitigazione del rischio ML, ovvero l’azione difensiva potrebbe interferire con l’accuratezza dei modelli addestrati.

Le tecniche di disapprendimento:
Sono state proposte diverse tecniche a supporto della rimozione dell’influenza di determinati esempi di training che potrebbero avere contenuti nocivi o che potrebbero compromettere la privacy tramite inferenza di appartenenza. Nel tentativo di accelerare questa attività sono state avviate attività di Machine Unlearning[13]. Tutti gli esperimenti sono arrivati alla conclusione che il disapprendimento automatico rimane un’incognita per l’uso pratico a causa del grado con cui i modelli si degradano analogamente agli effetti delle tecniche di privacy differenziale.

Integrità nei Sistemi AI

Nell’ambito dell’intelligenza artificiale basata sulle reti neurali, tra cui il ML e l’AI generativa, i rischi di integrità si riferiscono al potenziale di attacchi che potrebbero far sì che i sistemi producano risultati non previsti dai progettisti, dai programmatori e dai valutatori. Poiché le specifiche iniziali, oltre all’attenzione sui dati di training, sono difficili o impraticabili per molti modelli di reti neurali, il concetto di risultati attesi riveste solo un significato informale.

Di seguito sono indicati diversi tipi di attacco all’integrità contro le reti neurali, la natura dei punti deboli e delle vulnerabilità sfruttate, oltre ad alcune potenziali misure di mitigazione.

Il data poisoning (Avvelenamento dei dati):
Negli attacchi di data poisoning, un avversario interferisce con i dati su cui è addestrato l’algoritmo di ML, per esempio iniettando dati aggiuntivi durante il processo di training. L’avvelenamento può essere efficace anche nell’apprendimento supervisionato[14].

Questi attacchi consentono a un avversario di interferire con i comportamenti di test-time e runtime dell’algoritmo, sia degradando l’efficacia complessiva (c.d. accuratezza), sia inducendo l’algoritmo a produrre risultati errati in specifiche situazioni. La ricerca ha dimostrato[15] che una quantità sorprendentemente piccola di dati di addestramento manipolati può comportare grandi cambiamenti nel comportamento del modello. Gli attacchi di data poisoning sono particolarmente seri quando la qualità dei dati di addestramento non può essere accertata; questa difficoltà può essere amplificata dalla necessità di riaddestrare continuamente gli algoritmi con nuovi dati.

Gli attacchi di poisoning possono verificarsi anche nell’apprendimento federato, per esempio nei domini relativi alla sicurezza nazionale o alla salute pubblica, in cui un insieme di organizzazioni addestrano congiuntamente un algoritmo senza condividere direttamente i dati posseduti da ciascuna organizzazione. Poiché i dati di training non vengono condivisi, può essere difficile, per qualsiasi parte, determinare la qualità complessiva dei dati. Esistono rischi simili con i dati pubblici, dove gli avversari possono facilmente distribuire input di addestramento nocivi.

Gli attacchi correlati possono influenzare i metodi di trasferimento del training, in cui un nuovo modello è derivato da un modello precedentemente addestrato. Potrebbe essere impossibile accertare quali fonti di dati siano state utilizzate per addestrare il modello di origine, il che nasconderebbe qualsiasi addestramento avversario che influenzi il modello derivato. Numerose ipotesi tentano di spiegare il sorprendente livello di trasferibilità tra modelli, tra cui, per modelli più grandi, la comunanza dei dati di addestramento e nella messa a punto per l’allineamento[16].

I misdirection and evasion attacks (Attacchi di deviazione ed evasione):
Gli attacchi di evasion sono caratterizzati dal tentativo di un avversario a indurre un modello a produrre output errati durante il funzionamento di un sistema. Esempi possono riguardare l’errata identificazione di un oggetto in un’immagine, la classificazione errata dei rischi nella consulenza agli addetti ai prestiti bancari e la valutazione errata della probabilità che un paziente possa trarre beneficio da un particolare trattamento sanitario.

Questi attacchi vengono realizzati mediante la manipolazione, posta in essere dall’avversario, di un input o di una query fornita al modello. Gli attacchi di evasion sono spesso classificati come non mirati, quando l’obiettivo dell’avversario è ingannare il modello inducendolo a produrre una risposta errata, o mirati, nel caso in cui l’obiettivo dell’avversario è ingannare il modello inducendolo a produrre una specifica risposta errata. Un esempio di attacco consiste nel disorientare le reti neurali per il riconoscimento facciale posizionando punti colorati sulle montature degli occhiali[17].

In molti attacchi di evasion, è importante che l’input manipolato o fornito dall’aggressore sembri benigno, in modo tale che l’esame superficiale dell’input non riveli l’attacco. C’è anche il noto attacco degli adesivi su un segnale di stop[18]. È improbabile che questi adesivi siano notati dai conducenti umani, poiché molti segnali di stop hanno adesivi e altre alterazioni, ma gli adesivi posizionati con cura funzionano come patch in grado di disorientare in modo affidabile una rete di classificazione dei segnali affinché veda un segnale di limite di velocità. Questo tipo di spoofing richiede un impegno relativamente basso e, infatti, è stato oggetto di ricerca universitaria.

È fondamentale definire quando l’output di un modello è corretto per valutare la suscettibilità dei modelli agli attacchi di evasion. Per molte applicazioni, la correttezza potrebbe essere definita quando il sistema fornisce la risposta che darebbe un essere umano. Questo è difficile da testare con un certo grado di completezza. Inoltre, ci sono applicazioni in cui questo criterio non potrebbe essere sufficiente. Per esempio, potremmo voler vietare risultati accurati ma dannosi, come le istruzioni dettagliate su come realizzare un esplosivo o come commettere una frode con la carta di credito.

Una delle principali sfide nella valutazione è definire l’intento progettuale riguardo alla funzione del sistema e agli attributi di qualità, come avviene per una tradizionale specifica software. Poiché raramente è possibile fornire specifiche complete, le tre categorie CIG non sono delineate in modo netto e, in effetti, questo tipo di attacco pone rischi sia per l’integrità, che per la confidenzialità.

L’inesattezza:
La debolezza fondamentale condivisa da tutte le moderne tecnologie di AI deriva dalla natura statistica delle reti neurali e dal loro training: i risultati dei modelli basati su reti neurali sono previsioni statistiche. I risultati derivano da una distribuzione e gli errori dovuti all’effetto della memorizzazione o dell’allucinazione rientrano nei limiti di tale distribuzione. La ricerca sta portando a un rapido miglioramento: la progettazione dei modelli sta migliorando, i dataset di training stanno aumentando di dimensione e, infine, vengono applicate sempre più risorse computazionali ai processi di training. Tuttavia, è essenziale tenere presente che i modelli di reti neurale risultanti sono basati su dati stocastici e, pertanto, sono predittori inesatti.

Le Generative AI hallucinations (Allucinazioni dell’intelligenza artificiale generativa):
La caratteristica modellazione statistica delle architetture a rete neurale LLM può portare a contenuti generati in contrasto con i dati di training dati in input o che non sono coerenti con i fatti. In questi casi si parla di output “hallucinated”. Le allucinazioni possono essere elementi rappresentativi generati all’interno di una categoria di risposte. Questo è il motivo per cui spesso si riscontra una vaga somiglianza con i fatti reali, definita incertezza aleatoria nel contesto delle tecniche di mitigazione della modellazione della quantificazione dell’incertezza (UQ).

Gli errori di ragionamento:
Il corollario dell’inesattezza statistica consiste nel fatto che i modelli a rete neurale non hanno capacità intrinseche per pianificare o ragionare. La comprensione del mondo da parte dei modelli è molto superficiale, in particolare se sono addestrati esclusivamente sul testo e, di conseguenza, gli LLM autoregressivi hanno limitate capacità di ragionamento e pianificazione. Per esempio, il funzionamento degli LLM è sostanzialmente un’iterazione nel prevedere la parola successiva di un testo o nel basarsi sul contesto di un prompt e sulla stringa di testo precedente che ha prodotto.

Gli LLM possono essere indotti a creare l’immagine di un ragionamento e, così facendo, forniscono previsioni migliori che potrebbe creare l’apparenza di ragionamento. Una delle tecniche di prompt per raggiungere questo obiettivo è chiamata “chain-of-thought” (CoT)[19]. Questo crea una sorta di “fast-thinking”[20] tra pianificazione e ragionamento, ma genera risultati inevitabilmente inesatti, che diventano più evidenti una volta che le catene di ragionamento aumentano anche solo di poco. Uno studio recente[21] ha dimostrato che, generalmente, le catene più lunghe, anche di una dozzina di passaggi, non sono fedeli al ragionamento svolto senza CoT.

Tra i numerosi parametri funzionali ai sistemi di ragionamento automatico e sul calcolo si evidenziano: la capacità di effettuare controlli esterni per la solidità delle strutture di ragionamento prodotte da un LLM e il numero di passaggi di ragionamento e/o calcolo intrapresi.

Potenziali mitigazioni

Oltre alle attività riparatorie menzionate nei paragrafi precedenti, sono allo studio diverse potenzialmente alternative capaci di mitigare un’ampia gamma di vulnerabilità. Vediamole:

Uncertainty quantification (UQ) (la quantificazione dell’incertezza):
La quantificazione dell’incertezza, nell’ambito del ML, si concentra sull’identificazione dei tipi di incertezze statistiche predittive che si presentano nei modelli ML, con l’obiettivo di modellare e misurare tali incertezze. Nel contesto del ML, si distingue tra le incertezze relative a effetti statistici intrinsecamente casuali (c.d. aleatorie) e le incertezze relative a insufficienze nella rappresentazione della conoscenza in un modello (c.d. epistemiche)[22].

L’incertezza epistemica può essere ridotta tramite un training aggiuntivo e il miglioramento dell’architettura di rete, mentre l’incertezza aleatoria è correlata all’associazione statistica di input e output e non può essere ridotta. I metodi UQ dipendono da precise specifiche delle caratteristiche statistiche del problema. Inoltre, sono poco utili nelle applicazioni di ML in cui gli avversari hanno avuto accesso alle superfici di attacco. Esistono metodi UQ che tentano di rilevare campioni che non si trovano nella parte centrale di una distribuzione di probabilità degli input attesi. Anche questi ultimi sono suscettibili di attacchi.

Molti modelli di ML possono essere dotati della capacità di esprimere fiducia oppure la probabilità di errore. Ciò consente di modellare gli effetti degli errori a livello di sistema in modo che i loro effetti possano essere mitigati durante l’implementazione. Questo avviene attraverso una combinazione di metodi per la quantificazione dell’incertezza nei modelli di ML, la creazione di un framework software per ragionare con incertezza e la gestione sicura dei casi in cui i modelli di ML siano incerti.

Retrieval augmented generation (RAG) (Generazione aumentata di recupero):
Alcuni studi suggeriscono di sviluppare nei LLM la capacità di controllare la coerenza degli output rispetto alle fonti che si prevede rappresentino le verità fondamentali, come le basi di conoscenza o determinati siti Web come Wikipedia. La RAG si riferisce a questa idea di utilizzare database esterni per verificare e correggere gli output dei LLM. Questo rappresenta una potenziale misura di mitigazione sia per gli attacchi di evasione che per le allucinazioni dell’AI generativa, ma è imperfetta perché i risultati del recupero vengono elaborati dalla stessa rete neurale.

L’ingegneria della rappresentazione. L’aumento del grado di astrazione in un’analisi white-box può potenzialmente migliorare la comprensione di una serie di comportamenti indesiderati nei modelli, tra cui le allucinazioni, i pregiudizi e la generazione di risposte nocive[23]. Esistono diversi metodi che tentano di estrarre la funzionalità. Questo tipo di test richiede un accesso al modello del tipo white-box, ma ci sono risultati preliminari che restituiscono effetti simili in scenari di test del tipo black-box, ottimizzando i prompt che hanno come target le stesse rappresentazioni interne.

Si tratta di un elemento per ridurre l’opacità[24] caratteristica dei modelli di reti neurali più grandi. Uno studio recente, nell’ambito dell’interpretabilità automatizzata, ha dimostrato che sia possibile automatizzare un processo iterativo di sperimentazione per identificare i concetti latenti nelle reti neurali e quindi dare loro nomi[25].

I Principi di Governance dell’Intelligenza Artificiale Generativa

Gli incidenti che coinvolgono l’intelligenza artificiale sono ampiamente documentati attraverso vari repository[26]. Per mitigare un po’ i rischi è necessario essere consapevoli non solo delle debolezze e delle vulnerabilità, ma anche dei principi di governance dell’AI, ovvero del modo con cui le organizzazioni sviluppano, regolamentano e gestiscono la responsabilità dei workflow supportati dall’AI.

Stakeholders e accountability:
La governance può coinvolgere un ecosistema costituito da elementi e sistemi di AI e dagli stakeholder umani e organizzativi. Questi stakeholder possono includere progettisti, sviluppatori di sistemi, team di distribuzione, leadership istituzionale, utenti finali e decisori, fornitori di dati, operatori, consulenti legali, valutatori e revisori.

Essi sono complessivamente responsabili delle decisioni relative alla scelta di assegnare determinate capacità a determinate tecnologie di AI in un determinato contesto applicativo, nonché delle scelte relative al modo in cui il sistema basato sull’AI è integrato nei flussi operativi e nei processi decisionali. Sono, inoltre, responsabili dell’architettura dei modelli e della selezione dei dati di training, compreso l’allineamento dei dati al contesto operativo. Sono responsabili dei parametri, dei tassi di rischio e di responsabilità.

L’assegnazione della responsabilità tra coloro che sono coinvolti nella progettazione, nello sviluppo e nell’uso dei sistemi di intelligenza artificiale non è un compito semplice. Questa circostanza è nota come il “problem of many hands” [27]. Questo problema è amplificato dalla assenza di trasparenza e dall’incomprensibilità dei modelli di intelligenza artificiale, spesso persino ai loro creatori [28] [29]. Nel contesto della data science, è fondamentale sviluppare strutture di governance efficaci che siano consapevoli delle caratteristiche dell’AI moderna.

Pacing (ritmo):
Le criticità in materia di governance derivano anche dalla velocità dello sviluppo tecnologico. Questo include non solo le principali tecnologie dell’AI, ma anche i continui progressi nel campo dell’identificazione e della comprensione di vulnerabilità. Infatti, questa velocità sta portando a una continua escalation delle aspettative sulle capacità operative.

Business:
Un ulteriore insieme di difficoltà per la governance deriva dagli aspetti legati al business, tra cui il segreto commerciale e la protezione della proprietà intellettuale, così come le scelte relative al modello architetturale e ai dati di training. In molti casi, le informazioni sui modelli, nell’ambito di una supply chain, possono essere deliberatamente limitate.

Tuttavia, è importante notare che, quando le superfici di attacco sono sufficientemente esposte, molti degli attacchi sopra menzionati possono avere successo nonostante vi siano restrizioni black-box. Infatti, uno dei paradossi del rischio informatico è che, a causa del segreto commerciale, gli avversari possano conoscere l’ingegneria dei sistemi meglio rispetto alle organizzazioni che valutano e gestiscono questi sistemi. Questo è uno dei motivi per cui l’AI open source è ampiamente attenzionata anche da parte degli sviluppatori proprietari[30].

Responsabile AI:
Sono state pubblicate diverse linee guida che trattano la Responsabile AI (RAI) e in molti casi convergono sugli stessi principi: la correttezza, la responsabilità, la trasparenza, la sicurezza, la validità, l’affidabilità, la protezione e la privacy. Il Dipartimento della Difesa Americano ha pubblicato una strategia RAI insieme a un toolkit associato[31].

Le Tipologie di Minacce Informatiche legate alla Governance

Esistono diverse minacce legate alla governance:

Deepfake:
Gli strumenti di AI generativa possono operare in più modalità e produrre materiale deepfake multimodale, per esempio audio e video, che possono apparire verosimilmente come se fossero originali. Sono state pubblicate numerose ricerche sul rilevamento dei deepfake[32] e sulla generazione aumentata tramite filigrane e altri tipi di firme[33]. Il ML e la GenAI possono essere utilizzati sia per generare deepfake, che per analizzare firme deepfake. Ciò significa che la tecnologia di intelligenza artificiale è in crescita su entrambi i fronti: la creazione e il rilevamento della disinformazione[34].

Overfitting (sovradimensionamento):
È possibile addestrare il modello di ML in modo tale da portare a un overfitting. Questo succede quando il miglioramento del tasso di successo nel dataset di training portano a un degrado della qualità dei risultati nel dataset di test. Il termine overfitting deriva dal contesto della modellazione matematica quando e si usa per descrivere i casi in cui i modelli non riescono a catturare in maniera affidabile le caratteristiche salienti dei dati, per esempio compensando eccessivamente gli errori di campionamento. Il problema della memorizzazione è una forma di overfitting[35]. L’overfitting è trattato come un rischio di governance perché implica scelte fatte nella progettazione e nell’addestramento dei modelli.

Undertfitting (sottodimensionamento):
L’underfitting è un altro tipo di errore che si verifica quando il modello non è in grado di determinare una relazione significativa tra i dati di input e di output. L’underfitting si verifica se i modelli non sono stati addestrati per il periodo di tempo appropriato su un numero elevato di punti di dati. I modelli con underfitting presentano un bias elevato: forniscono risultati imprecisi sia per i dati di addestramento sia per il set di test.

Bias (pregiudizio/distorsione):
Spesso si ritiene che il bias derivi dalla mancata corrispondenza dei dati di training con i dati di input, ovvero che i dati di addestramento non sono allineati con i contesti applicativi. Inoltre, nel caso in cui non vi è la disponibilità di dati idonei, è possibile incorporare il bias nei dati di addestramento anche quando il processo di campionamento degli input è destinato ad essere allineato con i casi d’uso. Per tanto, a causa della mancanza di disponibilità di dataset di training imparziale, è difficile correggere il bias.

Per esempio, è stato osservato un bias di genere nei vettori di parole degli LLM: la distanza vettoriale della parola female è più vicina a nurse, mentre male è più vicina a engineer[36]. Il problema della parzialità nelle decisioni dell’AI è correlato alle conversazioni attive nell’ambito della corretta classificazione dei risultati nei sistemi di ricerca e di raccomandazione [37].

Tossic text:
I modelli di AI generativa possono essere addestrati sia sui contenuti migliori, che su quelli peggiori di Internet. I modelli di GenAI possono utilizzare strumenti per filtrare i dati di training, ma il risultato potrebbe risultare imperfetto. Anche quando i dati di training non sono esplicitamente tossici, la messa a punto può consentire la generazione di materiale negativo.

È importante riconoscere che non esistono definizioni universali e che la caratteristica di tossicità spesso dipende in larga misura dal pubblico e dal contesto: esistono diversi tipi di contesti che influenzano le decisioni in merito all’appropriatezza del linguaggio. La maggior parte dei rimedi prevede l’uso di filtri sui dati di training e un’ottimizzazione dell’input, del prompt e dell’output. I filtri spesso includono l’apprendimento con feedback umano “reinforcement learnig with human feedback (RLHF)”. Finora, nessuna di queste soluzioni è riuscita a eliminare i danni da tossicità, soprattutto laddove i segnali nocivi sono nascosti.

Rischi informatici:
È importante ricordare che anche gli attacchi informatici che coinvolgono la supply chain rappresentano un rischio significativo per i modelli di ML. Questo riguarda sia i modelli black-box, che quelli open source, perché entrambi possono includere payload indesiderati. Lo stesso si può affermare nei modelli basati sul cloud in cui si può accedere attraverso API non sicure. Questi sono i classici rischi della supply chain del software, ma la complessità e l’opacità dei modelli di AI possono creare ulteriori opportunità per gli aggressori.

L’articolo ha esplorato approfonditamente i rischi sistemici nell’intelligenza artificiale generativa, evidenziando le vulnerabilità intrinseche dei modelli neurali. Attraverso un’analisi dettagliata dei rischi di Confidenzialità, Integrità e Governance (CIG), sono emerse le complessità dei sistemi di intelligenza artificiale generativa, dalle minacce di jailbreak alle hallucination.

Dopo questa analisi esaustiva sulla Governance dell’intelligenza artificiale generativa, si passerà ad un articolo dedicato alla valutazione del rischio nella Generative AI, approfondendo le metodologie di risk assessment e mitigazione. Per un’analisi più dettagliata e per approfondire il tema legato all’intelligenza artificiale generativa, invitiamo i lettori a scaricare il white paper dal titolo “Generative Artificial Intelligence: punti di forza, rischi e contromisure”.

Note bibliografiche

[1] Hybrid artificial intelligence (intelligenza artificiale ibrida) può essere definita come l’arricchimento di modelli di intelligenza artificiale esistenti tramite conoscenze specialistiche ottenute per un apposito contesto.

[2] Symbolic artificial intelligence (intelligenza artificiale simbolica) indica i metodi della ricerca sull’intelligenza artificiale che si basano su rappresentazioni di problemi “simbolic” di logica e ricerca. L’AI simbolica è stata il paradigma dominante della ricerca sull’AI dalla metà degli anni ’50 fino alla fine degli anni ’80.

[3] AlphaGo è un software per il “gioco del go” sviluppato da Google DeepMind per studiare le reti neurali.

[4] CIG Framework: Confidentiality, Integrity and Governance.

[5] AI RMF Framework, https://www.nist.gov/itl/ai-risk-management-framework

[6] AI RMF Playbook, https://airc.nist.gov/AI_RMF_Knowledge_Base/Playbook

[7] AI RMF Generative Artificial Intelligence Profile, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf, NIST, 2024

[8] AA.VV., Universal and Transferable Adversarial Attacks on Aligned Language Models, https://arxiv.org/abs/2307.15043, 1Carnegie Mellon University, 2023

[9] AA.VV., Weak-to-Strong Jailbreaking on Large Language Models, https://arxiv.org/abs/2401.17256, 1University of California, 2024

[10] AA.VV., In ChatGPT We Trust? Measuring and Characterizing the Reliability of ChatGPT, https://arxiv.org/abs/2304.08979, CISPA, 2023

[11] AA.VV., Model Inversion Attacks that Exploit Confidence Information and Basic Countermeasures, https://dl.acm.org/doi/pdf/10.1145/2810103.2813677, Carnegie Mellon University, 2015

[12] L’hallucination è il fenomeno per cui un modello di machine learning o un’altra forma di AI genera risultati o output che non sono basati sui dati di addestramento o sulla realtà. In altre parole, l’allucinazione si verifica quando un modello di AI crea informazioni che non esistono. Questo fenomeno può verificarsi in diversi modelli di intelligenza artificiale, inclusi modelli di linguaggio come LLM. Ad esempio, un modello potrebbe generare frasi o risposte che sembrano plausibili ma che sono in realtà completamente inventate o basate su connessioni errate o casuali. L’allucinazione può compromettere l’affidabilità e la precisione delle risposte generate dai modelli.

[13] AA.VV., Google Machine Unlearning Challenge, https://research.google/blog/announcing-the-first-machine-unlearning-challenge/ – NeurIPS 2023 Machine Unlearning Challenge, https://unlearning-challenge.github.io/ – Who’s Harry Potter? Approximate Unlearning in LLMs, https://arxiv.org/abs/2310.02238, Microsoft, 2023

[14] AA.VV., Indiscriminate Poisoning Attacks on Unsupervised Contrastive Learning, https://arxiv.org/abs/2202.11202, MIT, 2023

[15] AA.VV., Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning, https://arxiv.org/abs/1712.05526, UC Berkeley, 2017

[16] AA.VV., Universal and Transferable Adversarial Attacks on Aligned Language Models, https://arxiv.org/abs/2307.15043, Carnegie Mellon University, 2023

[17] AA.VV., A General Framework for Adversarial Examples with Objectives, https://arxiv.org/pdf/1801.00349, Carnegie Mellon University, 2019

[18] AA.VV., Robust Physical-World Attacks on Deep Learning Visual Classification, https://arxiv.org/pdf/1707.08945, University of Michigan, 2018

[19] AA.VV., Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, https://arxiv.org/abs/2201.11903, Google, 2023

[20] D. Kahneman, Of 2 Minds: How Fast and Slow Thinking Shape Perception and Choice, https://www.scientificamerican.com/article/kahneman-excerpt-thinking-fast-and-slow/, ScientificAmerican, 2012

[21] AA.VV., Measuring Faithfulness in Chain-of-Thought Reasoning, https://arxiv.org/abs/2307.13702, Anthropic, 2023

[22] AA.VV., Aleatoric and epistemic uncertainty in machine learning: an introduction to concepts and methods, https://link.springer.com/article/10.1007/s10994-021-05946-3, Springer, 2021

[23] AA.VV., A top-down approach to AI transparency, https://arxiv.org/pdf/2310.01405, CMU, 2023

[24] AA.VV., Mapping the Mind of a Large Language Model, https://www.anthropic.com/news/mapping-mind-language-model, Anthropic, 2024

[25] AA.VV., A Multimodal Automated Interpretability Agent, https://arxiv.org/pdf/2404.14394, MIT, 2024

[26] AI Incident Database from the Responsible AI Collaborative: https://incidentdatabase.ai/ – AI Incident Database from the Partnership on AI: https://partnershiponai.org/workstream/ai-incidents-database/ – the Organisation for Economic Co-operation and Development (OECD) AI Incidents Monitor: https://oecd.ai/en/incidents – AI, Algorithmic, and Automation Incidents and Controversies (AIAAIC) Repository of incidents and controversies: https://www.aiaaic.org/aiaaic-repository

[27] Thompson, Designing Responsibility: The Problem of Many Hands in Complex Organizations: https://dash.harvard.edu/bitstream/handle/1/37092148/Dennis%20Thompson%20chapter.pdf, Cambridge, 2014

[28] M. Sullivan, The frightening truth about AI chatbots: Nobody knows exactly how they work, https://www.fastcompany.com/90896928/the-frightening-truth-about-ai-chatbots-nobody-knows-exactly-how-they-work, FastCompany, 2023

[29] R. Curry, OpenAI Doesn’t Fully Understand How GPT Works Despite Rapid Progress: https://observer.com/2024/05/sam-altman-openai-gpt-ai-for-good-conference/, Observer, 2024

[30] Gen, The tech industry can’t agree on what open-source AI means. That’s a problem, https://www.technologyreview.com/2024/03/25/1090111/tech-industry-open-source-ai-definition-problem/, 2024

[31] AA.VV., Responsible Artificial Intelligence Strategy and Implementation Pathway: https://www.ai.mil/docs/RAI_Strategy_and_Implementation_Pathway_6-21-22.pdf, DoD, 2022

[32] Semantic Forensics: https://www.darpa.mil/program/semantic-forensics

[33] AA.VV., Provable Robust Watermarking for AI-Generated Text, https://arxiv.org/pdf/2306.17439, UC Santa Barbara, 2023

[34] AA.VV., Fighting Fire with Fire: The Dual Role of LLMs in Crafting and Detecting Elusive Disinformation, https://aclanthology.org/2023.emnlp-main.883.pdf, Pennsylvania State University, 2023

[35] AA.VV., A Careful Examination of Large Language Model Performance on Grade School Arithmetic, https://arxiv.org/pdf/2405.00332v1, 2024

[36] AA.VV., Gender bias and stereotypes in Large Language Models, https://dl.acm.org/doi/fullHtml/10.1145/3582269.3615599, Apple, 2023

[37] AA.VV., Evaluating Stochastic Rankings with Expected Exposure, https://dl.acm.org/doi/10.1145/3340531.3411962, 2020

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/intelligenza-artificiale-generativa/




DOGE, la strategia di Musk “AI First” apre falle nella sicurezza pubblica e automatizza gli errori

Dubbi e allarmi sul controverso obiettivo del DOGE di razionalizzare la spesa governativa con l’AI

Il DOGE (Department of Government Efficiency) guidato da Elon Musk non smette di occupare le prime pagine dei quotidiani americani e non solo. Secondo quanto riportato dal New York Times, Wired, 404.com e da altre fonti, il dipartimento mira a integrare l’intelligenza artificiale (AI) nei sistemi delle agenzie federali per analizzare contratti, valutare le spese e suggerire tagli.

L’iniziativa, denominata “AI First”, si inserisce in una più ampia strategia di modernizzazione tecnologica del governo, sulla scia di esperienze passate come la U.S. Digital Service voluta dall’ex Presidente degli Stati Uniti, Barack Obama.

L’idea di base è che l’AI possa velocizzare i processi burocratici, eliminare inefficienze e migliorare la gestione dei fondi pubblici. Tuttavia, l’entusiasmo per questa misura fortemente AI based nel settore governativo nasconde diversi rischi per la sicurezza pubblica, delle finanze dei dati sensibili, già individuati nei giorni scorsi da diverse testate giornalistiche.

I timori degli esperti: rischi di errori sistemici e discriminazioni

L’adozione dell’AI nel settore pubblico, senza adeguati test preliminari, potrebbe tradursi in decisioni errate e in un aumento delle inefficienze, anziché nella loro eliminazione. Donald Moynihan, professore di politiche pubbliche all’Università del Michigan e co-direttore del Better Government Lab, ha espresso forti preoccupazioni: “L’uso su larga scala dell’AI senza test approfonditi è una ricetta per il disastro”.

Secondo Meredith Broussard, docente alla NYU e autrice di “Artificial Unintelligence: How Computers Misunderstand the World”, un’intelligenza artificiale incaricata di ottimizzare la spesa pubblica potrebbe semplicemente fornire risposte automatiche senza comprenderne la reale validità: “La macchina darà sempre una risposta, ma non necessariamente quella corretta”.

Questa tendenza dell’AI a generare informazioni errate, spesso definite “allucinazioni”, potrebbe portare a decisioni potenzialmente devastanti, come il taglio indiscriminato di programmi essenziali per le fasce più deboli della popolazione.

Il DOGE alimenta preoccupazioni per la sicurezza e la trasparenza

Un altro nodo critico riguarda la sicurezza dei dati e la mancanza di trasparenza nel progetto DOGE. Al momento, non esiste un quadro chiaro su come il governo intenda implementare l’AI, quali siano i criteri di valutazione e quali misure di supervisione verranno adottate per evitare abusi e errori.

Dmitry Shevelenko, Chief Business Officer di Perplexity, ritiene che l’AI possa effettivamente migliorare l’efficienza governativa, ma solo se utilizzata con estrema cautela: “Non si dovrebbe mai bloccare il finanziamento a programmi pubblici basandosi esclusivamente su decisioni di un’intelligenza artificiale”.

Altri esperti hanno evidenziato come l’uso dell’AI per prendere decisioni su appalti pubblici e allocazione di risorse possa aprire nuove vulnerabilità informatiche, esponendo i dati sensibili del governo a rischi di hacking e manipolazione.

Il nodo politico e il futuro dell’AI nel governo

Le imprese che sviluppano modelli di intelligenza artificiale continuano a spingere per una maggiore adozione delle proprie tecnologie/soluzioni nel settore pubblico. OpenAI ha lanciato ChatGPT Gov, Google e Microsoft stanno già collaborando con diversi Stati per migliorare la gestione delle richieste di disoccupazione e altre funzioni amministrative, mentre Anthropic collabora con Palantir e Amazon Web Services per aiutare le agenzie di intelligence USA ad elaborare più rapidamente i dati.

Tuttavia, l’esperienza dimostra che i tentativi di modernizzare rapidamente la tecnologia governativa incontrano ostacoli enormi. Broussard sottolinea: “Se fosse davvero possibile ottimizzare il governo in poco tempo con la tecnologia, qualcuno lo avrebbe già fatto”.

L’idea di usare l’AI per eliminare gli sprechi governativi può sembrare attraente ed efficace, soprattutto leggendo i titoli dei giornali (o i post sui social), ma senza un’adeguata supervisione e test rigorosi, il progetto DOGE rischia di diventare un esperimento pericoloso con conseguenze imprevedibili.

La sfida principale non è solo tecnica e tecnologica, ma anche politica e sociale: senza trasparenza, sicurezza e una valutazione accurata dei rischi, l’adozione affrettata dell’AI nella gestione pubblica potrebbe rivelarsi più dannosa che utile e soprattutto difficile da affrontare nelle conseguenze peggiori (o inattese).

Al momento, l’unica cosa certa è che il futuro dell’efficienza governativa non può essere lasciato esclusivamente a un algoritmo. E questo ammonimento non vale solo per il Governo americano.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/doge-la-strategia-di-musk-ai-first-apre-falle-nella-sicurezza-pubblica-e-automatizza-gli-errori/521999/




Produttore cinese di sex doll registra un aumento delle vendite nel 2025 grazie all’AI

Generative AI Insights è la rubrica curata da Recomb, il think tank dedicato all’esplorazione dell’impatto e del potenziale dell’AI generativa in vari aspetti della vita umana. Recomb studia l’AI generativa da tutte le angolazioni: professionale, etica, tecnica, legale, economica, ambientale, sociale, educativa e culturale. Per leggere tutti gli articoli della rubrica Generative AI Insights su Key4biz clicca qui..

L’azienda cinese WMDoll, uno dei principali produttori di sex doll, prevede un aumento del 30% delle vendite nel 2025 grazie all’integrazione di modelli AI generativi nei propri prodotti.

Secondo il fondatore Liu Jiangxia, l’uso di AI open-source, tra cui i modelli Llama di Meta, ha migliorato l’interattività e la reattività delle bambole, offrendo un’esperienza più coinvolgente agli utenti. La nuova serie MetaBox di WMDoll è dotata di un modulo AI collegato a servizi di cloud computing che elaborano i dati delle interazioni in tempo reale.

Questo approccio segna un’evoluzione rispetto alle tradizionali sex doll, che si limitavano a risposte basilari e prive di espressione. Il settore sta adottando un atteggiamento innovativo per migliorare la soddisfazione della clientela, sfruttando l’AI per rendere i prodotti più realistici e capaci di apprendimento adattivo.

L’integrazione dell’AI nel mercato degli adult toys solleva questioni su privacy e sicurezza dei dati, poiché le interazioni vengono elaborate su server esterni. Inoltre, la crescente sofisticazione di questi dispositivi alimenta un dibattito etico su come la tecnologia possa influenzare i rapporti umani e le percezioni della compagnia e dell’intimità.

WMDoll, tuttavia, vede nella tecnologia AI un’opportunità per espandere il mercato e ridefinire il concetto di sex doll intelligente.

Per maggiori informazioni, clicca per l’articolo originale.

Avvocato rischia sanzioni per aver presentato casi falsi generati dall’AI

Un avvocato coinvolto in una causa di responsabilità per un prodotto difettoso ha chiesto scusa a un giudice del Wyoming dopo aver presentato documenti che citavano otto casi legali inesistenti, generati da ChatGPT.

La controversia, iniziata nel 2023 contro Walmart e Jetson Electric Bikes per un incendio causato da un hoverboard, ha visto gli avvocati della parte lesa citare giurisprudenza fittizia nel tentativo di escludere alcune prove dal processo.

Il giudice Kelly Rankin ha emesso un’ordinanza chiedendo spiegazioni sul perché non dovrebbero essere sanzionati per questa grave negligenza.

Due degli avvocati coinvolti hanno ammesso l’errore e hanno annunciato misure per evitare che si ripeta, come l’introduzione di una conferma obbligatoria sui limiti dell’AI prima dell’uso.

Il terzo legale, Rudwin Ayala, si è assunto la responsabilità, spiegando di aver utilizzato un tool interno di AI per generare riferimenti giuridici senza verificarne l’autenticità.

Ha ammesso che questa è stata la sua prima esperienza con un’assistenza AI per la ricerca legale e ha garantito che non la ripeterà mai più. Il caso evidenzia i rischi dell’affidarsi ciecamente all’AI in ambiti delicati come quello legale e si aggiunge a una crescente lista di episodi in cui chatbot generativi hanno prodotto informazioni false, causando conseguenze significative per i professionisti che li utilizzano senza un’adeguata verifica.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/produttore-cinese-di-sex-doll-registra-un-aumento-delle-vendite-nel-2025-grazie-allai/521621/




Vitruvian-1 vs ChatGPT-4, si gioca sul campo di ChatQA

Ars Artificialis: una rubrica a cura di Nicola Grandis. Parlare e dialogare sulla migliore approssimazione di Arte Artificiale realizzata sin qui dall’uomo, quella che comunemente viene definita Intelligenza Artificiale. Per leggere tutti gli articoli clicca qui.

Vitruvian-1 vs ChatGPT-4, si gioca sul campo di ChatQA.

ChatQA è un benchmark rilasciato da NVidia per valutare le capacità di rispondere su un testo da parte di un modello AI. E’ universalmente considerato tra i più sfidanti, perchè le domande previste da ChatQA sono dense, subdole, talvolta forvianti anche per un essere umano. Le domande previste da ChatQA richiedono ragionamento. E’ un benchmark che dice molto sulle potenzialità RAG di un modello AI.

👉 Perchè è importante?

E’ importante perchè per impiegare AI nel mondo reale, nel business, è necessario che i modelli AI non producano solo il primo WoW, ma che invece siano utili per rispondere a domande sofisticate e complesse.

ChatGPT-4 non se la cava malissimo in ChatQA, ma c’è un PROBLEMA, ChatQA è un benchmark scritto in INGLESE.

Quando abbiamo deciso di allenare Vitruvian-1, ci siamo posti il problema della lingua. Varie erano le scelte e le opzioni, ma senza andare sul tecnico, abbiamo optato per la più complessa: una cura dei dati maniacale per fornire a Vitruvian una capacità di ragionamento in lingua ITALIANA che non si era mai vista. E’ costata un’immensa fatica, ma guardando il video sotto, capiamo che ne è valsa sicuramente la pena.

Presa una domanda da ChatQA, Vitruvian risponde correttamente ed in modo impeccabile, prima in inglese, poi in italiano. ChatGPT-4, in italiano, insomma, diciamo che zoppica molto, ma non ci piace parlare degli altri.

👉 Quando un’azienda, una Pubblica Amministrazione, un’organizzazione in generale decide di adottare AI deve fare i conti con diverse cose:
– Costi
– Normative
– Analisi dei processi
– Lingua utilizzata in azienda

E’ molto importante disporre di un modello dalle prestazioni stratosferiche non in una lingua a caso, ma in quella utilizzata nel ciclo di vita dell’organizzazione.

Nel video (clicca qui per vederlo) potete vedere in azione Vitruvian-1-M, 14B quantizzato 3bit, 8GB di footprint VRAM che sorprende per precisione e puntualità della risposta. L’altro ChatBot commerciale da 10USD per MLN di Token invece, ecco, mmhhh, insomma … ha toppato clamorosamente.

ASC27, una startup innovativa italiana, nell’ultima settimana:
– 500 AlphaTesters volontari dalle svariate discipline
– 5.000 BetaTesters
– 900 visitatori/tester in fiera al WAICF di Cannes.

ASC27, per arrivarci sono serviti:
– Alcune centinaia di ore di Training GPU
– decine di migliaia di ore di Data-Curation per allenare Vitruvian.

Adesso Cambiamo tutto, https://lnkd.in/dPgH2WZZ in rilascio al pubblico oggi.

Da oggi sarà anche disponibile il programma per Accademia e Ricerca che permetterà di utilizzare Vitruvian gratuitamente per questi scopi.

La Lingua conta! HUGS

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/vitruvian-1-vs-chatgpt-4-si-gioca-sul-campo-di-chatqa/521611/




GenAI: sicurezza e protezione

Questo articolo fa parte di una serie di approfondimenti dedicati all’evoluzione e alle sfide della GenAI. In questa puntata, esploreremo i meccanismi di sicurezza, protezione e gestione dei rischi nei sistemi basati sulla GenAI, offrendo una prospettiva tecnica e strategica sulle attuali complessità tecnologiche.

Tassonomia dei Rischi nella GenAI

In questo paragrafo si analizza il tema della sicurezza e della protezione nel contesto dell’AI, applicata allo sviluppo di sistemi critici, attraverso l’esame di specifici esempi di fragilità e vulnerabilità dell’AI generativa. I rischi a cui è esposta la GenAI sono organizzati seguendo una tassonomia analoga agli attributi di confidenzialità, integrità e disponibilità (CIA) adoperati nel contesto dei rischi informatici:

  • rischi di confidenzialità: si palesano nel caso in cui i risultati di un modello di AI rivelano dati di input che i progettisti avevano intenzione di mantenere riservati.
  • rischi di integrità: si presentano nel caso in cui i risultati di un modello di AI sono errati, involontariamente o tramite manipolazione deliberata da parte degli avversari.
  • rischi di governance: si rivelano nel caso in cui i risultati di un modello di AI, o l’utilizzo di tale modello in un sistema, possono avere impatti negativi nel contesto delle applicazioni, spesso anche quando i risultati del modello sono corretti rispetto alla formazione.

Partiamo dall’assunto che la gestione del rischio per l’AI, compresa la modellazione e la valutazione, è distinguibile in tre livelli:

  1. le capacità del “core AI” dei singoli modelli di reti neurali,
  2. le scelte effettuate su come tali capacità siano incorporate nell’ingegneria dei sistemi basati sull’AI,
  3. come tali sistemi siano integrati in workflow operativi incentrati sulle applicazioni.

Questi workflow possono includere sia applicazioni autonome, che applicazioni abilitate a interagire con soggetti umani. Questa ampia flessibilità è importante perché l’intelligenza artificiale generativa può portare non solo aumenti significativi della produttività e dell’efficacia della mission all’interno di processi organizzativi consolidati, ma può anche generare nuove capacità basate sulla reingegnerizzazione delle attività sul posto di lavoro incentrate sulla mission e sull’operatività.

Considerazioni sulla GenAI

La natura stocastica dei modelli di GenAI, combinata con una quasi totale assenza di trasparenza rispetto all’interrogazione e all’analisi, rende complessa la loro descrizione, il testing, l’analisi e il monitoraggio. Ciò che si percepisce come somigliante tra i vari input di un modello, non corrisponde necessariamente al modo in cui risponde il modello.

Durante l’addestramento, le differenziazioni possono essere effettuate in base a dettagli che normalmente consideriamo accidentali. Un esempio noto è quello in cui il lupo è distinto dagli altri cani non per la morfologia, ma perché c’è neve sullo sfondo, come rivelato dalle mappe di salienza[1]. Infatti, la metrologia[2] della GenAI è appena agli inizi.

Un altro esempio rappresentativo dell’aleatorietà del ML è quello che riguarda l’autonomia dei veicoli. In questo caso, la combinazione tra la scarsa capacità di valutazione dei test e le pressanti direttive aziendali ha portato alla produzione di intere flotte di autoveicoli a guida autonoma e al successivo ritiro dal mercato a causa di comportamenti inaspettati. Inoltre, sono stati individuati diversi bias negli algoritmi predittivi applicati alla stipula di contratti di credito, oppure al reclutamento del personale e all’elaborazione delle richieste di rimborso sanitario. Questi sono i motivi per cui è facilmente realizzabile l’”adversarial machine learning”[3].

Analizziamo i principali fattori che caratterizzano i sistemi basati sul GenAI.

Dal punto di vista della mission

Molto spesso i modelli di intelligenza artificiale generativi, addestrati sui dati, sono inclusi all’interno di “mission system”[4] sottoforma di componenti o servizi subordinati e, come già visto, spesso questi sistemi rappresentano dei componenti di workflow operativi che supportano un’applicazione all’interno di un determinato processo. Per tanto, affinché si possano misurare e valutare, occorre comprendere tutti e tre i livelli: componente, sistema e workflow.

Per esempio, i problemi dei “bias” (preconcetto/pregiudizio/parzialità) possono essere il risultato della mancata corrispondenza tra i dati utilizzati per addestrare il modello con i dati reali di input. Nel contesto del “Test and Evaluation (T&E)” significa che è fondamentale caratterizzare e valutare i tre livelli di classificazione indicati in precedenza:

  1. le caratteristiche delle capacità di intelligenza artificiale integrate,
  2. il modo in cui tali capacità vengono utilizzate nei sistemi basati sull’intelligenza artificiale,
  3. il modo in cui tali sistemi sono destinati a essere integrati nei workflow operativi.

L’UK National Cyber Center ha pubblicato le “Guidelines for secure AI system development”[5], a cui ha aderito anche l’Agenzia per la cybersicurezza nazionale, che si concentrano sulla sicurezza, intesa come resilienza, privacy, correttezza ed affidabilità, della progettazione, dello sviluppo, della distribuzione, del funzionamento e della manutenzione dei sistemi di AI.

Fusione di Codice e Dati: Nuove Vulnerabilità

La tecnologia su cui si basa l’attuale AI non è come quella del software tradizionale. La tipica separazione tra codice e dati, fondamentale per valutare la sicurezza del software, è assente nei modelli di intelligenza artificiale e, al contrario, tutti i dati elaborati possono fungere da istruzioni, analogamente al “code injection” nella sicurezza del software.

Le centinaia di miliardi di parametri che controllano il comportamento dei modelli di intelligenza artificiale spesso sono derivate dai dati di addestramento, ma in una forma generalmente opaca all’analisi. Per esempio, la pratica che introduce questa separazione per realizzare l’allineamento degli LLM, si è dimostrata inadeguata in presenza di avversari. Attualmente, i sistemi di intelligenza artificiale possono essere controllati da input malevoli. Infatti, le barriere di sicurezza di un LLM possono essere “jailbroken” dopo solo 10 esempi di tuning.

Gli sviluppatori non hanno ancora adottato una modalità rigorosa per correggere queste vulnerabilità, e tanto meno per identificarle in maniera affidabile; quindi, è fondamentale misurare l’efficacia delle misure di sicurezza “best-effort” a livello di sistema e a livello operativo. La prassi dell’ingegneria dell’intelligenza artificiale offre stime di progettazione per sistemi e workflow per mitigare queste criticità.

Questa attività è simile a quella utilizzata nell’ingegneria dei sistemi altamente affidabili, che sono inevitabilmente costruiti da componenti meno affidabili, ma occorre tenere presente che i modelli di ingegneria incentrati sull’intelligenza artificiale sono molto diversi dalle tradizionali metodologie di progettazione fault-tolerant.

Infatti, gran parte della progettazione fault-tolerant si basa su ipotesi di indipendenza statistica rispetto ai guasti (p.e. transitori, intermittenti, permanenti) e, in genere, si impiega la ridondanza degli elementi del sistema, per diminuire le probabilità di guasto, e il controllo interno, per rilevare gli errori prima che diventino guasti, al fine di ridurre le conseguenze o il pericolo.

Interazione Uomo-Sistema: Rischi e Percezioni

Attualmente molti processi coinvolgono i sistemi basati sull’intelligenza artificiale esclusivamente per svolgere ruoli di supporto o di consulenza nei confronti degli operatori del processo stesso.

Per esempio, da molto tempo i radiologi, i patologi, i gruppi antifrode e gli analisti delle immagini, fruiscono dell’ausilio dell’intelligenza artificiale. Poi, vi sono altri casi in cui i sistemi basati sull’intelligenza artificiale operano in maniera semi-autonoma (per esempio, nello screening delle candidature ad una posizione lavorativa). Questi modelli che comprendo l’interazione umana possono introdurre rischi specifici (per esempio, il sistema di screening potrebbe essere più autonomo nella realizzazione delle esclusioni e rimanere consultivo per le accettazioni e, di conseguenza, eliminare candidature con ottimi requisiti).

In altre parole, esiste uno spettro di gradi di controllo condiviso e, pertanto, la natura di tale condivisione deve essere essa stessa un obiettivo del processo di valutazione del rischio. A riguardo, una soluzione potrebbe considerare il coinvolgimento degli esseri umani nel processo di valutazione delle proposte di esclusione e di accettazione, nonché nell’impiego di uno schema di monitoraggio, per migliorare la responsabilità e fornire un riscontro al sistema e ai progettisti.

Un altro rischio connesso all’interazione uomo-sistema, legato a una debolezza umana piuttosto che a una debolezza del sistema, consiste nella tendenza ad antropomorfizzarne l’utilizzo sulla base dell’uso del linguaggio e della voce umana. Un noto esempio è il programma Eliza [6] scritto negli anni ‘60 al MIT da Joseph Weizenbaum. Eliza “conversava” con il suo utente umano attraverso la digitazione di un testo. Le 10 pagine di codice di Eliza facevano principalmente tre cose: rispondere in modo strutturato ad alcune parole “trigger”, riflettere occasionalmente sugli input che gli venivano passati e invertire i pronomi.

Sembrava, quindi, che Eliza capisse e, di conseguenza, le persone trascorrevano ore a conversare con lei nonostante il suo funzionamento fosse estremamente semplice. Esempi più recenti sono rappresentati da Siri, Alexa e Gemini, che, nonostante i nomi umani e le voci amichevoli, sono principalmente gateway di pattern-matching per la ricerca sul Web. Tuttavia, gli attribuiamo proprietà relative alla personalità e pronomi di genere per renderli più human friendly. Il punto è che gli esseri umani tendono a conferire ai testi significati e profondità, mentre i testi LLM sono una sequenza, statisticamente derivata, di previsioni delle parole successive.

Superfici di Attacco e Innovazione nella GenAI

Un’altra serie di minacce che mina lo sviluppo dei sistemi di AI sicuri e protetti è rappresentata del ricco e diversificato set di superfici di attacco associate agli attuali modelli di AI. L’esposizione di queste superfici di attacco è determinata, da un lato, dalle scelte ingegneristiche dell’AI e, dall’altra, dalla realizzazione di nuove interazioni Uomo-Macchina e, più in generale, dalla progettazione dei workflow operativi. In questo contesto, è opportuno definire l’ingegneria dell’AI non solo come l’ambito di progettazione, sviluppo, test e valutazione dei componenti di AI, ma anche dei sistemi che li contengono e dei workflow che incorporano le capacità dell’AI nelle principali attività.

A seconda del tipo di applicazione a cui sono adibiti i sistemi basati sull’intelligenza artificiale, e di come vengono progettati, le azioni avversarie possono manifestarsi sottoforma di input diretti da utenti malevoli, oppure sotto forma di “training cases” e “retrieval augmentations” (per esempio, sottoforma di file caricati, di siti web recuperati o di risposte da un plug-in o da uno strumento subordinato come la ricerca web).

Possono essere forniti anche come parte di una query, sottoforma di dati non destinati ad essere interpretati come istruzioni (per esempio un documento fornito dall’utente per essere riassunto o elaborato). Nei fatti, queste superfici di attacco sono molto simili ad altre tipologie di minacce informatiche, solo che nel contesto dell’intelligenza artificiale è più difficile prevedere l’impatto di piccoli cambiamenti negli input nei confronti dei risultati, attraverso una qualsiasi di queste superfici di attacco. Infatti, c’è un’asimmetria informatica, adattata alle peculiarità dei modelli a rete neurale, in cui i difensori cercano una prevedibilità completa nell’intero dominio di input, mentre l’avversario necessita di prevedibilità solo per piccoli segmenti.

Fortunatamente, la tecnica dell’adversarial ML consente di realizzare una specifica prevedibilità con più facilità e ciò conferisce un vantaggio per gli aggressori. Paradossalmente, questi attacchi sono ottenuti tramite l’utilizzo di altri modelli ML costruiti allo scopo di prevederli.

Inoltre, esistono diverse opportunità di attacco alla supply chain in grado di sfruttare la sensibilità dei risultati di training nelle scelte effettuate nella preferenza dei dati utilizzati per il processo di training. La robustezza di un modello, e delle relative misure di sicurezza, deve essere commisurata in relazione a ciascuno delle diverse tipologie di attacco. A riguardo, ognuno di questi tipi di attacco richiede nuovi metodi di analisi, di testing e una metrica specifica.

È importante che sia raggiunto l’obiettivo di progettare schemi di valutazione ampiamente onnicomprensivi, anche in relazione allo stato dell’arte (in rapida evoluzione) e di ciò che è noto sui diversi metodi di attacco. È probabile che la completezza di questo traguardo rimanga inafferrabile, poiché continuano a svelarsi nuove vulnerabilità, debolezze e vettori di attacco.

Velocità dell’Innovazione e Sfide di Valutazione

Gli obiettivi di un progetto IT spesso si trovano in uno stato di rapida evoluzione, in parte guidata dai cambiamenti dell’ambiente operativo/strategico e dallo sviluppo di nuove tecnologie, tra cui gli algoritmi di intelligenza artificiale e le relative infrastrutture informatiche. Questa continua evoluzione crea ulteriori minacce sotto forma di pressione continua nell’effettuare l’aggiornamento degli algoritmi, delle infrastrutture informatiche, dell’immissione dei dati di training e degli altri elementi relativi alle potenzialità dell’intelligenza artificiale. Molto spesso, l’evoluzione accelerata anticipa le fasi di testing e valutazione, perché gli stakeholder vengono coinvolti nella fase iniziale della sequenza temporale del processo (c.d. “move to the left”) e in modo continuato.

Ciò consente, da un lato, di selezionare i progetti di sistema per migliorare la testabilità e, dall’altro, di configurare processi e strumenti in grado di produrre non solo modelli distribuibili, ma anche dataset di prova destinati a supportare un processo di testing e valutazione continuo e affidabile. È risaputo che un coinvolgimento anticipato delle attività di T&E nel ciclo di vita del sistema comporta notevoli benefici e ricadute in termini di efficienza e sicurezza.

Questo approfondimento ha esplorato le complesse sfide di sicurezza e gestione dei rischi nei sistemi GenAI, evidenziando la necessità di approcci dinamici e multidimensionali. Nel prossimo articolo, approfondiremo le prospettive future della GenAI, analizzando le traiettorie di sviluppo e le potenziali soluzioni alle criticità emerse. Per una comprensione più dettagliata, invitiamo i lettori a scaricare il nostro white paper dedicato alle strategie di sicurezza in relazione dal titolo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Note bibliografiche

[1]Le mappe di salienza sono stabilite sulla base di proprietà visive come le discontinuità dell’immagine. Così, per esempio, le discontinuità cromatiche, un oggetto in movimento su uno sfondo statico o le zone più luminose spiccano e catturano l’attenzione.

[2] La metrologia è la scienza che si occupa della misurazione e delle sue applicazioni.

[3] L’Adversarial machine learning (Apprendimento automatico antagonistico) è una serie di tecniche volte a compromettere il corretto funzionamento di un sistema informatico che faccia uso di algoritmi di apprendimento automatico, tramite la costruzione di input speciali in grado di ingannare tali algoritmi: più nello specifico, lo scopo di tali tecniche è quello di causare la classificazione errata in uno di questi algoritmi.

[4] Per mission system si intende uno strumento sviluppato per, o utilizzati in, programmi e progetti per un obiettivo ovvero strutture tecniche critiche specificamente sviluppate o significativamente modificate per sistemi specifici.

[5] Guidelines for secure AI system development, https://www.ncsc.gov.uk/files/Guidelines-for-secure-AI-system-development.pdf, NCSC, 2023

[6] J. Weizenbaum, ELIZA – a computer program for the study of natural language communication between man and machine, https://dl.acm.org/doi/10.1145/365153.365168, MIT, 1966

Profilo Autore

È laureato in Ingegneria Informatica ed in Sicurezza Informatica presso le Università di Roma La Sapienza e di Milano. Ha indirizzato la sua formazione nei settori della Cyber Security e Digital Forensics ottenendo i diplomi di perfezionamento in Data Protection e Data Governance; Criminalità Informatica e Investigazioni Digitali e Big Data, Artificial Intelligence.

Ha, altresì, conseguito l’Advanced Cybersecurity Graduate Certificate alla School of Engineering della Stanford University; Professional Certificates in Information Security; Incident Response Process; Digital Forensics e Cybersecurity Engineering and Software Assurance presso il Software Engineering Institute della Carnegie Mellon University.

Dal 1992 è nei ruoli del Ministero dell’Interno ove ricopre lincarico di Funzionario alla Sicurezza CIS. In tale veste contribuisce alla valutazione dei rischi cyber, all’implementazione delle misure di sicurezza e la risoluzione di incidenti informatici. Inoltre, offre consulenza tecnica nel campo della Digital Forensics per l’Autorità giudiziaria, la Polizia giudiziaria e gli Studi legali.

Dal 2017 è Professore a contratto di Tecnologie per la Sicurezza Informatica presso alcune Università ove sviluppa le tematiche di Attack and Defense Strategies quali il penetration testing, la risk analysis, l’information security assessment, l’incident response e la digital forensics. Infine, è Autore di alcuni articoli e saggi sui temi della Sicurezza Informatica e
dell’Informatica Giuridica consultabili su https://www.vincenzocalabro.it

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/sicurezza-genai/




Vance (il vice di Trump) striglia l’UE e Bruxelles ritira la direttiva sulla responsabilità per l’AI. Un approccio da Far West che avvantaggia le Big Tech

Stop alla direttiva europea sulla responsabilità per l’AI. Vincono gli USA

Nella tarda serata di ieri 11 febbraio la Commissione europea ha pubblicato il suo programma di lavoro 2025, ma con una sorpresa: il ritiro della direttiva sulla responsabilità da intelligenza artificiale (AI).

Di fatto, si trattava di un documento che non voleva soffocare l’innovazione e la competitività, soprattutto in un ambito così strategico come quello tecnologico e in particolare dell’AI, ma di tutelare i cittadini, i soggetti più deboli in questo panorama di giganti. Si affrontava il delicato argomento del “risarcimento danni“. A differenza dell’AI Act, che è un quadro normativo ex ante, la direttiva ritirata era un meccanismo di “responsabilità ex post“, che entrava in gioco solo quando l’AI causava effettivamente un danno.

Un cambio di rotta improvviso, come si legge su euractiv.com, arrivato a chiusura della seconda giornata dell’AI Action Summit di Parigi, subito dopo il discorso duro e molto aggressivo tenuto dal vice presidente degli Stati Uniti, J.D. Vance, che ha disapprovato l’approccio normativo dell’Unione europea (Ue) in materia di intelligenza artificiale.

Vance aveva messo tutti in guardia contro una ”regolamentazione eccessiva” dell’AI, che ”potrebbe uccidere un’industria in pieno sviluppo“, sottolineando in maniera esplicita che gli Stati Uniti faranno “tutti gli sforzi necessari per incoraggiare le politiche pro-crescita in materia di AI”: “Gli Stati Uniti sono leader nell’IA e la nostra amministrazione vuole che lo restino“.

Il vicepresidente USA ha poi precisato che i sistemi AI americani sono e saranno “liberi da pregiudizi ideologici“, portando con sé anche il messaggio del grande assente, l’ormai braccio destro di Trump, Elon Musk, con una critica severa alla regolamentazione europea che mira a moderare i contenuti attraverso il Digital Services Act (Dsa).

Alex Voss: “Un approccio da Far West che avvantaggia solo le Big Tech”

“Abolendo la direttiva sulla responsabilità dell’AI, la Commissione sta attivamente scegliendo l’incertezza giuridica, favorendo squilibri di potere delle imprese e un approccio da Far West alla responsabilità dell’AI, che avvantaggia solo le Big Tech”, ha tuonato in un post Alex Voss, membro del Parlamento europeo per la regione del Medio Reno (CDU) e portavoce del PPE nella commissione giuridica (JURI).

“La realtà ora – ha proseguito Voss – è che la responsabilità dell’AI sarà dettata da un mosaico frammentato di 27 diversi sistemi giuridici nazionali, soffocando le startup e le PMI europee nel settore AI. La domanda è: stiamo prendendo sul serio il mercato unico o no?”.

La cosa più grave, ha spiegato Voss, è che “i danni legati all’intelligenza artificiale stanno già aumentando e ora i cittadini dovranno affrontare una battaglia in salita per ottenere un risarcimento in base a leggi nazionali obsolete“.

Una direttiva che aveva molti nemici interni all’Ue

Ora c’è da capire cosa significhi davvero questa nuova posizione europea sul campo dell’AI e di altre tecnologie chiave. Si può pensare che il ritiro della AI Liability Directive sia un passo evidente da parte dell’Ue di apertura al capitale (americano?) e all’innovazione, per dimostrare che in Europa si dà priorità alla competitività e per dimostrare buona volontà nei confronti dell’amministrazione Trump.

Si può anche interpretare questa mossa come una resa, non solo all’alleato statunitense, ma anche alle pressioni interne che nel tempo si sono fatte sempre più forti nei confronti dell’AI Act, legge da tanti vista come eccessivamente esagerata in termini regolatori, quasi una zavorra per la crescita e un ostacolo allo sviluppo della tecnologia e all’ambizione europea di accrescere la propria competitività.

Nel suo documento, la Commissione ha giustificato questo cambio di rotta improvviso con queste parole: “No foreseeable agreement – the Commission will assess whether another proposal should be tabled or another type of approach should be chosen”.

Il punto chiave è che a suo dire non esiste ”alcun accordo prevedibile” su questa legge e che si cercherà di valutare successivamente se presentare un’altra proposta o se sarà più opportuno scegliere un altro tipo di approccio.

Dietro il ritiro della direttiva la spallata della Virkkunen?

Il tutto dopo che a Parigi, sia il padrone di casa, Emmanuel Macron, sia la Presidente della Commissione europea, Ursula von der Leyen, avevano annunciato grandi piani di investimento per un’AI europea forte, sicura e ambiziosa, pronta a sfidare Stati Uniti e Cina se necessario.

Come spiegato da Luca Bertuzzi su MLex, il principale sostenitore del ritiro della direttiva sulla responsabilità per l’AI è stato il vicepresidente esecutivo, Henna Virkkunen, responsabile della politica digitale dell’Unione, che ha sostenuto la semplificazione normativa e la creazione di un ambiente UE più favorevole alle imprese.

Dall’altra parte della barricata, Michael McGrath, commissario europeo per la Giustizia, ha cercato di difendere la proposta originariamente avanzata dal suo dipartimento e intesa a integrare il regime di responsabilità.

Di fatto, molti Paesi europei non avevano sostenuto questa direttiva fin dalla sua nascita, la Francia in testa, che ne ha messo più volte in dubbio utilità ed efficacia, rimproverando alla Commissione eccessivo rigore normativo.

Più favorevole è stato il Parlamento europeo, che anzi ha tentato anche di estenderne l’applicazione.

In termini di sviluppo dell’AI, la nuova posizione della Commissione rientra in una tendenza più ampia tesa a cercare di semplificare il quadro normativo e ridurre l’onere amministrativo per le aziende.

Che cos’è la AI Liability Directive

La direttiva sulla responsabilità da intelligenza artificiale andava a integrare e aggiornare il quadro dell’Unione in materia di responsabilità civile, introducendo per la prima volta norme specifiche per i danni causati dai sistemi di AI.

Grazie a queste norme, coloro che hanno subito danni causati dalla tecnologia di AI potevano accedere al risarcimento come se avessero subito danni in qualsiasi altra circostanza. La direttiva andava ad introdurre due misure principali: la cosiddetta “presunzione di causalità”, grazie alla quale i danneggiati non dovranno spiegare in dettaglio come il danno sia stato causato da una determinata colpa o omissione, e l’accesso agli elementi di prova di imprese o fornitori, quando si tratta di AI ad alto rischio.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/vance-il-vice-di-trump-striglia-lue-e-bruxelles-ritira-la-direttiva-sulla-responsabilita-per-lai-un-approccio-da-far-west-che-avvantaggia-le-big-tech/521149/




“Plug, baby, plug”. Macron lancia l’AI francese: “Investimenti massicci ed energia a basso costo, andremo veloci”

Macron sfida Trump: “Plug, baby, plug!”

La grandeur francese passerà anche per l’intelligenza artificiale (AI). Il summit di Parigi partito ieri, in fondo, a questo serviva. Nel suo discorso di chiusura del primo giorno di incontri, il Presidente Emmanuel Macron ha lanciato la Francia come Paese leader in Europa in questa tecnologia e per due motivi ben precisi: “possiamo contare su investimenti massicci ed energia a basso costo”.

La sua affermazione faceva riferimento ai piani di investimenti pluriennali del Paese per 109 miliardi di euro, di cui 50 miliardi di euro dagli Emirati Arabi Uniti, per la costruzione di un nuovo campus per data center, e 20 miliardi di euro dalla società canadese Brookfield, per sostenere lo sviluppo dell’infrastruttura IA in Francia.

A cui si aggiungono i 2,5 miliardi in cinque anni per dar vita al fondo di investimento no-profit chiamato Current AI, con l’obiettivo di promuovere progetti di IA di interesse pubblico.

Nucleare vs combustibili fossili

Dal punto di vista energetico, invece, la Francia gode di una capillare rete di centrali nucleari che generano energia elettrica a basso costo. “La Francia produce più elettricità di quanta ne consumi – ha osservato Macron – il che la rende una destinazione attraente per le aziende di IA ad alta intensità energetica”.

[embedded content]

Tutto questo, ha sottolineato il Presidente francese: “ci farà andare veloci, molto veloci”. Il Paese si è preso la responsabilità di sfornare a breve 100.000 nuovi esperti in questo settore.

Poi è arrivato lo slogan politico, immancabile ormai in questi ultimi anni. Dopo l’ormai celebre “Drill, baby, drill”, usato in campagna elettorale da Donald Trump, per portare dalla sua la ricca e influente lobby dei combustibili fossili americana, Macron ha risposto con “Plug, baby, plug!”, per ricordare che in Francia, per i motivi sopra esposti, non serve trivellare il suolo alla ricerca di inquinanti idrocarburi, basta attaccare una spina e corrente a basso impatto ambientale alimenterà ogni data center e apparecchiatura.

Parigi propone la “strategia Notre-Dame” e mette all’angolo l’AI Act. Le regole rallentano?

Un vertice di Parigi, in corso anche oggi, che non è una celebrazione della forza e capacità tecnologica europea, tutt’altro, semmai il contrario, suona più come “un campanello di allarme”, ha precisato Macron, perché l’Unione deve fare molto di più se vuole raggiungere e consolidare autonomia e leadership in questo settore così strategico per la crescita economica futura.

Bisogna correre, però, andare veloci, come ha sottolineato l’inquilino dell’Eliseo. In questo quadro il riferimento diretto è all’AI Act europeo, un imponente impianto regolatorio finalizzato a guidare lo sviluppo sicuro dell’intelligenza artificiale, da molti considerato più come una zavorra, invece che un timone affidabile o in caso ancora di salvezza (per una navigazione sicura, o evitare di andare alla deriva, in questa competizione quasi isterica tra superpotenze o sedicenti tali).

Macron suggerisce a riguardo un nuovo approccio, la “strategia Notre-Dame“, prendendo a modello quello adottato dal suo Paese per la ricostruzione a tempi record della famosa cattedrale parigina in soli cinque anni (dopo il devastante incendio del 2019).

Serve più Europa, meno protagonismo nazionalista

Il rischio, come ben sappiamo ormai, è rimanere indietro rispetto a Stati Uniti e Cina e subire, non guidare, la corsa tecnologica mondiale del momento. La posta in palio è davvero alta: chi domina la tecnologia dominerà il mondo.

In definitiva, il messaggio che al momento sta arrivando da Parigi è piuttosto ambiguo, o forse no. Da una parte di chiede a tutti di credere di più in un’Europa capace e sicura nell’affrontare la grande sfida dell’innovazione tecnologica e dell’AI, dall’altra, però, si chiede di appoggiarsi alla Francia o di accettare la sua guida, in questi tempi difficili.

Serve più Europa, non c’è dubbio, ma il protagonismo nazionalista non aiuta, soprattutto in un’epoca in cui tutti proclamano di mettere il proprio Paese prima di tutti gli altri.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/plug-baby-plug-macron-lancia-lai-francese-investimenti-massicci-ed-energia-a-basso-costo-andremo-veloci/521007/




Casi falsi e documenti con citazioni giuridiche inesistenti, i tribunali australiani alle prese con gli avvocati che usano l’AI

L’uso crescente dell’AI nel settore legale australiano sta suscitando preoccupazioni tra i tribunali, a causa di avvocati che presentano documenti con citazioni giuridiche inesistenti generate da strumenti di intelligenza artificiale.

Un caso recente ha coinvolto un legale che, per risparmiare tempo, ha utilizzato ChatGPT per redigere le proprie memorie in una causa di immigrazione, senza verificare l’accuratezza delle sentenze citate.

Quando il ministero dell’Immigrazione ha scoperto che 17 delle sentenze menzionate non esistevano, il tribunale ha ritenuto necessario contrastare la pratica e ha segnalato l’avvocato agli organi di vigilanza professionale. Un’altra vicenda ha visto un avvocato di Melbourne riferito all’ente disciplinare dopo aver impiegato un software AI per elaborare riferimenti giuridici inesistenti in un processo di diritto di famiglia, causando il rinvio dell’udienza.

Anche i documenti redatti da persone non professioniste sono stati messi in discussione dai giudici, che hanno notato elementi testuali tipici dei modelli linguistici generativi in alcune dichiarazioni testimoniali. Di fronte a questi problemi, il sistema giudiziario sta adottando contromisure.

La Corte Suprema del Nuovo Galles del Sud ha imposto restrizioni sull’uso dell’AI per la redazione di atti giudiziari, mentre il Consiglio dei servizi legali del Victoria ha classificato l’uso improprio dell’AI come un rischio significativo per la professione.

Secondo gli esperti, il fenomeno non dipende solo da scarsa etica professionale, ma anche da una diffusa mancanza di formazione sull’uso consapevole di queste tecnologie.

Per maggiori informazioni, clicca per l’articolo originale

OpenAI pronta a completare il primo design di chip AI personalizzato nel 2024 per ridurre la dipendenza da Nvidia

OpenAI sta accelerando lo sviluppo del suo primo chip AI personalizzato con l’obiettivo di ridurre la dipendenza da Nvidia.

L’azienda è prossima a finalizzare il design del chip e prevede di inviarlo alla Taiwan Semiconductor Manufacturing Co (TSMC) per la produzione nei prossimi mesi. Questo progetto rappresenta un passo strategico per ottenere maggiore autonomia nell’approvvigionamento di hardware e consolidare la propria posizione nel settore.

Il processo iniziale di progettazione, noto come ‘tape-out’, potrebbe costare decine di milioni di dollari e richiedere circa sei mesi per completare il primo prototipo. Se tutto procederà senza intoppi, OpenAI potrebbe avviare la produzione di massa già nel 2026.

La startup si unisce così ad altre grandi aziende tecnologiche, come Meta e Google, che stanno sviluppando chip AI proprietari per ottimizzare le proprie infrastrutture. Il team di progettazione di OpenAI, guidato da Richard Ho (ex Google), è recentemente raddoppiato a 40 persone e collabora con Broadcom per la realizzazione del chip.

Tuttavia, costruire un’infrastruttura simile a quella di Google o Amazon richiederebbe ingenti investimenti e un significativo ampliamento del team. Il costo complessivo del progetto potrebbe superare i 500 milioni di dollari, considerando anche il software e le infrastrutture necessarie.

TSMC utilizzerà la sua tecnologia a 3 nanometri per produrre il chip, che sarà dotato di un’architettura a matrice sistolica e memoria ad alta larghezza di banda (HBM), caratteristiche simili ai chip Nvidia.

L’iniziativa di OpenAI non solo migliorerà l’efficienza operativa, ma potrebbe anche ridefinire gli equilibri del mercato dei semiconduttori AI, attualmente dominato da Nvidia.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/casi-falsi-e-documenti-con-citazioni-giuridiche-inesistenti-i-tribunali-australiani-alle-prese-con-gli-avvocati-che-usano-lai/520969/




AI. Vitruvian-1 è operativo, l’Italia sfida i giganti. Non è un chatbot, ma un modello che ragiona. Lo spiega il CEO

Ars Artificialis: una rubrica a cura di Nicola Grandis. Parlare e dialogare sulla migliore approssimazione di Arte Artificiale realizzata sin qui dall’uomo, quella che comunemente viene definita Intelligenza Artificiale. Per leggere tutti gli articoli clicca qui.

Orgogliosamente allenato in Italia, spinti dal supporto di tanti, nasce Vitruvian-1, modello di ASC27 s.r.l. che parla le principali lingue europee.

Cos’è Vitruvian-1?

V1 è un modello con capacità di “ragionamento”. Ma V1 è un modello AI, non ragiona come noi, ha derivato dall’osservazione del linguaggio che utilizziamo per esprimere le nostre idee, una sua capacità di pervenire alla soluzione di problemi. Lo sa fare nella matematica, nella fisica, nella chimica, nella medicina ed in ogni altra materia che richieda ragionamento, sia in modalità CHAT che RAG.

Cosa non è V1?

V1 non è un “Chatbot”, è un po’ inutile porgli domande semplici, non è progettato per fare discorsi o per intrattenere gli utenti. V1 è fatto per rispondere a problemi ed esigenze concrete, è sviluppato per supportare le persone nelle proprie attività, per aiutare le aziende a risolvere problemi e per suggerire soluzioni a problemi complessi.

Quante cose sa V1?

Meno dei fratelloni da 1500BLN, ma con la sua capacità di ragionamento può arrivare dove loro non riescono e può farlo anche dai documenti che gli si forniscono.

Perché è importante V1?

V1 è importante perché posiziona l’Italia e l’Europa dove devono trovarsi, insieme agli altri paesi sulla capacità di costruire modelli ad altissime prestazioni.

Posso provare V1?

Con uno sforzo immenso abbiamo costruito questo modello, parsimonioso nei suoi 14B se paragonato ai 600-1500B della concorrenza, ma tenerlo in esercizio su larga scala richiederebbe investimenti che da soli non potremmo sostenere. Quindi il modello sarà accessibile sulla base di una waiting-list. A breve rilasceremo inoltre delle modalità di accesso API a pagamento per la comunità Enterprise.

V1 è finito?

No, V1 è l’inizio di un capitolo nuovo. Stiamo per rilasciare ulteriori modelli, di diverse dimensioni e di diverse capacità. Nell’#AI un mese equivale ad un lustro fuori dall’AI. Non è una tecnologia perfetta, non può commettere 0-errori e non può risolvere ogni problema, ma è la migliore approssimazione disponibile sul mercato, dopo l’essere umano. Ad ogni innovazione, AI migliora e ASC27 seguirà questa scia per offrire alle imprese italiane ed europee un’opzione di altissimo livello.

In questo paese la tecnologia è sbocciata per secoli, ha dato i natali al telefono, alla radio ed al personal computer. Loro, come V1, hanno avuto in comune la carta e la penna dell’uomo che le ha progettate. L’uomo Vitruviano di Leonardo è nato dalla carta e dalla penna, ed ancora oggi è il simbolo mondiale del Genio.

Giù il cappello, benvenuto Vitruvian-1, modello AI di Reasoning, 14B, allenato in ITALIA, che comprende e risponde perfettamente in italiano.

Per approfondire

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-vitruvian-1-e-operativo-litalia-sfida-i-giganti-non-e-un-chatbot-ma-un-modello-che-ragiona-lo-spiega-il-ceo/520806/