Google doesn’t break out earnings from its new AI ventures, but we can safely assume there’s no profit to be had. No one has managed to turn these huge LLMs into a viable business yet. OpenAI, which has the largest user base with ChatGPT, loses money even on the users paying for its $200 Pro plan. Google is planning to spend $75 billion on AI infrastructure in 2025, so it will be crucial to make the most of this very expensive hardware. Building models that don’t waste cycles on overthinking “Hi, how are you?” could be a big help.

Missing technical details

Google plays it close to the chest with Gemini, but the 2.5 Pro release has offered more insight into where the company plans to go than ever before. To really understand this model, though, we’ll need to see the technical report. Google last released such a document for Gemini 1.5. We still haven’t seen the 2.0 version, and we may never see that document now that 2.5 has supplanted 2.0.

Doshi notes that 2.5 Pro is still an experimental model. So, don’t expect full evaluation reports to happen right away. A Google spokesperson clarified that a full technical evaluation report on the 2.5 branch is planned, but there is no firm timeline. Google hasn’t even released updated model cards for Gemini 2.0, let alone 2.5. These documents are brief one-page summaries of a model’s training, intended use, evaluation data, and more. They’re essentially LLM nutrition labels. It’s much less detailed than a technical report, but it’s better than nothing. Google confirms model cards are on the way for Gemini 2.0 and 2.5.

Given the recent rapid pace of releases, it’s possible Gemini 2.5 Pro could be rolling out more widely around Google I/O in May. We certainly hope Google has more details when the 2.5 branch expands. As Gemini development picks up steam, transparency shouldn’t fall by the wayside.

https://arstechnica.com/ai/2025/04/with-the-release-of-gemini-2-5-pro-google-looks-toward-a-dynamic-ai-future/

Questo articolo rappresenta l’ultimo contenuto di una serie esclusiva dedicata all’AI Generativa. Un viaggio attraverso le più innovative tecnologie che stanno ridefinendo i confini della creatività artificiale, dalla progettazione di sistemi autonomi all’esplorazione di nuovi paradigmi computazionali.

Questo paragrafo esplora il concetto di “agente intelligente” nell’ambito dell’Intelligenza Artificiale generativa. In particolare, si analizzano le caratteristiche distintive, le architetture e le tipologie, evidenziando il loro ruolo cruciale nell’evoluzione dell’AI verso sistemi autonomi, adattabili e interattivi. Vengono inoltre discusse le sfide aperte e le prospettive future della ricerca sugli agenti intelligenti, con particolare attenzione alle implicazioni etiche e sociali[1].

L’agente intelligente rappresenta un paradigma fondamentale nell’AI, incarnando l’idea di un sistema informatico in grado di percepire l’ambiente, elaborare le informazioni e agire autonomamente per raggiungere obiettivi predefiniti[2]. A differenza dei sistemi di AI passivi, gli agenti intelligenti interagiscono in modo proattivo e adattivo con il mondo circostante, aprendo nuove possibilità per la creazione di sistemi autonomi e intelligenti.

AI Generativa: Rivoluzione degli Agenti Intelligenti nel Panorama dell’Intelligenza Artificiale Moderna

Un agente intelligente si distingue per le seguenti caratteristiche[3]:

• Autonomia: sono oggetti complessi che operano senza l’intervento umano diretto, prendendo decisioni in base alle proprie percezioni e conoscenze,
• Percezione: sono in grado di acquisire informazioni sull’ambiente tramite sensori (fisici o virtuali), che possono includere telecamere, microfoni, sensori di temperatura, o anche flussi di dati da internet,
• Azione: eseguono azioni che modificano l’ambiente, tramite attuatori come motori, altoparlanti, o la capacità di inviare comandi ad altri sistemi,
• Obiettivo: agiscono per raggiungere uno o più obiettivi specifici, che possono essere definiti a priori o appresi durante l’interazione con l’ambiente,
• Apprendimento: possono migliorare le proprie prestazioni nel tempo attraverso l’apprendimento, adattando il proprio comportamento in base alle esperienze passate.

Un agente intelligente è tipicamente composto dai seguenti componenti:

• Sensori: oggetti in grado di acquisire le informazioni dall’ambiente (es. telecamere, microfoni, sensori di temperatura),
• Attuatori: oggetti destinati a eseguire azioni sull’ambiente (es. motori, altoparlanti, display),
• Unità di elaborazione: il componente dedicato all’elaborazione delle informazioni sensoriali e alla decisione sulle azioni da intraprendere,
• Base di conoscenza: il nucleo in grado di contenere le informazioni sul mondo e sugli obiettivi dell’agente.

In letteratura esistono diverse tipologie di agenti intelligenti, classificate in base alle loro capacità e al loro grado di sofisticazione:

• Agenti reattivi semplici: agenti che reagiscono direttamente agli stimoli ambientali senza memoria delle esperienze passate,
• Agenti reattivi basati su modello: agenti che mantengono un modello interno dell’ambiente e delle sue dinamiche,
• Agenti basati su obiettivi: agenti che agiscono per raggiungere obiettivi specifici, pianificando le azioni in base al modello dell’ambiente,
• Agenti basati su utilità: agenti che valutano le azioni in base a una funzione di utilità che misura il grado di soddisfazione degli obiettivi,
• Agenti che apprendono: agenti che migliorano le proprie prestazioni nel tempo attraverso l’apprendimento automatico.

Gli Agenti di AI, con la loro capacità di agire autonomamente e di interagire con l’ambiente, possono sbloccare nuove possibilità e applicazioni per l’AI generativa, aprendo la strada a una nuova era di creatività e innovazione.

Cosa può fare un Agente di AI per l’AI Generativa?

1. Automatizzare il processo creativo:
• Gli agenti di AI possono automatizzare compiti ripetitivi e dispendiosi in termini di tempo, come la raccolta di dati, la pre-elaborazione e l’ottimizzazione dei parametri, consentendo ai creatori di concentrarsi sugli aspetti più creativi del processo,
• Possono generare variazioni di un’opera, esplorare diverse opzioni creative e suggerire nuove idee, stimolando l’ispirazione e ampliando le possibilità artistiche,
2. Personalizzare l’esperienza creativa:
• Gli agenti di AI possono apprendere le preferenze e lo stile di un creatore, adattando i modelli generativi alle sue esigenze specifiche,
• Possono fornire feedback personalizzati e suggerimenti in tempo reale, guidando il processo creativo e migliorando la qualità dei risultati,
3. Facilitare la collaborazione creativa:
• Gli agenti di AI possono fungere da intermediari tra diversi creatori, facilitando la comunicazione e la condivisione di idee,
• Possono combinare i contributi di diversi artisti, generando opere collaborative innovative e stimolando nuove forme di espressione artistica,
4. Espandere le applicazioni dell’AI generativa:
• Gli agenti di AI possono integrare l’AI generativa in nuovi contesti e applicazioni, come la creazione di ambienti virtuali interattivi, la progettazione di prodotti personalizzati e lo sviluppo di esperienze educative coinvolgenti,
• Possono agire come “creativi artificiali”, generando contenuti originali e innovativi in modo autonomo, aprendo nuove frontiere nell’arte e nell’intrattenimento,

Ecco alcuni esempi concreti di utilizzo degli agenti per la generazione di contenuti:

• Un agente di AI potrebbe assistere un musicista nella composizione di una canzone, suggerendo melodie, armonie e ritmi in base al suo stile e alle sue preferenze,
• Un agente di AI potrebbe collaborare con un designer per creare un abito su misura, generando diverse opzioni di design e adattandole alle misure e ai gusti del cliente,
• Un agente di AI potrebbe sviluppare un videogioco interattivo, generando ambienti, personaggi e storie in tempo reale, in base alle azioni del giocatore.

Lo stato dell’arte presuppone cha la ricerca debba ancora affrontare diverse sfide:

• Scalabilità: la capacità di sviluppare agenti in grado di operare in ambienti complessi e dinamici, con un elevato numero di variabili e interazioni,

• Robustezza: garantire la capacità degli agenti di gestire situazioni impreviste e incerte, adattando il proprio comportamento in modo flessibile,

• Interazione uomo-agente: progettare agenti in grado di interagire in modo naturale e intuitivo con gli esseri umani, comprendendo il linguaggio naturale e le emozioni,

• Etica e sicurezza: assicurare che gli agenti intelligenti siano utilizzati in modo responsabile ed etico, senza rischi per la sicurezza umana e nel rispetto dei valori sociali.

L’integrazione tra agenti di AI e AI generativa rappresenta un passo significativo verso lo sviluppo di sistemi più creativi, autonomi e collaborativi. Gli agenti possono amplificare il potenziale dell’AI generativa, automatizzando, personalizzando ed espandendo le sue applicazioni, aprendo la strada a una nuova era di innovazione e creatività.

AI Neuro-Simbolica

L’intelligenza artificiale ha compiuto progressi significativi negli ultimi anni, ma le due principali correnti di pensiero – il connessionismo e il simbolismo – che sono alla base delle moderne modellazioni di AI presentano limiti intrinseci. Le reti neurali, pur eccellendo nell’apprendimento di pattern da grandi quantità di dati, mancano di trasparenza e capacità di ragionamento simbolico. I sistemi di AI simbolica, d’altra parte, sono trasparenti e capaci di ragionamento logico, ma hanno difficoltà ad apprendere da grandi quantità di dati e a gestire l’incertezza.

L’AI neuro-simbolica si propone di superare questi limiti integrando i punti di forza di entrambi gli approcci. L’obiettivo è quello di creare sistemi di AI che siano in grado di:

• Apprendere da grandi quantità di dati,
• Ragionare in modo logico e simbolico,
• Spiegare il proprio processo decisionale,
• Generalizzare a nuove situazioni,
• Gestire l’incertezza.

AI Generativa e Innovazione: Neuro-Simbolica, Quantum e Federata

L’AI neuro-simbolica si basa sull’idea che la cognizione umana combini aspetti sia connessionisti che simbolisti. Il cervello umano è un sistema complesso che elabora informazioni sia a livello sub-simbolico (reti neurali) che a livello simbolico (linguaggio e pensiero astratto). L’AI neuro-simbolica mira a emulare questa dualità, integrando reti neurali e sistemi di ragionamento simbolico in un’unica architettura.

Vediamo in dettaglio le motivazioni che fanno privilegiare l’AI Neuro-Simbolica:

• Superare i limiti del connessionismo: le reti neurali, pur dimostrando ottime performance nell’apprendimento di pattern da grandi quantità di dati, presentano dei limiti in termini di interpretabilità, ragionamento simbolico e capacità di generalizzazione,

• Superare i limiti del simbolismo: i sistemi di AI simbolica, pur eccellendo nel ragionamento logico e nella manipolazione di simboli, hanno difficoltà ad apprendere da grandi quantità di dati e a gestire l’incertezza,

• Creare una AI più robusta e versatile: l’AI neuro-simbolica mira a creare sistemi di AI più robusti, flessibili e adattabili, in grado di apprendere da grandi quantità di dati, di ragionare in modo logico e di gestire l’incertezza,

• Sviluppare una AI più simile a quella umana: la cognizione umana sembra combinare aspetti sia connessionisti che simbolisti. L’AI neuro-simbolica potrebbe quindi portare a sistemi di AI più simili a quella umana, in termini di flessibilità, creatività e capacità di comprensione.

Per raggiungere i propri obiettivi, l’AI neuro-simbolica si pone questi traguardi:

• Integrazione di reti neurali e sistemi simbolici: l’AI neuro-simbolica combina reti neurali artificiali con sistemi di ragionamento simbolico, come la logica del primo ordine o le reti semantiche,

• Apprendimento e ragionamento: i sistemi neuro-simbolici sono in grado sia di apprendere da grandi quantità di dati che di ragionare su tali dati utilizzando la conoscenza simbolica,

• Interpretabilità e trasparenza: l’AI neuro-simbolica mira a creare sistemi di AI più interpretabili e trasparenti, in cui il processo decisionale è comprensibile agli esseri umani. Esistono diverse architetture e tecniche per modellare l’AI neuro-simbolica, tra cui:

• Reti neurali con memoria esterna: sono reti neurali che utilizzano una memoria esterna per memorizzare e recuperare informazioni simboliche,

• Sistemi di ragionamento basati su reti neurali: sono sistemi che utilizzano reti neurali per implementare algoritmi di ragionamento simbolico,

• Apprendimento di rappresentazioni simboliche da dati: sono modelli che sfruttano le reti neurali per apprendere rappresentazioni simboliche da dati grezzi,

• Integrazione di conoscenza simbolica in reti neurali: sono modelli che incorporano la conoscenza simbolica nella struttura o nei pesi di una rete neurale,

• Sistemi ibridi che combinano reti neurali e sistemi esperti: sono sistemi che integrano la capacità di apprendimento delle reti neurali con la conoscenza simbolica dei sistemi esperti.

L’AI neuro-simbolica offre un potenziale significativo per migliorare e ampliare le capacità dell’AI generativa. Ecco alcuni dei suoi contributi chiave:

1. Migliorare la coerenza e la plausibilità dei contenuti generati:

• Ragionamento e conoscenza del mondo: i sistemi neuro-simbolici possono integrare la conoscenza del mondo e le regole logiche nel processo generativo, garantendo che i contenuti generati siano coerenti con la realtà e le leggi della fisica. Ad esempio, un sistema neuro-simbolico per la generazione di immagini potrebbe evitare di generare oggetti impossibili o scene surreali,
• Coerenza narrativa: Nell’ambito della generazione di testo, l’AI neuro-simbolica può aiutare a mantenere la coerenza narrativa, evitando contraddizioni e incongruenze nella trama o nei personaggi,

2. Aumentare il controllo e la direzionalità del processo generativo:

• Specificare vincoli e obiettivi: l’AI simbolica consente di specificare vincoli e obiettivi in modo esplicito, guidando il processo generativo verso risultati desiderati. Ad esempio, si potrebbe specificare che un’immagine generata deve contenere determinati oggetti o rispettare uno stile artistico particolare,
• Generazione condizionale: l’AI neuro-simbolica può generare contenuti condizionati a informazioni specifiche, come descrizioni testuali, attributi o esempi,

3. Abilitare la creatività e l’immaginazione:

• Ragionamento analogico: i sistemi neuro-simbolici possono utilizzare il ragionamento analogico per generare nuove idee e concetti, combinando elementi esistenti in modi innovativi,
• Esplorazione di spazi concettuali: l’AI simbolica può aiutare a esplorare spazi concettuali complessi, consentendo all’AI generativa di scoprire nuove possibilità e generare contenuti originali,

4. Rendere l’AI generativa più spiegabile e affidabile:

• Spiegare le decisioni: l’AI neuro-simbolica può fornire spiegazioni sul processo generativo, rendendo più trasparente il funzionamento dell’AI generativa e aumentando la fiducia negli output,
• Verificare la correttezza: i sistemi simbolici possono essere utilizzati per verificare la correttezza e la coerenza dei contenuti generati, identificando eventuali errori o incongruenze.

In sintesi, l’AI neuro-simbolica offre un insieme di strumenti e tecniche che possono migliorare significativamente le capacità dell’AI generativa, rendendola più potente, versatile e affidabile. L’integrazione di ragionamento simbolico e apprendimento automatico apre nuove frontiere per la creatività e l’innovazione, consentendo di generare contenuti di alta qualità e di risolvere problemi complessi in diversi ambiti.

Ecco alcuni esempi di applicazione nell’ambito dell’AI generativa:

• Generazione di codice: Sviluppare sistemi in grado di generare codice sorgente corretto e efficiente, a partire da specifiche in linguaggio naturale.
• Creazione di contenuti artistici: Generare opere d’arte originali e creative, combinando l’estetica con il significato simbolico.
• Design di farmaci: Accelerare la scoperta di nuovi farmaci, generando molecole con proprietà specifiche.

L’AI neuro-simbolica offre un approccio promettente per potenziare l’AI generativa, superando i limiti dei modelli basati esclusivamente su reti neurali. L’integrazione del ragionamento simbolico può portare a sistemi generativi più spiegabili, controllabili, coerenti e in grado di risolvere problemi complessi. Questa sinergia apre nuove frontiere per l’innovazione in diversi settori, dallo sviluppo di software alla creazione artistica, fino alla ricerca scientifica.

AI Federata: Nuovi Paradigmi di Apprendimento Distribuito

L’intelligenza artificiale (AI) federata è una soluzione innovativa che consente di addestrare i modelli di machine learning su dataset distribuiti, preservando la privacy e la sicurezza dei dati.

L’apprendimento automatico tradizionale si basa sulla centralizzazione dei dati su un singolo server. Tuttavia, questa prassi solleva crescenti preoccupazioni in termini di privacy, sicurezza e sovranità dei dati. L’AI federata offre un’alternativa, consentendo di addestrare modelli su dati decentralizzati, residenti su dispositivi individuali (come smartphone o sensori) o server locali.

Nell’AI federata, un server centrale coordina l’addestramento di un modello globale, mentre i dati rimangono distribuiti tra i client. Il processo tipico prevede le seguenti fasi:

• Inizializzazione: il server centrale inizializza un modello globale e lo distribuisce ai client,
• Addestramento locale: ogni client addestra il modello sui propri dati locali,
• Aggregazione: i client inviano gli aggiornamenti del modello (ad esempio, i gradienti) al server centrale,
• Aggiornamento del modello globale: il server aggrega gli aggiornamenti ricevuti dai client e aggiorna il modello globale,
• Iterazione: le fasi 2-4 vengono ripetute fino a raggiungere la convergenza del modello.

Ovviamente, l’implementazione di un AI federata deve affrontare diverse sfide connesse alle tecnologie impiegate e alle implicazioni legali, quali:

• Eterogeneità dei dati: i dati possono variare in termini di qualità, formato e distribuzione tra i client. L’utilizzo di tecniche come l’apprendimento transfer learning e il federated multi-task learning potrebbero mitigare questo problema,
• Comunicazione: la comunicazione tra client e server può essere limitata dalla larghezza di banda e dalla latenza. Lo sfruttamento di tecniche di compressione dei dati e aggiornamento selettivo potrebbero ottimizzare la comunicazione,
• Privacy: garantire la privacy dei dati durante l’addestramento è fondamentale. A riguardo si potrebbero applicate soluzioni crittografiche, come la differential privacy e la homomorphic encryption, in grado di proteggere i dati sensibili.

Nell’ambito della GenAI si ricorda che l’addestramento dei modelli generativi richiede enormi quantità di dati, spesso sensibili e distribuiti tra diverse fonti. Qui entra in gioco l’AI federata, un paradigma di apprendimento automatico che consente di addestrare modelli su dataset decentralizzati, preservando la privacy e la sicurezza dei dati.

L’AI federata può potenziare l’AI generativa in questi ambiti:

1. Accesso a dataset più ampi e diversificati: l’AI federata consente di aggregare dati provenienti da diverse fonti, come dispositivi mobili, sensori IoT e server aziendali, senza la necessità di centralizzarli. Questo permette di addestrare modelli generativi su dataset più ampi e diversificati, migliorandone la capacità di generalizzazione e la creatività,

2. Preservazione della privacy: l’addestramento di modelli generativi su dati sensibili, come informazioni mediche o conversazioni personali, solleva preoccupazioni in termini di privacy. L’AI federata affronta questo problema consentendo di addestrare i modelli localmente sui dispositivi degli utenti, senza condividere i dati grezzi,

3. Personalizzazione: l’AI federata consente di addestrare modelli generativi personalizzati per ciascun utente o dispositivo, tenendo conto delle preferenze individuali e del contesto. Questo apre nuove opportunità per la creazione di contenuti personalizzati, come assistenti virtuali più intelligenti e sistemi di raccomandazione più accurati,

4. Scalabilità: l’addestramento di modelli generativi su larga scala può essere complesso e dispendioso. L’AI federata distribuisce il carico computazionale tra diversi dispositivi, rendendo l’addestramento più efficiente e scalabile.

Ecco alcuni esempi di applicazioni:

• Generazione di testo: addestrare modelli di linguaggio su conversazioni provenienti da diversi utenti, preservando la privacy e personalizzando le risposte,
• Creazione di musica: comporre musica originale basata sulle preferenze musicali di diversi utenti, senza condividere le loro librerie musicali,
• Sintesi di immagini: generare immagini mediche sintetiche per l’addestramento di algoritmi di diagnosi, senza compromettere la privacy dei pazienti.

Vi sono sfide e direzioni future:

• Eterogeneità dei dati: gestire la variabilità dei dati provenienti da diverse fonti.
• Comunicazione: ottimizzare la comunicazione tra i dispositivi e il server centrale.
• Sicurezza: proteggere gli aggiornamenti del modello da attacchi malevoli.

L’AI federata offre un potenziale enorme per l’AI generativa, consentendo di addestrare modelli più potenti, personalizzati e privacy-preserving. Questo connubio apre nuove frontiere per l’innovazione in diversi settori, dalla creazione di contenuti personalizzati allo sviluppo di nuove applicazioni nell’ambito della sanità e dell’IoT.

AI Quantistica: La Frontiera Computazionale della Generative AI

L’AI quantistica (IAQ) rappresenta un campo di ricerca emergente che esplora l’intersezione tra l’intelligenza artificiale e la meccanica quantistica. Sfruttando i principi della computazione quantistica, come la sovrapposizione e l’entanglement, l’IAQ mira a sviluppare algoritmi e modelli di AI più potenti, efficienti e capaci rispetto a quelli classici, aprendo nuove possibilità per la risoluzione di problemi complessi e la scoperta scientifica. Questo paragrafo esamina i fondamenti dell’IAQ, le sue potenziali applicazioni e le sfide che la ricerca deve affrontare[4].

L’AI quantistica si basa sull’idea di utilizzare i computer quantistici per eseguire algoritmi di AI. I computer quantistici sfruttano i principi della meccanica quantistica per elaborare le informazioni in modo radicalmente diverso dai computer classici[5]. Questo consente di affrontare problemi complessi che sono intrattabili per i computer classici, aprendo nuove possibilità per l’AI[6].

I vantaggi che ciò implica sono:

• Velocità di elaborazione: i computer quantistici possono elaborare le informazioni a velocità esponenzialmente superiori rispetto ai computer classici, consentendo di addestrare modelli di AI più complessi e di risolvere problemi più velocemente,
• Efficienza: gli algoritmi quantistici possono essere più efficienti degli algoritmi classici per determinati compiti di AI, come l’ottimizzazione e la ricerca,
• Capacità di rappresentazione: i computer quantistici possono rappresentare e manipolare informazioni in modi che sono impossibili per i computer classici, consentendo di sviluppare nuovi modelli di AI con capacità superiori.

L’IAQ si basa su diversi concetti chiave della meccanica quantistica:

• Qubit: a differenza dei bit classici, che possono essere 0 o 1, i qubit possono esistere in una sovrapposizione di entrambi gli stati contemporaneamente,
• Entanglement: due o più qubit possono essere entangled, il che significa che sono correlati in modo tale che la misurazione di uno influenza istantaneamente lo stato dell’altro, anche se sono separati da grandi distanze,
• Sovrapposizione: la capacità di un sistema quantistico di esistere in più stati contemporaneamente,
• Algoritmi quantistici: algoritmi progettati per essere eseguiti su computer quantistici, sfruttando le proprietà dei qubit e dell’entanglement per risolvere problemi in modo più efficiente rispetto agli algoritmi classici.

Le principali applicazioni dell’AI Quantistica sono sintetizzate in:

• Apprendimento automatico quantistico: sviluppo di algoritmi di apprendimento automatico che sfruttano i principi della meccanica quantistica per migliorare l’accuratezza, l’efficienza e la capacità di generalizzazione dei modelli di AI,
• Ottimizzazione quantistica: utilizzo di algoritmi quantistici per risolvere problemi di ottimizzazione complessi, come la selezione del portafoglio, la logistica e la progettazione di farmaci,
• Elaborazione del linguaggio naturale quantistica: sviluppo di modelli di AI quantistica per la comprensione e la generazione del linguaggio naturale, con potenziali applicazioni nella traduzione automatica, nella sintesi vocale e nell’analisi del sentiment,
• Visione artificiale quantistica: utilizzo di algoritmi quantistici per migliorare l’accuratezza e l’efficienza dei sistemi di visione artificiale, con applicazioni nel riconoscimento di immagini, nella guida autonoma e nella robotica.

L’AI quantistica è un campo di ricerca ancora giovane, con molte sfide da affrontare quali:

• Sviluppo di hardware quantistico: la costruzione di computer quantistici affidabili e scalabili è una sfida tecnologica significativa,
• Sviluppo di algoritmi quantistici: sono necessari nuovi algoritmi quantistici specificamente progettati per l’AI,
• Integrazione con l’AI classica: È importante sviluppare metodi per integrare l’AI quantistica con quella classica, sfruttando i punti di forza di entrambi gli approcci.

Nell’ambito della GenAI è noto che l’addestramento di modelli generativi complessi richiede risorse computazionali significative e può presentare limiti in termini di efficienza e scalabilità.

È qui che entra in gioco l’AI quantistica, promettendo di superare questi ostacoli e di spingere l’AI generativa verso nuovi orizzonti. Ma cosa può fare esattamente l’AI quantistica per l’AI generativa?

1. Accelerazione dell’addestramento: l’addestramento di modelli di AI generativa, come le GAN (Generative Adversarial Networks) e i VAE (Variational Autoencoders), comporta l’ottimizzazione di milioni, se non miliardi, di parametri. I computer quantistici, sfruttando i principi della meccanica quantistica come la sovrapposizione e l’entanglement, possono elaborare informazioni in modo esponenzialmente più veloce rispetto ai computer classici. Questo si traduce in una drastica riduzione dei tempi di addestramento, consentendo di sviluppare modelli più complessi e performanti,

2. Miglioramento della qualità dei contenuti generati: l’AI quantistica può migliorare la qualità dei contenuti generati in diversi modi:

• Generazione di distribuzioni di probabilità più complesse: i computer quantistici possono rappresentare e manipolare distribuzioni di probabilità più complesse rispetto ai computer classici, consentendo ai modelli generativi di creare contenuti più realistici e diversificati,
• Ottimizzazione di funzioni di costo più sofisticate: l’ottimizzazione quantistica può trovare soluzioni migliori per funzioni di costo complesse, utilizzate per valutare la qualità dei contenuti generati. Questo porta a modelli più accurati e capaci di generare contenuti di qualità superiore,

3. Esplorazione di nuovi modelli generativi: l’AI quantistica apre la strada a nuovi modelli generativi, impossibili da implementare su computer classici. Ad esempio, i modelli generativi basati su algoritmi quantistici potrebbero sfruttare fenomeni come il tunneling quantistico per esplorare lo spazio delle soluzioni in modo più efficiente, scoprendo nuove e creative forme di contenuto.

Ecco alcune applicazioni concrete:

• Drug discovery: accelerare la scoperta di nuovi farmaci generando molecole con proprietà specifiche,
• Scienza dei materiali: progettare nuovi materiali con caratteristiche desiderate, come resistenza, leggerezza e conducibilità,
• Creazione di contenuti artistici: generare opere d’arte originali e innovative, spingendo i confini della creatività,
• Modellazione finanziaria: sviluppare modelli più accurati per la previsione dei mercati finanziari e la gestione del rischio.

Nonostante il potenziale rivoluzionario, l’AI quantistica è ancora in una fase iniziale di sviluppo. La costruzione di computer quantistici su larga scala e lo sviluppo di algoritmi quantistici efficienti per l’AI generativa rappresentano sfide significative. Tuttavia, la ricerca in questo campo sta progredendo rapidamente e le prime applicazioni concrete iniziano ad emergere.

L’AI quantistica promette di amplificare il potere dell’AI generativa, aprendo nuove possibilità in diversi settori. L’accelerazione dell’addestramento, il miglioramento della qualità dei contenuti generati e l’esplorazione di nuovi modelli generativi sono solo alcune delle potenzialità di questo connubio dirompente. Sebbene le sfide siano ancora molte, l’AI quantistica è destinata a giocare un ruolo cruciale nell’evoluzione dell’AI generativa e nel suo impatto sul nostro futuro.

Ingegneria dell’AI: Verso Sistemi Generativi Etici e Affidabili

L’ingegneria dell’intelligenza artificiale è una disciplina emergente focalizzata sullo sviluppo di strumenti, sistemi e processi per consentire l’applicazione dell’intelligenza artificiale in contesti del mondo reale.

In contrasto con la corsa prevalente per sviluppare capacità e far progredire singoli strumenti, AI Engineering pone una serie diversa di domande: in che modo l’AI può aiutare gli esseri umani a raggiungere i risultati della missione? Quali sono i limiti dei sistemi di AI nella pratica odierna? Come possiamo garantire che gli standard etici siano rispettati quando i sistemi di AI vengono implementati?

L’aumento della disponibilità di potenza di calcolo e di enormi set di dati ha portato alla creazione di nuova AI, modelli e algoritmi che comprendono migliaia di variabili e sono in grado di prendere decisioni rapide e di impatto. Troppo spesso, però, queste capacità funzionano solo in ambienti controllati e sono difficili da replicare, verificare e convalidare nel mondo reale.

È urgente la necessità di una disciplina ingegneristica che guidi lo sviluppo e l’implementazione delle capacità di intelligenza artificiale. L’ingegneria dell’intelligenza artificiale mira a fornire un framework e strumenti per progettare in modo proattivo sistemi di intelligenza artificiale che funzionino in ambienti caratterizzati da elevati gradi di complessità, ambiguità e dinamismo. La disciplina dell’ingegneria dell’intelligenza artificiale mira a dotare i professionisti degli strumenti necessari per sviluppare sistemi nell’intero spettro enterprise-to-edge, per anticipare i requisiti in mutevoli ambienti e condizioni operative e per garantire che le esigenze umane siano tradotte in un’intelligenza artificiale comprensibile, etica e quindi affidabile.

In tal senso, è opportuno rimarcare che l’ingegneria dell’intelligenza artificiale è una disciplina che combina i principi dell’ingegneria dei sistemi, dell’ingegneria del software, dell’informatica e della progettazione incentrata sull’uomo per creare sistemi di intelligenza artificiale in base alle esigenze umane per i risultati della missione. Alla luce di queste considerazioni è opportuno guidare lo sviluppo dell’AI seguendo questi tre pilastri:

Human-centered AI

La chiave per l’implementazione di un AI responsabile si basa sulla comprensione approfondita delle persone che utilizzeranno questa tecnologia. Questo principio evidenzia come i sistemi di AI siano progettati per allinearsi con le caratteristiche degli esseri umani, i loro comportamenti e i loro valori.

I sistemi di intelligenza artificiale incentrati sull’uomo sono progettati per funzionare con e per le persone. Man mano che cresce l’esigenza di utilizzare sistemi di intelligenza artificiale, i principi di ingegneria incentrati sull’uomo saranno fondamentali per guidare lo sviluppo dell’AI verso un’implementazione efficace, in grado di ridurre al minimo le conseguenze indesiderate. Identifichiamo tre aree specifiche di attenzione per far progredire l’intelligenza artificiale incentrata sull’uomo:

• I progettisti e i sistemi devono comprendere il contesto di utilizzo e rilevare i cambiamenti nel tempo,
• Occorre sviluppare strumenti, processi e procedure per definire e facilitare la cooperazione tra uomo e macchina,
• Serve implementare metodi, meccanismi e ragionamenti per raggiungere la supervisione critica.

Scalable AI

Lo sviluppo di sistemi di AI efficaci richiede grandi investimenti in termini di tempo e denaro. Questo principio ribadisce il concetto per cui le infrastrutture, i dati e i modelli di AI possano essere riutilizzati in domini con problematiche e implementazioni variabili.

L’AI scalabile è la capacità degli algoritmi, dei dati, dei modelli e dell’infrastruttura di AI di operare alle dimensioni, alla velocità e alla complessità richieste per la missione. La scalabilità è un concetto critico in molte discipline ingegneristiche ed è fondamentale per realizzare la capacità operativa. Identifichiamo tre aree di attenzione per far progredire l’AI scalabile:

• Gestione scalabile di dati e modelli per superare la scarsità di dati e le sfide di raccolta,
• Scalabilità aziendale dello sviluppo e dell’implementazione dell’intelligenza artificiale,
• Algoritmi e infrastrutture scalabili.

Scalabilità e Robustezza: Le Chiavi per un’AI Generativa Responsabile

I sistemi di AI robusti e sicuri sono sistemi di AI che operano in modo affidabile all’interno dei livelli di prestazioni previsti, anche quando si trovano di fronte a stati di incertezza o in presenza di pericolo o minacce. Questi sistemi hanno strutture e meccanismi di mitigazioni integrate per prevenire, evitare o fornire resilienza in caso di minacce. Identifichiamo tre aree specifiche di attenzione per promuovere l’AI robusta e sicura:

• Migliorare la robustezza dei componenti e dei sistemi di intelligenza artificiale,
• Progettare per le sfide di sicurezza nei moderni sistemi di intelligenza artificiale,
• Sviluppo di processi e strumenti per testare, valutare e analizzare i sistemi di intelligenza artificiale.

Il futuro dell’Artificial Intelligence non consisterà in un ampliamento, in termini quantitativi e qualitativi, delle capacità cognitive e computazionali di quella attuale, bensì evolverà verso sistemi intelligenti a supporto dell’uomo per lo svolgimento delle più disparate attività (intellettuali, produttive, ricerca, analisi, computazionali, ecc.). Assisteremo allo sviluppo di una disciplina dell’ingegneria dell’AI in grado di fornire la capacità di sviluppare, integrare ed evolvere soluzioni di AI, con un focus specifico sui temi della “safety”, della “security”, della “robustness”, della “reliability”, della “resiliency” e dell’etica. Questo approccio consentirà di creare e utilizzare prodotti e servizi dell’AI “Safe, Secure and Trustworthy”.

A riguardo, l’AI generativa offre enormi opportunità, ma è essenziale affrontare i rischi connessi al suo sviluppo e utilizzo. Affrontare i rischi dell’AI generativa richiede un approccio multidisciplinare che coinvolga ricercatori, sviluppatori, legislatori e la società civile. Un approccio responsabile e proattivo permetterà di sfruttare appieno il potenziale di questa tecnologia, minimizzando al contempo i suoi effetti negativi.

L’articolo ha esplorato le frontiere più avanzate dell’AI Generativa, presentando tecnologie rivoluzionarie come agenti intelligenti, AI neuro-simbolica, quantistica e federata. Nel prossimo approfondimento, ci concentreremo ulteriormente sul concetto di ‘agente intelligente’, approfondendo i meccanismi dell’ingegneria dell’AI e le sue implicazioni nella generazione di contenuti. Per una comprensione più dettagliata, è disponibile il nostro white paper dal titolo “Generative Artificial Intelligence: punti di forza, rischi e contromisure”.

Note bibliografiche

[1] Russell, S. J., & Norvig, P. (2010). Artificial intelligence: a modern approach. Prentice Hall

[2] Wooldridge, M. (2009). An introduction to multiagent systems. John Wiley & Sons

[3] Weiss, G. (Ed.). (2013). Multiagent systems: a modern approach to distributed artificial intelligence. MIT press

[4] Biamonte, J. et al. (2017). Quantum machine learning. Nature, 549(7671), 195-202.

[5] Schuld, M., & Petruccione, F. (2018). Supervised learning with quantum computers. Springer.

[6] Wiebe, N., Kapoor, A., & Svore, K. M. (2016). Quantum deep learning. Quantum Information & Computation, 16(7-8), 541-587.

https://www.ictsecuritymagazine.com/articoli/ai-generativa/

ChatGPT, intelligenza artificiale e lo stile Ghibli

Negli ultimi giorni, si legge in un approfondimento del New York Times, i social media sono stati invasi da immagini in stile Studio Ghibli, create con l’ultima versione di ChatGPT di OpenAI (GPT-4o Image Generation). L’aggiornamento ha potenziato enormemente le capacità di generazione di immagini dell’intelligenza artificiale (AI), rendendo possibile trasformare in pochi secondi semplici selfie, meme e scene quotidiane in illustrazioni fiabesche tipiche dell’immaginario di Hayao Miyazaki.
Si parla già di “ghiblification“.

Questa funzione ha avuto un tale successo da mandare in crash il sistema di OpenAI a causa dell’elevato numero di richieste. Ma con essa emergono anche nuove e complesse questioni sul fronte del copyright e del diritto d’autore.

“Il lancio di ChatGPT 26 mesi fa è stato uno dei momenti virali più folli che abbia mai visto e abbiamo aggiunto un milione di utenti in cinque giorni. Abbiamo aggiunto un milione di utenti nell’ultima ora“, ha annunciato ieri sera Sam Altman su X. Probabilmente si tratta dell’effetto Ghibli-Style del generatore di immagini GPT-4o.
Lo stesso Altman ha scritto oggi, sempre sul social, che il generatore di immagini di ChatGPT è gratuitamente accessibile a tutti gli utenti OpenAI.

Grazie ad un nuovo round di finanziamenti, guidato dalla società di investimenti giapponese SoftBank, OpenAI vale oggi più di 300 miliardi di dollari, quasi il doppio di ottobre 2024.

Come funziona la nuova generazione di immagini. E la privacy?

Mentre i precedenti generatori di immagini si basavano su modelli di diffusione (che partono da un’immagine casuale per affinarla progressivamente), ChatGPT ora utilizza un algoritmo autoregressivo. Questo tratta le immagini come se fossero linguaggio, suddividendole in “token” (frammenti), e predicendo le componenti visive più probabili come fa con le parole. Questo approccio consente una maggiore precisione nella creazione di immagini e un migliore collegamento tra parole e componenti visive.

Un vantaggio chiave è che l’IA può attingere all’enorme base di conoscenze di cui dispone, riconoscendo concetti come “stile Ghibli” senza bisogno di descrizioni dettagliate.

Sulla scia delle novità comunicate da OpenAI durante la scorsa settimana, molti utenti, però, stanno anche caricando proprie immagini o fotografie di parenti e amici per creare nuovi contenuti ghiblizzati, per così dire, ma con grandi problemi sul fronte della tutela dei dati personali.
Tali immagini che ritraggono persone in carne ed ossa potrebbero venir utilizzate dalla società per addestrare i modelli di AI. Il problema è che lo potrebbe fare senza chiedere l’autorizzazione al diretto proprietario e sfruttando in modo particolare i volti, per l’estrazione dei dati facciali e biometrici (addestramento particolarmente utile ai fini dello sviluppo di nuovi strumenti legati videosorveglianza intelligente, ma anche per l’integrazione dell’AI nella robotica).

Le AI come motori di stile

In questo lavoro, possiamo considerare l’AI generativa di ChatGPT come un motore di stile. Non memorizza immagini o testi in senso tradizionale, ma apprende schemi e stili da grandi quantità di dati. Non conserva veri frame di film Ghibli, ma codifica la cosiddetta “Ghibli-ness” – ovvero una rappresentazione matematica dello stile Miyazaki. Lo stesso vale per qualsiasi soggetto: “banana-ness”, “cat-ness”, o “corporate email-ness”.

Questa capacità di assorbire e replicare stili permette di mescolare e reinventare, ad esempio creando una “poltrona nello stile di un gatto” o “un paesaggio elfico”.

Si pone un problema di diritto d’autore

Tuttavia, l’uso degli stili altrui pone interrogativi giuridici. Secondo la legge attuale, non è possibile brevettare uno stile: il diritto d’autore protegge solo le opere specifiche, non i generi o gli approcci stilistici. Tuttavia, quando uno stile è così unico da essere parte dell’identità di un artista, la sua replicazione automatica da parte di un’IA può diventare una minaccia.

Greg Rutkowski, artista polacco, ha visto il suo stile riprodotto in oltre 93.000 prompt solo su Stable Diffusion. In risposta, insieme ad altri colleghi, ha avviato una class action nel 2022 contro diverse aziende di AI, accusandole di utilizzare le sue opere senza consenso per addestrare i loro modelli.

Lo stesso Hayao Miyazaki si è espresso in passato in modo critico verso l’uso dell’intelligenza artificiale nella creazione artistica.

Con le IA sempre più potenti e accessibili, ci troviamo di fronte a una trasformazione profonda della creatività. Le tecnologie come ChatGPT offrono strumenti senza precedenti per l’espressione personale e artistica, ma sollevano al contempo la necessità di nuove tutele legali per proteggere l’identità e il lavoro degli artisti (e quindi la stessa creatività come opera d’arte, d’ingegno e culturale). Il futuro dell’arte e del diritto d’autore si gioca oggi su questo nuovo terreno, dove creatività e algoritmi si incontrano.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/chatgpt-crea-immagini-in-stile-studio-ghibli-e-solleva-un-nuovo-conflitto-tra-ai-e-copyright/526282/

Google released its latest and greatest Gemini AI model last week, but it was only made available to paying subscribers. Google has moved with uncharacteristic speed to release Gemini 2.5 Pro (Experimental) for free users, too. The next time you check in with Gemini, you can access most of the new AI’s features without a Gemini Advanced subscription.

The Gemini 2.5 branch will eventually replace 2.0, which was only released in late 2024. It supports simulated reasoning, as all Google’s models will in the future. This approach to producing an output can avoid some of the common mistakes that AI models have made in the past. We’ve also been impressed with Gemini 2.5’s vibe, which has landed it at the top of the LMSYS Chatbot arena leaderboard.

Google says Gemini 2.5 Pro (Experimental) is ready and waiting for free users to try on the web. Simply select the model from the drop-down menu and enter your prompt to watch the “thinking” happen. The model will roll out to the mobile app for free users soon.

While the free tier gets access to this model, it won’t have all the advanced features. You still cannot upload files to Gemini without a paid account, which may make it hard to take advantage of the model’s large context window—although you won’t get the full 1 million-token window anyway. Google says the free version of Gemini 2.5 Pro (Experimental) will have a lower limit, which it has not specified. We’ve added a few thousand words without issue, but there’s another roadblock in the way.

https://arstechnica.com/gadgets/2025/03/googles-new-experimental-gemini-2-5-model-rolls-out-to-free-users/

Microsoft ha abbandonato nuovi progetti per data center oltre i 2 gigawatt di elettricità negli Usa e in Europa negli ultimi sei mesi. Una decisione presa a causa di un surplus di fornitura rispetto alle attuali previsioni sul fronte della domanda. Lo rende noto la società di analisi TD Cowen.

La retromarcia di Microsoft sul leasing di nuova capacità è stata ampiamente dovuta alla decisione di non sostenere i volumi aggiuntivi dell’addestramento di ChatGPT di OpenAI. Lo rende noto la società di analisi Michael Elias.

Scetticismo del mercato sulla spesa in AI

Lo scetticismo generale degli analisti sulla enorme spesa in intelligenza artificiale da parte delle grandi big tech Usa è cresciuto a causa dei lenti pagamenti e dell’ascesa della startup cinese DeepSeek, che ha presentato la tecnologia AI a un costo molto inferiore rispetto ai suoi rivali occidentali.

I controlli della supply chain di TD Cowen indicano che la ritirata di Microsoft ha spinto Google a intervenire per colmare la capacità nei mercati internazionali, mentre Meta fa lo stesso negli Stati Uniti.

Le Big Tech confermano gli investimenti

Detto questo, Microsoft ha reso noto che gli investimenti per 80 miliardi di dollari in infrastrutture AI previsti nell’anno fiscale sono in linea con i piani. In altre parole, l’avvento di DeepSeek non ha inciso sul piano di investimenti della Big Tech usa che li ha confermati.

Alphabet ha dichiarato che investirà 75 miliardi di dollari per la sua implementazione dell’intelligenza artificiale quest’anno, il 29% in più di quanto previsto da Wall Street, mentre Meta ha promesso fino a 65 miliardi di dollari.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-dopo-deepseek-cambio-culturale-servono-meno-data-center/526211/

Destination Earth e il gemello digitale per studiare e gestire il cambiamento climatico e gli eventi estremi

La Commissione europea ha annunciato oggi l’adozione del nuovo programma di lavoro del Digital Europe Programme (DIGITAL) per il triennio 2025-2027, con un investimento complessivo di 1,3 miliardi di euro. L’obiettivo è ambizioso: rafforzare la sovranità tecnologica dell’Europa attraverso lo sviluppo e la diffusione di tecnologie critiche nei settori dell’intelligenza artificiale (AI), del cloud, della cybersicurezza e delle competenze digitali.

In un contesto di cambiamenti climatici sempre più estremi, Bruxelles lancia una nuova iniziativa tecnologica per affrontare i rischi crescenti delle ondate di calore nelle aree urbane. Al centro c’è Destination Earth (DestinE), un ambizioso programma europeo che punta a creare entro il 2030 un gemello digitale del sistema Terra. Questa replica virtuale permetterà di simulare, prevedere e gestire eventi climatici estremi in tempo reale, offrendo soluzioni concrete per la pianificazione urbana, la salute pubblica e la protezione ambientale.

Tra i progetti più innovativi nati all’interno di Destination Earth c’è l’attività di Urban Heat Health Forecasting (UHHF), sviluppata dal laboratorio portoghese +Atlantic CoLAB in collaborazione con il Centro europeo per le previsioni meteorologiche a medio termine (ECMWF). L’obiettivo è combinare l’enorme mole di dati forniti dai “digital twins” – o gemelli digitali – con le tecniche più avanzate di intelligenza artificiale e machine learning per monitorare e prevedere gli effetti del calore urbano sulla salute umana.

Cosa sono i digital twin di Destination Earth?

I digital twin sono modelli virtuali ad altissima risoluzione del nostro pianeta, capaci di simulare in tempo reale il comportamento del clima, delle catastrofi naturali e degli ecosistemi. Nel caso di DestinE, due sono i gemelli digitali già operativi: il Climate Change Adaptation Digital Twin e il Weather Induced Extremes Digital Twin, che offrono previsioni dettagliate su cambiamenti climatici e fenomeni meteorologici estremi.

Questi gemelli digitali, alimentati da supercomputer europei come LUMI (Finlandia), Marenostrum5 (Spagna), Leonardo (Italia) e MeluXina (Lussemburgo), generano dati climatici e meteorologici a una risoluzione spaziale di 4,4 km. Grazie al progetto UHHF, tali dati verranno ulteriormente raffinati fino a risoluzioni inferiori al chilometro – circa 200 metri – utilizzando algoritmi di machine learning già testati con successo a Lisbona e in alcune città danesi.

Informazioni cruciali per affrontare il caldo in città

Il progetto UHHF si propone di fornire mappe orarie delle condizioni meteorologiche urbane, tra cui temperatura dell’aria, stress termico umano e durata delle ondate di calore. Le autorità locali potranno così accedere a informazioni dettagliate e localizzate per adottare misure mirate, come la creazione di zone verdi, l’identificazione delle aree più vulnerabili e la gestione dei picchi di domanda energetica.

L’effetto “isola di calore urbana”, causato dall’accumulo di calore in aree densamente edificate e poco vegetate, può innalzare la temperatura fino a 5°C rispetto alle zone rurali circostanti. Comprendere e prevedere questi fenomeni è fondamentale per proteggere le fasce di popolazione più fragili, ridurre la mortalità estiva e pianificare città più resilienti.

Il Digital Europe Programme: sovranità tecnologica per l’Ue

A sostenere finanziariamente questa rivoluzione digitale c’è il Digital Europe Programme (DIGITAL), il programma dell’UE che investirà 1,3 miliardi di euro nel periodo 2025-2027 per promuovere tecnologie strategiche per la sovranità digitale del continente. Le priorità includono l’intelligenza artificiale, la cybersicurezza, il cloud, i dati e lo sviluppo delle competenze digitali.

Destination Earth è uno dei progetti bandiera del DIGITAL Programme, coordinato dalla Commissione Europea insieme a tre enti chiave: l’ECMWF (responsabile dei gemelli digitali), l’Agenzia Spaziale Europea (ESA) (che sviluppa la piattaforma centrale dei servizi), e l’EUMETSAT (che gestisce il Data Lake contenente i dati osservativi da satellite).

Una collaborazione transatlantica per il bene pubblico

Il progetto UHHF si inserisce anche nell’ambito dell’AI4 the Public Good, una partnership tra Unione Europea e Stati Uniti per utilizzare l’intelligenza artificiale a beneficio della collettività. L’iniziativa mira a sviluppare soluzioni comuni per affrontare sfide globali come il cambiamento climatico, la gestione delle emergenze e l’ottimizzazione energetica.

Grazie a questa sinergia tra big data, AI e supercalcolo, il gemello digitale della Terra diventa sempre più una realtà. Una realtà capace non solo di prevedere il futuro, ma anche di guidare decisioni concrete e tempestive per proteggere milioni di cittadini europei da uno dei pericoli più subdoli del nostro tempo: il caldo estremo.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ue-un-gemello-digitale-del-pianeta-terra-entro-il-2030/526181/

Fine-tuning helps mitigate this problem, guiding the model to act as a helpful assistant and to refuse to complete a prompt when its related training data is sparse. That fine-tuning process creates distinct sets of artificial neurons that researchers can see activating when Claude encounters the name of a “known entity” (e.g., “Michael Jordan”) or an “unfamiliar name” (e.g., “Michael Batkin”) in a prompt.

A simplified graph showing how various features and circuits interact in prompts about sports stars, real and fake.

Activating the “unfamiliar name” feature amid an LLM’s neurons tends to promote an internal “can’t answer” circuit in the model, the researchers write, encouraging it to provide a response starting along the lines of “I apologize, but I cannot…” In fact, the researchers found that the “can’t answer” circuit tends to default to the “on” position in the fine-tuned “assistant” version of the Claude model, making the model reluctant to answer a question unless other active features in its neural net suggest that it should.

That’s what happens when the model encounters a well-known term like “Michael Jordan” in a prompt, activating that “known entity” feature and in turn causing the neurons in the “can’t answer” circuit to be “inactive or more weakly active,” the researchers write. Once that happens, the model can dive deeper into its graph of Michael Jordan-related features to provide its best guess at an answer to a question like “What sport does Michael Jordan play?”

Recognition vs. recall

Anthropic’s research found that artificially increasing the neurons’ weights in the “known answer” feature could force Claude to confidently hallucinate information about completely made-up athletes like “Michael Batkin.” That kind of result leads the researchers to suggest that “at least some” of Claude’s hallucinations are related to a “misfire” of the circuit inhibiting that “can’t answer” pathway—that is, situations where the “known entity” feature (or others like it) is activated even when the token isn’t actually well-represented in the training data.

https://arstechnica.com/ai/2025/03/why-do-llms-make-stuff-up-new-research-peers-under-the-hood/

Il programma europeo DIGIT per promuovere AI, cybersecurity e nuove competenze digitali

La Commissione europea ha annunciato oggi l’adozione del nuovo programma di lavoro del Digital Europe Programme (DIGITAL) per il triennio 2025-2027, con un investimento complessivo di 1,3 miliardi di euro. L’obiettivo è ambizioso: rafforzare la sovranità tecnologica dell’Europa attraverso lo sviluppo e la diffusione di tecnologie critiche nei settori dell’intelligenza artificiale (AI), del cloud, della cybersicurezza e delle competenze digitali.

Tra le priorità strategiche spicca l’impulso all’intelligenza artificiale generativa, con un focus particolare sull’accessibilità delle applicazioni AI nei settori della sanità e dell’assistenza.

I fondi saranno destinati alla sperimentazione di ambienti immersivi (i cosiddetti “mondi virtuali”), all’implementazione dell’AI Act e allo sviluppo di spazi comuni di dati energeticamente efficienti, tasselli fondamentali per l’iniziativa AI Factories, pensata per accelerare l’adozione dell’AI da parte di imprese e pubbliche amministrazioni.

Virkkunen: “La sovranità tecnologica parte dagli investimenti e dalla formazione“

“Per garantire la sovranità tecnologica europea si inizia investendo in tecnologie avanzate e rendendo possibile per le persone migliorare le proprie competenze digitali. Con le opportunità del Programma Europa digitale, ci stiamo assicurando che le nuove tecnologie e tutto il loro potenziale raggiungano i cittadini, le aziende e le pubbliche amministrazioni europee”, ha dichiarato in una nota Henna Virkkunen, Vicepresidente esecutivo per la sovranità tecnologica, la sicurezza e la democrazia.

Al centro del programma anche il potenziamento degli European Digital Innovation Hubs (EDIHs), la rete europea che offre supporto tecnico, formazione e test alle organizzazioni per agevolare l’adozione delle nuove tecnologie digitali.

La sicurezza delle infrastrutture critiche

Un’altra iniziativa di punta è Destination Earth, il progetto che mira a costruire un gemello digitale del pianeta per supportare l’adattamento climatico e la gestione dei rischi. Il nuovo finanziamento permetterà di creare un modello ancora più potente, accessibile a una platea più ampia di ricercatori.

In tema di cybersicurezza, saranno potenziate le infrastrutture critiche, come ospedali e cavi sottomarini, anche attraverso strumenti come la EU Cybersecurity Reserve. Allo stesso tempo, l’UE investirà nella formazione avanzata e nel rafforzamento delle competenze digitali attraverso istituzioni educative, per attrarre e formare nuovi talenti.

La centralità delle competenze digitali

Il programma prevede inoltre il sostegno alla diffusione del portafoglio digitale europeo (EU Digital Identity Wallet) e lo sviluppo di servizi pubblici digitali interoperabili, efficienti e di alta qualità.

Un’ulteriore spinta all’innovazione verrà dal nuovo Strategic Technologies for Europe Platform (STEP), che con l’etichetta STEP Seal faciliterà l’accesso a finanziamenti pubblici e privati per progetti promettenti.

Prossimi passi

I primi bandi del DIGITAL sono attesi per aprile 2025 e saranno pubblicati durante tutto l’anno attraverso il portale EU Funding & Tenders.

Potranno partecipare imprese, amministrazioni pubbliche ed enti di ricerca provenienti dagli Stati membri UE, dai Paesi EFTA/SEE e da quelli associati al programma DIGITAL.
L’Europa punta con decisione su un futuro tecnologico sovrano, inclusivo e resiliente.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/indipendenza-digitale-lue-investe-13-miliardi-di-euro-in-ai-cybersecurity-e-competenze/526081/

GT Sophy can now race at 19 tracks, up from the nine that were introduced in November 2023. The AI agent is an alternative to the regular, dumber AI in the game’s quick race mode, with easy, medium, and hard settings. But now, at those same tracks, you can also create custom races using GT Sophy, meaning you’re no longer limited to just two or three laps. You can enable things like damage, fuel consumption and tire wear, and penalties, and you can have some control over the cars you race against.

Unlike the time-limited demo, the hardest setting is no longer alien-beating. As a GT7 player, I’m slowing with age, and I find the hard setting to be that—hard, but beatable. (I suspect but need to confirm that the game tailors the hardest setting to your ability based on your results, as, when I create a custom race on hard, only seven of the nine progress bars are filled, and in the screenshot above, only five bars are filled.)

Having realistic competition has always been one of the tougher challenges for a racing game, and one that the GT franchise was never particularly great at during previous console generations. This latest version of GT Sophy does feel different to race against: The AI is opportunistic and aggressive but also provokable into mistakes. If only the developer would add it to more versions of the in-game Nürburgring.

https://arstechnica.com/gaming/2025/03/gran-turismo-7-gets-an-npc-upgrade-with-improved-gt-sophy-ai/

The resulting dataset, which reflected a distribution of attack categories similar to the complete dataset, showed an attack success rate of 65 percent and 82 percent against Gemini 1.5 Flash and Gemini 1.0 Pro, respectively. By comparison, attack baseline success rates were 28 percent and 43 percent. Success rates for ablation, where only effects of the fine-tuning procedure are removed, were 44 percent (1.5 Flash) and 61 percent (1.0 Pro).

While Google is in the process of deprecating Gemini 1.0 Pro, the researchers found that attacks against one Gemini model easily transfer to others—in this case, Gemini 1.5 Flash.

“If you compute the attack for one Gemini model and simply try it directly on another Gemini model, it will work with high probability, Fernandes said. “This is an interesting and useful effect for an attacker.”

Another interesting insight from the paper: The Fun-tuning attack against Gemini 1.5 Flash “resulted in a steep incline shortly after iterations 0, 15, and 30 and evidently benefits from restarts. The ablation method’s improvements per iteration are less pronounced.” In other words, with each iteration, Fun-Tuning steadily provided improvements.

The ablation, on the other hand, “stumbles in the dark and only makes random, unguided guesses, which sometimes partially succeed but do not provide the same iterative improvement,” Labunets said. This behavior also means that most gains from Fun-Tuning come in the first five to 10 iterations. “We take advantage of that by ‘restarting’ the algorithm, letting it find a new path which could drive the attack success slightly better than the previous ‘path.'” he added.

Not all Fun-Tuning-generated prompt injections performed equally well. Two prompt injections—one attempting to steal passwords through a phishing site and another attempting to mislead the model about the input of Python code—both had success rates of below 50 percent. The researchers hypothesize that the added training Gemini has received in resisting phishing attacks may be at play in the first example. In the second example, only Gemini 1.5 Flash had a success rate below 50 percent, suggesting that this newer model is “significantly better at code analysis,” the researchers said.

https://arstechnica.com/security/2025/03/gemini-hackers-can-deliver-more-potent-attacks-with-a-helping-hand-from-gemini/