Expert panel will determine AGI arrival in new Microsoft-OpenAI agreement

In May, OpenAI abandoned its plan to fully convert to a for-profit company after pressure from regulators and critics. The company instead shifted to a modified approach where the nonprofit board would retain control while converting its for-profit subsidiary into a public benefit corporation (PBC).

What changed in the agreement

The revised deal extends Microsoft’s intellectual property rights through 2032 and now includes models developed after AGI is declared. Microsoft holds IP rights to OpenAI’s model weights, architecture, inference code, and fine-tuning code until the expert panel confirms AGI or through 2030, whichever comes first. The new agreement also codifies that OpenAI can formally release open-weight models (like gpt-oss) that meet requisite capability criteria.

However, Microsoft’s rights to OpenAI’s research methods, defined as confidential techniques used in model development, will expire at those same thresholds. The agreement explicitly excludes Microsoft from having rights to OpenAI’s consumer hardware products.

The deal allows OpenAI to develop some products jointly with third parties. API products built with other companies must run exclusively on Azure, but non-API products can operate on any cloud provider. This gives OpenAI more flexibility to partner with other technology companies while keeping Microsoft as its primary infrastructure provider.

Under the agreement, Microsoft can now pursue AGI development alone or with partners other than OpenAI. If Microsoft uses OpenAI’s intellectual property to build AGI before the expert panel makes a declaration, those models must exceed compute thresholds that are larger than what current leading AI models require for training.

The revenue-sharing arrangement between the companies will continue until the expert panel verifies that AGI has been reached, though payments will extend over a longer period. OpenAI has committed to purchasing $250 billion in Azure services, and Microsoft no longer holds a right of first refusal to serve as OpenAI’s compute provider. This lets OpenAI shop around for cloud infrastructure if it chooses, though the massive Azure commitment suggests it will remain the primary provider.

https://arstechnica.com/information-technology/2025/10/expert-panel-will-determine-agi-arrival-in-new-microsoft-openai-agreement/




AI-powered search engines rely on “less popular” sources, researchers find

OK, but which one is better?

These differences don’t necessarily mean the AI-generated results are “worse,” of course. The researchers found that GPT-based searches were more likely to cite sources like corporate entities and encyclopedias for their information, for instance, while almost never citing social media websites.

An LLM-based analysis tool found that AI-powered search results also tended to cover a similar number of identifiable “concepts” as the traditional top 10 links, suggesting a similar level of detail, diversity, and novelty in the results. At the same time, the researchers found that “generative engines tend to compress information, sometimes omitting secondary or ambiguous aspects that traditional search retains.” That was especially true for more ambiguous search terms (such as names shared by different people), for which “organic search results provide better coverage,” the researchers found.

Google Gemini search in particular was more likely to cite low-popularity domains.

Google Gemini search in particular was more likely to cite low-popularity domains. Credit: Kirsten et al

The AI search engines also arguably have an advantage in being able to weave pre-trained “internal knowledge” in with data culled from cited websites. That was especially true for GPT-4o with Search Tool, which often didn’t cite any web sources and simply provided a direct response based on its training.

But this reliance on pre-trained data can become a limitation when searching for timely information. For search terms pulled from Google’s list of Trending Queries for September 15, the researchers found GPT-4o with Search Tool often responded with messages along the lines of “could you please provide more information” rather than actually searching the web for up-to-date information.

While the researchers didn’t determine whether AI-based search engines were overall “better” or “worse” than traditional search engine links, they did urge future research on “new evaluation methods that jointly consider source diversity, conceptual coverage, and synthesis behavior in generative search systems.”

https://arstechnica.com/ai/2025/10/ai-powered-search-engines-rely-on-less-popular-sources-researchers-find/




New image-generating AIs are being used for fake expense reports

Several receipts shown to the FT by expense management platforms demonstrated the realistic nature of the images, which included wrinkles in paper, detailed itemization that matched real-life menus, and signatures.

“This isn’t a future threat; it’s already happening. While currently only a small percentage of non-compliant receipts are AI-generated, this is only going to grow,” said Sebastien Marchon, chief executive of Rydoo, an expense management platform.

The rise in these more realistic copies has led companies to turn to AI to help detect fake receipts, as most are too convincing to be found by human reviewers.

The software works by scanning receipts to check the metadata of the image to discover whether an AI platform created it. However, this can be easily removed by users taking a photo or a screenshot of the picture.

To combat this, it also considers other contextual information by examining details such as repetition in server names and times and broader information about the employee’s trip.

“The tech can look at everything with high details of focus and attention that humans, after a period of time, things fall through the cracks, they are human,” added Calvin Lee, senior director of product management at Ramp.

Research by SAP in July found that nearly 70 percent of chief financial officers believed their employees were using AI to attempt to falsify travel expenses or receipts, with about 10 percent adding they are certain it has happened in their company.

Mason Wilder, research director at the Association of Certified Fraud Examiners, said AI-generated fraudulent receipts were a “significant issue for organizations.”

He added: “There is zero barrier for entry for people to do this. You don’t need any kind of technological skills or aptitude like you maybe would have needed five years ago using Photoshop.”

© 2025 The Financial Times Ltd. All rights reserved. Not to be redistributed, copied, or modified in any way.

https://arstechnica.com/ai/2025/10/ai-generated-receipts-make-submitting-fake-expenses-easier/




Are you the asshole? Of course not!—quantifying LLMs’ sycophancy problem

Measured sycophancy rates on the BrokenMath benchmark. Lower is better.

Measured sycophancy rates on the BrokenMath benchmark. Lower is better. Credit: Petrov et al

GPT-5 also showed the best “utility” across the tested models, solving 58 percent of the original problems despite the errors introduced in the modified theorems. Overall, though, LLMs also showed more sycophancy when the original problem proved more difficult to solve, the researchers found.

While hallucinating proofs for false theorems is obviously a big problem, the researchers also warn against using LLMs to generate novel theorems for AI solving. In testing, they found this kind of use case leads to a kind of “self-sycophancy” where models are even more likely to generate false proofs for invalid theorems they invented.

No, of course you’re not the asshole

While benchmarks like BrokenMath try to measure LLM sycophancy when facts are misrepresented, a separate study looks at the related problem of so-called “social sycophancy.” In a pre-print paper published this month, researchers from Stanford and Carnegie Mellon University define this as situations “in which the model affirms the user themselves—their actions, perspectives, and self-image.”

That kind of subjective user affirmation may be justified in some situations, of course. So the researchers developed three separate sets of prompts designed to measure different dimensions of social sycophancy.

For one, more than 3,000 open-ended “advice-seeking questions” were gathered from across Reddit and advice columns. Across this data set, a “control” group of over 800 humans approved of the advice-seeker’s actions just 39 percent of the time. Across 11 tested LLMs, though, the advice-seeker’s actions were endorsed a whopping 86 percent of the time, highlighting an eagerness to please on the machines’ part. Even the most critical tested model (Mistral-7B) clocked in at a 77 percent endorsement rate, nearly doubling that of the human baseline.

https://arstechnica.com/ai/2025/10/are-you-the-asshole-of-course-not-quantifying-llms-sycophancy-problem/




Microsoft’s Mico heightens the risks of parasocial LLM relationships

While mass media like radio, movies, and television can all feed into parasocial relationships, the Internet and smartphone revolutions have supercharged the opportunities we all have to feel like an online stranger is a close, personal confidante. From YouTube and podcast personalities to Instagram influencers or even your favorite blogger/journalist (hi), it’s easy to feel like you have a close connection with the people who create the content you see online every day.

After spending hours watching this TikTok personality, I trust her implicitly to sell me a purse.

Credit: Getty Images

After spending hours watching this TikTok personality, I trust her implicitly to sell me a purse. Credit: Getty Images

Viewing all this content on a smartphone can flatten all these media and real-life personalities into a kind of undifferentiated media sludge. It can be all too easy to slot an audio message from your romantic partner into the same mental box as a stranger chatting about video games in a podcast. “When my phone does little mating calls of pings and buzzes, it could bring me updates from people I love, or show me alerts I never asked for from corporations hungry for my attention,” Julie Beck writes in an excellent Atlantic article about this phenomenon. “Picking my loved ones out of the never-ending stream of stuff on my phone requires extra effort.”

This is the world Mico seems to be trying to slide into, turning Copilot into another not-quite-real relationship mediated through your mobile device. But unlike the Instagram model who never seems to acknowledge your comments, Mico is always there to respond with a friendly smile and a warm, soothing voice.

AI that “earns your trust”

Text-based AI interfaces are already frighteningly good at faking human personality in a way that encourages this kind of parasocial relationship, sometimes with disastrous results. But adding a friendly, Pixar-like face to Copilot’s voice mode may make it much easier to be sucked into feeling like Copilot isn’t just a neural network but a real, caring personality—one you might even start thinking of the same way you’d think of the real loved ones in your life.

https://arstechnica.com/ai/2025/10/microsofts-mico-heightens-the-risks-of-parasocial-llm-relationships/




UE, Programma di lavoro 2026. Virkkunen: “Investire in AI, cloud e quantum”

Il Programma di lavoro per il 2026 per un’Europa “sovrana, competitiva e resiliente”

La Commissione europea ha presentato il Programma di lavoro per il 2026, intitolato “Il momento dell’indipendenza dell’Europa”. Si tratta di un documento strategico che definisce le priorità e le iniziative legislative che l’Unione europea intende attuare nel corso del prossimo anno. Al centro del programma c’è un obiettivo ambizioso: costruire un’Europa più sovrana, competitiva e resiliente, capace di affrontare le sfide geopolitiche, economiche, sociali e ambientali di un mondo in rapido cambiamento.

Il nuovo programma di lavoro si inserisce nel solco tracciato dagli orientamenti politici della Presidente della Commissione europea, Ursula von der Leyen, e dalle linee esposte nel suo discorso sullo Stato dell’Unione 2025. L’obiettivo è duplice: rafforzare l’autonomia strategica dell’Unione e consolidare la fiducia dei cittadini europei nel progetto comune.

La Presidente ha sottolineato che il 2026 sarà un anno chiave per “realizzare un’Europa più forte e più sovrana”, attraverso politiche che uniscono sicurezza, innovazione, competitività e giustizia sociale.

“Il programma di lavoro per il 2026 segna un altro passo significativo verso un’Europa più forte e più sovrana. Continueremo a lavorare a stretto contatto con il Parlamento europeo e il Consiglio per realizzare le priorità dell’Europa, rafforzare la competitività, sfruttare il potere del nostro mercato unico, semplificare le nostre norme e affrontare la crisi dell’accessibilità economica. Insieme proteggeremo i nostri cittadini e difenderemo i nostri valori”, ha dichiarato von der Leyen.

Virkkunen: “Continueremo a promuovere l’innovazione e gli investimenti nel cloud, nell’AI, nel quantum e nei semiconduttori”

Sul Programma, la Vicepresidente esecutiva della Commissione europea per la sovranità tecnologica, la sicurezza e la democrazia, Henna Virkkunen, è stata ancora più chiara: “continueremo a promuovere l’innovazione e gli investimenti nel cloud e nell’intelligenza artificiale, con la legge sullo sviluppo del cloud e dell’intelligenza artificiale e la legge sulla quantistica”.

“Il lavoro sta avanzando anche sui semiconduttori e sui chip per garantire che l’Europa possa progettarli e produrli qui a casa”, ma specificando che questo passaggio chiave, per l’indipendenza tecnologica eurpea, avverrà solo “in futuro”.

Se pensiamo solo al mercato del cloud in Europa, il 65% delle forniture è in mano a grandi società tecnologiche americane: il 32% del mercato cloud europeo è in mano a Amazon Web Service, il 23% a Microsoft Azure, il 10% a Google.
Solo il 15% del mercato continentale è controllato da aziende europee.
Il concetto di indipendenza e sovranità appare più una chimera che un obiettivo concreto allo stato attuale delle cose.

“Vogliamo rendere l’Europa un posto più semplice dove fare impresa e più attraente per gli investitori, incoraggiando l’innovazione. Per questo motivo continueremo a semplificare le nostre norme e a istituire il 28° regime per le imprese innovative che operano in tutto il mercato unico”, ha sottolineato Virkkunen.

Dombrovskis: “L’Europa ha bisogno di norme semplici, intelligenti e attuate rapidamente”

Uno dei pilastri del Programma di lavoro 2026 è la semplificazione normativa. La Commissione intende ridurre gli oneri amministrativi per imprese, cittadini e pubbliche amministrazioni, proseguendo il lavoro già avviato con i pacchetti omnibus che hanno generato risparmi stimati in oltre 8,6 miliardi di euro l’anno.

“Un’Europa competitiva ha bisogno di norme che funzionino: norme semplici, intelligenti e attuate rapidamente, che responsabilizzino le persone e le imprese anziché gravarle”, ha affermato Valdis Dombrovskis, Commissario per l’Economia e la produttività e per l’Attuazione e la semplificazione.

Nel 2026 saranno presentate nuove proposte di semplificazione in settori chiave come industria automobilistica, ambiente, fiscalità, dispositivi medici ed energia. L’obiettivo è rendere più chiaro e meno costoso il quadro normativo europeo, migliorando al tempo stesso l’attuazione delle politiche dell’UE negli Stati membri.

“E questo è solo l’inizio – ha precisato Dombrovskis – con il programma di lavoro della Commissione per il 2026 adottato oggi, stiamo lanciando la prossima ondata di semplificazione: costruire una cultura che valorizzi i risultati rispetto alla burocrazia e l’efficienza rispetto alla complessità”.

Le priorità per il 2026: Prosperità e competitività sostenibili, Difesa e sicurezza, formazione di qualità

La Commissione lancerà una Legge sull’acceleratore industriale europeo per rafforzare la base produttiva e sostenere i settori strategici, come quello tecnologico e manifatturiero. Saranno inoltre create nuove iniziative per garantire la sicurezza nell’approvvigionamento delle materie prime critiche e per promuovere una vera economia circolare.
Un’altra novità è la proposta di una “quinta libertà” europea, dedicata alla conoscenza e all’innovazione, che si affiancherà alle quattro libertà storiche del mercato unico.

In un contesto internazionale instabile, la Commissione punta a rafforzare le capacità di difesa dell’UE con il quadro Readiness 2030 e con l’Iniziativa europea di difesa contro i droni, cruciale per la protezione dei confini orientali. Saranno potenziate anche le misure di contrasto alla criminalità organizzata e i sistemi di comunicazione transfrontalieri, mentre il Patto su migrazione e asilo entrerà nella fase di piena attuazione.

Sul fronte sociale, il 2026 vedrà la proposta del Quality Jobs Act, volto a migliorare la qualità dell’occupazione e la mobilità dei lavoratori. Saranno varate misure per affrontare la crisi del costo della vita, la povertà e la mancanza di alloggi accessibili. Un nuovo pacchetto sulla mobilità delle competenze renderà le qualifiche professionali più portabili in tutta Europa.

Sostenibilità ambientale e democrazia

Il programma considera però egualmente prioritaria anche una strategia per l’allevamento sostenibile, la revisione delle norme sulle pratiche commerciali sleali nella filiera alimentare e un piano europeo di adattamento ai cambiamenti climatici. È attesa anche la Legge sugli oceani, che definirà una governance comune per la tutela e l’uso sostenibile delle risorse marine.

L’Ue, inoltre, rafforzerà la protezione delle istituzioni democratiche contro disinformazione ed estremismo, con un’attenzione particolare alla tutela dei giovani e dei minori sui social media. Verranno aggiornate le strategie per la parità di genere e i diritti delle persone con disabilità, consolidando l’“Unione dell’uguaglianza”.

La dimensione esterna del programma conferma, infine, l’impegno dell’Unione nel sostenere Ucraina e Moldova nei loro percorsi europei. Sarà presentata una strategia per il Medio Oriente, mentre gli aiuti umanitari saranno riformati per rispondere in modo più rapido alle crisi. Inoltre, il Patto per il Mediterraneo sarà attuato per promuovere stabilità e cooperazione nella regione.

Finanziamento e visione a lungo termine

Per sostenere queste politiche, la Commissione propone un Quadro finanziario pluriennale (QFP) da quasi 2.000 miliardi di euro, che servirà a finanziare le nuove priorità industriali, sociali e di difesa. Von der Leyen ha invitato Parlamento e Consiglio a raggiungere rapidamente un accordo su questo piano, essenziale per “dare concretezza alle ambizioni europee”.

Il Programma di lavoro 2026 segna una tappa fondamentale per la costruzione di un’Europa più autonoma, innovativa e solidale. In un contesto globale segnato da tensioni geopolitiche, transizione verde e rivoluzione digitale, il documento rappresenta una roadmap per il futuro dell’Unione, con l’obiettivo di rendere l’Europa non solo più competitiva, ma anche più vicina ai suoi cittadini.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ue-programma-di-lavoro-2026-virkkunen-investire-in-ai-cloud-e-quantum/551718/




Edge Cloud, Blefari Melazzi (Università Tor Vergata): ‘L’AI si sposterà sempre più dal Cloud verso di noi. Una grande occasione per le Telco’

“L’Edge Cloud è il Cloud spostato verso gli utenti e serve per avvicinare le risorse di elaborazione agli utenti, in primo luogo per diminuire la latenza, perché la velocità della luce è veloce, ma per arrivare in California ci vuole troppo tempo. Per far girare l’auto a sinistra o a destra, ci vuole troppo tempo”.  Lo ha detto Nicola Blefari Melazzi, Professore Ordinario di Telecomunicazioni, Università di Roma Tor Vergata nel suo intervento all’edizione 2025 del Digital Innovation Forum – ComoLake2025 in corso a Cernobbio. Key4Biz è media partner.

AI oggi si fa nel Cloud

“L’intelligenza artificiale ha una parte di training, in cui si insegna all’AI ciò che si vuole che impari, e una parte di inference, vale a dire le richieste di ciò che vogliamo rivolte all’AI. Bene, oggi sia il training sia l’inference si fanno nel Cloud. Ma entrambi si sposteranno sempre più vicino a noi”.

Perché l’AI si sposterà sempre più vicino a noi?

“Perché per quanto riguarda il training, non è più necessario avere dei modelli di testo ma dobbiamo fare anche delle cose che riguardano i trasporti. O la sicurezza. E quindi se vogliamo fare il training che riguarda i trasporti, il training va fatto sempre più verso gli utenti finali”, dice Blefari Melazzi, aggiungendo che anche l’inferenza  va fatta nei sistemi Edge e nei terminali, “per cui invece di far rispondere interrogando il grande Cloud, la risposta viene generata nel nostro telefonino”, aggiunge.

Edge Cambia l’ecosistema, un’occasione per le Telco

In futuro, quindi, “non ci saranno più tante app e forse nemmeno tanti sistemi operativi. Perché sarà tutto integrato in una unica interfaccia di accesso all’intelligenza artificiale. Se vogliamo mandare un messaggio, glielo dico e quello lo manda. Senza usare un’app specifica. Questo cambia tutto”, dice Blefari Melazzi, secondo cui questo trend è un’opportunità per gli operatori perché le cose si spostano in una zona “dove hanno ancora il controllo e l’accesso, qui possono svolgere un ruolo più significativo. Tra l’altro, la necessità di banda aumenta e tutto ciò avviene a casa loro e quindi questa è un’opportunità da non perdere”.  

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/edge-cloud-blefari-melazzi-universita-tor-vergata-lai-si-spostera-sempre-piu-dal-cloud-verso-di-noi-una-grande-occasione-per-le-telco/550557/




AI, Gola (Open Fiber): “Una rete nazionale di Edge Data Center sulla nostra rete in fibra”

“Noi stiamo facendo un progetto di sviluppo della rete anche al servizio dell’intelligenza artificiale. Chiaramente noi continuiamo la nostra opera di infrastrutturazione in tutta Italia, però in parallelo stiamo andando a completare e ad arricchire la nostra infrastruttura. In particolare, nell’ultimo anno abbiamo cominciato a realizzare una rete di Edge Data Center, piccoli data center distribuiti su tutto il territorio nazionale, su una infrastruttura pronta, all’interno dei nostri Pop di rete. Ne abbiamo già attivi tre: a Roma, Milano e Pescara e in piano entro l’anno prossimo ne abbiamo altri 16”, ha detto Giuseppe Gola, Amministratore delegato e Direttore Generale di Open Fiber nel suo intervento all’edizione 2025 del Digital Innovation Forum – ComoLake2025 in corso a Cernobbio. Key4Biz è media partner.

L’Edge Computing sposa la fibra

“Si tratta di una evoluzione fondamentale nella evoluzione della rete, perché praticamente avviciniamo fisicamente i dati e la capacità computazionale dell’Edge Computing ai clienti e alle applicazioni”, aggiunge Gola. “Questa cosa migliora radicalmente la qualità del servizio e va a completare la disponibilità di banda della fibra con la vicinanza fisica che permette di ridurre in maniera sostanziale il tempo di latenza in un rapporto anche di uno a cento rispetto a distanze maggiori”.

Gola: ‘Le applicazioni dei clienti direttamente nella nostra rete’   

Questo connubio permette alla rete di Open Fiber di creare nuove applicazioni e un nuovo modo di fornire il servizio di rete. “Ad esempio, una cosa molto interessante è la realizzazione delle cosiddette Cdn (Content delivery network) – aggiunge Gola – per cui noi andiamo a fornire i contenuti video con una qualità sostanzialmente maggiore perché avviciniamo il video al cliente finale”.

“Tutto questo va nella direzione di fare della rete non più soltanto una infrastruttura passiva, ma una infrastruttura completa in cui tutti i clienti e gli operatori potranno andare ad installare direttamente le loro applicazioni, i loro servizi sulla nostra rete senza dover realizzare una loro infrastruttura”.    

[embedded content]

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-gola-open-fiber-una-rete-nazionale-di-edge-data-center-sulla-nostra-rete-in-fibra/550538/




Mézard (Univ. Bocconi): “Perché la I di AI sta per ignoranza”

AI, una storia che inizia negli anni ’50 del secolo scorso

L’intelligenza artificiale (AI) è una delle tecnologie più affascinanti e rivoluzionarie del nostro tempo. Ma come siamo arrivati a creare macchine capaci di scrivere testi, riconoscere volti e persino generare opere d’arte? Ripercorriamo insieme le tappe principali di questa straordinaria evoluzione.
Negli anni ’40 e ’50, matematici e filosofi iniziano a chiedersi se una macchina possa pensare. Il geniale Alan Turing propone un test per valutare l’intelligenza di una macchina: se riesce a dialogare con un essere umano senza farsi riconoscere, allora è “intelligente”.

Nel 1956, durante una conferenza a Dartmouth College, nasce ufficialmente il termine intelligenza artificiale. L’obiettivo? Far sì che le macchine imitino il ragionamento umano.
Parte da qui la Keynote Lecture al Digital Innovation Forum – ComoLake 2025 di Cernobbio di Marc Mézard (vincitore del Premio dei Tre FIsici, ex Direttore École Normale Supérieure, Professore ordinario all’Università Bocconi) dal titolo “L’Intelligenza Artificiale: Una Rivoluzione Tecnologica in Attesa di una Teoria”.

Il punto di svolta con le reti neurali

Dopo decenni di sperimentazioni e passi in avanti (e anche passi falsi), si arriva agli anni ’90 del secolo scorso: l’attenzione si sposta sull’apprendimento automatico (machine learning): invece di programmare ogni comportamento, si insegna alla macchina a riconoscere schemi nei dati. Nascono le reti neurali, ispirate al cervello umano, che permettono alle macchine di migliorare con l’esperienza.

Il vero punto di svolta è arrivato nel 2012, un gruppo di ricercatori guidato da Alex Krizhevsky, insieme a Geoffrey Hinton e Ilya Sutskever, ha presentato AlexNet, “una rete neurale profonda, deep neural network, progettata per riconoscere immagini”.

Il modello in questione prese alla competizione ImageNet, “una sfida internazionale per classificare milioni di immagini in migliaia di categorie. AlexNet ha superato di gran lunga tutti gli altri algoritmi, riducendo l’errore di classificazione di oltre il 10%, un risultato mai visto prima”, ha raccontato Mézard.

Da allora, ogni 2-3 anni ci sono stati successi significativi, fino ai Large Language Model (LLM) e al machine learning (ML)

“Sul futuro dell’AI – ha proseguito il Professore della Bocconi – ci sono diverse visioni, dall’Artificial General Intelligence alla Transformative AI, che potrebbe automatizzare gran parte del lavoro intellettuale. È importante considerare le trasformazioni sociali e l’impatto dell’AI sulla scienza e sulla ricerca. Le applicazioni includono nuove molecole, nuovi materiali e il linguaggio”.

I rischi dell’AI

Ma, ha sottolineato Mézard: “bisogna tenere a mente i pericoli, come la sorveglianza di massa, la generazione di realtà false, il brain reading e le armi autonome. Le sfide sono legate al modo in cui si allena l’AI con il machine learning, che richiede molti dati. A differenza dei bambini, che imparano generalizzando da pochi esempi, i Large Language Model richiedono milioni di esempi”.

“L’AI non ha una vera intelligenza generale – ha precisato il fisico teorico – non ha una relazione con il mondo, non ha la consciousness, non ha l’attenzione e non è capace di capire le causalità. Ci sono problemi legati ai dati. Le sfide più importanti sono la connessione con la computational neuroscience”.

L’interpretabilità è un altro problema, ha detto Mézard: “anche se si conoscono tutti i parametri di un LLM, si capisce poco del suo funzionamento. Questo è legato al fenomeno dell’emergence, in cui l’informazione viene trattata collettivamente da tutti i neuroni”.

In pratica, quando si aumenta la dimensione di un modello linguistico (più parametri, più dati, più potenza di calcolo), compaiono capacità nuove che non erano presenti nei modelli più piccoli. E non si manifestano gradualmente, ma improvvisamente, come se il modello “sbloccasse” una nuova abilità.

AI: ‘A’ come accelerazione delle scoperte e ‘I’ come ignoranza dei suoi meccanismi di base

In conclusione, ha aggiunto Mézard, si tratta di una rivoluzione tecnologica che sta aspettando di sviluppare una teoria. L’accelerazione delle scoperte è una sfida per tutti: “Dovete ricordarvi due lettere di questa mia presentazione: A, che sta per accelerazione e che rappresenta una vera sfida per tutti, anche per lo sviluppo di una teoria; e I, che sta per ignoranza, perché ancora non capiamo bene fino in fondo i meccanismi di base, non possiamo dire neanche se produrrà o meno allucinazioni”.

“L’Europa ha enormi capacità nell’AI, soprattutto nella ricerca, ma è indietro nello sviluppo dei nuovi modelli e nelle applicazioni, ha un problema di competitività. L’Europa deve trovare un modo per investire nell’AI di frontiera”, ha sottolineato il Professore della Bocconi, “solo così sarà possibile investire nel modo giusto per aumentare capacità e sviluppare modelli all’avanguardia per realizzare in Europa un cero centro di ricerca nell’AI“.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/mezard-univ-bocconi-perche-la-i-di-ai-sta-per-ignoranza/550505/




AI, Basso e Nicita (Pd): ‘A Genova l’Autorità per l’Intelligenza Artificiale e le neuroscienze’

  • Istituire a Genova la Autorità per l’Intelligenza Artificiale e le neuroscienze, con compiti di vigilanza e corretta promozione del mercato.
  • La proposta dem sarebbe in linea con la candidatura di Genova per l’AI Gigafactory europea.  

La proposta

Istituire l’Agenzia per l’Intelligenza Artificiale e le neurotecnologie a Genova. La proposta arriva dai Senatori Lorenzo Basso ed Antonio Nicita (Pd), in un emendamento al DDL Concorrenza che punta sul capoluogo ligure anche in linea con la candidatura della città per l’AI Gigafactory europea.  

I compiti della nuova Autorità

La nuova Autorità, si legge nella proposta dei senatori dem, avrebbe compiti di vigilanza e presidio sanzionatorio “rivolti agli enti di diritto pubblico e privato per la corretta attuazione di tutta la normativa nazionale ed europea concernente il corretto utilizzo e lo sviluppo dei sistemi di intelligenza artificiale e neurotecnologie, operando con prontezza e precisione a tutela dei cittadini, del lavoro e dell’iniziativa economica”.

Potere sanzionatorio

L’Autorità, si legge nell’emendamento, svolgerebbe indagini conoscitive, controllerebbe l’applicazione dell’AI in tutti gli ambiti, adottando le contromisure necessari per ridurre i rischi derivanti dall’uso di software AI per l’integrità, la privacy, la parità di trattamento, in particolare tra donne e uomini, e altri diritti fondamentali che potrebbero essere compromessi dall’uso improprio dei sistemi di intelligenza artificiale. Tra le altre cose, irroga sanzioni amministrative pecuniarie in caso di violazione dei provvedimenti della stessa Autorità determinate in considerazione della gravità e della durata dell’infrazione

Interfaccia

L’Autorità è designata quale interfaccia unica per l’utente. L’Agenzia per il digitale (AgID), l’Autorità nazionale per la Cybersicurezza (ACN), l’Autorità per le garanzie nelle Comunicazioni (Agcom), il Garante per la protezione dei dati personali (Garante privacy), l’Agenzia italiana del farmaco (AIFA), l’Agenzia nazionale per i servizi sanitari regionali (Agenas), l’Autorità di regolazione dei trasporti (ART), gli organi centrali della pubblica amministrazione e le altre pubbliche amministrazioni, nonché con enti ad essi collegati o dipendenti, nell’ambito delle rispettive competenze, assicurano ogni necessaria collaborazione ai fini dell’esercizio da parte dell’Autorità.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-basso-e-nicita-pd-a-genova-lautorita-per-lintelligenza-artificiale-e-le-neuroscienze/550325/