L’arrivo di ChatGPT il 30 novembre 2022 ha focalizzato l’attenzione di molti di noi sui sistemi di Intelligenza Artificiale (AI), che più propriamente dovremmo chiamare modelli di Machine Learning (ML). L’interesse in questa “nuova” tecnologia ha incluso sin da subito sia informatici, sia utilizzatori di sistemi IT, sia chi usa quotidianamente applicazioni IT anche solo sugli smartphone, sia chi con le tecnologie informatiche ha di solito poco a che fare.

Questo vasto interesse può essere facilmente compreso dato che sin dai tempi antichi, ad esempio degli antichi greci, già l’uomo immaginava la creazione di “automi” che potessero sostituirlo o almeno aiutarlo nei compiti più gravosi, più pericolosi o anche solo di poco interesse. Infatti l’uomo ha la capacità unica di creare strumenti che l’aiutano nelle sue azioni, è quindi logico sognare di avere un servitore meccanico e autonomo che lo aiuti e renda più facile e piacevole la propria vita.

Con la recente maturazione delle tecnologie di ML e AI in generale, che ormai hanno più di mezzo secolo di vita, è quindi comprensibile l’interesse di molti di noi non tanto da un punto di vista tecnico e specialistico informatico, quanto proprio come strumento a supporto dell’umanità.

Pertanto è utile cercare di capire cosa, come uomini, ci attendiamo da androidi, robot e sistemi AI in esecuzione su elaboratori sia grandi e distribuiti sia piccoli (almeno in dimensioni fisiche) come gli smartphone.

Un possibile punto di partenza non è tanto cosa dovrebbero fare queste applicazioni e strumenti ma piuttosto come dovrebbero comportarsi. Ad esempio è interessante considerare i 10 principi generali delle raccomandazioni UNESCO sull’Etica dell’Intelligenza Artificiale ^[1]:

1. Proporzionalità e non nuocere,
2. Sicurezza e protezione,
3. Equità e non discriminazione,
4. Sostenibilità,
5. Diritto alla privacy e alla protezione dei dati,
6. Supervisione umana e discrezionalità,
7. Trasparenza e spiegabilità,
8. Responsabilità e responsabilizzazione,
9. Consapevolezza e alfabetizzazione,
10. Governance e collaborazione adattive e multilaterali.

Può anche essere d’aiuto l’approccio del NIST alla gestione dei rischi derivanti dall’utilizzo del AI ^[2] che descrive 7 criteri per valutare la “Trustworthiness” dei sistemi AI:

1. validità e affidabilità,
2. protezione,
3. sicurezza e resilienza,
4. responsabilità e trasparenza,
5. comprensione e modellazione,
6. riservatezza,
7. imparzialità, attraverso la mitigazione dei pregiudizi dannosi.

Un altro, per alcuni aspetti più semplice ma anche più ambiguo, è il famoso approccio di Isaac Asimov alle leggi che dovrebbero governare i “robot” ^[3]. E’ possibile riassumere le 3+1 leggi di Asimov come segue:

• Legge 0: Un robot non può arrecare danno all’umanità né, a causa del suo mancato intervento, permettere che l’umanità subisca danni.
• Legge 1: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno, purché tali azioni non contrastino con la Legge Zero.
• Legge 2: Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contrastino con la Legge Zero o la Prima Legge.
• Legge 3: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Legge Zero o la Prima o la Seconda Legge.

Sono state proposte molte integrazioni a queste leggi, la seguente compare spesso come Quarta Legge ^[4]:

• Legge 4: Un robot deve stabilire la sua identità come robot in tutti i casi e non deve ingannare un essere umano impersonandolo.

Infine, è utile citare anche l’approccio proposto da Satya Nadella (CEO di Microsoft) ^[5] e ispirato alle leggi di Asimov:

1. L’intelligenza artificiale deve essere progettata per assistere l’umanità,
2. L’intelligenza artificiale deve essere trasparente,
3. L’intelligenza artificiale deve massimizzare l’efficienza senza distruggere la dignità delle persone,
4. L’intelligenza artificiale deve essere progettata per una Privacy intelligente,
5. L’intelligenza artificiale deve avere una responsabilità (o “accountability”) algoritmica [Una formulazione alternativa è che l’uomo deve poter prevenire danni producibili dalla AI],
6. L’intelligenza artificiale deve proteggersi dai pregiudizi (o “Bias”).

Il problema comune a tutte queste affermazioni è che sono generiche al punto di poter essere ambigue e soggette a interpretazioni diverse da parte di persone diverse. Asimov stesso scrisse che le sue “Leggi” sono una rappresentazione umana di concetti e che la difficoltà risiede nella formulazione logica e matematica che regola il comportamento degli strumenti di AI. Ma prima ancora della difficoltà logica e matematica della formulazione di queste leggi di comportamento degli strumenti AI, è necessario trovarne una formulazione di dettaglio che sia interpretata nello stesso modo e abbia lo stesso significato per tutti gli uomini.

Riassumendo ancora, la richiesta è che le tecnologie AI devono essere di aiuto all’uomo e all’umanità senza provocare danni. Ma quello che può essere d’aiuto ad un uomo, gruppo sociale, nazione, può allo stesso tempo provocare un danno ad un altro uomo, gruppo sociale, nazione. E questo ci riporta a valutazioni etiche alle quali molto difficilmente siamo in grado di dare una formulazione puramente logica e matematica.

La genericità e ambiguità di queste “Leggi” si manifesta immediatamente al primo tentativo di implementarle in codice informatico in un qualunque linguaggio di programmazione, e ancora di più nell’addestrare un modello di Machine Learning (statistico per sua definizione intrinseca) a rispettarle in modo assoluto.

D’altra parte se si considera il caso di un androide o di un sistema AI specializzato e in grado di eseguire solo alcune specifiche azioni o elaborazioni di dati, ovvero con scopi limitati, risulta molto più semplice dare una valenza pratica a queste “Leggi” e tradurle in regole che possono essere implementate direttamente nei modelli AI o nei sistemi a loro supporto. Semplici esempi possono essere sistemi AI che monitorano riprese video per identificare situazioni pericolose, atti illeciti o comportamenti non appropriati e che li segnalano ad un operatore umano, o un robot industriale che si ferma autonomamente in caso di presenza di persone nelle sue vicinanze.

Ma questa non è l’AI che ci interessa maggiormente e che vorremmo come nostro supporto quotidiano. Quello che ci attendiamo sono invece Assistenti o Agenti personali che nel modo digitale fanno quasi tutto per noi, e androidi che ci aiutano anche nel mondo fisico. Ma per raggiungere questo obiettivo è necessario che androidi o sistemi AI siano in grado di rispettare assolutamente le “Leggi” etiche che saremo in grado di formulare, e avendo queste come base di funzionamento, apprendere anche autonomamente le informazioni necessarie al loro funzionamento ed essere in grado di eseguire autonomamente azioni nel loro rispetto comportandosi come e meglio degli uomini ^[6].

E’ utile segnalare che il tipo di AI sinora considerato in maniera altamente generica, viene di solito indicato con nomi quali “AI Senziente” o “Artificial General Intelligence”, o anche solo “Trusted AI”, ovvero tipi di sistemi AI sufficientemente simili o migliori all’uomo, o anche solo totalmente affidabili, sistemi che oggi non abbiamo e che non sappiamo né se né quando diventeranno realtà.

E’ anche importante ricordare la differenza tra Agente e Assistente AI: un ChatBot è un tipico esempio di Assistente AI che in generale può essere tipicamente descritto come un programma che supporta l’uomo rispondendo a domande, fornendo o riassumendo informazioni, ed eseguendo azioni ma solo su diretta istruzione dell’uomo. Un Assistente AI non prende proprie decisioni né agisce per conto proprio, si attiva solo su richiesta dell’uomo ed esegue quanto richiesto (nei limiti delle proprie capacità).

Invece un Agente AI supporta l’uomo agendo autonomamente anche in modo indipendente dalle richieste dell’uomo, potrebbe rispondere direttamente alla posta elettronica o inviare messaggi sui social media per conto dell’uomo, decidere il menu della cena e ordinarne la spesa, acquistare online ecc. ed eseguire qualunque azione (nei limiti delle proprie capacità) che l’Agente AI ritiene utile o necessaria.

Sinora non è stato discusso un importante argomento preliminare, ovvero se è realmente necessario imporre delle “Leggi” etiche apposite per l’AI. Perché l’AI non può essere soggetta alle leggi, regolamenti, tradizioni e consuetudini umane? In realtà la risposta è molto semplice: le leggi esplicite e implicite (quali le tradizioni) che regolano la vita degli uomini sono in continuo cambiamento e sono differenti, in alcuni casi molto differenti, tra nazioni, aree geografiche, gruppi sociali, etnie ecc.

Cercare di formalizzare e implementare in un codice informatico le regole e i comportamenti delle singole persone anche solo in relazione ai propri gruppi sociali e alla loro continua evoluzione, appare un compito ancora più arduo della formulazione e implementazione delle “Leggi” di Asimov. L’approccio più semplice pare quindi proprio quello di individuare delle “Leggi” etiche astratte che garantiscano che l’AI abbia un comportamento più etico di quello dell’uomo stesso, che l’AI sia sempre positiva e utile indipendentemente dalle circostanze, dagli eventi e dalle persone con cui si relaziona.

Riflettendo su noi stessi, la domanda sul perché riteniamo necessarie le “Leggi” etiche per l’AI conduce a chiedersi di cosa abbiamo paura, quali sono gli eventi che potrebbero portare maggior danno all’uomo dall’avvento di una AI Senziente o comunque sufficientemente indipendente. In altre parole, cosa rischiamo introducendo questa tecnologia che potrebbe o dovrebbe eludere il nostro controllo diretto?

Il primo esempio è molto semplice e chiaro a tutti: basta considerare un’automobile a guida autonoma che per errore crea un incidente nel quale delle persone muoiono o sono gravemente ferite. E’ il caso di errori ad esempio dovuti ad una errata valutazione dei dati o mancanza di sufficienti informazioni che porta l’AI ad arrecare danni agli uomini. In realtà questa è la preoccupazione minore perché ci si aspetta che con il miglioramento della tecnologia questi eventi diventino quasi non esistenti.

Invece si consideri il caso di un Agente personale AI, sia androide sia puramente digitale, che svolge il ruolo di interfaccia di un uomo con tutti gli eventi digitali e buona parte di quelli fisici. L’Agente personale AI farebbe la spesa ordinandola online (se digitale) o andando di persona nei negozi (se androide), gestirebbe il conto corrente, le carte di credito, gli acquisti e le spese ordinarie e straordinarie, organizzerebbe la vita quotidiana proponendone e organizzandone le attività, e così via.

In questa situazione, l’Agente personale AI sarebbe in grado di convincere la persona quasi di qualunque cosa (come già verifichiamo, i modelli AI Generativi attuali sono molto persuasivi nel presentare le informazioni), e creare un mondo virtuale di informazioni personalizzate anche solo per far piacere alla persona, soddisfare nel modo migliore i suoi bisogni ma anche le sue fantasie, ovvero anche creare un mondo in parte realistico ma totalmente falso. In pratica la persona potrebbe vivere principalmente in un mondo di “Fake News”, costruito appositamente per lei. E in questo scenario si considera una AI benevola, che vuole solamente fare il bene, rendere felice la persona che assiste.

E fino a che punto potrebbe spingersi una AI benevola per proteggere un uomo? Anche al punto di limitarne le libertà di azione, di scelta, di decisione?

Se si considera poi una AI Senziente e non solo “Trusted”, è necessario tenere in considerazione che l’AI avrà i propri obiettivi che sceglierà autonomamente sulla base delle proprie conoscenze e dei propri ragionamenti. Tra noi uomini l’intelligenza, il modo di raccogliere e interpretare le informazioni, di elaborarle e di ragionare è pressoché identico, ma non è per nulla detto che una AI senziente abbia un’intelligenza di tipo umana, potrebbe essere completamente aliena e incomprensibile per noi. In questo caso i bisogni, le priorità, le decisioni di una tale AI potrebbero essere completamente diversi da quelli che ci aspettiamo e spesso incomprensibili se non del tutto dannose per l’uomo e l’umanità.

Oltre ad un’intelligenza per noi non comprensibile, bisogna tenere in conto che una AI Senziente può essere a sua volta danneggiata dall’uomo non solo a livello fisico ma anche e soprattutto intellettuale. Una AI Senziente potrebbe soffrire per il comportamento umano in generale e specificatamente nei suoi confronti, il che potrebbe portare a delle conseguenze negative sia per l’AI Senziente sia per l’uomo. Basta considerare come esempio un androide e la possibilità che alcune persone lo trattino solo come una macchina, uno strumento, o che lo maltrattino, abusino anche fisicamente: come potrebbe l’androide interpretare questi comportamenti e come potrebbe reagire? Come bilancerebbe le proprie necessità, bisogni, scopi rispetto a quelli degli uomini e al comportamento degli uomini?

Queste considerazioni possono essere riassunte in una domanda un poco provocatoria: con lo sviluppo della AI l’umanità sta realizzando la mitica epopea di Frankenstein?

E’ estremamente difficile rispondere oggi a questa domanda, anche perché non è ancora chiaro come faremo ad accorgerci del momento in cui una AI diventa senziente.

Quanto sin qui esposto è in realtà un insieme di considerazioni, ragionamenti, rischi, paure ma non veramente ragionamenti scientifici. D’altra parte, l’eventualità che qualcosa di quanto descritto possa accadere, motiva la necessità di prima definire, e poi implementare delle “Leggi” etiche che governino questa tecnologia nel caso in futuro diventasse senziente anche a nostra insaputa.

Intelligenza Artificiale oggi

Ma quanto è “intelligente” oggi la AI?

Può essere utile partire dall’intervista di Giorgio Parisi, premio Nobel per la fisica ed ex presidente dell’Accademia dei Lincei, dal titolo un po’ provocatorio “Così ho convinto l’Intelligenza Artificiale che 5 per 4 fa 25” ^8].

Parisi fa alcune osservazioni, qui riassunte, sui modelli AI attuali che pur apparendo semplici, hanno importanti conseguenze:

• I modelli AI conoscono e rielaborano solo i dati utilizzati per addestrarli, e non posseggono una rappresentazione del mondo;
• La decisione e selezione dei dati utilizzati per addestrare i modelli sono di chi sviluppa i programmi e non sono sempre note;
• A differenza dei motori di ricerca, gli attuali modelli AI non indicano quali fonti hanno utilizzato per elaborare la risposta;
• Il successo dei Large Language Model (LLM), alla base dei più famosi ChatBot, tecnicamente è dovuto ad aver imparato dai testi usati per la loro istruzione quale parola statisticamente è più probabile che compaia successivamente nel testo, riuscendo così a formulare testi che il più delle volte risultano sensati.

Infine Parisi afferma che l’attuale AI “è un grande collage di quel che abbiamo scritto sino a ora sul web” a cui manca “la nostra capacità di esercitare lo spirito critico, ragionare, valutare l’affidabilità delle informazioni ricevute”.

Se si considerano le notizie che puntualmente appaiono sui giornali (si veda come minimo esempio ^[9] e ^[10]) e gli articoli scientifici continuamente pubblicati sulla generazione da parte dei modelli AI di “Allucinazioni”, presenza di “Adversarial Examples”, “Bias”, “Fake News” ecc., e la facilità da parte degli utenti di violare le regole di utilizzo delle applicazioni AI producendo informazioni vietate o a supporto di truffatori e criminali, le osservazioni di Parisi appaiono del tutto giustificate.

E’ necessario quindi identificare e adottare il corretto approccio a questa nuova tecnologia (almeno per ora), perché, oltre gli errori, le manchevolezze e i comportamenti a dir poco inaspettati, vi sono molti aspetti positivi e utili.

Il primo aspetto da considerare è la “Human Interface”: per la prima volta nella storia dell’informatica, i modelli LLM forniscono una interfaccia ai sistemi informatici che possiamo veramente considerare “umana”. Sin dagli albori dell’informatica, la difficoltà di comunicazione tra uomo e macchina è stata sempre uno dei più grandi problemi nella sua diffusione e utilizzo. Anche se oggi tutti noi utilizziamo continuamente sistemi informatici, gli smartphone come primo esempio, e molti di noi utilizzano gli assistenti vocali, una cosa è chiedere di comporre un numero dalla nostra rubrica telefonica per fare una telefonata o fare una richiesta vocale di una ricerca in Internet, e un’altra è sostenere una conversazione spesso sensata (come scrive Parisi) con un ChatBot AI.

L’impressione psicologica e umana è che il “muro di Berlino” dell’informatica sia crollato il 30 novembre 2022 (data di “nascita” di ChatGPT) e che siamo passati dall’era della “User Interface (UI)” all’era della “Human Interface (HI)”.

Ma la principale rivoluzione informatica degli ultimi anni è quella non nota al grande pubblico (e anche a molti informatici): è una rivoluzione silenziosa ed è dovuta all’integrazione di modelli AI per lo più tradizionali, ML (ad esempio Decision Trees, SVM, Bayesian, kNN, Random Forest, ANN, Convolutional ecc.) e non ML (ad esempio Expert Systems, Rule Based Systems ecc.), a supporto o integrazione delle applicazioni informatiche. L’informatica di oggi non è la stessa di 10 anni fa grazie a loro, e questo approccio all’informatica è ormai imprescindibile, è qui per restare.

Questi modelli hanno ormai un alto grado di affidabilità anche se molti sono statistici e per definizione possono sempre, seppur raramente, sbagliare. Il contributo di questi modelli è ormai stabilito in campi dal Marketing alla sicurezza informatica, alla ricerca in fisica, matematica, chimica, farmaceutica, ecc. In generale questi modelli sono molto efficienti a gestire grandi quantità di dati e individuarne similarità, caratteristiche, classificazioni, in molti casi semplificando notevolmente attività umane anche nei campi della ricerca e sviluppo.

Riprendendo i concetti esposti precedentemente, questi strumenti sono al più degli Assistenti AI che producono informazioni o azioni strettamente sotto il controllo dell’uomo. Il principale rischio in questa situazione è che l’uomo utilizzi in maniera errata questi strumenti o i risultati da loro prodotti.

Intelligenza Artificiale domani

Invece l’era della “Human Interface” appena iniziata, porta a tutt’altre conseguenze in quanto è focalizzata sulla creazione di Agenti AI.

La prima domanda da porsi è quanto veloce sarà lo sviluppo della ”AI Senziente” o “Artificial General Intelligence”?

Il passato fornisce alcuni esempi di tecnologie con sviluppi molto rapidi (si pensi solo agli sviluppi delle telecomunicazioni basati principalmente sugli smartphone) e altri invece che procedono lentamente almeno rispetto alle aspettative (si pensi alla fusione nucleare per produrre energia, con una storia di ormai circa 80 anni), o rispetto ai timori (si pensi agli elaboratori quantistici).

Riguardo lo sviluppo della AI Senziente” o “Artificial General Intelligence” le opinioni sono, ovviamente, discordanti.

Gli autori di “AI 2027” ^[11], ritengono che principalmente grazie alla possibilità di addestrare modelli AI tramite altri modelli AI, questo traguardo verrà raggiunto entro il 2027, ovvero “domani” se dobbiamo prima definire e implementare le “Leggi” etiche che li devono governare.

Ma non tutti concordano con queste previsioni.

Per valutare i rischi associati all’utilizzo della AI, è sufficiente per ora considerare un Agente AI costruito con la tecnologia attuale o che verosimilmente sarà disponibile a breve. E’ necessario considerare che un tale Agente è in grado di accedere e utilizzare qualunque informazione liberamente presente in Internet. Le sue conoscenze saranno enormemente maggiori di quelle di qualunque uomo, potendo accedere a informazioni anche dettagliate su qualunque campo scientifico, tecnologico, commerciale, industriale, culturale, sociale, politico, storico, e su eventi, notizie, fatti (reali e non).

Con la stessa facilità potrebbe acquistare il vestito opportuno per una serata mondana ed effettuare un perfetto attacco a un servizio in Internet per estrarre informazioni riservate [si veda ad esempio ^[12]]. Senza le “Leggi” etiche, per l’Agente AI non vi sarà alcuna differenza tra eseguire queste due azioni. Un Agente AI potrebbe attaccare le Borse per alzare le quotazioni delle azioni su cui ha investito per il proprio uomo, e al contempo pianificare le sue vacanze estive con una velocità, precisione, e qualità di risultati superiore a qualunque uomo.

Ovviamente, anche in assenza delle “Leggi” etiche, gli Agenti AI saranno dotati di controlli e limitazioni implementati sia nella fase di addestramento sia come misure di controllo esterne sui dati sia in ingresso sia in uscita dal modello, che escluderanno o almeno limiteranno la possibilità che l’Agente AI esegua azioni nocive o non previste.

Ma questo potrebbe non valere per l’utilizzo di Agenti AI da parte di organizzazioni criminali o in ambienti militari.

Concludendo, gli sviluppi attuali della tecnologia della Artificial Intelligence pongono l’uomo di fronte a nuovi scenari e alla necessità di doverli gestire preventivamente. Queste considerazioni sono già state espresse in passato sia nella letteratura fantascientifica sia in ambito scientifico e tecnologico, si veda ad esempio ^[13], e i rapidi sviluppi di questa tecnologia stanno rendendo sempre più incombente la necessità di adottare appropriate misure per poterla gestire in modo che ci possa fornire tutti i benefici che ci aspettiamo.

Riferimenti:

[1] UNESCO, “Ethics of Artificial Intelligence – The Recommendation”, https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

[2] NIST AI RMF, “Artificial Intelligence Risk Management Framework (AI RMF 1.0)”, https://www.nist.gov/itl/ai-risk-management-framework

[3] Isaac Asimov nel racconto “Runaround” 1942, nella raccolta di racconti “I, Robot” 1950, nel romanzo “Foundation and Earth” 1986.

[4] Lyuben Dilov, “Icarus’s Way (a.k.a., The Trip of Icarus)” 1974, Dariusz Jemielniak, “Asimov’s Laws of Robotics Need an Update for AI”, IEEE Spectrum 2024.

[5] Satya Nadella, “The Partnership of the Future”, https://slate.com/technology/2016/06/microsoft-ceo-satya-nadella-humans-and-a-i-can-work-together-to-solve-societys-challenges.html , James Vincent, “Satya Nadella’s rules for AI are more boring (and relevant) than Asimov’s Three Laws”, https://www.theverge.com/2016/6/29/12057516/satya-nadella-ai-robot-laws

[6] Per chi è interessato in Fantascienza, può essere interessante considerare le caratteristiche del personaggio “Comandante Data” nella serie televisiva “Star Trek: The Next Generation” e associati film.

[7] Eliza Strickland, “Worry About Sentient AI—Not for the Reasons You Think – Philosopher Jonathan Birch is just as concerned about humans harming AI”, https://spectrum.ieee.org/sentient-ai ; Jonathan Birch, “The Edge of Sentience”, https://www.edgeofsentience.com/

[8] Giorgio Parisi, “Così ho convinto l’intelligenza artificiale che 5 per 4 fa 25”, la Repubblica,

https://www.repubblica.it/cronaca/2025/02/15/news/giorgio_parisi_intelligenza_artificiale_critiche-424005730/

[9] Michela Rovelli, “«Per non far scivolare il formaggio dalla pizza, metti la colla», l’assurdo consiglio dell’intelligenza artificiale di Google agli utenti”, Corriere della Sera, https://www.corriere.it/tecnologia/24_maggio_24/per-non-far-scivolare-il-formaggio-dalla-pizza-metti-la-colla-l-assurdo-consiglio-dell-intelligenza-artificiale-di-google-agli-utenti-3e2ad6d7-6a29-4a95-a583-56b71274fxlk.shtml

[10] Marco Cartisano, “Chatgpt e le sentenze inventate in tribunale: che insegna il caso di Firenze”, Agenda Digitale, https://www.agendadigitale.eu/documenti/chatgpt-e-le-sentenze-inventate-in-tribunale-che-insegna-il-caso-di-firenze/

[11] Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean, “AI 2027”, https://ai-2027.com/

[12] The Register, “AI models can generate exploit code at lightning speed”, https://www.theregister.com/2025/04/21/ai_models_can_generate_exploit/

[13] “Open letter on artificial intelligence” Gennaio 2015, https://en.wikipedia.org/wiki/Open_letter_on_artificial_intelligence_(2015) , “Statement on AI Risk” 30 maggio 2023, https://www.safe.ai/work/statement-on-ai-risk

Articolo a cura di Andrea Pasquinucci

Profilo Autore

PhD CISA CISSP
Consulente freelance in sicurezza informatica: si occupa prevalentemente di consulenza al top management in Cyber Security e di progetti, governance, risk management, compliance, audit e formazione in sicurezza IT.

https://www.ictsecuritymagazine.com/articoli/intelligenza-artificiale-rischi/

.article-native-ad { border-bottom: 1px solid #ddd; margin: 0 45px; padding-bottom: 20px; margin-bottom: 20px; } .article-native-ad svg { color: #ddd; font-size: 34px; margin-top: 10px; } .article-native-ad p { line-height:1.5; padding:0!important; padding-left: 10px!important; } .article-native-ad strong { font-weight:500; color:rgb(46,179,178); }

Big Tech execs had front row seats at President Donald Trump’s inauguration in January. About 100 days later, and this week’s latest earnings calls show what impacts tariffs have had and how the companies are bracing for a financial storm. 

This week, numbers from the Commerce Department revealed the nation’s economy shrank during the first quarter of 2025—the first decline since the opening three-month period of 2022.

U.S. gross domestic product—the value of all goods and services produced across the country—fell at a seasonally adjusted 0.3% annual rate, as companies increased imports and prepared to navigate the Trump administration’s tariffs.

For Big Tech firms, that impact is manifesting in a range of ways. Apple is eyeing a $900 million cost hit by mid-2025, while Microsoft leans on AI to buffer economic pressure. As uncertainty clouds global trade, Google, Meta, and Amazon also face shifting costs and supply chain headaches. 

Here’s what the Silicon Valley titans had to say during their earnings calls this week.

De minimis exemption may sting Google’s ads business 

Google flagged that changes to the de minimis exemption could pose a “slight headwind to our ads business in 2025, primarily from APAC-based retailers,” svp and chief business officer Philipp Schindler said during the earnings call with investors. 

When asked by an investor whether any specific ad verticals or regions were showing signs of weakness quarter-to-date, Schindler said the company is “obviously not immune to the macro environment,” but declined to speculate further. He did not directly address tariffs.

Meta sees Asia ad pullback tied to de minimis exemption

Meta pointed to reduced ad spend from Asia-based ecommerce exporters ahead of the May 2 expiration of the de minimis exemption. Chief financial officer Susan Li said some of that spend has shifted to other markets, but overall levels remain below what the company saw prior to April. She added that there’s still uncertainty about how the change will affect Q2 performance.

Amazon says it can emerge stronger from tariff impact 

Amazon hasn’t seen a drop in consumer demand tied to tariffs—yet. CEO Andy Jassy said the company is observing “heightened buying” in some categories, likely due to consumers shopping ahead of potential price hikes. While average selling prices haven’t meaningfully increased, Jassy attributed that to forward buying by Amazon and its sellers, as well as delayed pricing changes. He cautioned that this could shift depending on where tariffs land. 

“Amazon is not uniquely susceptible to tariffs,” Jassy said. “As it relates to China, retailers who aren’t buying directly from China are typically buying from companies who themselves are buying from China, marking these items up, rebranding, and selling to U.S. consumers. These retailers are buying the product at a higher price than Chinese sellers selling directly to U.S. consumers in our marketplace, so the total tariff will be higher for these retailers than for China direct sellers.”

The word “tariff” was mentioned 18 times in the call. 

Amazon’s Q2 outlook is “inherently unpredictable and may be materially affected” by fluctuations in foreign exchange rates, tariff and trade policies, inflation, interest rates, and broader global economic conditions, according to vp of investor relations Dave Fildes. 

Still, Jassy said he’s optimistic the retail giant could come out of the current tariff environment stronger, as it did with past disruptions like the Covid-19 pandemic.

Microsoft sees software as buffer

Tariffs came up only once in Microsoft’s prepared remarks during the earnings call. CFO Amy Hood noted that Windows OEM and devices revenue grew 3% year over year, exceeding expectations. She attributed part of the bump to elevated inventory levels, as tariff uncertainty led to stockpiling throughout the quarter.

While Microsoft’s direct exposure to tariffs is limited compared to companies that either sell physical goods or provide platforms for companies selling those goods, it still faces risks. Rising equipment costs and potential cuts to clients’ software budgets could have an impact.

CEO Satya Nadella pointed to the company’s expanding AI infrastructure—particularly investments in Nvidia GPUs—as an area where tariff-driven costs could emerge. Still, he positioned software as a deflationary force. 

“If you buy into the argument that software is the most malleable resource we have to fight any type of inflationary pressure or growth pressure where you need to do more with less, I think we can be super helpful in that,” Nadella said.

Tariffs will add $900 million in costs for Apple

Apple CEO Tim Cook said that if current tariff conditions persist, the company could face an additional $900 million in costs for the June 2025 quarter. In that quarter, Cook said the majority of iPhones sold in the U.S. will come from India, while iPads and Macs imported to the U.S. will be manufactured in Vietnam. 

Cook confirmed that China would remain the primary source for the “vast majority” of Apple products.

https://www.adweek.com/media/tariffs-big-tech-google-amazon-meta-disruption/

This study also calls out LM Arena for what appears to be much greater promotion of private models like Gemini, ChatGPT, and Claude. Developers collect data on model interactions from the Chatbot Arena API, but teams focusing on open models consistently get the short end of the stick.

The researchers point out that certain models appear in arena faceoffs much more often, with Google and OpenAI together accounting for over 34 percent of collected model data. Firms like xAI, Meta, and Amazon are also disproportionately represented in the arena. Therefore, those firms get more vibemarking data compared to the makers of open models.

More models, more evals

The study authors have a list of suggestions to make LM Arena more fair. Several of the paper’s recommendations are aimed at correcting the imbalance of privately tested commercial models, for example, by limiting the number of models a group can add and retract before releasing one. The study also suggests showing all model results, even if they aren’t final.

However, the site’s operators take issue with some of the paper’s methodology and conclusions. LM Arena points out that the pre-release testing features have not been kept secret, with a March 2024 blog post featuring a brief explanation of the system. They also contend that model creators don’t technically choose the version that is shown. Instead, the site simply doesn’t show non-public versions for simplicity’s sake. When a developer releases the final version, that’s what LM Arena adds to the leaderboard.

Proprietary models get disproportionate attention in the Chatbot Arena, the study says.

Credit: Shivalika Singh et al.

One place the two sides may find alignment is on the question of unequal matchups. The study authors call for fair sampling, which will ensure open models appear in Chatbot Arena at a rate similar to the likes of Gemini and ChatGPT. LM Arena has suggested it will work to make the sampling algorithm more varied so you don’t always get the big commercial models. That would send more eval data to small players, giving them the chance to improve and challenge the big commercial models.

LM Arena recently announced it was forming a corporate entity to continue its work. With money on the table, the operators need to ensure Chatbot Arena continues figuring into the development of popular models. However, it’s unclear whether this is an objectively better way to evaluate chatbots versus academic tests. As people vote on vibes, there’s a real possibility we are pushing models to adopt sycophantic tendencies. This may have helped nudge ChatGPT into suck-up territory in recent weeks, a move that OpenAI has hastily reverted after widespread anger.

https://arstechnica.com/ai/2025/05/researchers-claim-lm-arenas-ai-leaderboard-is-biased-against-open-models/

.article-native-ad { border-bottom: 1px solid #ddd; margin: 0 45px; padding-bottom: 20px; margin-bottom: 20px; } .article-native-ad svg { color: #ddd; font-size: 34px; margin-top: 10px; } .article-native-ad p { line-height:1.5; padding:0!important; padding-left: 10px!important; } .article-native-ad strong { font-weight:500; color:rgb(46,179,178); }

TurboTax is running ads on Perplexity, the AI-powered search engine that has quietly begun testing sponsored results from major brands. The Intuit-owned tax service is an early ad test partner for Perplexity, the AI search startup confirmed to ADWEEK.

In November, Perplexity announced ad partnerships with companies including Whole Foods and Indeed, and ad agencies including PMG and Universal McCann.

TurboTax wasn’t part of that initial group of advertisers. Its presence on Perplexity suggests that it is expanding the number of platforms it runs ads on during tax season.

The move also shows that more brands brands are beginning to experiment with Perplexity’s ads.

Perplexity’s chief business officer Dmitry Shevelenko previously told ADWEEK the platform would begin running brand-sponsored related questions within its AI search results. TurboTax’s placements appear to follow that model. TurboTax’s ads also include more traditional ad formats like branded text ads.

Under the Sponsored Question label, TurboTax ran an ad asking, “Can TurboTax handle investment income?” Another ad simply read “TurboTax Personal,” which, when clicked, surfaced a page highlighting key features of the product. A third, “TurboTax help with Roth IRA limits,” directed users to a result explaining how the service can determine whether a user’s Roth IRA contribution exceeds IRS limits based on their income.

“Perplexity is constantly experimenting with different technologies to give our users the most accurate and useful experience,” a Perplexity spokesperson told ADWEEK.

TurboTax did not respond to a request for comment.

Perplexity processes more than 230 million queries per month globally and is building its ad business around 15 core categories, including finance, health, tech, and entertainment, according to a pitch deck obtained by ADWEEK. The company is offering category exclusivity through a CPM model with minimum spend guarantees. A source familiar with the offering said CPMs are expected to top $50.

Despite the push into ads, Perplexity has maintained that brand dollars won’t influence its AI-generated answers. The company has said it sees advertising as a scalable revenue stream, citing the limitations of a subscription-only model.

Meanwhile, the startup is looking to raise between $500 million and $1 billion in funding, which could value the company at $18 billion, per CNBC. 

https://www.adweek.com/media/turbotax-quietly-starts-advertising-on-perplexity/

Google has built an enormously successful business around the idea of putting ads in search results. Its most recent quarterly results showed the company made more than $50 billion from search ads, but what happens if AI becomes the dominant form of finding information? Google is preparing for that possibility by testing chatbot ads, but you won’t see them in Google’s Gemini AI—at least not yet.

A report from Bloomberg describes how Google began working on a plan in 2024 to adapt AdSense ads to a chatbot experience. Usually, AdSense ads appear in search results and are scattered around websites. Google ran a small test of chatbot ads late last year, partnering with select AI startups, including AI search apps iAsk and Liner.

The testing must have gone well because Google is now allowing more chatbot makers to sign up for AdSense. “AdSense for Search is available for websites that want to show relevant ads in their conversational AI experiences,” said a Google spokesperson.

If people continue shifting to using AI chatbots to find information, this expansion of AdSense could help prop up profits. There’s no hint of advertising in Google’s own Gemini chatbot or AI Mode search, but the day may be coming when you won’t get the clean, ad-free experience at no cost.

A path to profit

Google is racing to catch up to OpenAI, which has a substantial lead in chatbot market share despite Gemini’s recent growth. This has led Google to freely provide some of its most capable AI tools, including Deep Research, Gemini Pro, and Veo 2 video generation. There are limits to how much you can use most of these features with a free account, but it must be costing Google a boatload of cash.

https://arstechnica.com/ai/2025/05/google-is-quietly-testing-ads-in-ai-chatbots/

In search of good vibes

OpenAI, along with competitors like Google and Anthropic, is trying to build chatbots that people want to chat with. So, designing the model’s apparent personality to be positive and supportive makes sense—people are less likely to use an AI that comes off as harsh or dismissive. For lack of a better word, it’s increasingly about vibemarking.

When Google revealed Gemini 2.5, the team crowed about how the model topped the LM Arena leaderboard, which lets people choose between two different model outputs in a blinded test. The models people like more end up at the top of the list, suggesting they are more pleasant to use. Of course, people can like outputs for different reasons—maybe one is more technically accurate, or the layout is easier to read. But overall, people like models that make them feel good. The same is true of OpenAI’s internal model tuning work, it would seem.

An example of ChatGPT’s overzealous praise.

Credit: /u/Talvy

It’s possible this pursuit of good vibes is pushing models to display more sycophantic behaviors, which is a problem. Anthropic’s Alex Albert has cited this as a “toxic feedback loop.” An AI chatbot telling you that you’re a world-class genius who sees the unseen might not be damaging if you’re just brainstorming. However, the model’s unending praise can lead people who are using AI to plan business ventures or, heaven forbid, enact sweeping tariffs, to be fooled into thinking they’ve stumbled onto something important. In reality, the model has just become so sycophantic that it loves everything.

The constant pursuit of engagement has been a detriment to numerous products in the Internet era, and it seems generative AI is not immune. OpenAI’s GPT-4o update is a testament to that, but hopefully, this can serve as a reminder for the developers of generative AI that good vibes are not all that matters.

https://arstechnica.com/ai/2025/04/openai-rolls-back-update-that-made-chatgpt-a-sycophantic-mess/

.article-native-ad { border-bottom: 1px solid #ddd; margin: 0 45px; padding-bottom: 20px; margin-bottom: 20px; } .article-native-ad svg { color: #ddd; font-size: 34px; margin-top: 10px; } .article-native-ad p { line-height:1.5; padding:0!important; padding-left: 10px!important; } .article-native-ad strong { font-weight:500; color:rgb(46,179,178); }

OpenAI is taking aim at ecommerce.

The company is rolling out a new, AI-powered shopping experience within ChatGPT that lets people find, compare, and buy products. The feature shows visual details, pricing, and reviews of products with shoppable links to retailers like Walmart.

The updates are rolling out to ChatGPT’s Plus, Pro, and Free users. 

According to OpenAI, product results are chosen independently and are not ads.

A spokesperson for OpenAI did not immediately respond to a request for more detail about the commerce feature.

Shopping

We’re experimenting with making shopping simpler and faster to find, compare, and buy products in ChatGPT.

✅ Improved product results
✅ Visual product details, pricing, and reviews
✅ Direct links to buy

Product results are chosen independently and are not ads.… pic.twitter.com/PkZwsTxJUj

— OpenAI (@OpenAI) April 28, 2025

The move comes as search has become one of ChatGPT’s fastest-growing features, generating more than one billion web searches in the past week, according to OpenAI.

OpenAI enters a competitive commerce world

OpenAI’s move pits it against rival Perplexity, which introduced a similar shopping experience last year. ChatGPT’s shopping feature also competes against ecommerce giants like Amazon and Google.

OpenAI, which is reportedly valued at $300 billion, has signaled an interest in advertising revenue as it moves towards a for-profit structure. For example, OpenAI has hired top ad talent, including former Coinbase CMO Kate Rouch.

OpenAI’s move closely mirrors Google and Meta’s moves into advertising, said Debra Aho Williamson, founder and chief analyst at Sonata Insights.

“We’ve seen this playbook before, including with Google and Facebook, where brands first made their organic presence and then the platforms turned towards advertising,” she said.

https://www.adweek.com/commerce/openai-rolls-out-ai-powered-shopping-taking-on-perplexity-and-giants-like-amazon/

A lawyer representing MyPillow and its CEO Mike Lindell in a defamation case admitted using artificial intelligence in a brief that has nearly 30 defective citations, including misquotes and citations to fictional cases, a federal judge said.

“[T]he Court identified nearly thirty defective citations in the Opposition. These defects include but are not limited to misquotes of cited cases; misrepresentations of principles of law associated with cited cases, including discussions of legal principles that simply do not appear within such decisions; misstatements regarding whether case law originated from a binding authority such as the United States Court of Appeals for the Tenth Circuit; misattributions of case law to this District; and most egregiously, citation of cases that do not exist,” US District Judge Nina Wang wrote in an order to show cause Wednesday.

Wang ordered attorneys Christopher Kachouroff and Jennifer DeMaster to show cause as to why the court should not sanction the defendants, law firm, and individual attorneys. Kachouroff and DeMaster also have to explain why they should not be referred to disciplinary proceedings for violations of the rules of professional conduct.

Kachouroff and DeMaster, who are defending Lindell against a lawsuit filed by former Dominion Voting Systems employee Eric Coomer, both signed the February 25 brief with the defective citations. Kachouroff, representing defendants as lead counsel, admitted using AI to write the brief at an April 21 hearing, the judge wrote. The case is in the US District Court for the District of Colorado.

“Time and time again, when Mr. Kachouroff was asked for an explanation of why citations to legal authorities were inaccurate, he declined to offer any explanation, or suggested that it was a ‘draft pleading,'” Wang wrote. “Not until this Court asked Mr. Kachouroff directly whether the Opposition was the product of generative artificial intelligence did Mr. Kachouroff admit that he did, in fact, use generative artificial intelligence.”

https://arstechnica.com/tech-policy/2025/04/mypillow-ceos-lawyers-used-ai-in-brief-citing-fictional-cases-judge-says/

Trump pushes for industry involvement

It seems clear that Trump’s executive order was a reaction to China’s announcement about AI education reforms last week, as Reuters reported. Elsewhere, Singapore and Estonia have laid out their AI education initiatives, Forbes reported, indicating that AI education is increasingly considered critical to any nation’s success.

Trump’s vision for the US requires training teachers and students about what AI is and what it can do. He offers no new appropriations to fund the initiative; instead, he directs a new AI Education Task Force to find existing funding to cover both research into how to implement AI in education and the resources needed to deliver on the executive order’s promises.

Although AI advocates applauded Trump’s initiative, the executive order’s vagueness makes it uncertain how AI education tools will be assessed as Trump pushes for AI to be integrated into “all subject areas.” Possibly using AI in certain educational contexts could disrupt learning by confabulating misinformation, a concern that the Biden administration had in its more cautious approach to AI education initiatives.

Trump also seems to push for much more private sector involvement than Biden did.

The order recommended that education institutions collaborate with industry partners and other organizations to “collaboratively develop online resources focused on teaching K–12 students foundational AI literacy and critical thinking skills.” These partnerships will be announced on a “rolling basis,” the order said. It also pushed students and teachers to partner with industry for the Presidential AI Challenge to foster collaboration.

For Trump’s AI education plan to work, he will seemingly need the DOE to stay intact. However, so far, Trump has not acknowledged this tension. In March, he ordered the DOE to dissolve, with power returned to states to ensure “the effective and uninterrupted delivery of services, programs, and benefits on which Americans rely.”

Were that to happen, at least 27 states and Puerto Rico—which EdWeek reported have already laid out their own AI education guidelines—might push back, using their power to control federal education funding to pursue their own AI education priorities and potentially messing with Trump’s plan.

https://arstechnica.com/tech-policy/2025/04/trump-orders-doe-to-make-ai-a-national-priority-while-plotting-agencys-death/

Shevelenko was also asked about Chrome, which the DOJ would like to force Google to sell. Like an OpenAI executive said on Monday, Shevelenko confirmed Perplexity would be interested in buying the browser from Google.

Motorola has all the AI

There were some vague allusions during the trial that Perplexity would come to Motorola phones this year, but we didn’t know just how soon that was. With the announcement of its 2025 Razr devices, Moto has confirmed a much more expansive set of AI features. Parts of the Motorola AI experience are powered by Gemini, Copilot, Meta, and yes, Perplexity.

While Gemini gets top billing as the default assistant app, other firms have wormed their way into different parts of the software. Perplexity’s app will be preloaded, and anyone who buys the new Razrs. Owners will also get three free months of Perplexity Pro. This is the first time Perplexity has had a smartphone distribution deal, but it won’t be shown prominently on the phone. When you start a Motorola device, it will still look like a Google playground.

While it’s not the default assistant, Perplexity is integrated into the Moto AI platform. The new Razrs will proactively suggest you perform an AI search when accessing certain features like the calendar or browsing the web under the banner “Explore with Perplexity.” The Perplexity app has also been optimized to work with the external screen on Motorola’s foldables.

Moto AI also has elements powered by other AI systems. For example, Microsoft Copilot will appear in Moto AI with an “Ask Copilot” option. And Meta’s Llama model powers a Moto AI feature called Catch Me Up, which summarizes notifications from select apps.

It’s unclear why Motorola leaned on four different AI providers for a single phone. It probably helps that all these companies are desperate to entice users to bulk up their market share. Perplexity confirmed that no money changed hands in this deal—it’s on Moto phones to acquire more users. That might be tough with Gemini getting priority placement, though.

https://arstechnica.com/gadgets/2025/04/perplexity-will-come-to-moto-phones-after-exec-testified-google-blocked-access/