Alla conferenza I/O di metà maggio, Google ha annunciato AI Overview, precedentemente nota come Search Generative Experience (SGE). Questa nuova funzionalità basata sull’intelligenza artificiale promette di fornire ai naviganti un sommario esaustivo, testuale, di ciò che hanno cercato online, piazzandolo prima dei risultati tradizionali sotto forma di link ai siti web. Fin qui tutto bene, se non fosse che nelle ultime ore si è scatenata sopra la funzione, attiva solo negli Stati Uniti, una vera e propria orda di indignazione social. Il motivo? Molti utenti hanno cominciato a condividere online le schermate di ciò che AI Overview ha suggerito, tra cui completare la pizza con della colla oppure mangiare sassi se si è in carenza di minerali e vitamine. Ma anche farsi un bagno con il tostapane, perché “rilassa” (forse troppo .ndr). Nessuna allucinazione o “bias”, gli stereotipi a cui le intelligenze artificiali vanno incontro, ma semplicemente un problema di fonte.

A quanto pare infatti, almeno così scrive The Verge, molte indicazioni trovano riscontro in alcuni buffi articoli pubblicati sui forum di Reddit e solo lì. Questo vuol dire che Gemini AI, nel ricavare il suo sunto, ha pescato su tali porzioni di rete, senza preoccuparsi di verificare se quanto scritto fosse vero o meno.

Non ci si può fidare

Questo è un grosso limite alla tecnologia, perché quando, un giorno, la “panoramica AI” sarà attiva per tutti, Europa compresa, il rischio di ottenere risposte fuorvianti, errate e, almeno potenzialmente, pericolose, sarà molto alto. Andiamo oltre il senso comune: cosa sarebbe accaduto se una persona avesse davvero messo della colla sulla pizza o mangiato dei sassi? Casi limiti, sicuramente, ma non da escludere a priori, quando ci sono individui che si affidano a Google per tutto, in modo particolare per tematiche di salute. Non a caso, esattamente dieci anni fa è stato coniato il termine Cyberchondria, ovvero l’eccessivo esporsi a informazioni online riguardo il proprio benessere, per sentirsi rassicurati. Se il dottore Google è già tra noi, quanto più potente sarà il dottore Google con l’IA? Un primario in confronto allo specializzando attuale.

Pensate poi a quanto successo con il Covid e i vaccini. Se avessimo avuto qualche anno fa i vari Copilot, Gemini e ChatGPT, probabilmente le teorie del complotto avrebbero avuto anche maggiore rilevanza, fomentate da sistemi che leggono anche da portali farlocchi per “evolversi” e imparare cose nuove.

Come funziona AI Overview

Per gli utenti negli Stati Uniti, quando si ricerca qualcosa su Google, il termine o la frase viene elaborato dall’intelligenza artificiale per analizzare se è possibile fornire un riassunto testuale generato dall’AI. In caso di risposta positiva, si vedrà una casella “overview” che include il testo e i collegamenti alle fonti, per leggere di più sull’argomento. Questi esempi fanno ridere, ma mica troppo.

Il futuro è incerto

Interrogato da Business Insider sulle risposte dell’intelligenza artificiale, un portavoce di Google ha affermato che gli esempi sono “query estremamente rare e non rappresentative delle esperienze della maggior parte delle persone”, aggiungendo che “la stragrande maggioranza delle panoramiche dell’intelligenza artificiale fornisce informazioni di alta qualità”. E prosegue con “abbiamo condotto test approfonditi prima di lanciare questa nuova esperienza e utilizzeremo gli esempi isolati mentre continuiamo a perfezionare i nostri sistemi nel complesso”.

Questo è assolutamente vero. I social media non sono una rappresentazione del tutto accurata della realtà eppure hanno successo. Il punto è che sui social, proprietà di un’azienda privata, i contenuti sono prodotti dagli utenti. Nel caso di AI Overview invece, Google possiede sia il prodotto che chi lo produce. E tutto molto orwelliano.

Un monopolio di sabbia

Inoltre, usare il termine “query rare” è strano, considerando che qualche giorno fa al Google Marketing Live, è stato ricordato come il 15% delle query sia nuovo. Qui un ottimo sunto di Vincos. Di fatto, Google sta spostando l’attenzione sulle domande, distogliendo l’interesse dalle risposte.

Gli usi disillusi della ricerca con l’AI presentano risvolti teoricamente rivoluzionari. La fiducia in Google potrebbe presto erodersi e con essa l’attuale mercato monopolista della navigazione. Big G mantiene una quota globale pari all’83,49%, sebbene questa sia scesa dall’89,95% degli ultimi tre anni; nello stesso lasso di tempo, la quota di Bing è salita dal 6,43% al 9,19%. Cavalcare l’innovazione è un bene ma solo se ha basi solide. Negli anni, tanti esempi ci hanno dimostrato come allucinazioni, bias ed errori banali pervadono praticamente tutte le piattaforme di intelligenza artificiale. L’apporre un disclaimer in fondo a ogni risposta (“l’intelligenza artificiale generativa è sperimentale”) non dovrebbe e non può essere sinonimo di approssimazione e superficialità.

https://www.key4biz.it/peggio-di-un-boomerang-gli-errori-di-gemini-affossano-la-ricerca-con-lia-di-google/491833/