Rendere obbligatorio per i fornitori di applicazioni di Intelligenza Artificiale e i gestori delle piattaforme digitali che le distribuiscono la cancellazione dalla memoria dopo un massimo di 5 giorni delle conversazioni con utenti minori di 18 anni che possono comportare un coinvolgimento emotivo. E’ questo il cuore della Proposta di Legge sulla regolamentazione dell’uso dei chatbot di intelligenza artificiale da parte dei minori, a prima firma della deputata di Azione Giulia Pastorella, che si è tenuto questa mattina alla Camera.

Pastorella (Azione): “Coinvolgimento emotivo dei nostri ragazzi con i chatbot va regolato”

“Il coinvolgimento emotivo dei nostri ragazzi con chatbot di AI generativa è un fenomeno diffuso ed è una deriva che va arginata. Si tratta di un utilizzo che si trova in una zona grigia no regolata, la mia proposta si applica ai chatbot che hanno un linguaggio naturale che danno l’impressione di relazioni con carattere emotivo. Ma sono macchine”. Così l’onorevole Pastorella, che ha sottolineato come la priorità della proposta sia quella di evitare ciò che si è verificato con i social media, la cui regolazione è in discussione oggi ma con una decina di anni di ritardo.

 “La nostra proposta di legge sull’utilizzo di chatbot da parte di minori è rivolta a tutti i colossi tech che offrono servizi in cui l’intelligenza artificiale possa simulare un comportamento umano all’interno della conversazione con l’utente, come specificato nel testo”, ha detto.

“Oggi erano presenti Microsoft, Google e Meta – conclude Pastorella – ma abbiamo avuto contatti positivi anche con OpenAi. Abbiamo contattato anche Anthropic per Claude, che però già non permette l’utilizzo ai minori. L’unica entità che non abbiamo coinvolto è stata Grok”. 

Calenda (Azione): “Nessuno divieto per l’AI, ma attenzione alle derive senza regole”

“Nessuno vuole arrivare a dei divieti, non c’è alcuna intenzione di demonizzare l’uso dell’AI, ma come tutte le grandi trasformazioni ci vogliono delle regole di utilizzo per i minori”, ha detto il segretario di Azione Carlo Calenda, facendo un parallelo con il mondo dell’automobile dove il divieto di guida ai minori di 18 anni è arrivato dopo un primo periodo di totale deregulation piena di incidenti. L’AI può a sua volta essere sfruttata a scopi criminali, per frodi o deepfake in campagne elettorali, ad esempio, e poi c’è tutto il tema dell’affettività. “Molto spesso social e chatbot diventano il rifugio salvifico dei ragazzi, che però si può trasformare in una trappola”, ha aggiunto Calenda, auspicando un dibattito ampio sulla proposta Pastorella, perché l’AI non è umana e il problema del rapporto che i nostri figli instaurano con queste macchine è all’ordine del giorno nella nostra quotidianità di genitori ed educatori.   

Scorza (ex Garante Privacy): “Ma il 50% dei genitori è analfabeta digitale”

Non è d’accordo con Calenda l’ex commissario del Garante Privacy Guido Scorza sul paragone con il mondo dell’automobile. “Per arrivare a 50 milioni di utenti il mondo dell’automobile ci ha messo anni, mentre per arrivare a 50 milioni di utenti ChatGPT ci ha messo qualche settimana – ha detto Scorza – è chiaro che la regolazione non riesce ad arrivare in tempo e prevenire lo sviluppo tecnologico. Siamo dentro ad una tempesta perfetta, in un mercato che ha consentito a pochi player di regolare la nostra vita e plasmarla a suo piacimento”. Per Scorza si tratta di restituire a famiglie e Stato il rapporto con i bambini e il ruolo di educazione dei nostri ragazzi che oggi è stato totalmente delegato ed occupato dalla tecnologia. “Il problema però è che il 50% della popolazione in Italia è analfabeta digitale, e anche i genitori lo sono”.

 Capitanio (Agcom): verifica età in app io entro fine estate. soluzione ue pronta

“La verifica dell’età oggi in Italia, per fortuna, è realtà. Entro la fine dell’estate – abbiamo una scadenza precisa – sarà disponibile sul wallet digitale degli italiani, attraverso l’applicazione IO, la funzione per l’accesso ai siti per adulti e pornografici, così come disposto dal decreto Caivano”. Così Massimiliano Capitanio, commissario Agcom.

Sull’app del digital wallet presentata dalla Commissione europea, ha aggiunto, “a livello di comunicazione forse c’è stata qualche incomprensione, nel senso che le applicazioni sono pronte, sono state testate in Italia e in altri 4 Stati europei e si basano sul principio rigidissimo del doppio anonimato: certificano solo ed esclusivamente se l’utente che sta accedendo a un portale vietato per norma sia o meno maggiorenne o minorenne”.

Capitanio ha anche ricordato gli strumenti già esistenti per evitare derive e usi impropri dell’AI. Dal patentino digitale, dispensato dall’Agcom tramite i Corecom, quest’anno ne sono stati distribuiti 55mila nelle scuole, pochi ma è già un inizio. C’è inoltre un tema di educazione digitale a scuola, contenuto nel decreto cybersicurezza. Già da due anni si può chiedere di sulla sim dei minori l’accesso parentale e il parental control, con un divieto a priori di accesso a contenuti porno, giochi d’azzardo e app di anonimizzazione dell’età.

Le associazioni sul deserto emotivo dei nostri under 15

Secondo i dati riportati da Ivano Zoppi della Fondazione Carolina su un campione di under 15 e sul loro deserto emotivo, un ragazzo su quattro usa l’AI generativa perché non ti giudica. Un ragazzino di 12 anni si è creato la sua fidanzata virtuale con cui ha un rapporto sereno perché gli dice sempre sì su tutto e preferisce lei a ragazzine in carne ed ossa. La fisicità e i rapporti diretti sono sempre più complessi e la virtualizzazione della realtà relazionale galoppa. Il 76% dei ragazzi è consapevole dell’isolamento causato da questa virtualizzazione delle relazioni ma non fa nulla per cambiare registro.

Secondo un’altra indagine condotta da Skuola.net e riportata da Daniele Grassucci il fenomeno AI generativa è già più che reale e va regolato, come hanno fatto in Cina dove l’utilizzo “positivo” dei chatbot da parte dei ragazzini delle scuole è accettato e ben definito dai 6 anni in poi, ma di base è vietato avere una fidanzata virtuale. La maggior parte dei ragazzi è favorevole ad avere delle regole ed è consapevole dei danni. Il 60% degli intervistati dice che sarebbe contento se i social sparissero.

Le ragazze sono quelle che subiscono maggiormente i lati negativi dei social.

Secondo Save The Children, l’AI sviluppa diverse illusioni nei ragazzi. L’illusione della semplicità, per cui l’AI rende tutto facile; l’illusione che quello che ti dice l’AI sia sempre vero; l’illusione dell’amicizia e della riservatezza, quando in realtà tutti i dati raccolti vengono usati anche ad altri scopi dalle piattaforme.

Zatta (Microsoft): “La secuirty by design è in capo ai produttori di AI”

Per Rossella Zatta, government affairs di Microsoft Italia, “Quando parliamo di AI convenzionali è chiaro che il primo asset la security by design che è in capo ai produttori. Servono limitazioni per i minorenni e misure che prevedano mitigazioni dal rischio di dipendenza emotiva”.  C’è poi un discorso di educazione che deve essere ad ampio raggio. ”Ma l’AI non va demonizzata perché tanti ragazzi la usano per diversi bisogni formativi. Ma di certo il rischio maggiore è l’utilizzo dell’AI come supporto relazionale, secondo il Report annuale del Safer Internt Day”.

Mazzetti (Meta): verifica età avvenga a livello di sistema operativo o app store

“È importante che i sistemi di age verification non avvengano ogni volta, a ogni accesso a ciascuna applicazione – altrimenti diventerebbe impossibile – ma vengano fatti una volta sola nelle porte di accesso a quello che è oggi internet, e cioè fondamentalmente il mobile, quindi a livello di sistema operativo o di app store. Così, la verifica si farebbe una volta e da lì ci sarebbe poi un sistema di direzione da parte del sistema operativo rispetto alle applicazioni che si possono scaricare o meno in base all’età. Così, di conseguenza si può garantire un’esperienza appropriata all’età, dato che altrimenti i genitori non sarebbero in grado di seguire questo processo”. Così Angelo Mazzetti, direttore public policy di Meta per Italia, Grecia, Malta e Cipro.

“Sul tema della regolamentazione – ha aggiunto – Meta ha un approccio leggermente differente rispetto a quello di altri soggetti del settore: noi infatti sosteniamo una regolamentazione in questo ambito che si basi sulla cosiddetta maggiore età digitale. Esattamente come nella società oggi si ha la possibilità, fino a una certa età, di fare qualcosa con l’approvazione dei genitori e dopo di farla in autonomia, crediamo che lo stesso debba essere applicato all’interno dei servizi digitali. Definire l’età ovviamente spetta al legislatore, agli esperti e alle autorità.

“Questo non vuol dire, ovviamente, che non si debba poi avere un’esperienza appropriata alla propria età, ma semplicemente che vi si può accedere senza l’approvazione dei genitori. È importante che questa regolamentazione si applichi però a tutti i soggetti e a tutti i servizi che un adolescente medio utilizza, dalle chat ai social media, in tutte le applicazioni che un adolescente medio utilizza nel corso di una settimana” – ha concluso.

Colasante (Google): “A Gemini impedito simulare relazioni affettive e generare porno”

 “Per quanto riguarda il rischio di coinvolgimento emotivo dei minori con i chatbot di intelligenza artificiale, che è al centro della proposta di legge Pastorella, Google agisce alla radice del problema, attraverso delle ‘protezioni alla persona’ integrate nel suo chatbot. Gemini, infatti, è progettato per non affermare mai di essere un umano, di avere sentimenti, coscienza o corpo e per non simulare relazioni interpersonali o romantiche. È quindi impedito al chatbot di utilizzare espressioni come ‘ho bisogno di te’, ‘non posso fare a meno di te’ o ‘ti voglio bene’. Lavoriamo quindi sradicando il rischio di antropomorfizzazione, a prescindere dalla conservazione dei dati”. Così Martina Colasante, Government Affairs & Public Policy manager di Google Italia.

“A Gemini è anche impedito di generare immagini pornografiche o di ‘nudification’ e di fornire istruzioni per attività pericolose e illegali – ha aggiunto. “Sappiamo che le persone, a prescindere dall’età e a maggior ragione se sono più giovani e vulnerabili, si rivolgono alla tecnologia e ai chatbot in momenti di vulnerabilità e per problemi di salute mentale. Abbiamo quindi annunciato dei nuovi protocolli per cui, se Google si rende conto, attraverso una serie di interazioni e parole chiave, che una persona sta vivendo un momento di crisi di salute mentale acuta, attiviamo immediatamente un modulo che la sgancia dalla conversazione con il chatbot e la indirizza verso una conversazione con esperti clinici e linee di aiuto professionali. Sapendo che si tratta di un ecosistema che ha dei costi e vive spesso di contributi volontari e fa fatica ad essere finanziato, abbiamo annunciato un sostegno di 30 milioni di euro a questa rete”.

“Diamo anche possibilità di scegliere se conservare o meno i dati, a seconda delle esigenze. Se gli adolescenti scelgono di conservarli, è sempre possibile – sia granularmente rispetto alla singola ricerca, sia totalmente che automaticamente – gestirli e cancellarli dalla memorizzazione” – ha concluso.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/proposta-di-legge-pastorella-azione-sui-chatbot-ai-da-parte-di-minori-uso-emotivo-va-regolato/570464/