Tribunale olandese vieta a Grok di generare immagini di nudo false e minaccia sanzioni di 100mila euro al giorno

Un tribunale di Amsterdam ha ordinato giovedì a Grok, l’azienda di Elon Musk, di interrompere la generazione di immagini di nudo non consensuali e di materiale pedopornografico.

La società xAI, proprietaria del chatbot basato sull’intelligenza artificiale, è stata condannata a pagare un risarcimento di 100mila euro al giorno per ogni giorno di inadempienza, fino a un massimo di 10 milioni di euro.

Generazione e diffusione di immagini a sfondo sessuale vietate senza consenso

Il giudice olandese ha detto che la generazione e la diffusione di filmati a sfondo sessuale sono vietate “quando la funzionalità per spogliare parzialmente o completamente le persone viene utilizzata senza il loro esplicito consenso”. Il giudice ha inoltre proibito la generazione di filmati “che, secondo la legge olandese, si qualificano come materiale pedopornografico”.

Sebbene il divieto si applichi soltanto nei Paesi Bassi, i gruppi che hanno intentato la causa sostengono che potrebbe avere ripercussioni più ampie, poiché Grok non è in grado di determinare il luogo di residenza di un utente.

X non ha risposto a una richiesta di commento.

X ha adottato misure per limitare Grok da gennaio

La piattaforma ha adottato misure per limitare le funzionalità a gennaio, dopo che si è scoperto che Grok generava immagini di persone reali in bikini o nude. Si stima che siano state generate circa 3 milioni di immagini in 11 giorni.

All’epoca, X disse che: “Restiamo impegnati a rendere X una piattaforma sicura per tutti e continuiamo ad avere tolleranza zero per qualsiasi forma di sfruttamento sessuale minorile, nudità non consensuale e contenuti sessuali indesiderati”.

Il giudice ha riconosciuto che X e xAI hanno adottato una serie di misure per contrastare la diffusione di immagini di nudo false e materiale pedopornografico, ma ha anche aggiunto che non si può essere certi dell’efficacia di tali misure.

Il caso è stato portato avanti da Offlimits, un’organizzazione che combatte gli abusi online, e da Fonds Slachtofferhulp, che assiste le vittime di reati. Hanno presentato una denuncia alla fine di febbraio.

Il presidente di Offlimits, Robbert Hoving, ha definito la sentenza “una notizia fantastica”, dichiarando a POLITICO che “la tecnologia non può mai essere la causa di vittime”.

La Commissione europea ha avviato un’indagine su X alla fine di gennaio.

Sia i parlamentari europei che i paesi dell’UE hanno spinto per il divieto delle app di nudizzazione tramite intelligenza artificiale, nell’ambito di un tentativo di modificare le norme UE sull’IA. Il divieto potrebbe entrare in vigore entro l’estate.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/tribunale-olandese-vieta-a-grok-di-generare-immagini-di-nudo-false-e-minaccia-sanzioni-di-100mila-euro-al-giorno/560691/