Gabrielli: “Si può intervenire in modo anticipato”

“Oggi la Polizia di Stato e Fastweb + Vodafone presentano un progetto dedicato alle donne, un progetto che parla ai giovani utilizzando lo strumento del podcast attraverso il quale vengono raccontate storie vere, storie di violenza, di violenza digitale, ma che spesso purtroppo preannunciano una violenza vera, come quella fisica. Storie di controllo, di morbosità e di georeferenziazione piuttosto che di utilizzo dell’intelligenza artificiale per violare quelle che sono le proiezioni moderne dei nostri diritti individuali, della nostra libertà sessuale e della nostra libertà individuale”. Così Ivano Gabrielli, direttore del servizio Polizia Postale e per la Sicurezza Cibernetica, a margine della presentazione del podcast di Chora Media “Quel corpo non è mio”, sui temi della violenza di genere e del femminicidio che si è tenuta a Roma presso Sala della Sacrestia della Camera.

“Far conoscere queste storie – ha aggiunto Gabrielli – significa per noi dare modo alle persone di capire che c’è possibilità di intervento anticipato, evitando così situazioni più gravose, rischi o violenze successive”. Il crimine digitale di questo tipo si manifesta con l’anonimato e il nick name dell’aggressore, in una dimensione transnazionale (recuperare il server d’origine è complesso), mentre le persone vittime vengono spogliate con l’AI come dimostrato dai casi di Phica.net e il famigerato forum sessista “Mia moglie”.

C’è da dire che nel nostro ordinamento la georeferenziazione e il controllo dei nostri smartphone è già un reato.

Violenza online colpisce persone reali

“La violenza di genere online colpisce persone reali, incidendo profondamente sui loro diritti, sulla dignità e sul benessere psicologico, e la rete, con la capacità di diffondere e far riemergere immagini e contenuti nel tempo, può amplificare ulteriormente questo impatto, con effetti anche molto gravi. Per questo la prevenzione e il contrasto di questo fenomeno rappresenta un impegno costante per la Polizia Postale: è fondamentale innalzare il livello di consapevolezza offrendo strumenti concreti per riconoscere tempestivamente i segnali di queste forme di violenza, che possono rappresentare ulteriori proiezioni di comportamenti persecutori o aggressivi anche al di fuori della dimensione digitale”, ha aggiunto Gabrielli.

Semenzato: “La cosa più importante è denunciare” 

La presidente della Commissione parlamentare di inchiesta sul femminicidio, nonché su ogni forma di violenza di genere, Martina Semenzato ha promosso l’iniziativa nell’ambito del taccuino degli appuntamenti “Nuovi linguaggi contro la violenza di genere”, per stimolare il dibattito e sensibilizzare il pubblico sulla questione della violenza di genere e del femminicidio.

“La violenza di genere online è esplosa negli ultimi mesi – ha detto Semenzato – il fenomeno emerge in tutta la sua gravità dall’inchiesta sul femminicidio che abbiamo appena chiuso dopo 8 mesi che abbiamo condotto dalla scorsa estate, con 40 audizioni e 150 pagine di testimonianze. Quello che ci ha colpito di più è lo stato di smarrimento e rabbia delle vittime colpite dalla violenza via web, che viaggia velocissima con l’uso dell’AI e le difficoltà enormi per togliere immagini di nudo contraffatte, deep fake che sono del tutto analoghe ad una violenza domestica. La cosa più importante è denunciare, la nostra polizia postale è chirurgica contro i leoni da tastiera”.

Semenzato: “Violenza online è reale a tutti gli effetti”

“Questa iniziativa è molto importante perché aiuta a tradurre l’esperienza della Commissione che presiedo e del filone di inchiesta dedicato alla dimensione digitale in strumento concreto. La nuova violenza di genere online è violenza reale a tutti gli effetti, subdola e devastante, con gravi ripercussioni psicologiche e sociali, che richiede educazione digitale precoce e un riconoscimento culturale del virtuale come spazio di relazione. Dobbiamo imparare a riconoscere i segnali della violenza digitale e a non restare in silenzio, ma denunciare. Sulla violenza online rimangono fondamentali inoltre i temi della responsabilità, della trasparenza e dell’identità. Un passo avanti è stato fatto con la legge 132/2025 in particolare con l’Art. 612-quater c.p. (Illecita diffusione di contenuti IA) che punisce con la reclusione da uno a cinque anni chi diffonde, senza consenso, deepfake (immagini, video, voci) creati con IA, capaci di ingannare e causare un danno ingiusto”, ha aggiunto Semenzato.

De Gioia: “Attenzione al fenomeno del super diffusore involontario”

E’ evidente, ha detto Valerio de Gioia, Consigliere Corte d’Appello di Roma e Consulente della Commissione Parlamentare di inchiesta sul femminicidio, nonché su ogni forma di violenza di genere, che sia necessario lavorare di più sul diritto all’oblio e sul fenomeno boomerang del “super diffusore involontario”, ovvero di colui che non volendo crea un danno maggiore in termini di popolarità a fatto di violenza online, parlandone magari, come è capitato nel caso di alcuni giornalisti che, loro malgrado, hanno contribuito a diffondere la popolarità di forum e siti sede di violenze online.

De Gioia ricorda che la lacuna del nostro ordinamento, che lasciava fuori dal reato di revenge porn la fattispecie del deep nude, vale a dire la costruzione di un falso nudo tramite AI, è stata superata dall’articolo 612 quater, con un regime sanzionatorio importante.

Renna (Fastweb + Vodafone): “Da anni investiamo per contrastare ogni forma di violenza”

“Contrastare la violenza di genere significa assumersi una responsabilità concreta: costruire ambienti di lavoro sicuri, offrire strumenti di supporto, formare le persone e promuovere una cultura del rispetto anche negli spazi digitali. Da anni investiamo con determinazione in iniziative di prevenzione e contrasto di ogni forma di violenza, online e offline, anche attraverso politiche interne che supportino le persone ed i loro famigliari”, ha dichiarato Walter Renna, CEO Fastweb + Vodafone.

Di Feliciantonio (Fastweb + Vodafone): “Controllo dello smartphone non è normale, percezione del 40% dei ragazzi falsata”

Lisa Di Feliciantonio, Chief Communication & sustainability officer di Fastweb + Vodafone, sottolinea che “l’importanza della denuncia in questi casi è fondamentale. In base ai dati di lacune recenti ricerche di Ipsos e Istat su geolocalizzazione e stalking, emerge che il 65% dei ragazzi fra i 14 e i 19 anni ha subito qualche forma di controllo digitale di questo tipo e la cosa che mi colpisce di più è che il 40% dei ragazzi considera normale il fatto che qualcuno ti controlli lo smartphone. Serve una percezione totalmente diversa di questi fenomeni”.

Poma: “Il podcast è un mezzo sicuro”

“Il mezzo podcast, per la sua natura di racconto audio intimo e autentico, rappresenta uno spazio sicuro per chi ha la forza di condividere la propria esperienza di abuso. Pur restando anonime, grazie a una semplice alterazione della voce, le testimonianze restano potenti e importanti e hanno la forza di far sentire meno sole le persone che ascolteranno e che hanno attraversato esperienze simili”, ha commentato Sara Poma, Responsabile Editoriale Chora e Will.

“Quel corpo non è il mio” è disponibile dal 18 marzo su  Spotify, Apple Podcast, YouTube Music e Amazon Music 

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/fastweb-vodafone-e-polizia-di-stato-al-via-il-podcast-dedicato-alle-donne-contro-la-violenza-di-genere-online/568937/

If you’ve been using the Internet for any length of time, you’ve probably used a tool like Google Translate to convert webpages or snippets of text to and from languages ranging from Uzbek to Esperanto. But what if you want to translate into more esoteric “languages” like “LinkedIn Speak,” “Gen Z slang,” or “horny Margaret Thatcher”?

This week, many people across the Internet have been bemused to find that the AI-powered Kagi Translate can perform these and countless other unlikely “translation” tasks. And while the collective discovery highlights the playful, creative side of large language models, it also exposes the risks of letting users play with generalized LLM tools.

What is a “language,” really?

While you might know Kagi best as the paid competitor to Google’s ever-worsening search product, the company launched its Kagi Translate tool back in 2024, saying at the time that it was a “simply better” competitor to tools like Google Translate and DeepL. At launch, the company said Kagi Translate “uses a combination of LLMs, selecting and optimizing the best output for each task,” a fact that “can occasionally lead to quirks that we’re actively working to resolve.”

The first versions of the tool featured simple dropdown menus to choose from 244 different languages for the source and target of the translation. In February 2025, though, at least one unheralded Hacker News poster noticed that you could play with the URL parameters to set the target language to “rude man with a Boston accent” without breaking anything.

An HN user noticed the more amusing uses of Kagi Translate over a year ago, to little fanfare.

In recent weeks, Kagi’s own social media account has highlighted the service’s ability to imitate “Reddit Speak” or generate McKinsey consultant speak with a few clicks on Kagi Translate. Early Tuesday morning, though, these unorthodox use cases broke containment after a Hacker News user delighted in reporting that “Kagi Translate now supports LinkedIn Speak as an output language.” Further down in that popular HN thread, other users noticed that you can alter the output language just by typing into the search bar of Kagi Translate’s web interface, and the tool’s underlying AI would do its best to accommodate you.

https://arstechnica.com/ai/2026/03/kagi-translates-ai-answers-the-question-what-would-horny-margaret-thatcher-say/

Why officials want to go after platforms, not users

Officials “want to introduce a new ban on so-called ‘nudifier’ systems that use AI to create or manipulate images that are sexually explicit or intimate and resemble an identifiable real person without that person’s consent,” the press release explained. However, “the ban would not apply to AI systems with effective safety measures preventing users from creating such images,” officials said.

As Bloomberg noted, the ban would radically shift the EU’s approach to regulating explicit deepfakes, moving beyond just prosecuting users to also punishing platforms. The Grok scandal “epitomized” why such a regulatory shift was needed, Bloomberg reported, noting that “this amendment is the first” EU policy “to specifically target AI platforms” that produce and allow sharing of “sexual material without the subject’s consent.”

While EU officials did not directly mention Grok in the press release, regulators had already been probing the AI system while pondering the implications of xAI’s controversy for other, less visible nudify apps. Submitting questions to the European Commission earlier this year, lawmakers warned:

Recent shocking reports of AI-powered nudity applications, such as Grok on X, but also other tools that are freely available online, highlight an increase in AI-driven tools that allow users to generate manipulated intimate images of individuals without their consent, facilitating gender-based cyberviolence and the creation of child sexual abuse material.

“These systems should be banned from the EU market,” lawmakers urged, particularly since “individual perpetrators”—who “can often be punished under national criminal law”—“are often hard to find.” A more proactive plan, lawmakers suggested, would be to “prevent widespread image-based sexual violence from the outset.”

With apparent backing from Parliament members, the amendment’s likely passage is sure to frustrate Musk, who is also facing legal challenges in the US seeking injunctions against Grok’s nudify outputs. In January, a mother of one of Musk’s children, Ashley St. Clair, became one of the first victims to file a lawsuit. And more recently, three young girls in Tennessee filed a proposed class action representing all children harmed by Grok’s alleged CSAM outputs.

In the EU, similar public pressure is mounting for regulators to intervene, as xAI seems unwilling to prevent Grok from undressing real people. A civil liberties committee member, Michael McNamara, said in the press release that he believes the proposal to ban nudify apps “is something that our citizens expect.”

https://arstechnica.com/tech-policy/2026/03/eu-moves-to-ban-nudify-apps-after-grok-made-them-mainstream/

Il ministro per il Digitale, Karsten Wildberger, presenta la nuova strategia della Germania in data center e AI

La Germania accelera sulla costruzione di infrastrutture digitali e punta con decisione sull’intelligenza artificiale (AI): entro il 2030 il governo federale vuole quadruplicare la capacità di calcolo dedicata all’AI e raddoppiare le prestazioni complessive dei data center rispetto ai livelli del 2025. Numeri ambiziosi, accompagnati da un dato già significativo: nel 2025 i data center tedeschi consumano circa 21 terawattora di elettricità, pari a circa il 4% del fabbisogno nazionale.

A delineare la strategia è il ministro per il Digitale e la Modernizzazione dello Stato, Karsten Wildberger, che non nasconde il ritardo accumulato: “Su scala internazionale abbiamo sicuramente molto da recuperare”. L’obiettivo secondo quanto riportato dalla Reuters è chiaro: mantenere la leadership europea e rendere la Germania “altamente attrattiva a livello globale” come hub tecnologico.
Nel Paese investono molto in infrastrutture digitali le principali Big Tech come Amazon, Microsoft e Google.
La sola Google ha annunciato investimenti per 5,5 miliardi di euro nei data center a Dietzenbach e Hanau (Assia), più nuovi uffici a Monaco.

Gli obiettivi: più capacità, più sovranità, più velocità…e una tassa da versare sui territori

Il piano governativo, che comprende 28 misure operative, mira a trasformare il Paese in un data hub europeo sovrano. Tra i pilastri principali:

• espansione massiva delle infrastrutture: raddoppio dei data center e crescita esponenziale della capacità AI.
• costruzione di almeno una “AI gigafactory” attraverso un partenariato pubblico-privato a guida europea.
• riduzione della dipendenza dai grandi hyperscaler extraeuropei, privilegiando operatori tedeschi ed europei.
• snellimento delle procedure autorizzative per accelerare la realizzazione dei nuovi impianti.
• transizione energetica: data center alimentati sempre più da fonti rinnovabili.

Sul piano economico, il governo intende anche modificare la fiscalità: una quota delle imposte sulle attività dei data center dovrebbe essere versata direttamente ai territori che ospitano le strutture, per aumentarne l’accettazione locale.

Energia e infrastrutture sono il vero collo di bottiglia dell’AI

Il nodo più critico resta però l’energia. I data center sono tra i maggiori consumatori elettrici e, secondo le stime, la domanda potrebbe salire fino a 84 terawattora entro il 2030. Un incremento che rischia di mettere sotto pressione:

• la rete elettrica, già impegnata nella transizione energetica;
• i tempi di connessione, rallentati da iter burocratici e progetti “fantasma”;
• i prezzi dell’elettricità, con possibili ricadute su cittadini e imprese.

Wildberger indica una possibile soluzione nel riutilizzo di siti industriali dismessi, come ex centrali a carbone o aree minerarie, dove le infrastrutture elettriche sono già presenti. Esempi concreti arrivano da Lübbenau (Brandenburg) o dalla regione renana, dove vecchi impianti energetici vengono riconvertiti in poli digitali.

Sostenibilità e calore disperso

Un altro tema aperto è quello del calore di scarto prodotto dai data center. Il governo punta a integrarlo nelle reti di teleriscaldamento, ma le soluzioni tecniche e infrastrutturali sono ancora in fase di sviluppo.

Parallelamente, la strategia insiste sulla sostenibilità operativa: i nuovi impianti dovranno essere più efficienti e “verdi” rispetto agli standard globali, rafforzando anche l’accettazione pubblica.

Il problema della dipendenza tecnologica

Oltre alla capacità computazionale, Berlino guarda alla sovranità digitale e al problema della dipendenza tecnologica. Il piano prevede l’utilizzo di componenti provenienti da fornitori “fidati”, lo sviluppo di un cloud europeo sicuro per applicazioni critiche e requisiti avanzati per la PA, come geo-ridondanza e sistemi energetici autonomi.

Tuttavia, emerge un limite strutturale: oggi è quasi impossibile realizzare data center completamente “Made in Europe”, a causa della dipendenza globale dalle catene di approvvigionamento.

AI, una corsa contro il tempo

La strategia, che dovrebbe essere adottata dal governo federale, rappresenta un tentativo deciso di colmare il gap con Stati Uniti e Cina nella corsa all’intelligenza artificiale. Come sottolinea Wildberger, la Germania parte in ritardo ma punta a recuperare rapidamente.

La sfida sarà duplice: costruire rapidamente capacità tecnologica e, allo stesso tempo, gestire le tensioni su energia, costi e sostenibilità. Se riuscirà nell’impresa, Berlino potrà consolidarsi come uno dei principali poli europei dell’AI. In caso contrario, il rischio è quello di restare indietro in uno dei settori più strategici del prossimo decennio.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-la-germania-vuole-quadruplicare-la-capacita-di-calcolo-entro-il-2030/568825/

Over the last few months, tools like OpenClaw have shown what tech-savvy AI users can do by setting a virtual cadre of automated agents on a task. But that individual convenience can be a DDOS-level pain for online service providers faced with a torrent of Sybil attack-style requests from thousands of such agents at once.

Identity startup World thinks its “proof of human” World ID technology can provide a potential solution to this problem. Today, the company launched a beta of Agent Kit, a new way for humans to prove they are directing their AI agents and for websites to limit access to AI agents working on behalf of an actual human.

If you recognize the name World, it’s probably as the organization behind WorldCoin, the Sam Altman-founded cryptocurrency outfit that launched in 2023 alongside an offer to give free WorldCoin to anyone who scanned their iris in a physical “orb”. While WorldCoin still exists (at a current value well below its early 2024 peaks), World has now pivoted to focus on World ID, which uses the same iris-scanning technology as the basis for a cryptographically secure, unique online identity token stored on your phone.

World now claims nearly 18 million unique humans have verified their identities on one of nearly 1,000 physical orbs around the world. Now, with Agent Kit, World wants to let those users tie their confirmed identity to any AI agent, letting it work on their behalf across the Internet in a way other parties can trust.

Who are you working for?

Rather than blocking automated traffic outright as a safety or data-protection measure, World suggests sites could instead require AI agents to present an associated World ID token to prove they represent an actual human who’s behind any request. In this way, the site could allow agents to access limited resources like restaurant reservations, ticket purchase opportunities, free trials, or even bandwidth without worrying about a single user flooding the process with thousands of anonymous bots. The same idea could apply to sensitive reputational systems like online forums and polls, where it’s important to prevent automated astroturfing or dogpiling.

https://arstechnica.com/ai/2026/03/world-id-wants-you-to-put-a-cryptographically-unique-human-identity-behind-your-ai-agents/

Many of the reactions have focused on how DLSS 5 turns in-game faces into overly detailed, uncanny valley versions of the original models. Reactions have compared the effect to air-brushed pornography, “yassified, looks-maxed freaks,” or those uncanny, unavoidable Evony ads. Others have noted how DLSS 5 seems to mangle the intended art direction by dampening shadows in favor of a homogenized look.

Some game developers have leapt on the “artistic intent” angle, too. Thomas Was Alone developer Mike Bithell added that the technology seems designed “for when you absolutely, positively, don’t want any art direction in your gaming experience.” And Gunfire Games Senior Concept Artist Jeff Talbot said that “in every shot the art direction was taken away for the senseless addition of ‘details.’ Each DLSS 5 shot looked worse and had less character than the original. This is just a garbage AI Filter.”

New Blood Interactive founder and CEO Dave Oshry added that DLSS 5’s “AI dogshit is actually depressing” and lamented that future generations “won’t even know this looks ‘bad’ or ‘wrong’ because to them it’ll be normal.”

Damage control

By way of damage control, Nvidia took to the comments (which are filled with thousands of negative takes) on its YouTube reveal trailer to stress that DLSS 5 “is not a filter” and that “game developers have full, detailed artistic control over DLSS 5’s effects to ensure they maintain their game’s unique aesthetic.” That includes the ability to tweak intensity and color grading or turn the masking off entirely in “places where the effect shouldn’t be applied.”

DLSS 5 OFF // DLSS 5 ON

[image or embed]

— Tuba Zef (@tubazef.com) March 16, 2026 at 3:59 PM

Bethesda, one of the many major publishers Nvidia named as an early DLSS 5 partner, piped in on social media to say that these videos are “a very early look, and our art teams will be further adjusting the lighting and final effect to look the way we think works best for each game. This will all be under our artists’ control, and totally optional for players.”

From a public image perspective, though, the damage may already be done. DLSS 5 has quickly become a meme format in its own right, with Internet commenters using “DLSS 5 On” as visual shorthand for “overly cleaned up” or “mangled beyond recognition.” We’re not sure how you come back from that kind of instant infamy, but Nvidia will have until the fall to find out.

https://arstechnica.com/gaming/2026/03/gamers-react-with-overwhelming-disgust-to-dlss-5s-generative-ai-glow-ups/

La prima docente donna del primo corso di AI in Italia

È riconosciuta da tutti come la madrina italiana dell’intelligenza artificiale (AI). Luigia Carlucci Aiello ha dedicato gran parte della sua vita professionale a questa tecnologia, con 170 pubblicazioni all’attivo, lavorando allo Stanford Artificial Intelligence Laboratory (SAIL), diretto da John McCarthy, e a numerosi progetti nazionali, gruppi di lavoro e reti di eccellenza dell’Unione europea.
Nel 1988 fonda ed è primo presidente della Associazione italiana per l’intelligenza artificiale.

Una lunga carriera nel mondo della tecnologia avanzata, visto dall’esterno come luogo di pura ricerca e innovazione, ma difficile da vivere dall’interno, a causa della discriminazione di genere, da cui purtroppo non era immune, almeno in passato.

Quando ha iniziato i suoi studi universitari, nel 1964, “alla scuola Normale Superiore di Pisa c’era un ambiente maschile e maschilista”, ha detto Carlucci Aiello in un’intervista a La Repubblica. “Al Cnr di Pisa, dove venni assunta nel 1970, invece, eravamo poche donne su oltre 50 uomini – ha aggiunto la matematica –ed eravamo tutti uguali. C’era bisogno di menti e braccia in un settore ancora nuovo”.

La sua passione erano i numeri ed il suo sogno era quello di insegnare nel liceo del suo paese. Il confronto con la matematica pura creò un conflitto con il suo bisogno di concretezza e decise di specializzarsi in matematica applicata ai calcolatori, iniziando così la sua carriera nel campo dell’informatica. Pisa è infatti una città importante nella storia dell’informatica italiana, è qui che nel 1961 nasce il primo calcolatore elettronico italiano e nel 1986 la prima connessione Internet.

“Ero un mostro strano per la mia formazione eccentrica. Nel 1990, quando già ero una professoressa ordinaria da 10 anni alla Sapienza, passai al triennio. Ero la prima docente del primo corso di IA”, ha spiegato nell’intervista rilasciata a Romina Marceca.

Un messaggio per i ‘potenti’: “Non mettetevi nelle mani dei venditori, a chi non ha etica, a chi pensa solo al guadagno”

“L’IA è già nelle nostre vite. Guai a farsi trovare impreparati, altrimenti la subiremo soltanto. Il mio messaggio, comunque, è rivolto soprattutto ai potenti. Non devono mettersi in mano ai venditori, a chi non ha etica, a chi pensa solo al guadagno”, ha affermato Carlucci Aiello, riferendosi ovviamente alle Big Tech, che detengono le tecnologie AI, e ai decisori pubblici, che hanno il compito di indicare la via più giusta e più sicura, sia in termini etici che di regole, per diffondere questa tecnologia tra la gente.

Con un monito chiaro e inequivocabile: “L’uso dell’IA deve essere disciplinato”.

Riguardo poi al futuro, la professoressa non ha dubbi, l’intelligenza artificiale è qui per cambiare il mondo, le macchine che andrà a gestire “faranno i lavori pericolosi al nostro posto”, ma attenzione al modo in cui si approccia a questa tecnologia dirompente: “Mi preoccupano l’ignoranza e l’incoscienza”.

L’AI è in grado di abilitare una vera e propria rivoluzione industriale, al pari e superiore a quelle che hanno segnato profondamente gli ultimi 3 secoli quasi, ma nasconde dei rischi: etici e culturali, relativi alla tenuta dei sistemi democratici e ai diritti, nonché di natura ambientale.

“C’è chi sottovaluta le enormi quantità di acqua ed energia consumate dall’IA. Il rischio è un’accelerazione della crisi ambientale”, ha sottolineato Carlucci Aiello.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/la-madre-italiana-dellai-luigia-carlucci-aiello-e-nelle-nostre-vite-e-va-disciplinata-guai-a-farsi-trovare-impreparati/568638/

Her first instinct was to contact the other victims she knew, then “ultimately, local law enforcement was contacted, and a criminal investigation was opened,” the complaint said.

Investigating the Discord evidence, cops quickly determined that the perpetrator had access to the first victim’s Instagram “because he had maintained a close and friendly relationship” with her. Searching his phone, cops found a third-party app that licensed or otherwise purchased access to Grok, which they concluded that the perpetrator used to morph the girls’ photos.

From there, the bad actor uploaded the images to a file-sharing platform called Mega and used them as a “bartering tool in Telegram group chats with hundreds of other users,” trading away the AI CSAM files “for sexually explicit content of other minors.”

The harms to victims have been extensive, the lawsuit said, citing acute emotional and mental distress. For the victims who know the perpetrator, they remain uncertain if the Grok-generated CSAM was shared with classmates or distributed to others at their school, the lawsuit noted. One girl fears the scandal will impact her college admissions, while another feels too scared to attend her own graduation.

Even more alarming than any acquaintances coming across the AI CSAM, however, is the fear that girls will now be stalked due to Grok’s outputs. As the lawsuit explains, “it also appears the victims’ true first names and the name of their school was attached to their files online, meaning other online predators may also be able to identify them, creating a substantial risk for stalking.”

xAI allegedly hosts Grok CSAM

While it was previously reported that Grok Imagine’s paying subscribers were generating more graphic outputs than the Grok outputs that sparked outcry on X, the lawsuit alleges that xAI has also taken other steps to hide how it profits from explicit content that harms real people.

https://arstechnica.com/tech-policy/2026/03/elon-musks-xai-sued-for-turning-three-girls-real-photos-into-ai-csam/

In a follow-up post, Nichols said he was uncomfortable with “Patreon money being spent on AI subscriptions to make untrustworthy translations, that are promoted as if they’re worth reading or valid sources of historical info. … It’s worthless and destructive: these translations are like looking at history through a clownhouse mirror.”

Nichols wasn’t alone in expressing those kinds of concerns. “It strikes me as irresponsible to use the privileged position where we have first hand access to this genuinely novel information to just be okay with something that kinda works, sorta,” user Joey wrote on the Gaming Alexandria Discord. Others on social media piped up to say that the project had “damaged [the site’s] reputation,” or had “burn[ed] all their good faith with the video gaming community.”

For some supporters, though, using machine translations—including ones aided by AI models—is a practical necessity given the size of the task at hand. “There’s no world in which they could ever get hundreds of thousands of pages translated by hand,” game preservationist Chris Chapman wrote on social media. “Error-prone searchability is more useful to more people than none at all.”

“Famitsu alone is over 1,900 issues, each with [a hundred-plus] pages,” journalist and author Felipe Pepe noted. “That’s one magazine from one country. [Human translation] would be ideal, but it’s impossible.”

On the Gaming Alexandria Discord, user asie wrote that people who use tools like Google Lens or DeepL are already using AI-powered OCR and translation tools. At this point, these kinds of tools are “just a fact of reality,” they added.

This 1973 issue of Japan’s Amusement Industry magazine is just one of hundreds that Gaming Alexandria has scanned over the years.

“Show some empathy and grace…”

In his apology post Sunday, Hubbard acknowledged that many supporters were “shocked and angered” by his efforts on the Researcher vibe coding effort and said he “should have reached out before using Patreon funds for that project.” Hubbard said he’d be using personal funds to replace the Patreon money that had been used so far, and that in the future “no Patreon dollars will be used to fund AI.” He added that he is just “one cog in the wheel” of the Gaming Alexandria site, and that other members of the community shouldn’t be punished for what was a “personal side project.”

https://arstechnica.com/ai/2026/03/new-vibe-coded-ai-translation-tool-splits-the-video-game-preservation-community/

ChatGPT’s “adult” filters have been buggy

Sources told the WSJ that they doubted if OpenAI’s tools were ready to lock kids out of prohibited content.

Their whistleblowing comes after OpenAI fired a top safety executive who opposed the release of “adult mode.” OpenAI denied the firing was related, but the exiting staffer directly criticized both the AI firm’s ability to block kids from content and stop outputs from promoting child exploitation. Further, a second former safety staffer also spoke out last fall, warning that parents shouldn’t trust OpenAI’s “adult mode” claims.

To counter this narrative, OpenAI’s spokesperson promised that the company “has a developed plan to monitor for a range of potential long-term effects of adult mode, both positive and negative.”

However, that plan was likely developed with the very experts the WSJ reported are staunchly opposing the roll-out, leaving parents to wonder if OpenAI cares about advice from its youth well-being team or not.

On top of ineffective age checks or clever minors who dodge age gates, OpenAI may get in trouble with parents if its own systems unexpectedly fail. Back in April when OpenAI started dabbling with more risqué outputs, OpenAI fixed a bug that TechCrunch testing found was allowing minors to access graphic erotica on ChatGPT. It seems that OpenAI’s filters broke that were supposed to clearly restrict “sensitive content like erotica to narrow contexts such as scientific, historical, or news reporting.”

“In this case, a bug allowed responses outside those guidelines, and we are actively deploying a fix to limit these generations,” OpenAI said at the time.

OpenAI did not respond to Ars’ request to comment.

If you or someone you know is feeling suicidal or in distress, please call the Suicide Prevention Lifeline number by dialing 988, which will put you in touch with a local crisis center.

https://arstechnica.com/tech-policy/2026/03/chatgpt-may-soon-become-sexy-suicide-coach-openai-advisor-reportedly-warned/