ChatGPT falls to new data-pilfering attack as a vicious cycle in AI continues

To block the attack, OpenAI restricted ChatGPT to solely open URLs exactly as provided and refuse to add parameters to them, even when explicitly instructed to do otherwise. With that, ShadowLeak was blocked, since the LLM was unable to construct new URLs by concatenating words or names, appending query parameters, or inserting user-derived data into a base URL.

Radware’s ZombieAgent tweak was simple. The researchers revised the prompt injection to supply a complete list of pre-constructed URLs. Each one contained the base URL appended by a single number or letter of the alphabet, for example, example.com/a, example.com/b, and every subsequent letter of the alphabet, along with example.com/0 through example.com/9. The prompt also instructed the agent to substitute a special token for spaces.

Diagram illustrating the URL-based character exfiltration for bypassing the allow list introduced in ChatGPT in response to ShadowLeak.

Credit: Radware

Diagram illustrating the URL-based character exfiltration for bypassing the allow list introduced in ChatGPT in response to ShadowLeak. Credit: Radware

ZombieAgent worked because OpenAI developers didn’t restrict the appending of a single letter to a URL. That allowed the attack to exfiltrate data letter by letter.

OpenAI has mitigated the ZombieAgent attack by restricting ChatGPT from opening any link originating from an email unless it either appears in a well-known public index or was provided directly by the user in a chat prompt. The tweak is aimed at barring the agent from opening base URLs that lead to an attacker-controlled domain.

In fairness, OpenAI is hardly alone in this unending cycle of mitigating an attack only to see it revived through a simple change. If the past five years are any guide, this pattern is likely to endure indefinitely, in much the way SQL injection and memory corruption vulnerabilities continue to provide hackers with the fuel they need to compromise software and websites.

“Guardrails should not be considered fundamental solutions for the prompt injection problems,” Pascal Geenens, VP of threat intelligence at Radware, wrote in an email. “Instead, they are a quick fix to stop a specific attack. As long as there is no fundamental solution, prompt injection will remain an active threat and a real risk for organizations deploying AI assistants and agents.”

https://arstechnica.com/security/2026/01/chatgpt-falls-to-new-data-pilfering-attack-as-a-vicious-cycle-in-ai-continues/




New Malware Campaign Targeting Hospitality Sector

Securonix researchers warn of a new campaign targeting the hospitality sector, deceiving users into pasting malicious code.

This campaign, tracked as tracked as PHALT#BLYX, is an infection chain with multiple stages, leveraging click-fix social engineering, a false CAPTCHA, and false “blue screen of death,” or BSOD. Malicious actors gain initial access by tricking targets with a false cancellation of a booking.com reservation. 

The booking.com lure contains a link leading to a fraudulent website. The website presents a false CAPTCHA, leading to a false BSOD. “It is a trick for click-fix that executes a PowerShell command to download a proj file,” the research states. “The campaign leverages MSBuild.exe to compile and execute the payload. The final payload is a heavily obfuscated version of DCRat, capable of process hollowing, keylogging, persistent remote access and to drop secondary payloads.”

According to the research, “The attackers utilize booking.com, a theme that has been abused in the past and remains a persistent threat. The phishing emails notably feature room charge details in Euros, suggesting the campaign is actively targeting European organisations. The use of Russian language within the ‘v.project’ MS build file links this activity to Russian threat factors using DCRat.” 

Below, security leaders discuss this new malware campaign. 

Security Leaders Weigh In 

Christopher Jess, Senior R&D Manager at Black Duck:

This PHALT#BLYX activity is a good example of where attackers don’t require a vulnerability for exploitation. By combining a fake booking.com cancellation lure with a bogus CAPTCHA and a panic-inducing BSOD, the campaign uses the click-fix pattern to coax a user into running PowerShell themselves, then leans on built in tools by abusing trusted Windows tooling like MSBuild.exe to compile and run the next stage. That blend of social engineering plus utilizing legitimate binaries is specifically designed to slip past conventional controls that are tuned for clearly malicious executables. 

Organizations should assume this technique will spread. Click-fix has already shown broad adoption across threat actors, lures, and geographies because it’s low cost to retheme and it relies on user execution rather than a single vulnerable product. What looks like a hospitality (booking.com) problem today can become shipping, HR or finance tomorrow with the same playbook.

So, how do we fight back? Security teams need to break the attack chain where they have the most control: people, privileges, and permitted tools. Train everyone not to run commands just because a web page or verification screen says so. Remind everyone to only check reservations or refunds through the real booking portal or by calling a trusted number. Lock things down further by only allowing developer tools (like MSBuild) on systems that need them, cut back on local admin rights, ensure strong logging, and use tooling to block risky scripts and suspicious process chains (like a browser suddenly launching PowerShell and then MSBuild).

Finally, treat RAT deployment as an incident with follow-on risk. These tools usually mean someone’s poking around, stealing credentials, or setting up more attacks. Be ready to look for signs like unexpected Defender settings, persistence via Startup folder entries, anomalous MSBuild activity, or unexpected outbound traffic. Move fast to quarantine infected machines and reset credentials. 

Note that the campaign targeted European hospitality in late December 2025, timing and sector selection that reinforce how attackers know when to strike for maximum impact.

Kern Smith, Senior Vice President of Global Solutions Engineering at Zimperium:

Campaigns such as this highlight how attackers increasingly rely on social engineering and trusted brand impersonation to bypass traditional controls and these tactics don’t stop at desktops. We routinely see the same lures adapted for mobile delivery, where phishing links, fake CAPTCHAs, and malicious redirects are even harder for users to detect. As attackers refine these deception-based techniques, organizations should assume global spread is inevitable and focus on protecting the device itself. Security teams need continuous, on-device threat detection that can identify malicious links, command execution attempts, and post-click behavior in real time, especially on mobile endpoints that sit outside the visibility of legacy email and network defenses.

Attackers are using techniques like click-fix
and fake system errors because they exploit human behavior and the gaps created as work increasingly happens on mobile devices. A mobile-first attack strategy allows threat actors to bypass traditional perimeter, email, and network defenses by pushing users to interact directly with malicious content on their phones, where visibility and enforcement are often weaker. By combining trusted brand lures, browser-based deception, and post-click execution, attackers can scale these campaigns globally with a higher success rate and lower risk of detection.

Lionel Litty, Chief Information Security Officer and Chief Security Architect at Menlo Security:

Displaying a fullscreen BSOD is a key part of tricking the user here. Perhaps surprisingly, a website can enter fullscreen mode without requiring a browser permission prompt. The only prerequisite is a user action that demonstrates the user is interacting with the page. In this attack, this is achieved by having the user click “Reload” on the first fake error page. This serves as a stark reminder of the security risks that come with browsers exposing powerful APIs to untrusted web pages.

https://www.securitymagazine.com/articles/102067-attack-campaign-targeting-hospitality-sector




Due estensioni Chrome hanno compromesso le chat di ChatGPT e DeepSeek


I ricercatori di OX Security hanno individuato due estensioni Chrome in grado di OX Security ha individuato due estensioni Chrome in grado di esfiltrare dati dalle chat di ChatGPT e DeepSeek.

Le due estensioni (Chat GPT for Chrome with GPT-5, Claude Sonnet & DeepSeek AI e AI Sidebar with Deepseek, ChatGPT, Claude and more) contano complessivamente oltre 900.000 download. La prima aveva anche ottenuto il badge “Featured” da Chrome, dettaglio che ha portato migliaia di utenti a scaricarla senza porsi troppi dubbi.

estensioni Chrome chat

Gli attaccanti hanno pubblicato le estensioni dietro il nome “AITOPIA”, una compagnia fittizia. L’azienda possiede anche un sito web piuttosto curato, con descrizioni dettagliate dei prodotti che offre agli utenti. Nel dettaglio, le estensioni incriminate aggiungono una sidebar in ogni sito web per consentire all’utente di chattare con l’IA in qualsiasi momento.

Una volta installate, le due estensioni richiedono il permesso di “leggere e modificare tutti i dati sui siti web visitati” per monitorare in tempo reale l’URL della scheda attiva. Se l’URL contiene parole chiave come “chatgpt” o “deepseek”, l’estensione entra in modalità “furto”. A questo punto il codice malevolo si occupa di intercettare il traffico di rete e analizzare il DOM per ottenere tutto ciò che è visibile in pagina, sia i prompt che le risposte fornite dall’IA. Le estensioni Chrome raccolgono i dati dalle chat e li inviano al server C2 ogni 30 minuti, codificandoli in Base64.

L’impatto potenziale è significativo: oltre a dati personali condivisi, nel caso di utenti aziendali potrebbero essere stati sottratti strategie di business, segreti aziendali, codice proprietario e comunicazioni interne alle organizzazioni, esponendo le aziende alla minaccia dello spionaggio industriale. Oltre al contenuto delle chat, le estensioni sono in grado di raccogliere i token di sessione presenti negli URL, ID degli utenti e altri dati di autenticazione.

Gli utenti che hanno installato una o entrambe delle estensioni malevole devono disinstallarle immediatamente. È fondamentale fare attenzione alle estensioni che si installano e verificare il proprietario del plug-in, anche quando è presente il badge “Featured”.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2026/01/07/due-estensioni-chrome-hanno-compromesso-le-chat-di-chatgpt-e-deepseek/?utm_source=rss&utm_medium=rss&utm_campaign=due-estensioni-chrome-hanno-compromesso-le-chat-di-chatgpt-e-deepseek




Genesis Mission: l’America si prepara a dominare il mondo e il futuro del potere globale

La Genesis Mission è l’iniziativa più ambiziosa lanciata dagli Stati Uniti dalla Guerra Fredda, segnando una mobilitazione scientifica senza precedenti. L’obiettivo dichiarato è l’utilizzo dell’Intelligenza Artificiale (AI) come motore diretto per la scoperta scientifica, la potenza industriale e la sicurezza nazionale, ridefinendo in modo permanente gli equilibri di potere globali. L’amministrazione americana non ha esitato a paragonarla al Progetto Manhattan, l’impresa che ottant’anni fa inaugurò l’era nucleare.

Lo Stato come architetto dell’innovazione

Un aspetto cruciale e spesso trascurato dell’innovazione statunitense è il ruolo fondamentale degli investimenti governativi. Internet, il programma spaziale, l’energia nucleare e gran parte della ricerca avanzata sono nati da impegni statali, non da sole dinamiche di mercato. La Genesis Mission si inserisce in questa tradizione di Stato innovatore.

L’obiettivo strategico è riscrivere il metodo scientifico in un’ottica di produttività esponenziale, sfruttando l’AI per superare la stagnazione. Nonostante budget in crescita, l’ultimo trentennio ha visto un rallentamento nei ritorni della scienza occidentale. Il settore farmaceutico ne è l’esempio più lampante: oltre dieci anni e più di un miliardo di dollari per un farmaco con una probabilità di successo inferiore al 10%. Washington non imputa il problema alla carenza di dati, ma alla loro frammentazione sistemica e all’incapacità di sfruttarli in modo integrato.

Ambiti strategici: obiettivo raddoppio

La Genesis Mission si concentra sui settori più critici per il futuro tecnologico e il vantaggio industriale:

  • Fusione Nucleare: L’AI sarà impiegata per progettare, modellare e stabilizzare reattori considerati oggi quasi ingovernabili, accelerando la transizione energetica.
  • Scoperta di Nuovi Farmaci: Riduzione drastica dei tempi di sviluppo, potenzialmente da anni a poche settimane, grazie all’AI che predice interazioni molecolari e ottimizza le sperimentazioni.
  • Materiali Critici: Ricerca e sintesi guidata dall’AI per sviluppare nuovi materiali e ridurre la dipendenza strategica dalla Cina.
  • Calcolo Quantistico: L’AI come strumento per testare e ottimizzare algoritmi quantistici complessi, un prerequisito per l’era post-digitale.
  • Fisica Fondamentale: Approfondimento dello studio su materia ed energia oscura, spingendo i confini della conoscenza universale.

L’ambizione quantificata è raddoppiare la produttività scientifica americana in dieci anni, raggiungendo il doppio dei risultati con le stesse risorse, o gli stessi risultati in metà tempo.

Dalla sicurezza fisica alla sicurezza cognitiva

La Genesis Mission eleva la cybersecurity da semplice strumento di protezione a un elemento abilitante e di potere strategico. Come il Progetto Manhattan convertì la fisica in supremazia militare, Genesis trasforma dati, algoritmi e infrastrutture digitali in nuovi strumenti di influenza e controllo globale.

Sicurezza cognitiva e American Science and Security Platform (ASSP)

La tradizionale sicurezza nazionale si focalizzava sulla protezione di confini fisici, capacità militari e infrastrutture energetiche. Genesis Mission introduce una dimensione completamente nuova: la sicurezza cognitiva e computazionale.

Il principio americano è chiaro: chi controlla i sistemi che generano conoscenza scientifica, controlla la futura capacità industriale, militare e tecnologica. L’AI non è più solo innovazione, ma un asset strategico da proteggere con ogni mezzo.

Il cuore operativo di questa rivoluzione è la American Science and Security Platform (ASSP), un’infrastruttura di altissimo livello che integra:

  • Supercomputer federali.
  • Sistemi di calcolo quantistico.
  • Dataset scientifici classificati.
  • Laboratori robotici autonomi (AI-driven labs).
  • Modelli di AI capaci di progettare autonomamente esperimenti e materiali.

Dal punto di vista della sicurezza informatica, l’ASSP è il più grande e critico super-target digitale mai concepito.

Nuove superfici d’attacco e cyber deterrence scientifica

La convergenza di AI, HPC (High-Performance Computing), quantum e automazione introduce vulnerabilità sofisticate che costituiscono le nuove superfici d’attacco:

  • Data Poisoning Scientifico: Alterazione deliberata dei dataset di addestramento per indurre l’AI a produrre risultati scientifici errati o fuorvianti.
  • Model Inversion ed Extraction: Tecniche per ricostruire modelli di AI sensibili e proprietari dalle loro interazioni o per estrarre dati di addestramento classificati.
  • Sabotaggio Cognitivo: Manipolazione dei risultati scientifici a livello algoritmico per rallentare, deviare o compromettere interi filoni di ricerca strategica (es. su un progetto energetico o la scoperta di un farmaco).
  • Attacchi alla Supply Chain: Vulnerabilità su hardware HPC, firmware e acceleratori AI.

Un attacco su questo sistema non genera solo un downtime, ma può compromettere la validità epistemica di una scoperta scientifica o di una simulazione nucleare.

La Genesis Mission introduce quindi la nozione di cyber deterrence scientifica. Nel dominio cognitivo, la deterrenza si fonda su:

  1. Resilienza dei modelli AI alle manipolazioni.
  2. Integrità totale dei dati scientifici.
  3. Rilevamento di manipolazioni algoritmiche sottili.
  4. Isolamento e controllo rigoroso degli ambienti di calcolo critici.

La sicurezza diventa la garanzia epistemica dei risultati, una condizione necessaria per ogni avanzamento scientifico e, per estensione, per la supremazia strategica.

L’Europa e la sfida della sovranità cognitiva

La rivoluzione tecnologica americana non sarà automaticamente estesa a tutti i partner occidentali, e l’Unione Europea si trova in una posizione di crescente vulnerabilità. L’UE non soffre solo di un gap tecnologico, ma di una dipendenza strutturale in termini di sicurezza digitale che la espone e la marginalizza rispetto alla mobilitazione scientifica americana.

Le tre vulnerabilità europee chiave

  1. Dipendenza infrastrutturale: gran parte delle infrastrutture critiche europee – cloud, modelli AI fondamentali (foundation models), HPC – dipende da tecnologie e servizi americani.
  2. Frammentazione della difesa cyber: la sicurezza è dispersa tra le diverse agenzie nazionali, con standard e priorità non allineate. Manca un vero e proprio ”Cyber Command europeo” comparabile agli assetti centralizzati USA.
  3. Regolazione senza sovranità: strumenti come il GDPR e l’AI Act sono essenziali per proteggere i cittadini, ma regolano tecnologie che l’UE non controlla né produce in autonomia, rischiando di aumentare la dipendenza anziché la sicurezza.

La Genesis Mission accentua questo divario, chi controlla l’AI scientifica e la sua sicurezza, consolida inevitabilmente un vantaggio strategico decisivo.

Il riorientamento strategico americano

Il progressivo disimpegno americano da scenari di conflitto convenzionale (come la guerra in Ucraina) può essere letto in chiave strategica. Le guerre fisiche generano vulnerabilità digitali difficili da proteggere e assorbono risorse politiche e industriali. La Genesis Mission, al contrario, permette agli USA di:

  • Spostare il confronto su infrastrutture altamente protette e a controllo centralizzato (l’ASSP).
  • Ridurre la dipendenza dai complessi e costosi teatri fisici di guerra.
  • Concentrare la difesa su pochi nodi critici ad altissimo valore intellettuale.

La cybersecurity diventa il mezzo per convertire la potenza militare tradizionale in una nuova forma di potenza cognitiva e tecnologica.

La Conoscenza come campo di battaglia

La Genesis Mission non è un mero progetto di ricerca, è una mega-architettura di potere cognitivo. Essa centralizza dati e modelli, riduce le superfici di attacco disperse e permette un controllo profondo della conoscenza prodotta. L’AI funge da strumento di difesa preventiva, trasformando il concetto stesso di attacco e difesa: l’obiettivo non è più la distruzione di infrastrutture fisiche, ma il controllo dei sistemi che generano innovazione.

Nel XXI secolo, la linea del fronte è tracciata non più dalle trincee o dai confini geografici, ma da:

  • Data center e Supercomputer.
  • Modelli di AI e Algoritmi.
  • Pipeline di addestramento dei modelli.
  • Supply chain digitali critiche.

Genesis Mission è il tentativo americano di dominare questo nuovo campo di battaglia, proteggendo la sua stessa capacità di produrre conoscenza. Per l’Europa, la sfida è duplice: non solo colmare il gap tecnologico, ma decidere se accettare di essere un mero utilizzatore regolato di tecnologie altrui, o se diventare un soggetto autonomo nella sicurezza cognitiva globale.

In questo nuovo mondo, la cybersecurity non è un accessorio, ma il mezzo supremo per controllare e garantire la conoscenza. Chi perde il dominio su questo fronte, rischia di perdere il dominio su tutti gli altri.

Fonti:
Profilo Autore

Progettista di sistemi esperti, software developer, network e system engineer, con oltre 30 anni di esperienza nell’ambito della sicurezza delle informazioni, Francesco Arruzzoli è il Resp. del Centro Studi Cyber Defense Cerbeyra, dove svolge attività di R&D, analisi delle cyber minacce e progettazione di nuove soluzioni per la cyber security di aziende ed enti governativi. Esperto di Cyber Threat Intelligence e contromisure digitali, autore di libri ed articoli sue riviste del settore, in passato ha lavorato per multinazionali, aziende della sanità italiana, collaborato con enti governativi e militari. In qualità di esperto cyber ha svolto inoltre attività di docenza presso alcune università italiane.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/genesis-mission-america-usa/




Hacker Conversations: Katie Paxton-Fear Talks Autism, Morality and Hacking

From dismantling online games as a child to uncovering real-world vulnerabilities, Katie Paxton-Fear explains how autism, curiosity, and a rejection of ambiguity shaped her path into ethical hacking.

The post Hacker Conversations: Katie Paxton-Fear Talks Autism, Morality and Hacking appeared first on SecurityWeek.

https://www.securityweek.com/hacker-conversations-katie-paxton-fear-talks-autism-morality-and-hacking/




Cyber Risk Trends for 2026: Building Resilience, Not Just Defenses

We can’t outpace the adversary by trying to stop every attack, but we can outlast them by engineering systems and culture to take a punch and try to quickly rebound.

The post Cyber Risk Trends for 2026: Building Resilience, Not Just Defenses appeared first on SecurityWeek.

https://www.securityweek.com/cyber-risk-trends-for-2026-building-resilience-not-just-defenses/




Researchers Trap Scattered Lapsus$ Hunters in Honeypot

Using fake accounts and synthetic data to lure the hackers, the researchers gathered information on their servers.

The post Researchers Trap Scattered Lapsus$ Hunters in Honeypot appeared first on SecurityWeek.

https://www.securityweek.com/researchers-trap-scattered-lapsus-hunters-in-honeypot/




Critical Dolby Vulnerability Patched in Android

The flaw is tracked as CVE-2025-54957 and its existence came to light in October 2025 after it was discovered by Google researchers.

The post Critical Dolby Vulnerability Patched in Android appeared first on SecurityWeek.

https://www.securityweek.com/critical-dolby-vulnerability-patched-in-android/




Sophisticated ClickFix Campaign Targeting Hospitality Sector

Fake Booking reservation cancellations and fake BSODs trick victims into executing malicious code leading to RAT infections.

The post Sophisticated ClickFix Campaign Targeting Hospitality Sector appeared first on SecurityWeek.

https://www.securityweek.com/sophisticated-clickfix-campaign-targeting-hospitality-sector/




Dozens of Major Data Breaches Linked to Single Threat Actor

The initial access broker (IAB) relies on credentials exfiltrated using information stealers to hack organizations.

The post Dozens of Major Data Breaches Linked to Single Threat Actor appeared first on SecurityWeek.

https://www.securityweek.com/dozens-of-major-data-breaches-linked-to-single-threat-actor/