A new report from LayerX Labs identifies a new phishing campaign targeting Mac users. This sophisticated phishing campaign initially focused on Windows users, impersonating Microsoft security alerts to steal credentials. However, after Microsoft, Firefox, and Chrome rolled out new security measures, the campaign has shifted to Mac users as the primary target. 

Below, security leaders discuss the campaign and offer insights for mitigating associated risks. 

Security leaders weigh in 

Thomas Richards, Principal Consultant, Network and Red Team Practice Director at Black Duck:

In the past few weeks, we’ve seen an uptick in browser-based phishing attacks that use legitimate hosting services to trick users into falling for the attack. The ruse they use is a fairly old one and quite common. 

If you ever get an unknown random pop up saying your computer is compromised, it should be treated as suspicious and ignored. Anti-virus services will never ask you to enter a username and password to remove a threat.

Stephen Kowski, Field CTO at SlashNext Email Security+:

The threat landscape will continue to intensify significantly with faster, more sophisticated attacks leveraging both new and reinvented techniques. Attackers will continue exploiting trusted platforms and using GenAI to create more convincing phishing campaigns at unprecedented scale. The combination of speed, creativity and automation will make these threats particularly challenging.

The surge in browser-based phishing attacks highlights the critical need for advanced, AI-driven security solutions that can detect and block sophisticated threats in real-time. Organizations are making risky trade-offs by relying on basic security tools and default email protection instead of investing in comprehensive security solutions. Many companies mistakenly believe their existing email security is sufficient until they experience a significant breach. 

Security partners have an immense opportunity to deliver innovative solutions that address modern phishing tactics, however, they must evolve beyond traditional approaches. A multi-layered approach with real-time link analysis and AI-powered detection is essential in today’s threat environment. By adopting a proactive approach to browser security, organizations can significantly reduce their vulnerability to these evolving phishing tactics and better safeguard their sensitive data.

Darren Guccione, CEO and Co-Founder at Keeper Security:

Phishing attacks are evolving, and despite the fact that Macs are traditionally less susceptible to viruses, Mac users are no exception to many modern threats. Cybercriminals are opportunistic; when one attack vector gets blocked, they pivot to the next. This campaign demonstrates how quickly attackers adapt, leveraging trusted infrastructure and sophisticated deception to bypass traditional security measures.

Individual users and businesses cannot rely on built-in protections alone. Users should be equipped with tools that prevent credential theft, such as password managers and multi-factor authentication (MFA), but just as importantly, they need continuous security awareness training and education. Attackers are refining their tactics, using high-quality designs and domain reputation tricks to appear legitimate. The best defense is knowing how to spot and respond to phishing attempts, which includes keeping an eye out for urgent language, avoiding clicking on suspicious links and pop-ups, and visiting trusted websites directly.

Organizations must take a proactive stance, keeping systems updated, enabling strong authentication methods and promoting a culture of cybersecurity vigilance. In the event of a breach, Privileged Access Management (PAM) helps secure high-value accounts by enforcing strong access controls, automated credential rotation and encryption. Combined with MFA and strong password policies, these layered defenses can limit an attacker’s reach even if credentials are compromised. Phishing will continue to evolve, but with the right measures in place, businesses can stay ahead of the threat.

https://www.securitymagazine.com/articles/101494-security-leaders-discuss-new-phishing-campaign-targeting-mac-users

Mar 25, 2025 Marina Londei In evidenza, News, Prodotto, RSS, Tecnologia 0

---

Un anno dopo il rilascio di Security Copilot, soluzione di sicurezza basata sull’intelligenza artificiale, Microsoft ha annunciato l’arrivo di nuovi agenti di IA studiati per specifiche aree di azione critiche, come il phishing, la sicurezza dei dati e la gestione dell’identità.

“Il ritmo incessante e la complessità degli attacchi informatici hanno superato le capacità umane e la creazione di agenti di IA è una necessità per la sicurezza moderna“ specifica la compagnia. I nuovi agenti, in tutto sei, aiuteranno i team di sicurezza a gestire grandi volumi di attività, riducendo le attività manuali e contribuendo a creare delle difese più omogenee e robuste.

Gli agenti di Security Copilot si occuperanno di:

• effettuare il triage degli alert di phishing per distinguere in modo più preciso gli allarmi reali dai falsi positivi (Phishing Triage Agent);
• ridurre il rischio di perdita dei dati analizzando i rischi interni, dando priorità agli incidenti critici e migliorando l’accuratezza degli alert basandosi sui feedback degli admin (Alert Triage Agent);
• monitorare nuovi utenti e applicazioni che non sono coperti dalle policy esistenti, identificare gli aggiornamenti di sicurezza e individuare fix per migliorare la gestione dell’identità (Conditional Access Optimization Agent);
• monitorare e dare priorità alle vulnerabilità e alle attività di remediation per risolvere problematiche di configurazione di policy e applicazioni (Vulnerability Remediation Agent);
• eseguire in autonomia operazioni di threat intelligence elaborate sulla base delle caratteristiche dell’organizzazione e dell’esposizione ai rischi (Threat Intelligence Briefing Agent).

Oltre ai sei agenti sviluppati da Microsoft, verranno rilasciati anche cinque ulteriori agenti creati dai partner della compagnia:

• Privacy Breach Response Agent – OneTrust analizzerà i data breach per fornire ai team di privacy linee guida per rispettare i requisiti delle regolamentazioni;
• Network Supervisor Agent – Aviatrix eseguirà l’analisi delle cause degli incidenti e fornirà un riassunto di tutte le problematiche legate a connessioni VPN, gateway o Site2Cloud;
• SecOps Tooling Agent – BlueVoyant valuterà lo stato dei SOC e dei controlli per formulare indicazioni su come ottimizzare le operazioni di sicurezza;
• Alert Triage Agent – Titanium fornirà agli analisti il contesto necessario per prendere decisioni a partire dagli alert;
• Task Optimizer Agent – Fletch aiuterà le aziende a prevedere gli alert di cybersecurity e organizzarli in priorità.

Gli agenti di IA per Security Copilot saranno disponibili in anteprima da aprile. 

Microsoft ha inoltre annunciato novità per Microsoft Purview: l’aggiornamento prevede feature di analisi basate su IA per aiutare i team di sicurezza a mitigare i rischi associati all’esposizione di dati sensibili. Le nuove feature sono previste per aprile.

Novità anche per Microsoft Defender che estenderà la gestione della sicurezza basata su IA e includerà Google VertexAI e tutti i modelli di IA presenti nel catalogo Azure AI Foundry. I nuovi modelli, compresi Gemini, Mistral e Llama, saranno disponibili da maggio.

Sempre a maggio, Microsoft Defender si arricchirà di nuove feature di detection basate su IA per proteggersi da rischi quali attacchi di prompt injection, esposizione di dati sensibili e furto di wallet.

Microsoft Entra includerà dei controlli basati su IA per individuare l’uso di strumenti di intelligenza artificiale non autorizzati, introducendo controlli più severi e granulari. Per ridurre invece il rischio di leak di dati sensibili, Microsoft Purview integrerà dei controlli per la prevenzione di perdita di dati dal browser.

Ad aprile sarà inoltre disponibile Microsoft Defender for Office 365 per proteggere più efficacemente gli utenti contro il phishing e altre minacce su Teams.

---

---

---

https://www.securityinfo.it/2025/03/25/microsoft-annuncia-nuovi-agenti-per-security-copilot/?utm_source=rss&utm_medium=rss&utm_campaign=microsoft-annuncia-nuovi-agenti-per-security-copilot

https://www.securitymagazine.com/blogs/14-security-blog/post/101493-5-aviation-principles-that-elevate-technical-support-leadership

Questo articolo è parte di una serie dedicata all’approfondimento legato all’IA Generativa, un campo in rapida evoluzione che sta ridefinendo i confini dell’innovazione tecnologica e della creatività computazionale.

L’intelligenza artificiale generativa sta permeando sempre più aspetti della nostra vita, plasmando il modo in cui interagiamo con il mondo e prendiamo decisioni. Dagli assistenti virtuali ai sistemi di supporto, dai veicoli a guida autonoma alle diagnosi mediche assistite, l’IA sta rivoluzionando interi settori e promettendo un futuro ricco di innovazione.

Tuttavia, questa diffusa adozione è accompagnata da una crescente preoccupazione connessa alla mancanza di trasparenza nel processo decisionale di molti sistemi di AI. Spesso definiti “scatole nere”, questi sistemi producono risultati accurati, ma il percorso logico che li genera rimane oscuro e inaccessibile alla comprensione umana. Questa opacità solleva interrogativi cruciali sulla fiducia, la responsabilità e l’etica nell’utilizzo dell’AI.

In questo contesto, emerge l’importanza di modelli di Intelligenza Artificiale spiegabili e ibridi, un campo di ricerca in rapida evoluzione che mira a rendere i sistemi di AI più trasparenti e comprensibili. L’Explainable AI si propone di fornire spiegazioni chiare e interpretabili sul funzionamento interno di un modello di AI, consentendo agli utenti di comprendere come e perché un determinato risultato è stato raggiunto, mentre l’Hybrid AI prende il meglio dei diversi modelli di AI e li mette a fattore comune.

Opacità dell’IA: le sfide della Trasparenza Algoritmica

L’intelligenza artificiale che abbiamo conosciuto finora soffre di un grosso problema, l’opacità. Cosa significa opacità dell’AI? In ambito scientifico, l’opacità dell’AI si riferisce all’incapacità di comprendere il processo decisionale interno di un sistema di intelligenza artificiale, specialmente quelli basati su algoritmi complessi come il deep learning.

Ciò può comportare le seguenti conseguenze:

• Mancanza di fiducia: l’opacità può minare la fiducia dei progettisti e degli utilizzatori nell’accettazione dei risultati prodotti dall’AI, soprattutto in ambiti critici come la medicina, la fisica, la chimica, l’economia, dove la comprensione del processo decisionale è fondamentale per validare le scoperte,
• Difficoltà di interpretazione: l’opacità rende difficile l’interpretazione dei risultati e le previsioni generate dall’AI, limitando la capacità dei ricercatori ad estrarre dai dati nuove conoscenze e intuizioni;
• Rischio di bias e discriminazione: i modelli di AI opachi possono perpetuare bias presenti nei dati di training, portando a risultati discriminatori o ingiusti;
• Problemi di debugging e miglioramento: l’opacità rende difficile identificare e correggere errori o bias nei modelli di AI, ostacolando il loro miglioramento e l’affidabilità;
• Ostacolo alla riproducibilità: la mancanza di trasparenza nel processo decisionale dell’AI può rendere faticosa la riproduzione dei risultati e la validazione delle scoperte scientifiche.

L’opacità rappresenta una sfida importante anche per il metodo scientifico, che notoriamente si basa sulla trasparenza, la riproducibilità e la comprensione dei fenomeni. L’utilizzo di modelli opachi può compromettere la validità delle scoperte scientifiche e la fiducia nella ricerca. Per affrontare questa criticità, la ricerca si è concentrate su queste tematiche:

• Sviluppo di modelli di AI più interpretabili: sono state sviluppate tecniche di modellazione, come l’Hybrid AI e l’Explainable AI, che mirano a creare sistemi più trasparenti e comprensibili;
• Analisi e visualizzazione dei dati: sono stati progettati strumenti per visualizzare e analizzare in dettaglio il comportamento dei modelli di AI, aiutando i ricercatori a comprendere il processo decisionale (debugging);
• Validazione e verifica dei modelli di AI: sono statti introdotti metodi per valutare l’accuratezza, l’affidabilità e l’equità dei modelli di AI, garantendo la validità dei risultati scientifici raggiunti.

In sintesi, l’opacità dell’AI rappresenta una sfida significativa per la ricerca. Superare questa opacità è fondamentale per garantire la fiducia, la trasparenza e la validità delle scoperte scientifiche nell’era dell’AI.

Explainable AI: aprire la Scatola Nera dell’Intelligenza Artificiale

L’intelligenza artificiale generativa (AI generativa) sta rapidamente trasformando il modo in cui creiamo e interagiamo con i contenuti digitali. Dai modelli linguistici di grandi dimensioni che generano testo realistico alle reti generative avversarie (GAN) che creano immagini e video sorprendenti, l’AI generativa sta aprendo nuove frontiere in diversi campi, dall’arte e l’intrattenimento alla scienza e alla medicina.

Tuttavia, il potere dell’AI generativa è accompagnato da una crescente preoccupazione per la sua “scatola nera”. I modelli generativi spesso operano in modo opaco, rendendo difficile comprendere come arrivino a generare determinati output. Questa mancanza di trasparenza solleva diverse questioni cruciali:

• Fiducia: come possiamo fidarci dei risultati generati da un sistema di AI che non comprendiamo appieno?
• Responsabilità: chi è responsabile per gli output generati dall’AI, soprattutto se sono dannosi o imprecisi?
• Controllo: come possiamo controllare e guidare il processo creativo dell’AI generativa se non sappiamo come funziona?
• Bias: come possiamo identificare e mitigare i bias presenti nei modelli generativi se non siamo in grado di analizzarne il processo decisionale?

L’Explainable AI (XAI) si pone come un campo di ricerca cruciale nell’ambito dell’intelligenza artificiale, focalizzandosi sulla trasparenza e l’interpretabilità dei sistemi di AI. Mentre l’AI tradizionale mira principalmente a massimizzare le prestazioni predittive, l’XAI si concentra sulla comprensione del processo decisionale dei modelli, rendendoli accessibili e interpretabili dagli esseri umani.

Sebbene non esista una definizione univoca, l’XAI può essere concettualizzata come un insieme di principi, metodi e tecniche che mirano a:

• Spiegare le decisioni: XAI può fornire spiegazioni sui processi decisionali dei modelli generativi, aiutandoci a capire perché un modello ha generato un determinato output;
• Identificare i bias: XAI può aiutare a identificare i bias presenti nei dati di addestramento o nel modello stesso, consentendo di mitigare i loro effetti negativi;
• Controllare il processo creativo: XAI può fornire strumenti per controllare e guidare il processo creativo dell’AI generativa, consentendo agli utenti di influenzare gli output generati;
• Aumentare la fiducia: Comprendere il funzionamento dei modelli generativi aumenta la fiducia negli output generati, promuovendone l’adozione in diversi ambiti.

Pertanto, l’Explainable AI è in grado di colmare una serie di criticità:

• Superare l’opacità delle “black box”: molti modelli di AI, specialmente quelli basati sul deep learning, operano come “scatole nere”, rendendo difficile la comprensione del loro funzionamento interno. L’XAI mira ad “aprire” queste scatole nere, fornendo spiegazioni chiare e comprensibili sul processo decisionale;
• Aumentare la fiducia e l’accettazione: la trasparenza è fondamentale per costruire fiducia nei sistemi di AI e favorirne l’adozione in ambiti scientifici critici, dove la comprensione del processo decisionale è essenziale per validare le scoperte;
• Garantire la responsabilità etica: l’XAI consente di identificare e mitigare potenziali bias e discriminazioni nei modelli di AI, promuovendo un utilizzo responsabile ed etico nella ricerca;
• Facilitare il miglioramento e il debugging: comprendere il processo decisionale dei modelli di AI facilita il loro miglioramento, la correzione di errori e l’ottimizzazione delle prestazioni, elementi cruciali per la ricerca;
• Promuovere la scoperta scientifica: l’XAI può aiutare i ricercatori a estrarre nuove conoscenze e intuizioni dai dati, aprendo nuove prospettive di ricerca e accelerando il progresso scientifico.

Per raggiungere questi obiettivi, è necessario che l’XAI si avvalga di un set di tecniche tra cui:

• Modelli intrinsecamente interpretabili: è fondamentale sviluppare modelli per la progettazione più semplici e trasparenti, come gli alberi decisionali, i modelli lineari e le regole di associazione;
• Spiegazioni post-hoc: occorre effettuare l’analisi del comportamento di un modello di AI dopo il suo addestramento, utilizzando tecniche come:
  • Analisi di sensitività: in grado di valutare l’influenza di ciascuna variabile di input sul risultato finale;
  • Visualizzazione dei dati: occorre utilizzare grafici e mappe per visualizzare il processo decisionale;
  • LIME (Local Interpretable Model-Agnostic Explanations): è opportuno approssimare localmente il comportamento di un modello complesso con un modello più semplice;
  • SHAP (SHapley Additive exPlanations): è possibile spiegare l’output di un modello in termini di contributo di ciascuna variabile di input;
• Metodi di attenzione: è necessario identificare le parti più importanti dei dati di input che influenzano la decisione del modello, fornendo informazioni su quali aspetti dei dati sono stati considerati più rilevanti;
• Spiegazioni controfattuali: è utile fornire informazioni su come modificare gli input per ottenere un output desiderato, aiutando a comprendere il processo decisionale del modello e a identificare potenziali interventi.

Nonostante il campo di ricerca avente ad oggetto l’XAI stia progredendo significativamente, occorre affrontare ulteriori sfide:

• Definire il concetto di “spiegabilità”, ovvero stabilire i criteri oggettivi e condivisi per valutare la qualità e l’efficacia di una spiegazione, adattandoli ai diversi contesti scientifici;
• Estendere la spiegabilità per diversi utenti, ovvero adattare le spiegazioni alle esigenze e alle competenze di diversi tipi di utenti, dai ricercatori agli esperti di dominio;
• Ricercare nuove tecniche di XAI per continuare a sviluppare nuove tecniche per spiegare modelli di AI sempre più complessi, garantendo la loro applicabilità in diversi ambiti scientifici;
• Integrare l’XAI nel ciclo di vita dell’AI per incorporare l’XAI nella progettazione, lo sviluppo e l’implementazione dei sistemi di AI, promuovendo la trasparenza e la responsabilità fin dalle prime fasi della ricerca.

Ecco alcuni esempi di XAI per l’AI generativa:

• Visualizzazione delle attivazioni: la visualizzazione delle attivazioni dei neuroni in una rete neurale può aiutare a capire quali parti del modello sono responsabili per la generazione di specifici output;
• Analisi di sensibilità: l’analisi di come le variazioni negli input influenzano gli output generati può fornire informazioni sul funzionamento del modello,
• Generazione di spiegazioni testuali: lo sviluppo di modelli in grado di generare spiegazioni testuali per i loro output, rendendoli più comprensibili agli utenti.

XAI è un campo in rapida evoluzione con il potenziale per rivoluzionare il modo in cui interagiamo con l’AI generativa. Applicando XAI, possiamo rendere i modelli generativi più trasparenti, responsabili e affidabili, aprendo la strada a un utilizzo più etico e sicuro di questa potente tecnologia. L’integrazione di XAI nell’AI generativa non solo favorirà la fiducia e l’accettazione di questa tecnologia, ma stimolerà anche nuove forme di creatività e innovazione.

Hybrid AI: integrare Reti Neurali e Ragionamento Simbolico

L’intelligenza artificiale ibrida (Hybrid AI), che combina la potenza delle reti neurali con la capacità di ragionamento simbolico, si presenta come un potente catalizzatore per l’evoluzione dell’AI generativa. Questo connubio apre nuove frontiere per la creatività, l’intelligenza e l’affidabilità dei sistemi di AI, superando i limiti dei singoli approcci.

I modelli generativi, pur producendo risultati sorprendenti, spesso mancano di trasparenza nel processo decisionale (vd. paragrafo precedente). L’Hybrid AI, integrando il ragionamento simbolico, può fornire spiegazioni più chiare e comprensibili sul perché e come un modello generativo produce un determinato output. Questo aumenta la fiducia negli utenti e consente un controllo più preciso sul processo creativo.

L’Hybrid AI si basa su questi principi:

• Complementarietà delle tecniche: è notorio che vi siano diverse tecniche di modellazione che eccellono in compiti diversi. Ad esempio, l’apprendimento automatico eccelle nell’individuare pattern e fare previsioni basate su grandi quantità di dati, ma può essere opaco e difficile da interpretare. Il ragionamento simbolico, d’altra parte, offre trasparenza e capacità di ragionamento logico, ma può avere difficoltà a gestire l’incertezza e la complessità del mondo reale. L’Hybrid AI mira a sfruttare il meglio di entrambi i mondi, combinando la capacità di apprendimento automatico di estrarre informazioni dai dati con la capacità del ragionamento simbolico di elaborare conoscenze e regole;
• Sinergia e integrazione: l’Hybrid AI non si limita a un semplice giustapposizione di tecniche, ma mira a una loro integrazione profonda, in cui le diverse componenti interagiscono e si completano a vicenda, creando un sistema olistico con capacità superiori alla somma delle sue parti;
• Modellazione della cognizione umana: l’Hybrid AI si ispira spesso alla cognizione umana, che combina intuizione, ragionamento e apprendimento. Integrando diverse tecniche di AI, si cerca di emulare la flessibilità e l’adattabilità dell’intelligenza umana.

Esistono diverse modalità per combinare differenti tecniche di modellazione in un sistema ibrido, i principali metodi di approccio possono essere individuati nei seguenti:

• Integrazione dei modelli ad apprendimento automatico con sistemi basati sulle regole: l’apprendimento automatico può essere utilizzato per estrarre le regole dai dati, che poi vengono integrate in un sistema basato sul ragionamento simbolico, consentendo al sistema di apprendere da grandi quantità di dati e di utilizzare la conoscenza simbolica per ragionare e prendere decisioni;
• Combinazione delle reti neurali con algoritmi evolutivi: gli algoritmi evolutivi possono essere utilizzati per ottimizzare la struttura e i parametri delle reti neurali, migliorando la loro efficienza e la loro capacità di generalizzazione;
• Utilizzo di tecniche di fuzzy logic per gestire l’incertezza: la fuzzy logic consente di rappresentare e di effettuare ragionamenti su concetti vaghi e incerti, migliorando la capacità dei sistemi di AI nella gestione della complessità del mondo reale e di prendere decisioni in situazioni ambigue;
• Integrazione dei modelli di deep learning con i metodi di ragionamento basati sulla logica: combinare la potenza della rappresentazione del deep learning con la capacità di ragionamento e l’inferenza della logica, consentendo ai sistemi di AI di apprendere da grandi quantità di dati e di utilizzare la logica per ragionare e spiegare le proprie decisioni.

Tutto ciò può portare dei vantaggi significativi in termini di:

• Robustezza e affidabilità: i sistemi ibridi sono meno suscettibili a errori e bias rispetto ai sistemi basati su un singolo approccio, in quanto le diverse componenti possono compensare le debolezze reciproche;
• Flessibilità e adattabilità: i sistemi ibridi possono adattarsi più facilmente a nuovi contesti e compiti, grazie alla loro capacità di combinare diverse strategie di apprendimento e di ragionamento;
• Interpretabilità e trasparenza: l’Hybrid AI può favorire lo sviluppo di sistemi di AI più trasparenti e comprensibili, in quanto l’integrazione di tecniche come il ragionamento simbolico può rendere il processo decisionale più esplicito;
• Efficienza: l’Hybrid AI può ottimizzare l’utilizzo delle risorse e migliorare le prestazioni dei sistemi di AI, combinando le diverse tecniche in modo sinergico.

Nonostante il suo potenziale, l’Hybrid AI deve affrontare diverse sfide:

• Sviluppo di framework e strumenti specifici: sono necessari nuovi strumenti e framework per facilitare l’integrazione di diverse tecniche di AI in modo efficiente e scalabile;
• Gestione della complessità: i sistemi ibridi possono essere più complessi da progettare, implementare e gestire rispetto ai sistemi basati su un singolo approccio. Pertanto, sono necessarie nuove metodologie e tecniche per affrontare la complessità dei sistemi ibridi;
• Valutazione e benchmarking: è necessario sviluppare nuove metriche e metodi di valutazione per confrontare e valutare le prestazioni dei sistemi di AI ibrida in modo oggettivo e rigoroso.

L’Hybrid AI, combinando l’AI generativa con l’AI simbolica, offre diverse opportunità:

• Spiegabilità: l’AI simbolica, basata su regole e logica, introduce trasparenza nel processo generativo. Le regole possono essere utilizzate per spiegare le decisioni prese dal sistema e per giustificare gli output generati;
• Ragionamento e Generalizzazione: l’AI simbolica consente di integrare conoscenza pregressa e di ragionare su di essa, migliorando la capacità di generalizzazione dell’AI generativa e consentendole di affrontare situazioni nuove in modo più efficace;
• Controllo e Bias Mitigation: l’AI simbolica può essere utilizzata per definire vincoli e regole che guidano il processo generativo, limitando i bias e garantendo che gli output siano conformi a determinati criteri o standard etici.

Ecco alcune applicazioni Concrete dell’Hybrid AI per l’AI Generativa:

• Generazione di Contenuti Controllata: nell’ambito della scrittura creativa, l’Hybrid AI può garantire che il testo generato rispetti determinate regole grammaticali, stilistiche o di contenuto, aumentando la coerenza e la qualità del testo;
• Creazione di Arte e Musica: l’Hybrid AI può combinare la creatività dell’AI generativa con la struttura e l’armonia fornite dall’AI simbolica, consentendo la creazione di opere d’arte e musica più sofisticate e innovative;
• Design e Ingegneria: l’Hybrid AI può generare progetti che soddisfano specifici requisiti funzionali ed estetici, combinando l’esplorazione creativa con la validazione basata su regole e vincoli;
• Scoperta Scientifica: l’Hybrid AI può accelerare la scoperta di nuovi materiali, farmaci o soluzioni ingegneristiche, generando ipotesi e modelli che vengono poi validati e raffinati attraverso il ragionamento simbolico.

L’Hybrid AI promette di rivoluzionare l’AI generativa, aprendo nuove frontiere per la creatività, l’innovazione e la risoluzione di problemi complessi. La combinazione di intuizione e ragione, di apprendimento e logica, rappresenta un passo fondamentale verso lo sviluppo di un’AI più potente, versatile e affidabile.

Uno sguardo al futuro

Gli sviluppi dell’intelligenza artificiale sono stati così significativi in termini sia di dimensione, che di velocità, che non c’è stato sempre né il tempo, né l’opportunità, di comprendere pienamente la loro sicurezza e la loro effettiva rilevanza.

Di seguito sono esposite alcune branche dell’Intelligenza Artificiale, in evoluzione e in grado di rispondere alle nuove richieste sempre più incombenti, e il loro apporto al miglioramento dell’Intelligenza Artificiale Generativa.

Advanced Machine Learning

L’Intelligenza Artificiale Generativa (AI Generativa) sta vivendo una fase di rapida evoluzione alimentata anche dai progressi nell’Advanced Machine Learning (ML avanzato). Questo connubio apre nuove frontiere e opportunità, consentendo la creazione di modelli generativi sempre più sofisticati e capaci. In tal senso, l’apprendimento automatico (Machine Learning) ha già rivoluzionato il campo dell’intelligenza artificiale, consentendo ai computer di apprendere dai dati senza essere esplicitamente programmati. In tal senso, ha permesso di ottenere risultati straordinari in diversi ambiti, come il riconoscimento di immagini, l’elaborazione del linguaggio naturale e la previsione di serie temporali. Tuttavia, l’apprendimento automatico tradizionale presenta alcune limitazioni che ne ostacolano il pieno potenziale:

• Dipendenza dai dati etichettati: molti algoritmi di apprendimento automatico richiedono grandi quantità di dati etichettati, la cui acquisizione può essere costosa e laboriosa;
• Generalizzazione limitata: i modelli di apprendimento automatico possono avere difficoltà a generalizzare nuovi dati o contesti diversi da quelli su cui sono stati addestrati;
• Mancanza di interpretabilità: spesso è difficile comprendere il processo decisionale dei modelli di apprendimento automatico, il che può limitarne l’affidabilità e l’accettazione.

L’Apprendimento Automatico Avanzato (Advanced Machine Learning) si propone di superare queste limitazioni, esplorando nuove frontiere e aprendo nuove possibilità per la ricerca e l’innovazione tecnologica. In particolare, può affrontare alcune sfide che limitano l’AI generativa, come:

• Qualità e diversità: è possibile migliorare la qualità e la diversità dei contenuti generati, riducendo artefatti e ripetizioni;
• Controllo e personalizzazione: è in grado di aumentare il controllo sui contenuti generati, consentendo la personalizzazione in base alle esigenze degli utenti;
• Generalizzazione e creatività: può sviluppare modelli in grado di generalizzare a nuovi contesti e di esprimere maggiore creatività;
• Spiegabilità e affidabilità: può rendere i modelli generativi più trasparenti e affidabili, fornendo spiegazioni sul loro funzionamento.

Per superare queste limitazioni, l’apprendimento automatico avanzato esplora nuove frontiere:

• Apprendimento auto-supervisionato (SSL): questa tecnica consente ai modelli di apprendere da soli da grandi quantità di dati non strutturati, riducendo la dipendenza da dati etichettati. L’obiettivo è quello di estrarre automaticamente informazioni significative dai dati, scoprendo pattern e relazioni nascoste. SSL può migliorare l’efficienza dell’addestramento e la generalizzazione dei modelli generativi. Alcuni esempi di apprendimento auto-supervisionato includono:
  • Pre-addestramento di modelli linguistici: modelli come BERT e GPT-3 sono pre-addestrati su enormi quantità di testo, imparando a prevedere parole mancanti o a generare testo coerente;
  • Apprendimento di rappresentazioni visive: modelli come SimCLR e MoCo imparano a generare rappresentazioni visive significative da immagini non etichettate;
• Apprendimento federato: questa tecnica consente di addestrare modelli di AI su dati distribuiti su diversi dispositivi, preservando la privacy e la sicurezza dei dati. L’apprendimento federato è particolarmente utile in ambiti come la medicina e la finanza, dove i dati sono spesso sensibili e decentralizzati. Un esempio di applicazione è l’addestramento di modelli di diagnosi medica su dati provenienti da diversi ospedali, senza la necessità di condividere i dati dei pazienti (vd. Apposito paragrafo);
• Meta-apprendimento: questa tecnica si concentra sullo sviluppo di modelli di AI in grado di “apprendere come apprendere”, adattandosi rapidamente a nuovi compiti e contesti. L’obiettivo è quello di creare sistemi di AI più flessibili e versatili, in grado di generalizzare a nuovi problemi e di apprendere in modo continuo. Un esempio di meta-apprendimento è l’algoritmo MAML (Model-Agnostic Meta-Learning), che apprende un insieme di parametri iniziali che consentono al modello di adattarsi rapidamente a nuovi compiti. Il meta-apprendimento può rendere i modelli generativi più flessibili e versatili;
• Apprendimento per rinforzo (RL): questa tecnica consente ai modelli di apprendere interagendo con un ambiente e ricevendo feedback sotto forma di ricompense o penalità. L’apprendimento per rinforzo è particolarmente utile per lo sviluppo di agenti intelligenti, come robot autonomi e sistemi di controllo, In AI generativa, RL può essere utilizzato per ottimizzare la generazione di contenuti in base a obiettivi specifici,
• Apprendimento profondo spiegabile: questa area di ricerca si concentra sullo sviluppo di modelli di deep learning più interpretabili, consentendo di comprendere il processo decisionale e di aumentare la fiducia negli output del modello;
• Modelli probabilistici profond (Deep Probabilistic Models): questa tecnica combina le reti neurali con modelli probabilistici per rappresentare l’incertezza e generare contenuti con maggiore varietà e controllo;
• AI neuro-simbolica: questo metodo integra le reti neurali con sistemi di ragionamento simbolico per creare modelli generativi più spiegabili e capaci di ragionamento astratto.

Nonostante i significativi progressi effettuati, l’AML deve ancora affrontare diverse sfide:

• Scalabilità: è fondamentale sviluppare algoritmi in grado di gestire dataset sempre più grandi e complessi;
• Robustezza: è necessario creare modelli di AI resistenti a errori e perturbazioni nei dati;
• Etica e responsabilità: è essenziale garantire che l’apprendimento automatico avanzato sia utilizzato in modo responsabile ed etico, evitando bias e discriminazioni.

L’ML avanzato apre nuove opportunità per l’AI generativa in diversi ambiti:

• Creazione di contenuti realistici: generare immagini, video, audio e testo di alta qualità, indistinguibili da quelli reali;
• Scoperta scientifica: generare nuove molecole, materiali e prodotti con proprietà desiderate;
• Arte e creatività: assistere artisti e creativi nella generazione di nuove opere d’arte, musica e design;
• Personalizzazione dell’esperienza utente: creare esperienze personalizzate in base alle preferenze individuali degli utenti.

L’ML avanzato sta trasformando l’AI generativa, consentendo la creazione di modelli sempre più potenti e versatili. Questa sinergia apre nuove frontiere in diversi ambiti, ma richiede anche un approccio responsabile per garantire un uso etico e benefico di questa tecnologia.

Embodied AI: un corpo per l’IA Generativa

L’Intelligenza Artificiale Generativa (Generative AI) consente di generare testi, immagini e codice con sorprendente creatività. Tuttavia, questi modelli operano in un mondo astratto, privi di un corpo fisico che permetta loro di interagire direttamente con l’ambiente. È qui che entra in gioco l’Embodied AI, un campo di ricerca che esplora l’integrazione dell’AI in corpi robotici, aprendo nuove e affascinanti prospettive per l’AI generativa.

L’Intelligenza Artificiale Embodied (Embodied AI) rappresenta un cambio di paradigma nello studio dell’AI, spostando il focus dalla pura elaborazione di informazioni all’interazione fisica con il mondo. Invece di limitarsi ad elaborare informazioni in modo digitale, l’Embodied AI si concentra sull’integrazione dell’intelligenza in corpi fisici, come robot o agenti virtuali, che interagiscono con l’ambiente circostante[1].

Tradizionalmente, l’AI si è concentrata sullo sviluppo di algoritmi e modelli in grado di elaborare informazioni e risolvere problemi in modo astratto, senza una connessione diretta con il mondo fisico. L’Embodied AI, al contrario, enfatizza l’importanza dell’incarnazione dell’intelligenza in corpi fisici. Questo approccio si basa sull’idea che la cognizione sia strettamente legata all’esperienza fisica e all’interazione sensomotoria[2].

L’Embodied AI si fonda su una serie di teorie e principi:

• Cognizione incorporata: l’Embodied AI si basa sulla teoria della cognizione incorporata, che sostiene che la cognizione è strettamente legata all’esperienza fisica e all’interazione con l’ambiente. Secondo questa teoria, il corpo non è un semplice strumento dell’intelligenza, ma un elemento costitutivo della cognizione stessa;
• Interazione sensomotoria: l’Embodied AI enfatizza l’importanza dell’interazione sensomotoria, ovvero la capacità di percepire l’ambiente attraverso i sensori e di agire su di esso attraverso gli attuatori. Questa interazione dinamica con il mondo consente all’Embodied AI di apprendere dall’esperienza e di adattarsi a nuove situazioni;
• Apprendimento situato: l’Embodied AI si concentra sull’apprendimento situato, ovvero l’apprendimento che avviene in un contesto specifico e che è guidato dall’interazione con l’ambiente. Questo tipo di apprendimento consente all’AI Embodied di acquisire conoscenze e competenze rilevanti per il suo ambiente e i suoi obiettivi.

Vediamo quali possono essere le implicazioni dell’Embodied AI:

• Robotica cognitiva: la robotica cognitiva si concentra sullo sviluppo di robot autonomi in grado di interagire con l’ambiente, apprendere dall’esperienza e risolvere problemi in modo flessibile e adattabile[3];
• Agenti virtuali embodied: gli agenti virtuali embodied sono programmi che simulano il comportamento di agenti intelligenti in ambienti virtuali. Questi agenti possono essere utilizzati per studiare l’intelligenza artificiale, la cognizione umana e l’interazione sociale;
• Interfacce cervello-computer: le interfacce cervello-computer consentono di collegare il cervello umano a dispositivi esterni, come protesi robotiche o computer. Questa tecnologia può essere utilizzata per sviluppare nuove forme di Embodied AI che integrano l’intelligenza umana con quella artificiale.

I principali vantaggi connessi allo sviluppo dell’Embodied AI possono essere sintetizzati in:

• Comprensione della cognizione: l’Embodied AI può fornire nuove intuizioni sul funzionamento della cognizione umana, studiando come l’intelligenza emerge dall’interazione tra corpo, cervello e ambiente;
• Sviluppo di robot autonomi: l’Embodied AI può consentire lo sviluppo di robot autonomi più intelligenti e adattabili, in grado di operare in ambienti complessi e di collaborare con gli esseri umani;
• Nuove interfacce uomo-macchina: l’Embodied AI può portare allo sviluppo di nuove interfacce uomo-macchina più intuitive e naturali, che consentono una migliore interazione tra esseri umani e computer;
• Modellazione di sistemi complessi: l’Embodied AI può essere utilizzata per modellare e simulare sistemi complessi, come ecosistemi, società e organismi biologici, fornendo nuove prospettive di ricerca.

I modelli di Generative AI attuali, pur sofisticati, mancano di una comprensione profonda del mondo fisico. L’Embodied AI, invece, permette all’AI di “vivere” il mondo attraverso un corpo robotico, acquisendo informazioni sensoriali e interagendo con l’ambiente. Questa esperienza incarnata può arricchire l’AI generativa in diversi modi:

• Comprensione contestuale: l’interazione con l’ambiente fornisce un contesto cruciale per la generazione di contenuti. Un robot che “vede” una mela può generare descrizioni più accurate e creative rispetto a un modello che ha appreso solo da immagini;
• Apprendimento grounded: l’Embodied AI permette di “radicare” la conoscenza in esperienze concrete, creando rappresentazioni più robuste e significative;
• Creatività situata: la creatività non è un processo astratto, ma è influenzata dal contesto e dalle interazioni. Un robot che “vive” in un ambiente può sviluppare una creatività più ricca e sfaccettata.

L’Embodied AI può spingere l’AI generativa oltre la semplice produzione di contenuti digitali, consentendo la creazione di opere fisiche e l’interazione con il mondo reale:

• Arte robotica: Robot dotati di AI generativa potrebbero dipingere, scolpire o comporre musica, esprimendo la loro creatività in forme nuove;
• Design generativo: L’Embodied AI può guidare la progettazione e la fabbricazione di oggetti fisici, adattandoli alle esigenze dell’ambiente e degli utenti;
• Interazione uomo-robot: Robot con capacità generative potrebbero comunicare e collaborare con gli esseri umani in modi più naturali e intuitivi.

L’integrazione di Embodied AI e Generative AI presenta sfide importanti:

• Complessità: sviluppare robot con capacità sensoriali, motorie e cognitive avanzate è un compito complesso;
• Generalizzazione: i modelli generativi devono essere in grado di generalizzare a diversi ambienti e situazioni;
• Etica: è fondamentale garantire che l’Embodied AI sia sviluppata e utilizzata in modo responsabile ed etico.

Nonostante le sfide, l’Embodied AI offre un potenziale enorme per l’AI generativa. In futuro, potremmo vedere robot che non solo generano contenuti creativi, ma che interagiscono con il mondo in modi significativi, contribuendo a risolvere problemi e a migliorare la nostra vita.

In conclusione, l’Embodied AI rappresenta una nuova frontiera per l’AI generativa, offrendo la possibilità di creare sistemi di AI più intelligenti, creativi e integrati con il mondo fisico.

Generalized Artificial Intelligence

L’attuale generazione di modelli di AI generativa presenta delle limitazioni, tra cui la difficoltà nel comprendere il contesto, la mancanza di senso comune e la tendenza a generare output incoerenti o irrealistici. L’avvento dell’Intelligenza Artificiale Generale (AGI), ovvero un’AI con capacità cognitive simili a quelle umane, potrebbe rivoluzionare l’AI generativa, aprendo nuove frontiere di creatività e innovazione.

L’Intelligenza Artificiale Generalizzata (AGI), spesso definita anche come “IA forte” o “IA completa”, rappresenta un obiettivo ambizioso nel campo dell’intelligenza artificiale. A differenza dell’AI ristretta, che eccelle in compiti specifici, l’AGI mira a replicare l’intelligenza umana nella sua totalità, creando macchine in grado di apprendere, ragionare, risolvere problemi e interagire con il mondo in modo flessibile e adattabile, proprio come gli esseri umani[4] [5].

L’AGI si distingue dall’AI ristretta per alcune caratteristiche fondamentali:

• Generalità: la capacità di apprendere e svolgere un’ampia gamma di compiti, anziché essere limitata a un dominio specifico;
• Adattabilità: la possibilità di trasferire conoscenze e competenze da un dominio all’altro e di adattarsi a nuove situazioni e ambienti;
• Astrazione: l’opportunità di ragionare a livelli di astrazione elevati, di formare concetti e di generalizzare da esempi specifici;
• Coscienza e autoconsapevolezza: sebbene ancora oggetto di dibattito, alcuni ricercatori ritengono che l’AGI possa sviluppare una forma di coscienza e autoconsapevolezza, simile a quella umana.

Al contempo, lo sviluppo concreto di questa modellazione presuppone la risoluzione di una serie di criticità:

• Complessità del cervello umano: il cervello umano è un sistema incredibilmente complesso, con miliardi di neuroni interconnessi. Replicarne il funzionamento richiede una comprensione profonda dei meccanismi neurali e cognitivi;
• Mancanza di una teoria unificata dell’intelligenza: ancora non esiste una teoria completa e condivisa su cosa sia l’intelligenza e come funzioni;
• Rappresentazione della conoscenza: la rappresentazione della conoscenza del mondo, in modo che possa essere utilizzata da un sistema di AGI per ragionare e risolvere problemi;
• Apprendimento continuo: come sviluppare sistemi di AGI in grado di apprendere in modo continuo e autonomo, adattandosi a nuove informazioni e situazioni;
• Motivazione e obiettivi: come dotare i sistemi di AGI di motivazioni e obiettivi intrinseci, in modo che possano agire in modo autonomo e finalizzato.

Per affrontare queste sfide si utilizzano i seguenti approcci scientifici in parte esaminati:

• AI Simbolica: si basa sulla manipolazione di simboli e sulla logica formale per rappresentare la conoscenza e il ragionamento,
• Reti neurali artificiali: simulano il funzionamento del cervello umano attraverso reti di neuroni artificiali interconnessi,
• Approcci evolutivi: utilizzano algoritmi genetici per far evolvere sistemi di AI con capacità cognitive sempre più avanzate,
• AI Ibrida: combina diverse tecniche di AI per sfruttare i punti di forza di ciascun approccio,
• Cognizione incorporata: studia l’intelligenza artificiale in relazione all’interazione con un corpo fisico e un ambiente.

Ecco alcuni modi in cui l’AGI potrebbe potenziare l’AI generativa:

1. Comprensione del Contesto e del Senso Comune: l’AGI, con la sua capacità di comprendere il mondo in modo olistico e di applicare il senso comune, potrebbe consentire all’AI generativa di:

• Generare contenuti più coerenti e pertinenti al contesto: potrebbe aiutare l’AI generativa a interpretare le sfumature del linguaggio, a comprendere le relazioni tra i concetti e a generare output che siano logicamente validi e coerenti con il contesto,
• Creare contenuti più originali e creativi: potrebbe fornire all’AI generativa la capacità di combinare idee in modi nuovi e inaspettati, di esplorare diverse prospettive e di generare contenuti veramente innovativi,
• Adattare i contenuti a specifici pubblici e obiettivi: potrebbe consentire all’AI generativa di comprendere le esigenze e le preferenze degli utenti, generando contenuti personalizzati e mirati.

2. Apprendimento Continuo e Adattamento: l’AGI, con la sua capacità di apprendere continuamente e di adattarsi a nuove situazioni, potrebbe consentire all’AI generativa di:

• Migliorare le proprie capacità nel tempo: potrebbe aiutare l’AI generativa ad apprendere dai propri errori, a perfezionare le proprie tecniche e a generare contenuti sempre più sofisticati,
• Generalizzare a nuovi domini e compiti: potrebbe consentire all’AI generativa di applicare le proprie conoscenze e competenze a nuovi ambiti, generando contenuti in diverse forme e stili,
• Collaborare con gli esseri umani: potrebbe facilitare la collaborazione tra umani e AI generativa, consentendo agli utenti di guidare e influenzare il processo creativo.

3. Ragionamento e Problem Solving: L’AGI, con la sua capacità di ragionare, risolvere problemi e prendere decisioni, potrebbe consentire all’AI generativa di:

• Generare contenuti più complessi e articolati: potrebbe aiutare l’AI generativa a creare storie, articoli, programmi e altri contenuti che richiedono una struttura logica e una pianificazione complessa,
• Risolvere problemi creativi: potrebbe consentire all’AI generativa di superare blocchi creativi, esplorare soluzioni alternative e trovare nuove idee,
• Automatizzare compiti complessi: potrebbe consentire all’AI generativa di automatizzare la creazione di contenuti in diversi ambiti, liberando tempo e risorse per gli esseri umani.

L’AGI ha il potenziale per rivoluzionare l’AI generativa, trasformandola da uno strumento per la creazione di contenuti semplici a un partner creativo in grado di collaborare con gli esseri umani per raggiungere nuovi livelli di innovazione. L’integrazione dell’AGI nell’AI generativa potrebbe portare a una nuova era di creatività, in cui le macchine e gli esseri umani lavorano insieme per esplorare le infinite possibilità dell’immaginazione.

Lo sviluppo dell’AGI solleva importanti questioni etiche:

• Controllo e sicurezza: come garantire che i sistemi di AGI siano sicuri e controllati, evitando comportamenti dannosi o imprevisti,
• Impatto sociale: come gestire l’impatto dell’AGI sul lavoro, l’economia e la società nel suo complesso,
• Diritti e responsabilità: quali diritti e responsabilità dovrebbero essere attribuiti ai sistemi di AGI.

In tal senso, la ricerca sull’AGI richiede un approccio multidisciplinare, che integri conoscenze provenienti da diversi campi, come l’informatica, la neuroscienza, la psicologia e la filosofia. È fondamentale affrontare le sfide scientifiche ed etiche associate all’AGI per garantire che questa tecnologia sia sviluppata e utilizzata in modo responsabile e benefico per l’umanità[6].

L’articolo ha esplorato le frontiere dell’Intelligenza Artificiale Generativa, evidenziando l’importanza di Explainable AI e Hybrid AI nel renderla più trasparente, etica e affidabile. Nel prossimo articolo approfondiremo ulteriori argomenti come il tema dell’”agente intelligente” nell’ambito dell’AI generativa e parleremo anche di AI neuro simbolica e di ingegneria dell’AI. Per saperne di più è possibile scaricare il nostro white paper completo “Generative Artificial Intelligence: Punti di forza, rischi e contromisure”.

Note bibliografiche

[1] Pfeifer, R., & Bongard, J. (2006). How the body shapes the way we think: A new view of intelligence. MIT press.

[2][ Vernon, D., Metta, G., & Sandini, G. (2007). A survey of artificial cognitive systems: Implications for the autonomous development of mental capabilities in computational agents. IEEE Transactions on Evolutionary Computation, 11(2), 151-180.

[3] Ziemke, T. (2001). Are robots embodied?. In Embodied artificial intelligence (pp. 75-96). Springer, Berlin, Heidelberg.

[4] Goertzel, B. (2014). Artificial General Intelligence: Concept, State of the Art, and Future Prospects. Journal of Artificial General Intelligence, 5(1), 1-48.

[5] Marcus, G. (2018). Deep Learning: A Critical Appraisal. arXiv preprint arXiv:1801.00631.

[6] Russell, S. J., & Norvig, P. (2016). Artificial intelligence: a modern approach. Pearson Education Limited.

https://www.ictsecuritymagazine.com/articoli/nuovi-modelli-di-ia/

Although there has been a reduction in rooted and jailbroken devices, these devices are still a security concern for users and enterprises. According to data from Zimperium, rooted devices are more than 3.5 times as likely to be targeted with mobile malware. 

Rooting, the process of obtaining privileged access to an Android operating system, allows users to manipulate system files, install applications, and remove restrictions. The research found that root devices had an exposure factor varying from three times to 3000 times that of stock devices. Other key findings include: 

• Compromised apps increase by a factor of 12.
• Filesystem compromises increase by a factor of 3000. 
• System compromise events are 250 times greater.

Security leaders weigh in 

Adam Brown, Managing Consultant at Black Duck:

Past research of mobile devices for financial organizations found that one of the more frequent risks is the extraction of biometric information from the trusted execution environment on the device. For each assessment it is assumed the device could be and would be rooted and that a nefarious third-party app would be present. Typically, weaknesses were found in architecture and code implementations, however, over the years there have been improvements made by the major device producers in the architecture and software implementations of these devices and ultimately their resilience and security against such attacks.

While improved device resilience and security against malware is very positive, app producers and organizations that rely on mobile devices must understand the risk of the software architecture and code implementation on these devices and take action. Otherwise, the weaknesses introduced at that stage result in vulnerabilities and therefore breaches.

Some questions to ask of your organization to assess your own risk include: Do you run high risk transactions on mobile apps? Do you allow your users/customers to use that app on all devices? Do you know what weaknesses and therefore risks are present on those devices? How do you mitigate against them?

Jason Soroko, Senior Fellow at Sectigo:

One of the reasons some people like to root their Android device or jailbreak their iOS device is to have the ability to sideload applications. Sideloading bypasses the official app store’s rigorous vetting process, leaving devices exposed to malware, unauthorized code, and other security risks. 

With Apple now forced in Europe to allow sideloading, the safety net of curated applications is eroded, increasing the potential for compromised apps and systemic vulnerabilities that attackers can exploit to access sensitive data and undermine device integrity.

Spyware on iOS and Android often hinges on jailbreaking or rooting to breach core security measures. By circumventing built-in OS restrictions, attackers secure elevated privileges that allow them to install and conceal spyware. This malicious procedure typically starts with exploiting a device’s vulnerability or tricking users into compromising their own systems, ultimately enabling the spyware to operate undetected, monitor activities, and extract sensitive data.

J Stephen Kowski, Field CTO SlashNext Email Security+:

Mobile device security is a critical concern that’s often overlooked in corporate planning. When employees root or jailbreak their devices, they’re essentially removing crucial security guardrails that protect both personal and company data, creating significant attack vectors for threat actors. 

Rather than implementing an all-or-nothing approach to personal devices, companies should consider deploying advanced threat detection that can identify compromised devices, block phishing attempts, and prevent lateral movement within networks without disrupting employee workflows. The real solution requires both technical controls and financial planning, recognizing that secure mobile access is now as essential to knowledge workers as computers were decades ago, and budgeting accordingly for proper protection.

https://www.securitymagazine.com/articles/101492-rooted-mobile-devices-are-250-times-more-vulnerable

What are AI agents?

“Is it an Agent, or just a Program?” is a widely cited paper which has seen more than 5,000 citations, highlighting the complexity of this intuitive question. Stuart Russell and Peter Norvig, in their well-regarded AI textbook titled “Artificial Intelligence: A Modern Approach,” define an agent as “anything that can be viewed as perceiving its environment through sensors and acting upon that environment through actuators.” For example, a wall thermostat measures the environment temperature and turns on the heat when the temperature drops below a set value. Unlike programs, agents exhibit autonomy when interacting with their environment, using actions to achieve established goals. 

The terms agent, action and environment related to AI agents are also key to an important field of machine learning (ML) called reinforcement learning (RL). RL agents learn to optimize actions in an environment to achieve a goal. Challenged with a metric to optimize, RL agents evaluate their environment and often discover strategies that prove better than human approaches, sometimes sacrificing short-term rewards for long-term gains.

For example, RL together with deep learning has led to breakthroughs such as AlphaGo. AlphaGo defeated the human world champion in a game called Go, which has a substantially larger action space than chess. AlphaGo won by using techniques such as Monte Carlo Tree Search (MCTS) to explore sequences of actions and predict those most likely to win, without needing exhaustive search. 

Large language models (LLMs) also benefit from RL. For example, RL from human feedback (RLHF) helps align LLM outputs with human expectations. In addition, recent advances that use MCTS-like techniques can solve multiple solutions to math and coding problems with verifiable answers.

Stand-alone LLMs are generally considered as programs, even though they use agentic elements during training. Certain LLM architectures can be made deterministic by adjusting parameters, and the variability in outputs often results from artificial inputs or system factors such as batch processing on distributed systems. While LLMs lack true autonomy and learning, it can be argued they “learn” by being continuously retrained on new data and refined by user feedback. However, the point when LLMs can be connected to digital environments to track user behavior and adjust outputs to optimize metrics still seems a ways off, but not unreachable.

AI agents fixes for LLMs shortcomings

There are three inherent features of LLMs which result in shortcomings when used in stand-alone mode. However, AI agents can improve performance of these applications, particularly as they relate to security operations.

Sequential generation problems for LLMs

LLMs are limited by the way they generate responses. LLMs answer word-by-word (or token-by-token), with each word influenced by previous ones. If an LLM begins to hallucinate, it continues to build on this incorrect information until the end of its response. LLMs don’t truly “understand” their outputs, they simply predict the most probable next word. Contextual confusion is inevitable, particularly when words have different meanings in different fields. Unlike AI agents, LLMs cannot pause and correct themselves, so it’s important to restart or edit earlier parts of a conversation rather than continuing a faulty response.

AI agents on the other hand can work in pairs. While one generates an answer, the other validates its accuracy, regenerating content if hallucinations occur. The same LLM can be used under the hood to handle both roles, but from a human perspective it’s easier to model this as a pair of specialized agents. Optionally, different agents can use different LLMs to yield performance, latency and cost benefits. For example, a security summarizer AI agent could use a more simple and cost-effective architecture fine-tuned for the task.

LLM limited reasoning capabilities

Another problem with LLMs is they often go straight to a solution, often skipping steps. Users typically want concise answers, and the cost per token encourages brevity, but this approach can reduce the quality of the output.

Numerous studies show that asking LLMs to think step-by-step (chain of thought) significantly improves performance in answering logical questions. Some LLMs employ “scratch space” or memory tokens to track intermediate results or list pros and cons before giving a final input. But how much control one has over LLM outputs can be significantly affected by AI agentic flow. For example, an AI agent might prompt the generation-validation team to explore multiple perspectives, record intermediate steps, and assess progress. This approach is particularly valuable when LLMs struggle with problems that require iterative exploration, such as a security investigation, which does not have a well-defined path, since agents can interact with the environment using tools like a computer terminal or vision-language models and quickly test multiple strategies. This mirrors RL’s approach to optimizing actions.

Limited relevant knowledge and planning capabilities for LLMs

LLMs struggle to answer questions about data that was unavailable during their training. As a result, they often rely on retrieval-augmented generation (RAG), where they fetch external data and add it to the input question. AI agents, on the other hand, enhance RAG systems by validating and filtering relevant documents and providing multiple perspectives on the environment, including using graph-based approaches. AI agents are also more flexible than LLMs in constructing knowledge graphs from collections of unnormalized documents. AI Agents are advantageous in simplifying planning (which has proven challenging for LLMs) and breaking down complex tasks, leaving the smaller, more manageable subtasks to LLM agents.

AI agents in security operations 

Security operations, or SecOps, is an umbrella term for teams more popularly known as the SOC, NOC, AppSec, GRC, IAM operations, Threat Hunters, and a long tail of niche areas. These teams work 24/7 to keep their organizations secure by investigating and responding to security alerts, disrupting threat actors, patching vulnerabilities, conducting security training and reviews, assessing 3rd party risk, answering customers’ security questionnaires, etc. 

Traditional approaches to automation have had limited success in this area because security decisions need organizational context that is only in people’s heads and never written down, or is written in unstructured documents. In addition, the security landscape evolves rapidly, so decisions need to involve correlating and pattern matching across diverse data points in real time. Due to the limits of traditional automation, security operations has been heavily manual. But it is not easy to find trained SecOps personnel either, so organizations are caught between a rock and a hard place.

Enter AI agents. There are many SecOps tasks that AI agents are beginning to take on today. Some examples include triaging alerts like a SOC Analyst, behavior-based hunting for threat actors like a Threat Hunter, answering security questionnaires, and assessing vendor risk. As LLM generation costs decrease and speed improves, it will become feasible to have network environments where blue and red agent teams continuously hone their skills. Blue team AI agents could become ubiquitous and able to deliver cost-effective defense against increasingly complex red team attacks. Agentic flows will continue to enhance red teaming, particularly in areas such as jailbreaking, since regulations scrutinize offensive uses of LLMs. Security experts leveraging insights from blue team AI agents across multiple environments will be invaluable, especially as agentic tool risks diminish individual knowledge due to ease of use.

The potential of AI in security operations

GenAI has tremendous potential in automating laborious security operations. However, it takes expertise to get predictable results and contain the risks. The most promising path forward is AI agents built by security experts that use LLMs internally. Agents are not just an interesting technology, they are rapidly becoming a critical necessity in security operations because as the rate and complexity of attacks continues to rise rapidly and staffing remains limited, AI agents are the only way to close the gap. Security operations teams would be wise to evaluate and pilot AI agents in 2025. 

https://www.securitymagazine.com/articles/101482-the-future-of-security-operations-depends-on-ai-agents-not-llms

Nel panorama in rapida evoluzione della sicurezza informatica, gli agenti AI autonomi rappresentano una rivoluzione fondamentale nelle strategie di protezione digitale. Questi sistemi intelligenti stanno trasformando radicalmente l’approccio alla cybersecurity, passando da un modello difensivo reattivo a uno proattivo e anticipatorio.

Mentre i criminali informatici adottano strumenti sempre più sofisticati basati sull’intelligenza artificiale, lanciando attacchi a velocità macchina e spesso eludendo i tradizionali strumenti di sicurezza, la risposta del settore si sta evolvendo verso l’implementazione di agenti AI autonomi. Questi sistemi sono capaci di analizzare enormi volumi di dati, individuare pattern sottili e rispondere alle minacce quasi istantaneamente, trasformando la difesa da un gioco reattivo di inseguimento a una partita a scacchi proattiva contro le minacce informatiche.

Agentic AI vs Generative AI: una distinzione cruciale

Per comprendere appieno il potenziale rivoluzionario degli agenti AI nella cybersecurity, è essenziale approfondire la distinzione fondamentale tra Generative AI e Agentic AI, due paradigmi con funzionalità e scopi profondamente diversi.

La Generative AI si concentra primariamente sulla creazione di contenuti. Questi sistemi, come i noti Large Language Models (LLMs), possono produrre testi, immagini o codice basandosi su pattern appresi da vasti dataset. Pur essendo strumenti potenti, operano in modo relativamente statico; generano output basati su prompt specifici forniti dall’utente, senza reale capacità di ragionamento autonomo o esecuzione di azioni multiple coordinate. L’obiettivo principale di questi sistemi è semplicemente generare contenuti coerenti e pertinenti in risposta a una richiesta specifica, rendendo impossibile l’adattamento dinamico a circostanze in evoluzione tipiche degli scenari di cybersecurity.

La Agentic AI, invece, rappresenta un salto evolutivo significativo. Si riferisce a sistemi AI che possono agire autonomamente per raggiungere obiettivi senza la necessità di una costante guida umana. A differenza della Generative AI, i sistemi agentici non si limitano a creare contenuti, ma prendono decisioni indipendenti, eseguono azioni complesse e si adattano dinamicamente all’ambiente circostante. Sono progettati per ottimizzare particolari obiettivi o funzioni, come massimizzare la sicurezza di una rete o minimizzare i tempi di risposta agli incidenti.

Nel campo della cybersecurity, gli agenti AI operano seguendo un sofisticato modello a quattro fasi che ne caratterizza l’approccio autonomo e adattivo:

1. Percezione: raccolgono e processano dati da diverse fonti come sensori, database, log di sistema e interfacce digitali, costruendo una rappresentazione completa dell’ambiente da monitorare.
2. Ragionamento: utilizzano modelli linguistici avanzati come orchestratori che comprendono il contesto della situazione, generano soluzioni potenziali e coordinano modelli specializzati per funzioni specifiche di analisi e difesa.
3. Azione: implementano decisioni concrete interagendo con strumenti e software esterni tramite API, eseguendo rapidamente contromisure basate sui piani formulati.
4. Apprendimento: migliorano continuamente attraverso un ciclo di feedback, dove i dati generati dalle loro interazioni alimentano il sistema per migliorare i modelli e aumentarne l’efficacia nel tempo.

Architettura e funzionamento degli Agenti AI nella cybersecurity

Gli agenti AI dedicati alla cybersecurity rappresentano sistemi autonomi progettati per operare con minimo intervento umano, integrando componenti sofisticati che permettono loro di percepire, interpretare e rispondere alle minacce in modo intelligente e proattivo.

Al cuore dell’architettura di questi sistemi troviamo un set di strumenti integrati che fungono da interfaccia con il mondo esterno. Questi strumenti consentono all’agente di interagire con ambienti esterni e raccogliere informazioni critiche per l’analisi della sicurezza. Gli analizzatori di domini permettono di valutare la reputazione e il potenziale rischio di URL e siti web, esaminando strutture, certificati, registrazioni e cronologia. Gli analizzatori di messaggi esaminano il contenuto di comunicazioni come email e messaggi di testo per identificare tecniche di ingegneria sociale, link malevoli o allegati sospetti. Gli analizzatori di numeri telefonici verificano se i numeri sono associati a campagne di phishing o altre attività fraudolente.

La capacità di pianificazione rappresenta un altro elemento distintivo degli agenti AI avanzati per la cybersecurity. Attraverso meccanismi di riflessione e raffinamento, questi sistemi possono valutare criticamente le proprie azioni passate, identificare successi e fallimenti, e perfezionare le proprie strategie per operazioni future. Questa capacità metacognitiva permette agli agenti di migliorare progressivamente senza intervento umano diretto. Inoltre, attraverso la scomposizione in sotto-obiettivi, gli agenti possono affrontare compiti complessi suddividendoli in componenti più gestibili.

Il sistema di memoria costituisce un elemento fondamentale per l’efficacia degli agenti AI, consentendo loro di acquisire, memorizzare e recuperare informazioni rilevanti per le loro operazioni. A differenza dei semplici sistemi reattivi, gli agenti AI in cybersecurity mantengono contesto tra diverse operazioni, permettendo loro di riconoscere pattern che si manifestano nel tempo e collegare eventi apparentemente non correlati.

In sistemi di sicurezza avanzati, troviamo spesso architetture multi-agente coordinate da orchestratori, componenti specializzati che gestiscono il flusso di lavoro tra diversi agenti specializzati. Questi orchestratori possono essere considerati come “meta-agenti” che coordinano l’esecuzione di processi complessi multipli, assegnando compiti agli agenti più adatti in base alle loro competenze specifiche e integrando i risultati in un’analisi coerente.

Tecnologie e framework di sviluppo

Lo sviluppo di agenti AI per la cybersecurity è facilitato da una crescente gamma di framework open source, ciascuno con caratteristiche distintive che rispondono a diverse esigenze implementative. Questi framework offrono diversi livelli di astrazione e modalità di interazione, da approcci puramente programmatici a interfacce visuali no-code che democratizzano la creazione di agenti AI.

I framework moderni per l’Agentic AI consentono l’integrazione con diversi modelli LLM, offrendo flessibilità nella scelta dell’architettura più adatta alle specifiche esigenze di sicurezza. Questa capacità di agnosticismo rispetto al modello rappresenta un vantaggio significativo in un panorama tecnologico in rapida evoluzione, permettendo di adattarsi alle nuove generazioni di modelli linguistici senza necessità di riprogettare l’intera architettura di sicurezza.

Particolarmente rilevante è l’emergere di architetture orientate alla collaborazione multi-agente, dove diversi agenti specializzati possono cooperare per risolvere problemi complessi. Nel contesto della cybersecurity, questo approccio consente di creare ecosistemi difensivi dove agenti specializzati in diverse aree (analisi del traffico di rete, monitoraggio degli endpoint, analisi comportamentale) possono lavorare insieme, scambiando informazioni e coordinando le risposte alle minacce in modo organico.

Per le organizzazioni che preferiscono un approccio visuale e low-code, esistono strumenti che permettono di progettare flussi di lavoro complessi attraverso interfacce drag-and-drop intuitive, democratizzando la creazione di applicazioni AI agentiche. Gli analisti di sicurezza possono così concentrarsi sulla progettazione logica dei sistemi difensivi senza dover padroneggiare linguaggi di programmazione complessi.

Altri framework sono orientati alla creazione di flussi di lavoro complessi, offrendo un approccio più tecnico ma estremamente potente. Con questi strumenti, è possibile orchestrare interazioni sofisticate tra diversi agenti, modelli e tecniche di elaborazione dati, creando pipeline di sicurezza altamente personalizzate. Le architetture basate su grafi consentono di modellare relazioni complesse tra entità e processi, particolarmente adatte per rappresentare e analizzare le intricate connessioni tipiche degli scenari di sicurezza avanzati.

L’ecosistema tecnologico per lo sviluppo di agenti AI in cybersecurity è in rapida evoluzione, con nuovi framework che emergono continuamente, ampliando ulteriormente le possibilità implementative per le organizzazioni di ogni dimensione.

Applicazioni avanzate nella cybersecurity

Gli agenti AI autonomi stanno rivoluzionando diverse aree della cybersecurity, introducendo capacità che superano significativamente i limiti dei sistemi tradizionali e ridefinendo gli standard di protezione digitale.

Nel campo del rilevamento proattivo delle minacce, gli agenti AI rappresentano un salto paradigmatico rispetto ai tradizionali sistemi basati su firme. Mentre questi ultimi possono identificare solo minacce già catalogate, gli agenti AI monitorano continuamente il traffico di rete utilizzando tecniche avanzate di anomaly detection per identificare pattern insoliti che potrebbero indicare attacchi zero-day o minacce sofisticate. Questi agenti costruiscono modelli comportamentali complessi della rete e dei suoi utenti, permettendo di rilevare anche sottili deviazioni dalla norma che potrebbero passare inosservate all’occhio umano.

La risposta automatizzata agli incidenti rappresenta un’altra area dove gli agenti AI stanno dimostrando un valore eccezionale. Quando viene rilevata una minaccia, questi sistemi possono orchestrare risposte complesse in frazioni di secondo, un tempo di reazione irraggiungibile per gli operatori umani. Ad esempio, se un agente AI rileva un ransomware in fase iniziale di distribuzione, può immediatamente implementare una sequenza coordinata di contromisure: bloccare la comunicazione con i server di comando e controllo identificati, isolare i sistemi potenzialmente compromessi per prevenire la propagazione laterale, avviare il backup dei dati critici su sistemi sicuri, e simultaneamente raccogliere prove forensi per analisi successive.

Nella complessa area dell’analisi delle vulnerabilità, gli agenti AI offrono un approccio significativamente più sofisticato rispetto alle tradizionali scansioni di sicurezza. Questi sistemi non si limitano a identificare vulnerabilità note, ma utilizzano tecniche avanzate per comprendere come diverse vulnerabilità, apparentemente minori se considerate isolatamente, possano combinarsi creando percorsi di attacco complessi. Utilizzando modelli di ragionamento causale, questi agenti possono simulare scenari di attacco sofisticati, identificando catene di vulnerabilità che potrebbero essere sfruttate da attaccanti avanzati.

Gli agenti AI si stanno dimostrando particolarmente efficaci nelle attività di threat hunting, trasformando questo processo da reattivo a proattivo. Operando come “cacciatori digitali”, questi sistemi esplorano continuamente reti e sistemi alla ricerca di indicatori di compromissione che potrebbero essere sfuggiti ai sistemi di rilevamento tradizionali. Utilizzando tecniche di machine learning non supervisionato, possono identificare comportamenti anomali anche quando non corrispondono a pattern di attacco noti.

Nella critica area della sicurezza delle email, gli agenti AI hanno introdotto capacità che vanno ben oltre i tradizionali filtri antispam. Questi sistemi analizzano le comunicazioni in entrata attraverso molteplici dimensioni simultaneamente: esaminano l’autenticità del mittente verificando non solo gli header tecnici ma anche la coerenza con pattern comunicativi storici, analizzano il contenuto semantico per individuare tentativi di manipolazione e ingegneria sociale, verificano dinamicamente link e allegati in ambiente sandbox, e correlano queste informazioni con intelligence globale sulle minacce.

Le fondamenta tecnologiche degli Agenti AI nella cybersecurity

Il funzionamento efficace degli agenti AI nella cybersecurity si basa su un sofisticato insieme di tecnologie che ne abilitano le capacità cognitive e operative avanzate.

Al centro di questi sistemi troviamo i Large Language Models (LLMs), che forniscono la capacità fondamentale di comprensione e generazione del linguaggio naturale. Questi modelli, addestrati su vasti corpus di testi, permettono agli agenti di interpretare richieste complesse, analizzare contenuti testuali come email o codice, e generare risposte articolate e contestualizzate. Tuttavia, nella cybersecurity, i LLMs standard presentano limitazioni significative: non hanno accesso a informazioni in tempo reale sulle minacce emergenti e mancano della capacità di interagire direttamente con strumenti esterni. È qui che entra in gioco il concetto di Retrieval-Augmented Generation (RAG), fondamentale per superare queste limitazioni.

Nell’implementazione tradizionale di RAG, il sistema arricchisce le capacità del modello linguistico permettendogli di accedere a database esterni contenenti informazioni aggiornate. Ciò consente di fornire risposte basate su dati recenti senza necessità di riaddestrare costantemente il modello. Tuttavia, nell’approccio agentico alla cybersecurity, assistiamo a un’evoluzione significativa di questo concetto verso quello che possiamo definire “agentic RAG”. Mentre la RAG tradizionale si limita a recuperare informazioni su richiesta specifica seguendo pattern predefiniti, l’agentic RAG permette all’agente di formulare autonomamente strategie di ricerca, decidere quali fonti consultare in base al contesto, e persino concatenare diverse query per costruire un quadro informativo completo.

Questo livello avanzato di integrazione informativa si basa su architetture di orchestrazione sofisticate che consentono agli agenti di pianificare e coordinare l’uso di diversi strumenti esterni e fonti di dati. Queste architetture implementano modelli computazionali che permettono di definire flussi di lavoro complessi, dove l’output di uno strumento può influenzare dinamicamente la selezione e l’utilizzo di strumenti successivi. Questa capacità di “ragionamento procedurale” è ciò che distingue fondamentalmente gli agenti AI avanzati da semplici sistemi di risposta predefinita.

Un altro elemento tecnologico cruciale è rappresentato dai sistemi di memoria contestuale avanzata. Gli agenti AI efficaci non trattano ogni interazione come isolata, ma mantengono e aggiornano continuamente un modello del contesto operativo. Questa memoria può essere strutturata in diversi livelli: una memoria a breve termine per il contesto immediato dell’analisi in corso, una memoria episodica per situazioni e incidenti passati rilevanti, e una memoria semantica per conoscenze generali sulla sicurezza informatica.

Fondamentale per l’efficacia operativa degli agenti AI è anche l’integrazione con API specializzate per la cybersecurity. Queste interfacce permettono agli agenti di accedere a servizi esterni per l’analisi di file sospetti, informazioni su domini e indirizzi IP, database di vulnerabilità, e piattaforme di threat intelligence che aggregano informazioni su minacce attive. La capacità di interagire programmaticamente con questi servizi, interpretarne i risultati e integrarli in analisi più ampie è ciò che permette agli agenti AI di operare efficacemente nell’ecosistema complesso della cybersecurity moderna.

Vantaggi strategici e operativi

L’adozione di agenti AI autonomi in cybersecurity offre numerosi vantaggi strategici e operativi che stanno ridefinendo i paradigmi di difesa digitale nelle organizzazioni moderne.

Il monitoraggio continuo rappresenta uno dei vantaggi più immediatamente evidenti. Gli agenti AI operano ininterrottamente, 24 ore su 24, 7 giorni su 7, senza risentire della fatica cognitiva che inevitabilmente affligge gli analisti umani dopo lunghe ore di lavoro. Questa vigilanza costante elimina le vulnerabilità temporali che spesso vengono sfruttate dagli attaccanti, i quali tradizionalmente pianificano operazioni offensive durante notti, fine settimana o festività quando la supervisione umana è ridotta.

La velocità di risposta rappresenta un altro vantaggio cruciale in un panorama di minacce dove i tempi di reazione sono determinanti per contenere i danni. Gli agenti AI possono identificare anomalie, analizzare potenziali minacce e implementare contromisure in millisecondi, rispetto ai minuti o ore richiesti anche dal team umano più reattivo. Questa capacità di risposta quasi istantanea è particolarmente preziosa contro minacce come ransomware o worm ad alta velocità di propagazione, dove ogni secondo di ritardo può significare centinaia o migliaia di sistemi aggiuntivi compromessi.

La capacità di analisi avanzata degli agenti AI introduce un cambiamento qualitativo nella profondità e ampiezza del monitoraggio di sicurezza. Questi sistemi possono processare e correlare enormi volumi di dati provenienti da diverse fonti simultaneamente, identificando connessioni e pattern che potrebbero facilmente sfuggire agli analisti umani. Un singolo indicatore di compromissione potrebbe sembrare innocuo se considerato isolatamente, ma assumere un significato completamente diverso quando correlato con altri eventi distribuiti attraverso la rete.

L’adattabilità rappresenta una differenza fondamentale rispetto ai sistemi di sicurezza tradizionali. Mentre questi ultimi tendono a basarsi su regole statiche che devono essere aggiornate manualmente, gli agenti AI migliorano continuamente attraverso processi di apprendimento automatico. Ogni interazione con una minaccia, sia essa un falso positivo o un attacco reale, diventa un’opportunità di apprendimento, permettendo agli agenti di affinare le loro capacità di rilevamento e risposta nel tempo.

La personalizzazione delle strategie difensive rappresenta un ulteriore vantaggio significativo. Gli agenti AI non adottano un approccio standardizzato, ma sviluppano modelli di sicurezza altamente specializzati per ciascuna organizzazione. Analizzando il normale comportamento della rete, degli utenti e dei sistemi specifici di un’organizzazione, questi agenti costruiscono modelli comportamentali baseline molto dettagliati.

L’allocazione ottimizzata delle risorse umane rappresenta infine un vantaggio operativo fondamentale. Automatizzando attività ripetitive e ad alta intensità di dati, gli agenti AI liberano il tempo degli esperti di sicurezza umani, permettendo loro di concentrarsi su attività a più alto valore aggiunto che richiedono creatività, intuizione e giudizio strategico.

Sfide e considerazioni etiche nell’implementazione

Nonostante i numerosi vantaggi, l’implementazione di agenti AI autonomi nella cybersecurity presenta anche sfide significative e considerazioni etiche che richiedono un’attenta valutazione.

Le questioni etiche legate all’autonomia decisionale rappresentano una delle sfide più profonde. Quando un agente AI prende decisioni autonome in ambito di cybersecurity, chi è ultimamente responsabile delle conseguenze di tali decisioni? Se un agente isola erroneamente un sistema critico causando interruzioni operative, o al contrario, fallisce nel rilevare una minaccia significativa, come dovrebbero essere attribuite le responsabilità? È fondamentale stabilire framework etici chiari che definiscano i limiti dell’autonomia degli agenti AI e implementare meccanismi di governance che garantiscano supervisione umana appropriata per decisioni ad alto impatto.

Il problema dei falsi positivi rimane una sfida significativa anche per i sistemi AI avanzati. Gli agenti AI potrebbero identificare erroneamente attività legittime come potenziali minacce, portando a reazioni difensive non necessarie che possono interrompere operazioni aziendali critiche o causare perdite di produttività. Trovare il giusto equilibrio tra sensibilità al rilevamento e specificità è un compito complesso che richiede calibrazione continua.

Le preoccupazioni relative a privacy e protezione dei dati sono particolarmente acute quando si parla di agenti AI per la cybersecurity. Questi sistemi necessitano di accesso a vasti quantitativi di dati per operare efficacemente, inclusi log di rete, contenuti di email, comportamenti degli utenti e altre informazioni potenzialmente sensibili. Tale accesso solleva importanti questioni sulla privacy dei dipendenti e sulla conformità con normative come il GDPR in Europa o il CCPA in California.

Il rischio di dipendenza tecnologica rappresenta una considerazione strategica importante. Affidarsi eccessivamente agli agenti AI potrebbe portare a un’atrofia delle competenze umane in cybersecurity, creando vulnerabilità organizzative in caso di fallimento o limitazione dei sistemi automatizzati. Le organizzazioni dovrebbero mantenere un equilibrio sano tra automazione e capacità umane, assicurandosi che gli analisti continuino a sviluppare e mantenere le competenze fondamentali.

La trasparenza algoritmica e l’interpretabilità delle decisioni rappresentano un’altra sfida significativa. Molti sistemi AI avanzati operano come “scatole nere” le cui decisioni possono essere difficili da spiegare o giustificare. Questa opacità è problematica in contesti di cybersecurity, dove la capacità di comprendere e comunicare le ragioni di un alert o di una risposta automatizzata è fondamentale per la fiducia e l’efficacia operativa.

Il futuro degli Agenti AI nella cybersecurity

Guardando al futuro, possiamo anticipare diverse tendenze nell’evoluzione degli agenti AI per la cybersecurity.

La prossima generazione di difese cibernetiche probabilmente utilizzerà ecosistemi di agenti specializzati che collaborano tra loro in sistemi multi-agente sofisticati. Ad esempio, un agente potrebbe specializzarsi nell’analisi del traffico di rete, un altro nel monitoraggio degli endpoint, e un terzo nella risposta agli incidenti, tutti coordinati da un meta-agente o orchestratore che garantisce coerenza nelle strategie difensive.

Gli agenti AI saranno sempre più integrati con altre tecnologie emergenti, come blockchain per garantire l’integrità delle informazioni, quantum computing per analisi crittografiche avanzate, e Internet of Things per estendere il monitoraggio a dispositivi edge e sensori distribuiti nell’infrastruttura fisica.

Man mano che i modelli LLM e le tecniche di apprendimento avanzano, gli agenti AI evolveranno verso una vera intelligenza autonoma, sviluppando strategie innovative che potrebbero non essere state previste dai loro creatori umani. Questa evoluzione porterà a sistemi di difesa adattivi capaci di rispondere a classi di minacce completamente nuove con approcci creativi e non convenzionali.

Conclusione

Gli agenti AI autonomi rappresentano la nuova frontiera della cybersecurity, offrendo capacità di difesa proattive che superano significativamente i limiti dei sistemi tradizionali. Le organizzazioni che adottano questa tecnologia emergente potranno beneficiare di un livello di protezione senza precedenti, capace di contrastare efficacemente minacce sempre più sofisticate.

Tuttavia, è fondamentale un approccio equilibrato che consideri non solo i vantaggi tecnici, ma anche le implicazioni etiche, legali e organizzative. L’obiettivo non è sostituire completamente l’elemento umano, ma creare una sinergia efficace tra l’intelligenza artificiale e l’esperienza umana.

Nel futuro della cybersecurity, gli agenti AI non saranno semplici strumenti, ma veri e propri partner nella difesa digitale, in grado di anticipare, contrastare e neutralizzare minacce a velocità e con capacità che superano i limiti umani. L’adozione di queste tecnologie non è più una scelta, ma una necessità per organizzazioni che intendono mantenere un adeguato livello di sicurezza in un panorama di minacce in continua evoluzione.

https://www.ictsecuritymagazine.com/articoli/agenti-ai-cybersecurity/

Mar 24, 2025 Marina Londei In evidenza, Malware, Minacce, News 0

---

Chiunque ha usato almeno una volta un servizio di conversione di file gratuito per modificare l’estensione di un documento, senza pensare ai potenziali pericoli dietro questa operazione. In molti casi questi convertitori di file vengono usati dai cybercriminali per distribuire diversi tipi di malware, compresi i ransomware.

La problematica è sempre esistita: di fatto, (quasi) nessuno offre servizi gratis, soprattutto online. Nell’ultimo periodo però sembra che il tasso di incidenza di questi attacchi sia aumentato, tanto che l’FBI ha pubblicato un avviso ufficiale in cui avverte gli utenti dell’incremento di campagne fraudolente che sfruttano i convertitori gratuiti di file.

Siti web che offrono conversioni e download gratuiti di documenti possono facilmente nascondere delle minacce difficili da estirpare. Tra questi rientrano anche i servizi che combinano più file in uno unico, come più immagini .jpg o .jpeg oppure documenti .pdf.

“Questi convertitori e downloader eseguono l’attività pubblicizzata, ma il file risultante può contenere malware nascosto che dà ai criminali accesso al computer della vittima” si legge nell’avviso dell’FBI. Questi tool inoltre sono in grado di accedere al contenuto dei file scaricati per raccogliere informazioni sensibili quali data di nascita, numero di telefono, codice fiscale, coordinate bancario, indirizzi di portafogli di criptovalute, indirizzi e-mail e password.

Bleeping Computer riporta che i siti scam non sono più disponibili. Tra questi comparivano DocuFlex e PDFixers. Nonostante questi non siano più online, è molto probabile che ne siano già comparsi altri o che lo faranno nel prossimo futuro.

Accorgersi di queste truffe non è semplice e spesso ci si rende conto della situazione solo dopo che è avvenuto l’attacco e si è stati infettati da un ransomware, oppure quando la propria identità è già stata replicata.

Oltre a scegliere una soluzione di protezione completa ed eseguire scansioni regolari del dispositivo, è necessario assicurarsi che il servizio che si sta utilizzando sia sicuro e cercare di usare sempre soluzioni ufficiali e legittime. 

---

---

---

https://www.securityinfo.it/2025/03/24/attenzione-ai-convertitori-di-file-online-possono-distribuire-malware/?utm_source=rss&utm_medium=rss&utm_campaign=attenzione-ai-convertitori-di-file-online-possono-distribuire-malware

The Pennsylvania State Education Association (PSEA) announced a recent data breach impacting the private personal information of 501,183 education professionals, including teachers, support staff, and nurses associated PSEA.

On or about March 17, 2025, PSEA notified individuals that an unauthorized third party gained access to its systems, compromising sensitive personal information. According to PSEA, the breach occurred on July 6, 2024, but PSEA did not notify affected individuals until over eight months later, which may have violated state and federal laws.

Reports indicate that the ransomware group Rhysida claimed responsibility for the attack and has allegedly posted stolen data on the dark web. Rhysida, a known cybercriminal organization, has targeted a wide range of industries in past attacks, often encrypting files and demanding ransom payments for decryption keys.

PSEA recently informed individuals that the following private information may have been stolen in the breach:

• Names
• Dates of birth
• Driver’s license or state identification numbers
• Social Security numbers
• Account numbers, account PINs, security codes, and routing numbers
• Payment card numbers, payment card PINs, and payment card expiration dates
• Passport numbers
• Taxpayer identification numbers
• Usernames and passwords
• Health insurance information
• Medical information

https://www.securitymagazine.com/articles/101491-pennsylvania-state-education-association-announces-data-breach

Power utility substations face a variety of risks, ranging from theft to overgrowth of vegetation. To protect across such a wide scope of threats, the utilities sector can embrace modern security solutions.

Here, we talk with Kaitlyn Albertoli, CEO of Buzz Solutions, about the importance of security for power utility substations.

Security magazine: Tell us about your background and career.

Albertoli: My experience in the energy sector has given me a deep understanding of the critical intersection of technology, infrastructure and security. But my passion for building a resilient and sustainable grid started long before that. I grew up in a small beach town in Southern California, where my environment nurtured my love for nature. In 2013, when the San Onofre Power Plant was shut down because of defects, my nearby community felt the impact. This was the first time I realized the environmental and economic risks of major breakdowns like this one.  

I earned my undergraduate degree at Stanford University where I met my co-founder, Vik Chaudhry. We bonded over our shared passion for sustainability and recognized a gap in the utility sector during a course where we built companies from scratch. This led to the creation of Buzz Solutions, where we use AI to address inefficiencies in utility inspections and enhance the reliability of power infrastructure.

Over the years, I’ve worked closely with both the technical and operational sides of utility infrastructure, helping utilities integrate advanced technologies like AI to safeguard substations and improve grid resilience. My team and I are committed to advancing security standards to match the growing complexity of power infrastructure and the increasing sophistication of threats we face today.

Security magazine: Why is security for power utility substations so important?

Albertoli: We’ve seen an uptick in targeted substation attacks that leave customers without power for days and put vulnerable populations who rely on power for their life-saving devices at risk. Beyond the direct threat to our communities, substations are critical components of the energy grid. They ensure the safe and efficient distribution of electricity. If compromised, whether due to natural disasters or intentional attacks, the impact can be far-reaching — causing widespread outages, economic losses, and safety concerns. Given the increasing reliance on reliable energy infrastructure and more demand for power from electric vehicles and AI model training, ensuring substation security — both cyberattacks and physical breaches — is essential to protect both the grid and the communities it serves. 

Security magazine: What spectrum of risks do power utility substations face?

Albertoli: Substations, which many of us pass on our daily commutes, are unassuming but vulnerable to a litany of physical and cyber risks. Natural disasters can impact substations in the same way as they do for transmission and distribution (T&D) infrastructure. Risks where real-time security monitoring and alerts come into play more involve man-made threats including vandalism, terrorism, copper theft, and cyber-physical attacks. Even animals that encroach into substations can cause direct damage to infrastructure, leading to service outages and significant repair costs. As substations become “smarter” or more digital, they face threats from hackers trying to infiltrate control systems and manipulate equipment. Substation security (both physical and cyber) is critical for any utility regardless of locality. 

Security magazine: How can technology help to mitigate substation security issues?

Albertoli: On the physical security side, we’re seeing the implementation of advanced surveillance systems like AI-powered video cameras, drones, and motion sensors that provide real-time monitoring of substations and quick detection of suspicious activity. Machine learning models are used to analyze patterns and identify potential threats before they escalate. On the cybersecurity side, tools for detecting intrusions, firewalls, and secure communications protocols can lessen the likelihood of catastrophic damage, but the risk is never zero. Technologies like blockchain are also starting to be explored to ensure the integrity and authentication of critical data within substation networks.

Security magazine: Anything else you’d like to add?

Albertoli: Substation security is an ongoing challenge that requires constant vigilance, innovation, and collaboration between utilities, technology providers, and regulators. It’s not just about protecting assets, It’s about safeguarding the communities that rely on these critical infrastructures. As we move toward a more digitized, interconnected power grid, I believe security will continue to be the core of operational success. 

https://www.securitymagazine.com/articles/101487-the-importance-of-security-for-power-utility-substations