Mar 24, 2023 Dario Orlandi Approfondimenti, In evidenza, RSS, Software, Tecnologia 0

Sophos ha pubblicato un nuovo report, intitolato Applying AI Language Processing to Cyber Defenses, che approfondisce i progetti sviluppati dall’azienda per sfruttare i modelli linguistici basati su GPT-3 per semplificare l’individuazione delle potenziali minacce all’interno dei dati prodotti dai software di sicurezza.

I ricercatori di Sophos X-Ops hanno creato tre prototipi per mostrare il potenziale di GPT-3 nell’assistere i professionisti della sicurezza informatica. Tutti e tre i progetti utilizzano una tecnica chiamata few-shot learning per testare il modello AI con un piccolo campione di dati, riducendo la necessità di raccogliere un grande volume di dati pre-classificati.

La prima applicazione testata con questo metodo è stata un’interfaccia capace di accettare query in linguaggio naturale per verificare la presenza di attività illecite nei dati di telemetria generati dal software di sicurezza.

In particolare, Sophos ha testato il modello in abbinamento al proprio prodotto di rilevamento e risposta alle minacce endpoint. Con questa interfaccia, gli utenti possono filtrare i dati di telemetria utilizzando comandi di base senza bisogno di conoscere SQL o la struttura sottostante del database.

Antispam con GPT

Sophos ha poi realizzato un nuovo filtro antispam basato su ChatGPT e ha scoperto che, rispetto ad altri modelli di machine learning per il filtraggio dello spam, quello basato su GPT-3 era significativamente più preciso.

Infine, i ricercatori hanno creato un programma per semplificare il processo di reverse engineering delle linee di comando dei file LOLbin, un compito notoriamente difficile ma essenziale per comprendere questi attacchi e bloccarli in futuro.

Sean Gallagher, Principal Threat Researcher di Sophos, ha commentato: “Una delle crescenti preoccupazioni all’interno dei SOC riguarda l’enorme quantità di rumore in ingresso. Vi sono troppe notifiche e troppi rilevamenti da analizzare, e molte aziende hanno risorse limitate per poterlo fare”.

“Abbiamo provato che, con una risorsa come GPT-3, possiamo semplificare alcuni processi davvero pesanti e restituire tempo prezioso a chi si difende. Siamo già all’opera per integrare alcuni prototipi nei nostri prodotti e abbiamo reso disponibili su GitHub i risultati dei nostri sforzi per chi fosse interessato a testare GPT-3 nei propri ambienti di analisi”, ha proseguito Gallagher.