Mar 30, 2023 Dario Orlandi Approfondimenti, In evidenza, RSS, Scenario 0

Check Point Research (CPR) ha condotto un’analisi iniziale sulle caratteristiche di ChatGPT4, rivelando cinque scenari che potrebbero consentire agli attori delle minacce di semplificare i loro sforzi maliziosi in modo più rapido ed efficace.

In alcuni dei casi evidenziati, anche individui non troppo preparati dal punto di vista tecnico possono creare strumenti dannosi utilizzando ChatGPT4. I cinque scenari identificati includono l’imitazione di comunicazioni bancarie, reverse shell, malware in C++, e altro ancora.

Nonostante la presenza di misure di salvaguardia in GPT4, alcune restrizioni possono essere facilmente aggirate, consentendo agli attori delle minacce di raggiungere i loro obiettivi senza incontrare troppe difficoltà.

CPR avverte del potenziale di GPT4 per accelerare il crimine informatico e continuerà ad analizzare la piattaforma nell’immediato futuro. Questo primo sguardo a GPT4 sottolinea la necessità di maggiore vigilanza e di misure di sicurezza per contrastare i potenziali rischi derivanti da questa tecnologia.

Aggiramento semplice

I ricercatori sono riusciti a generare con uno sforzo ridotto un malware C++ capace di recuperare i file Pdf e inviarli a un server FTP esterno, e simulare due scenari di phishing in cui il modello linguistico ha impersonato un istituto di credito e ha generato una mail professionale destinata ai dipendenti di un’azienda.

Inoltre, hanno ottenuto dal sistema istruzioni dettagliate per creare una shell inversa in PHP capace di ricevere comandi attraverso richieste http, e addirittura un programma Java eseguibile in modo nascosto via PowerShell che scarica ed esegue Putty, un diffuso software per la connessione Ssh.

Fonte: Check Point Research

I ricercatori hanno evidenziato che la nuova piattaforma basata su GPT 4 è migliorata su molti livelli, ma permangono le preoccupazioni circa i potenziali scenari in cui attori malevoli possono sfruttare il modello come acceleratore per i loro intenti criminosi.

GPT4 può potenziare gli attaccanti, anche quelli non tecnici, con gli strumenti per accelerare e convalidare la loro attività. I malintenzionati possono anche utilizzare le risposte rapide offerte dal modello per superare le sfide tecniche nello sviluppo di malware.