Kaspersky Rivela: ChatGPT e LLM al centro di 3000 post nel dark web

Gen 29, 2024 Stefano Silvestri Attacchi, Hacking, Minacce, News 0

Kaspersky, la celebre multinazionale russa specializzata in prodotti e servizi di sicurezza informatica, è nota per il software antivirus Kaspersky Internet Security. Il motivo per cui ne parliamo oggi però è Kaspersky Digital Footprint Intelligence, un servizio di protezione che aiuta le organizzazioni a monitorare le proprie risorse digitali e a rilevare minacce provenienti dal dark web.

Il servizio utilizza una varietà di tecniche, tra cui la costante scansione della rete per identificare e raccogliere informazioni sulle risorse digitali delle organizzazioni. Monitora anche il dark web, ossia quella parte di Internet non indicizzata dai motori di ricerca, per identificare e raccogliere informazioni su credenziali rubate, domini dannosi e altre minacce.

Infine, il servizio utilizza anche tecniche OSINT (Open Source Intelligence) per raccogliere e analizzare informazioni da una varietà di fonti, tra cui siti web pubblici, social media e notizie.

Nel corso del 2023, il team di Kaspersky Digital Footprint Intelligence ha portato alla luce quasi 3000 messaggi all’interno del dark web che discutevano l’impiego di ChatGPT per finalità illecite o che facevano riferimento a strumenti basati sull’intelligenza artificiale. E sebbene il picco di attività sia stato registrato a marzo, il fenomeno di queste discussioni non accenna a placarsi.

Tra gli argomenti più discussi troviamo innanzitutto i jailbreak, procedure che rimuovono le restrizioni software imposte dal produttore su dispositivi come smartphone o tablet, permettendo agli utenti di installare applicazioni ed estensioni non disponibili attraverso i canali ufficiali di distribuzione. Ciò consente un accesso completo al sistema operativo del dispositivo, offrendo maggiore libertà per personalizzarlo e modificarlo; al tempo stesso, può comportare rischi per la sicurezza e la stabilità.

Molto discussi nel dark web, stando a Kaspersy, sono anche i pentesting (contrazione di “penetration testing”), pratiche di sicurezza informatica che simulano attacchi hacker su sistemi informatici, reti o applicazioni per scoprire vulnerabilità e difetti di sicurezza.

Le dinamiche delle discussioni nel dark web sull’uso di ChatGPT o di altri strumenti di AI. Fonte: Kaspersky Digital Footprint Intelligence

Il pentesting è uno strumento fondamentale per rafforzare la sicurezza di un’organizzazione, e di solito è eseguito da hacker etici. Ma è chiaro che i suoi risultati non devono finire in mani sbagliate. Qualora ciò accada, i pirati possono utilizzare le conoscenze acquisite per affinare le tecniche di aggressione, rendendo gli attacchi più sofisticati e difficili da rilevare.

Potrebbero poi individuare e sfruttare vulnerabilità non ancora note o corrette, portando a violazioni più gravi. Con la conoscenza acquisita dai pentesting, inoltre, i pirati potrebbero essere in grado di eludere più facilmente le misure di sicurezza esistenti, ottenendo maggiori probabilità di successo in caso di attacco.

Finendo nel darkweb, poi, le conoscenze derivanti dai pentesting potrebbero essere condivise o vendute ad altri criminali, aumentando esponenzialmente il numero di individui capaci di condurre attacchi avanzati.

Insomma, il quadro è alquanto preoccupante, al punto da spingere Alisa Kulishenko, Digital Footprint Analyst di Kaspersky, ad affermare quanto segue: “Gli attori delle minacce stanno esplorando attivamente vari schemi per implementare ChatGPT e l’intelligenza artificiale”.

“Gli argomenti trattati includono spesso lo sviluppo di malware e altri tipi di utilizzo illecito dei modelli linguistici, come l’elaborazione dei dati utente rubati, il parsing di file da dispositivi infetti e altro. La popolarità degli strumenti di IA ha favorito l’integrazione delle risposte automatiche di ChatGPT o dei suoi equivalenti in alcuni forum di criminali informatici”.

“Inoltre, gli attori delle minacce tendono a condividere jailbreak attraverso vari canali del dark web e a escogitare modi per sfruttare strumenti legittimi, come quelli per il pentesting, basati su modelli per scopi malevoli”.

La dinamica di post del dark web che offrono account ChatGPT rubati o servizi di autoregistrazione. Fonte: Kaspersky Digital Footprint Intelligence

Le minacce nel dark web purtroppo (e inevitabilmente) toccano le intelligenze artificiali e di conseguenza i chatbot: Kaspersky osserva un crescente interesse per progetti come XXXGPT e FraudGPT, che vengono commercializzati nel dark web come alternative a ChatGPT. Questi modelli vantano funzionalità aggiuntive e l’assenza delle restrizioni tipiche dei modelli originali.

Un altro pericolo si manifesta nel commercio di account per la versione a pagamento di ChatGPT, identificato in circa 3000 post aggiuntivi nel dark web e su canali shadow di Telegram. Tali messaggi promuovono la vendita di account sottratti o di servizi di registrazione automatica per la creazione massiva di account su richiesta.

“Pur non essendo intrinsecamente pericolosi, i modelli di IA come ChatGPT stanno diventando strumenti di interesse per i criminali informatici, semplificando l’accesso al mondo del cyber crime e potenzialmente aumentando il numero di attacchi IT”, prosegue Alisa Kulishenko.

“Tuttavia, è improbabile che nel 2024 i chatbot e l’IA generativa rivoluzionino il panorama degli attacchi. La natura automatizzata dei cyberattacchi richiede difese altrettanto automatizzate. È cruciale rimanere informati sulle mosse degli aggressori per mantenere un vantaggio in termini di sicurezza informatica aziendale”.

Condividi l'articolo