Byl objeven malware generovaný umělou inteligencí a mohl by změnit kybernetickou bezpečnost, jak ji známe

V rozvíjejícím se světě kybernetické bezpečnosti už nějakou dobu víme, že umělou inteligenci lze využít k vytvoření škodlivého softwaru. Nedávný vývoj však naznačil, že budoucnost malwaru generovaného umělou inteligencí může být blíž, než si myslíme. Společnost HP nedávno zachytila e-mailovou kampaň, která doručovala standardní malware prostřednictvím dropperu generovaného umělou inteligencí, což znamená významný posun v taktice kybernetické kriminality.

Ve vývoji AI malwaru byl nalezen nový druh hrozby

K objevu došlo v červnu 2024, když bezpečnostní tým HP narazil na phishingový e-mail, který obsahoval typickou návnadu s motivem faktury. Přílohou byl zašifrovaný soubor HTML – technika známá jako pašování HTML navržená tak, aby se vyhnula detekci. Zatímco pašování HTML není žádnou novinkou, tento případ měl zajímavý šmrnc. Kyberzločinci obvykle posílají předem zašifrovaný soubor, ale tentokrát útočníci zahrnuli dešifrovací klíč AES přímo do kódu JavaScript přílohy. Tato podivnost podnítila další vyšetřování.

Po dešifrování přílohy výzkumníci HP zjistili, že se zdá, že se jedná o normální webovou stránku, ale skrýval se v ní VBScript a notoricky známý Infostealer AsyncRAT. VBScript fungoval jako dropper, nasazoval užitečné zatížení infostealer, upravoval systémové registry a spouštěl JavaScript jako naplánovanou úlohu. Poté byl spuštěn skript PowerShellu a dokončilo se nasazení AsyncRAT.

I když je většina tohoto procesu známá, jeden klíčový detail vyčníval: VBScript byl neobvykle dobře strukturovaný a obsahoval komentáře – neobvyklá praxe při vývoji malwaru. Ještě překvapivější je, že scénář byl napsán ve francouzštině. Tyto faktory vedly výzkumníky HP k přesvědčení, že kapátko nebylo vytvořeno člověkem, ale vytvořeno umělou inteligencí.

Role umělé inteligence při snižování bariéry pro kyberzločince

K otestování své teorie použil tým HP své vlastní nástroje AI k replikaci VBScriptu. Výsledný scénář se nápadně podobal tomu, který byl použit při útoku. I když to není definitivní důkaz, vědci jsou přesvědčeni, že se na tvorbě malwaru podílela umělá inteligence. Ale záhada se prohlubuje: proč nebyl malware zatemněn? Proč byly v kódu ponechány komentáře?

Jedním z možných vysvětlení je, že útočník byl ve světě kyberzločinu nováčkem. Malware generovaný umělou inteligencí může snižovat vstupní bariéry pro potenciální hackery tím, že zpřístupňuje nástroje, jako je generace VBScript, jednotlivcům s minimálními technickými dovednostmi. V tomto případě je AsyncRAT, primární užitečné zatížení, volně dostupné a techniky jako pašování HTML nevyžadují rozsáhlé znalosti kódování.

Alex Holland, hlavní výzkumník hrozeb ve společnosti HP, poukázal na to, že tento útok vyžadoval velmi málo zdrojů. Pro správu ukradených dat neexistovala žádná složitá infrastruktura kromě jediného serveru pro příkazy a řízení (C&C). Samotný malware byl základní a postrádal obvyklé zmatky, které se vyskytují u sofistikovanějších útoků. Stručně řečeno, může to být práce nezkušeného hackera využívajícího umělou inteligenci k provedení těžké práce.

Budoucnost malwaru generovaného umělou inteligencí

Tento objev vyvolává další alarmující možnost. Pokud by nezkušený útočník mohl zanechat stopy ukazující na skripty generované umělou inteligencí, čeho by s podobnými nástroji mohli dosáhnout zkušenější protivníci? Zkušení kyberzločinci by pravděpodobně odstranili všechny stopy po zapojení AI, takže by bylo odhalení mnohem obtížnější, ne-li nemožné.

„Dlouho jsme očekávali, že by umělá inteligence mohla být použita ke generování malwaru,“ řekl Holland. "Ale toto je jeden z prvních reálných příkladů, které jsme viděli." Je to další krok do budoucnosti, kde bude malware generovaný umělou inteligencí pokročilejší a rozšířenější.“

Jak technologie umělé inteligence pokračuje rychle vpřed, časová osa pro plně autonomní malware generovaný umělou inteligencí se zkracuje. I když je těžké předpovědět přesnou časovou osu, odborníci jako Holland se domnívají, že by k tomu mohlo dojít během několika příštích let. Hrozba AI se nerýsuje na obzoru – už je tady.

Příprava na další vlnu kybernetických hrozeb

S tím, jak se hranice mezi člověkem a malwarem generovaným umělou inteligencí stírají, se prostředí kybernetické bezpečnosti stane ještě náročnější. I když tento incident slouží jako varování, je to také pohled do budoucnosti, kde AI bude hrát větší roli v kyberútocích. Bezpečnostní profesionálové musí zůstat ostražití a neustále přizpůsobovat svou obranu, aby čelili těmto vznikajícím hrozbám.

Vzhledem k tomu, že se malware generovaný umělou inteligencí poprvé objevil ve volné přírodě, není přitažené za vlasy představit si dobu, kdy se sofistikovanější útoky založené na umělé inteligenci stanou normou. Jak Holland zlověstně naznačuje, možná už říkáme: „Už jsou tady! Jste další! Jsi další!"