Bol objavený malvér generovaný AI a mohol by zmeniť kybernetickú bezpečnosť, ako ju poznáme

Vo vyvíjajúcom sa svete kybernetickej bezpečnosti už nejaký čas vieme, že AI by sa dala využiť na vytvorenie škodlivého softvéru. Nedávny vývoj však naznačil, že budúcnosť malvéru generovaného AI môže byť bližšie, než si myslíme. Spoločnosť HP nedávno zachytila e-mailovú kampaň, ktorá priniesla štandardné množstvo škodlivého softvéru prostredníctvom droppera vygenerovaného AI, čo znamená významný posun v taktike počítačovej kriminality.

Vo vývoji AI malvéru sa našiel nový druh hrozby

K objavu došlo v júni 2024, keď bezpečnostný tím HP narazil na phishingový e-mail, ktorý obsahoval typickú návnadu s motívom faktúry. Prílohou bol zašifrovaný súbor HTML – technika známa ako pašovanie HTML navrhnutá tak, aby sa vyhla detekcii. Aj keď pašovanie HTML nie je žiadnou novinkou, tento prípad mal zaujímavý nádych. Kyberzločinci zvyčajne posielajú vopred zašifrovaný súbor, ale tentoraz útočníci zahrnuli dešifrovací kľúč AES priamo do kódu JavaScript prílohy. Táto zvláštnosť podnietila ďalšie vyšetrovanie.

Po dešifrovaní prílohy výskumníci spoločnosti HP zistili, že sa zdá, že ide o bežnú webovú stránku, ale skrýva sa v nej VBScript a notoricky známy AsyncRAT infostealer. VBScript fungoval ako dropper, nasadzoval užitočné zaťaženie infostealer, upravoval systémové registre a spúšťal JavaScript ako naplánovanú úlohu. Potom sa spustil skript PowerShell, čím sa dokončilo nasadenie AsyncRAT.

Aj keď je väčšina tohto procesu známa, jeden kľúčový detail vynikal: VBScript bol neobvykle dobre štruktúrovaný a obsahoval komentáre – nezvyčajná prax pri vývoji škodlivého softvéru. Ešte prekvapivejšie je, že scenár bol napísaný vo francúzštine. Tieto faktory viedli výskumníkov HP k presvedčeniu, že kvapkadlo nebolo vytvorené človekom, ale skôr vytvorené AI.

Úloha AI pri znižovaní bariéry pre kyberzločincov

Na testovanie svojej teórie použil tím HP svoje vlastné nástroje AI na replikáciu VBScript. Výsledný scenár sa nápadne podobal tomu, ktorý bol použitý pri útoku. Aj keď to nie je definitívny dôkaz, vedci sú presvedčení, že AI sa podieľala na tvorbe malvéru. Záhada sa však prehlbuje: prečo nebol malvér zahmlený? Prečo zostali komentáre v kóde?

Jedným z možných vysvetlení je, že útočník bol nováčikom vo svete počítačovej kriminality. Malvér generovaný AI môže znižovať vstupné bariéry pre potenciálnych hackerov tým, že sprístupňuje nástroje ako generovanie VBScript jednotlivcom s minimálnymi technickými zručnosťami. V tomto prípade je AsyncRAT, primárny náklad, voľne dostupný a techniky ako pašovanie HTML nevyžadujú rozsiahle znalosti kódovania.

Alex Holland, hlavný výskumník hrozieb v spoločnosti HP, poukázal na to, že tento útok si vyžadoval veľmi málo zdrojov. Neexistovala žiadna zložitá infraštruktúra okrem jediného príkazového a riadiaceho (C&C) servera na správu ukradnutých údajov. Samotný malvér bol základný a chýbalo mu obvyklé zahmlievanie, aké sa vyskytuje pri sofistikovanejších útokoch. Stručne povedané, môže to byť práca neskúseného hackera, ktorý využíva AI na vykonanie ťažkých úloh.

Budúcnosť malvéru generovaného AI

Tento objav vyvoláva ďalšiu alarmujúcu možnosť. Ak by neskúsený útočník mohol zanechať stopy poukazujúce na skripty generované AI, čo by mohli skúsenejší protivníci dosiahnuť podobnými nástrojmi? Skúsení počítačoví zločinci by pravdepodobne odstránili všetky stopy zapojenia AI, čím by bolo odhalenie oveľa zložitejšie, ak nie nemožné.

„Dlho sme očakávali, že AI by sa mohla použiť na generovanie malvéru,“ povedal Holland. "Ale toto je jeden z prvých príkladov z reálneho sveta, ktoré sme videli." Je to ďalší krok smerom k budúcnosti, kde sa malvér generovaný AI stane pokročilejším a rozšírenejším.“

Keďže technológia AI rýchlo napreduje, časová os pre plne autonómny malvér generovaný AI sa skracuje. Aj keď je ťažké predpovedať presnú časovú os, odborníci ako Holland veria, že by sa to mohlo stať v priebehu niekoľkých nasledujúcich rokov. Hrozba AI sa neobjavuje na obzore – už je tu.

Príprava na ďalšiu vlnu kybernetických hrozieb

Keď sa hranice medzi ľudským a umelou inteligenciou vygenerovaným malvérom stierajú, prostredie kybernetickej bezpečnosti bude ešte náročnejšie. Aj keď tento incident slúži ako varovanie, je to aj pohľad do budúcnosti, kde AI bude hrať väčšiu úlohu pri kybernetických útokoch. Bezpečnostní profesionáli musia zostať ostražití a neustále prispôsobovať svoju obranu, aby mohli čeliť týmto vznikajúcim hrozbám.

Keďže malvér vygenerovaný umelou inteligenciou sa prvýkrát objavil vo voľnej prírode, nie je pritiahnuté za vlasy predstaviť si čas, keď sa sofistikovanejšie útoky poháňané umelou inteligenciou stanú štandardom. Ako Holland zlovestne naznačuje, už by sme mohli povedať: „Už sú tu! Si ďalší! Si ďalší!"