Odkrili so zlonamerno programsko opremo, ki jo ustvari umetna inteligenca in lahko spremeni kibernetsko varnost, kot jo poznamo

V razvijajočem se svetu kibernetske varnosti že nekaj časa vemo, da bi lahko umetno inteligenco uporabili za ustvarjanje zlonamerne programske opreme. Toda nedavni dogodki kažejo, da je prihodnost zlonamerne programske opreme, ki jo ustvari umetna inteligenca, morda bližje, kot si mislimo. HP je pred kratkim prestregel e-poštno kampanjo, ki je standardno zlonamerno programsko opremo dostavila prek kapalke, ki jo je ustvarila umetna inteligenca, kar pomeni pomemben premik v taktiki kibernetske kriminalitete.

Pri razvoju zlonamerne programske opreme AI so odkrili novo vrsto grožnje

Odkritje se je zgodilo junija 2024, ko je HP-jeva varnostna ekipa naletela na e-poštno sporočilo z lažnim predstavljanjem, ki je vsebovalo tipično vabo na temo računa. Priloga je bila šifrirana datoteka HTML – tehnika, znana kot tihotapljenje HTML, namenjena izogibanju odkrivanju. Čeprav tihotapljenje HTML ni nič novega, je imel ta primer zanimiv preobrat. Običajno so kiberkriminalci poslali vnaprej šifrirano datoteko, toda tokrat so napadalci ključ za dešifriranje AES vključili neposredno v kodo JavaScript priloge. Ta nenavadnost je spodbudila nadaljnjo preiskavo.

Po dešifriranju priponke so HP-jevi raziskovalci ugotovili, da je videti kot običajno spletno mesto, vendar sta bila v njej skrita VBScript in razvpiti infostealer AsyncRAT. VBScript je deloval kot kapalka, uvajal koristno obremenitev infostealerja, spreminjal sistemske registre in izvajal JavaScript kot načrtovano nalogo. Nato se izvede skript PowerShell, ki dokonča uvedbo AsyncRAT.

Čeprav je večina tega postopka znanega, je ena ključna podrobnost izstopala: VBScript je bil nenavadno dobro strukturiran in je vseboval komentarje – neobičajna praksa pri razvoju zlonamerne programske opreme. Še bolj presenetljivo je, da je bil scenarij napisan v francoščini. Zaradi teh dejavnikov so HP-jevi raziskovalci verjeli, da kapalke ni izdelal človek, temveč generirana z umetno inteligenco.

Vloga umetne inteligence pri zniževanju ovire za kibernetske kriminalce

Da bi preizkusili svojo teorijo, je HP-jeva ekipa uporabila lastna orodja AI za ponovitev VBScripta. Nastala skripta je bila presenetljivo podobna tisti, ki je bila uporabljena v napadu. Čeprav to ni dokončen dokaz, so raziskovalci prepričani, da je bila umetna inteligenca vpletena v ustvarjanje zlonamerne programske opreme. Toda skrivnost se poglablja: zakaj zlonamerna programska oprema ni bila zakrita? Zakaj so bili v kodi puščeni komentarji?

Ena od možnih razlag je, da je bil napadalec novinec v svetu kibernetske kriminalitete. Zlonamerna programska oprema, ustvarjena z umetno inteligenco, morda znižuje vstopne ovire za morebitne hekerje, tako da omogoča dostopnost orodij, kot je generiranje VBScript, posameznikom z minimalnimi tehničnimi znanji. V tem primeru je AsyncRAT, primarni koristni tovor, prosto dostopen, tehnike, kot je tihotapljenje HTML, pa ne zahtevajo obsežnega znanja kodiranja.

Alex Holland, glavni raziskovalec groženj pri HP-ju, je poudaril, da ta napad zahteva zelo malo sredstev. Za upravljanje ukradenih podatkov ni bilo nobene kompleksne infrastrukture razen enega samega strežnika za ukaze in nadzor (C&C). Sama zlonamerna programska oprema je bila osnovna in ni imela običajne zamegljenosti, ki jo vidimo pri bolj sofisticiranih napadih. Skratka, to je morda delo neizkušenega hekerja, ki je za težka dela izkoristil AI.

Prihodnost zlonamerne programske opreme, ustvarjene z umetno inteligenco

To odkritje odpira še eno zaskrbljujočo možnost. Če lahko neizkušeni napadalec pusti namige, ki kažejo na skripte, ki jih ustvari umetna inteligenca, kaj bi lahko bolj izkušeni nasprotniki dosegli s podobnimi orodji? Izkušeni kibernetski kriminalci bi verjetno odstranili vse sledi vpletenosti umetne inteligence, zaradi česar bi bilo odkrivanje veliko težje, če ne nemogoče.

"Dolgo smo pričakovali, da bi lahko AI uporabili za ustvarjanje zlonamerne programske opreme," je dejal Holland. »Toda to je eden prvih primerov iz resničnega sveta, ki smo jih videli. To je še en korak v prihodnost, kjer bo zlonamerna programska oprema, ki jo ustvari umetna inteligenca, postala naprednejša in bolj razširjena.«

Ker tehnologija umetne inteligence še naprej hitro napreduje, se časovni načrt za popolnoma avtonomno zlonamerno programsko opremo, ki jo ustvari umetna inteligenca, krči. Čeprav je težko napovedati točen časovni načrt, strokovnjaki, kot je Holland, verjamejo, da bi se to lahko zgodilo v naslednjih nekaj letih. Grožnja umetne inteligence ni na obzorju – že je tu.

Priprave na naslednji val kibernetskih groženj

Ko se meje med zlonamerno programsko opremo, ki jo ustvari človek, in zlonamerno programsko opremo, ki jo ustvari umetna inteligenca, brišejo, bo krajina kibernetske varnosti postala še večji izziv. Medtem ko ta incident služi kot opozorilo, je tudi pogled v prihodnost, kjer bo AI igral večjo vlogo pri kibernetskih napadih. Varnostni strokovnjaki morajo ostati pozorni in nenehno prilagajati svojo obrambo za boj proti tem nastajajočim grožnjam.

Glede na to, da se zlonamerna programska oprema, ki jo ustvari umetna inteligenca, prvič pojavlja v divjini, si ni težko predstavljati časa, ko bodo bolj sofisticirani napadi, ki jih poganja umetna inteligenca, postali norma. Kot zlovešče nakazuje Holland, morda že rečemo: »So že tukaj! Ti si naslednji! Ti si naslednji!”