Откривен је злонамерни софтвер генерисан од вештачке интелигенције и могао би да промени сајбер безбедност какву познајемо

У свету сајбер-безбедности који се развија, већ неко време знамо да се вештачка интелигенција може искористити за стварање злонамерног софтвера. Али недавни развоји су сигнализирали да је будућност малвера генерисаног вештачком интелигенцијом можда ближа него што мислимо. ХП је недавно пресрео кампању путем е-поште која је испоручила стандардни садржај злонамерног софтвера кроз капалицу генерисану вештачком интелигенцијом, што је означило значајну промену у тактици сајбер криминала.
Преглед садржаја
Нова врста претње пронађена у развоју АИ малвера
Откриће се догодило у јуну 2024. када је ХП-ов безбедносни тим наишао на е-поруку за крађу идентитета која је садржала типичан мамац на тему фактура. Прилог је био шифрована ХТМЛ датотека — техника позната као кријумчарење ХТМЛ-а дизајнирана да избегне откривање. Иако кријумчарење ХТМЛ-а није ништа ново, овај случај је имао занимљив преокрет. Обично би сајбер криминалци послали унапред шифровану датотеку, али овог пута су нападачи укључили АЕС кључ за дешифровање директно у ЈаваСцрипт код прилога. Ова необичност је подстакла даљу истрагу.
Након дешифровања прилога, ХП-ови истраживачи су открили да се чини да је то нормална веб локација, али да је у њој скривен ВБСцрипт и озлоглашени АсинцРАТ инфокрадник. ВБСцрипт је деловао као дроппер, постављајући корисни терет инфостеалер-а, мењајући системске регистре и покреће ЈаваСцрипт као заказани задатак. Затим се извршава ПоверСхелл скрипта, довршавајући примену АсинцРАТ-а.
Иако је већи део овог процеса познат, истакао се један кључни детаљ: ВБСцрипт је био необично добро структуиран и садржао је коментаре — неуобичајена пракса у развоју малвера. Што је још више изненађујуће, сценарио је написан на француском. Ови фактори су навели ХП истраживаче да верују да капаљку није направио човек, већ да је генерисао АИ.
Улога вештачке интелигенције у снижавању баријере за сајбер криминалце
Да би тестирао своју теорију, ХП-ов тим је користио сопствене АИ алате за реплицирање ВБСцрипт-а. Добијени сценарио је имао упадљиву сличност са оним коришћеним у нападу. Иако ово није дефинитиван доказ, истраживачи су уверени да је вештачка интелигенција била укључена у стварање малвера. Али мистерија се продубљује: зашто злонамерни софтвер није прикривен? Зашто су коментари остављени у коду?
Једно од могућих објашњења је да је нападач био новајлија у свету сајбер криминала. Малвер генерисан вештачком интелигенцијом можда смањује баријере за улазак потенцијалних хакера тако што ће алате попут ВБСцрипт генерације учинити доступним појединцима са минималним техничким вештинама. У овом случају, АсинцРАТ, примарни терет, је бесплатно доступан, а технике попут кријумчарења ХТМЛ-а не захтевају опсежно знање о кодирању.
Алекс Холанд, главни истраживач претњи у ХП-у, истакао је да је овај напад захтевао врло мало ресурса. Није постојала сложена инфраструктура осим једног сервера за команду и контролу (Ц&Ц) за управљање украденим подацима. Сам малвер је био основни и недостајало му је уобичајено замагљивање које се види у софистициранијим нападима. Укратко, ово је можда било дело неискусног хакера који је користио вештачку интелигенцију да изврши тежак посао.
Будућност малвера генерисаног вештачком интелигенцијом
Ово откриће отвара још једну алармантну могућност. Ако би неискусни нападач могао да остави трагове који упућују на скрипте генерисане вештачком интелигенцијом, шта би искуснији противници могли да постигну са сличним алатима? Искусни сајбер криминалци би вероватно уклонили све трагове умешаности вештачке интелигенције, чинећи откривање далеко тежим, ако не и немогућим.
„Дуго смо очекивали да би вештачка интелигенција могла да се користи за генерисање злонамерног софтвера“, рекао је Холанд. „Али ово је један од првих примера из стварног света које смо видели. То је још један корак ка будућности, где ће малвер генерисан вештачком интелигенцијом постати напреднији и распрострањенији.”
Како АИ технологија наставља да брзо напредује, временска линија за потпуно аутономни малвер генерисан АИ се смањује. Иако је тешко предвидети тачан временски оквир, стручњаци попут Холандије верују да би се то могло догодити у наредних неколико година. Претња вештачке интелигенције се не назире на хоризонту — већ је овде.
Припрема за следећи талас сајбер претњи
Како се границе између злонамерног софтвера генерисаног од стране људи и вештачке интелигенције замагљују, пејзаж сајбер безбедности ће постати још изазовнији. Иако овај инцидент служи као упозорење, он је такође поглед у будућност у којој ће АИ играти већу улогу у сајбер нападима. Професионалци у области безбедности морају да буду на опрезу, непрестано прилагођавајући своју одбрану како би се супротставили овим новонасталим претњама.
С обзиром да се малвер генерисан од вештачке интелигенције први пут појављује у дивљини, није претерано замислити време када су софистициранији напади засновани на вештачкој интелигенцији постали норма. Као што Холланд злослутно сугерише, можда већ кажемо: „Они су већ овде! Ти си следећи! Ти си следећи!”