Мицрософт и ОпенАИ упозоравају да хакери из националне државе користе вештачку интелигенцију за деструктивне сајбер нападе
Мицрософт и ОпенАИ заједно су издали упозорење о растућој претњи хакера из националне државе који користе вештачку интелигенцију (АИ) и моделе великих језика (ЛЛМ) како би побољшали своје могућности сајбер напада. Извештај идентификује актере националне државе повезане са Русијом, Северном Корејом, Ираном и Кином који активно експериментишу са АИ технологијама за злонамерне сајбер активности.
Сарадња између Мицрософта и ОпенАИ открила је да су осујетили напоре пет актера повезаних са државом, ометајући њихове покушаје да искористе услуге вештачке интелигенције у деструктивне сврхе укидањем имовине и налога. Према Мицрософт-у, привлачност великих језичких модела лежи у њиховој подршци природном језику, што их чини привлачним за актере претњи специјализованих за друштвени инжењеринг и обмањујућу комуникацију прилагођену одређеним циљевима.
Иако до сада нису примећени значајни или нови напади који користе ЛЛМ, извештај наглашава да ови актери повезани са државом истражују АИ технологије у различитим фазама ланца сајбер напада. Активности се крећу од извиђања и помоћи код кодирања до развоја малвера.
Извештава се да је руска национална државна група Форест Близзард (АПТ28) користила услуге ОпенАИ за истраживање отвореног кода о сателитским комуникационим протоколима и технологији радарског снимања, као и за задатке скриптовања. Слично томе, други актери претњи као што су севернокорејски Емералд Слеет (Кимуски), иранска Гримизна пешчана олуја (Империјално маче) и кинески тајфун угља (Акуатиц Панда) и Салмон Типхоон (Маверицк Панда) су користили ЛЛМ за задатке као што су идентификација стручњака, спровођење истраживања , генерисање исечака кода и креирање садржаја за пхисхинг кампање.
Као одговор на растућу претњу, Мицрософт предузима проактивне мере формулисањем скупа принципа за ублажавање ризика повезаних са злонамерном употребом АИ алата и АПИ-ја од стране актера националне државе, напредних трајних претњи (АПТ), напредних упорних манипулатора (АПМ) и синдикати сајбер криминала. Принципи укључују идентификацију и предузимање акција против злонамерних актера, обавештавање других добављача услуга вештачке интелигенције, сарадњу са заинтересованим странама и обезбеђивање транспарентности у суочавању са овим претњама.
Ова сарадња између Мицрософт-а и ОпенАИ-а наглашава потребу за заједничким напорима за успостављање заштитних ограда и сигурносних механизама око АИ модела , јачајући посвећеност одговорном коришћењу вештачке интелигенције и безбедности у суочавању са еволуирајућим сајбер претњама.