ОпенАИ блокира 20 злонамерних сајбер операција које се боре против глобалних кампања сајбер криминала

Изненађујуће, ОпенАИ се појавио као велика сила у борби против дигиталних претњи. Од почетка године, компанија је успешно пореметила више од 20 злонамерних кампања које су покушавале да искористе своју АИ платформу за штетне активности , показујући да је будућност сајбер безбедности већ ту.

Ове операције су се кретале од отклањања грешака у малверу и прављења дезинформација до стварања лажних личности на друштвеним медијима. Актери претњи покушали су да искористе платформу ОпенАИ да помогну у злонамерним активностима као што су генерисање биографија за лажне налоге или креирање профилних слика генерисаних вештачком интелигенцијом за лажне идентитете друштвених медија на Кс (раније Твитер).

Међутим, упркос овим напорима, ОпенАИ је уверио јавност да ниједна од ових кампања није довела до револуционарног напретка у стварању малвера или виралног ширења дезинформација. Другим речима, док лоши глумци експериментишу са вештачком интелигенцијом, тек треба да постигну значајна открића.

Како су сајбер криминалци искористили АИ

Злонамерни актери долазили су из свих крајева света, од Кине до Ирана, и користили су разне тактике. Један истакнути пример био је СвеетСпецтер, група са седиштем у Кини која је користила вештачку интелигенцију за извиђање и истраживање рањивости, па чак и покушала (неуспешно) да уврне запослене ОпенАИ.

Иранске групе су такође имале запажену улогу. Цибер Ав3нгерс, повезани са иранском Исламском револуционарном гардом (ИРГЦ), истраживали су програмабилне логичке контролере користећи АИ, док је други ирански ентитет, Сторм-0817, користио АИ за отклањање грешака у Андроид малверу и гребање профила друштвених медија.

Поред ових циљаних кампања, ОпенАИ је блокирао неколико великих операција утицаја. Један од њих, А2З, генерисао је енглески и француски садржај за широко распрострањено објављивање на друштвеним мрежама, док је Стоп Невс користио слике генерисане вештачком интелигенцијом, често у цртаним или драматичним стиловима, како би побољшао своје чланке и твитове.

Ометање глобалних кампања дезинформисања

Кампање дезинформација усмерене на политичке системе биле су још једна област забринутости. ОпенАИ је известио да је интервенисао у покушајима да утиче на изборе у САД, Руанди, Индији и Европској унији. Ниједан од ових напора није постигао виралну привлачност, али чињеница да су актери претњи покушавали да манипулишу изборима наглашава растуће ризике које представљају дезинформације вођене вештачком интелигенцијом.

СТОИЦ, израелска компанија позната и као Зеро Зено, била је међу кључним играчима у овом простору, генеришући коментаре на друштвеним мрежама о индијским изборима, активност коју су раније ове године открили и Мета и ОпенАИ.

Стална будност ОпенАИ-а је такође довела до открића две друге мреже, Бет Бот и Цоррупт Цоммент, које су користиле свој АПИ за генерисање разговора на Кс-у и повезивале кориснике са сајтовима за коцкање или преплавиле друштвене медије измишљеним коментарима.

Улога вештачке интелигенције у микроциљаним дезинформацијама

Генеративна АИ има потенцијал да буде наоружана не само за масовне дезинформације, већ и за микроциљање. Према недавном извештају компаније за сајбер безбедност Сопхос, вештачком интелигенцијом се може манипулисати да шири високо персонализоване политичке дезинформације путем е-поште, веб сајтова и лажних личности. Пажљиво прилагођавајући поруке одређеним тачкама кампање, актери претњи могу преварити гласаче на новом нивоу, евентуално мењајући изборне исходе или мењајући мишљење лажним информацијама.

Истраживачи упозоравају да је узнемирујуће лако повезати било коју политичку фигуру или покрет са политичким ставом који можда не подржавају, сејући конфузију међу бирачима и штетећи демократском процесу.

ОпенАИ посвећеност сајбер безбедности

Иако вештачка интелигенција нуди могућности за напредак без преседана, она такође представља озбиљне безбедносне изазове. ОпенАИ је доказао да је дорастао задатку да се супротстави злонамерним покушајима да се искористи његова технологија. Међутим, игра мачке и миша између стручњака за сајбер безбедност и сајбер криминалаца ће се вероватно наставити.

Напори ОпенАИ-а да поремети преко 20 глобалних кампања ове године означавају значајну победу, али борба је далеко од краја. Како се АИ развија, тако ће се развијати и тактике које користе актери претњи. Константна будност и иновације биће кључни у осигуравању да АИ остане снага добра, а не алат за дигиталну обману.