Пазите! Вештачка интелигенција би могла да учини да преваре изгледају легитимно и да шире претње од злонамерног софтвера попут Рансомваре-а
Национални центар за сајбер безбедност (НЦСЦ), део шпијунске агенције ГЦХК у Великој Британији, издао је упозорење о растућој претњи сајбер-напада које омогућава вештачка интелигенција (АИ). Према процени НЦСЦ-а, генеративни алати вештачке интелигенције, који могу да произведу убедљив текст, глас и слике из једноставних упита, отежавају разликовање правих е-порука од оних које шаљу преваранти и злонамерни актери.
Агенција предвиђа да ће АИ, посебно генеративна АИ и велики језички модели који покрећу цхат ботове, значајно допринети порасту сајбер претњи у наредне две године. Једна од примарних брига је тешкоћа у идентификацији различитих врста напада, као што су пхисхинг, лажирање и друштвени инжењеринг.
Очекује се да ће софистицираност АИ технологије учинити изазовом појединцима, без обзира на њихов ниво разумевања сајбер безбедности, да процене легитимност е-порука или захтева за ресетовање лозинке.
АИ би могао да помогне у повећању циљева рансомвера
Очекује се да ће порасти и напади рансомваре-а , који су циљали институције попут Британске библиотеке и Краљевске поште у протеклој години. НЦСЦ упозорава да софистицираност вештачке интелигенције смањује баријеру за аматерске сајбер криминалце да приступе системима, прикупљају информације о циљевима и изводе нападе који могу да паралишу рачунарске системе, извуку осетљиве податке и захтевају откупнину криптовалута.
Генеративни АИ алати се већ користе за креирање лажних „докумената за привлачење“ који изгледају убедљиво избегавањем уобичајених грешака које се могу наћи у пхисхинг нападима. Иако ефективност рансомваре кода можда неће бити побољшана генеративном вештачком интелигенцијом, она може помоћи у идентификацији и избору мета. НЦСЦ сугерише да ће државни актери вероватно бити највештији у коришћењу вештачке интелигенције у напредним сајбер операцијама.
Добро и лоше од АИ
Као одговор на растућу претњу, НЦСЦ наглашава да вештачка интелигенција може послужити и као одбрамбени алат, омогућавајући откривање напада и дизајнирање сигурнијих система. Извештај се поклапа са увођењем нових смерница од стране британске владе, „Кодекс праксе сајбер управљања“, који охрабрује предузећа да повећају своју спремност да се опораве од напада рансомвера. Међутим, неки стручњаци за сајбер безбедност, укључујући Циарана Мартина, бившег шефа НЦСЦ-а, залажу се за снажније акције, сугеришући фундаменталну преиспитивање приступа претњама рансомвера. Мартин наглашава потребу за строжијим правилима око плаћања откупнине и упозорава на нереалне стратегије, као што је одмазда против криминалаца у непријатељским нацијама.