Čuvajte se! Umjetna inteligencija mogla bi učiniti da prijevare izgledaju legitimno i širiti prijetnje zlonamjernim softverom poput Ransomwarea
Nacionalni centar za kibernetičku sigurnost (NCSC), dio špijunske agencije GCHQ u Velikoj Britaniji, izdao je upozorenje o sve većoj prijetnji kibernetičkih napada potpomognutih umjetnom inteligencijom (AI). Prema procjeni NCSC-a, generativni AI alati, koji mogu proizvesti uvjerljiv tekst, glas i slike iz jednostavnih upita, otežavaju razlikovanje prave e-pošte od one koju šalju prevaranti i zlonamjerni akteri.
Agencija predviđa da će umjetna inteligencija, posebno generativna umjetna inteligencija i veliki jezični modeli koji pokreću chatbotove, značajno pridonijeti porastu cyber prijetnji u sljedeće dvije godine. Jedna od primarnih briga je poteškoća u prepoznavanju različitih vrsta napada, kao što su krađa identiteta, prijevara i društveni inženjering.
Očekuje se da će sofisticiranost tehnologije umjetne inteligencije pojedincima, bez obzira na njihovu razinu razumijevanja kibersigurnosti, učiniti izazovom procjenu legitimnosti e-pošte ili zahtjeva za ponovno postavljanje lozinke.
AI bi mogao pomoći u rastu meta Ransomwarea
Očekuje se da će se napadi ransomwarea , koji su prošle godine ciljali na institucije poput British Library i Royal Mail, također povećati. NCSC upozorava da sofisticiranost umjetne inteligencije smanjuje barijeru za kibernetičke kriminalce amatere da pristupe sustavima, prikupe informacije o metama i izvrše napade koji mogu paralizirati računalne sustave, izvući osjetljive podatke i zahtijevati otkupnine u kriptovaluti.
Generativni alati umjetne inteligencije već se koriste za stvaranje lažnih "dokumenata koji mame" koji izgledaju uvjerljivo izbjegavajući uobičajene pogreške pronađene u phishing napadima. Iako učinkovitost ransomware koda možda neće biti poboljšana generativnom umjetnom inteligencijom, ona može pomoći u identificiranju i odabiru meta. NCSC sugerira da će državni akteri vjerojatno biti najvještiji u korištenju umjetne inteligencije u naprednim cyber operacijama.
Dobro i loše AI
Kao odgovor na sve veću prijetnju, NCSC naglašava da AI može poslužiti i kao obrambeni alat, omogućujući otkrivanje napada i dizajn sigurnijih sustava. Izvješće se poklapa s uvođenjem novih smjernica britanske vlade, "Cyber Governance Code of Practice", kojim se poduzeća potiču na povećanje spremnosti za oporavak od napada ransomwarea. Međutim, neki stručnjaci za kibernetičku sigurnost, uključujući Ciarana Martina, bivšeg čelnika NCSC-a, zalažu se za snažniju akciju, predlažući temeljnu reevaluaciju pristupa prijetnjama ransomwarea. Martin naglašava potrebu za strožim pravilima oko plaćanja otkupnine i upozorava na nerealne strategije, kao što je odmazda protiv kriminalaca u neprijateljskim državama.