Iranski hakeri zloupotrijebili su ChatGPT u kibernetičkim napadima usmjerenim na kritičnu infrastrukturu

U revolucionarnom izvješću, OpenAI je otkrio kako su iranski hakeri iskoristili ChatGPT za poboljšanje kibernetičkih napada na industrijske upravljačke sustave (ICS). Izvješće baca svjetlo na cyber aktivnosti koje provode skupine poput CyberAv3ngers, povezane s iranskom Islamskom revolucionarnom gardom (IRGC), i druge koje sponzorira Kina.

Ovi akteri prijetnji koristili su ChatGPT za izviđanje, iskorištavanje ranjivosti i radnje nakon kompromitiranja. Iako OpenAI naglašava da umjetna inteligencija nije ponudila nove mogućnosti, pomogla je ovim hakerima da učinkovitije provode napade koristeći javno dostupne tehnike.

Iranska skupina CyberAv3ngers i napadi na vodene objekte

CyberAv3ngers je ove godine postao poznat po tome što je ciljao na vodovodna poduzeća u Irskoj i Pennsylvaniji, uzrokujući značajne poremećaje. Grupa je iskorištavala slabo osigurane ICS sustave koji su bili izloženi internetu i koristili su zadane lozinke. Njihov fokus bio je na programabilnim logičkim kontrolerima (PLC), kritičnim uređajima koji kontroliraju industrijske procese.

Njihovo korištenje ChatGPT-a uključivalo je traženje od chatbota informacija o industrijskim usmjerivačima, PLC-ovima i zadanim lozinkama za kritične infrastrukturne uređaje poput Tridium Niagara i Hirschmann RS usmjerivača.

Zlouporaba umjetne inteligencije za kibernetičke napade

Osim ciljeva specifičnih za ICS, CyberAv3ngers je tražio pomoć od ChatGPT-a za maskiranje zlonamjernog koda i skeniranje mreža u potrazi za ranjivostima koje se mogu iskoristiti. Grupa je također pokušala pronaći načine za pristup lozinkama za macOS.

Međutim, OpenAI je pojasnio da ove aktivnosti hakerima nisu pružile nikakve nove ili napredne mogućnosti osim onih koje su dostupne putem alata koji nisu AI. Ovo naglašava opasnosti zlouporabe umjetne inteligencije, čak i ako dobivene informacije nisu revolucionarne.

Drugi uključeni akteri prijetnje

Osim CyberAv3ngersa, druga iranska skupina poznata kao Storm-0817 zloupotrijebila je ChatGPT. Pokušali su razviti zlonamjerni softver za Android i izgrebati podatke s Instagrama, koristeći AI za prevođenje LinkedIn profila na perzijski. Iako nisu tako izravno štetne kao ICS napadi, ove aktivnosti odražavaju šire napore da se umjetna inteligencija pretvori u oružje u cyber operacijama.

SweetSpectre povezan s Kinom također je spomenut u izvješću. Ova je grupa koristila ChatGPT za razvoj zlonamjernog softvera i istraživanje ranjivosti. Naime, SweetSpectre je pokušao poslati e-poštu punu zlonamjernog softvera zaposlenicima OpenAI-ja, ali napad je spriječen prije nego što je dosegao svoje ciljeve.

Šira slika

Izvješće naglašava rastući rizik zlouporabe umjetne inteligencije u kibernetičkom ratu. Iako AI, uključujući ChatGPT, može pojednostaviti zadatke za legitimne korisnike, može poslužiti i kao alat za loše aktere. OpenAI-jev proaktivni pristup otkrivanju i neutraliziranju ovih prijetnji ključan je za obuzdavanje njihovog utjecaja.

Ovo postavlja pitanja za industriju kibernetičke sigurnosti: Kako se AI može zaštititi od zlouporabe? Koje su mjere potrebne kako bi se aktere prijetnji spriječilo da koriste takve alate za poboljšanje svojih sposobnosti?

Ova bi otkrića trebala potaknuti industrije i vlade da preispitaju sigurnosne strategije, posebno za kritičnu infrastrukturu, i daju prioritet uklanjanju praznina koje hakerima omogućuju iskorištavanje ranjivih sustava.

AI ima golem potencijal za unaprjeđenje industrija i poboljšanje učinkovitosti. No, kao što izvješće pokazuje, to je također mač s dvije oštrice. Kada se zloupotrijebi, može povećati sposobnosti kibernetičkih kriminalaca i aktera iz nacionalne države. Biti ispred ovih prijetnji zahtijeva stalnu budnost, jaču obranu i odgovoran razvoj AI tehnologija.

Uloga ChatGPT-a u tim incidentima može biti ograničena, ali služi kao poziv na buđenje za šire implikacije umjetne inteligencije u krajoliku kibernetičke sigurnosti.