Iraani häkkerid kuritarvitasid ChatGPT-d kriitilisele infrastruktuurile suunatud küberrünnakutes

Murrangulises aruandes paljastas OpenAI, kuidas Iraani häkkerid kasutasid ChatGPT-d ära tööstuslike juhtimissüsteemide (ICS) küberrünnakute suurendamiseks. Aruanne heidab valgust kübertegevusele, mida viivad läbi rühmitused nagu CyberAv3ngers, mis on seotud Iraani Islami revolutsioonilise kaardiväekorpusega (IRGC) ja teised, mida toetab Hiina.

Need ohus osalejad kasutasid ChatGPT-d luureks, haavatavuse ärakasutamiseks ja kompromissijärgseteks toiminguteks. Kuigi OpenAI rõhutab, et tehisintellekt ei pakkunud uusi võimalusi, aitas see häkkeritel avalikult kättesaadavate tehnikate abil rünnakuid tõhusamalt läbi viia.

Iraani rühmitus CyberAv3ngers ja Water Facility rünnakud

CyberAv3ngers kogus tänavu tuntust Iirimaa ja Pennsylvania vee-ettevõtete sihtimisega, põhjustades olulisi häireid. Rühm kasutas halvasti turvatud ICS-süsteeme, mis olid Internetiga avatud ja kasutasid vaikeparoole. Nende fookus oli programmeeritavatel loogikakontrolleritel (PLC), kriitilistel seadmetel, mis juhivad tööstusprotsesse.

ChatGPT kasutamine hõlmas vestlusbotilt teabe küsimist tööstuslike ruuterite, PLC-de ja kriitilise infrastruktuuri seadmete (nt Tridium Niagara ja Hirschmann RS-ruuterite) vaikeparoolide kohta.

AI väärkasutamine küberrünnakuteks

Lisaks ICS-spetsiifilistele sihtmärkidele otsis CyberAv3ngers abi ChatGPT-lt, et hägustada pahatahtlikku koodi ja otsida võrke ärakasutatavate haavatavuste suhtes. Rühm püüdis ka leida viise MacOS-i paroolidele juurdepääsuks.

OpenAI selgitas siiski, et need tegevused ei andnud häkkeritele uusi ega täiustatud võimalusi peale mitte-AI tööriistade pakutava. See toob esile AI väärkasutuse ohud, isegi kui saadud teave pole revolutsiooniline.

Kaasatud teised ohus osalejad

Peale CyberAv3ngersi kuritarvitas ChatGPT-d veel üks Iraani rühmitus Storm-0817. Nad püüdsid arendada Androidi pahavara ja kraapida Instagrami andmeid, kasutades AI-d LinkedIni profiilide pärsia keelde tõlkimiseks. Kuigi need tegevused ei ole nii otseselt kahjulikud kui ICS-rünnakud, peegeldavad need laiemaid jõupingutusi tehisintellekti küberoperatsioonides relvastamiseks.

Raportis mainiti ka Hiinaga seotud SweetSpectre'i. See rühm kasutas ChatGPT-d pahavara arendamiseks ja haavatavuse uurimiseks. Eelkõige üritas SweetSpectre saata OpenAI töötajatele pahavaraga koormatud e-kirju, kuid rünnak nurjati enne, kui see sihtmärkideni jõudis.

Suurem Pilt

Aruandes rõhutatakse kasvavat AI väärkasutuse ohtu kübersõjas. Kuigi tehisintellekt, sealhulgas ChatGPT, võib seaduslike kasutajate ülesandeid sujuvamaks muuta, võib see olla ka halbade osalejate tööriist. OpenAI ennetav lähenemine nende ohtude tuvastamisele ja neutraliseerimisele on nende mõju ohjeldamiseks ülioluline.

See tekitab küberjulgeolekutööstuses küsimusi: kuidas saab tehisintellekti väärkasutuse eest kaitsta? Milliseid meetmeid on vaja selleks, et ohus osalejad ei kasutaks selliseid vahendeid oma võimete suurendamiseks?

Need paljastused peaksid ajendama tööstusi ja valitsusi uuesti läbi mõtlema turvastrateegiad, eriti kriitilise infrastruktuuri puhul, ning seadma prioriteediks lünkade kaotamise, mis võimaldavad häkkeritel haavatavaid süsteeme ära kasutada.

AI-l on tohutu potentsiaal tööstusharude edendamiseks ja tõhususe parandamiseks. Kuid nagu aruanne näitab, on see ka kahe teraga mõõk. Väärkasutamisel võib see võimendada küberkurjategijate ja rahvusriikide tegutsejate võimeid. Nendest ohtudest ette jäämine nõuab pidevat valvsust, tugevamat kaitset ja tehisintellekti tehnoloogiate vastutustundlikku arendamist.

ChatGPT roll nendes vahejuhtumites võib olla piiratud, kuid see on äratuskellaks tehisintellekti laiemate mõjude kohta küberjulgeoleku maastikul.