Irano įsilaužėliai piktnaudžiavo ChatGPT kibernetinėse atakose, nukreiptose į kritinę infrastruktūrą

Novatoriškoje ataskaitoje OpenAI atskleidė, kaip Irano įsilaužėliai pasinaudojo ChatGPT, kad sustiprintų kibernetines atakas prieš pramonės valdymo sistemas (ICS). Ataskaita atskleidžia kibernetinę veiklą, kurią vykdo tokios grupės kaip „CyberAv3ngers“, susijusios su Irano Islamo revoliucijos gvardijos korpusu (IRGC), ir kitos, kurias remia Kinija.

Šie grėsmės veikėjai naudojo „ChatGPT“ žvalgybai, pažeidžiamumui išnaudoti ir veiksmams po kompromiso. Nors OpenAI pabrėžia, kad dirbtinis intelektas nepasiūlė naujų galimybių, jis padėjo šiems įsilaužėliams efektyviau vykdyti atakas naudojant viešai prieinamas technikas.

Irano grupės „CyberAv3ngers“ ir vandens įrenginių atakos

Šiais metais „CyberAv3ngers“ išgarsėjo taikydamas vandens tiekimo paslaugas Airijoje ir Pensilvanijoje, sukeldamas didelių trikdžių. Grupė išnaudojo prastai apsaugotas ICS sistemas, kurios buvo veikiamos internetu ir naudojo numatytuosius slaptažodžius. Jų dėmesys buvo sutelktas į programuojamus loginius valdiklius (PLC), svarbius įrenginius, valdančius pramoninius procesus.

Naudodami „ChatGPT“ jie prašė pokalbių roboto informacijos apie pramoninius maršrutizatorius, PLC ir numatytuosius slaptažodžius kritinės infrastruktūros įrenginiams, pvz., „Tridium Niagara“ ir „Hirschmann RS“ maršrutizatoriams.

Piktnaudžiavimas AI kibernetinėms atakoms

Be specifinių ICS taikinių, „CyberAv3ngers“ paprašė „ChatGPT“ pagalbos, kad užmaskuotų kenkėjišką kodą ir nuskaitytų tinklus, ar nėra išnaudojamų pažeidžiamumų. Grupė taip pat bandė rasti būdų, kaip pasiekti „MacOS“ slaptažodžius.

Tačiau „OpenAI“ paaiškino, kad ši veikla nesuteikė įsilaužėliams jokių naujų ar pažangių galimybių, išskyrus tuos, kurie pasiekiami naudojant ne AI įrankius. Tai išryškina piktnaudžiavimo AI pavojų, net jei gauta informacija nėra revoliucinė.

Kiti dalyvaujantys grėsmės veikėjai

Be CyberAv3ngers, kita Irano grupė, žinoma kaip Storm-0817, piktnaudžiavo ChatGPT. Jie bandė sukurti „Android“ kenkėjišką programą ir iškrapštyti „Instagram“ duomenis, panaudodami AI, kad „LinkedIn“ profiliai būtų išversti į persų kalbą. Nors ši veikla nėra tokia tiesioginė žalinga kaip ICS atakos, ji atspindi platesnes pastangas panaudoti AI kibernetinėse operacijose.

Ataskaitoje taip pat buvo paminėta su Kinija susijusi „SweetSpectre“. Ši grupė naudojo „ChatGPT“ kenkėjiškų programų kūrimui ir pažeidžiamumo tyrimams. Pažymėtina, kad „SweetSpectre“ bandė siųsti el. laiškus, kuriuose yra kenkėjiškų programų, OpenAI darbuotojams, tačiau ataka buvo sutrukdyta nepasiekus tikslo.

Didesnis paveikslas

Ataskaitoje pabrėžiama didėjanti AI piktnaudžiavimo kibernetinėje kovoje rizika. Nors dirbtinis intelektas, įskaitant ChatGPT, gali supaprastinti teisėtų vartotojų užduotis, jis taip pat gali būti įrankis blogiems veikėjams. Aktyvus OpenAI požiūris į šių grėsmių aptikimą ir neutralizavimą yra gyvybiškai svarbus norint pažaboti jų poveikį.

Dėl to kibernetinio saugumo pramonei kyla klausimų: kaip dirbtinį intelektą galima apsaugoti nuo netinkamo naudojimo? Kokių priemonių reikia, kad grėsmės subjektai nenaudotų tokių priemonių savo pajėgumams stiprinti?

Šie apreiškimai turėtų paskatinti pramonės šakas ir vyriausybes permąstyti saugumo strategijas, ypač svarbios infrastruktūros atveju, ir teikti pirmenybę spragų, leidžiančių įsilaužėliams išnaudoti pažeidžiamas sistemas, panaikinimui.

AI turi didžiulį potencialą tobulinti pramonę ir pagerinti efektyvumą. Tačiau, kaip rodo ataskaita, tai taip pat yra dviašmenis kardas. Netinkamai naudojamas jis gali sustiprinti kibernetinių nusikaltėlių ir nacionalinių valstybių veikėjų galimybes. Norint išvengti šių grėsmių, būtinas nuolatinis budrumas, stipresnė apsauga ir atsakingas AI technologijų vystymas.

„ChatGPT“ vaidmuo šiuose incidentuose gali būti ribotas, tačiau jis yra įspėjimas apie platesnį AI poveikį kibernetinio saugumo srityje.