Iránski hackeri zneužili ChatGPT pri kyberútokoch zameraných na kritickú infraštruktúru

V prelomovej správe OpenAI odhalilo, ako iránski hackeri využili ChatGPT na zlepšenie kybernetických útokov na priemyselné riadiace systémy (ICS). Správa vrhá svetlo na kybernetické aktivity vykonávané skupinami ako CyberAv3ngers, spojenými s iránskymi Islamskými revolučnými gardami (IRGC) a ďalšími sponzorovanými Čínou.

Títo aktéri hrozieb používali ChatGPT na prieskum, využitie zraniteľnosti a akcie po kompromise. Hoci OpenAI zdôrazňuje, že AI neponúkla nové možnosti, pomohla týmto hackerom efektívnejšie vykonávať útoky pomocou verejne dostupných techník.

Iránska skupina CyberAv3ngers a útoky na vodné zariadenia

CyberAv3ngers sa tento rok preslávili tým, že sa zameriavali na vodárenské spoločnosti v Írsku a Pensylvánii, čo spôsobilo značné narušenie. Skupina využívala zle zabezpečené systémy ICS, ktoré boli vystavené internetu a používali predvolené heslá. Zamerali sa na programovateľné logické automaty (PLC), kritické zariadenia riadiace priemyselné procesy.

Ich použitie ChatGPT zahŕňalo žiadanie chatbota o informácie o priemyselných smerovačoch, PLC a predvolených heslách pre zariadenia kritickej infraštruktúry, ako sú smerovače Tridium Niagara a Hirschmann RS.

Zneužitie AI na kybernetické útoky

Okrem cieľov špecifických pre ICS, CyberAv3ngers hľadali pomoc od ChatGPT na zahmlievanie škodlivého kódu a skenovanie sietí na zneužiteľné zraniteľnosti. Skupina sa tiež pokúsila nájsť spôsoby, ako získať prístup k heslám pre macOS.

OpenAI však objasnila, že tieto aktivity neposkytli hackerom žiadne nové alebo pokročilé možnosti nad rámec toho, čo je dostupné prostredníctvom nástrojov iných ako AI. To poukazuje na nebezpečenstvo zneužitia AI, aj keď získané informácie nie sú prevratné.

Iní zapojení aktéri hrozieb

Okrem CyberAv3ngers zneužila ChatGPT ďalšia iránska skupina známa ako Storm-0817. Pokúsili sa vyvinúť malvér pre Android a zoškrabať údaje Instagramu, pričom využili AI na preklad profilov LinkedIn do perzštiny. Aj keď nie sú také priamo škodlivé ako útoky ICS, tieto aktivity odrážajú širšie úsilie o vyzbrojenie AI v kybernetických operáciách.

V správe bola spomenutá aj spoločnosť SweetSpectre spojená s Čínou. Táto skupina používala ChatGPT na vývoj škodlivého softvéru a výskum zraniteľnosti. Najmä SweetSpectre sa pokúsil poslať e-maily plné škodlivého softvéru zamestnancom OpenAI, ale útok bol zmarený skôr, ako dosiahol svoje ciele.

Väčší obraz

Správa zdôrazňuje rastúce riziko zneužitia AI v kybernetickom boji. Hoci AI, vrátane ChatGPT, môže zefektívniť úlohy pre legitímnych používateľov, môže slúžiť aj ako nástroj pre zlých hercov. Proaktívny prístup OpenAI k detekcii a neutralizácii týchto hrozieb je nevyhnutný na obmedzenie ich dopadu.

To vyvoláva otázky pre odvetvie kybernetickej bezpečnosti: Ako možno chrániť AI pred zneužitím? Aké opatrenia sú potrebné na to, aby sa zabránilo aktérom ohrozenia používať takéto nástroje na zlepšenie svojich schopností?

Tieto odhalenia by mali podnietiť priemyselné odvetvia a vlády, aby prehodnotili bezpečnostné stratégie, najmä pre kritickú infraštruktúru, a uprednostnili odstránenie medzier, ktoré hackerom umožňujú zneužiť zraniteľné systémy.

Umelá inteligencia má obrovský potenciál posunúť priemysel a zvýšiť efektivitu. Ale ako ukazuje správa, je to tiež dvojsečná zbraň. Pri zneužití môže posilniť schopnosti kyberzločincov a aktérov národných štátov. Udržať si náskok pred týmito hrozbami si vyžaduje neustálu ostražitosť, silnejšiu obranu a zodpovedný vývoj technológií AI.

Úloha ChatGPT v týchto incidentoch môže byť obmedzená, ale slúži ako varovný signál pre širšie dôsledky AI v prostredí kybernetickej bezpečnosti.