Pozor! Umelá inteligencia môže spôsobiť, že podvody budú vyzerať legitímne a šíria hrozby škodlivého softvéru ako ransomvér
Národné centrum kybernetickej bezpečnosti (NCSC), ktoré je súčasťou špionážnej agentúry GCHQ v Spojenom kráľovstve, vydalo varovanie pred rastúcou hrozbou kybernetických útokov podporovaných umelou inteligenciou (AI). Podľa hodnotenia NCSC generatívne nástroje AI, ktoré dokážu produkovať presvedčivý text, hlas a obrázky z jednoduchých výziev, sťažujú rozlíšenie medzi skutočnými e-mailmi a tými, ktoré posielajú podvodníci a zlomyseľní aktéri.
Agentúra predpovedá, že AI, najmä generatívna AI a veľké jazykové modely poháňajúce chatboty, výrazne prispejú k nárastu kybernetických hrozieb v priebehu nasledujúcich dvoch rokov. Jedným z hlavných problémov sú ťažkosti pri identifikácii rôznych typov útokov, ako je phishing, spoofing a sociálne inžinierstvo.
Očakáva sa, že prepracovanosť technológie AI sťaží jednotlivcom, bez ohľadu na ich úroveň pochopenia kybernetickej bezpečnosti, posúdiť legitímnosť e-mailov alebo žiadostí o obnovenie hesla.
AI by mohla pomôcť pri raste cieľov ransomvéru
Očakáva sa tiež nárast ransomvérových útokov , ktoré sa v minulom roku zamerali na inštitúcie ako British Library a Royal Mail. NCSC varuje, že sofistikovanosť AI znižuje bariéru pre amatérskych kyberzločincov v prístupe k systémom, zhromažďovaniu informácií o cieľoch a vykonávaní útokov, ktoré môžu paralyzovať počítačové systémy, extrahovať citlivé údaje a požadovať výkupné za kryptomeny.
Generatívne nástroje AI sa už používajú na vytváranie falošných „návnadových dokumentov“, ktoré pôsobia presvedčivo tým, že sa vyhýbajú bežným chybám vyskytujúcim sa pri phishingových útokoch. Hoci účinnosť kódu ransomvéru nemusí byť vylepšená generatívnou AI, môže pomôcť pri identifikácii a výbere cieľov. NCSC naznačuje, že štátni aktéri budú pravdepodobne najšikovnejšími pri využívaní AI v pokročilých kybernetických operáciách.
Dobré a zlé AI
V reakcii na rastúcu hrozbu NCSC zdôrazňuje, že AI môže slúžiť aj ako obranný nástroj umožňujúci detekciu útokov a navrhovanie bezpečnejších systémov. Správa sa zhoduje so zavedením nových usmernení vládou Spojeného kráľovstva, „Kódexu praxe v oblasti kybernetickej správy“, ktorý povzbudzuje podniky, aby zvýšili svoju pripravenosť zotaviť sa z útokov ransomware. Niektorí experti na kybernetickú bezpečnosť, vrátane Ciarana Martina, bývalého šéfa NCSC, však argumentujú za ráznejšie kroky a navrhujú zásadné prehodnotenie prístupov k hrozbám ransomvéru. Martin zdôrazňuje potrebu prísnejších pravidiel týkajúcich sa platieb výkupného a varuje pred nerealistickými stratégiami, ako sú odvetné opatrenia proti zločincom v nepriateľských krajinách.