Ettevaatust! Tehisintellekt võib muuta petuskeemid õiguspäraseks ja levitada pahavaraohtusid nagu lunavara
Suurbritannia spiooniagentuurile GCHQ kuuluv riiklik küberjulgeolekukeskus (NCSC) on väljastanud hoiatuse tehisintellekti (AI) soodustatud küberrünnakute kasvava ohu eest. NCSC hinnangul muudavad generatiivsed AI-tööriistad, mis suudavad lihtsate viipade põhjal toota veenvat teksti, häält ja pilte, ehtsate e-kirjade ja petturite ja pahatahtlike osalejate saadetud meilide eristamise keeruliseks.
Agentuur ennustab, et tehisintellekt, eriti generatiivne AI ja vestlusroboteid toidavad suured keelemudelid, aitavad järgmise kahe aasta jooksul oluliselt kaasa küberohtude kasvule. Üks peamisi probleeme on raskused eri tüüpi rünnakute tuvastamisel, nagu andmepüügi, võltsimise ja sotsiaalse manipuleerimisega.
Tehisintellekti tehnoloogia keerukus muudab inimeste jaoks e-kirjade või parooli lähtestamise taotluste legitiimsuse hindamise eeldatavasti keeruliseks, sõltumata nende küberturvalisuse mõistmise tasemest.
AI võib aidata lunavara sihtmärke kasvatada
Eeldatakse, et sagenevad ka lunavararünnakud , mille sihtmärgiks on olnud sellised institutsioonid nagu British Library ja Royal Mail. NCSC hoiatab, et tehisintellekti keerukus vähendab amatöörküberkurjategijate barjääri juurdepääsul süsteemidele, koguda teavet sihtmärkide kohta ja sooritada rünnakuid, mis võivad halvata arvutisüsteeme, eraldada tundlikke andmeid ja nõuda krüptovaluuta lunaraha.
Generatiivseid tehisintellekti tööriistu kasutatakse juba võltsitud "peibutusdokumentide" loomiseks, mis tunduvad veenvad, vältides andmepüügirünnakutes leitud tavalisi vigu. Kuigi generatiivne AI ei pruugi lunavarakoodi tõhusust suurendada, võib see aidata sihtmärke tuvastada ja valida. NCSC oletab, et osariigi tegutsejad on tõenäoliselt kõige osavamad tehisintellekti võimendamisel arenenud küberoperatsioonides.
AI hea ja halb
Vastuseks kasvavale ohule rõhutab NCSC, et tehisintellekt võib olla ka kaitsevahend, mis võimaldab tuvastada ründeid ja kujundada turvalisemaid süsteeme. Raport langeb kokku sellega, kui Ühendkuningriigi valitsus võttis kasutusele uued juhised, "Kübervalitsemise tegevusjuhend", mis julgustab ettevõtteid suurendama oma valmisolekut lunavararünnakutest taastumiseks. Mõned küberjulgeolekueksperdid, sealhulgas NCSC endine juht Ciaran Martin, pooldavad aga jõulisemat tegutsemist, soovitades lunavaraohtude lähenemisviiside põhjalikku ümberhindamist. Martin rõhutab vajadust rangemate reeglite järele lunaraha maksmise kohta ja hoiatab ebarealistlike strateegiate eest, nagu vaenulike riikide kurjategijatele kättemaks.