OpenAI blokeerib 20 pahatahtlikku küberoperatsiooni, mis võitlevad ülemaailmsete küberkuritegevuse kampaaniate vastu
Üllataval kombel on OpenAI kujunenud digitaalsete ohtude vastu võitlemisel võimsaks jõuks. Alates aasta algusest on ettevõte edukalt katkestanud enam kui 20 pahatahtlikku kampaaniat, mille eesmärk on kasutada ära tema tehisintellekti platvormi kahjulike tegevuste jaoks , näidates, et küberturvalisuse tulevik on juba käes.
Need toimingud ulatusid pahavara silumisest ja desinformatsiooni loomisest võltsitud sotsiaalmeedia persoonide loomiseni. Ohutegijad püüdsid kasutada OpenAI platvormi, et aidata kaasa pahatahtlikele tegevustele, nagu võltskontode jaoks elulugude loomine või AI-ga loodud profiilipiltide loomine võltsitud sotsiaalmeedia identiteetide jaoks X-is (endine Twitter).
Vaatamata nendele jõupingutustele kinnitas OpenAI avalikkust, et ükski neist kampaaniatest ei toonud kaasa murrangulisi edusamme pahavara loomises ega desinformatsiooni viiruslikku levikut. Teisisõnu, kuigi halvad näitlejad katsetavad tehisintellektiga, ei ole nad veel saavutanud olulisi läbimurdeid.
Sisukord
Kuidas küberkurjategijad AI-d ära kasutasid
Pahatahtlikud näitlejad tulid kõigist maailma nurkadest Hiinast Iraanini ja kasutasid erinevaid taktikaid. Üks silmapaistev näide oli SweetSpecter, Hiinas asuv rühmitus, mis kasutas tehisintellekti luure ja haavatavuse uurimisel ning isegi üritas (edutult) OpenAI töötajaid õngitseda.
Märkimisväärset rolli mängisid ka Iraani rühmad. Iraani islami revolutsioonilise kaardiväega (IRGC) seotud Cyber Av3ngers uuris AI abil programmeeritavaid loogikakontrollereid, samas kui teine Iraani üksus Storm-0817 kasutas tehisintellekti Androidi pahavara silumiseks ja sotsiaalmeedia profiilide kraapimiseks.
Lisaks nendele sihitud kampaaniatele blokeeris OpenAI mitu suuremahulist mõjutamisoperatsiooni. Üks neist, A2Z, genereeris inglis- ja prantsuskeelse sisu laialdase sotsiaalmeediapostituse jaoks, samas kui Stop News kasutas oma artiklite ja säutsude täiustamiseks tehisintellekti loodud kujutisi, sageli karikatuurilistes või dramaatilistes stiilides.
Ülemaailmsete desinformatsioonikampaaniate katkestamine
Teine murekoht oli poliitilistele süsteemidele suunatud desinformatsioonikampaaniad. OpenAI teatas, et sekkus katsetesse mõjutada valimisi USA-s, Rwandas, Indias ja Euroopa Liidus. Ükski neist jõupingutustest ei saavutanud viiruse levikut, kuid tõsiasi, et ohus osalejad püüdsid valimistega manipuleerida, rõhutab tehisintellektist juhitud desinformatsiooni kasvavaid riske.
STOIC, Iisraeli ettevõte, tuntud ka kui Zero Zeno, oli selles ruumis üks võtmeisikuid, genereerides sotsiaalmeedias kommentaare India valimiste kohta – tegevust, mida nii Meta kui ka OpenAI olid selle aasta alguses avalikustanud.
OpenAI pidev valvsus viis ka kahe teise võrgustiku, Bet Boti ja Corrupt Comment avastamiseni, mis kasutasid oma API-d X-i vestluste loomiseks ja kasutajate linkimiseks hasartmängusaitidega või üleujutamaks sotsiaalmeediat valmistatud kommentaaridega.
AI roll mikrosihitud desinformatsioonis
Generatiivset AI-d võib relvastada mitte ainult massilise desinformatsiooni, vaid ka mikrosihtimise jaoks. Küberjulgeolekufirma Sophose hiljutise aruande kohaselt saab AI-d manipuleerida, et levitada väga isikupärastatud poliitilist desinformatsiooni e-kirjade, veebisaitide ja võltsitud isikute kaudu. Sõnumeid hoolikalt konkreetsete kampaaniapunktide järgi kohandades võivad ohus osalejad valijaid uuel tasemel petta, muutes valimistulemusi või kõigutades arvamusi valeteabega.
Teadlased hoiatavad, et häirivalt lihtne on seostada mis tahes poliitilist tegelast või liikumist poliitilise hoiakuga, mida nad ei pruugi tegelikult toetada, külvades valijate seas segadust ja kahjustades demokraatlikku protsessi.
OpenAI pühendumus küberturvalisusele
Kuigi tehisintellekt pakub enneolematuid edusamme, esitab see ka tõsiseid turvaprobleeme. OpenAI on tõestanud, et suudab võidelda pahatahtlike katsetega oma tehnoloogiat ära kasutada. Tõenäoliselt jätkub aga kassi-hiire mäng küberjulgeolekuekspertide ja küberkurjategijate vahel.
OpenAI jõupingutused katkestada sel aastal enam kui 20 ülemaailmset kampaaniat tähistavad olulist võitu, kuid võitlus pole veel kaugeltki lõppenud. AI arenedes muutuvad ka ohus osalejate kasutatavad taktikad. Pidev valvsus ja uuendusmeelsus on võtmetähtsusega tagamaks, et tehisintellekt jääb pigem hüvanguks kui digitaalse pettuse vahendiks.