Microsoft ja OpenAI hoiatavad rahvusriikide häkkerite eest, kes kasutavad tehisintellekti hävitavate küberrünnakute jaoks
Microsoft ja OpenAI on ühiselt välja andnud hoiatuse kasvava ohu eest, et rahvusriikide häkkerid kasutavad tehisintellekti (AI) ja suuri keelemudeleid (LLM) oma küberrünnakute võimekuse suurendamiseks. Aruandes tuvastatakse Venemaa, Põhja-Korea, Iraani ja Hiinaga seotud rahvusriikide osalejad, kes katsetavad aktiivselt tehisintellekti tehnoloogiaid pahatahtliku kübertegevuse jaoks.
Koostöö Microsofti ja OpenAI vahel näitas, et nad olid nurjanud viie riigiga seotud osaleja jõupingutused, katkestades nende katsed kasutada tehisintellekti teenuseid hävitavatel eesmärkidel varade ja kontode lõpetamisega. Microsofti sõnul seisneb suurte keelemudelite atraktiivsus nende loomulikus keeletoes, muutes need atraktiivseks sotsiaalsele manipuleerimisele ja konkreetsetele sihtmärkidele kohandatud petlikule suhtlusele spetsialiseerunud ohus osalejatele.
Kuigi seni pole täheldatud olulisi või uudseid LLM-e kasutavaid rünnakuid, rõhutatakse aruandes, et need riigiga seotud osalejad uurivad tehisintellekti tehnoloogiaid küberrünnakuahela erinevates etappides. Tegevused ulatuvad luure- ja kodeerimisabist kuni pahavara arendamiseni.
Venemaa rahvusriikide rühmitus Forest Blizzard (APT28) on väidetavalt kasutanud OpenAI teenuseid satelliitsideprotokollide ja radari kujutise tehnoloogia avatud lähtekoodiga uurimistööks ning skriptimiseks. Sarnaselt on teised ohustajad, nagu Põhja-Korea Emerald Sleet (Kimusky), Iraani Crimson Sandstorm (Imperial Kitten) ja Hiina Charcoal Typhoon (Aquatic Panda) ja Salmon Typhoon (Maverick Panda), kasutanud LLM-e selliste ülesannete täitmiseks nagu ekspertide tuvastamine, uuringute läbiviimine. , koodijuppide genereerimine ja andmepüügikampaaniate jaoks sisu loomine.
Vastuseks kasvavale ohule võtab Microsoft ennetavaid meetmeid, formuleerides põhimõtted, et maandada riske, mis on seotud tehisintellekti tööriistade ja API-de pahatahtliku kasutamisega rahvusriikide osalejate, arenenud püsivate ohtude (APT) ja arenenud püsivate manipulaatorite (APM) poolt. ja küberkurjategijate sündikaadid. Põhimõtted hõlmavad pahatahtlike osalejate tuvastamist ja nende vastu meetmete võtmist, teiste tehisintellekti teenusepakkujate teavitamist, koostööd sidusrühmadega ja läbipaistvuse tagamist nende ohtudega tegelemisel.
See koostöö Microsofti ja OpenAI vahel rõhutab vajadust teha ühiseid jõupingutusi, et luua tehisintellektimudelite ümber kaitsepiirded ja ohutusmehhanismid , tugevdades pühendumust tehisintellekti vastutustundlikule kasutamisele ja turvalisusele, pidades silmas arenevaid küberohtusid.