Nagbabala ang Microsoft at OpenAI sa mga Nation-State Hacker na Gumagamit ng AI para sa Mapanirang Cyber Attacks

Ang Microsoft at OpenAI ay magkatuwang na naglabas ng babala tungkol sa lumalaking banta ng mga nation-state na hacker na gumagamit ng artificial intelligence (AI) at malalaking language models (LLMs) upang pahusayin ang kanilang mga kakayahan sa pag-atake sa cyber. Tinutukoy ng ulat ang mga aktor ng bansang estado na naka-link sa Russia, North Korea, Iran, at China bilang aktibong nag-eeksperimento sa mga teknolohiya ng AI para sa mga nakakahamak na aktibidad sa cyber.

Ang pakikipagtulungan sa pagitan ng Microsoft at OpenAI ay nagsiwalat na napigilan nila ang mga pagsisikap ng limang aktor na nauugnay sa estado, na nakakagambala sa kanilang mga pagtatangka na gamitin ang mga serbisyo ng AI para sa mapanirang layunin sa pamamagitan ng pagwawakas ng mga asset at account. Ayon sa Microsoft, ang apela ng malalaking modelo ng wika ay nakasalalay sa kanilang natural na suporta sa wika, na ginagawa silang kaakit-akit sa mga aktor ng pagbabanta na nag-specialize sa social engineering at mapanlinlang na komunikasyon na iniayon sa mga partikular na target.

Bagama't wala pang naobserbahang makabuluhang o nobelang pag-atake na gumagamit ng mga LLM sa ngayon, itinatampok ng ulat na ang mga aktor na ito na nauugnay sa estado ay nag-e-explore ng mga teknolohiya ng AI sa iba't ibang yugto ng cyber attack chain. Ang mga aktibidad ay mula sa reconnaissance at tulong sa coding hanggang sa pagbuo ng malware.

Ang grupong Russian nation-state na Forest Blizzard (APT28) ay iniulat na gumamit ng mga serbisyo ng OpenAI para sa open-source na pananaliksik sa mga satellite communication protocol at teknolohiya ng radar imaging, gayundin para sa mga gawain sa pag-script. Katulad nito, ang iba pang mga banta na aktor tulad ng Emerald Sleet (Kimusky) ng North Korea, Iran's Crimson Sandstorm (Imperial Kitten), at Charcoal Typhoon (Aquatic Panda) at Salmon Typhoon (Maverick Panda) ng China ay gumamit ng LLM para sa mga gawain tulad ng pagkilala sa mga eksperto, pagsasagawa ng pananaliksik , pagbuo ng mga snippet ng code, at paggawa ng nilalaman para sa mga kampanyang phishing.

Bilang tugon sa lumalaking banta, ang Microsoft ay nagsasagawa ng mga proactive na hakbang sa pamamagitan ng pagbabalangkas ng isang hanay ng mga prinsipyo para mabawasan ang mga panganib na nauugnay sa malisyosong paggamit ng mga tool at API ng AI ng mga aktor ng nation-state, advanced persistent threats (APTs), advanced persistent manipulators (APMs) , at mga sindikato ng cybercriminal. Kasama sa mga prinsipyo ang pagtukoy at pagkilos laban sa mga malisyosong aktor, pag-abiso sa iba pang mga tagapagbigay ng serbisyo ng AI, pakikipagtulungan sa mga stakeholder, at pagtiyak ng transparency sa pagharap sa mga banta na ito.

Ang pakikipagtulungang ito sa pagitan ng Microsoft at OpenAI ay binibigyang-diin ang pangangailangan para sa sama-samang pagsisikap na magtatag ng mga guardrail at mekanismo ng kaligtasan sa paligid ng mga modelo ng AI , na nagpapatibay sa pangako sa responsableng paggamit at seguridad ng AI sa harap ng mga umuusbong na banta sa cyber.