Microsoft dhe OpenAI paralajmërojnë për hakerat e shtetit-komb që përdorin AI për sulme shkatërruese kibernetike
Microsoft dhe OpenAI kanë lëshuar së bashku një paralajmërim për kërcënimin në rritje të hakerëve të shteteve kombëtare që përdorin inteligjencën artificiale (AI) dhe modele të mëdha gjuhësore (LLM) për të përmirësuar aftësitë e tyre të sulmeve kibernetike. Raporti identifikon aktorët e shteteve-kombe të lidhur me Rusinë, Korenë e Veriut, Iranin dhe Kinën që eksperimentojnë në mënyrë aktive me teknologjitë e AI për aktivitete kibernetike me qëllim të keq.
Bashkëpunimi midis Microsoft dhe OpenAI zbuloi se ata kishin penguar përpjekjet e pesë aktorëve të lidhur me shtetin, duke ndërprerë përpjekjet e tyre për të shfrytëzuar shërbimet e AI për qëllime shkatërruese duke mbyllur asetet dhe llogaritë. Sipas Microsoft, tërheqja e modeleve të mëdha gjuhësore qëndron në mbështetjen e tyre të gjuhës natyrore, duke i bërë ato tërheqëse për aktorët kërcënues të specializuar në inxhinierinë sociale dhe komunikimin mashtrues të përshtatur për objektiva specifike.
Ndërsa asnjë sulm i rëndësishëm ose i ri që përdor LLM nuk është vërejtur deri më tani, raporti thekson se këta aktorë të lidhur me shtetin po eksplorojnë teknologjitë e AI në faza të ndryshme të zinxhirit të sulmeve kibernetike. Aktivitetet variojnë nga ndihma e zbulimit dhe kodimit deri te zhvillimi i malware.
Grupi kombëtar-komb rus Forest Blizzard (APT28) raportohet se ka përdorur shërbimet OpenAI për kërkime me burim të hapur mbi protokollet e komunikimit satelitor dhe teknologjinë e imazhit të radarit, si dhe për detyra skriptimi. Në mënyrë të ngjashme, aktorë të tjerë kërcënimi si Smerald Sleet i Koresë së Veriut (Kimusky), Stuhia e Crimson Sandstorm i Iranit (Imperial Kitten) dhe Tajfuni i Kinës Charcoal Typhoon (Aquatic Panda) dhe Salmon Typhoon (Maverick Panda) kanë përdorur LLM për detyra të tilla si identifikimi i ekspertëve. , duke gjeneruar copa kodi dhe duke krijuar përmbajtje për fushatat e phishing.
Në përgjigje të kërcënimit në rritje, Microsoft po merr masa proaktive duke formuluar një sërë parimesh për të zbutur rreziqet që lidhen me përdorimin keqdashës të mjeteve të AI dhe API-ve nga aktorët e shteteve kombëtare, kërcënimet e përparuara të vazhdueshme (APT), manipuluesit e avancuar të vazhdueshëm (APM) , dhe sindikatat e krimit kibernetik. Parimet përfshijnë identifikimin dhe marrjen e masave kundër aktorëve keqdashës, njoftimin e ofruesve të tjerë të shërbimeve të AI, bashkëpunimin me palët e interesuara dhe sigurimin e transparencës në trajtimin e këtyre kërcënimeve.
Ky bashkëpunim midis Microsoft dhe OpenAI nënvizon nevojën për një përpjekje kolektive për të vendosur parmakë dhe mekanizma sigurie rreth modeleve të AI , duke përforcuar angazhimin për përdorimin e përgjegjshëm të AI dhe sigurinë përballë kërcënimeve kibernetike në zhvillim.