„Microsoft“ imasi teisinių veiksmų prieš įsilaužėlius, piktybiniais tikslais išnaudojančius „Azure AI“

„Microsoft“ nuolatinė kova su kibernetiniais nusikaltimais pasiekė naujų aukštumų – jos naujausias ieškinys nukreiptas į įsilaužėlių grupę, apkaltintą „Azure“ generatyviųjų AI paslaugų išnaudojimu. Technologijų milžinas atskleidė, kad užsienyje veikiantys grėsmių veikėjai sukūrė įsilaužimo kaip paslaugos platformą, kad apeitų „Azure AI“ saugos protokolus, leidžiančius kurti žalingą turinį ir kenkėjiškas programas .

Šis atvejis pabrėžia didėjančią riziką, kurią kelia kibernetiniai nusikaltėliai, piktybiniais tikslais naudojantys dirbtinio intelekto platformas, o tai kelia didelių kibernetinio saugumo iššūkių organizacijoms visame pasaulyje.

Kaip įsilaužėliai išnaudojo „Microsoft“ Azure AI

„Microsoft“ skaitmeninių nusikaltimų skyrius (DCU) atskleidė operaciją 2024 m. liepos mėn. Grupė panaudojo pavogtus klientų kredencialus, surinktus iš viešųjų šaltinių, kad galėtų pažeisti „Azure“ sistemas ir sugadinti AI modelius, tokius kaip „OpenAI“ DALL-E.

Pagrindinė informacija:

• Kredencialų vagystė : pavogti Azure API raktai ir Entra ID autentifikavimo duomenys buvo naudojami norint pasiekti Azure OpenAI paslaugas.
• Kenksmingo turinio kūrimas : grupė užsidirbo pinigų iš savo prieigos sukurdama įrankius, leidžiančius generuoti įžeidžiančius vaizdus ir apeiti AI turinio filtrus.
• „Hacking-as-a-Service“ : grupė pardavė prieigą prie savo įrankių per tokias svetaines kaip „aitism[.]net“ ir dalijo naudojimo instrukcijas su kitais kibernetiniais nusikaltėliais.

Dėl šios veiklos buvo neteisėtai generuojami tūkstančiai žalingų vaizdų ir buvo sudarytos sąlygos tolesniam neteisėtam AI piktnaudžiavimui, o kaltininkai bandė ištrinti savo skaitmeninius pėdsakus.

Kenkėjiškų programų ryšys

Piktnaudžiavimas generatyviosiomis AI paslaugomis turi platesnį poveikį kenkėjiškų programų kūrimui . Grėsmės veikėjai gali:

• Kurkite sukčiavimo jaukus arba netikras svetaines, sukurtas imituoti patikimas platformas.

Šis išnaudojimas parodo, kaip įsilaužimo grupės tobulina savo taktiką, sumaišydamos pavogtus kredencialus ir pažangias AI galimybes, kad galėtų vykdyti didelio masto kibernetines atakas.

Atvirkštinis tarpinio serverio išnaudojimas ir LLM prijungimas

Vienas žymus atvejo aspektas yra atvirkštinių tarpinių serverių, tokių kaip de3u įrankis, naudojimas. Šie tarpiniai serveriai peradresavo ryšį iš vartotojo įrenginių per „Cloudflare“ tunelį į „Azure OpenAI“ paslaugas, imituodami teisėtus API skambučius.

Ši technika atspindi taktiką, nustatytą LLMjacking atakose, kai pavogti debesies kredencialai naudojami norint pasiekti didelių kalbos modelių (LLM) paslaugas, tokias kaip Anthropic, AWS Bedrock ir Google Vertex AI. Tokios schemos leidžia grėsmės subjektams užgrobti debesyje pagrįstus dirbtinio intelekto įrankius, dažnai užsidirbant iš prieigos parduodant ją kitiems nusikaltėliams.

„Microsoft“ atsakomosios priemonės ir platesnės pasekmės

Reaguodama į šią operaciją, „Microsoft“:

• Atšaukta prieiga : išjungti pavogti grupės kredencialai ir uždaryta paslaugų infrastruktūra.
• Konfiskuoti domenai : gautas teismo įsakymas uždaryti autim[.]net .
• Sustiprinta gynyba : įdiegtos papildomos apsaugos priemonės, kad būtų išvengta panašių piktnaudžiavimo ateityje.

Tačiau „Microsoft“ taip pat aptiko įrodymų, kad grupė nusitaikė į kitus AI paslaugų teikėjus, o tai rodo didesnę piktnaudžiavimo AI tendenciją kibernetinio saugumo srityje.

AI įrankiai: dviašmenis kardas

Nors generatyvūs AI įrankiai, tokie kaip „ChatGPT“ ir DALL-E, siūlo didžiulę naudą, kibernetinių nusikaltėlių piktnaudžiavimas jais išryškina skubų patobulintų saugos protokolų poreikį:

1. API sauga : organizacijos turi užtikrinti tvirtą API raktų apsaugą, kad būtų išvengta neteisėtos prieigos.
2. Grėsmių stebėjimas : nuolatinis AI paslaugų naudojimo stebėjimas gali padėti aptikti ir blokuoti nenormalų elgesį.

„Microsoft“ ieškinys atskleidžia pavojingą AI ir kibernetinių nusikaltimų sankirtą. Kadangi grėsmės veikėjai vis dažniau naudoja dirbtinio intelekto paslaugas žalingam turiniui kurti ir kenkėjiškoms programoms kurti, organizacijos turi teikti pirmenybę savo AI infrastruktūros apsaugai.

Šis atvejis yra ryškus priminimas: nors AI yra technologijų ateitis, jos pažeidžiamumas gali būti panaudotas ginklu, todėl tvirtos kibernetinio saugumo priemonės yra absoliučiai būtinos kovojant su skaitmeninėmis grėsmėmis.