Microsoft võtab Azure AI-d pahatahtlikel eesmärkidel ära kasutavate häkkerite vastu õiguslikke meetmeid
Microsofti käimasolev võitlus küberkuritegevuse vastu on jõudnud uutesse kõrgustesse oma viimase kohtuasjaga, mis on suunatud häkkimisrühmale, keda süüdistatakse Azure'i generatiivsete AI-teenuste ärakasutamises. Tehnoloogiahiiglane paljastas, et välismaised ohus osalejad lõid teenusena häkkimise platvormi, et mööda minna Azure AI turvaprotokollidest, võimaldades luua kahjulikku sisu ja pahavara .
See juhtum rõhutab kasvavaid riske, mida põhjustavad küberkurjategijad, kes kasutavad tehisintellekti platvorme pahatahtlikel eesmärkidel, mis seab organisatsioonidele kogu maailmas olulisi küberjulgeoleku väljakutseid.
Sisukord
Kuidas häkkerid Microsofti Azure AI-d ära kasutasid
Microsofti digitaalkuritegude üksus (DCU) paljastas operatsiooni 2024. aasta juulis. Rühm kasutas avalikest allikatest kogutud varastatud kliendimandaate, et rikkuda Azure'i süsteeme ja rikkuda tehisintellekti mudeleid, nagu OpenAI DALL-E.
Peamised üksikasjad hõlmavad järgmist:
- Mandaadivargus : Azure OpenAI teenustele juurdepääsuks kasutati varastatud Azure API võtmeid ja Entra ID autentimisandmeid.
- Kahjuliku sisu loomine : rühm teenis oma juurdepääsu rahaks, luues tööriistu solvavate piltide loomiseks ja tehisintellekti sisufiltritest möödahiilimiseks.
- Häkkimine teenusena : rühmitus müüs juurdepääsu oma tööriistadele selliste veebisaitide kaudu nagu aitism[.]net ja jagas kasutusjuhiseid teiste küberkurjategijatega.
Need tegevused tõid kaasa tuhandete kahjulike piltide ebaseadusliku genereerimise ja soodustasid edasist ebaseaduslikku tehisintellekti kuritarvitamist, samal ajal kui kurjategijad püüdsid oma digitaalseid jalajälgi kustutada.
Pahavara ühendus
Generatiivsete AI-teenuste kuritarvitamisel on pahavara arendamisele laiem mõju . Ohuosalised võivad potentsiaalselt:
- Looge andmepüügipeibutisi või võltsveebisaite, mis on loodud usaldusväärsete platvormide jäljendamiseks.
See ärakasutamine toob esile, kuidas häkkimisrühmad arendavad oma taktikat, segades varastatud mandaate ja täiustatud tehisintellekti võimalusi, et korraldada ulatuslikke küberrünnakuid.
Puhverserveri vastupidine kasutamine ja LLM-jacking
Juhtumi üks tähelepanuväärne aspekt on pöördpuhverserveri kasutamine, näiteks de3u tööriist. Need puhverserverid suunasid suhtluse kasutajaseadmetelt Cloudflare'i tunneli kaudu Azure OpenAI teenustele, jäljendades seaduslikke API-kõnesid.
See tehnika peegeldab LLMjackingi rünnakutes tuvastatud taktikat, kus varastatud pilvmandaate kasutatakse suurte keelemudelite (LLM) teenustele, nagu Anthropic, AWS Bedrock ja Google Vertex AI, juurdepääsemiseks. Sellised skeemid võimaldavad ohus osalejatel kaaperdada pilvepõhiseid AI-tööriistu, teenides juurdepääsu sageli rahaks, müües seda teistele kurjategijatele.
Microsofti vastumeetmed ja laiemad tagajärjed
Vastuseks sellele toimingule tegi Microsoft järgmist:
- Tühistatud juurdepääs : keelati grupi varastatud mandaadid ja suleti nende teenuseinfrastruktuur.
- Arestitud domeenid : saadi kohtumäärus aitism[.]net sulgemiseks.
- Tugevdatud kaitse : rakendatud täiendavad kaitsemeetmed, et vältida sarnaseid kuritarvitamisi tulevikus.
Kuid Microsoft avastas ka tõendeid selle kohta, et rühm sihib teisi AI-teenuse pakkujaid, mis viitab tehisintellekti kuritarvitamise suuremale tendentsile küberjulgeoleku maastikul.
AI tööriistad: kahe teraga mõõk
Kuigi generatiivsed AI-tööriistad, nagu ChatGPT ja DALL-E, pakuvad tohutuid eeliseid, toob nende kuritarvitamine küberkurjategijate poolt esile tungiva vajaduse täiustatud turvaprotokollide järele:
- API turvalisus : organisatsioonid peavad tagama API võtmete tugeva kaitse, et vältida volitamata juurdepääsu.
- Ohtude jälgimine : AI-teenuse kasutamise pidev jälgimine võib aidata tuvastada ja blokeerida anomaalset käitumist.
Microsofti hagi heidab valgust tehisintellekti ja küberkuritegevuse ohtlikule ristumiskohale. Kuna ohus osalejad kasutavad tehisintellekti teenuseid üha enam kahjuliku sisu loomiseks ja pahavara arendamiseks, peavad organisatsioonid seadma esikohale oma tehisintellekti infrastruktuuri kaitsmise.
Juhtum on karm meeldetuletus: kuigi tehisintellekt esindab tehnoloogia tulevikku, saab selle haavatavust relvastada, mistõttu on digitaalsete ohtude vastu võitlemisel hädavajalikud tugevad küberjulgeolekumeetmed.