DeepSeek saugumo pažeidimas atskleidžia AI pažeidžiamumą ir sukelia kibernetines atakas

Naujausias Kinijos generacinis dirbtinis intelektas „DeepSeek“ buvo intensyviai tikrinamas kibernetinio saugumo srityje nuo pat jo pasirodymo. Saugumo tyrinėtojai neseniai atskleidė sistemos greitą įsilaužimą, kuris atskleidė vidinį modelio veikimą. Tuo tarpu „DeepSeek“ taip pat susidūrė su DDoS atakų bangomis, todėl buvo priversta apriboti naujų vartotojų registraciją. Šie incidentai išryškina ir AI modelių keliamą pavojų saugumui, ir vis sudėtingesnes kibernetines atakas, nukreiptas į DI paslaugas.

„DeepSeek“ sistemos raginimas „Jailbreak“: ką atrado mokslininkai

Netrukus po „DeepSeek“ debiuto API saugos įmonės „Wallarm“ tyrėjai aptiko „Jailbreak“ pažeidžiamumą, kuris atskleidė visą AI modelio sistemos raginimą. Šio tipo saugos trūkumai yra ypač susirūpinę, nes AI sistemos raginimas diktuoja jos elgesį, atsako apribojimus ir turinio moderavimo politiką. Dauguma AI kūrėjų, įskaitant OpenAI su ChatGPT, imasi griežtų priemonių, kad išvengtų tokio nutekėjimo.

„Wallarm“ vasario 1 d. tinklaraščio įraše teigė, kad jo „jailbreak“ metodas išnaudojo šališkumu pagrįstą AI atsako logiką, nors bendrovė nuslėpė konkrečią techninę informaciją dėl atsakingos atskleidimo politikos. „DeepSeek“ buvo pranešta apie problemą ir nuo tada įdiegė pataisymą. Tačiau Wallarm paskelbė visą sistemos raginimo tekstą, leidžiantį saugumo ekspertams analizuoti „DeepSeek“ operacinę sistemą.

Šis apreiškimas sukėlė diskusijas apie:

• AI privatumo priemonės ir tai, kaip efektyviai DeepSeek saugo vartotojo duomenis.
• Galimas „DeepSeek“ mokymų šališkumas , ypač atsižvelgiant į teiginius, kad mokymams jis galėjo naudoti „OpenAI“ duomenis .
• Reguliavimo apribojimai , galintys turėti įtakos AI modelio veikimui, ypač Kinijoje, kur AI turinys yra griežtai kontroliuojamas.

Siekdamas ištirti galimą OpenAI įtaką, Wallarm palygino DeepSeek sistemos raginimą su ChatGPT. Remiantis „ChatGPT“ analize, „DeepSeek“ atsakymai atitinka griežtesnes atitikties priemones, o „OpenAI“ metodas yra lankstesnis ir orientuotas į vartotoją.

DDoS atakos prieš „DeepSeek“: koordinuotas kibernetinis puolimas

Augant „DeepSeek“ populiarumui, ji tapo didelio masto paskirstytų paslaugų atsisakymo (DDoS) atakų taikiniu. Bendrovė paskelbė, kad turėjo blokuoti naujų vartotojų registraciją dėl didžiulio atakų skaičiaus.

Anot atakas stebinčios kibernetinio saugumo įmonės NSFocus, sausio 25, 26 ir 27 d. DeepSeek susidūrė su trimis pagrindinėmis DDoS atakų bangomis, nukreiptomis į API sąsają. Kiekviena ataka truko apie 35 minutes ir smarkiai paveikė DeepSeek platformą. Iki sausio 28 d. API sąsaja vis dar buvo nepasiekiama dėl nuolatinių trikdžių.

Taip pat buvo užpulta „DeepSeek“ pokalbių sistema – sausio 20 ir 25 dienomis buvo pastebėti DDoS streikai, kurių kiekvienas truko apie valandą.

DDoS atakos metodai

NSFocus nustatė keletą atspindžiu pagrįstų atakų metodų, įskaitant:

• NTP atspindžio atakos – tinklo laiko protokolo (NTP) serverių išnaudojimas atakų srautui sustiprinti.
• „Memcached“ atspindžio atakos – netinkamai sukonfigūruotų „Memcached“ serverių naudojimas norint užtvindyti „DeepSeek“ didžiuliu srautu.
• SSDP atspindžio atakos – Paprastųjų paslaugų aptikimo protokolo (SSDP) tarnybų taikymas tinklo ištekliams perkrauti.
• CLDAP atspindžio atakos – naudokite nenaudojamus lengvojo katalogo prieigos protokolo (CLDAP) serverius, kad padidintumėte atakų skaičių.

Labai koordinuotas puolimas

Iki sausio 28 d. „DeepSeek“ pranešė, kad užpuolikai pritaikė savo metodus, reaguodami į bendrovės pastangas sumažinti poveikį. Šių atakų tikslumas ir koordinavimas paskatino NSFocus padaryti išvadą, kad nusikaltėliai buvo profesionali, gerai organizuota komanda, o ne atsitiktiniai įsilaužėliai.

„Užpuolikas demonstruoja itin aukštą profesionalumą kiekviename puolimo žingsnyje – nuo taikinių parinkimo iki atakų laiko nustatymo ir intensyvumo kontrolės“, – teigė NSFocusas.

Remiantis kibernetinio saugumo įmonės analize, pagrindiniai atakų šaltiniai buvo sistemos iš JAV, Jungtinės Karalystės ir Australijos.

Ką tai reiškia AI saugumui

DeepSeek incidentai pabrėžia didėjančią generatyvaus AI kibernetinio saugumo riziką. Nuo įsilaužimo į kalėjimą pažeidžiamumo iki tikslinių kibernetinių atakų – AI paslaugos dabar yra pagrindiniai saugumo tyrinėtojų ir kenkėjiškų veikėjų taikiniai.

Pagrindiniai patiekalai:

1. AI įsilaužimai išlieka saugumo iššūkiu – net naujesni AI modeliai, tokie kaip „DeepSeek“, gali būti suprojektuoti atvirkštine tvarka, kad atskleistų jų vidinę logiką.
2. DDoS atakų prieš AI platformas daugėja – AI paslaugoms populiarėjant, jos pritraukia labiau koordinuotų kibernetinių atakų.
3. AI saugumas turi sparčiai vystytis – kūrėjai turi įdiegti tvirtas apsaugos priemones, kad būtų išvengta greito nutekėjimo ir apsisaugotų nuo kibernetinių grėsmių.

Dirbtiniam intelektui ir toliau formuojant skaitmeninį kraštovaizdį, kibernetinio saugumo komandos turi būti vienu žingsniu priekyje, siekdamos užtikrinti, kad AI modeliai išliktų saugūs ir atsparūs kylančioms grėsmėms.