DeepSeek drošības pārkāpums atklāj AI ievainojamības un izraisa kiberuzbrukumus

Ķīnas jaunākais ģeneratīvais AI DeepSeek kopš tā palaišanas ir bijis intensīvas kiberdrošības pārbaudes objekts. Drošības pētnieki nesen atklāja sistēmas tūlītēju jailbreak, kas atklāja modeļa iekšējo darbību. Tikmēr DeepSeek ir saskārusies arī ar DDoS uzbrukumu viļņiem, liekot tai ierobežot jaunu lietotāju reģistrāciju. Šie incidenti izceļ gan AI modeļu drošības riskus, gan pieaugošos kiberuzbrukumus, kuru mērķis ir AI pakalpojumi.

DeepSeek sistēmas uzvedne Jailbreak: ko atklāja pētnieki

Neilgi pēc DeepSeek debijas API drošības firmas Wallarm pētnieki atklāja jailbreak ievainojamību, kas atklāja AI modeļa pilnu sistēmas uzvedni. Šāda veida drošības nepilnības ir īpaši satraucošas, jo AI sistēmas uzvedne nosaka tās uzvedību, atbildes ierobežojumus un satura regulēšanas politikas. Lielākā daļa AI izstrādātāju, tostarp OpenAI ar ChatGPT, veic stingrus pasākumus, lai novērstu šādas noplūdes.

Wallarm 1. februāra emuāra ierakstā norādīja, ka tā jailbreak metode izmantoja neobjektivitāti balstītu mākslīgā intelekta atbildes loģiku, lai gan uzņēmums noklusēja konkrētas tehniskas detaļas atbildīgas informācijas atklāšanas politikas dēļ. DeepSeek tika informēts par problēmu, un kopš tā laika tas ir izvietojis labojumu. Tomēr Wallarm publicēja pilnu sistēmas uzvednes tekstu, ļaujot drošības ekspertiem analizēt DeepSeek darbības sistēmu.

Šī atklāsme izraisīja diskusijas par:

• AI privātuma pasākumi un tas, cik efektīvi DeepSeek aizsargā lietotāju datus.
• Iespējamās novirzes DeepSeek apmācībā, īpaši ņemot vērā apgalvojumus, ka tas apmācībās varētu būt izmantojis OpenAI datus .
• Normatīvie ierobežojumi , kas varētu ietekmēt AI modeļa darbību, jo īpaši Ķīnā, kur AI saturs tiek stingri kontrolēts.

Lai izpētītu iespējamo OpenAI ietekmi, Wallarm salīdzināja DeepSeek sistēmas uzvedni ar ChatGPT. Saskaņā ar ChatGPT analīzi DeepSeek atbildes atbilst stingrākiem atbilstības pasākumiem, savukārt OpenAI pieeja ir elastīgāka un orientēta uz lietotāju.

DDoS uzbrukumi DeepSeek: koordinēts kiberuzbrukums

Pieaugot DeepSeek popularitātei, tas kļuva par liela mēroga izplatītu pakalpojumu atteikuma (DDoS) uzbrukumu mērķi. Uzņēmums paziņoja, ka tai ir jābloķē jaunu lietotāju reģistrācija milzīgā uzbrukumu skaita dēļ.

Saskaņā ar NSFocus, kiberdrošības firmu, kas uzrauga uzbrukumus, DeepSeek 25., 26. un 27. janvārī saskārās ar trim lieliem DDoS uzbrukumu viļņiem, kuru mērķis bija API saskarne. Katrs uzbrukums ilga apmēram 35 minūtes, nopietni ietekmējot DeepSeek platformu. Līdz 28. janvārim API saskarne joprojām nebija pieejama pastāvīgu traucējumu dēļ.

Uzbrukums tika veikts arī DeepSeek tērzēšanas sistēmai, un DDoS streiki tika novēroti 20. un 25. janvārī, katrs ilgst aptuveni stundu.

DDoS uzbrukuma metodes

NSFocus identificēja vairākas uz refleksiju balstītas uzbrukuma metodes, tostarp:

• NTP refleksijas uzbrukumi — tīkla laika protokola (NTP) serveru izmantošana, lai pastiprinātu uzbrukuma trafiku.
• Memcached refleksijas uzbrukumi — nepareizi konfigurētu atmiņu kešatmiņu serveru izmantošana, lai pārpludinātu DeepSeek ar milzīgu trafiku.
• SSDP refleksijas uzbrukumi — Vienkāršā pakalpojuma atklāšanas protokola (SSDP) pakalpojumu mērķauditorijas atlase, lai pārslogotu tīkla resursus.
• CLDAP pārdomu uzbrukumi — izmantojiet vieglo direktoriju piekļuves protokola (CLDAP) serverus bez savienojuma, lai palielinātu uzbrukumu apjomu.

Ļoti koordinēts uzbrukums

Līdz 28. janvārim DeepSeek ziņoja, ka uzbrucēji pielāgo savas metodes, reaģējot uz uzņēmuma mazināšanas pasākumiem. Šo uzbrukumu precizitāte un koordinācija lika NSFocus secināt, ka vainīgie bija profesionāla, labi organizēta komanda, nevis nejauši hakeri.

"Uzbrucējs demonstrē ārkārtīgi augstu profesionalitāti katrā uzbrukuma solī, sākot no mērķu izvēles līdz uzbrukumu laika noteikšanai un intensitātes kontrolei," norādīja NSFocus.

Saskaņā ar kiberdrošības uzņēmuma analīzi galvenie uzbrukumu avoti bija ASV, Apvienotās Karalistes un Austrālijas sistēmas.

Ko tas nozīmē AI drošībai

DeepSeek incidenti izceļ pieaugošos kiberdrošības riskus ģeneratīvajā AI. AI pakalpojumi tagad ir galvenie mērķi gan drošības pētniekiem, gan ļaunprātīgiem dalībniekiem, sākot no ievainojamībām, kas saistītas ar ievainojamību un beidzot ar mērķtiecīgiem kiberuzbrukumiem.

Galvenās līdzņemamās lietas:

1. AI jailbreaks joprojām ir drošības izaicinājums — pat jaunākus AI modeļus, piemēram, DeepSeek, var pārveidot, lai atklātu to iekšējo loģiku.
2. DDoS uzbrukumi pret mākslīgā intelekta platformām pieaug – AI pakalpojumiem kļūstot arvien populārākam, tie piesaista vairāk koordinētu kiberuzbrukumu.
3. AI drošībai ir strauji jāattīstās — izstrādātājiem ir jāievieš stingri drošības pasākumi, lai novērstu tūlītēju noplūdi un aizsargātos pret kiberdraudiem.

Tā kā AI turpina veidot digitālo ainavu, kiberdrošības komandām ir jāpaliek soli priekšā, lai nodrošinātu AI modeļu drošību un noturību pret jauniem draudiem.