DeepSeeki turvarikkumine paljastab tehisintellekti haavatavused ja tekitab küberrünnakuid

Hiina uusim generatiivne tehisintellekt DeepSeek on selle käivitamisest saadik olnud intensiivse küberjulgeoleku kontrolli all. Turvateadlased paljastasid hiljuti süsteemi viipe jailbreak, mis paljastas mudeli sisemise töö. Samal ajal on DeepSeek silmitsi seisnud ka DDoS-i rünnakute lainetega, sundides seda piirama uute kasutajate registreerimist. Need juhtumid toovad esile nii tehisintellektimudelite turvariskid kui ka tehisintellekti teenustele suunatud küberrünnakute keerukuse suurenemise.

DeepSeeki süsteemiviip Jailbreak: mida teadlased avastasid

Vahetult pärast DeepSeeki debüüti leidsid API turbefirma Wallarmi teadlased jailbreak haavatavuse, mis paljastas tehisintellekti mudeli täieliku süsteemiviipa. Seda tüüpi turvaviga on eriti murettekitav, kuna AI süsteemiviip määrab selle käitumise, reageerimispiirangud ja sisu modereerimise poliitikad. Enamik AI arendajaid, sealhulgas OpenAI koos ChatGPT-ga, võtavad selliste lekete vältimiseks rangeid meetmeid.

Wallarm väitis 1. veebruari ajaveebi postituses, et tema jailbreak meetod kasutas kallutatud tehisintellekti reageerimise loogikat, kuigi ettevõte jättis vastutustundliku avalikustamispoliitika tõttu teatud tehnilisi üksikasju varjamata. DeepSeeki teavitati probleemist ja ta on sellest ajast peale selle paranduse juurutanud. Wallarm avaldas aga täieliku süsteemiviiba teksti, võimaldades turbeekspertidel analüüsida DeepSeeki tööraamistikku.

See ilmutus tekitas arutelusid teemal:

• AI privaatsusmeetmed ja see, kui tõhusalt DeepSeek kasutajaandmeid kaitseb.
• Võimalikud eelarvamused DeepSeeki koolituses, eriti kui arvestada väiteid, et see võis treenimiseks kasutada OpenAI andmeid .
• Regulatiivsed piirangud , mis võivad mõjutada AI mudeli toimimist, eriti Hiinas, kus tehisintellekti sisu on rangelt kontrollitud.

OpenAI võimaliku mõju uurimiseks võrdles Wallarm DeepSeeki süsteemiviipa ChatGPT-ga. ChatGPT analüüsi kohaselt on DeepSeeki vastused kooskõlas rangemate vastavusmeetmetega, samas kui OpenAI lähenemisviis on paindlikum ja kasutajakesksem.

DDoS-i rünnakud DeepSeekile: koordineeritud küberrünnak

DeepSeeki populaarsuse kasvades sai see laiaulatuslike hajutatud teenusekeelu (DDoS) rünnakute sihtmärgiks. Ettevõte teatas, et peab rünnakute suure hulga tõttu uute kasutajate registreerimised blokeerima.

Ründe jälgiva küberturbefirma NSFocuse andmetel seisis DeepSeek silmitsi kolme suure DDoS-rünnakute lainega, mis olid suunatud tema API liidesele 25., 26. ja 27. jaanuaril. Iga rünnak kestis umbes 35 minutit, mõjutades tõsiselt DeepSeeki platvormi. 28. jaanuariks ei olnud API liides jätkuvate häirete tõttu endiselt saadaval.

Samuti rünnati DeepSeeki vestlussüsteemi, DDoS-i streike täheldati 20. ja 25. jaanuaril, kumbki kestis umbes tund.

DDoS-i ründemeetodid

NSFocus tuvastas mitu peegelduspõhist rünnakutehnikat, sealhulgas:

• NTP peegeldusrünnakud – võrguajaprotokolli (NTP) serverite kasutamine rünnakuliikluse võimendamiseks.
• Memcached peegeldusrünnakud – valesti konfigureeritud Memcached serverite kasutamine DeepSeeki massilise liiklusega üleujutamiseks.
• SSDP peegeldusrünnakud – Simple Service Discovery Protocol (SSDP) teenuste sihtimine võrguressursside ülekoormamiseks.
• CLDAP-i peegeldusrünnakud – CLDAP-i (CLDAP) serverite kasutamine, et suurendada rünnakute mahtu.

Väga koordineeritud rünnak

28. jaanuariks teatas DeepSeek, et ründajad kohandasid oma meetodeid vastuseks ettevõtte leevendusmeetmetele. Nende rünnakute täpsus ja koordineerimine viis NSFocuse järeldusele, et kurjategijad olid pigem professionaalne ja hästi organiseeritud meeskond kui juhuslikud häkkerid.

"Ründaja näitab üles äärmiselt kõrget professionaalsust igal rünnakuetapil, alates sihtmärkide valimisest kuni rünnakute ajastamise ja intensiivsuse kontrollimiseni," ütles NSFocus.

Küberjulgeolekufirma analüüsi kohaselt olid peamised rünnakuallikad USA, Ühendkuningriigi ja Austraalia süsteemid.

Mida see AI turvalisuse jaoks tähendab?

DeepSeeki juhtumid toovad esile kasvavaid küberjulgeolekuriske generatiivses tehisintellektis. Alates jailbreak haavatavustest kuni sihitud küberrünnakuteni on AI-teenused nüüd nii turvauurijate kui ka pahatahtlike osalejate peamised sihtmärgid.

Peamised pakkumised:

1. AI jailbreak on endiselt turvaprobleem – isegi uuemaid AI mudeleid, nagu DeepSeek, saab nende sisemise loogika paljastamiseks pöördprojekteerida.
2. DDoS-i rünnakud AI-platvormide vastu sagenevad – AI-teenuste populaarsuse suurenedes tõmbavad need ligi paremini koordineeritud küberrünnakuid.
3. Tehisintellekti turvalisus peab kiiresti arenema – arendajad peavad rakendama tugevaid kaitsemeetmeid, et vältida kiireid lekkeid ja kaitsta küberohtude eest.

Kuna AI kujundab jätkuvalt digitaalset maastikku, peavad küberjulgeoleku meeskonnad olema sammu võrra ees, et tagada tehisintellekti mudelite turvalisus ja vastupidavus esilekerkivate ohtude suhtes.