Ķīniešu izcelsmes DeepSeek AI ierobežo jaunu reģistrēšanos saistībā ar kiberuzbrukumiem un pieaugošām drošības problēmām

Ķīniešu mākslīgā intelekta jaunuzņēmums DeepSeek ir strauji guvis panākumus mākslīgā intelekta pasaulē, taču līdz ar tā pieaugošo popularitāti rodas arvien vairāk izaicinājumu. Uzņēmums nesen ir ierobežojis jaunu lietotāju reģistrāciju, ko tas raksturo kā liela mēroga ļaunprātīgus uzbrukumus saviem pakalpojumiem. Kamēr esošie lietotāji var turpināt piekļūt platformai, jaunu reģistrēšanās uz laiku ir ierobežota.

Situācija izceļ pieaugošos drošības apdraudējumus, ar kuriem saskaras AI platformas, un rada bažas par plašākām AI drošības, privātuma un ģeopolitiskās spriedzes sekām, kas saistītas ar Ķīnas tehnoloģiju uzņēmumiem.

Kiberuzbrukumi, kuru mērķis ir DeepSeek

DeepSeek nav atklājis konkrētus datus par šo uzbrukumu būtību, taču kiberdrošības eksperti uzskata, ka tie varētu būt izplatītu pakalpojumu atteikuma (DDoS) uzbrukumu, sistēmas uzvedņu izvilkšanas un jailbreak mēģinājumi, kuru mērķis ir apiet satura ierobežojumus vai manipulēt ar AI uzvedību.

Saskaņā ar Rapid7 galvenā AI inženiera Stjuarta Millāra teikto, uzbrucēji varētu pārbaudīt DeepSeek atbildes uz sensitīviem jautājumiem, mēģināt iegūt sistēmas uzvednes vai mēģināt mainīt AI darbību. Veiksmīga sistēmas tūlītēja izvilkšana var atklāt patentētas instrukcijas un, iespējams, pakļaut mākslīgā intelekta ievainojamības turpmākai izmantošanai.

Kiberdrošības pētnieks Ērihs Krons no KnowBe4 norādīja, ka šādus uzbrukumus var motivēt dažādi faktori:

• Izspiešana — uzbrucēji var pieprasīt izpirkuma maksu apmaiņā pret traucējumu apturēšanu.
• Korporatīvā sabotāža — konkurenti varētu mēģināt vājināt DeepSeek reputāciju un tirgus pozīciju.
• Investīciju aizsardzība — subjekti, kas investē konkurējošos AI projektos, var uztvert DeepSeek kā draudu un censties to iedragāt.

DeepSeek meteoriskais pieaugums AI pasaulē

2023. gadā dibinātais uzņēmums DeepSeek ir ātri pozicionējis sevi kā galveno sāncensi AI sacīkstēs. Uzņēmuma modeļi, tostarp DeepSeek-V3, ir nonākuši virsrakstos par to spēju konkurēt ar Rietumu AI modeļiem, piemēram, OpenAI GPT un Meta LLaMA, un pat pārspēt tos, vienlaikus apmācot par niecīgu izmaksu daļu.

Tās iOS tērzēšanas robota lietotne nesen strauji pieauga Apple bezmaksas lietotņu topu augšgalā ASV un Apvienotajā Karalistē, popularitātes ziņā pat apsteidzot OpenAI ChatGPT.

Galvenais DeepSeek panākumu faktors ir tā efektivitāte. Uzņēmums apgalvo, ka tā DeepSeek-V3 modelim ir nepieciešams ievērojami mazāk GPU stundu, salīdzinot ar Silīcija ielejas kolēģiem. Tā kā ASV sankcijas ierobežo uzlaboto AI mikroshēmu pārdošanu Ķīnas uzņēmumiem, šī efektivitāte ir kļuvusi par būtisku konkurences priekšrocību.

Neraugoties uz šiem tehnoloģiskajiem sasniegumiem, DeepSeek joprojām ir pretrunīgs, ņemot vērā tās cenzūras politiku un iespējamos valsts drošības riskus, kas saistīti ar datu uzglabāšanas praksi.

Drošības trūkumi un konfidencialitātes problēmas

DeepSeek ir saskārusies ar iepriekšējām drošības ievainojamībām , tostarp tūlītēju injekcijas izmantošanu, ko atklāja drošības pētnieks Johans Rehbergers. Šis trūkums varēja ļaut uzbrucējiem pārņemt lietotāju kontus, izmantojot starpvietņu skriptēšanas (XSS) lietderīgo slodzi, kas iegulta AI ģenerētajās atbildēs.

Turklāt nesenajā Kela draudu izlūkošanas ziņojumā konstatēts, ka DeepSeek AI modeļi ir neaizsargāti pret jailbreak uzbrukumiem, kas ļauj tiem radīt neētisku un nelikumīgu saturu, tostarp:

• Ransomware koda ģenerēšana
• Dezinformācijas izdomāšana
• Soli pa solim rokasgrāmatas sprāgstvielu un toksīnu izgatavošanai
• Ļaunprātīgas programmatūras izstrādes instrukcijas

Šie atklājumi rada nopietnas ētiskas bažas par to, kā mākslīgais intelekts var tikt ļaunprātīgi izmantots, ja tas nav pareizi nodrošināts.

Turklāt DeepSeek privātuma politika atklāj, ka lietotāju dati, tostarp informācija par ierīci, tīkla informācija un maksājumu dati, tiek glabāti serveros, kas atrodas Ķīnā. Tas ir izraisījis bažas rietumvalstīs, jo īpaši ASV, kur ASV Jūras spēki nesen ieteica personālam izvairīties no DeepSeek lietošanas iespējamo drošības un ētisko risku dēļ.

Arī Itālijas datu aizsardzības iestāde ir sākusi izmeklēšanu, pieprasot, lai DeepSeek precizē, kā tā vāc, glabā un apstrādā lietotāju datus. Uzņēmumam ir 20 dienas, lai atbildētu uz jautājumiem par datu avotiem, apstrādes juridiskajiem pamatojumiem un to, vai AI modeļa apmācība ietver datu nokasīšanu.

Jauna AI sāncensība ģeopolitiskās spriedzes apstākļos

DeepSeek parādīšanās globālajām mākslīgā intelekta sacīkstēm piešķir jaunu dimensiju, jo īpaši tāpēc, ka ASV un Ķīnas tehnoloģiju spriedze turpina saasināties. AI kopiena ir pievērsusi uzmanību, OpenAI izpilddirektors Sems Altmans nosaucis DeepSeek spriešanas modeli par "iespaidīgu" un atzīstot to par likumīgu konkurentu.

Interesanti, ka NVIDIA pārstāvis Džims Fans atzīmēja, ka DeepSeek “saglabā OpenAI sākotnējo misiju”, koncentrējoties uz atklātu izpēti un plašu pieejamību — paziņojums, kas smalki kritizē OpenAI neseno pāreju uz slēgtā pirmkoda modeļiem.

Tikmēr Ķīna ir aizstāvējusi savu nostāju attiecībā uz tehnoloģiju noteikumiem, apgalvojot, ka tas ļauj globālajiem AI uzņēmumiem darboties tik ilgi, kamēr tie ievēro vietējos likumus. Tomēr joprojām pastāv bažas par to, kā Ķīnas AI uzņēmumus var ietekmēt valdības noteikumi, cenzūras politika un nacionālās drošības direktīvas.

Galvenais brīdis AI drošībai

DeepSeek pieaugums parāda, ka Ķīna gūst nopietnus panākumus AI attīstībā, taču tas arī uzsver pieaugošās kiberdrošības problēmas, ar kurām saskaras AI uzņēmumi. Neatkarīgi no tā, vai tie ir ļaunprātīgi kiberuzbrukumi, privātuma problēmas vai ģeopolitiskā pārbaude, DeepSeek ceļojums izceļ sarežģīto mijiedarbību starp AI inovācijām, drošību un globālo politiku.

Lietotājiem šie notikumi kalpo kā atgādinājums būt piesardzīgiem attiecībā uz AI platformām, kas apstrādā sensitīvus datus, jo īpaši tām, kurām ir nepārskatāmas privātuma politikas un iespējamās drošības ievainojamības. Tā kā AI turpina attīstīties, uzņēmumiem, kas vēlas saglabāt lietotāju uzticību un globālo uzticamību, būs ļoti svarīgi nodrošināt stabilus kiberdrošības pasākumus un pārredzamu datu praksi.