Kinijoje sukurtas „DeepSeek AI“ riboja naujų registracijų skaičių dėl kibernetinių atakų ir augančių saugumo problemų

Kinijos AI startuolis „DeepSeek“ sparčiai įsitvirtino dirbtinio intelekto pasaulyje, tačiau augant jo populiarumui kyla vis daugiau iššūkių. Bendrovė neseniai apribojo naujų vartotojų registraciją dėl to, ką ji apibūdina kaip didelio masto kenkėjiškas atakas prieš jos paslaugas. Nors esami vartotojai gali ir toliau naudotis platforma, naujų registracija laikinai apribota.

Situacija pabrėžia didėjančias saugumo grėsmes, su kuriomis susiduria AI platformos, ir kelia susirūpinimą dėl platesnių AI saugumo, privatumo ir geopolitinės įtampos pasekmių, susijusių su Kinijos technologijų įmonėmis.

Kibernetinės atakos, nukreiptos į „DeepSeek“.

„DeepSeek“ neatskleidė konkrečių šių atakų pobūdžio, tačiau kibernetinio saugumo ekspertai mano, kad tai gali būti paskirstytų paslaugų atsisakymo (DDoS) atakų, greitų ištraukų iš sistemos ir bandymų, kuriais siekiama apeiti turinio apribojimus arba manipuliuoti dirbtinio intelekto elgesiu, derinys.

Pasak Stuarto Millaro, pagrindinio Rapid7 AI inžinieriaus, užpuolikai gali išbandyti DeepSeek atsakymus į jautrius klausimus, bandyti išgauti sistemos raginimus arba bandyti pakeisti AI veikimą. Sėkmingas sistemos greitas ištraukimas gali atskleisti patentuotas instrukcijas ir potencialiai atskleisti AI pažeidžiamumą tolesniam išnaudojimui.

Kibernetinio saugumo tyrinėtojas Erichas Kronas iš KnowBe4 atkreipė dėmesį, kad tokias atakas gali paskatinti įvairūs veiksniai:

• Prievartavimas – užpuolikai gali reikalauti išpirkos mainais už trikdžių sustabdymą.
• Įmonių sabotažas – konkurentai gali bandyti susilpninti „DeepSeek“ reputaciją ir padėtį rinkoje.
• Investicijų apsauga – subjektai, investuojantys į konkuruojančius AI projektus, „DeepSeek“ gali suvokti kaip grėsmę ir siekti jai pakenkti.

„DeepSeek“ meteorų kilimas dirbtinio intelekto pasaulyje

2023 m. įkurta „DeepSeek“ greitai tapo pagrindiniu varžovu dirbtinio intelekto lenktynėse. Bendrovės modeliai, įskaitant DeepSeek-V3, pateko į antraštes dėl savo sugebėjimo konkuruoti su Vakarų AI modeliais, tokiais kaip OpenAI GPT ir Meta LLaMA, ir netgi juos pranokti, o mokomi už nedidelę kainą.

Jos „iOS“ pokalbių roboto programa neseniai pakilo į „Apple“ nemokamų programų topų viršūnę JAV ir JK, populiarumu net aplenkdama „OpenAI“ „ChatGPT“.

Pagrindinis „DeepSeek“ sėkmės veiksnys yra jos efektyvumas. Bendrovė teigia, kad jos DeepSeek-V3 modeliui reikia žymiai mažiau GPU valandų, palyginti su Silicio slėnio kolegomis. JAV sankcijomis apribojus pažangių AI lustų pardavimą Kinijos įmonėms, šis efektyvumas tapo esminiu konkurenciniu pranašumu.

Nepaisant šių technologinių laimėjimų, „DeepSeek“ tebėra prieštaringas dėl savo cenzūros politikos ir galimų nacionalinio saugumo pavojų, susijusių su duomenų saugojimo praktika.

Saugumo trūkumai ir susirūpinimas dėl privatumo

DeepSeek susidūrė su praeities saugumo spragomis , įskaitant greitą injekciją, kurią atrado saugumo tyrinėtojas Johannas Rehbergeris. Šis trūkumas galėjo leisti užpuolikams perimti vartotojų paskyras, naudojant kelių svetainių scenarijų (XSS) naudingą apkrovą, įterptą į AI sugeneruotus atsakymus.

Be to, neseniai Kela parengtoje grėsmių žvalgybos ataskaitoje nustatyta, kad DeepSeek AI modeliai yra pažeidžiami jailbreak atakų, leidžiančių jiems generuoti neetišką ir neteisėtą turinį, įskaitant:

• Ransomware kodo generavimas
• Dezinformacijos kūrimas
• Žingsnis po žingsnio sprogmenų ir toksinų gamybos vadovai
• Kenkėjiškų programų kūrimo instrukcijos

Šios išvados kelia rimtą etinį susirūpinimą dėl to, kaip dirbtinis intelektas gali būti netinkamai naudojamas, jei jis nėra tinkamai apsaugotas.

Be to, „DeepSeek“ privatumo politika atskleidžia, kad naudotojo duomenys, įskaitant įrenginio informaciją, tinklo informaciją ir mokėjimo duomenis, yra saugomi serveriuose, esančiuose Kinijoje. Tai sukėlė susirūpinimą Vakarų šalyse, ypač JAV, kur JAV karinis jūrų laivynas neseniai patarė personalui vengti naudoti „DeepSeek“ dėl galimų saugumo ir etinių pavojų.

Italijos duomenų apsaugos institucija taip pat pradėjo tyrimą, reikalaudama, kad „DeepSeek“ paaiškintų, kaip renka, saugo ir apdoroja naudotojų duomenis. Bendrovė turi 20 dienų atsakyti į klausimus dėl duomenų šaltinių, teisinio apdorojimo pagrindimo ir ar AI modelio mokymas apima duomenų išgryninimą.

Nauja AI konkurencija tarp geopolitinės įtampos

„DeepSeek“ atsiradimas prideda naują dimensiją pasaulinėms AI lenktynėms, ypač kai JAV ir Kinijos technologijų įtampa ir toliau didėja. AI bendruomenė atkreipė dėmesį, o OpenAI generalinis direktorius Samas Altmanas pavadino „DeepSeek“ samprotavimo modelį „įspūdingu“ ir pripažino jį kaip teisėtą konkurentą.

Įdomu tai, kad NVIDIA atstovas Jimas Fanas pažymėjo, kad „DeepSeek“ „išlaiko pirminę OpenAI misiją“, daugiausia dėmesio skirdamas atviriems tyrimams ir plačiam prieinamumui – teiginys, kuriame subtiliai kritikuojamas naujausias OpenAI perėjimas prie uždarojo kodo modelių.

Tuo tarpu Kinija gynė savo poziciją dėl technologijų taisyklių, tvirtindama, kad ji leidžia pasaulinėms AI įmonėms veikti tol, kol jos laikosi vietinių įstatymų. Tačiau išlieka susirūpinimas dėl to, kaip Kinijos dirbtinio intelekto įmones gali paveikti vyriausybės reglamentai, cenzūros politika ir nacionalinio saugumo direktyvos.

Svarbiausias AI saugumo momentas

„DeepSeek“ augimas rodo, kad Kinija žengia rimtų žingsnių plėtojant dirbtinį intelektą, tačiau tai taip pat pabrėžia didėjančius kibernetinio saugumo iššūkius, su kuriais susiduria AI įmonės. Nesvarbu, ar tai būtų kenkėjiškos kibernetinės atakos, privatumo problemos ar geopolitinė kontrolė, „DeepSeek“ kelionė atskleidžia sudėtingą dirbtinio intelekto inovacijų, saugumo ir pasaulinės politikos sąveiką.

Naudotojams šie įvykiai primena, kad jie turi būti atsargūs dėl dirbtinio intelekto platformų, kurios tvarko jautrius duomenis, ypač tas, kurių privatumo politika yra neskaidri ir galimos saugumo spragos. Kadangi dirbtinis intelektas ir toliau vystosi, įmonėms, norinčioms išlaikyti vartotojų pasitikėjimą ir pasaulinį patikimumą, labai svarbu užtikrinti patikimas kibernetinio saugumo priemones ir skaidrią duomenų praktiką.