Hiinas põhinev DeepSeek AI piirab küberrünnakute ja kasvavate turvaprobleemide tõttu uusi registreerumisi

Hiina tehisintellekti idufirma DeepSeek on tehisintellektimaailmas kiiresti tuntust kogunud, kuid selle kasvava populaarsusega kaasneb üha suurem hulk väljakutseid. Ettevõte on hiljuti piiranud uute kasutajate registreerimist, kuna ta kirjeldab oma teenustele suunatud ulatuslikke pahatahtlikke rünnakuid. Kuigi olemasolevad kasutajad saavad platvormile juurdepääsu jätkata, on uutele registreerumine ajutiselt piiratud.

Olukord tõstab esile kasvavaid turvaohtusid, millega AI platvormid silmitsi seisavad, ja tekitab muret tehisintellekti turvalisuse, privaatsuse ja Hiina tehnoloogiaettevõtteid ümbritsevate geopoliitiliste pingete laiema mõju pärast.

DeepSeekile suunatud küberrünnakud

DeepSeek ei ole nende rünnakute olemuse üksikasju avaldanud, kuid küberturvalisuse eksperdid usuvad, et need võivad olla segu hajutatud teenuse keelamise (DDoS) rünnakutest, süsteemi viipade väljavõtmistest ja jailbreak katsetest, mille eesmärk on sisupiirangutest mööda minna või AI käitumist manipuleerida.

Rapid7 peamise tehisintellekti inseneri Stuart Millari sõnul võivad ründajad testida DeepSeeki vastuseid tundlikele küsimustele, püüda välja võtta süsteemiviipasid või muuta tehisintellekti toimimist. Süsteemi edukas väljavõte võib paljastada omandiõigusega kaitstud juhised ja potentsiaalselt paljastada tehisintellekti haavatavused edasisele ärakasutamisele.

Küberjulgeoleku uurija Erich Kron KnowBe4-st märkis, et sellised rünnakud võivad olla ajendatud mitmetest teguritest:

• Väljapressimine – Ründajad võivad häirete peatamise eest nõuda lunaraha.
• Ettevõtte sabotaaž – konkurendid võivad püüda nõrgendada DeepSeeki mainet ja turupositsiooni.
• Investeeringute kaitse – konkureerivatesse AI-projektidesse investeerinud üksused võivad näha DeepSeeki ohtu ja püüda seda õõnestada.

DeepSeeki meteoriline tõus AI maailmas

2023. aastal asutatud DeepSeek on kiiresti positsioneerinud end tehisintellekti võidujooksus peamise kandidaadina. Ettevõtte mudelid, sealhulgas DeepSeek-V3, on jõudnud pealkirjadesse oma suutlikkusega konkureerida lääne AI mudelitega, nagu OpenAI GPT ja Meta LLaMA, ja isegi neid edestada, olles samal ajal koolitatud murdosa kuludest.

Selle iOS-i vestlusrotirakendus tõusis hiljuti USA-s ja Ühendkuningriigis Apple'i tasuta rakenduste edetabeli tippu, edestades populaarsuselt isegi OpenAI ChatGPT-d.

DeepSeeki edu peamine tegur on selle tõhusus. Ettevõte väidab, et selle DeepSeek-V3 mudel nõuab Silicon Valley kolleegidega võrreldes oluliselt vähem GPU tunde. Kuna USA sanktsioonid piiravad täiustatud tehisintellekti kiipide müüki Hiina ettevõtetele, on see tõhusus muutunud kriitiliseks konkurentsieeliseks.

Vaatamata nendele tehnoloogilistele läbimurretele on DeepSeek endiselt vastuoluline oma tsensuuripoliitika ja andmete salvestamise tavadega seotud võimalike riikliku julgeolekuriskide tõttu.

Turvavead ja privaatsusprobleemid

DeepSeek on seisnud silmitsi varasemate turvaaukudega , sealhulgas turvateadlase Johann Rehbergeri avastatud kiire süstimisega. See viga oleks võinud võimaldada ründajatel võtta üle kasutajakontod, kasutades AI-ga loodud vastustesse manustatud saidiülese skriptimise (XSS) kasulikku koormust.

Lisaks leiti hiljutisest Kela ohuluure aruandest, et DeepSeeki AI mudelid on haavatavad jailbreak rünnakute suhtes, mis võimaldavad neil luua ebaeetilist ja ebaseaduslikku sisu, sealhulgas:

• Lunavarakoodi genereerimine
• Desinformatsiooni väljamõtlemine
• Samm-sammult juhised lõhkeainete ja toksiinide valmistamiseks
• Pahavara arendamise juhised

Need leiud tekitavad tõsist eetilist muret selle üle, kuidas tehisintellekti saab kuritarvitada, kui see pole korralikult kaitstud.

Lisaks näitab DeepSeeki privaatsuspoliitika, et kasutajaandmeid, sealhulgas seadme teavet, võrgu üksikasju ja makseandmeid, säilitatakse Hiinas asuvates serverites. See on tekitanud muret lääneriikides, eriti USA-s, kus USA merevägi soovitas hiljuti personalil vältida DeepSeeki kasutamist võimalike turva- ja eetiliste riskide tõttu.

Itaalia andmekaitseamet on samuti algatanud uurimise, nõudes, et DeepSeek selgitaks, kuidas ta kasutajaandmeid kogub, salvestab ja töötleb. Ettevõttel on 20 päeva aega vastata küsimustele, mis puudutavad andmeallikaid, töötlemise õiguslikke põhjendusi ja seda, kas tehisintellekti mudeli koolitus hõlmab andmete kraapimist.

Uus tehisintellekti rivaalitsemine keset geopoliitilisi pingeid

DeepSeeki esiletõus lisab ülemaailmsele tehisintellekti võidujooksule uue mõõtme, eriti kuna USA-Hiina tehnoloogilised pinged kasvavad jätkuvalt. Tehisintellekti kogukond on seda märganud, OpenAI tegevjuht Sam Altman nimetas DeepSeeki arutlusmudelit muljetavaldavaks ja tunnistas seda seaduslikuks konkurendiks.

Huvitaval kombel märkis NVIDIA Jim Fan, et DeepSeek "hoiab OpenAI algset missiooni elus", keskendudes avatud uurimistööle ja laiaulatuslikule juurdepääsetavusele - avaldus, mis kritiseerib delikaatselt OpenAI hiljutist üleminekut suletud lähtekoodiga mudelite poole.

Hiina on samal ajal kaitsnud oma seisukohta tehnoloogiliste eeskirjade osas, kinnitades, et see võimaldab ülemaailmsetel AI-ettevõtetel tegutseda seni, kuni nad järgivad kohalikke seadusi. Siiski on endiselt mures, kuidas Hiina tehisintellekti ettevõtteid võivad mõjutada valitsuse määrused, tsensuuripoliitika ja riiklikud julgeolekudirektiivid.

AI turvalisuse pöördeline hetk

DeepSeeki tõus näitab, et Hiina teeb tehisintellekti arendamisel tõsiseid edusamme, kuid rõhutab ka kasvavaid küberjulgeoleku väljakutseid, millega AI-ettevõtted silmitsi seisavad. Olenemata sellest, kas tegemist on pahatahtlike küberrünnakute, privaatsusprobleemide või geopoliitilise kontrolliga, toob DeepSeeki teekond esile AI innovatsiooni, turvalisuse ja globaalse poliitika keeruka koosmõju.

Kasutajatele tuletavad need sündmused meelde, et nad peavad olema ettevaatlikud tundlikke andmeid töötlevate tehisintellekti platvormide suhtes, eriti nende puhul, millel on läbipaistmatud privaatsuspoliitikad ja võimalikud turvaaukud. Kuna tehisintellekt areneb edasi, on tugevate küberjulgeolekumeetmete ja läbipaistvate andmetavade tagamine ettevõtete jaoks, kes soovivad säilitada kasutajate usaldust ja ülemaailmset usaldusväärsust, ülioluline.