DeepSeek AI s sedežem na Kitajskem omejuje nove prijave zaradi kibernetskih napadov in vse večjih skrbi glede varnosti

Kitajsko zagonsko podjetje DeepSeek, ki se ukvarja z umetno inteligenco, se je hitro uveljavilo v svetu umetne inteligence, vendar z njegovo naraščajočo priljubljenostjo prihaja vse več izzivov. Podjetje je pred kratkim omejilo registracijo novih uporabnikov zaradi, kar opisuje kot obsežne zlonamerne napade na njegove storitve. Medtem ko lahko obstoječi uporabniki še naprej dostopajo do platforme, so bile nove prijave začasno omejene.

Situacija poudarja naraščajoče varnostne grožnje, s katerimi se soočajo platforme umetne inteligence, in vzbuja zaskrbljenost zaradi širših posledic varnosti umetne inteligence, zasebnosti in geopolitičnih napetosti v zvezi s kitajskimi tehnološkimi podjetji.

Kibernetski napadi, ki ciljajo na DeepSeek

DeepSeek ni razkril podrobnosti o naravi teh napadov, vendar strokovnjaki za kibernetsko varnost menijo, da bi lahko bili mešanica porazdeljenih napadov zavrnitve storitve (DDoS), ekstrakcij sistemskih pozivov in poskusov bega iz zapora, katerih cilj je obiti omejitve vsebine ali manipulirati vedenje AI.

Po mnenju Stuarta Millarja, glavnega inženirja umetne inteligence pri Rapid7, lahko napadalci preizkušajo odgovore DeepSeeka na občutljiva vprašanja, poskušajo izluščiti sistemske pozive ali poskušajo spremeniti delovanje umetne inteligence. Uspešna sistemska hitra ekstrakcija bi lahko razkrila lastniška navodila in potencialno izpostavila ranljivosti AI nadaljnjemu izkoriščanju.

Raziskovalec kibernetske varnosti Erich Kron iz KnowBe4 je poudaril, da so takšni napadi lahko motivirani z različnimi dejavniki:

• Izsiljevanje – Napadalci lahko zahtevajo plačilo odkupnine v zameno za zaustavitev motenj.
• Korporativna sabotaža – Konkurenti bi lahko poskušali oslabiti ugled in tržni položaj družbe DeepSeek.
• Zaščita naložb – Subjekti, vloženi v konkurenčne projekte umetne inteligence, lahko vidijo DeepSeek kot grožnjo in jo poskušajo spodkopati.

DeepSeekov meteorski vzpon v svetu umetne inteligence

DeepSeek, ustanovljen leta 2023, se je hitro uveljavil kot glavni tekmec v tekmi AI. Modeli podjetja, vključno z DeepSeek-V3, so polnili naslovnice zaradi svoje sposobnosti, da tekmujejo z zahodnimi modeli umetne inteligence in jih celo presežejo, kot sta GPT OpenAI in LLaMA podjetja Meta, medtem ko so bili usposobljeni za delček cene.

Njegova aplikacija iOS chatbot se je pred kratkim močno povzpela na vrh Applovih lestvic brezplačnih aplikacij v ZDA in Združenem kraljestvu, po priljubljenosti pa je celo prehitela OpenAI-jev ChatGPT.

Glavni dejavnik uspeha DeepSeeka je njegova učinkovitost. Podjetje trdi, da njegov model DeepSeek-V3 zahteva bistveno manj ur GPU v primerjavi s primerki iz Silicijeve doline. S sankcijami ZDA, ki omejujejo prodajo naprednih čipov AI kitajskim podjetjem, je ta učinkovitost postala kritična konkurenčna prednost.

Kljub tem tehnološkim prebojem ostaja DeepSeek sporen zaradi svoje politike cenzure in morebitnih tveganj za nacionalno varnost, povezanih z njegovimi praksami shranjevanja podatkov.

Varnostne napake in pomisleki glede zasebnosti

DeepSeek se je soočal s preteklimi varnostnimi ranljivostmi , vključno z izkoriščanjem takojšnjega vbrizgavanja, ki ga je odkril varnostni raziskovalec Johann Rehberger. Ta napaka bi lahko napadalcem omogočila, da prevzamejo uporabniške račune z uporabo koristnega tovora skriptnega izvajanja na različnih mestih (XSS), ki je vdelan v odzive, ustvarjene z umetno inteligenco.

Poleg tega je nedavno poročilo Kela o obveščevalnih podatkih o grožnjah pokazalo, da so modeli umetne inteligence DeepSeek ranljivi za napade pobegov iz zapora, ki jim omogočajo ustvarjanje neetične in nezakonite vsebine, vključno z:

• Generiranje kode izsiljevalske programske opreme
• Izdelava dezinformacij
• Navodila po korakih za izdelavo eksploziva in toksinov
• Navodila za razvoj zlonamerne programske opreme

Te ugotovitve vzbujajo resne etične pomisleke o tem, kako bi lahko zlorabili AI, če ni ustrezno zavarovan.

Poleg tega politika zasebnosti DeepSeek razkriva, da so uporabniški podatki – vključno s podatki o napravi, podatki o omrežju in podatki o plačilih – shranjeni na strežnikih na Kitajskem. To je sprožilo zaskrbljenost v zahodnih državah, zlasti v Združenih državah, kjer je ameriška mornarica nedavno svetovala osebju, naj se izogiba uporabi DeepSeek zaradi morebitnih varnostnih in etičnih tveganj.

Italijanski organ za varstvo podatkov je prav tako sprožil preiskavo in zahteval, da DeepSeek pojasni, kako zbira, shranjuje in obdeluje uporabniške podatke. Podjetje ima 20 dni časa, da odgovori na vprašanja v zvezi z viri podatkov, pravnimi utemeljitvami za obdelavo in ali usposabljanje modela AI vključuje strganje podatkov.

Novo rivalstvo z umetno inteligenco sredi geopolitičnih napetosti

Pojav DeepSeeka dodaja novo razsežnost svetovni tekmi umetne inteligence, še posebej, ko se tehnološke napetosti med ZDA in Kitajsko še stopnjujejo. Skupnost umetne inteligence je opazila, izvršni direktor OpenAI Sam Altman je DeepSeekov model razmišljanja označil za "impresivnega" in ga priznal kot zakonitega konkurenta.

Zanimivo je, da je Jim Fan iz NVIDIA opazil, da DeepSeek "ohranja prvotno poslanstvo OpenAI" z osredotočanjem na odprte raziskave in široko dostopnost - izjava, ki subtilno kritizira nedavni premik OpenAI k zaprtokodnim modelom.

Kitajska je medtem zagovarjala svoje stališče do tehničnih predpisov in trdila, da dovoljuje globalnim podjetjem AI, da delujejo, če upoštevajo lokalne zakone. Vendar ostajajo pomisleki glede tega, kako bi lahko na kitajska podjetja z umetno inteligenco vplivali vladni predpisi, politike cenzure in nacionalne varnostne direktive.

Ključni trenutek za varnost AI

Vzpon DeepSeeka dokazuje, da Kitajska resno napreduje pri razvoju umetne inteligence, vendar poudarja tudi naraščajoče izzive kibernetske varnosti, s katerimi se soočajo podjetja, ki uporabljajo umetno inteligenco. Ne glede na to, ali gre za zlonamerne kibernetske napade, pomisleke glede zasebnosti ali geopolitični nadzor, potovanje DeepSeeka poudarja kompleksno medsebojno delovanje med inovacijami umetne inteligence, varnostjo in globalno politiko.

Za uporabnike ti dogodki služijo kot opomnik, naj bodo previdni glede platform AI, ki obdelujejo občutljive podatke, zlasti tiste z nepreglednimi politikami zasebnosti in morebitnimi varnostnimi ranljivostmi. Ker se umetna inteligenca še naprej razvija, bo zagotavljanje robustnih ukrepov kibernetske varnosti in preglednih podatkovnih praks ključnega pomena za podjetja, ki želijo ohraniti zaupanje uporabnikov in globalno verodostojnost.