Kinesisk-basert DeepSeek AI begrenser nye registreringer blant nettangrep og økende sikkerhetsbekymringer

Kinesisk AI-oppstart DeepSeek har raskt fått gjennomslag i kunstig intelligens-verdenen, men med dens økende popularitet kommer et voksende sett med utfordringer. Selskapet har nylig begrenset nye brukerregistreringer på grunn av det de beskriver som storskala ondsinnede angrep på tjenestene sine. Mens eksisterende brukere kan fortsette å få tilgang til plattformen, har nye registreringer blitt midlertidig begrenset.

Situasjonen fremhever de økende sikkerhetstruslene som AI-plattformer står overfor, og vekker bekymring over de bredere implikasjonene av AI-sikkerhet, personvern og geopolitiske spenninger rundt kinesiske teknologiselskaper.

Cyberangrep rettet mot DeepSeek

DeepSeek har ikke avslørt detaljer om arten av disse angrepene, men cybersikkerhetseksperter mener at de kan være en blanding av distribuert denial-of-service (DDoS)-angrep, systemprompt-ekstraksjoner og jailbreak-forsøk rettet mot å omgå innholdsbegrensninger eller manipulere AI-adferd.

I følge Stuart Millar, sjef for AI-ingeniør ved Rapid7, kan angripere teste DeepSeeks svar på sensitive spørsmål, prøve å trekke ut systemmeldinger eller forsøke å endre hvordan AI-en fungerer. En vellykket systemutvinning kan avsløre proprietære instruksjoner og potensielt utsette AIs sårbarheter for ytterligere utnyttelse.

Cybersikkerhetsforsker Erich Kron fra KnowBe4 påpekte at slike angrep kan være motivert av ulike faktorer:

• Utpressing – Angripere kan kreve løsepenger i bytte mot å stoppe forstyrrelser.
• Bedriftssabotasje – Konkurrenter kan forsøke å svekke DeepSeeks omdømme og markedsposisjon.
• Investeringsbeskyttelse – Enheter investert i konkurrerende AI-prosjekter kan se DeepSeek som en trussel og forsøke å undergrave den.

DeepSeek's Meteoric Rise in the AI World

Grunnlagt i 2023, har DeepSeek raskt posisjonert seg som en stor utfordrer i AI-løpet. Selskapets modeller, inkludert DeepSeek-V3, har skapt overskrifter for deres evne til å konkurrere med, og til og med overgå, vestlige AI-modeller som OpenAIs GPT og Metas LLaMA, mens de blir trent til en brøkdel av prisen.

iOS-chatbot-appen skjøt nylig til topps på Apples gratisapplister i USA og Storbritannia, og overgikk til og med OpenAIs ChatGPT i popularitet.

En viktig faktor bak DeepSeeks suksess er effektiviteten. Selskapet hevder at DeepSeek-V3-modellen krever betydelig færre GPU-timer sammenlignet med Silicon Valley-motparter. Med amerikanske sanksjoner som begrenser salget av avanserte AI-brikker til kinesiske firmaer, har denne effektiviteten blitt et kritisk konkurransefortrinn.

Til tross for disse teknologiske gjennombruddene, er DeepSeek fortsatt kontroversiell på grunn av sensurpolitikken og potensielle nasjonale sikkerhetsrisikoer knyttet til datalagringspraksisen.

Sikkerhetsfeil og personvernbekymringer

DeepSeek har møtt tidligere sikkerhetssårbarheter , inkludert en umiddelbar injeksjonsutnyttelse oppdaget av sikkerhetsforsker Johann Rehberger. Denne feilen kunne ha gjort det mulig for angripere å overta brukerkontoer ved å bruke en nyttelast for cross-site scripting (XSS) innebygd i AI-genererte svar.

I tillegg fant en fersk trusseletterretningsrapport fra Kela at DeepSeeks AI-modeller er sårbare for jailbreak-angrep som gjør dem i stand til å generere uetisk og ulovlig innhold, inkludert:

• Generering av løsepengevarekode
• Fremstilling av desinformasjon
• Trinn-for-trinn veiledninger for å lage eksplosiver og giftstoffer
• Instruksjoner for utvikling av skadelig programvare

Disse funnene vekker alvorlige etiske bekymringer om hvordan AI kan misbrukes hvis den ikke er ordentlig sikret.

Videre avslører DeepSeeks personvernpolicy at brukerdata – inkludert enhetsinformasjon, nettverksdetaljer og betalingsdata – lagres på servere i Kina. Dette har utløst bekymringer i vestlige land, spesielt USA, hvor den amerikanske marinen nylig rådet personell til å unngå å bruke DeepSeek på grunn av potensielle sikkerhets- og etiske risikoer.

Den italienske databeskyttelsesmyndigheten har også satt i gang en etterforskning, og krever at DeepSeek avklarer hvordan de samler inn, lagrer og behandler brukerdata. Selskapet har 20 dager på seg til å svare på spørsmål angående datakilder, juridiske begrunnelser for behandling og om AI-modellopplæring involverer dataskraping.

En ny AI-rivalisering blant geopolitiske spenninger

DeepSeeks fremvekst legger til en ny dimensjon til det globale AI-kappløpet, spesielt ettersom de teknologiske spenningene mellom USA og Kina fortsetter å eskalere. AI-fellesskapet har lagt merke til, og OpenAI-sjef Sam Altman kalte DeepSeeks resonnementmodell "imponerende" og anerkjente den som en legitim konkurrent.

Interessant nok bemerket NVIDIAs Jim Fan at DeepSeek «holder det opprinnelige oppdraget til OpenAI i live» ved å fokusere på åpen forskning og bred tilgjengelighet – en uttalelse som subtilt kritiserer OpenAIs nylige skift mot lukkede kildekode-modeller.

Kina har i mellomtiden forsvart sin holdning til tekniske forskrifter, og hevdet at de tillater globale AI-selskaper å operere så lenge de følger lokale lover. Imidlertid er det fortsatt bekymring for hvordan kinesiske AI-selskaper kan bli påvirket av myndighetsreguleringer, sensurpolitikk og nasjonale sikkerhetsdirektiver.

Et sentralt øyeblikk for AI-sikkerhet

DeepSeeks fremgang viser at Kina gjør seriøse fremskritt i AI-utviklingen, men det understreker også de økende cybersikkerhetsutfordringene AI-selskaper står overfor. Enten det er ondsinnede nettangrep, personvernhensyn eller geopolitisk gransking, fremhever DeepSeeks reise det komplekse samspillet mellom AI-innovasjon, sikkerhet og global politikk.

For brukere fungerer disse hendelsene som en påminnelse om å være forsiktige med AI-plattformer som håndterer sensitive data, spesielt de med ugjennomsiktige personvernregler og potensielle sikkerhetssårbarheter. Ettersom AI fortsetter å utvikle seg, vil det å sikre robuste cybersikkerhetstiltak og gjennomsiktig datapraksis være avgjørende for selskaper som ønsker å opprettholde brukertillit og global troverdighet.