Kinesisk-baseret DeepSeek AI begrænser nye tilmeldinger midt i cyberangreb og voksende sikkerhedsbekymringer

Kinesisk AI-startup DeepSeek har hurtigt vundet indpas i den kunstige intelligens-verden, men med dens stigende popularitet følger et voksende sæt udfordringer. Virksomheden har for nylig begrænset nye brugerregistreringer på grund af, hvad den beskriver som storstilede ondsindede angreb på sine tjenester. Mens eksisterende brugere kan fortsætte med at få adgang til platformen, er nye tilmeldinger blevet midlertidigt begrænset.

Situationen fremhæver de stigende sikkerhedstrusler, som AI-platforme står over for, og vækker bekymring over de bredere implikationer af AI-sikkerhed, privatliv og geopolitiske spændinger omkring kinesiske teknologivirksomheder.

Cyberangreb rettet mod DeepSeek

DeepSeek har ikke afsløret detaljer om arten af disse angreb, men cybersikkerhedseksperter mener, at de kan være en blanding af distribuerede denial-of-service (DDoS)-angreb, systemprompt-udtrækninger og jailbreak-forsøg med det formål at omgå indholdsbegrænsninger eller manipulere AI-adfærd.

Ifølge Stuart Millar, ledende AI-ingeniør hos Rapid7, kan angribere teste DeepSeeks svar på følsomme spørgsmål, forsøge at udtrække systemprompter eller forsøge at ændre, hvordan AI'en fungerer. En vellykket systempromptudtrækning kan afsløre proprietære instruktioner og potentielt udsætte AI'ens sårbarheder for yderligere udnyttelse.

Cybersikkerhedsforsker Erich Kron fra KnowBe4 påpegede, at sådanne angreb kunne være motiveret af forskellige faktorer:

• Afpresning – Angribere kan kræve løsesumsbetalinger til gengæld for at stoppe forstyrrelser.
• Virksomhedssabotage – Konkurrenter kan forsøge at svække DeepSeeks omdømme og markedsposition.
• Investeringsbeskyttelse - Enheder, der investeres i konkurrerende AI-projekter, kan se DeepSeek som en trussel og forsøge at underminere den.

DeepSeeks meteoriske stigning i AI-verdenen

Grundlagt i 2023, har DeepSeek hurtigt positioneret sig som en stor udfordrer i AI-løbet. Virksomhedens modeller, herunder DeepSeek-V3, har skabt overskrifter for deres evne til at konkurrere med og endda overgå vestlige AI-modeller som OpenAIs GPT og Metas LLaMA, mens de trænes til en brøkdel af prisen.

Dens iOS chatbot-app røg for nylig i vejret til toppen af Apples gratis app-diagrammer i USA og Storbritannien, og overgik endda OpenAIs ChatGPT i popularitet.

En væsentlig faktor bag DeepSeeks succes er dens effektivitet. Virksomheden hævder, at dens DeepSeek-V3-model kræver betydeligt færre GPU-timer sammenlignet med Silicon Valley-modparter. Med amerikanske sanktioner, der begrænser salget af avancerede AI-chips til kinesiske firmaer, er denne effektivitet blevet en kritisk konkurrencefordel.

På trods af disse teknologiske gennembrud er DeepSeek fortsat kontroversiel på grund af dets censurpolitikker og potentielle nationale sikkerhedsrisici forbundet med dets datalagringspraksis.

Sikkerhedsfejl og privatlivsproblemer

DeepSeek har stået over for tidligere sikkerhedssårbarheder , herunder en hurtig indsprøjtning, opdaget af sikkerhedsforsker Johann Rehberger. Denne fejl kunne have gjort det muligt for angribere at overtage brugerkonti ved hjælp af en cross-site scripting (XSS) nyttelast indlejret i AI-genererede svar.

Derudover fandt en nylig trusselsefterretningsrapport fra Kela, at DeepSeeks AI-modeller er sårbare over for jailbreak-angreb, der sætter dem i stand til at generere uetisk og ulovligt indhold, herunder:

• Generering af ransomware-kode
• Fremstilling af desinformation
• Trin-for-trin vejledning til fremstilling af sprængstoffer og toksiner
• Instruktioner til udvikling af malware

Disse resultater rejser alvorlige etiske bekymringer om, hvordan AI kan misbruges, hvis den ikke er ordentligt sikret.

Ydermere afslører DeepSeeks privatlivspolitik, at brugerdata – inklusive enhedsoplysninger, netværksdetaljer og betalingsdata – gemmes på servere i Kina. Dette har udløst bekymringer i vestlige lande, især USA, hvor den amerikanske flåde for nylig rådede personale til at undgå at bruge DeepSeek på grund af potentielle sikkerheds- og etiske risici.

Den italienske databeskyttelsesmyndighed har også iværksat en undersøgelse, der kræver, at DeepSeek afklarer, hvordan den indsamler, opbevarer og behandler brugerdata. Virksomheden har 20 dage til at svare på spørgsmål vedrørende datakilder, juridiske begrundelser for behandling, og om AI-modeltræning involverer dataskrabning.

En ny AI-rivalisering midt i geopolitiske spændinger

DeepSeeks fremkomst tilføjer en ny dimension til det globale AI-kapløb, især da de teknologiske spændinger mellem USA og Kina fortsætter med at eskalere. AI-fællesskabet har lagt mærke til det, og OpenAI-chefen Sam Altman kalder DeepSeeks ræsonnementmodel "imponerende" og anerkender den som en legitim konkurrent.

Interessant nok bemærkede NVIDIAs Jim Fan, at DeepSeek "holder OpenAI's oprindelige mission i live" ved at fokusere på åben forskning og bred tilgængelighed - en erklæring, der subtilt kritiserer OpenAI's seneste skift mod lukkede kildemodeller.

Kina har i mellemtiden forsvaret sin holdning til tekniske regler og hævder, at det tillader globale AI-virksomheder at operere, så længe de følger lokale love. Der er dog stadig bekymring for, hvordan kinesiske kunstig intelligens-virksomheder kan blive påvirket af regeringsbestemmelser, censurpolitikker og nationale sikkerhedsdirektiver.

Et afgørende øjeblik for AI-sikkerhed

DeepSeeks fremgang viser, at Kina gør seriøse fremskridt inden for AI-udvikling, men det understreger også de voksende cybersikkerhedsudfordringer AI-virksomheder står over for. Uanset om det er ondsindede cyberangreb, bekymringer om privatlivets fred eller geopolitisk undersøgelse, fremhæver DeepSeeks rejse det komplekse samspil mellem AI-innovation, sikkerhed og global politik.

For brugere tjener disse begivenheder som en påmindelse om at være forsigtige med AI-platforme, der håndterer følsomme data, især dem med uigennemsigtige privatlivspolitikker og potentielle sikkerhedssårbarheder. Efterhånden som AI fortsætter med at udvikle sig, vil det være afgørende for virksomheder, der ønsker at bevare brugertillid og global troværdighed, at sikre robuste cybersikkerhedsforanstaltninger og gennemsigtige datapraksis.