Kinesisk-baserad DeepSeek AI begränsar nya registreringar bland cyberattacker och växande säkerhetsproblem

Kinesiska AI-startföretaget DeepSeek har snabbt fått draghjälp i världen med artificiell intelligens, men med dess ökande popularitet kommer en växande uppsättning utmaningar. Företaget har nyligen begränsat nya användarregistreringar på grund av vad det beskriver som storskaliga skadliga attacker på sina tjänster. Medan befintliga användare kan fortsätta att komma åt plattformen, har nya registreringar tillfälligt begränsats.

Situationen belyser de ökande säkerhetshoten som AI-plattformar står inför och väcker oro över de bredare konsekvenserna av AI-säkerhet, integritet och geopolitiska spänningar kring kinesiska teknikföretag.

Cyberattacker inriktade på DeepSeek

DeepSeek har inte avslöjat detaljer om arten av dessa attacker, men cybersäkerhetsexperter tror att de kan vara en blandning av distribuerade denial-of-service (DDoS)-attacker, systempromptextraktioner och jailbreak-försök som syftar till att kringgå innehållsbegränsningar eller manipulera AI-beteende.

Enligt Stuart Millar, chef för AI-ingenjör på Rapid7, kan angripare testa DeepSeeks svar på känsliga frågor, försöka extrahera systemuppmaningar eller försöka ändra hur AI:n fungerar. En framgångsrik systempromptextraktion kan avslöja proprietära instruktioner och potentiellt exponera AI:s sårbarheter för ytterligare exploatering.

Cybersäkerhetsforskaren Erich Kron från KnowBe4 påpekade att sådana attacker kan motiveras av olika faktorer:

• Utpressning – Angripare kan kräva lösensummor i utbyte mot att stoppa störningar.
• Företagssabotage – Konkurrenter kan försöka försvaga DeepSeeks rykte och marknadsposition.
• Investeringsskydd – Enheter som investerat i konkurrerande AI-projekt kan se DeepSeek som ett hot och försöka undergräva det.

DeepSeeks Meteoric Rise in the AI World

DeepSeek grundades 2023 och har snabbt positionerat sig som en stor utmanare i AI-loppet. Företagets modeller, inklusive DeepSeek-V3, har skapat rubriker för deras förmåga att konkurrera med, och till och med överträffa, västerländska AI-modeller som OpenAI:s GPT och Metas LLaMA, samtidigt som de tränas till en bråkdel av kostnaden.

Dess iOS chatbot-app sköt nyligen i höjden till toppen av Apples gratisapplistor i USA och Storbritannien, och överträffade till och med OpenAI:s ChatGPT i popularitet.

En viktig faktor bakom DeepSeeks framgång är dess effektivitet. Företaget hävdar att dess DeepSeek-V3-modell kräver betydligt färre GPU-timmar jämfört med Silicon Valley-motsvarigheter. Med amerikanska sanktioner som begränsar försäljningen av avancerade AI-chips till kinesiska företag har denna effektivitet blivit en avgörande konkurrensfördel.

Trots dessa tekniska genombrott är DeepSeek fortfarande kontroversiellt på grund av dess censurpolicy och potentiella nationella säkerhetsrisker förknippade med dess datalagringsmetoder.

Säkerhetsbrister och integritetsproblem

DeepSeek har ställts inför tidigare säkerhetssårbarheter , inklusive en snabb injektion som upptäckts av säkerhetsforskaren Johann Rehberger. Denna brist kunde ha gjort det möjligt för angripare att ta över användarkonton med hjälp av en nyttolast för cross-site scripting (XSS) inbäddad i AI-genererade svar.

Dessutom fann en färsk hotintelligensrapport från FPA att DeepSeeks AI-modeller är sårbara för jailbreak-attacker som gör det möjligt för dem att generera oetiskt och olagligt innehåll, inklusive:

• Generering av ransomware-kod
• Tillverkning av desinformation
• Steg-för-steg-guider för att tillverka sprängämnen och gifter
• Utvecklingsinstruktioner för skadlig programvara

Dessa fynd ger upphov till allvarliga etiska farhågor om hur AI kan missbrukas om den inte är ordentligt säkrad.

Dessutom avslöjar DeepSeeks sekretesspolicy att användardata – inklusive enhetsinformation, nätverksdetaljer och betalningsdata – lagras på servrar i Kina. Detta har utlöst oro i västerländska länder, särskilt USA, där den amerikanska flottan nyligen rådde personal att undvika att använda DeepSeek på grund av potentiella säkerhetsrisker och etiska risker.

Den italienska dataskyddsmyndigheten har också inlett en utredning som kräver att DeepSeek ska klargöra hur man samlar in, lagrar och behandlar användardata. Företaget har 20 dagar på sig att svara på frågor om datakällor, juridiska motiveringar för bearbetning och huruvida AI-modellutbildning innefattar dataskrapning.

En ny AI-rivalitet bland geopolitiska spänningar

DeepSeeks framväxt ger en ny dimension till det globala AI-loppet, särskilt när tekniska spänningar mellan USA och Kina fortsätter att eskalera. AI-communityt har lagt märke till det, där OpenAI-vd Sam Altman kallar DeepSeeks resonemangsmodell "imponerande" och erkänner den som en legitim konkurrent.

Intressant nog noterade NVIDIAs Jim Fan att DeepSeek "håller det ursprungliga uppdraget med OpenAI vid liv" genom att fokusera på öppen forskning och bred tillgänglighet – ett uttalande som subtilt kritiserar OpenAI:s senaste förändring mot modeller med stängd källkod.

Kina har under tiden försvarat sin ståndpunkt om tekniska regleringar och hävdat att det tillåter globala AI-företag att verka så länge de följer lokala lagar. Däremot kvarstår oro över hur kinesiska AI-företag kan påverkas av statliga regleringar, censurpolicyer och nationella säkerhetsdirektiv.

Ett avgörande ögonblick för AI-säkerhet

DeepSeeks uppgång visar att Kina gör allvarliga framsteg i AI-utvecklingen, men det understryker också de växande cybersäkerhetsutmaningarna som AI-företag står inför. Oavsett om det handlar om skadliga cyberattacker, integritetsproblem eller geopolitisk granskning, belyser DeepSeeks resa det komplexa samspelet mellan AI-innovation, säkerhet och global politik.

För användare fungerar dessa händelser som en påminnelse om att vara försiktig med AI-plattformar som hanterar känslig data, särskilt de med ogenomskinliga integritetspolicyer och potentiella säkerhetsbrister. När AI fortsätter att utvecklas kommer det att vara avgörande för företag som vill behålla användarnas förtroende och global trovärdighet att säkerställa robusta cybersäkerhetsåtgärder och transparenta datapraxis.