DeepSeek Security Breach avslører AI-sårbarheter og gir cyberangrep

Kinas siste generative AI, DeepSeek, har vært gjenstand for intens cybersikkerhetsgransking siden lanseringen. Sikkerhetsforskere avslørte nylig en systemprompt jailbreak som avslørte modellens indre funksjoner. I mellomtiden har DeepSeek også møtt bølger av DDoS-angrep, og tvunget den til å begrense nye brukerregistreringer. Disse hendelsene fremhever både sikkerhetsrisikoen ved AI-modeller og den økende sofistikeringen av cyberangrep rettet mot AI-tjenester.

DeepSeeks System Spør Jailbreak: Hva forskere oppdaget

Kort tid etter DeepSeeks debut, fant forskere ved API-sikkerhetsfirmaet Wallarm et jailbreak-sårbarhet som avslørte AI-modellens fullstendige systemoppfordring. Denne typen sikkerhetsfeil er spesielt bekymrende fordi en AIs systemforespørsel dikterer dens oppførsel, responsbegrensninger og retningslinjer for innholdsmoderering. De fleste AI-utviklere, inkludert OpenAI med ChatGPT, tar strenge tiltak for å forhindre slike lekkasjer.

Wallarm uttalte i et blogginnlegg 1. februar at jailbreak-metoden utnyttet skjevhetsbasert AI-responslogikk, selv om selskapet holdt tilbake spesifikke tekniske detaljer på grunn av ansvarlige retningslinjer for avsløring. DeepSeek ble varslet om problemet og har siden implementert en løsning. Wallarm publiserte imidlertid hele systemteksten, slik at sikkerhetseksperter kunne analysere DeepSeeks operasjonelle rammeverk.

Denne avsløringen utløste diskusjoner om:

• AI personverntiltak og hvor effektivt DeepSeek beskytter brukerdata.
• Potensielle skjevheter i DeepSeeks trening, spesielt med tanke på påstander om at de kan ha brukt OpenAI-data til trening.
• Regulatoriske begrensninger som kan påvirke hvordan AI-modellen fungerer, spesielt i Kina, hvor AI-innhold er strengt kontrollert.

For å undersøke potensiell OpenAI-påvirkning sammenlignet Wallarm DeepSeeks systemforespørsel med ChatGPTs. I følge ChatGPTs analyse stemmer DeepSeeks svar med strengere overholdelsestiltak, mens OpenAIs tilnærming er mer fleksibel og brukersentrisk.

DDoS-angrep på DeepSeek: A Coordinated Cyber Assault

Etter hvert som DeepSeeks popularitet vokste, ble det målet for storskala DDoS-angrep (Distributed Denial-of-Service). Selskapet kunngjorde at det måtte blokkere nye brukerregistreringer på grunn av det overveldende antallet angrep.

I følge NSFocus, et cybersikkerhetsfirma som overvåker angrepene, møtte DeepSeek tre store bølger av DDoS-angrep rettet mot API-grensesnittet 25., 26. og 27. januar. Hvert angrep varte i omtrent 35 minutter, og påvirket DeepSeeks plattform alvorlig. Innen 28. januar var API-grensesnittet fortsatt utilgjengelig på grunn av pågående forstyrrelser.

DeepSeek chat-systemet ble også angrepet, med DDoS-angrep observert 20. og 25. januar, som hver varte i omtrent en time.

DDoS angrepsmetoder

NSFocus identifiserte flere refleksjonsbaserte angrepsteknikker, inkludert:

• NTP-refleksjonsangrep – Utnytter NTP-servere (Network Time Protocol) for å forsterke angrepstrafikken.
• Memcached refleksjonsangrep – Bruk av feilkonfigurerte Memcached-servere for å oversvømme DeepSeek med massiv trafikk.
• SSDP-refleksjonsangrep – Målretting mot Simple Service Discovery Protocol (SSDP)-tjenester for å overvelde nettverksressurser.
• CLDAP-refleksjonsangrep – Utnytter Connection-less Lightweight Directory Access Protocol (CLDAP)-servere for å øke angrepsvolumet.

Et svært koordinert angrep

Innen 28. januar rapporterte DeepSeek at angripere tilpasset metodene sine som svar på selskapets avbøtende innsats. Presisjonen og koordineringen av disse angrepene førte til at NSFocus konkluderte med at gjerningsmennene var et profesjonelt, velorganisert team i stedet for tilfeldige hackere.

"Angriperen viser ekstremt høy profesjonalitet i hvert angrepstrinn, fra å velge mål til å time angrepene og kontrollere intensiteten," sa NSFocus.

Toppangrepskilder inkluderer systemer fra USA, Storbritannia og Australia, ifølge cybersikkerhetsfirmaets analyse.

Hva dette betyr for AI-sikkerhet

DeepSeek-hendelsene fremhever økende cybersikkerhetsrisikoer i generativ AI. Fra jailbreak-sårbarheter til målrettede cyberangrep, AI-tjenester er nå hovedmål for både sikkerhetsforskere og ondsinnede aktører.

Viktige takeaways:

1. AI-jailbreaks er fortsatt en sikkerhetsutfordring – Selv nyere AI-modeller som DeepSeek kan omvendt konstrueres for å avsløre deres interne logikk.
2. DDoS-angrep mot AI-plattformer øker – Etter hvert som AI-tjenester blir populære, tiltrekker de seg mer koordinerte nettangrep.
3. AI-sikkerhet må utvikle seg raskt – Utviklere må implementere robuste sikkerhetstiltak for å forhindre umiddelbare lekkasjer og forsvare seg mot cybertrusler.

Ettersom AI fortsetter å forme det digitale landskapet, må cybersikkerhetsteam ligge et skritt foran for å sikre at AI-modeller forblir sikre og motstandsdyktige mot nye trusler.