Chinese DeepSeek AI beperkt nieuwe registraties vanwege cyberaanvallen en groeiende zorgen over de veiligheid

De Chinese AI-startup DeepSeek heeft snel aan populariteit gewonnen in de wereld van kunstmatige intelligentie, maar met de toenemende populariteit komen ook steeds meer uitdagingen. Het bedrijf heeft onlangs de registraties van nieuwe gebruikers beperkt vanwege wat het beschrijft als grootschalige kwaadaardige aanvallen op zijn services. Hoewel bestaande gebruikers toegang kunnen blijven houden tot het platform, zijn nieuwe aanmeldingen tijdelijk beperkt.

De situatie onderstreept de toenemende veiligheidsrisico's waarmee AI-platforms te maken krijgen en roept zorgen op over de bredere implicaties van AI-beveiliging, privacy en geopolitieke spanningen rondom Chinese technologiebedrijven.

Cyberaanvallen gericht op DeepSeek

DeepSeek heeft geen details vrijgegeven over de aard van deze aanvallen, maar cybersecurity-experts denken dat het een combinatie kan zijn van DDoS-aanvallen (Distributed Denial-of-Service), extracties via systeemprompts en jailbreakpogingen die erop gericht zijn om inhoudsbeperkingen te omzeilen of AI-gedrag te manipuleren.

Volgens Stuart Millar, hoofd AI-engineer bij Rapid7, zouden aanvallers de antwoorden van DeepSeek op gevoelige vragen kunnen testen, proberen systeemprompts te extraheren of proberen de manier waarop de AI werkt te veranderen. Een succesvolle extractie van systeemprompts zou propriëtaire instructies kunnen onthullen en de kwetsbaarheden van de AI mogelijk blootstellen aan verdere exploitatie.

Cybersecurity-onderzoeker Erich Kron van KnowBe4 wees erop dat dergelijke aanvallen door verschillende factoren gemotiveerd kunnen worden:

• Afpersing – Aanvallers kunnen losgeld eisen in ruil voor het stoppen van verstoringen.
• Bedrijfssabotage – Concurrenten zouden kunnen proberen de reputatie en marktpositie van DeepSeek te verzwakken.
• Investeringsbescherming – Entiteiten die investeren in rivaliserende AI-projecten kunnen DeepSeek als een bedreiging zien en proberen het te ondermijnen.

DeepSeek's meteoriet opkomst in de AI-wereld

DeepSeek, opgericht in 2023, heeft zichzelf snel gepositioneerd als een belangrijke kanshebber in de AI-race. De modellen van het bedrijf, waaronder DeepSeek-V3, hebben de krantenkoppen gehaald vanwege hun vermogen om te concurreren met, en zelfs te overtreffen, westerse AI-modellen zoals OpenAI's GPT en Meta's LLaMA, terwijl ze worden getraind voor een fractie van de kosten.

De iOS-chatbot-app schoot onlangs omhoog naar de top van Apple's lijsten met gratis apps in de VS en het VK. Qua populariteit overtrof het zelfs ChatGPT van OpenAI.

Een belangrijke factor achter het succes van DeepSeek is de efficiëntie. Het bedrijf beweert dat zijn DeepSeek-V3-model aanzienlijk minder GPU-uren nodig heeft vergeleken met Silicon Valley-tegenhangers. Met Amerikaanse sancties die de verkoop van geavanceerde AI-chips aan Chinese bedrijven beperken, is deze efficiëntie een cruciaal concurrentievoordeel geworden.

Ondanks deze technologische doorbraken blijft DeepSeek controversieel vanwege het censuurbeleid en de mogelijke risico's voor de nationale veiligheid die samenhangen met de gegevensopslagpraktijken.

Beveiligingslekken en privacyproblemen

DeepSeek heeft in het verleden te maken gehad met beveiligingskwetsbaarheden , waaronder een prompt injection-exploit die is ontdekt door beveiligingsonderzoeker Johann Rehberger. Deze fout had aanvallers in staat kunnen stellen gebruikersaccounts over te nemen met behulp van een cross-site scripting (XSS)-payload die is ingebed in door AI gegenereerde reacties.

Bovendien blijkt uit een recent rapport over dreigingsinformatie van Kela dat de AI-modellen van DeepSeek kwetsbaar zijn voor jailbreak-aanvallen waarmee ze onethische en illegale content kunnen genereren, waaronder:

• Ransomware-codegeneratie
• Vervaardiging van desinformatie
• Stapsgewijze handleidingen voor het maken van explosieven en gifstoffen
• Instructies voor malware-ontwikkeling

Deze bevindingen roepen ernstige ethische zorgen op over de manier waarop AI misbruikt kan worden als deze niet goed beveiligd is.

Bovendien onthult het privacybeleid van DeepSeek dat gebruikersgegevens, waaronder apparaatgegevens, netwerkgegevens en betalingsgegevens, worden opgeslagen op servers in China. Dit heeft tot zorgen geleid in westerse landen, met name de Verenigde Staten, waar de Amerikaanse marine onlangs personeel adviseerde DeepSeek niet te gebruiken vanwege mogelijke veiligheids- en ethische risico's.

De Italiaanse gegevensbeschermingsautoriteit is ook een onderzoek gestart en eist dat DeepSeek verduidelijkt hoe het gebruikersgegevens verzamelt, opslaat en verwerkt. Het bedrijf heeft 20 dagen om te reageren op vragen over gegevensbronnen, juridische rechtvaardigingen voor verwerking en of AI-modeltraining data scraping omvat.

Een nieuwe AI-rivaliteit te midden van geopolitieke spanningen

De opkomst van DeepSeek voegt een nieuwe dimensie toe aan de wereldwijde AI-race, met name nu de spanningen tussen de VS en China op technologisch gebied blijven toenemen. De AI-community heeft dit opgemerkt, met OpenAI CEO Sam Altman die DeepSeeks redeneringsmodel "indrukwekkend" noemde en het erkende als een legitieme concurrent.

Interessant genoeg merkte Jim Fan van NVIDIA op dat DeepSeek “de oorspronkelijke missie van OpenAI in leven houdt” door zich te richten op open onderzoek en brede toegankelijkheid. Dit is een uitspraak die op subtiele wijze kritiek levert op de recente verschuiving van OpenAI naar closed-sourcemodellen.

China heeft ondertussen zijn standpunt over tech-regelgeving verdedigd door te stellen dat het wereldwijde AI-bedrijven toestaat te opereren zolang ze zich aan de lokale wetten houden. Er blijven echter zorgen bestaan over hoe Chinese AI-bedrijven beïnvloed kunnen worden door overheidsregelgeving, censuurbeleid en nationale veiligheidsrichtlijnen.

Een cruciaal moment voor AI-beveiliging

De opkomst van DeepSeek laat zien dat China serieuze stappen zet in de ontwikkeling van AI, maar het onderstreept ook de groeiende cybersecurity-uitdagingen waar AI-bedrijven mee te maken krijgen. Of het nu gaat om kwaadaardige cyberaanvallen, zorgen over privacy of geopolitieke controle, DeepSeeks reis benadrukt de complexe wisselwerking tussen AI-innovatie, beveiliging en wereldwijde politiek.

Voor gebruikers dienen deze gebeurtenissen als een herinnering om voorzichtig te zijn met AI-platforms die gevoelige gegevens verwerken, met name die met ondoorzichtige privacybeleidsregels en mogelijke beveiligingskwetsbaarheden. Naarmate AI zich blijft ontwikkelen, zal het garanderen van robuuste cyberbeveiligingsmaatregelen en transparante gegevenspraktijken cruciaal zijn voor bedrijven die het vertrouwen van gebruikers en de wereldwijde geloofwaardigheid willen behouden.