DeepSeek AI amb seu a la Xina restringeix les noves inscripcions enmig de ciberatacs i preocupacions de seguretat creixents

La startup xinesa de la intel·ligència artificial DeepSeek ha guanyat força ràpidament al món de la intel·ligència artificial, però amb la seva creixent popularitat comporta un conjunt creixent de reptes. La companyia ha limitat recentment els nous registres d'usuaris a causa del que descriu com a atacs maliciosos a gran escala als seus serveis. Tot i que els usuaris existents poden continuar accedint a la plataforma, les noves inscripcions s'han restringit temporalment.

La situació posa de manifest les creixents amenaces a la seguretat a les quals s'enfronten les plataformes d'IA i planteja preocupacions sobre les implicacions més àmplies de la seguretat, la privadesa i les tensions geopolítiques de l'IA al voltant de les empreses tecnològiques xineses.

Ciberatacs dirigits a DeepSeek

DeepSeek no ha revelat detalls sobre la naturalesa d'aquests atacs, però els experts en ciberseguretat creuen que podrien ser una combinació d'atacs de denegació de servei distribuïts (DDoS), extraccions d'indicacions del sistema i intents de jailbreak amb l'objectiu d'evitar les restriccions de contingut o manipular el comportament de la IA.

Segons Stuart Millar, enginyer principal d'IA de Rapid7, els atacants podrien estar provant les respostes de DeepSeek a preguntes sensibles, intentant extreure indicacions del sistema o intentar alterar el funcionament de la IA. Una extracció ràpida del sistema amb èxit podria revelar instruccions patentades i potencialment exposar les vulnerabilitats de l'IA a una major explotació.

L'investigador de ciberseguretat Erich Kron de KnowBe4 va assenyalar que aquests atacs podrien estar motivats per diversos factors:

• Extorsió : els atacants poden exigir pagaments de rescat a canvi d'aturar les interrupcions.
• Sabotatge corporatiu : els competidors podrien intentar debilitar la reputació i la posició de mercat de DeepSeek.
• Protecció de la inversió : les entitats que inverteixen en projectes d'IA rivals poden veure DeepSeek com una amenaça i intentar soscavar-la.

Pujada meteorològica de DeepSeek al món de l'IA

Fundada el 2023, DeepSeek s'ha posicionat ràpidament com un dels principals contendents de la carrera d'IA. Els models de l'empresa, inclòs DeepSeek-V3, han arribat als titulars per la seva capacitat per competir i fins i tot superar els models d'IA occidentals com el GPT d'OpenAI i el LLaMA de Meta, alhora que s'entrenen a una fracció del cost.

La seva aplicació de chatbot d'iOS es va disparar recentment a la part superior de les llistes d'aplicacions gratuïtes d'Apple als EUA i el Regne Unit, fins i tot superant el ChatGPT d'OpenAI en popularitat.

Un factor important darrere de l'èxit de DeepSeek és la seva eficiència. La companyia afirma que el seu model DeepSeek-V3 requereix molt menys hores de GPU en comparació amb els seus homòlegs de Silicon Valley. Amb les sancions dels EUA que restringeixen la venda de xips avançats d'IA a les empreses xineses, aquesta eficiència s'ha convertit en un avantatge competitiu fonamental.

Malgrat aquests avenços tecnològics, DeepSeek continua sent controvertit a causa de les seves polítiques de censura i dels possibles riscos de seguretat nacional associats a les seves pràctiques d'emmagatzematge de dades.

Defectes de seguretat i problemes de privadesa

DeepSeek s'ha enfrontat a vulnerabilitats de seguretat anteriors, inclosa una explotació d'injecció ràpida descoberta per l'investigador de seguretat Johann Rehberger. Aquest defecte podria haver permès als atacants fer-se càrrec dels comptes d'usuari mitjançant una càrrega útil de cross-site scripting (XSS) integrada a les respostes generades per IA.

A més, un informe recent d'intel·ligència d'amenaces de Kela va trobar que els models d'IA de DeepSeek són vulnerables als atacs de jailbreak que els permeten generar contingut poc ètic i il·legal, com ara:

• Generació de codi de ransomware
• Fabricació de desinformació
• Guies pas a pas per fabricar explosius i toxines
• Instruccions de desenvolupament de programari maliciós

Aquestes troballes plantegen serioses preocupacions ètiques sobre com es podria fer un ús indegut de la IA si no es garanteix correctament.

A més, la política de privadesa de DeepSeek revela que les dades dels usuaris, inclosa la informació del dispositiu, els detalls de la xarxa i les dades de pagament, s'emmagatzemen en servidors ubicats a la Xina. Això ha generat preocupacions als països occidentals, especialment als Estats Units, on recentment la Marina dels EUA va aconsellar al personal que eviti l'ús de DeepSeek a causa de possibles riscos ètics i de seguretat.

L'autoritat italiana de protecció de dades també ha iniciat una investigació, exigint que DeepSeek aclareixi com recull, emmagatzema i processa les dades dels usuaris. L'empresa té 20 dies per respondre a preguntes sobre fonts de dades, justificacions legals per al processament i si la formació en models d'IA implica el raspat de dades.

Una nova rivalitat de l'IA enmig de les tensions geopolítiques

L'aparició de DeepSeek afegeix una nova dimensió a la carrera mundial d'IA, sobretot a mesura que les tensions tecnològiques entre els Estats Units i la Xina continuen augmentant. La comunitat d'IA s'ha adonat, amb el conseller delegat d'OpenAI, Sam Altman, que va qualificar el model de raonament de DeepSeek "impressionant" i el va reconèixer com un competidor legítim.

Curiosament, Jim Fan de NVIDIA va assenyalar que DeepSeek "manté viva la missió original d'OpenAI" centrant-se en la investigació oberta i l'accessibilitat àmplia, una declaració que critica subtilment el recent canvi d'OpenAI cap a models de codi tancat.

La Xina, per la seva banda, ha defensat la seva posició sobre les regulacions tecnològiques, afirmant que permet que les empreses globals d'IA funcionin sempre que segueixin les lleis locals. Tanmateix, encara hi ha preocupacions sobre com les empreses d'IA xineses poden veure's influenciades per les regulacions governamentals, les polítiques de censura i les directives de seguretat nacional.

Un moment clau per a la seguretat de la IA

L'augment de DeepSeek demostra que la Xina està fent grans avenços en el desenvolupament de l'IA, però també posa de manifest els creixents reptes de ciberseguretat als quals s'enfronten les empreses d'IA. Tant si es tracta d'atacs cibernètics maliciosos, problemes de privadesa o escrutini geopolític, el viatge de DeepSeek posa de manifest la complexa interacció entre la innovació d'IA, la seguretat i la política global.

Per als usuaris, aquests esdeveniments serveixen com a recordatori de ser prudents amb les plataformes d'IA que gestionen dades sensibles, especialment aquelles amb polítiques de privadesa opaques i possibles vulnerabilitats de seguretat. A mesura que la IA segueixi evolucionant, garantir mesures de ciberseguretat sòlides i pràctiques de dades transparents serà crucial per a les empreses que busquen mantenir la confiança dels usuaris i la credibilitat global.