A DeepSeek AI, Sediada na China, Restringe Novas Inscrições em Meio a Ataques Cibernéticos e Crescentes Preocupações com a Segurança

A startup chinesa de IA DeepSeek ganhou força rapidamente no mundo da inteligência artificial, mas com sua crescente popularidade vem um conjunto crescente de desafios. A empresa limitou recentemente novos registros de usuários devido ao que descreve como ataques maliciosos em larga escala em seus serviços. Embora os usuários existentes possam continuar acessando a plataforma, novos registros foram temporariamente restritos.

A situação destaca as crescentes ameaças à segurança enfrentadas pelas plataformas de IA e levanta preocupações sobre as implicações mais amplas da segurança da IA, privacidade e tensões geopolíticas em torno das empresas de tecnologia chinesas.

Ataques Cibernéticos Visando o DeepSeek

A DeepSeek não divulgou detalhes sobre a natureza desses ataques, mas especialistas em segurança cibernética acreditam que eles podem ser uma mistura de ataques de negação de serviço distribuído (DDoS), extrações de prompts do sistema e tentativas de jailbreak com o objetivo de contornar restrições de conteúdo ou manipular o comportamento da IA.

De acordo com Stuart Millar, engenheiro principal de IA da Rapid7, os invasores podem estar testando as respostas do DeepSeek a perguntas sensíveis, tentando extrair prompts do sistema ou tentando alterar como a IA opera. Uma extração bem-sucedida de prompt do sistema pode revelar instruções proprietárias e potencialmente expor as vulnerabilidades da IA a mais exploração.

O pesquisador de segurança cibernética Erich Kron, da KnowBe4, destacou que tais ataques podem ser motivados por vários fatores:

• Extorsão – Os invasores podem exigir pagamentos de resgate em troca da interrupção de interrupções.
• Sabotagem corporativa – Concorrentes podem tentar enfraquecer a reputação e a posição de mercado da DeepSeek.
• Proteção de investimentos – Entidades que investiram em projetos rivais de IA podem ver o DeepSeek como uma ameaça e tentar miná-lo.

A Ascensão Meteórica da DeepSeek no Mundo da IA

Fundada em 2023, a DeepSeek rapidamente se posicionou como uma grande concorrente na corrida da IA. Os modelos da empresa, incluindo o DeepSeek-V3, ganharam as manchetes por sua capacidade de competir com, e até mesmo superar, modelos de IA ocidentais como o GPT da OpenAI e o LLaMA da Meta, enquanto são treinados por uma fração do custo.

Seu aplicativo de chatbot para iOS disparou recentemente para o topo das paradas de aplicativos gratuitos da Apple nos EUA e no Reino Unido, superando até mesmo o ChatGPT da OpenAI em popularidade.

Um fator importante por trás do sucesso da DeepSeek é sua eficiência. A empresa alega que seu modelo DeepSeek-V3 requer significativamente menos horas de GPU em comparação com as contrapartes do Vale do Silício. Com as sanções dos EUA restringindo a venda de chips avançados de IA para empresas chinesas, essa eficiência se tornou uma vantagem competitiva crítica.

Apesar desses avanços tecnológicos, o DeepSeek continua controverso devido às suas políticas de censura e potenciais riscos à segurança nacional associados às suas práticas de armazenamento de dados.

Falhas de Segurança e Preocupações com a Privacidade

O DeepSeek enfrentou vulnerabilidades de segurança anteriores, incluindo uma exploração de injeção rápida descoberta pelo pesquisador de segurança Johann Rehberger. Essa falha pode ter permitido que invasores assumissem contas de usuários usando uma carga útil de script entre sites (XSS) incorporada em respostas geradas por IA.

Além disso, um relatório recente de inteligência de ameaças da Kela descobriu que os modelos de IA da DeepSeek são vulneráveis a ataques de jailbreak que os permitem gerar conteúdo antiético e ilegal, incluindo:

• Geração de código de ransomware
• Fabricação de desinformação
• Guias passo a passo para fazer explosivos e toxinas
• Instruções de desenvolvimento de malware

Essas descobertas levantam sérias preocupações éticas sobre como a IA pode ser mal utilizada se não for devidamente protegida.

Além disso, a política de privacidade da DeepSeek revela que os dados do usuário — incluindo informações do dispositivo, detalhes da rede e dados de pagamento — são armazenados em servidores localizados na China. Isso gerou preocupações em países ocidentais, particularmente nos Estados Unidos, onde a Marinha dos EUA recentemente aconselhou o pessoal a evitar o uso da DeepSeek devido a potenciais riscos éticos e de segurança.

A autoridade italiana de proteção de dados também iniciou uma investigação, exigindo que a DeepSeek esclareça como ela coleta, armazena e processa dados de usuários. A empresa tem 20 dias para responder a perguntas sobre fontes de dados, justificativas legais para processamento e se o treinamento do modelo de IA envolve raspagem de dados.

Uma Nova Rivalidade da IA em Meio a Tensões Geopolíticas

O surgimento do DeepSeek adiciona uma nova dimensão à corrida global de IA, particularmente à medida que as tensões tecnológicas entre EUA e China continuam a aumentar. A comunidade de IA tomou conhecimento, com o CEO da OpenAI, Sam Altman, chamando o modelo de raciocínio do DeepSeek de "impressionante" e reconhecendo-o como um concorrente legítimo.

Curiosamente, Jim Fan, da NVIDIA, observou que o DeepSeek está "mantendo viva a missão original do OpenAI" ao se concentrar em pesquisa aberta e ampla acessibilidade — uma declaração que critica sutilmente a recente mudança do OpenAI em direção a modelos de código fechado.

A China, enquanto isso, defendeu sua posição sobre regulamentações tecnológicas, afirmando que permite que empresas globais de IA operem, desde que sigam as leis locais. No entanto, permanecem preocupações sobre como as empresas chinesas de IA podem ser influenciadas por regulamentações governamentais, políticas de censura e diretrizes de segurança nacional.

Um Momento Crucial para a Segurança da IA

A ascensão da DeepSeek demonstra que a China está fazendo grandes avanços no desenvolvimento de IA, mas também ressalta os crescentes desafios de segurança cibernética que as empresas de IA enfrentam. Sejam ataques cibernéticos maliciosos, preocupações com privacidade ou escrutínio geopolítico, a jornada da DeepSeek destaca a complexa interação entre inovação de IA, segurança e política global.

Para os usuários, esses eventos servem como um lembrete para serem cautelosos com plataformas de IA que lidam com dados sensíveis, especialmente aquelas com políticas de privacidade opacas e potenciais vulnerabilidades de segurança. À medida que a IA continua a evoluir, garantir medidas robustas de segurança cibernética e práticas de dados transparentes será crucial para empresas que buscam manter a confiança do usuário e a credibilidade global.