중국 기반 DeepSeek AI, 사이버 공격과 보안 우려 증가로 신규 가입 제한

중국 AI 스타트업 DeepSeek은 인공지능 분야에서 빠르게 주목을 받고 있지만, 인기가 높아지면서 점점 더 많은 과제가 생겨납니다. 이 회사는 최근 서비스에 대한 대규모 악의적 공격으로 인해 신규 사용자 등록을 제한했습니다. 기존 사용자는 플랫폼에 계속 액세스할 수 있지만, 신규 가입은 일시적으로 제한되었습니다.

이 상황은 AI 플랫폼이 직면한 보안 위협이 증가하고 있음을 보여주며, 중국 기술 기업을 둘러싼 AI 보안, 개인정보 보호, 지정학적 긴장이 미치는 더 광범위한 영향에 대한 우려를 불러일으킵니다.

DeepSeek을 표적으로 삼은 사이버 공격

DeepSeek에서는 이러한 공격의 구체적인 내용을 공개하지 않았지만, 사이버보안 전문가들은 이러한 공격이 분산 서비스 거부(DDoS) 공격, 시스템 프롬프트 추출, 콘텐츠 제한을 우회하거나 AI 동작을 조작하기 위한 탈옥 시도 등이 섞인 형태일 수 있다고 생각하고 있습니다.

Rapid7의 수석 AI 엔지니어인 스튜어트 밀러에 따르면, 공격자는 DeepSeek의 민감한 질문에 대한 응답을 테스트하거나, 시스템 프롬프트를 추출하거나, AI가 작동하는 방식을 변경하려고 시도할 수 있습니다. 성공적인 시스템 프롬프트 추출은 독점적인 지침을 드러내고 잠재적으로 AI의 취약성을 추가 악용에 노출시킬 수 있습니다.

KnowBe4의 사이버 보안 연구원인 에리히 크론은 이러한 공격이 다양한 요인에 의해 동기가 부여될 수 있다고 지적했습니다.

• 강탈 – 공격자는 방해를 중단하는 대가로 몸값을 요구할 수 있습니다.
• 기업 방해 행위 – 경쟁사가 DeepSeek의 평판과 시장 지위를 약화시키려 시도할 수 있습니다.
• 투자 보호 – 경쟁 AI 프로젝트에 투자한 기업은 DeepSeek을 위협으로 보고 이를 훼손하려 할 수 있습니다.

AI 세계에서 DeepSeek의 급격한 상승

2023년에 설립된 DeepSeek은 AI 경쟁에서 주요 경쟁자로 빠르게 자리매김했습니다. DeepSeek-V3를 포함한 이 회사의 모델은 OpenAI의 GPT 및 Meta의 LLaMA와 같은 서양 AI 모델과 경쟁하고 심지어 능가할 수 있는 능력으로 헤드라인을 장식했으며, 비용의 일부만으로 훈련되었습니다.

최근 iOS 챗봇 앱이 미국과 영국의 Apple 무료 앱 차트에서 1위를 차지했으며, 인기 면에서 OpenAI의 ChatGPT를 앞지르기도 했습니다.

DeepSeek의 성공을 뒷받침하는 주요 요인은 효율성입니다. 이 회사는 DeepSeek-V3 모델이 실리콘 밸리 대응 제품에 비해 GPU 시간이 훨씬 적게 필요하다고 주장합니다. 미국 제재로 인해 중국 기업에 대한 고급 AI 칩 판매가 제한됨에 따라 이러한 효율성은 중요한 경쟁 우위가 되었습니다.

이러한 기술적 혁신에도 불구하고 DeepSeek은 검열 정책과 데이터 저장 관행과 관련된 잠재적인 국가 안보 위험으로 인해 여전히 논란의 여지가 있습니다.

보안 결함 및 개인 정보 보호 문제

DeepSeek은 보안 연구원 Johann Rehberger가 발견한 신속한 주입 익스플로잇을 포함하여 과거의 보안 취약성 에 직면했습니다. 이 결함으로 인해 공격자는 AI가 생성한 응답에 포함된 크로스 사이트 스크립팅(XSS) 페이로드를 사용하여 사용자 계정을 인수할 수 있었습니다.

또한 Kela의 최근 위협 인텔리전스 보고서에 따르면 DeepSeek의 AI 모델은 다음을 포함하여 비윤리적이고 불법적인 콘텐츠를 생성할 수 있는 탈옥 공격에 취약하다는 사실이 밝혀졌습니다.

• 랜섬웨어 코드 생성
• 허위 정보의 조작
• 폭발물과 독소를 만드는 단계별 가이드
• 맬웨어 개발 지침

이러한 연구 결과는 AI가 적절하게 보호되지 않을 경우 어떻게 오용될 수 있는지에 대한 심각한 윤리적 우려를 제기합니다.

또한 DeepSeek의 개인정보 보호정책은 기기 정보, 네트워크 세부 정보, 결제 데이터를 포함한 사용자 데이터가 중국에 있는 서버에 저장된다는 사실을 밝힙니다. 이는 서방 국가, 특히 미국에서 우려를 불러일으켰는데, 최근 미국 해군은 잠재적인 보안 및 윤리적 위험으로 인해 DeepSeek 사용을 피하라고 직원들에게 권고했습니다.

이탈리아 데이터 보호 기관도 조사를 시작하면서 DeepSeek이 사용자 데이터를 수집, 저장 및 처리하는 방식을 명확히 할 것을 요구했습니다. 이 회사는 데이터 소스, 처리에 대한 법적 근거, AI 모델 훈련에 데이터 스크래핑이 포함되는지 여부에 대한 질문에 20일 이내에 답변해야 합니다.

지정학적 긴장 속의 새로운 AI 경쟁

DeepSeek의 등장은 글로벌 AI 경쟁에 새로운 차원을 더하고 있으며, 특히 미-중 기술 긴장이 계속 고조되고 있습니다. AI 커뮤니티는 이를 주목하고 있으며, OpenAI CEO인 샘 알트먼은 DeepSeek의 추론 모델을 "인상적"이라고 부르고 합법적인 경쟁자로 인정했습니다.

흥미롭게도 NVIDIA의 Jim Fan은 DeepSeek이 오픈 연구와 광범위한 접근성에 집중함으로써 "OpenAI의 원래 사명을 살리고 있다"고 언급했습니다. 이는 OpenAI의 최근 폐쇄 소스 모델로의 전환을 미묘하게 비판하는 발언입니다.

한편 중국은 기술 규제에 대한 입장을 옹호하며, 글로벌 AI 기업이 현지 법률을 준수하는 한 운영을 허용한다고 주장했습니다. 그러나 중국 AI 기업이 정부 규제, 검열 정책 및 국가 안보 지침에 어떻게 영향을 받을지에 대한 우려가 여전히 남아 있습니다.

AI 보안의 중요한 순간

DeepSeek의 부상은 중국이 AI 개발에서 큰 진전을 이루고 있음을 보여주지만, AI 회사가 직면한 사이버 보안 과제가 커지고 있음을 강조하기도 합니다. 악의적인 사이버 공격, 개인정보 보호 문제 또는 지정학적 감시이든, DeepSeek의 여정은 AI 혁신, 보안 및 세계 정치 간의 복잡한 상호 작용을 강조합니다.

사용자에게 이러한 이벤트는 민감한 데이터를 처리하는 AI 플랫폼, 특히 불투명한 개인 정보 보호 정책과 잠재적인 보안 취약성이 있는 플랫폼에 대해 조심하라는 상기시켜주는 역할을 합니다. AI가 계속 진화함에 따라 강력한 사이버 보안 조치와 투명한 데이터 관행을 보장하는 것은 사용자 신뢰와 글로벌 신뢰성을 유지하려는 기업에 매우 중요합니다.