다중 라이센스 할인 견적
컴퓨터 보안 DeepSeek 보안 침해로 AI 취약점 노출 및 사이버 공격 발생

DeepSeek 보안 침해로 AI 취약점 노출 및 사이버 공격 발생

컴퓨터 보안년에 Mura 년까지
번역 :
한국어

중국의 최신 생성 AI인 DeepSeek는 출시 이후 집중적인 사이버 보안 조사를 받았습니다. 보안 연구원들은 최근 모델의 내부 작동 방식을 공개한 시스템 프롬프트 탈옥을 폭로했습니다. 한편, DeepSeek는 DDoS 공격의 물결에 직면하여 새로운 사용자 등록을 제한해야 했습니다. 이러한 사건은 AI 모델의 보안 위험과 AI 서비스를 표적으로 삼는 사이버 공격의 정교함이 증가하고 있음을 모두 강조합니다.

DeepSeek의 시스템 프롬프트 탈옥: 연구자들이 발견한 것

DeepSeek이 데뷔한 직후, API 보안 회사 Wallarm의 연구원들은 AI 모델의 전체 시스템 프롬프트를 노출시키는 탈옥 취약점을 발견했습니다. 이러한 유형의 보안 결함은 AI의 시스템 프롬프트가 동작, 응답 제한 및 콘텐츠 조정 정책을 지시하기 때문에 특히 우려스럽습니다. ChatGPT를 사용하는 OpenAI를 포함한 대부분의 AI 개발자는 이러한 누출을 방지하기 위해 엄격한 조치를 취합니다.

Wallarm은 2월 1일 블로그 게시물에서 탈옥 방법이 편향 기반 AI 응답 논리를 악용했다고 밝혔지만, 회사는 책임 있는 공개 정책으로 인해 구체적인 기술적 세부 정보를 공개하지 않았습니다. DeepSeek은 이 문제에 대해 통보를 받았고 그 후로 수정 사항을 배포했습니다. 그러나 Wallarm은 전체 시스템 프롬프트 텍스트를 게시하여 보안 전문가가 DeepSeek의 운영 프레임워크를 분석할 수 있도록 했습니다.

이 폭로는 다음과 같은 논의를 불러일으켰습니다.

  • AI 개인 정보 보호 조치 와 DeepSeek이 사용자 데이터를 얼마나 효과적으로 보호하는지 알아보세요.
  • 특히 DeepSeek의 훈련에는 편견이 있을 가능성이 있으며 , 이는 훈련에 OpenAI 데이터를 사용했을 수 있다는 주장을 고려할 때 더욱 그렇습니다.
  • 특히 AI 콘텐츠가 엄격하게 통제되는 중국의 경우 AI 모델이 작동하는 방식에 영향을 줄 수 있는 규제적 제약이 있습니다 .

잠재적인 OpenAI 영향을 조사하기 위해 Wallarm은 DeepSeek의 시스템 프롬프트를 ChatGPT의 프롬프트와 비교했습니다. ChatGPT의 분석에 따르면 DeepSeek의 응답은 더 엄격한 규정 준수 조치와 일치하는 반면 OpenAI의 접근 방식은 더 유연하고 사용자 중심적입니다.

DeepSeek에 대한 DDoS 공격: 조정된 사이버 공격

DeepSeek의 인기가 높아지면서 대규모 분산 서비스 거부(DDoS) 공격의 표적이 되었습니다. 이 회사는 엄청난 양의 공격으로 인해 새로운 사용자 등록을 차단해야 한다고 발표했습니다.

공격을 모니터링하는 사이버 보안 회사인 NSFocus에 따르면 DeepSeek은 1월 25일, 26일, 27일에 API 인터페이스를 표적으로 한 세 차례의 주요 DDoS 공격에 직면했습니다. 각 공격은 약 35분 동안 지속되어 DeepSeek의 플랫폼에 심각한 영향을 미쳤습니다. 1월 28일까지 API 인터페이스는 지속적인 중단으로 인해 여전히 사용할 수 없었습니다.

DeepSeek 채팅 시스템도 공격을 받았으며, 1월 20일과 25일에 각각 약 1시간 동안 DDoS 공격이 관찰되었습니다.

DDoS 공격 방법

NSFocus는 다음을 포함한 여러 반사 기반 공격 기술을 식별했습니다.

  • NTP 반사 공격 – 네트워크 시간 프로토콜(NTP) 서버를 악용하여 공격 트래픽을 증폭시킵니다.
  • Memcached 반사 공격 – 잘못 구성된 Memcached 서버를 이용해 DeepSeek에 엄청난 트래픽을 유입시킵니다.
  • SSDP 반사 공격 – 네트워크 리소스를 과부하시키기 위해 SSDP(Simple Service Discovery Protocol) 서비스를 타겟으로 합니다.
  • CLDAP 반사 공격 – 연결 없는 경량 디렉터리 액세스 프로토콜(CLDAP) 서버를 활용하여 공격 볼륨을 늘립니다.

고도로 조직된 공격

1월 28일까지 DeepSeek은 공격자들이 회사의 완화 노력에 대응하여 방법을 조정하고 있다고 보고했습니다. 이러한 공격의 정밀성과 조정으로 인해 NSFocus는 가해자들이 무작위 해커가 아니라 전문적이고 조직적인 팀이라고 결론지었습니다.

NSFocus는 "공격자는 타겟 선택부터 공격 타이밍, 강도 조절까지 모든 공격 단계에서 매우 높은 전문성을 보여준다"고 밝혔습니다.

사이버 보안 회사의 분석에 따르면, 주요 공격 소스에는 미국, 영국, 호주의 시스템이 포함되었습니다.

이것이 AI 보안에 의미하는 바

DeepSeek 사건은 생성 AI에서 증가하는 사이버 보안 위험을 강조합니다. 탈옥 취약성에서 표적 사이버 공격에 이르기까지 AI 서비스는 이제 보안 연구자와 악의적 행위자 모두의 주요 타깃이 되었습니다.

주요 내용:

  1. AI 탈옥은 여전히 보안 문제로 남아 있습니다 . DeepSeek와 같은 최신 AI 모델도 역공학을 통해 내부 논리를 노출할 수 있습니다.
  2. AI 플랫폼을 대상으로 한 DDoS 공격이 증가하고 있습니다 . AI 서비스가 인기를 얻으면서 보다 고도로 조직화된 사이버 공격이 늘어나고 있습니다.
  3. AI 보안은 빠르게 진화해야 합니다 . 개발자는 즉각적인 유출을 방지하고 사이버 위협으로부터 방어하기 위해 강력한 보호 장치를 구현해야 합니다.

AI가 디지털 환경을 지속적으로 형성함에 따라 사이버보안 팀은 AI 모델이 새로운 위협에 대해 안전하고 회복력을 유지하도록 한발 앞서 나가야 합니다.

로드 중...