Microsoft와 OpenAI, 파괴적인 사이버 공격에 AI를 활용하는 국가 해커에 대해 경고

Microsoft와 OpenAI는 사이버 공격 능력을 강화하기 위해 인공 지능(AI)과 대규모 언어 모델(LLM)을 사용하는 국가 해커의 위협이 증가하고 있다는 경고를 공동으로 발표했습니다. 보고서는 러시아, 북한, 이란, 중국과 연계된 국가 행위자들이 악의적인 사이버 활동을 위해 AI 기술을 적극적으로 실험하고 있는 것으로 확인했습니다.

Microsoft와 OpenAI의 협력을 통해 그들은 5명의 국가 관련 행위자의 노력을 좌절시켰고 자산과 계정을 종료하여 파괴적인 목적으로 AI 서비스를 활용하려는 시도를 방해했다는 사실이 밝혀졌습니다. Microsoft에 따르면 대규모 언어 모델의 매력은 자연어 지원에 있으며, 이는 특정 대상에 맞춘 사회 공학 및 사기성 커뮤니케이션을 전문으로 하는 위협 행위자에게 매력적입니다.

지금까지 LLM을 활용한 중요하거나 새로운 공격은 관찰되지 않았지만 보고서는 이러한 국가 관련 행위자가 사이버 공격 체인의 다양한 단계에서 AI 기술을 탐색하고 있음을 강조합니다. 활동 범위는 정찰 및 코딩 지원부터 맬웨어 개발까지 다양합니다.

러시아 민족국가 그룹 포레스트 블리자드(APT28)는 위성 통신 프로토콜과 레이더 이미징 기술에 대한 오픈소스 연구는 물론 스크립팅 작업에 OpenAI 서비스를 사용한 것으로 알려졌습니다. 마찬가지로 북한의 Emerald Sleet(Kimusky), 이란의 Crimson Sandstorm(Imperial Kitten), 중국의 Charcoal Typhoon(Aquatic Panda) 및 Salmon Typhoon(Maverick Panda)과 같은 다른 위협 행위자들도 전문가 식별, 연구 수행 등의 작업에 LLM을 활용했습니다. , 코드 조각 생성, 피싱 캠페인용 콘텐츠 생성 등이 있습니다.

증가하는 위협에 대응하여 Microsoft는 국가 행위자, 지능형 지속 위협(APT), 지능형 지속 조작자(APM)의 악의적인 AI 도구 및 API 사용과 관련된 위험을 완화하기 위한 일련의 원칙을 공식화하여 사전 조치를 취하고 있습니다. , 사이버 범죄 신디케이트. 원칙에는 악의적인 행위자를 식별 및 조치하고, 다른 AI 서비스 제공자에게 알리고, 이해관계자와 협력하고, 이러한 위협을 처리하는 데 있어 투명성을 보장하는 것이 포함됩니다.

Microsoft와 OpenAI 간의 이러한 협력은 AI 모델에 대한 가드레일과 안전 메커니즘을 구축하기 위한 공동 노력의 필요성을 강조하고 진화하는 사이버 위협에 직면하여 책임감 있는 AI 사용 및 보안에 대한 약속을 강화합니다.