OpenAI, 글로벌 사이버범죄 캠페인에 맞서 싸우는 20개의 악성 사이버 작전 차단

놀랍게도 OpenAI는 디지털 위협과의 싸움에서 강력한 세력으로 부상했습니다. 올해 초부터 이 회사는 해로운 활동을 위해 AI 플랫폼을 악용 하려는 20건 이상의 악성 캠페인을 성공적으로 방해했으며, 사이버 보안의 미래가 이미 여기에 있음을 보여주었습니다.

이러한 작업은 맬웨어 디버깅, 허위 정보 제작, 가짜 소셜 미디어 페르소나 생성에 이르기까지 다양했습니다. 위협 행위자는 OpenAI의 플랫폼을 활용하여 가짜 계정에 대한 전기를 생성하거나 X(이전의 Twitter)에서 가짜 소셜 미디어 신원에 대한 AI 생성 프로필 사진을 만드는 것과 같은 악의적인 활동을 지원하려고 시도했습니다.

그러나 이러한 노력에도 불구하고 OpenAI는 이러한 캠페인 중 어느 것도 맬웨어 생성이나 허위 정보의 바이러스성 확산에 획기적인 진전을 가져오지 못했다고 대중에게 안심시켰습니다. 다시 말해, 악의적인 행위자들이 AI를 실험하고 있지만 아직 상당한 돌파구를 마련하지 못했습니다.

사이버 범죄자들이 AI를 어떻게 악용했는가

악의적인 행위자들은 중국에서 이란까지 전 세계에서 왔으며 다양한 전술을 사용했습니다. 두드러진 사례 중 하나는 중국에 기반을 둔 그룹인 SweetSpecter로, AI를 정찰 및 취약성 연구에 사용했고 심지어 OpenAI 직원을 스피어 피싱하려고 시도했지만(실패했습니다).

이란 그룹도 주목할 만한 역할을 했습니다. 이란 이슬람 혁명 수비대(IRGC)와 연계된 Cyber Av3ngers는 AI를 사용하여 프로그래밍 가능한 논리 컨트롤러를 연구했고, 또 다른 이란 단체인 Storm-0817은 AI를 사용하여 안드로이드 맬웨어를 디버깅하고 소셜 미디어 프로필을 스크래핑했습니다.

이러한 타겟팅 캠페인 외에도 OpenAI는 여러 대규모 영향력 작전을 차단했습니다. 이 중 하나인 A2Z는 광범위한 소셜 미디어 게시를 위해 영어와 프랑스어 콘텐츠를 생성했고, Stop News는 종종 만화적이거나 극적인 스타일의 AI 생성 이미지를 활용하여 기사와 트윗을 강화했습니다.

글로벌 허위 정보 캠페인 방해

정치 시스템을 표적으로 삼은 허위 정보 캠페인은 또 다른 우려 사항이었습니다. OpenAI는 미국, 르완다, 인도, 유럽 연합에서 선거에 영향을 미치려는 시도에 개입했다고 보고했습니다. 이러한 노력 중 어느 것도 바이러스성으로 확산되지는 않았지만 위협 행위자가 선거를 조작하려고 했다는 사실은 AI 주도 허위 정보로 인해 증가하는 위험을 강조합니다.

이스라엘 회사인 STOIC(Zero Zeno로도 알려짐)는 이 분야의 주요 참여자 중 하나로, 인도 선거에 대한 소셜 미디어 댓글을 생성했는데, 이는 올해 초 Meta와 OpenAI가 모두 공개한 활동입니다.

OpenAI의 지속적인 감시는 Bet Bot과 Corrupt Comment라는 두 개의 다른 네트워크를 발견하는 결과로 이어졌습니다. 이 두 네트워크는 OpenAI의 API를 사용하여 X에 대한 대화를 생성하고 사용자를 도박 사이트로 연결하거나 조작된 댓글로 소셜 미디어를 범람시켰습니다.

마이크로 타겟팅된 잘못된 정보에서 AI의 역할

생성적 AI는 대규모 허위 정보뿐만 아니라 마이크로 타겟팅에도 무기화될 수 있는 잠재력을 가지고 있습니다. 사이버 보안 회사인 Sophos의 최근 보고서에 따르면, AI는 이메일, 웹사이트, 가짜 페르소나를 통해 매우 개인화된 정치적 허위 정보를 퍼뜨리도록 조작될 수 있습니다. 특정 캠페인 요점에 메시지를 신중하게 맞춤화함으로써 위협 행위자는 유권자를 새로운 차원으로 속여 선거 결과를 바꾸거나 거짓 정보로 여론을 흔들 수 있습니다.

연구자들은 어떤 정치인이나 운동을 실제로는 지지하지 않는 정책 입장과 연관시키는 것이 놀라울 정도로 쉽다고 경고합니다. 이는 유권자들 사이에 혼란을 일으키고 민주주의 과정을 손상시킵니다.

사이버 보안에 대한 OpenAI의 헌신

AI는 전례 없는 발전 기회를 제공하지만, 심각한 보안 문제도 안겨줍니다. OpenAI는 기술을 악용하려는 악의적인 시도에 대응하는 임무를 수행할 수 있음을 증명했습니다. 그러나 사이버 보안 전문가와 사이버 범죄자 사이의 고양이와 쥐 게임은 계속될 가능성이 큽니다.

OpenAI가 올해 20개가 넘는 글로벌 캠페인을 방해하려는 노력은 상당한 승리를 거두었지만, 싸움은 끝나지 않았습니다. AI가 진화함에 따라 위협 행위자들이 사용하는 전술도 진화할 것입니다. AI가 디지털 속임수 도구가 아닌 선한 힘으로 남도록 하려면 끊임없는 경계와 혁신이 핵심입니다.