AI가 생성한 맬웨어가 발견되었으며, 우리가 아는 사이버 보안을 바꿀 수 있습니다.

진화하는 사이버 보안 세계에서 우리는 AI가 악성 소프트웨어를 만드는 데 활용될 수 있다는 사실을 꽤 오래 전부터 알고 있었습니다. 하지만 최근의 발전은 AI가 생성한 맬웨어의 미래가 생각보다 더 가까울 수 있다는 신호를 보내고 있습니다. HP는 최근 AI가 생성한 드로퍼를 통해 표준 맬웨어 페이로드를 전달하는 이메일 캠페인을 가로채 사이버 범죄 전술에 큰 변화를 가져왔습니다.

AI 맬웨어 개발에서 발견된 새로운 종류의 위협

이 발견은 HP의 보안팀이 전형적인 송장 테마의 미끼가 포함된 피싱 이메일을 발견한 2024년 6월에 이루어졌습니다. 첨부 파일은 암호화된 HTML 파일이었습니다. HTML 밀수라고 알려진 기술로 감지를 피하기 위해 고안되었습니다. HTML 밀수는 새로운 것이 아니지만 이 사건에는 흥미로운 반전이 있었습니다. 일반적으로 사이버 범죄자는 미리 암호화된 파일을 보냈지만 이번에는 공격자가 첨부 파일의 JavaScript 코드에 직접 AES 복호화 키를 포함했습니다. 이러한 이상함으로 인해 추가 조사가 이루어졌습니다.

HP 연구원들은 첨부 파일을 해독한 결과, 그것이 정상적인 웹사이트처럼 보이지만 그 안에 VBScript와 악명 높은 AsyncRAT infostealer가 숨겨져 있음을 발견했습니다. VBScript는 드로퍼 역할을 하여 infostealer 페이로드를 배포하고, 시스템 레지스트리를 수정하고, 예약된 작업으로 JavaScript를 실행했습니다. 그런 다음 PowerShell 스크립트가 실행되어 AsyncRAT 배포가 완료되었습니다.

이 프로세스의 많은 부분이 익숙하지만, 한 가지 중요한 세부 사항이 눈에 띄었습니다. VBScript는 비정상적으로 잘 구조화되어 있었고 주석이 포함되어 있었습니다. 이는 맬웨어 개발에서 흔하지 않은 관행입니다. 더욱 놀라운 점은 이 스크립트가 프랑스어로 작성되었다는 것입니다. 이러한 요인으로 인해 HP 연구자들은 드롭퍼가 인간이 만든 것이 아니라 AI가 생성했다고 믿었습니다.

사이버 범죄자들의 장벽을 낮추는 AI의 역할

이론을 시험하기 위해 HP 팀은 자체 AI 도구를 사용하여 VBScript를 복제했습니다. 그 결과 나온 스크립트는 공격에 사용된 스크립트와 놀라울 정도로 유사했습니다. 이것이 확실한 증거는 아니지만, 연구자들은 AI가 맬웨어 생성에 관여했다고 확신합니다. 하지만 미스터리는 더욱 깊어집니다. 왜 맬웨어가 난독화되지 않았을까요? 왜 코드에 주석이 남았을까요?

한 가지 가능한 설명은 공격자가 사이버 범죄의 세계에 새로 온 사람이었다는 것입니다. AI가 생성한 맬웨어는 최소한의 기술만 가진 개인이 VBScript 생성과 같은 도구를 사용할 수 있게 하여 잠재적 해커의 진입 장벽을 낮추고 있을 수 있습니다. 이 경우 주요 페이로드인 AsyncRAT는 무료로 사용할 수 있으며 HTML 밀수와 같은 기술은 광범위한 코딩 지식이 필요하지 않습니다.

HP의 주요 위협 연구원인 알렉스 홀랜드는 이 공격에 필요한 리소스가 매우 적다고 지적했습니다. 도난당한 데이터를 관리하는 단일 명령 및 제어(C&C) 서버 외에는 복잡한 인프라가 없었습니다. 맬웨어 자체는 기본적이었고 보다 정교한 공격에서 볼 수 있는 일반적인 난독화가 부족했습니다. 간단히 말해서, 이것은 경험이 부족한 해커가 AI를 활용하여 무거운 작업을 수행한 것일 수 있습니다.

AI가 생성하는 맬웨어의 미래

이 발견은 또 다른 놀라운 가능성을 제기합니다. 경험이 부족한 공격자가 AI가 생성한 스크립트를 가리키는 단서를 남길 수 있다면, 더 노련한 적대자는 비슷한 도구로 무엇을 달성할 수 있을까요? 숙련된 사이버 범죄자는 AI가 개입한 흔적을 모두 제거하여 탐지를 훨씬 더 어렵게 만들거나 불가능하게 만들 것입니다.

홀랜드는 "우리는 AI가 맬웨어를 생성하는 데 사용될 수 있을 것이라고 오랫동안 기대해 왔습니다."라고 말했습니다. "하지만 이것은 우리가 본 최초의 실제 사례 중 하나입니다. AI가 생성한 맬웨어가 더욱 발전하고 널리 퍼질 미래를 향한 또 다른 단계입니다."

AI 기술이 급속히 발전함에 따라 완전 자율 AI 생성 맬웨어의 타임라인은 줄어들고 있습니다. 정확한 타임라인을 예측하기는 어렵지만 Holland와 같은 전문가들은 앞으로 몇 년 안에 일어날 수 있다고 믿습니다. AI 위협은 지평선에 솟아오르는 것이 아니라 이미 여기 있습니다.

사이버 위협의 다음 물결에 대비하기

인간과 AI가 생성한 맬웨어 간의 경계가 모호해짐에 따라 사이버 보안 환경은 더욱 어려워질 것으로 예상됩니다. 이 사건은 경고 역할을 하지만, AI가 사이버 공격에서 더 큰 역할을 할 미래를 엿볼 수 있는 기회이기도 합니다. 보안 전문가는 경계를 늦추지 말고, 이러한 새로운 위협에 대응하기 위해 방어를 지속적으로 조정해야 합니다.

AI가 생성한 맬웨어가 처음으로 야생에 등장하면서, 더욱 정교하고 AI 기반 공격이 표준이 되는 시대를 상상하는 것은 그리 어렵지 않습니다. 홀랜드가 불길하게 암시했듯이, 우리는 이미 "그들이 이미 왔어요! 다음이 당신이에요! 다음이 당신이에요!"라고 말하고 있을지도 모릅니다.