이란 해커, 중요 인프라를 표적으로 삼은 사이버 공격에서 ChatGPT를 오용

획기적인 보고서에서 OpenAI는 이란 해커들이 ChatGPT를 악용해 산업 제어 시스템(ICS)에 대한 사이버 공격을 강화한 방법을 공개했습니다. 이 보고서는 이란의 이슬람 혁명 수비대(IRGC)와 연결된 CyberAv3ngers와 같은 그룹이 수행한 사이버 활동과 중국이 후원한 다른 활동에 대해 조명을 비춥니다.

이러한 위협 행위자들은 정찰, 취약성 악용 및 침해 후 조치에 ChatGPT를 사용했습니다. OpenAI는 AI가 새로운 기능을 제공하지 않았지만 이러한 해커가 공개적으로 사용 가능한 기술을 사용하여 공격을 보다 효율적으로 수행하는 데 도움이 되었다고 강조합니다.

이란 그룹 CyberAv3ngers 및 물 시설 공격

CyberAv3ngers는 올해 아일랜드와 펜실베이니아의 수도 시설을 표적으로 삼아 상당한 혼란을 야기한 것으로 악명을 떨쳤습니다. 이 그룹은 인터넷에 노출되어 기본 비밀번호를 사용하는 보안이 취약한 ICS 시스템을 악용했습니다. 그들의 초점은 산업 공정을 제어하는 중요한 장치인 PLC(프로그래밍 가능 논리 컨트롤러)에 맞춰졌습니다.

ChatGPT를 활용한 작업에는 챗봇에게 산업용 라우터, PLC, Tridium Niagara, Hirschmann RS 라우터와 같은 중요 인프라 장치의 기본 비밀번호에 대한 정보를 요청하는 작업이 포함되었습니다.

사이버 공격을 위한 AI의 오용

ICS 특정 대상 외에도 CyberAv3ngers는 ChatGPT의 도움을 받아 악성 코드를 난독화하고 악용 가능한 취약점을 네트워크에서 스캔했습니다. 이 그룹은 또한 macOS 비밀번호에 액세스할 방법을 찾으려고 시도했습니다.

하지만 OpenAI는 이러한 활동이 해커에게 비AI 도구를 통해 제공되는 것 이상의 새롭거나 진보된 기능을 제공하지 않는다고 분명히 밝혔습니다. 이는 얻은 정보가 혁신적이지 않더라도 AI 오용의 위험을 강조합니다.

관련된 다른 위협 행위자

CyberAv3ngers 외에도 Storm-0817이라는 또 다른 이란 그룹은 ChatGPT를 오용했습니다. 그들은 안드로이드 맬웨어를 개발하고 Instagram 데이터를 스크래핑하여 AI를 활용하여 LinkedIn 프로필을 페르시아어로 번역하려고 했습니다. ICS 공격만큼 직접적으로 피해를 주지는 않지만 이러한 활동은 사이버 작전에서 AI를 무기화하려는 더 광범위한 노력을 반영합니다.

보고서에는 중국과 관련된 SweetSpectre도 언급되었습니다. 이 그룹은 ChatGPT를 맬웨어 개발 및 취약성 연구에 사용했습니다. 특히 SweetSpectre는 OpenAI 직원에게 맬웨어가 가득한 이메일을 보내려고 시도했지만, 공격은 목표에 도달하기 전에 저지되었습니다.

더 큰 그림

보고서는 사이버전에서 AI 오용의 위험이 커지고 있음을 강조합니다. ChatGPT를 포함한 AI는 합법적인 사용자의 작업을 간소화할 수 있지만, 악의적인 행위자의 도구 역할을 할 수도 있습니다. 이러한 위협을 탐지하고 무력화하기 위한 OpenAI의 사전 예방적 접근 방식은 위협의 영향을 억제하는 데 필수적입니다.

이는 사이버 보안 산업에 다음과 같은 의문을 제기합니다. AI를 오용으로부터 어떻게 보호할 수 있을까요? 위협 행위자가 이러한 도구를 사용하여 역량을 강화하는 것을 방지하기 위해 필요한 조치는 무엇일까요?

이러한 사실은 업계와 정부가 특히 중요 인프라에 대한 보안 전략을 재고하고 해커가 취약한 시스템을 악용할 수 있는 틈새를 메우는 것을 우선시하도록 촉구합니다.

AI는 산업을 발전시키고 효율성을 개선하는 데 엄청난 잠재력을 가지고 있습니다. 하지만 보고서에서 보여주듯이, 그것은 또한 양날의 검입니다. 오용되면 사이버 범죄자와 국가 행위자의 역량을 증폭시킬 수 있습니다. 이러한 위협에 앞서 나가려면 끊임없는 경계, 더 강력한 방어, 그리고 AI 기술의 책임감 있는 개발이 필요합니다.

이러한 사고에서 ChatGPT의 역할은 제한적일 수 있지만, 사이버보안 분야에서 AI가 갖는 더 광범위한 의미에 대한 경각심을 불러일으키는 계기가 되었습니다.