伊朗駭客在針對關鍵基礎設施的網路攻擊中濫用 ChatGPT

OpenAI 在一份開創性報告中揭示了伊朗駭客如何利用 ChatGPT 來增強對工業控制系統 (ICS) 的網路攻擊。該報告揭示了與伊朗伊斯蘭革命衛隊（IRGC）有聯繫的 CyberAv3ngers 等組織以及中國資助的其他組織所進行的網路活動。

這些威脅行為者使用 ChatGPT 進行偵察、漏洞利用和入侵後行動。雖然 OpenAI 強調 AI 並沒有提供新功能，但它確實幫助這些駭客使用公開可用的技術更有效地進行攻擊。

伊朗網路復仇者組織和供水設施攻擊

CyberAv3ngers 今年因針對愛爾蘭和賓州的自來水公司造成嚴重破壞而聲名狼藉。該組織利用了安全性較差的 ICS 系統，這些系統暴露在互聯網上並使用預設密碼。他們的重點是可程式邏輯控制器（PLC），也就是控制工業製程的關鍵設備。

他們使用 ChatGPT 涉及向聊天機器人詢問有關工業路由器、PLC 以及 Tridium Niagara 和 Hirschmann RS 路由器等關鍵基礎設施設備的預設密碼的資訊。

濫用人工智慧進行網路攻擊

除了 ICS 特定目標之外，CyberAv3ngers 還尋求 ChatGPT 的協助來混淆惡意程式碼並掃描網路以查找可利用的漏洞。該小組還嘗試尋找存取 macOS 密碼的方法。

然而，OpenAI 澄清說，這些活動並未為駭客提供任何超出非 AI 工具可用的新功能或進階功能。這凸顯了人工智慧濫用的危險，即使獲得的資訊不是革命性的。

其他涉及的威脅行為者

除了 CyberAv3ngers 之外，另一個名為 Storm-0817 的伊朗組織也濫用了 ChatGPT。他們試圖開發 Android 惡意軟體並抓取 Instagram 數據，利用人工智慧將 LinkedIn 個人資料翻譯成波斯語。雖然這些活動不像工業控制系統攻擊那樣具有直接破壞性，但反映了網路行動中人工智慧武器化的更廣泛努力。

報告中也提到了與中國有關的 SweetSpectre。該小組使用 ChatGPT 進行惡意軟體開發和漏洞研究。值得注意的是，SweetSpectre 試圖向 OpenAI 員工發送充滿惡意軟體的電子郵件，但攻擊在到達目標之前就被挫敗了。

更大的圖景

該報告強調了人工智慧在網路戰中濫用的風險日益增加。儘管包括 ChatGPT 在內的人工智慧可以簡化合法用戶的任務，但它也可以成為不良行為者的工具。 OpenAI 主動偵測和消除這些威脅的方法對於遏制其影響至關重要。

這給網路安全產業提出了問題：如何防止人工智慧被濫用？需要採取哪些措施來防止威脅行為者使用此類工具來增強其能力？

這些揭露應促使產業和政府重新考慮安全策略，特別是關鍵基礎設施的安全策略，並優先考慮縮小允許駭客利用易受攻擊系統的漏洞。

人工智慧在推動產業發展和提高效率方面具有巨大潛力。但如報告所示，這也是一把雙面刃。如果被濫用，它可以增強網路犯罪分子和民族國家行為者的能力。要領先這些威脅，需要時刻保持警惕、加強防禦並負責任地開發人工智慧技術。

ChatGPT 在這些事件中的作用可能是有限的，但它為人工智慧在網路安全領域的更廣泛影響敲響了警鐘。