伊朗黑客滥用 ChatGPT 发起针对关键基础设施的网络攻击

OpenAI 在一份开创性的报告中披露了伊朗黑客如何利用 ChatGPT 来增强对工业控制系统 (ICS) 的网络攻击。该报告揭示了 CyberAv3ngers 等组织开展的网络活动，这些组织与伊朗伊斯兰革命卫队 (IRGC) 有联系，并由中国资助。

这些威胁行为者使用 ChatGPT 进行侦察、漏洞利用和入侵后的操作。虽然 OpenAI 强调 AI 并没有提供新功能，但它确实帮助这些黑客使用公开可用的技术更有效地进行攻击。

伊朗 CyberAv3ngers 组织和水利设施攻击

CyberAv3ngers 今年因针对爱尔兰和宾夕法尼亚州的水务公司发动攻击而恶名远播，造成严重破坏。该组织利用了暴露在互联网上的安全性较差的 ICS 系统并使用默认密码。他们的重点是可编程逻辑控制器 (PLC)，这是控制工业流程的关键设备。

他们对 ChatGPT 的使用涉及向聊天机器人询问有关工业路由器、PLC 以及关键基础设施设备（如 Tridium Niagara 和 Hirschmann RS 路由器）的默认密码的信息。

滥用人工智能进行网络攻击

除了针对 ICS 的特定目标外，CyberAv3ngers 还寻求 ChatGPT 的帮助，以混淆恶意代码并扫描网络以查找可利用的漏洞。该组织还试图找到访问 macOS 密码的方法。

然而，OpenAI 澄清说，这些活动并没有为黑客提供任何新奇或先进的能力，超出了非 AI 工具所能提供的能力。这凸显了滥用 AI 的危险，即使获得的信息并不具有革命性。

涉及的其他威胁行为者

除了 CyberAv3ngers，另一个名为 Storm-0817 的伊朗组织也滥用了 ChatGPT。他们试图开发 Android 恶意软件并抓取 Instagram 数据，利用人工智能将 LinkedIn 个人资料翻译成波斯语。虽然这些活动没有 ICS 攻击那样直接造成破坏，但它们反映了将人工智能武器化用于网络行动的更广泛努力。

报告中还提到了与中国有关的 SweetSpectre。该组织使用 ChatGPT 进行恶意软件开发和漏洞研究。值得注意的是，SweetSpectre 曾试图向 OpenAI 员工发送带有恶意软件的电子邮件，但攻击在到达目标之前就被阻止了。

更大的图景

该报告强调了人工智能在网络战中被滥用的风险越来越大。尽管包括 ChatGPT 在内的人工智能可以为合法用户简化任务，但它也可能成为坏人的工具。OpenAI 主动检测和消除这些威胁的方法对于遏制其影响至关重要。

这给网络安全行业带来了疑问：如何保护人工智能免遭滥用？需要采取哪些措施来防止威胁行为者利用此类工具来增强其能力？

这些披露应该促使行业和政府重新考虑安全策略，特别是关键基础设施的安全策略，并优先弥补允许黑客利用脆弱系统的漏洞。

人工智能在推动行业发展和提高效率方面具有巨大潜力。但正如报告所示，它也是一把双刃剑。如果使用不当，它可以增强网络犯罪分子和民族国家行为者的能力。要防范这些威胁，需要时刻保持警惕、加强防御，并负责任地开发人工智能技术。

ChatGPT 在这些事件中的作用可能有限，但它为人工智能在网络安全领域的更广泛影响敲响了警钟。