微软和 OpenAI 警告国家黑客利用人工智能进行破坏性网络攻击

微软和 OpenAI 联合发出警告，称民族国家黑客利用人工智能 (AI) 和大语言模型 (LLM) 来增强网络攻击能力，威胁日益严重。该报告指出，与俄罗斯、朝鲜、伊朗和中国有关的民族国家行为者正在积极尝试利用人工智能技术进行恶意网络活动。

微软和 OpenAI 之间的合作显示，他们挫败了五个国家附属行为者的努力，通过终止资产和账户来破坏他们利用人工智能服务达到破坏性目的的企图。微软表示，大型语言模型的吸引力在于其自然语言支持，这使得它们对专门从事针对特定目标的社会工程和欺骗性通信的威胁行为者具有吸引力。

虽然迄今为止尚未观察到利用法学硕士的重大或新颖的攻击，但报告强调，这些国家附属行为者正在网络攻击链的各个阶段探索人工智能技术。活动范围从侦察和编码协助到恶意软件开发。

据报道，俄罗斯民族国家组织 Forest Blizzard (APT28) 已使用 OpenAI 服务进行卫星通信协议和雷达成像技术的开源研究以及脚本任务。同样，其他威胁行为者，如朝鲜的翡翠雨雪（Kimusky）、伊朗的赤红沙暴（Imperial Kitten）、中国的木炭台风（Aquatic Panda）和鲑鱼台风（Maverick Panda）也利用法学硕士来完成识别专家、开展研究等任务。 、生成代码片段以及为网络钓鱼活动创建内容。

为了应对日益严重的威胁，微软正在采取主动措施，制定一套原则，以减轻与民族国家行为者恶意使用人工智能工具和 API、高级持续性威胁 (APT)、高级持续性操纵者 (APM) 相关的风险和网络犯罪集团。这些原则包括识别恶意行为者并对其采取行动、通知其他人工智能服务提供商、与利益相关者合作以及确保处理这些威胁的透明度。

微软和 OpenAI 之间的合作强调需要集体努力，围绕人工智能模型建立护栏和安全机制，加强面对不断变化的网络威胁时对负责任的人工智能使用和安全的承诺。