微軟和 OpenAI 警告國家駭客利用人工智慧進行破壞性網路攻擊

微軟和 OpenAI 聯合發出警告，稱民族國家駭客利用人工智慧 (AI) 和大語言模型 (LLM) 來增強網路攻擊能力，威脅日益嚴重。報告指出，與俄羅斯、北韓、伊朗和中國有關的民族國家行為者正積極嘗試利用人工智慧技術進行惡意網路活動。

微軟和 OpenAI 之間的合作顯示，他們挫敗了五個國家附屬行為者的努力，透過終止資產和帳戶來破壞他們利用人工智慧服務達到破壞性目的的企圖。微軟表示，大型語言模型的吸引力在於其自然語言支持，這使得它們對專門從事針對特定目標的社會工程和欺騙性通信的威脅行為者俱有吸引力。

雖然迄今尚未觀察到利用法學碩士的重大或新穎的攻擊，但報告強調，這些國家附屬行為者正在網路攻擊鏈的各個階段探索人工智慧技術。活動範圍從偵察和編碼協助到惡意軟體開發。

據報道，俄羅斯民族國家組織 Forest Blizzard (APT28) 已使用 OpenAI 服務進行衛星通訊協定和雷達成像技術的開源研究以及腳本任務。同樣，其他威脅行為者，如朝鮮的翡翠雨雪（Kimusky）、伊朗的赤紅沙暴（Imperial Kitten）、中國的木炭颱風（Aquatic Panda）和鮭魚颱風（Maverick Panda）也利用法學碩士來完成識別專家、進行研究等任務。 、產生程式碼片段以及為網路釣魚活動創建內容。

為了應對日益嚴重的威脅，微軟正在採取主動措施，制定一套原則，以減輕與民族國家行為者惡意使用人工智慧工具和API、高級持續性威脅(APT)、高級持續性操縱者(APM) 相關的風險和網路犯罪集團。這些原則包括識別惡意行為者並對其採取行動、通知其他人工智慧服務提供者、與利害關係人合作以及確保處理這些威脅的透明度。

微軟和 OpenAI 之間的合作強調需要集體努力，圍繞人工智慧模型建立護欄和安全機制，加強面對不斷變化的網路威脅時對負責任的人工智慧使用和安全的承諾。