謹防！人工智慧可以使詐騙看起來合法並傳播勒索軟體等惡意軟體威脅

英國政府通訊總部間諜機構下屬的國家網路安全中心 (NCSC) 對人工智慧 (AI) 引發的網路攻擊威脅日益增加發出警告。根據 NCSC 的評估，生成式人工智慧工具可以根據簡單的提示產生令人信服的文字、語音和圖像，這使得區分真實電子郵件與詐騙者和惡意行為者發送的電子郵件變得具有挑戰性。

該機構預測，人工智慧，特別是生成式人工智慧和支援聊天機器人的大型語言模型，將在未來兩年內顯著加劇網路威脅的增加。主要問題之一是難以識別各種類型的攻擊，例如網路釣魚、欺騙和社會工程。

人工智慧技術的複雜性預計將使個人難以評估電子郵件或密碼重置請求的合法性，無論其網路安全理解程度如何。

人工智慧可以幫助增加勒索軟體目標

去年針對大英圖書館和皇家郵政等機構的勒索軟體攻擊預計也會增加。 NCSC 警告說，人工智慧的複雜性降低了業餘網路犯罪分子存取系統、收集目標資訊以及執行可能癱瘓電腦系統、提取敏感資料和要求加密貨幣贖金的攻擊的障礙。

生成式人工智慧工具已經被用來創建虛假的“誘餌文件”，這些文件透過避免網路釣魚攻擊中常見的錯誤而顯得令人信服。雖然生成式人工智慧可能無法提高勒索軟體程式碼的有效性，但它可以幫助識別和選擇目標。 NCSC 認為，國家行為者可能最擅長在先進網路行動中利用人工智慧。

人工智慧的好與壞

為了應對日益增長的威脅，NCSC 強調人工智慧還可以作為一種防禦工具，能夠偵測攻擊並設計更安全的系統。該報告恰逢英國政府推出新的指導方針“網路治理實踐守則”，鼓勵企業加強從勒索軟體攻擊中恢復的準備。然而，包括 NCSC 前負責人 Ciaran Martin 在內的一些網路安全專家主張採取更強有力的行動，建議從根本上重新評估應對勒索軟體威脅的方法。馬丁強調需要對贖金支付制定更嚴格的規則，並警告不要採取不切實際的策略，例如對敵對國家的犯罪分子進行報復。