谨防！人工智能可以使诈骗看起来合法并传播勒索软件等恶意软件威胁

英国政府通讯总部间谍机构下属的国家网络安全中心 (NCSC) 就人工智能 (AI) 引发的网络攻击威胁日益增加发出警告。根据 NCSC 的评估，生成式人工智能工具可以根据简单的提示生成令人信服的文本、语音和图像，这使得区分真实电子邮件与诈骗者和恶意行为者发送的电子邮件变得具有挑战性。

该机构预测，人工智能，特别是生成式人工智能和支持聊天机器人的大型语言模型，将在未来两年内显着加剧网络威胁的增加。主要问题之一是难以识别各种类型的攻击，例如网络钓鱼、欺骗和社会工程。

人工智能技术的复杂性预计将使个人难以评估电子邮件或密码重置请求的合法性，无论其网络安全理解水平如何。

人工智能可以帮助增加勒索软件目标

去年针对大英图书馆和皇家邮政等机构的勒索软件攻击预计也会增加。 NCSC 警告说，人工智能的复杂性降低了业余网络犯罪分子访问系统、收集目标信息以及执行可能瘫痪计算机系统、提取敏感数据和要求加密货币赎金的攻击的障碍。

生成式人工智能工具已经被用来创建虚假的“诱饵文档”，这些文档通过避免网络钓鱼攻击中常见的错误而显得令人信服。虽然生成式人工智能可能无法提高勒索软件代码的有效性，但它可以帮助识别和选择目标。 NCSC 认为，国家行为者可能最擅长在先进网络行动中利用人工智能。

人工智能的好与坏

为了应对日益增长的威胁，NCSC 强调人工智能还可以作为一种防御工具，能够检测攻击并设计更安全的系统。该报告恰逢英国政府推出新的指导方针“网络治理实践守则”，鼓励企业加强从勒索软件攻击中恢复的准备。然而，包括 NCSC 前负责人 Ciaran Martin 在内的一些网络安全专家主张采取更强有力的行动，建议从根本上重新评估应对勒索软件威胁的方法。马丁强调需要对赎金支付制定更严格的规则，并警告不要采取不切实际的策略，例如对敌对国家的犯罪分子进行报复。