英国网络安全机构警告人工智能将帮助勒索软件实施者和诈骗者

英国网络安全机构国家网络安全中心 (NCSC) 警告称，人工智能的兴起将使识别真实电子邮件与诈骗者和恶意行为者的电子邮件变得更加复杂，特别是请求重置密码的邮件。

NCSC 警告说，人工智能工具的复杂性，特别是能够生成令人信服的文本、语音和图像的生成式人工智能，将使个人难以辨别欺骗用户泄露密码或个人信息的网络钓鱼企图。

生成式人工智能以 ChatGPT 等聊天机器人和开源模型等技术为代表，可以根据简单的提示创建真实的内容。 GCHQ 间谍机构下属的 NCSC 在最新评估中表示，人工智能可能会在未来两年内增加网络攻击的频率和影响。

该机构强调了生成式人工智能和大型语言模型（聊天机器人的基础技术）在使识别各种攻击类型（包括欺骗消息和社会工程（一种操纵个人泄露机密信息的方法））复杂化方面的作用。

人工智能驱动的诈骗指日可待

该报告强调，到 2025 年，生成式人工智能和大型语言模型的盛行将使个人（无论其网络安全专业知识如何）评估电子邮件或密码重置请求的真实性以及识别网络钓鱼、欺骗或社会工程尝试变得充满挑战。

NCSC 还预计勒索软件攻击将会激增，理由是业余网络犯罪分子和黑客利用系统的障碍降低了。人工智能的复杂性被认为有助于为潜在受害者提供更令人信服的方法，创建虚假文档，而不会出现与网络钓鱼攻击相关的典型错误。然而，该报告澄清，虽然生成式人工智能可以增强网络钓鱼尝试的说服力，但它不一定会提高勒索软件代码的有效性。

该机构警告说，国家行为者可能处于有利位置，可以在先进的网络操作中利用人工智能，并有可能训练能够创建逃避安全措施的新代码的人工智能模型。此外，NCSC 承认人工智能作为防御工具的潜力，能够检测攻击并设计更安全的系统。