人工智能增加网络攻击风险和威胁：报告揭示网络黑客和恶意行为者如何利用AI

英国的一份新报告指出，人工智能（AI）“几乎肯定”将在未来两年内增加网络攻击的数量和影响。恶意行为者可以利用 AI 更快地分析数据，并将其用于训练 AI 模型以进行邪恶目的。AI 还可以用于辅助开发能够逃避当前安全过滤器检测的恶意软件。报告还指出，“所有类型攻击者“已经在不同程度上使用人工智能”，无论他们是否得到国家支持，无论他们是否熟练。

新报告将攻击者分为三类，人工智能将对每种类型的恶意行为者产生不同的影响：

1. 具有攻击国家能力的高能力攻击者
2. 有能力的攻击者和网络犯罪组织
3. 技术水平较低的黑客和黑客活动家（hactivisits）

对于两个最有能力的群体来说，人工智能将提供更强大的社会工程、网络钓鱼和渗透能力，提升侦察和渗透能力，对工具包的提升程度适度或最低限度。而对于最不熟练的黑客、投机取巧的黑客和黑客活动分子来说，使用人工智能将大大提升他们的社会工程、网络钓鱼和密码窃取能力，提升侦察和渗透能力，对工具包的提升程度适度。

报告表示，私营企业已经开始采用人工智能来提高网络安全韧性，通过改进威胁检测和安全设计。

然而，最先进的攻击仍将来自两个最有能力的黑客群体，他们可以获得高质量的训练数据，并拥有重要的专业知识和资源。但这些最先进的人工智能在攻击中的应用“不太可能在2025年之前实现”。网络犯罪分子已经开始利用生成式人工智能，并为其他不良行为者开发“GenAI-as-a-service”进行出售。然而，这些新工具和系统的有效性将受到训练数据的数量和质量的限制。

报告指出，近期内，勒索软件仍将是最大的网络安全威胁，因为它具有经济回报和“既定的商业模式”。但在未来两年内，最不熟练的黑客将增加全球勒索软件威胁。

专家建议企业考虑采用“零信任”框架来保护自己。同时，数据隐私、网络安全和存储标准都将有助于减轻使用人工智能技术所带来的风险。此外，将人工智能与数据结合在自己的安全环境中工作可能更易于管理、成本效益更高和更安全。

总体而言，人工智能的发展将为恶意行为者提供更强大的工具和能力，因此加强网络安全的努力势在必行。同时，技术专家和政策制定者之间的合作也至关重要，以确保人工智能在威胁追踪和其他领域的合理应用，并支持组织保护其资产的努力。