AI for Security：智能化安全对抗的困境

本篇文章主要结合自己的亲身经历和体会表达一下对AI for Security的看法，整体态度偏消极。

0x01 背景

本段将由大到小从国家、网上公开资料、项目三个方面说明智能化安全对抗时代的来临。
正如有时候觉得学得好不如嫁得好，在网络安全方面有时也是学得好不如运气好跟上了历史的进程。网络战早已被美军纳入作战体系，现如今中美关系对抗愈加激烈，随之而来的可能是成规模的网络对抗，从当前看来，AI技术比较适合大幅度提升网络对抗能力，所以智能化的网络对抗技术可能得到国家级的重点推进。笔者跟踪了几年来网上关于智能化安全的一些研究和进展，发现几年前大家重点研究的是AI安全检测，仅仅是弱智能化的安全防护，远达不到对抗的烈度，现如今随着对抗样本等对抗技术的火热，智能化安全对抗越来越得到学术界研究者的关注，无论是算法领域研究者，还是安全领域研究者。按照时间线，我经历的几个项目主题分别是：防御、反制、进攻、对抗，对抗烈度明显增加，这也许正验证着开头分析过的国家面临的安全对抗问题，相较于传统对抗手段，智能化的安全对抗技术显得不可或缺。

0x02 智能化安全对抗

AI和安全之间的关系可分为四点：

• 应用安全
  • 用AI来做应用安全防护
  • 用AI来攻击应用
• AI本身安全
  • (用AI)攻击AI(模型、系统、框架)
  • AI模型防护

AI是手段，目标是安全，包括应用安全和AI安全。所以是AI for Application and AI Security，即AI for Security。

从应用安全的角度来说