《人工智能安全》课程总体结构

1 课程内容

• 人工智能安全观：人工智能安全问题、安全属性、技术体系等基本问题进行了归纳整理。
• 人工智能安全的主要数据处理方法，即非平衡数据分类、噪声数据处理和小样本学习。
• 人工智能技术赋能网络空间安全攻击与防御：三个典型实例及攻击图的角度介绍典型人工智能方法在攻击与防御中的应用。
• 机器学习模型的安全：从攻击者、对抗攻击理论与方法、典型对抗攻击方法、隐私安全与保护、聚类算法的安全性以及对抗攻击防御方法进行了介绍。
• 机器学习平台的安全
• 基于天池AI实训平台的若干案例和实验（Python版）

2 课程内容之间的关系

3 目录结构

1. 概述
2. 非平衡数据处理问题
3. 噪声数据处理
4. 小样本学习方法
5. 网络入侵检测
6. SQL注入检测
7. 虚假新闻检测
8. 攻击与防御的智能技术
9. 机器学习系统的攻击者
10. 对抗攻击的理论与方法
11. 典型对抗攻击方法
12. 隐私保护
    12-1. 机器学习系统隐私保护技术
    12-2. 大数据隐私攻击与保护
    12-3. 隐私计算架构
    12-4. 典型应用中的隐私保护
13. 聚类模型的攻击
14. 对抗攻击的防御方法
15. 机器学习平台的安全
16. 阿里云AI学习平台与实验

4 参考书籍

《人工智能安全》（清华大学出版社，2022）复旦大学曾剑平