【AI测试】学习《AI算法的精准测试及样本之痛--腾讯》PPT

PPT获取：

MTSC 2019 深圳站ppt下载地址：
https://pan.baidu.com/s/1F6Vb0gqBm79JspmXniDFgw
AI专场中

如果不行，请关注TesterHome微信公众号，聊天框输入 2019深圳站PPT

提出问题，解决问题方法

没有现场参加大会，只看PPT自己理解了
提出了AI算法测试的难点，并分别给出来了解决思路。自己思考如何应用到公司的具体项目中。

AI算法分层测试流程

思考点：python代码如何代码插桩？

Grad-CAM 用于模型可解释性

首先要了解下什么是grad-cam，最好的方法是看论文
Grad-CAM（加权梯度类激活映射）：一种可视化解释基于梯度定位的深度网络，该文章发表ICCV 2017。

这篇文章解决不错，看PPT中的图片应该是用这里的 ，链接如下：https://www.jianshu.com/p/1d7b5c4ecb93

个人理解Grad-CAM 通过可视化图片，来看图片是依据哪些像素作出判断的

谈谈如何让看似黑盒的CNN模型“说话”，对它的分类结果给出一个解释。注意，本文所说的“解释”，与我们日常说的“解释”内涵不一样：例如我们给孩子一张猫的图片，让他解释为什么这是一只猫，孩子会说因为它有尖耳朵、胡须等。而我们让CNN模型解释为什么将这张图片的分类结果为猫，只是让它标出是通过图片的哪些像素作出判断的。（严格来说，这样不能说明模型是否真正学到了我们人类所理解的“特征”，因为模型所学习到的特征本来就和人类的认知有很大区别。何况，即使只标注出是通过哪些像素作出判断就已经有很高价值了，如果标注出的像素集中在地面上，而模型的分类结果是猫，显然这个模型是有问题的）

思考点：搜索了下grad-CAM实现方式很多，有pytorch，tensorflow,keras，如何在项目中应用，并体现作用

图像增强构造测试样本

全局图像增强
局部图片增强