机器学习笔记 - 基于pytorch、grad-cam的计算机视觉的高级可解释人工智能

一、pytorch-gradcam简介

        ​Grad-CAM是常见的神经网络可视化的工具,用于探索模型的可解释性,广泛出现在各大顶会论文中,以详细具体地描述模型的效果。Grad-CAM的好处是,可以在不额外训练的情况下,只使用训练好的权重即可获得热力图。

1、CAM是什么?

        CAM全称Class Activation Mapping,既类别激活映射图,也被称为类别热力图、显著性图等。它是一张和原始图片等同大小图,该图片上每个位置的像素取值范围从0到1,一般用0到255的灰度图表示。可以理解为对预测输出的贡献分布,分数越高的地方表示原始图片对应区域对网络的响应越高、贡献越大

        一般将原始图像和CAM激活图像叠加到一起,得到颜色深浅不一的可视化图像,如下图所例:

机器学习笔记 - 基于pytorch、grad-cam的计算机视觉的高级可解释人工智能_第1张图片

        或者更加酷炫一点,也许可以用在ppt上。

        提取添加的全连接层对于映射到Australian terrier类的参数(W1,W2,,Wn),用这个参数去加权最后一个

你可能感兴趣的:(深度学习从入门到精通,人工智能,CAM,热图,神经网络可视化,深度学习,pytorch)