参考：kerasCAM和Grad-cam原理简介与实现GAPCAMGrad-CAMGrad-CAM++的解释pytorch实现所有cam衍生ECG-Grad-CAMCAM将原模型的结构修改：利用GAP(

Grad-CAM全称Gradient-weightedClassActivationMapping，用于卷积神经网络的可视化，甚至可以用于语义分割不过我是主要研究目标检测的，在看论文的时候就没有在意语义分割的部分

：HorizonMax✨编程技巧篇：各种操作小结机器视觉篇：会变魔术OpenCV深度学习篇：简单入门PyTorch神经网络篇：经典网络模型算法篇：再忙也别忘了LeetCode[可视化]经典网络模型——Grad-CAM

反卷积导向反向传播使用普通的反向传播得到的图像噪声较多，基本看不出模型的学到了什么东西。使用反卷积可以大概看清楚猫和狗的轮廓，但是有大量噪声在物体以外的位置上。导向反向传播基本上没有噪声，特征很明显的集中猫和狗的身体部位上。缺点：虽然借助反卷积和导向反向传播我们“看到”了CNN模型神秘的内部，但是却并不能拿来解释分类的结果，因为它们对类别并不敏感，直接把所有能提取的特征都展示出来了。refhttp

论文名称：Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization论文下载地址：https://arxiv.org

CAM:CAMGrad-CAM：Grad-CAM类激活图cam（classactivationmap）通过可视化的热力图将模型认为最显著的结果显示出来，因此可用于解释模型预测的结果。

最近在应用中，发现Grad-CAM在验证神经网络知识表示有效性方面很好用，这篇文章总结以下该方法的原理以及实现代码。

PaperReadingNoteURL:https://arxiv.org/abs/1610.02391TL;DR提出一种对神经网络输出进行可视化的方式Grad-CAM（Gradient-weightedClassActivationMapping

介绍几个可视化工具和方法文章目录工具使用-可视化神器Netron画出模型结构图CAM可视化CAM(ClassActivationMapping)Grad-CAM参考文档工具使用-可视化神器Netron模型结构可视化神器

这里只大概了解类激活热力图的原理及实现。卷积神经网络因为其在很多任务上效果很好但是其学到的内容和规则很难用人类理解的方式来呈现（相对于传统机器学习算法，例如决策树或者逻辑回归等），所以被很多人认为是“黑盒”。如果我们可以可视化：1.网络模型里面的中间层的激活结果；2.或者网络学到的过滤器是提取什么类型特征的；3.或者是图像中哪些位置的像素对输出有着强烈的影响，换句话说，输出对哪些位置的像素值比较敏

Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization这篇文章主要介绍了一种梯度类加权激活映射（Gradient-weightedClassActivationMapping

实际上在我所知的各种变形CAM方法中，都是基于激活图和权重值的加权和原理，只不过不同方法获取权重值的方法不一样，grad-cam就是利用梯度来计算权重值。

Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization神经网络输出可视化文章目录Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization

最近写论文需要画热力图，感觉不少论文里都是用Grad-CAM来画，就尝试了一下。

其余两篇：CAM实现的流程(pytorch)Grad-Cam实现流程(pytorch)在图像分类领域的论文中，经常看到如下所示的可视化图片。

写在前面类激活热力图：用于检查图像哪一部分对模型的最终输出有更大的贡献。具体某个类别对应到图片的那个区域响应最大，也就是对该类别的识别贡献最大pytorch-grad-cam库代码GitHub代码如果只想跑个图的话不用下！作用：一是清晰直观的看看到底影响检测结果的特征；而是cv论文里出图真的很好看本篇只是跑了代码给的猫狗图，下一篇要写如何可视化其他类别实战先上跑完结果使用的是resnet50，可以

参考代码为：https://github.com/withtimesgo1115/gradCAM-YOLOv3-pytorchGradCam.py运行到下面这行报错scores.backward()报错内容为：RuntimeError:oneofthevariablesneededforgradientcomputationhasbeenmodifiedbyaninplaceoperation:[

用原代码跑就没有问题，因为要提取自己数据集的判别性特征，而数据集加载必须使用pytorch自带的DataLoader。这时候最后可视化热力图的时候图片明显不对，下面就是一点一点排除错误的过程。最后是直接将二值化后的mask找出坐标，裁剪出具有判别性的区域了！

参考链接:jacobgil/pytorch-grad-cam代码:importtorchimportargparseimportcv2importnumpyasnpimporttorch.nnasnnfromtorch.autogradimportFunctionfromtorchvisionimportmodels,transformsfromssdimportSSDfromnets.ssdim

一、论文(16)Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalizationhttps://arxiv.org/abs

importosimportnumpyasnpimporttorchfromPILimportImageimportmatplotlib.pyplotaspltfromtorchvisionimportmodelsfromtorchvisionimporttransformsimportcv2#fromutilsimportGradCAM,show_cam_on_image,center_crop

介绍虽然说咱也不知道这个Grad-CAM的数学理论是如何推导的，但是在看论文的时候发现很多论文里面都用了Grad-CAM来可视化模型的特征图，用来显示网络对ROI区域的捕捉。

文章目录1.grad-cam的简单实现2.grad-cam的效果展示3.Debug1.grad-cam的简单实现grad-cam通过对类别c最后的预测值yc进行方向传播，得到回传的特征层A的梯度信息A‘

论文名称：Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization论文下载地址：https://arxiv.org

文章目录可视化类激活的热力图5-40加载带有预训练权重的VGG16网络5-41为VGG16模型预处理一张输入图像5-42应用Grad-CAM算法5-43热力图后处理5-44将热力图与原始图像叠加经过最后处理的非洲象热力图总结写在最后可视化类激活的热力图对于卷积神经网络

本文中绘制类激活热力图的基本方法参考自：https://blog.csdn.net/sinat_37532065/article/details/103362517在该方法的基础上，本文添加了如下功能：根据网络层的名字，可视化模型指定层的类激活热力图。本文使用的backbonenetwork为Resnet50，运行时需要根据实际使用的网络来修改以下两个参数：1."layers_names"：包含模

论文：Grad-CAM:Whydidyousaythat?

论文题目：《Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization》作者单位：GeorgiaInstituteofTechnology

论文题目：《Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization》作者单位：GeorgiaInstituteofTechnology

论文题目：《Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization》作者单位：GeorgiaInstituteofTechnology

TellMeWheretoLook:GuidedAttentionInferenceNetwork-------告诉我看向哪里：引导注意推理网络（收录于CVPR-2018），论文是依据于RamprasaathR.Selvaraju的Grad-CAM

LIME：Localinterpretabemldel-agnosticexplaination通过将图像分割成“超像素”并关闭或打开超像素来创建图像的变化。超像素是具有相似颜色的互连像素，可以通过将每个像素替换为用户定义的颜色（例如灰色）来关闭。用户还可以指定在每个排列中关闭超像素的概率。shap:SHapleyAdditiveexPlanationsGrad-CAM

grad-CAM使用MNIST基于tensorflow前言在上一篇文章中，我们给出了在MNIST+LeNet的CAM实现，但是使用CAM时，需要对模型的网络进行更改，使用GAP代替FClayers，这样的更改虽然对准确率没有太大影响

CAM：类激活图，classactivationmapCAM算法就是探索卷积神经网络关注图像的哪一部分而得到最后的输出。如上图的网络，最终把图片分成了“Australianterrier”，这是一个澳大利亚的犬种。我们的网络在图像中看到了什么所以分成了这一类呢？这里就可以用CAM算法进行可视化。CAM会对网络最后的特征图进行加权求和，就可以得到一个注意力的机制（就是卷积神经网络更关注图片的什么地方

实现热力图绘制的方法有很多，如：CAM,Grad-CAM，ContrastiveEBP等。在热力图生成之后，因为没有原始

有助于了解一张图片的那个部分使得卷积神经网络做出最终的决策.还可以定位图像中特定的目标使用keras的完整实现方法(从>书中相关部分整理而来)使用keras的预训练VGG16模型对图片进行分类预测,然后使用Grad-CAM

http://bindog.github.io/blog/2018/02/10/model-explanation/http://www.sohu.com/a/216216094_473283https://jacobgil.github.io/deeplearning/class-activation-mapshttps://github.com/keras-team/keras/issues/

目录类激活图原理简介Keras实现主要参考文献【1】“Deeplearningwithpython”【2】“Grad-CAM:visualexplanationsfromdeepnetworksviagrad

Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization摘要：1.我们提出了一种技术，用于为来自大型基于卷积神经网络

CAM（传送门：CAM实现的流程(pytorch)）由于对网络结构有定性要求，所以在可视化一些有多个全连接层的网络时，表现不太友好，于是出现了Grad-CAM。

一、CAM以resnet18为例：（1）取出通过layer4的feature激活值,[1,512,7,7]（2）取出fc的权重（weight_softmax）,[1000,512]（3）取出weight_softmax中预测为对应类别的权重，[1,512]（4）权重和feature相乘得热力图cam，[1,512]*[512,49]=[1,49]（5）再通过归一化，resize操作覆盖到原图上。二

转载于：https://www.zhihu.com/question/274926848/answer/473562723卷积层输出的特征映射其实和原图是存在一定的空间对应关系的。把最后一层卷积输出的特征映射处理一下，然后绘制到原图上，就得到了热图（也就是网络模型更关注的区域）。关键是通过什么方式处理得到的效果比较好？GAP让我们小小地绕行一下，先介绍下全局平均池化（globalaveragepo

Grad-CAM是什么？

Grad-CAM:Whydidyousaythat?

Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalizationICCV2017参考的阅读笔记如下：阅读笔记翻译：翻译1、

Grad-CAM:Whydidyousaythat?

（此处插入一个女大学生欣慰的笑容~~）进入正文：Grad-CAM也是很经典的方法啦~不过我要改改笔记方法，写得好的原文我就在我论文里标记好了。这里只写自己的理解。

本文记录了博主阅读论文《Grad-CAM:Whydidyousaythat?

Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalizationGrad-CAM：通过基于梯度的定位从深度网络进行视觉解释

ConvolutionalBlockAttentionModule通道注意力模块空间注意力模块模块安排实验消融研究ChannelattentionSpatialattentionChannelandSpatialattention使用Grad-CAM