可解释机器学习——CAM简介

可解释机器学习——CAM

CAM

对每一帧画面画出热力图,看出人工智能关注哪个位置,才进行分类的

可解释机器学习——CAM简介_第1张图片

精妙之处:

  • 对深度学习进行可解释性分析
  • 弱监督定位
  • 潜在的“注意力机制”

类激活热力图算法原理

可解释机器学习——CAM简介_第2张图片

输入原始图像后,经过无池化的全卷积神经网络后,计算出512个14*14的channel,蓝红绿各代表一个channel,经过GAP(全局平均池化)操作,将512各channel转化为512个平均数(相当于建立了全连接层),将得到的logit分数+Softmax转化为概率后,识别出类别

热力图的生成就是每一个channel矩阵乘权重相加后,得到的14*14的矩阵(图像)

只能算出最后一层卷积层输出,无法分析中间层。

池化简述

可以降低计算量——降低矩阵的大小

可以防止过拟合

平移不变性——眼睛在左或在右输出的结果都一样,但也意味着丢失了长宽方向的位置信息,因此CAM不使用池化

可解释机器学习——CAM简介_第3张图片

GAP

如果按照原来的全连接层,就是512*14*14个参数,GAP后只是512个参数

可解释机器学习——CAM简介_第4张图片

CAM算法中必须有GAP层,没有的话需要把全连接层替换为GAP层

机器教学

通过机器学习,训练出识别每一类时的重点特征,教导人如何进行分类

论文精度部分

可解释机器学习——CAM简介_第5张图片

2)]

CAM算法中必须有GAP层,没有的话需要把全连接层替换为GAP层

机器教学

通过机器学习,训练出识别每一类时的重点特征,教导人如何进行分类

论文精度部分

[外链图片转存中…(img-WlnumJEf-1671274615612)]

可解释机器学习——CAM简介_第6张图片

你可能感兴趣的:(人工智能,深度学习)