Interpretable Convolutional Neural Networks笔记

通过mask使得网络部分激活

mask的数值以一点为中心的L1或L2距离衰减，值域范围是tau到-tau

最小化的目标是负X（feature map）和T（template）的互信息（希望互信息大，X和T相关性高），计算条件概率p(X|T)使用softmax转换的X和T的相似度（X和T的dot）

forward过程选择X乘T再经过relu之后和最大的template，而且要求template的label和数据label一致

template的类型选择为X最大的类型（对所有该类型的X求和）

计算loss中使用一些近似加速计算（对一些变量多个step更新一次等）

loss鼓励template只被一类输入数据激活，以及template中的激活区域尽量少

可视化时，选取值大于阈值的结果，例如选取前千分之五的结果

为了在大小上（或者说分辨率上）和原图像对齐，feature map X通过双线性插值扩展到原图像的维度