【文献阅读笔记】SimpleNet: A Simple Network for Image Anomaly Detection and Localization

2023 CVPR
领域：异常检测
目标：图像输入数据

1、模型

模块： 特征提取器、特征适配器、异常特征生成器、鉴别器

模块	功能	构成
特征提取器	提取局部特征	预训练网络的不同层
特征适配器	将预训练的特征转移到目标域	一层的全连接层
异常特征生成器	生成异常样本	向特征空间添加高斯噪声
鉴别器	鉴别出正常和异常	两层的多层感知机

2、训练

训练过程： 正常样本输入到预训练特征提取器获得局部特征，然后利用特征适配器将特征转移到目标域，异常特征生成器向适当特征添加高斯噪声来合成，将自适应特征和异常特征分别作为正样本和负样本来训练鉴别器。
测试过程： 去掉异常特征生成器

损失函数：
truncated $l_1$ loss

$t{h}^{+}$$t{h}^{-}$是用来防止过拟合，分别设置为0.5。
训练的目标：

3、推理

异常定位： 使用异常图

$s_{h,w}^i$是(h,w)位置的异常分数
异常检测： 使用最大异常分数

4、实验

遵循单类分类协议，在各自的正常训练样本上为每个类别训练单类分类器。
数据集： MVTec AD, CIFAR10
I-AUROC 图像级->用于异常检测
P-AUROC 像素级->用于异常定位

细节：

1. 所有主干都使用ImageNet进行了预训练，骨干的中间层（2，3）被用于特征提取器，默认情况下使用WideResNet 50作为特征提取器，维度是1536。
2. 特征适配器是没有偏置地全连接层，输入和输出地尺寸是相同的。
3. 异常特征生成器，方差设置为0.015
4. 鉴别器组成为线性层、批归一层、leaky ReLU、线性层。
5. 优化器为Adam，特征适配器学习率为0.001，鉴别器的学习率为0.0002，权重衰减为0.00001，epoch设置为160，batchsize设置为4。

结果

实现的SOTA：图像级99.6和像素级98.1。

推理时间更快，趋近80FPS。

异常定位的定性结果。根据异常分数的L1分数来获得分割结果的阈值。

消融实验

对选取的邻域大小进行实验，选择p=3

对选取的预训练网络的层进行实验，选择2层和3层。

几种方法：
Ours：
Ours-complex-FA：使用非线性特征适配器，即具有非线性的1层MLP。
Ours-w/o-FA：不使用特征适配器。

特征适配器能够有助于网络快速收敛，同时复杂的适配器可能导致过拟合，降低测试中各种缺陷的泛化能力。

使用特征适配器之前和之后的标准差直方图，当使用异常特征进行训练，自适应特征空间边度更加紧凑。

异常特征生成器的噪声尺度控制合成的异常特征和正常特征的距离。大的距离可能导致宽松的决策边界，小的距离可能会导致训练过程变得不稳定，实验之后，0.015达到平衡。

所提出的截断l1损失可以实现比交叉熵损失更高的图像级和像素级性能。

不同的主干进行测试。

一类新奇检测

新奇分数被定义为：相似性图中的最大分数。
使用来自单个类别的样本训练模型，并检测来自其他类别的新样本，分别为每个类训练相应的模型。
所有的方法都在ImageNet上进行了预训练。

5、代码

https://github.com/DonaldRR/SimpleNet.

6、想法

1. 要注意预训练模型与目标域之间领域的偏差
2. 异常生成的方式感觉不错
3. 推理速度是工业场景中需要考察的一个点