Reverse Distillation【异常检测：Density-based】

CVPR2022

背景

与传统的不同：

（1）采用老师编码器和学生解码器结构，学生解码器与老师解码器结构相反（增加异常可区分性，相似的话，在训练阶段一定程度泄漏异常信息。）。

（2）将低维嵌入作为输入，通过不同尺度模拟教师行为。

模型原理

 

 OCBE模块（ResNet中第四残差块）：

（1）将多维度特征压缩成单维度。

（2）负责消除老师网络的冗余表示，阻止异常输入到学生网络。

损失函数：余弦相似度量，标量损失。