论文《Lightweight Face Recognition Challenge (ICCV 2019)》

论文内容如下：

小模型的人脸识别：<=20M， <=1G FLOPS

  第一： VarGFaceNet：使用变量群卷积(variable group convolution)减少计算量和参数量。一个头保留网络初始的必要信息。一个特殊的embedding设置，减少FC层的参数量。蒸馏。

  第二：AirFace： 提出一个新的loss函数——Li-ArcFace，将Arcface中的余弦函数改成线性函数，在低维嵌入特征学习中具有更好的收敛性和性能。网络为加深的mobilenet + attention module。

  第三：NothingLC：蒸馏。 teacher-model : DenseNet。 网络：ProxylessNAS mobile network。其中，PReLU 取代 ReLU，用全局深度卷积层替换最后一个全局平均池化层，增加SE层，

大模型的人脸识别： <=30G FLOPS

  第一：residual attention network(Attention-56)。loss ： CosFace。

  第二：AttentionNet-IRSE（integrate the AttentionNet and the IRSE module into one framework）。训练策略：第一阶段使用softmax，第二阶段是arcface，第三阶段AM-Softmax，同时MHE（Learning towards minimum hyperspherical energy）。

  第三：字节跳动的 fuses features from multiple face patches(i.e. one global face patch and four local face patches。个人理解应该是一个主分枝+4个小分支，主分枝提取全局信息，4个小分支提取细节信息，最终5个融合。loss：Combined loss 。backbone：r100

小模型的视频人脸识别：

  第一：NothingLC：同小模型人脸识别的第三

  第二：蒸馏。第一阶段：ResNet100当teacher，studetn_net ：EfficientNet_b0；第二阶段：用难样本(hard label) 微调，使用Arcface_loss，更小的初始学习率；第三阶段：adapt-fusion component

  第三：更窄更深的MobileFaceNet，

大模型的视频人脸识别：

  第一：Efficient PolyFace；loss：adj-Arcface；

  第二：NothingLC：DenseNet-290；AMSoftmax

  第三：Alibaba-VAG；ResNet-152；Squeeze-and-Excitation blocks；CosFace；