文献阅读·59-OSBP

简介

  Open set domain adaptation by backpropagation.ECCV-2018,Cited-46.
  official,pytorch,star-22.

关键字

  open set，domain adaptation

正文

1. 场景

  域内样本的类别集合之间的关系如下图所示的第3种，在这种情况下完成域适应任务：

域关系.png

2. 基本思路和解决方案

  方式：解决分离unknow和域适应一起来。使用对抗的思想来分离unknow，对抗的目标是给定的先验假设，即unknow的概率为t，生成器（特征提取）的目标是使提取的target特征远离给定的先验t，然后以t为阈值进行判断unknow。

  基本框架：使用对抗的思路，特征提取作为生成器，使用fc作为分类器。生成器的目标是同时产生适合分离unknow和域适应的特征，分类器的目标是可以判别know+1类。在对抗的过程中由source给出know的类别判别信息，target给出unknow的判别信息。

3. 具体方法和实现

  关键在判别器如何做到，其实问题就是要判断target样本的类别，因此判别器要能够给出know类别的判别信息，但是受到unknow的干扰，怎么办？那就先按照一定概率把unknow分出去，所以要先给unknow一个先验概率把unknow判别出来就ok了。模型结构如图（原文Fig3）所示。

模型.png

4. 算法

  算法如下，源域样本和目标域样本交替训练直到收敛，如图（原文Al1），第1个损失是k类交叉熵，第2个是二类交叉熵：

算法.png

  训练目标：

5. 对比方法

  主要有：ATI，BP和OSVM。

  具体对比的是：OSVM，MMD+OSVM，BP+OSVM，ATI+OSVM

  OSVM：先cnn（alexnet，vggnet），再OSVM

  MMD+OSVM：DAN后，再OSVM

  BP+OSVM：BP后，再OSVM

  ATI+OSVM：由于ATI应用场景不一样，需要source有unknow，故在新的场景下需要使用OSVM分类器。

6. 数据集及实验设置

  效果度量：OS（类平均），OS*（类平均，不含unknow），ALL（不进行类平均）。

  Office数据集：与Caltech共同的类为share类，剩下的按字母序，21-31为target的unknow类。在Alexnet上平均80/80，Vggnet上平均88/88。改进后83/85，89/91

  VisDA：3D（training）-real（valiation），know（bcycle，bus，car，motorcycle，train，truck）。没有与ATI比较，Alexnet上平均58/54，Vggnet上平均65/61

  数字集，SVHN，USPS，MNIST：s(training)-m(training)，u(training)-m(training)，m(training)-u(training)。know（0-4）。先用附录中设计的cnn提取出特征来使用。没有与ATI比较。

参考资料

[1] Saito K, Yamamoto S, Ushiku Y, et al. Open set domain adaptation by backpropagation[C]//Proceedings of the European Conference on Computer Vision (ECCV). 2018: 153-168.