简介
Open set domain adaptation by backpropagation.ECCV-2018,Cited-46.
official,pytorch,star-22.
关键字
open set，domain adaptation
正文
1. 场景
域内样本的类别集合之间的关系如下图所示的第3种，在这种情况下完成域适应任务：
2. 基本思路和解决方案
方式：解决分离unknow和域适应一起来。使用对抗的思想来分离unknow，对抗的目标是给定的先验假设，即unknow的概率为t，生成器（特征提取）的目标是使提取的target特征远离给定的先验t，然后以t为阈值进行判断unknow。
基本框架：使用对抗的思路，特征提取作为生成器，使用fc作为分类器。生成器的目标是同时产生适合分离unknow和域适应的特征，分类器的目标是可以判别know+1类。在对抗的过程中由source给出know的类别判别信息，target给出unknow的判别信息。
3. 具体方法和实现
关键在判别器如何做到，其实问题就是要判断target样本的类别，因此判别器要能够给出know类别的判别信息，但是受到unknow的干扰，怎么办？那就先按照一定概率把unknow分出去，所以要先给unknow一个先验概率把unknow判别出来就ok了。模型结构如图（原文Fig3）所示。
4. 算法
算法如下，源域样本和目标域样本交替训练直到收敛，如图（原文Al1），第1个损失是k类交叉熵，第2个是二类交叉熵：
训练目标：
5. 对比方法
主要有：ATI，BP和OSVM。
具体对比的是：OSVM，MMD+OSVM，BP+OSVM，ATI+OSVM
OSVM：先cnn（alexnet，vggnet），再OSVM
MMD+OSVM：DAN后，再OSVM
BP+OSVM：BP后，再OSVM
ATI+OSVM：由于ATI应用场景不一样，需要source有unknow，故在新的场景下需要使用OSVM分类器。
6. 数据集及实验设置
效果度量：OS（类平均），OS*（类平均，不含unknow），ALL（不进行类平均）。
Office数据集：与Caltech共同的类为share类，剩下的按字母序，21-31为target的unknow类。在Alexnet上平均80/80，Vggnet上平均88/88。改进后83/85，89/91
VisDA：3D（training）-real（valiation），know（bcycle，bus，car，motorcycle，train，truck）。没有与ATI比较，Alexnet上平均58/54，Vggnet上平均65/61
数字集，SVHN，USPS，MNIST：s(training)-m(training)，u(training)-m(training)，m(training)-u(training)。know（0-4）。先用附录中设计的cnn提取出特征来使用。没有与ATI比较。
参考资料
[1] Saito K, Yamamoto S, Ushiku Y, et al. Open set domain adaptation by backpropagation[C]//Proceedings of the European Conference on Computer Vision (ECCV). 2018: 153-168.