简介
Open set domain adaptation by backpropagation.ECCV-2018,Cited-46.
official,pytorch,star-22.
关键字
open set,domain adaptation
正文
1. 场景
域内样本的类别集合之间的关系如下图所示的第3种,在这种情况下完成域适应任务:
2. 基本思路和解决方案
方式:解决分离unknow和域适应一起来。使用对抗的思想来分离unknow,对抗的目标是给定的先验假设,即unknow的概率为t,生成器(特征提取)的目标是使提取的target特征远离给定的先验t,然后以t为阈值进行判断unknow。
基本框架:使用对抗的思路,特征提取作为生成器,使用fc作为分类器。生成器的目标是同时产生适合分离unknow和域适应的特征,分类器的目标是可以判别know+1类。在对抗的过程中由source给出know的类别判别信息,target给出unknow的判别信息。
3. 具体方法和实现
关键在判别器如何做到,其实问题就是要判断target样本的类别,因此判别器要能够给出know类别的判别信息,但是受到unknow的干扰,怎么办?那就先按照一定概率把unknow分出去,所以要先给unknow一个先验概率把unknow判别出来就ok了。模型结构如图(原文Fig3)所示。
4. 算法
算法如下,源域样本和目标域样本交替训练直到收敛,如图(原文Al1),第1个损失是k类交叉熵,第2个是二类交叉熵:
训练目标:
5. 对比方法
主要有:ATI,BP和OSVM。
具体对比的是:OSVM,MMD+OSVM,BP+OSVM,ATI+OSVM
OSVM:先cnn(alexnet,vggnet),再OSVM
MMD+OSVM:DAN后,再OSVM
BP+OSVM:BP后,再OSVM
ATI+OSVM:由于ATI应用场景不一样,需要source有unknow,故在新的场景下需要使用OSVM分类器。
6. 数据集及实验设置
效果度量:OS(类平均),OS*(类平均,不含unknow),ALL(不进行类平均)。
Office数据集:与Caltech共同的类为share类,剩下的按字母序,21-31为target的unknow类。在Alexnet上平均80/80,Vggnet上平均88/88。改进后83/85,89/91
VisDA:3D(training)-real(valiation),know(bcycle,bus,car,motorcycle,train,truck)。没有与ATI比较,Alexnet上平均58/54,Vggnet上平均65/61
数字集,SVHN,USPS,MNIST:s(training)-m(training),u(training)-m(training),m(training)-u(training)。know(0-4)。先用附录中设计的cnn提取出特征来使用。没有与ATI比较。
参考资料
[1] Saito K, Yamamoto S, Ushiku Y, et al. Open set domain adaptation by backpropagation[C]//Proceedings of the European Conference on Computer Vision (ECCV). 2018: 153-168.