文献阅读·65-FRODA

简介

  Learning factorized representations for open-set domain adaptation.ICLR-2019,cited-8.

关键字

  Open set,Domain Adaptation

正文

1. 使用场景

  适用于图中第2,3个。

image.png
2. 基本思路和解决方案

  假设souce和target的已知类共享一个子空间,而未知类位于不同的子空间。根据假设寻找可最优重构的线性映射下的子空间表达,通过寻找到的映射来区分unknow样本。映射过程的基本目标是重构损失要小,在此基础上可选增加类条件限制,同时完成域适应和分离工作。

3 具体方法和实现

  (1)目标函数

  其中S,T是映射后的特征空间,共享空间的转换矩阵是V,unknow类的转换矩阵是U。要注意的是T是由U和V分别映射后的和。即:

  (2)组稀疏正则

\begin{align} \min_{U,T,V,S} &\mid\mid X_t-BT\mid\mid_F^2+ \alpha \mid\mid X_s-VS\mid\mid_F^2+\lambda_1\sum_{i=1}^{n_{t}}(\mid\mid T_i^u \mid \mid + \mid \mid T_i^u \mid\mid)\\ s.t. &\sum_{j=1}^d\mid\mid U_j\mid\mid \le 1,\sum_{j=1}^d\mid\mid V_j\mid\mid \le 1 \end{align}

  正则项使目标样本的表达倾向know或unknow。约束条件保护λ起作用。

  (3)类条件正则

\begin{align} \min_{U,T,V,S} &\mid\mid X_t-BT\mid\mid_F^2+ \alpha \mid\mid X_s-VS\mid\mid_F^2+\beta\mid\mid L-WS\mid\mid_F^2 +\lambda_1\sum_{i=1}^{n_{t}}(\mid\mid T_i^u \mid \mid + \mid \mid T_i^u \mid\mid)\\ s.t. &\sum_{j=1}^d\mid\mid U_j\mid\mid \le 1,\sum_{j=1}^d\mid\mid V_j\mid\mid \le 1 \end{align}

  L是标签,W是分类器参数。

  (4)推断

  根据T的成分来推断,unknow成分超过一定阈值时判断为unknow。
  阈值:。分类的推断使用分类器参数W判断。

4. 数据集及实验设置

  对比方法:TCA,GFK,SA,CORAL,ATI

  Office:使用decaf7特征,先用CoPCA处理,保留99%。与Cal-tech共同的类为share类,剩下的按字母序,11-20为source的unknow类,21-31为target的unknow类。85

  Dense-Dataset:使用decaf7特征,先用CoPCA处理,保留99%。由Bing,Caltech256,Imagenet,Sun四个数据集公共类组成,共40类。取1-10作为share类,11-25作为source的unknow类,26-40作为target的unknow类。作为source的每类抽取50个样本,target每类30个样本,除了sun数据集,它只用20个样本。

参考资料

[1] Baktashmotlagh, Mahsa, et al. "Learning factorized representations for open-set domain adaptation." International Conference on Learning Representations 2019. Internation Conference on Learning Representation (ICLR), 2019.

你可能感兴趣的:(文献阅读·65-FRODA)