Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA

流形嵌入式分布对齐

方法提出:现有的迁移方法尝试跨域分布对齐,共享子空间学习,但存在两个挑战:1)分布对齐一般在原始的特征空间,特征变换出现扭曲难以克服。2)对边缘分布和条件分布进行对齐,并没有考虑其哪个占主导作用。所以本paper提出Manifold Embedded Distribution Alignment (MEDA)去解决上述挑战。

根据结构风险最小化准则,MEDA在Grassmann流形中学习了一个域不变的分类器,动态调节边缘分布和条件分布定量的去评估二者的重要性。MEDA是第一次尝试多个域适应动态分布齐。

子空间学习和分布对齐仅仅只能减小分布差异,不能消除。子空间学习:进行子空间变换以获得更好的特征表示。然而,在子空间变换之后,特征偏差并未消除,因为子空间学习仅利用子空间或流形结构,但未能执行特征对齐

structural risk minimization (SRM):

f = 

arg 是变元(即自变量argument),arg min 就是使后面这个式子达到最小值时的变量的取值。第一项表示数据样本的损失值。第二项为正则化项。Hk:希尔伯特空间

g(.)特征学习函数

Zj、Zi引起流形空间核

动态调节变量定义:

u动态调节因子,趋近于0,源域和目标域距离比较大,因此边缘分布比较重要。u趋近于1,源域和目标域差距较小,条件概率适配比较重要。

动态分布对其可以被描述为:

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第1张图片

A-distance 被定义为线性分类器两个域之间的误差。

u可以估计为:

结合结构化风险最小和l2loss分类函数可以被定义为:

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第2张图片

源域结构化风险最小f补充:

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第3张图片

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第4张图片

根据核函数性质:动态分布对齐等价于:

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第5张图片

算法流程

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第6张图片

添加拉普拉斯正则化项:

 the dynamic distribution alignment (DA)

 Laplacian regularization (Lap)

结果:

Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA_第7张图片

在本文中,提出了一种新的Manifold嵌入式分布对齐(MEDA)方法,用于视域适应。 与现有工作相比,MEDA是首次尝试处理退化特征转换和未评估分布对齐的挑战。 MEDA可以在进行动态分布对齐的同时,利用结构风险最小化原理来学习域不变分类器。 我们还提供了一种可行的解决方案来定量计算自适应因子。 我们对几个大规模公开可用的图像分类数据集进行了大量实验。 结果证明了MEDA相对于其他最先进的传统和深度域适应方法的优越性。

你可能感兴趣的:(Visual Domain Adaptation with Manifold Embedded Distribution Alignment 阅读MEDA)