无源域适应（SFDA）方向的领域探究和论文复现（第一部分）

无源域适应（SFDA）方向的领域探究和论文复现（第一部分）

一.领域综述

\quad\quad 领域自适应(DA)的目标是通过源数据驱动的两阶段框架为目标域重用源域知识。首先，收集源数据并进行标注，以训练源模型P。接着，自适应阶段是利用未标记的目标数据和已标记的源数据对预先训练好的模型P进行微调，得到目标模型Q。在无源数据域自适应（SFDA）场景中，未标记的目标$X^t$只能从预先训练好的源模型P中提取有价值的知识，而不能直接接触使用源域数据。为了实现这一点，一种方法是通过自监督训练来利用目标样本，另一种方法是重构虚拟源数据以进行知识转换。没有特定说明的情况下，源模型和目标模型通常共享相同的模型体系结构。

1.1自适应训练

\quad\quad [1]和[2]是SFDA领域两个先驱性的研究，他们主要研究的是解决目标域标签少的问题。只拥有一个预训练模型P和无标签的目标数据$X^t$，一个直接的适应方法是生成一组噪声伪标签：
$${\tilde{Y}}^t=\arg \max \mathcal{P}\left(X^t\right)$$
\quad\quad 然后通过以下方式对目标模型Q进行微调：
$$\underset{\mathcal{Q}}{\min }{\mathcal{L}}_{\text{adap }}\left(\mathcal{Q}\mid X^t,{\tilde{Y}}^t\right)$$
\quad\quad 其中${\mathcal{L}}_{\text{adap }}$是适应性损失函数。事实上，由于生成的伪标签容易出错，这可能误导目标模型。

\quad\quad 来源于半监督学习的一些源驱动的DA方法[3],[4]通过探索为目标集生成可信度最高的伪标签来逐渐完善模型。在这种情况下，源集参与了联合训练，避免了在训练过程中源域知识被遗忘。在源域数据缺失的条件下，具有可靠的伪标签${\hat{Y}}^t$的目标数据对校准模型Q非常重要。如下图所示，有两种主要的方式用来探索可靠和有价值的目标样本用于自监督，即伪标签聚类和过滤。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-PAwbGJrC-1656066484884)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220623173732567.png)]

图1

1.1.1伪标签聚类法

\quad\quad 如图1(a)所示，噪声伪标签可以首先由源模型输入目标数据生成。然后，他们可以通过聚类算法被进一步分类。基于带有标定伪标签的目标数据，可以学习目标模型。伪标签聚类的思想是：通过预先训练好的源模型对部分目标样本正确预测，在和他们有关系的目标域中发挥作用。

\quad\quad 作为一项早期研究，Liang等人[5]在最近临分类器的基础上建立了一种方法，寻找目标中心点移动的子空间，并迭代地使之移动越来越小。后来，受假设转移学习(HTL)的启发，Liang等人提出了源假设转移(SHOT)[6]框架。它冻结了源模型的分类器，并学习了目标特定的特征提取器。这是通过信息最大化和自监督伪标签来实现的，以隐方式将目标领域的特征和源假设对齐。事实上，信息最大化是为了迭代地减少预测的不确定性，这与数据驱动的DA相似。此外，伪标签是通过加权k-means聚类和最近邻分类器获得的。之后，他们用一种新的标签转移策略进一步扩展了SHOT，称为SHOT++[7]。它根据预测的置信度将目标数据分成两个部分，然后通过半监督学习来提高目标域中置信度较低的预测的准确性。此外，Tang等人[8]在遵循SHOT[6]的基础上，引用入了渐进式KD和Mixup技术。Chen等人[9]利用自适应批量归一化来更新目标数据，然后通过深度转移聚类生成伪标签。此外，他们将目标集分成干净和嘈杂的部分，用指数动量平均法(EMA)进行稳定训练。G-SFDA[10]是一种广义的SFDA方法，它将局部结构聚类和稀疏领域统一了起来。前者利用特征空间中的局部邻域信息，将每个目标实例与其最近邻进行聚类，以实现自监督适应，而后者旨在通过正则化反向传播的梯度保持源域的信息。Tang等人[11]提出了隐藏在单个数据的局部几何中的语义约束，以鼓励对目标域进行稳健的聚类。他们还在新的几何学中引入语义可信度约束。Yang等人[12]通过定义目标数据的局部亲和力来利用内在的邻域结构，以鼓励类与邻域亲和力的一致性。

\quad\quad 除了解决SFDA的基本挑战外，还有一些专注于其他特定SFDA场景的工作。USFDA[13]是一个两阶段的学习框架，用于解决普遍的无源域适应问题。在刚开始的阶段，它为未来的无源部署模型配备了一个人工生成的负面数据集。这促使了一个分类良好的紧密源集群的生成。在部署阶段，它通过利用源相似性指标来定义无源域适应目标。为了解决多源无数据适应问题，Ahmed等人利用了信息最大化和基于聚类的伪标签策略，对所有源模型的目标标签进行加权组合。基于SHOT，Agarwal等人提出了一个新的问题，即在无源环境下的无监督鲁棒域适应。类似的,Yang等人[14]将SHOT扩展到了基于Transformer的网络，并提出了一个带有EMA的自我蒸馏SFDA框架，将聚类标签知识转移到目标网络。与现有的专注于训练阶段的方法不同，T3A[15]专注于领域泛化发的测试阶段。它用无标签的目标数据为每个类别计算出一个伪原型表示，然后根据每个样本与伪原型的距离进行分类。

1.1.1伪标签过滤

\quad\quad 尽管没有源数据，一些目标样本可以分布在源域的周围，并且和源域非常相似。因此，这些目标样本可以被用来近似地描述源域。这类SFDA方法通常通过将目标数据分成两个子集来过滤目标伪标签，即伪源集和剩余的目标集。它们分别对应于源假设保持和目标知识探索。图1(b)描述了伪标签过滤策略的原理。

\quad\quad Kim等人[16]观察到，由预训练的源模型测量的自熵较低的目标样本有可能被正确分类。为此，他们选择熵值小于0.2的可靠样本进行目标模型训练。所选样本的伪标签由源模型生成。BAIT[17]将当前批次分成两组，它为最小化整个双分类器架构的分歧找到了潜在的游走特征。CAiDA[18]是在没有源数据的情况下，对从多个源域到未标记的目标域的知识适应性的先驱性探索。它开发了一个语义最近的自信锚，以选择自监督适应的伪标签。它还设计了一个类关系意识的一致性损失，以确保语义的一致性。此外，它从理论上证明了在一些温和的假设下，多源模型可以提高获得更可靠的伪标签的可能性。Huang等人[19]建立了一个历史对比学习(HCL)范式，而不是僵硬地分割目标数据集，并为每个样本分配特定的权重以决定其在自监督训练中的影响，具体来说，他们从实例层面和类别层面设计了两种历史对比辨别策略，利用历史来源假设，学习辨别性的目标表征。$A^2$Net是一种自适应的对抗性网络，他包括三个方面的组成部分：(1)适应性对抗推理是为了发现在双分类器结构下，源相似和源不相似的目标样本。(2)对比性类别匹配是为了在目标样本的两个部分之间进行类别匹配。(3)自监督的旋转旨在增强模型以学习额外的语义。Du等人[20]也将目标数据分成两个不相干的部分，即伪源部分和剩余的目标部分，并且采用MixUp策略来对齐分布。

\quad\quad 与常见的SFDA场景不同，Zhang等人[21]研究了预训练的模型被视为一个黑盒，只有预测可以访问的设置。他们提出了一种迭代噪声标签学习(IterNLL)算法，该算法在用过滤的目标子集改进目标模型和通过统一的先验假设更新噪声标签之间交替进行。

\quad\quad 值得注意的是，由于聚类算法的限制，带有伪标签聚类的SFDA方法只自然地支持分类任务。但是，由于预测图的可分性，伪标签过滤算法可以应用于其他复杂任务，如语义分割和物体检测。

1.2应用

\quad\quad 前文已经说明了不同种类的SFDA分类方法，从理论原理到具体实施。以下简要介绍以下SFDA的具体应用，即语义分割和物体检测。

1.2.1语义分割

\quad\quad 语义分割是一项像素级的预测任务，旨在为图像的每个像素分配一个语义类别标签。分割模型的预测输出是一个标签图。因此，图像层面的伪标签聚类策略并不适合这项任务。然而，伪标签图可以根据预测置信度分成正负两部分。只有正部分被用来通过自监督训练来更新模型。在次基础上，虚拟源知识转移方法可以很容易地扩展到语义分割模型。大多数的SFDA方法遵循基于伪标签过滤和信息最大化的自监督训练范式，这对于分割来说简单而有效。[22]是SFDA用于分割的开创性研究，但它利用了预先存储的源域元数据，这不能满足SFDA的隐私要求。TENT[23]创新地对BN层中的归一化和转换参数进行简单的微调，以适应目标模型，仅仅需要较少的计算量，就能拥有较大的改进。You等人[24]提出通过混合源和目标统计量来校准BNS，以减轻域转移，并在进行测试时保留鉴别性结构。SF-OCDA[25]提出了交叉补丁式的交换和光度变换来模拟风格的变化，这可以促进模型在语义分割中的表现。除了在选定的像素上通过熵值最小化来更新模型外，You等人还引入了负学习来判断负类别。$DA{S}^3$[26]采用 ClassMix技术来合并难和容易的分割来正则化半监督技术。S4T建立了一个选择性自我训练框架，以减少图像的不同视图之间的不一致性。[27]和[28]都采用了一个发生器来生成基于BNS的图像，将源域知识转移到目标模型。此外，他们还在目标模型之后引入了一个判别器，以最小化正负分裂之间的误差。

1.2.2物体检测

\quad\quad 物体检测是一个长期的挑战，其目的是预测物体的边界和相应的类别。领域自适应物体检测任务对准了图像和物体两个层面。而检测模型的预测图也是可分的，与语义分割类似。

\quad\quad SFOD[29]首先试图通过将物体检测建模为一个带噪声标签的学习问题来解决物体检测中的SFDA。由于伪标签的质量参差不齐，它引入了一种度量方法(名为自熵下降)来搜索过滤可靠伪标签的近似阈值。Xiong等人[30]向目标数据添加扰动，构建了一个超级目标域，协助探索领域不变和特定的空间。通过三种一致性正则化，该模型可以将目标域与源域进行空间对齐。

二.数据集介绍

\quad\quad SFDA方向的论文主要应用了以下四个数据集：

$\quad\quad$1.Office数据集(Saenko等人，2010)，这是一个标准的DA基准测试，它包含三个域(Amazon(A)、DSLR(D)和Webcam(W))，每个域由办公环境下的31个对象类组成。(Gongetal，2012)进一步提取了Office和Caltech-256 ©之间的10个共享类别，并形成了一个名为Office-Caltech的新基准数据集。这两个基准数据集都比较小，图片数量不太多。

$\quad\quad$2.Office-Home(Venkateswaraetal.，2017)，这是一个具有挑战性的中型基准数据集，它包括四个不同的领域(艺术图像(Ar)、剪贴画艺术(Cl)、产品图像(Pr)和现实世界图像 (Rw))。在每个领域中总共有65个日常物品类别。

$\quad\quad$3.VisDA-C(Pengetal.，2017)是一个具有挑战性的大规模基准测试集，主要专注于12类合成-真实对象识别任务。其源域包含15.2万个合成图像，而目标域有从微软COCO采样的5.5万张真实目标图像。

$\quad\quad$4.Digits是一个专注于数字识别的标准DA基准测试数据集。由(Hoffmanetal.，2018)提出使用协议，主要利用了其中的三个子集：SVHN(S)、MNIST(M)和USPS(U)。

三.论文精读与复现

1. Domain Adaptation without Source Data

\quad\quad 这篇论文是SFDA方向较早的一篇论文之一，该论文主要解决了以下几个问题：

$\quad\quad$1.由于隐私问题，无法得到源数据集，只能得到源数据集上面训练的模型，在这种情况下进行迁移学习。故论文设计了一种新的网络结构，使之在只有源域训练模型的情况下也能进行迁移学习。

$\quad\quad$2. 由于target data上无标注，如何判断target data属于具体哪个class。并且因为target data没有ground truth，无法计算模型训练时的loss。故论文设计了APM模块对target data进行分类，并且设计了Confidence-based filtering来约束训练时发生的分类偏移情况。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-llzd8aBm-1656066484886)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220623173833941.png)]

图2

\quad\quad 图2即为作者设计的新的网络结构，该网络主要分为三个部分：pre-trained model,Trainable model和APM.

\quad\quad 其中，pre_trained model是在source data上预训练好的模型，在整个训练过程中不会改变。该模型参数存储在source_pretrained_weight文件下。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-nVLD9Tc3-1656066484886)(file:///C:\Users\86133\AppData\Local\Temp\ksohtml21816\wps2.jpg)]

\quad\quad Trainable model是要在target data上面训练的模型。

\quad\quad APM部分存放每个类别的代表样本，当有样本送到网络中时，与里面的代表样本计算距离，然后进行打分，样本就属于分高的类别。

$\quad\quad$1.1训练过程：

$\quad\quad$1.初始化trainablemodel:使用$F_{S}$初始化$F_{t}$，使用$C_{S}$初始化$C_{s2t}$和$C_{t}$。

$\quad\quad$2.将targetdata送到pr{e}_{t}rainedmodel中得到伪标签$\hat{y}{s}$,根据 ${\hat{y}}_s$计算$L_{source}$,计算公式如下：
$$L_{\text{source }}\left(D_t\right)=-{\mathbb{E}}_{x_t\sim D_t}\sum _{c=1}^{N_c}{1}_{[c=\widehat{y_s}}\log \left(\sigma \left(C_{s2t}\left(F_t\left(x_t\right)\right)\right)\right)$$
$\quad\quad$3.targetdata送到trainablemodel中，提取出特征ft,ft再送入APM中得到类别，和对应的伪标签$\hat{y}{t}$,计算如下:
$$s_c\left(x_t\right)=\frac{1}{\left|M_c\right|}\sum _{p_c\in M_c}\frac{p_c^T{f}_t}{{\Vert p_c\Vert }_2{\Vert f_t\Vert }_2}$$
$\quad\quad$4.计算ft打分最高的两个类别，然后计算ft与两个类别的霍斯达夫距离，判断是否舍弃不合理的样本，公式如下：
$$\begin{array}{rl}& d_H\left(Q,M_{t1}\right)=\max \left\{\underset{q\in Q}{\sup }\underset{p\in M_{t1}}{\inf }d(q,p),\underset{p\in M_{t1}}{\sup }\underset{q\in Q}{\inf }d(q,p)\right\}\\ & =\max \left\{\underset{q\in Q}{\max }\underset{p\in M_{t1}}{\min }d(q,p),\underset{p\in M_{t1}}{\max }\underset{q\in Q}{\min }d(q,p)\right\}\\ & =\max \left\{\underset{p\in M_{t1}}{\min }d\left(f_t,p\right),\underset{p\in M_{t1}}{\max }d\left(f_t,p\right)\right\}=\underset{p\in M_{t1}}{\max }d\left(f_t,p\right).\\ & d(a,b)=1-\frac{a\cdot b}{\Vert a{\Vert }_2\Vert b{\Vert }_2}\\ & d_H^{\ast }\left(Q,M_{t2}\right)=\min \left\{\underset{q\in Q}{\sup }\underset{p\in M_{t2}}{\inf }d(q,p),\underset{p\in M_{t2}}{\sup }\underset{q\in Q}{\inf }d(q,p)\right\}=\underset{p\in M_{t2}}{\min }d\left(f_t,p\right).\\ & w\left(x_t\right)=\{\begin{array}{ll}1,& \text{ if }{d}_H\left(Q,M_{t1}\right)<d_H^{\ast }\left(Q,M_{t2}\right)\\ 0,& \text{ otherwise }\end{array}\end{array}$$
$\quad\quad$5.根据$\hat{y}{s}$和w计算$L{self}$和总的Loss，计算公式如下：
$$\begin{array}{rl}& L_{\text{self }}\left(D_t\right)=-{\mathbb{E}}_{x_t\sim D_t}\sum _{c=1}^{N_c}w\left(x_t\right)1_{[c={\hat{y}}_t}\log \left(\sigma \left(C_t\left(F_t\left(x_t\right)\right)\right)\right)\\ & L_{\text{total }}\left(D_t\right)=(1-\alpha )L_{\text{source }}\left(D_t\right)+\alpha L_{\text{self }}\left(D_t\right)\end{array}$$

$\quad\quad$1.2设计APM模块：

\quad\quad APM模块中存放的是每个类别的代表性样本（样板），作者提出自熵越小的样本越有资格作为样板。那么每个类别应该有多少个样板呢，作者提出了用自适应的阈值来计算样本的个数。

\quad\quad APM的初始化和更新方式如下：

$\quad\quad$1、计算样本的熵，l($x_{t}$)为$c_{t}$得到的类别概率。

$\quad\quad$2、对于每个类别，得到一个熵集。

$\quad\quad$3、取所有熵集中的最小值的最大值作为阈值。

$\quad\quad$4、遍历所有样本，如果一个样本的熵值小于阈值，就将这个样本作为样板。

\quad\quad 上述过程的公式如下所示：
$$\begin{array}{rl}& H\left(x_t\right)=-\frac{1}{\log N_c}\sum l\left(x_t\right)\log \left(l\left(x_t\right)\right)\\ & {\mathcal{H}}_c=\left\{H\left(x_t\right)\mid x_t\in X_c\right\}\\ & \eta =\max \left\{\min \left({\mathcal{H}}_c\right)\mid c\in \mathcal{C}\right\}\\ & M_c=\left\{F_t\left(x_t\right)\mid x_t\in X_c,H\left(x_t\right)\le \eta \right\}\end{array}$$

$\quad\quad$1.3设计Confidence-based filtering：

\quad\quad 这个模块主要解决的一个问题是：由于target data 没有正确的ground truth，训练的过程中很容易发生偏移，所以增加了基于置信度的过滤。其基本思想是：用集合-集合距离估计一个伪标签的置信度，在考虑两个集合之间corner的情况下会很有效。

\quad\quad 第一个集合是一个单独的元素集（包括一个目标样本），另一个集合可以是每个类的多prototypes。准确地说，对每个目标样本得到最相似的类$M_{t1}$和次相似的类$M_{t2}$的多prototypes，然后衡量单独集合Q=$f_t$和$M_{t1}$之间的距离（Hausdorff距离），公式如下：
$$\begin{array}{rl}{d}_H\left(Q,M_{t1}\right)& =\underset{p\in M_{t1}}{\max }d\left(f_t,p\right)\\ d_H^{\ast }\left(Q,M_{t2}\right)& =\underset{p\in M_{t2}}{\min }d\left(f_t,p\right)\end{array}$$
\quad\quad 当且仅当样本与最相似类比与次相似类更近时，将样本定义为一个可靠样本。最后为每个目标样本分配一个置信度分数：
$$w\left(x_t\right)=\{\begin{array}{ll}1& \text{ ifd }{d}_H\left(Q,M_{t1}\right)<d_H^{\ast }\left(Q,M_{t2}\right)\\ 0& \text{ otherwise }\end{array}$$

$\quad\quad$1.4模型分析：

$\quad\quad$1.基于置信度的过滤能有效解决不完美伪标签的不确定性。为了进一步验证过滤机制，作者测量了有效训练样本的百分比，可以发现目标样本中只有一小部分用来在开始的时候训练，随着训练的不断进行有效样本的数量逐渐增加。

$\quad\quad$2.特征可视化为视觉上验证此方法提供了有效性，论文中的方法可以有效对齐源和目标数据，结论说明了可以在不接触源数据的情况下减少两个不同域之间的差距。

$\quad\quad$3.可靠样本的统计数据将熵值小于0.2的样本作为可靠样本，占据了整个样本的30%。在训练过程中这些数据随着SFDA的发展会改变。训练结束时发现可靠样本的百分比超过了总样本的50%，可靠样本伪标签的准确率也随之增加了。

$\quad\quad$4.APM更新周期：通过周期性跟新APM来反映目标域的数据，作者提出了逐渐增进的目标模型。更新周期越短，准确率更好，但训练过程要求更多计算。相反，增加更新周期会降低性能，因为目标模型不能完全利用它的自学习机制。最后对所有数据集将更新周期设为100。

$\quad\quad$1.5代码复现结果：

$\quad\quad$1.5.1实验参数设置：

\quad\quad 源模型使用在ImageNet上预训练的ResNet-50或ResNet-101作为基本特征提取器。对固定的源模型和要训练的目标模型使用相同的网络架构。此外，将Office-31数据集的最大迭代步数(即算法中的max_iter)设置为5000，Office-Home数据集设置为20000，Visda-C数据集设置为15000。在所有的数据集中，将batch_size设置为32。在实验中，训练图像被resize为256×256尺寸，并通过随机水平翻转随机裁剪为224×224尺寸。实验使用SGD作为优化器，其权重衰减为0.0005，momentum设置为0.9。learning rate设置为$10^{-3}$，并对预训练的特征提取器中的所有微调层以学习速率$10^{-4}$进行优化。之后，将学习率按如下公式进行变化：$l{r}_p=l{r}_0(1+\alpha \cdot p{)}^{-\beta }$，其中$l{r}_0$是一个基本学习率，p是在训练过程中从0逐渐变化到1，α初始化为10，β初始化为0.75。对于所有的数据集，每100次迭代更新一次APM模块。

$\quad\quad$1.5.2实验结果如下：

\quad\quad （因为时间有限，只在Office数据集上测试了性能）

Method	$\mathrm{A}\Rightarrow \mathrm{W}$	$\mathrm{D}\Rightarrow \mathrm{W}$	$\mathrm{W}\Rightarrow \mathrm{D}$	$\mathrm{A}\Rightarrow \mathrm{D}$	$\mathrm{D}\Rightarrow \mathrm{A}$	$\mathrm{W}\Rightarrow \mathrm{A}$	$\mathrm{A}\mathrm{V}\mathrm{G}$
ResNet(Source only)	79.8	98.3	99.9	83.8	66.1	65.1	82.2
SFDA	91.1	98.2	99.5	92.2	71.0	71.2	87.2

2.Unsupervised Multi-source Domain Adaptation Without Access to Source Data

\quad\quad 这篇论文和上一篇论文一样，解决的是无法访问到源域数据，只能利用训练好的模型进行域适应的问题。不同的是，该论文解决了一个更具实用性的情景：之前的论文中的源模型是直接给定的最好的源模型，里面的参数都由论文作者给出，我们并不知道该源模型是怎么生成 的。而本文是根据数据现场生成所需的一组源模型，由于每个源域与目标之间的关联程度不同，而且调整模型不仅需要综合来自多个模型的先验知识，还同时需要防止负迁移的可能性。故该论文开发了一个基于伪标签和信息最大化原则的算法，同时最小化了负迁移的影响。

$\quad\quad$1.加权信息最大化

\quad\quad 由于无法访问到标记的源或者目标数据，作者转而尝试调整源分类器${\left\{{\psi }_S^i\right\}}_{i=1}^n$，因为该源分类器包含源域的类分布信息，并且通过信息最大化原则仅仅调整特征映射${\left\{{\phi }_S^i\right\}}_{i=1}^n$。该适应过程背后的原理是半监督学习中的聚类假设，该假设认为判别模型的决策边界位于输入空间中密度不密集的区域。为了实现这一点，作者最小化了条件熵项，公式如下：
$${\mathcal{L}}_{\text{ent }}=-{\mathbb{E}}_{x_T\in {\mathcal{D}}_T}\left[\sum _{j=1}^K{\delta }_j\left({\theta }_T\left(x_T\right)\right)\log \left({\delta }_j\left({\theta }_T\left(x_T\right)\right)\right)\right]$$
\quad\quad 该公式为条件熵的公式。其原理就是把源分类器进行加权组合，然后对于目标域数据$x_T$输出结果，进行softmax，最后求交叉熵。如果源

${\theta }_S^j$在目标域上具有良好的可转移性，则条件熵的值较小，那么优化{${\theta }_S^j$，${\alpha }_j$}上的项就会导致${\alpha }_j$的值高于其余权重。

\quad\quad 当使用部分标签进行训练时，熵最小化有效地捕获了聚类，但在无监督的环境中，它可能导致解的退化，比如总是预测单个类以尝试最小化条件熵。为了控制这种退化的解决方案，作者结合了类多样性的思想：跨数据集均匀分配类标签的配置，最大化经验标签分布的熵。公式如下：
$${\mathcal{L}}_{\mathrm{d}\mathrm{i}\mathrm{v}}=\sum _{j=1}^K-{\bar{p}}_j\log {\bar{p}}_j$$
\quad\quad 该公式的意义就是：要最大化该公式，符号和log的符号相互抵消，意思就是使|${\bar{p}}_j\log {\bar{p}}_j$|越大越好，也就是$\bar{p}$越大越好，就是要每个类的和最大 ，意味着对于每个类来说，都是概率越大岳昊，这样就可以促进往每个类去预测而不是偏向于某个类。

\quad\quad 这是聚合模型${\theta }_T$下目标数据和标签之间互信息的经验估计。尽管最大化该损失使目标数据的预测更加可信，单还是无法抑制错误标签的分配。作者提出了一种伪标记策略来遏制这种错误标记。

$\quad\quad$2.加权伪标记

\quad\quad 作为域转移的结果，信息最大化可能会导致某些实例使用错误的类集群。这些错误在预测的训练过程中得到加强，并导致一种称为确认偏差的现象。为了抑制这种影响，作者采用了一种自监督聚类策略。首先，计算每个源模型为整个目标数据集诱导的簇质心，公式如下：
$${\mu }_{k_j}^{(0)}=\frac{{\sum }_{x_T\in {\mathcal{D}}_T}{\delta }_k\left({\hat{\theta }}_S^j\left(x_T\right)\right){\hat{\varphi }}_S^j\left(x_T\right)}{{\sum }_{x_T\in {\mathcal{D}}_T}{\delta }_k\left({\hat{\theta }}_S^j\left(x_T\right)\right)}$$
\quad\quad 其中，第i次迭代源域j获得的类别k的簇质心表示为${\mu }_{k_j}^{(i)}$，且${\theta }_S^{\prime j}=\left({\psi }_S^j{\phi }_S^{\prime j}\right)$表示来自上一次迭代的源。这些源根据每个源模型上的当前聚合权重进行组合：
$${\mu }_k^{(0)}=\sum _{j=1}^n{\alpha }_j{\mu }_{k_j}^{(0)}$$
\quad\quad 然后计算每个样本的伪标签，将其分配到特征空间中最近的簇质心：
$${\hat{y}}_T^{(0)}=\arg \underset{k}{\min }{\Vert {\hat{\theta }}_T\left(x_T\right)-{\mu }_k^{(0)}\Vert }_2^2$$
\quad\quad 然后重复次过程，以获得更新的质心和伪标签，公式如下：
$$\begin{array}{rl}& {\mu }_{k_j}^{(1)}=\frac{{\sum }_{x_T\in {\mathcal{D}}_T}1\left\{{\hat{y}}_T^{(0)}=k\right\}{\hat{\varphi }}_S^j\left(x_T\right)}{{\sum }_{x_T\in {\mathcal{D}}_T}1\left({\hat{y}}^{{\hat{f}}_0=k}\right)}\\ & {\mu }_k^{(1)}=\sum _{j=1}^n{\alpha }_j{\mu }_{k_j}^{(1)}\\ & {\hat{y}}_T^{(1)}=\arg \underset{k}{\min }{\Vert {\hat{\theta }}_T\left(x_T\right)-{\mu }_k^{(1)}\Vert }_2^2\end{array}$$
\quad\quad 虽然这种计算簇质心和伪标记的交替过程可以重复多次以获得固定的伪标记，但作者认为对于所有实际目的来说，只进行一轮就足够了。然后可以得到关于这些伪标签的交叉熵损失如下：
$${\mathcal{L}}_{\mathrm{p}\mathrm{l}}\left(Q_T,{\theta }_T\right)=-{\mathbb{E}}_{x_T\in {\mathcal{D}}_T}\sum _{k=1}^{K}1\left\{{\hat{y}}_T=k\right\}\log {\delta }_k\left({\theta }_T\left(x_T\right)\right)$$
\quad\quad 模型的总览图如下：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hpDS80r3-1656066484888)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220623173632410.png)]

\quad\quad 简单概括一下，算法的整体思想就是：对于$L_{ent}$的训练，就是对于某个类，将所有用源分类器分类的结果使用${\alpha }_i$加权组合，然后通过softmax变成目标域的分类预测结果。然后计算条件熵（因为目标域没有标签，无法计算交叉熵）的期望，也就是计算条件熵的和然后对每个目标域样本进行平均。刚开始的时候$\alpha$初始化为1，且$\alpha$就是要优化的项。如果源${\theta }_S^j$在目标上具有良好的可转移性，那么条件熵的值就会越小，优化{${\theta }_S^j$，${\alpha }_j$}上的项就会导致${\alpha }_j$的值高于其余权重，以上就是上图$L_{ent}$部分对应的过程。

\quad\quad $L_{div}$过程和$L_{ent}$有一些相似，它先求出目标域的分类结果的期望，也就是总的所有目标域样本的分类向量，我们希望这个向量对于每个类是基本均衡的而不是总是预测某个类，所以对这个向量再求一下条件熵。它与$L_{ent}$的区别就是，后者先求的不是目标域的分类预测结果的期望，而是对单个目标域样本的分类预测结果，然后对此求条件熵，再在所有样本上面平均一下，相当于求一个平均损失。

\quad\quad 最后是伪标签损失$L_{pl}$,首先是质心计算，对每个类，对每个源域模型，对每个目标样本，首先计算softmax损失（虽然softmax得到的是一个向量，但是这里只考虑某个类，所以这里其实是一个实数），根据损失给样本的特征加权，然后将所有目标域样本的特征累加起来，除以softmax实数的累加和。以上只是一个域的结果，之后要使用$\alpha$对所有域加权得到最终每个类的质心，因为有了伪标签所以不再是目标域样本特征与softmax实数相乘，而是根据伪标签是否是对应的类，决定权重是1还是0，也就是只对本类的样本求质心。

$\quad\quad$3.优化

\quad\quad 根据给定的源假设${\left\{{\theta }_S^j\right\}}_{j=1}^n={\left\{{\psi }_S^j{\phi }_S^j\right\}}_{j=1}^n$和目标数据 $D_T={\left\{x_T^i\right\}}_{i=1}^{n_T}$，固定来自每个源的分类器，并优化参数${\left\{{\phi }_S^j\right\}}_{j=1}^n$和聚合权重${\left\{{\alpha }_j\right\}}_{j=1}^n$。最终目标是：${\mathcal{L}}_{\text{tot }}={\mathcal{L}}_{\mathrm{e}\mathrm{n}\mathrm{t}}-{\mathcal{L}}_{\mathrm{d}\mathrm{i}\mathrm{v}}+\lambda {\mathcal{L}}_{\mathrm{p}\mathrm{l}}$。

\quad\quad 上述目标用于解决以下优化问题：
$$\begin{array}{rl}\underset{{\left\{{\varphi }_S^j\right\}}_{j=1}^n,{\left\{{\alpha }_j\right\}}_{j=1}^n}{\mathrm{minimize}}& {\mathcal{L}}_{\text{tot }}\\ \text{ subject to }& {\alpha }_j\ge 0,\forall j\in \{1,2,\dots ,n\},\\ & \sum _{j=1}^n{\alpha }_j=1\end{array}$$
\quad\quad 一旦得到最优集合${\phi }_S^{j\ast }$和${\alpha }_j^{\ast }$、最佳目标假设计算为${\theta }_T={\sum }_{j=1}^n{\alpha }_j^{\ast }\left({\psi }_S^j{\phi }_S^{j\ast }\right)$，解决优化问题的算法如下：

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-wn8haDR9-1656066484888)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220623173612063.png)]

$\quad\quad$4.理论支撑

\quad\quad 个人认为，该论文出色的地方在于充足且逻辑缜密的数学推理，下面我根据文章中的内容尽量理解一下原文中的理论动机：

\quad\quad 该论文的算法旨在找到每个源模型的最佳权重${\left\{{\alpha }_j\right\}}_{j=1}^n$,并采用源预测器的凸组合来获得目标预测器、作者认为在源和目标分布的直观假设下，存在一种简单的目标预测器选择，其性能优于或等于直接应用于目标数据的最佳源模型。

\quad\quad 形式上，假设L是一个损失函数，它将模型预测标签和ground-truth标签对映射到一个标量。使用源预测器$\theta$通过$L\left(Q_S^k,\theta \right)=E_x[L(\theta (x),y)]={\int }_{x}L(\theta (x),y)Q_S^k(x)dx$表示在第k个源分布$Q_S^k$上的预期损耗。现在，设${\theta }_S^k$为由${\theta }_S^k={\mathrm{argmin}}_{\theta }L\left(Q_S^k,\theta \right)\forall 1\le K\le N$给出的最佳源预测器。文章还假设目标分布在源分布的范围内，通过将目标分布表示为源分布的放射组合来将其形式化（因为没办法接触源数据，最直接的思路就是对最优的源域分类器进行组合，也就是仿射变换），即$Q_T$(x) = ${\sum }_{k=1}^n{\lambda }_k{Q}_S^k(x):{\lambda }_k\ge 0,{\sum }_{k=1}^n{\lambda }_k=1$。在这个假设下，如果将目标预测器表示为：${\theta }_T(x)={\sum }_{k=1}^n\frac{{\lambda }_k{Q}_S^k(x)}{{\sum }_{j=1}^n{\lambda }_j{Q}_S^j(x)}{\theta }_S^k(x)$，就建立了作者提出的引理1中所述的理论主张。

\quad\quad 引理1：假设损失$L(\theta (x),y)$在其中一个参数是凸的，并且存在$\lambda \in R^n$ ，其中 $\lambda \ge 0$ 和 ${\lambda }^{\top }1=1$，使得目标分布正好等于源分布的混合，即$Q_T={\sum }_{i=1}^n\lambda Q_S^i$。将目标预测器设置为以下最佳源预测器的凸组合：
$${\theta }_T(x)=\sum _{k=1}^n\frac{{\lambda }_k{Q}_S^k(x)}{{\sum }_{j=1}^n{\lambda }_j{Q}_S^j(x)}{\theta }_S^k(x)$$
\quad\quad 对于该目标预测器，在目标分布上，伪标签引起的无监督损失和监督损失都小于或等于最佳源预测器引起的损失。特别地$\mathcal{L}\left(Q_T,{\theta }_T\right)\le {\min }_{1\le j\le n}\mathcal{L}\left(Q_T,{\theta }_S^j\right)$。此外，如果$\lambda$的项时严格正的，那么这个不等式是严格的，并且存在严格i使得不等式

$L\left(Q_S^i,{\theta }_S^i\right)<L\left(Q_S^i,{\theta }_S^{\alpha }\right)$成立。

\quad\quad 需要注意的是，在引理1中定义的预期损失是有监督的损失，里面包含标签信息。作者提出的目标预测器的监督损失至少与最好的单个源模型一样好。由于我们并不知道源数据分布（因为源数据不可用），作者考虑分布最少的信息，即根据最大熵原理的源均匀分布。假设在目标支撑集X上存在这种均匀性。从数学上讲，当限制在支撑集$x\in X$ 时，作者的假设是 $Q_S^k(x)=c_{k}U(x)$，其中$c_k$是一个比例因子，用于捕获源域k和U(X)的相对贡献值。如果在引理1的组合规则中插入这个分布值，可以得到：
$${\theta }_T(x)=\sum _{k=1}^n\frac{{\lambda }_k{c}_k}{{\sum }_{j=1}^n{\lambda }_j{c}_j}{\theta }_S^k(x)$$
\quad\quad 这个由$\lambda$构成的项本质上成为算法中的加权项${\alpha }_k$。因此，在源分布一致性假设下，这种优化讲返回源假设的有利组合，满足引理1中的边界条件。

$\quad\quad$5.代码复现结果：

$\quad\quad$5.1网络基本设置：

\quad\quad 网络架构：对于目标识别任务，作者使用了一个预先训练过的ResNet-50作为特征提取器的主干网络，将倒数第二个全连接层替换为一个瓶颈层和一个任务特定的分类器层。在瓶颈层之后使用批处理归一化，在最后一层中使用权重归一化。对于数字识别任务，网络使用了类似于LeNet的一个变体。

\quad\quad 源模型训练：网络使用平滑的标签来训练源模型，而不是常用的独热编码标签。这增加了模型的鲁棒性，并有助于在自适应过程形成均匀分离的团簇。Digits、office、Office-Home和Office-Caltech数据集的epoch分别设置为30、100、50和100.此外，在数字识别实验中，将每个域的图像大小调整为32×32，并且将灰度图转换为RGB图。

\quad\quad 超参数设置：整个框架通过反向传播以端到端的方式进行训练。对于具体的参数，将momentum数值设置为0.9，权重衰减率为$10^{-3}$ .瓶颈层和分类器层的学习速率设置为$10^{-2}$，而主干层的训练速率为$10^{-3}$。此外，还使用了学习率调整策略，其中学习率随着训练的进展呈指数衰减。batch size被设置为32。作者设置使用λ=0.3进行所有的目标识别任务，使用λ=0.1进行数字基准测试。在将模型应用到目标域上时，epoch被设置为15，并且在每个epoch开始时更新伪标签。

$\quad\quad$5.2实验结果：

\quad\quad （因为时间有限，只在Office数据集上进行了测试）

Method	$\mathrm{A},\mathrm{D}\Rightarrow \mathrm{W}$	$\mathrm{A},\mathrm{W}\Rightarrow \mathrm{D}$	$\mathrm{D},\mathrm{W}\Rightarrow \mathrm{A}$	$\mathrm{A}\mathrm{V}\mathrm{G}$
Source-best	96.3	98.4	62.5	85.7
Source-worst	75.6	80.9	62.0	72.8
SHOT-Ens	94.9	97.8	75.0	89.3
DECISIONS	98.4	99.6	75.4	91.1

3.Do We Really Need to Access the Source Data?

$\quad\quad$1.算法方法

\quad\quad 该论文仅用一个预训练模型，不使用源数据来解决无监督DA任务。特别的，对于K-way分类问题，给定$n_S$个来自源域$D_S$的带标签样本${\left\{x_s^i,y_s^i\right\}}_{i=1}^{n_s}$，其中$x_s^i\in {\mathcal{X}}_s,y_s^i\in {\mathcal{Y}}_s$，以及$n_t$个来自目标域的无标签样本${\left\{x_t^i\right\}}_{i=1}^{n_t}$,其中$x_t^i\in {\mathcal{X}}_t$。DA的目标是预测目标域中的标签${\left\{y_t^i\right\}}_{i=1}^{nt}$ ，其中 $y_t^i\in {\mathcal{Y}}_t$ ，源任务 ${\mathcal{X}}_s\to {\mathcal{Y}}_s$ 假定与目标任务 ${\mathcal{X}}_t\to {\mathcal{Y}}_t$相同。这里SHOT旨在学习一个目标方程$f_t$:${\mathcal{X}}_t\to {\mathcal{Y}}_t$，然后仅用${\left\{x_t^i\right\}}_{i=1}^{n_t}$和源方程$f_s$:${\mathcal{X}}_s\to {\mathcal{Y}}_s$ 来推断 ${\left\{y_t^i\right\}}_{i=1}^{n_t}$。

\quad\quad 论文提出了通过三个步骤UDA的模型转移任务。首先从源数据生成源模型。其次丢弃源数据并转移模型（包括源假设）到目标域而不接触源数据。最后进一步研究如何为两个模型都设计更好的网络架构来提升性能。

$\quad\quad$1.1源模型生成

\quad\quad 考虑构建一个深度神经网络然后学习源模型$f_s:{\mathcal{X}}_s\to {\mathcal{Y}}_s$通过最小化下面的标准交叉熵损失：
$${\mathcal{L}}_{src}\left(f_s;{\mathcal{X}}_s,{\mathcal{Y}}_s\right)=-{\mathbb{E}}_{\left(x_s,y_s\right)\in {\mathcal{X}}_s\times {\mathcal{Y}}_s{\sum }_{k=1}^K{q}_k\log {\delta }_k\left(f_s\left(x_s\right)\right)}$$
\quad\quad 其中${\delta }_k(a)=\frac{\exp \left(a_k\right)}{{\sum }_i\exp \left(a_i\right)}$表示一个k维向量a的softmax输出的第k个元素，其中$q_k$对正确类是1，其余是0.为了进一步增加源模型的判别性并帮助下面的目标数据对齐，作者提出采用标签平滑方法，鼓励样本集中于紧密分布的簇中，有了标签平滑方法，目标方程变成了公式1：
$$L_{src}^{l_s}\left(f_s;{\mathcal{X}}_s,{\mathcal{Y}}_s\right)=-{\mathbb{E}}_{\left(x_s,y_s\right)\in {\mathcal{X}}_s\times {\mathcal{Y}}_s}\sum _{k=1}^K{q}_k^{l_s}\log {\delta }_k\left(f_s\left(x_s\right)\right)$$
\quad\quad 这里$q_k^{l_s}=(1-\alpha )q_k+\alpha /K$是平滑后的标签，$\alpha$是平滑参数，经验上设为0.1.

$\quad\quad$1.2信息最大化的源假设迁移

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-2mI7Er60-1656066484889)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220619144600981.png)]

\quad\quad 源模型通过上图中的深度神经网络进行参数化，包括两个模块：特征编码模块$g_s:{\mathcal{X}}_s\to {\mathbb{R}}^d$ ，和分类器模块 ${\mathbb{R}}^d\to {\mathbb{R}}^K$，即$f_s(x)=h_s\left(g_s(x)\right)$。这里d是输入特征的维数。之前的UDA方法通过匹配特征空间${\mathbb{R}}^d$的数据分布来对齐不同域（使用MMD或者域对抗对齐）。然鹅，这两种策略都假设源和目标域共享同样的特征编码器，并需要在适应中接触源域数据。

\quad\quad 作者提出了一个源假设转移SHOT框架，通过学习域特定特征加码模块但固定源分类器模块。具体地，SHOT对不同域特定特征学习模块使用相同分类器模块，即$h_t$ =$h_S$。旨在学习最优目标特征学习模块$g_t:{\mathcal{X}}_t\to {\mathbb{R}}^d$，以使输出目标特征可以很好的匹配源特征分布，并且可以通过源假设直接被准确分类。值得注意的是SHOT很少使用源数据，只用一次来生成源假设。

\quad\quad 作者希望学习最优的目标编码器$g_t$以使得目标数据分布$p\left(g_t\left(x_t\right)\right)$能匹配源数据分布$p\left(g_s\left(x_s\right)\right)$。然而，因为不可能估计$p\left(g_s\left(x_s\right)\right)$的分布，特征级别的对齐不好使。如果从另一个角度看待问题：如果域差异被减少，无标签的目标数据应该会有什么样的输出？作者认为理想的目标输出应该与one-hot编码类似。因此，作者采用了信息最大化IM损失，来让目标输出单独确定并且全局不同。作者选择最小化$L_{ent}$和$L_{div}$一起构成IM损失：
$$\begin{array}{rl}& L_{\text{ent }}\left(f_t;{\mathcal{X}}_t\right)=-{\mathbb{E}}_{x_t\in {\mathcal{X}}_t}\sum _{k=1}^K{\delta }_k\left(f_t\left(x_t\right)\right)\log {\delta }_k\left(f_t\left(x_t\right)\right)\\ & L_{\text{div }}\left(f_t;{\mathcal{X}}_t\right)=\sum _{k=1}^K{\hat{p}}_k\log {\hat{p}}_k=D_{KL}\left(\hat{p},\frac{1}{K}{1}_K\right)-\log K\end{array}$$
\quad\quad 其中，$\hat{p}={\mathbb{E}}_{x_t\in {\mathcal{X}}_t}\left[\delta \left(f_t^{(k)}\left(x_t\right)\right)\right]$是整个目标域的平均输入嵌入。IM相比之前的DA工作中广泛使用的条件熵最小化更好，因为IM可以避免琐碎的解决方案。

$\quad\quad$1.3使用自监督伪标签的源假设转移加强

\quad\quad 作者展示了仅仅通过SHOT-IM和源模型学习到的特征t-SNE可视化。直观上，目标特征表示仅在源模型分布混乱，使用IM损失可以帮助对齐目标数据。然而，目标数据也可能以一定程度匹配到错误的源假设。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Drdm5Jhh-1656066484890)(C:\Users\86133\AppData\Roaming\Typora\typora-user-images\image-20220619160440600.png)]

\quad\quad 作者认为：有害的影响源自于不准确的网络输出。比如，来自第二个类的一个样本[0.4,0.3,0.1,0.1,0.1]可能会被迫输出为[1.0,0.0,0.0,0.0,0.0]。为了减轻这种影响，进一步对未标记数据应用伪标签来更好的监督目标数据编码训练。受到DeepCluster影响，作者提出了一种新颖的自监督伪标签策略。首先对目标域的每个类得到质心，类似于带权重的k-means簇，公式如下：
$$c_k^{(0)}=\frac{{\sum }_{x_t\in {\mathcal{X}}_t}{\delta }_k\left({\hat{f}}_t\left(x_t\right)\right){\hat{g}}_t\left(x_t\right)}{{\sum }_{x_t\in {\mathcal{X}}_t}{\delta }_k\left({\hat{f}}_k\left(x_t\right)\right)}$$
\quad\quad 其中，${\hat{f}}_t={\hat{g}}_t\circ h_t$表示之前学到的目标假设。这些质心可以更可靠地区分目标域内不同类别的分布。然后作者通过最近质心分类器得到伪标签：
$${\hat{y}}_t={\mathrm{argmin}}_k{D}_f\left({\hat{g}}_t\left(x_t\right),c_k^{(0)}\right)$$
\quad\quad 其中$D_f$(a,b)衡量a和b之间的cos距离。最后，作者基于新的伪标签计算目标质心：
$$c_k^{(1)}=\frac{{\sum }_{x_t\in {\mathcal{X}}_t}1\left({\hat{y}}_k=k\right){\hat{g}}_t\left(x_t\right)}{{\sum }_{x_t\in {\mathcal{X}}_t}1\left({\hat{y}}_t=k\right)}$$
\quad\quad 作者将$\widehat{y_t}$记作自监督伪标签，因为他们是以一种自监督方式得到质心生成的。在多轮训练中继续用上述公式更新质心和标签。实验验证更新一次就可以给出足够好的伪标签。

\quad\quad 总结：给定源模型$f_s=g_s\circ h_s$和上面生成的伪标签，SHOT冻结来自源$h_t$=$h_S$的假设，并学习特征编码器$g_t$，完整的目标为：
$$\mathcal{L}\left(g_t\right)={\mathcal{L}}_{ent}\left(h_t\circ g_t;{\mathcal{X}}_t\right)+{\mathcal{L}}_{\text{div }}\left(h_t\circ g_t;{\mathcal{X}}_t\right)-\beta {\mathbb{E}}_{\left(x_t,{\hat{y}}_t\right)\in {\mathcal{X}}_t\times {\hat{\mathcal{Y}}}_t}\sum _{k=1}^K{1}_{[k=\hat{y}t]}\log {\delta }_k\left(h_t\left(g_t\left(x_t\right)\right)\right)$$
\quad\quad 其中$\beta$>0是一个平衡超参数。

$\quad\quad$1.4源模型的网络架构

\quad\quad 作者还研究了如何为问题训练一个更好的源假设。作者讨论了能参数化特征编码模块和假设的神经网络模型。首先回看交叉熵损失的期望网络输出。如果$y_S$=k,那么最大化$f_s^{(k)}\left(x_s\right)=\frac{\exp \left(w_k^T{g}_s\left(x_s\right)\right)}{{\sum }_i\exp \left(w_i^T{g}_s\left(x_s\right)\right)}$意味着最小化$g_S$($x_S$)和$w_k$之间的距离，其中$w_k$是最后FC层的第k个权重向量。在理想情况下，所有来自第k类的样本将有一个和$w_k$相似的特征嵌入。

\quad\quad 由于权重归一化导致了在softmax输出内的內部距离问题，我们采用权重归一化来保持每个权重向量$w_i$的准则与FC分类层中的相同。而且，批归一化BN可以减少內部数据集偏移，因为不同域共享相同的平均值和方差。

$\quad\quad$2.实验结果：

$\quad\quad$2.1网络参数：

\quad\quad 网络架构：对于数字识别任务，使用经典的LeNet-5网络或LeNet的一个变体网络。对于目标识别任务，使用预先训练过的ResNet-50或ResNet-101模型作为骨干模块。接下来使用一个瓶颈层（256个单元）和一个FC分类层替换了原来的FC层。在瓶颈层内的FC层后放置一个BN层，在最后一层FC层中使用一个权值归一化层。

\quad\quad 网络超参数：通过反向传播对整个网络进行训练，对于网络中新添加的层，学习率是网络主干层的10倍。具体来说，训练时采用动量为0.9的小批量SGD优化器，权重衰减为$1e^{-3}$，学习率为$1e^{-2}$.作者还进一步采用了$\eta ={\eta }_0\cdot (1+10\cdot p{)}^{-0.75}$公式来变换学习率，其中p随着训练的过程从0变为1。此外，所有任务的batch size大小均为64。所有数据集中β值都设置为0.3。

\quad\quad 对于没有训练验证分割的数据集，我们在源数据集中随机指定一个0.9/0.1的分割，并基于验证集生成最优的源假设。Digits、Office、Office-Home、VisDA-C和Office-Caltech数据集的的epoch分别设置为30、100、50、10和100。在将模型调整到目标领域中时，epoch数被设置为15。

$\quad\quad$2.2实验结果如下：

\quad\quad （因为时间有限，只在Office数据集上测试了性能）

Method	$\mathrm{A}\Rightarrow \mathrm{W}$	$\mathrm{D}\Rightarrow \mathrm{W}$	$\mathrm{W}\Rightarrow \mathrm{D}$	$\mathrm{A}\Rightarrow \mathrm{D}$	$\mathrm{D}\Rightarrow \mathrm{A}$	$\mathrm{W}\Rightarrow \mathrm{A}$	$\mathrm{A}\mathrm{V}\mathrm{G}$
Source only	76.9	95.3	98.7	80.8	60.3	63.6	79.3
SHOT	90.1	98.4	99.9	94.0	74.7	74.3	88.6