domain adapation

假设测试资料和训练资料分布不一样， 训练为黑白数字，测试为彩色数字时，识别率很低
称之为 Domain shift

Domain adaptation : 可以看做 transfer 的一种

输出分布也有可能不一样

target domain 有部分数据，但是无标签
分布也不一样，比如 source domain 是黑白，target domain 为彩色。
使用source data 训练一个模型，然后使用 target data 微调该模型。
注意不能过拟合，只能对一些target data 进行训练

假设网络一共十层，前5层的作用是 feature extractor, 后5层的作用是 classifier

目标，通过extractor 后，黑白数字 和彩色数字的 特征分布相似。 比如红色为黑白 蓝色为彩色

训练一个 Domian classifier 二分类，来自source 还是 target