深度学习(三十四)对抗自编码网络-未完待续

占坑,未完待续……

上面是网络结构。上半部分是一个自编码结构,给定输入数据X,我们经过编码层,可以得到编码层的数据分布q(z|x)的一个采样潜变量编码z。在以前我们的自编码分布q(z|x)是固定的,现在我们即将用对抗网络,对这个分布做一个先验约束。

对于解码层的目标是对编码向量z做出重构,得到输出样本x’的分布函数q(x’|z)的一个采样样本x’。重构损失函数确保了编码过程原始数据不会丢失过多,然而它却没有对特征z做出约束,z的分布函数如下:

我们现在的目标是希望对q(z)做出约束,使得它与分布p(z)相互匹配。比如我们希望z的每个特征相互独立并且符合高斯分布(ICAPCA)。甚至我们希望这个潜在的表征z与我们的分类任务标签有个相互映射关系。

你可能感兴趣的:(深度学习)