Normalization 之AdaIN Normalization

一，Adaptive Instance Normalization (AdaIN Normalization)自适应实例归一化（AdaIN）层。
主要用于图像风格转换的自编码结构网络中。
二，AdaIN 输入为内容编码（content input x ）与风格编码 （style input y）, 对于每个channel，将x的通道级（channel-wise）均值和标准差匹配到y的通道级均值和标准差上：

三，AdaIN特点
在feature map层面上通过改变特征的数据分布来实现风格迁移，计算开销和存储开销都较小，且易实现。

四，网络结构

网络结构只是简单的自编码器结构，没有使用到GAN.
内容图像c和任意风格图像s送入编码器f进行编码，然后通过AdaIN层进行整合：
t=AdaIN(f©,f(s))
然后通过解码器g将整合编码t映射会图像空间。
T(c,s)=g(t)
为了保持AdaIN层风格迁移后的数据分布，解码器中不使用任何的归一化层。

五，损失函数
1.内容损失

其中t为AdaIN层的输出，这里计算目标特征和输出图像特征的欧氏距离。
2.风格损失

其中ϕi ​表示编码器网络中的第i层。
3.总损失函数
L=Lc+λLs