总结与归纳：深度神经网络中的数据融合方法

总结与归纳：深度神经网络中的数据融合方法_月下花弄影的博客-CSDN博客_神经网络数据融合

数据融合是一个重要的方法，有时候我们想结合多个东西在一起的时候就需要用到融合方法。深度学习中也不例外，我们经常会将两个或多个数据融合在一起。数学上，我们可以定义成：

相加 add

 

非线性相加（结合注意力机制）

 

相乘 multiply
有待更新。

相连 concatenate

 

统计数据融合（normalization）

 

 

具有空间位置的统计数据融合（normalization）

上面最后一个方法中，原始统计值是一维的，我们将他们编码后变成三维，但是这样无法表示空间信息。所以，假如我们直接将统计值变成三维的是否可以表示空间位置呢？
论文【7】给出了答案。

 

如上图，统计值γ , β \gamma, \betaγ,β分别表示方差和均值，但是他们都是三维的，直接乘以或加到特征图上，可以表示空间信息了。

写道这里我们可以发现，使用统计值的方法可以进一步放宽对输入的要求，并且可以通过这个方法来控制特征图。

参考文献
1： Selective Kernel Networks
2： Large Scale GAN Training for High Fidelity Natural Image Synthesis
3: Toward Multimodal Image-to-Image Translation
4: Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization
5: Image-to-Image Translation with Conditional Adversarial Networks
6: Deep Residual Learning for Image Recognition
7: Semantic Image Synthesis with Spatially-Adaptive Normalization
8: EXEMPLAR GUIDED UNSUPERVISED IMAGE-TOIMAGE TRANSLATION WITH SEMANTIC CONSISTENCY
9: A Style-Based Generator Architecture for Generative Adversarial Networks
————————————————
版权声明：本文为CSDN博主「月下花弄影」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/qq_27261889/article/details/105412592