Zero Padding(零填充)——在卷积神经网络中的作用?

Zero Padding在卷积神经网络中的作用?

最近一直在考虑位置编码的问题?为什么要位置编码?位置信息在哪里?之前也整理了位置编码的不同情况,但是追根溯源,位置信息来自哪里?

通过阅读查找,也找到了一系列学习资源:

  • 资源1:ViT 进展汇总思维导图
  • 资源2:How do neural networks see depth in single images?(论文阅读)
  • 资源3:Zero Padding In Convolutional Neural Networks

Where does position information come from ? (位置信息在哪里?)

  • 在阅读文献后,短暂的到了一个解读:the padding near the border delivers position information to learn.也就是说是 padding?
  • zero_padding is widely used in convolutional layers to maintain the same spatial dimensiions for the input and output, with a number of zeros added at the beginning and at the end of both axes, horizontal and vertical.-Zero_padding被广泛使用在卷积层中,以保持输入和输出的相同空间维度,在水平轴和垂直轴的开始和结束处都添加了0。

感觉自行翻译还有所缺失,也并未实质化理解?也就有了下面的学习:

零填充的动机:图像边缘信息的丢失——保护

  • 在CNN中,通常会使用过滤器(卷积核)来实现图像的卷积,从而实现图像的降维,即图像缩小了,重点来了:图像边缘的信息卷积后会出现什么情况呢?

Zero Padding(零填充)——在卷积神经网络中的作用?_第1张图片

Zero Padding(零填充)——在卷积神经网络中的作用?_第2张图片

图像边缘的信息卷积后会出现什么情况呢?对比分析下图不难看出,图像的缩小了,同时图像原本红色靠图像边缘区域的内容被忽略了一部分,试想,这还是因为主要内容在图像中间,如果重点内容在图像边缘,那就很容易丢失大量信息!!!!

零填充实际上是什么细节:

零填充是一种允许保留原始输入大小的技术。可以在每卷积层的基础上指定。对于每个卷积层,就像定义过滤器和过滤器的大小一样,可以指定是否使用填充。

Zero Padding(零填充)——在卷积神经网络中的作用?_第3张图片

Zero Padding(零填充)——在卷积神经网络中的作用?_第4张图片

你可能感兴趣的:(那些不懂就整理的知识点,深度学习,python)