机器学习笔记 图像特征提取器(卷积变体)的技术发展与演变

一、图像特征提取器简述

        图像特征提取器是可用于从图像中学习表示的函数或模块。最常见的特征提取器类型是卷积，其中内核在图像上滑动，允许参数共享和平移不变性。

        在深度学习技术的快速发展过程中，基于卷积也演变出来了若干新技术由于图像特征的提取，这里进行了一下简单梳理，一是加强了解，二是备忘。

        下面的清单每项都只是一个概念，因为每个概念都产生了若干论文。

1、卷积

        卷积是一种矩阵运算，由一个内核组成，一个小的权重矩阵，它滑过输入数据，执行逐元素乘法与它所在的输入部分，然后将结果相加到输出中。

        直观地说，卷积允许权重共享 - 减少有效参数的数量 - 和图像转换（允许在输入空间的不同部分检测相同的特征）。

        然而，卷积归纳偏差缺乏对图像本身的整体理解。卷积擅长提取视觉特征，但无法对它们之间的依赖关系进行建模，这可能也是发展出来下面诸多特征提取器的原因之一吧。