特征编码与池化

先说矢量量化，用于信号压缩，压缩和还原常常绑定在一起。矢量量化主要应用在语音信号处理上，VQ的基本思想是，先用一个矢量表示若干个标量数据，再对矢量进行量化处理。多个数据可以看成一个数组，一个一维数组也就是一个一维矩阵，也是一个矢量。VQ，先准备一套编码方案，对若干个数据进行编码，由于在编码过程中采用了近似，所以是有损压缩，无法完全还原。

当矢量量化技术运用于一维数据时，是选取一维的一段区间进行编码，一段区间对应一个编码值；当运用于二维数据时，是选取整个图像区域的一块区域进行编码，一个区域对应一个编码值；应用于三维或更高维时，处理思路也是如此。由于将一个区域的值用一个进行编码，所以以上全都是有失真的。选取的区域数量越多，最终编码时所用的二进制位数也越多，失真的程度越小。

再说SVM，支持向量机，是一种机器学习的算法，用于分类。若干个二维平面上的点可能需要一条曲线来分类，若干个空间中的点则需要一张扭曲的纸来分开，俗称超平面。超平面和曲线的目的都是分类，俗称分类器。分类器最终找到时，它应当对两个类的距离一样的远（重点考虑离它最近的点）。当放入更多数据时，原有的分类器可能并不是Optimazation，所以分类器应当不断更新。

机器学习本质上是在一个问题上对真实模型的逼近，首先先建立一个模型，通过不断接触新的数据和反馈（返回真实值和估计值之间的偏差），然后不断更新原来已有的模型。