Mean Shift基础知识

      Mean Shift在几年前大火，但是目前好像退温了。有的中文译为均值漂移，有的译为均值偏移，我还是坚持我的作风，不译。(有很多东西看了都忘记了，写在这里需要的时候复习，^_^)

      给定d维空间中的n个样本点,i=1,…,n,在点的Mean Shift向量的基本形式定义为:

     

      其中,是一个半径为h的高维球区域,满足以下关系的y点的集合，

     

      k表示在这n个样本点中,有k个点落入区域中。

      我们可以看到是样本点相对于点的偏移向量，Mean Shift向量就是对落入区域中的k个样本点相对于点的偏移向量求和然后再平均。从直观上看，如果样本点从一个概率密度函数中采样得到，由于非零的概率密度梯度指向概率密度增加最大的方向，因此从平均上来说，区域内的样本点更多的落在沿着概率密度梯度的方向。因此，对应的Mean Shift向量应该指向概率密度梯度的方向。

     

      如上图所示，大圆圈所圈定的范围就是，小圆圈代表落入区域内的样本点，黑点就是Mean Shift的基准点，箭头表示样本点相对于基准点的偏移向量。很明显的，我们可以看出，平均的偏移向量会指向样本分布最多的区域，也就是概率密度函数的梯度方向。

      也就是说，MS就是计算均值沿梯度方向跑了多少，那么光这样计算还不够准确，还要加入一个核函数才能NB。

      核函数：

      定义：代表一个d维的欧氏空间，是该空间中的一个点，用一列向量表示。的模，表示实数域。如果一个函数存在一个剖面函数，即

       

      并且满足：

      (1) 是非负的。

      (2) 是非增的，即如果那么。

      (3) 是分段连续的，并且。

      那么，函数就被称为核函数。

      例如：

     

     

     

      一般的说来，离越近的采样点对估计周围的统计特性越有效，因此我们引进核函数的概念。加入核函数后，

     

      其中：

      ，

      是一个单位核函数，

     是一个正定的对称矩阵,我们一般称之为带宽矩阵，

      是一个赋给采样点的权重。

      在实际应用的过程中，带宽矩阵一般被限定为一个对角矩阵，甚至更简单的被取为正比于单位矩阵，即。由于后一形式只需要确定一个系数，则可以将公式写为：

     

     

     

     

      算法步骤：

      (1)计算

      (2)把赋给

      (3)如果，束循环；若不然，继续执行(1)。