KCF跟踪算法论文阅读与原理分析

---

前言

• KCF算法的论文题目为：High-Speed Tracking with Kernelized Correlation Filters，是一种典型且有效的跟踪算法，自提出以来在目标跟踪领域得到了广泛的应用。
• KCF是一种鉴别式追踪方法，这类方法一般都是在追踪过程中训练一个目标检测器，使用目标检测器去检测下一帧预测位置是否是目标，然后再使用新检测结果去更新训练集进而更新目标检测器。
• 从作者的论文中，可以总结出：KCF跟踪算法的基本思想是使用核相关滤波器训练一个判别式分类器，使用循环矩阵生成样本去训练分类器。

参考文献：
[1] J. F. Henriques, R. Caseiro, P. Martins and J. Batista, “High-Speed Tracking with Kernelized Correlation Filters,” in IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 37, no. 3, pp. 583-596, 1 March 2015, doi: 10.1109/TPAMI.2014.2345390.
[2] D. S. Bolme, J. R. Beveridge, B. A. Draper and Y. M. Lui, “Visual object tracking using adaptive correlation filters,” 2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2010, pp. 2544-2550, doi: 10.1109/CVPR.2010.5539960.

---

一、KCF的前身：MOSSE算法

1、相关滤波

• 相关滤波（Correlation Filter） 最早应用于信号处理，用来描述两个信号之间的相关性（相似性）。
• 对于两组数据$f、g$其相关性的计算公式如下：
  $(f\odot g)(\tau )={\int }_{-\infty }^{+\infty }{f}^{\ast }(t)g(t+\tau )dt$
  $(f\odot g)(n)={\sum }_{-\infty }^{+\infty }{f}^{\ast }[m]g[m+n]$
• 其中的复共轭是与卷积操作的区别。

2、MOSSE算法

• MOSSE（Minimum Output Sum Square Error）：是最初将相关滤波应用于目标跟踪领域中的，它在保持较好的跟踪效果的同时，其速度远超同时期的其它跟踪算法。

• MOSSE算法基本思想：根据第一帧图像框选的目标构建一个响应，该响应在所绘制的目标框的中心处的响应值最大，向四周缓慢衰减（按照二维高斯分布）。希望找到一个滤波器使得图像和这个滤波器进行相关运算之后刚好得到的就是这个响应，这样根据响应值最大的位置就可以找出目标的位置。当新的一帧图像进来时，用之前得到的滤波器与新的图像进行相关运算，即可更新目标位置。
  

• 从公式上来看，希望获得滤波器$h$可以满足：$g=f\ast h$。通过傅里叶变换，转换到频率，即$G=F\odot H^{\ast }$（*表示复共轭，⊙表示频域下的卷积运算）。当$G$和$F^{\ast }$均已知的情况下，可求出$H^{\ast }=\frac{G}{F}$。

• 为了增加H*的鲁棒性，将第一帧图像的目标进行多次的变换，得到多个f，构成一个数据集。
  

• 按照优化的思想，$mi{n}_{H^{\ast }}{\sum }_i|F_i\odot H^{\ast }-G_i{|}^2$得到鲁棒性较好的$H^{\ast }:H^{\ast }=\frac{{\sum }_i{G}_i\odot F_i^{\ast }}{{\sum }_i{F}_i\odot F_i^{\ast }}$。

• 对于后续的视频帧MOSSE算法给出了更新方法：$H^{\ast }=\frac{A_i}{B_i},A_i=\eta G_i\odot F_i^{\ast }+(1-\eta )A_{i-1},B_i=\eta F_i\odot F_i^{\ast }+(1-\eta )B_{i-1}$。

• 其中 $\eta$表示学习率，$\eta$越大，则对当前帧保留的信息越多，对历史信息保留的越少，论文中给出的最佳值为0.125。

二、岭回归与循环矩阵

1.岭回归（Ridge Regression）

• 是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法
• 算法形式：
  $\underset{w}{\min }{\sum }_i(f(x_i)-y_i{)}^2+\lambda ||w|{|}^2$,其中$f(x)=w^{T}x$
• 对上式可以得到闭式解：$w=(X^{T}X+\lambda I{)}^{-1}{X}^{T}y$，其中，数据矩阵 $X$每一行 $x_i$有一个样本，并且$y$每一个元素是回归目标$y_i$
• 为实现在频域进行处理，对闭式解进行调整：$w=(X^{H}X+\lambda I{)}^{-1}{X}^{H}y$，其中$X^H=(X^{\ast }{)}^T$，成为Hermitian转置亦即共轭转置。

2.循环矩阵

2.1 循环移位

• 循环移位算子：
  
  有$Px=[x_n,x_1,x_2,...,x_{n-1}{]}^T$相当于对$x$循环移位一个元素。
  通过$P^{u}x$可以实现更大的位移，而且$\pm u$可以代表循环移位的方向。

• 循环移位示意图如下：
  
  这是一种一维的水平循环移位示意图，每一行的元素都可以看作第一行的元素进行循环移位获得。
  
  这是一个二维的垂直循环移位示意图。

• 由于循环的特性，每$n$个周期得到相同的信号，所以$\{P^{u}x|u=0,1,2,...,n-1\}$可以表示全套的移位信号。展开表示为：
  

• 另外，由于循环性质，我们可以等效地将该组的前半部分视为正方向的变化，而后半部分则视为负方向的变化。

2.2 循环矩阵的处理

• 通过离散傅里叶变换（DFT）对角化：$X=diag(\hat{x})F^H$，其中$F$是不依赖于生成向量$x$的常数矩阵即DFT矩阵满足$(z)=\sqrt{n}F(z)$，$\hat{x}$表示生成向量$x$的傅里叶变换，即$\hat{x}=\mathcal{F}(x)$。
• 考虑$X^{H}X$，可以视为非中心协方差矩阵，有$X^{H}X=Fdiag({\hat{x}}^{\ast })F^{H}Fdiag(\hat{x})F^H=Fdiag({\hat{x}}^{\ast })diag(\hat{x})F^H=Fdiag({\hat{x}}^{\ast }\odot \hat{x})F^H$，括号中的向量被称为信号x的自相关（在傅立叶域中，也被称为功率谱）
• 作者将上述的推导递归应用于线性回归的完整表达式，得到$\hat{w}=diag(\frac{{\hat{x}}^{\ast }}{{\hat{x}}^{\ast }\odot \hat{x}+\lambda })\hat{y}=\frac{{\hat{x}}^{\ast }\odot \hat{y}}{{\hat{x}}^{\ast }\odot \hat{x}+\lambda }$
• 最突出的效果在于使用上式进行计算，将存储和计算减少了几个数量级。

三、非线性回归

在这一部分，作者获得了与线性相关滤波器一样快的非线性滤波器

3.1 核函数

• （1）使用核技巧将线性空间（原空间）的输入映射到非线性特征空间（对偶空间），将原空间中的向量$w$表示为对偶空间中基向量的线性组合：$w={\sum }_i{\alpha }_i\Phi (x_i)$，将求解问题转换为求解向量$\alpha$。
• （2）定义核函数为向量之间的点积${\phi }^T(x)\phi (x^{\prime })=k(x,x^{\prime })$；所有样本对之间的点积用$n\times n$维核矩阵$K$表示，$K_{i,j}=k(x_i,x_j)$。
• （3）$f(z)=w^{T}z={\sum }_{i=1}^n{\alpha }_{i}k(z,x_i)$

3.2 快速核回归

• （1）对岭回归在对偶空间中的解可以表示为：$\alpha =(K+\lambda I{)}^{-1}y$，$K$为核矩阵，$\alpha$是系数向量。

• （2）作者证明了矩阵$K$对于循环移位的数据集是循环的（对于径向基函数核、点积核、加权核、指数加权核都满足），对于上式的求解可以对矩阵$K$进行对角化，得到如同线性问题的快速解决方式。可以表示为：$K=C(k^{xx})$，其中$k^{xx}$表示循环矩阵$K$的第一行向量。

• （3）$$\alpha =(C(k^{xx})+\lambda I{)}^{-1}y=Fdiag(\frac{1}{{\hat{k}}^{xx}+\lambda })F^{H}y$$
  对两边同时进行傅里叶变化得到：$\hat{\alpha }=\frac{\hat{y}}{{\hat{k}}^{xx}+\lambda }$

• （4）作者定义了更一般核相关：对于任意两个向量$x$和$x^{\prime }$，二者的核相关向量$k^{x{x}^{\prime }}$的第$i$个元素$k_i^{x{x}^{\prime }}=k(x^{\prime },P^{i-1}x)$。在高维空间$\phi (.)$中，有$k_i^{x{x}^{\prime }}={\phi }^T(x^{\prime })\phi (P^{i-1}x)$。

$k^{x{x}^{\prime }}$是$n\times 1$维的向量，随样本数量呈线性增长，摒弃了传统核方法需要计算$n\times n$维的核矩阵。

3.3 快速检测

• 为了检测感兴趣的目标对象，我们通常希望在几个图像位置上评估回归函数$f(z)$，用$K^z$表示所有训练样本和所有候选块之间的核矩阵。
• 训练样本和候选块分别由基础样本$x$和基础图像块$z$通过循环移位组成，因此矩阵$K^z$的每个元素可以表示为$K_{i,j}=k(P^{i-1}z,P^{j-1}x)$。
• 对评估函数进行处理：$f(z)={\sum }_{i=1}^n{\alpha }_{i}k(z,x_i)=(K^z{)}^T\alpha =Fdiag({\hat{k}}^{xz})F\alpha$，两边进行傅立叶变换，得：$\hat{f}(z)={\hat{k}}^{xz}\odot \hat{\alpha }$。
• 可以看出，所有位置处的评估函数都可以视为对核值$k^{xz}$的空间滤波操作。

四、多通道

多通道情况下，由于离散傅里叶变换的线性性质，对傅里叶域中每个通道的结果求和即可。所以只需要在计算核相关函数时对通道求和即可。

---

总结

• 通过循环移位来建模，构建循环移位数据集
• 傅里叶域进行处理循环矩阵
• 将核函数矩阵转换为循环矩阵处理
• 多通道扩展