信号处理学习笔记4——自适应滤波器2-最速下降法用于FIR型维纳滤波

    在前面关于维纳滤波的文章里，提到FIR型维纳滤波器需要求信号相关矩阵$\mathbf{R}$的逆，虽然有Levinson-Durbin算法，但还是比较复杂。
　　由于维纳滤波是最小均方误差意义上的最佳估计，那么将均方误差作为代价函数，便可利用最速下降法来迭代求取维纳滤波器的系数。

1. FIR型维纳滤波器的最速下降法推导

    假设滤波器的输入信号为$u(n),u(n-1),...,u(n-M+1)$，滤波系数为$w_0(n),w_1(n),...w_{M-1}(n)$。输入信号来自均值为0的广义平稳随机过程，相关矩阵为$\mathbf{R}$。
　　另外，还滤波器还需要一个期望响应$d(n)$，以便为最优滤波提供参考。其实，这里的期望响应就是维纳滤波器中提到的噪声。
　　滤波器结构如下图所示：
　
　时刻n的估计误差为：
　$e(n)=d(n)-{\mathbf{w}}^T(n)\mathbf{u}(n)$
　若输入信号$\mathbf{u}(n)$和期望响应$\mathbf{d}(n)$是联合平稳的，则经过一系列推导，时刻n的代价函数$\mathbf{J}(n)$（其实就是均方误差）可表示为：
　$\mathbf{J}(n)={\sigma }_d^2-{\mathbf{w}}^T(n)\mathbf{p}-{\mathbf{p}}^T\mathbf{w}(n)+{\mathbf{w}}^T\mathbf{R}\mathbf{w}(n)$
　其中，${\sigma }_d^2$是期望输出$d(n)$的方差，
　$\mathbf{p}$是输入信号$\mathbf{u}(n)$与期望输出$d(n)$的互相关向量，
　$\mathbf{R}$是输入信号$\mathbf{u}(n)$的相关矩阵。
　再经过推导，代价函数的梯度向量可表达为：
　$\nabla J(n)=-2\mathbf{p}+2\mathbf{R}\mathbf{w}(n)$　　　　　　　　　　　　(1)
　因此，滤波器系数的迭代表达式为：
　$\mathbf{w}(n+1)=\mathbf{w}(n)+\mu [\mathbf{p}-\mathbf{R}\mathbf{w}(n)]$　n=0,1,2,…　　(2)
　上面这个式子就是FIR型维纳滤波器的最速下降方法。

2. 几点理解

• 将最速下降法用于FIR型维纳滤波时，噪声就是最速下降法的期望响应。
• 因为维纳滤波本身就假设信号和噪声是（即这里的抽头输入u(n)和期望响应w(n)）广义联合平稳的，所以输入相关矩阵$\mathbf{R}$以及输入和噪声的互相关向量$\mathbf{p}$是恒定的。因此式（１）和式（２）的计算结果仅与上一次迭代时的权值向量（滤波器系数）有关，并且是可以精确计算的。这是与后面LMS自适应滤波最本质的区别。

参考文献：
郑宝玉 等译，自适应滤波器原理，第四版，第4章