现代信号处理——自适应滤波器（RLS自适应滤波器）

一、线性方程组解的形式

1.1、线性方程组的唯一解

具有N个方程M个未知量的线性方程组表示为

写成矩阵形式Ax=b

恰定方程组：未知数个数=方程个数，此时方程组有唯一解 

欠定方程组：未知数个数>方程个数，此时方程组有无解 

超定方程组：未知数个数<方程个数，此时方程组有无穷多解 

A是系数矩阵为：

如果M=N，此时方程组为恰定方程组，且矩阵A可逆，则该线性方程组为适定方程组，则可确定一个满足该方程组的唯一解

 

1.2、线性方程组的最小二乘解 

对于线性方程组(1)，如果M

1.3、线性方程组的最小范数解

对于线性方程组(1），如果M>N，A是一“扁矩阵”，且设矩阵A是行满秩的，则称线性方程组为欠定线性方程组。此时该线性方程组有无穷多个解。

二、最小二乘估计原理

2.1、最小二乘估计的确定性正则方程 

 

  

 

 

求解最小二乘解的方法

定义代价函数为误差信号的模的平方和，即 

 ​​​​​​​

 

三、递归最小二乘算法（RLS) 

 

 ​​​​​​​

 

 

 

 

 

 

 

参数选择

遗忘因子λ：接近1但小于1的正常数，0.95<λ<1。λ=1即平稳输入，无限记忆；输入过程的非平稳程度越严重，则λ越小。

 

四、RLS算法的收敛性

RLS算法约经过n=2M次迭代，即可使均方误差达到最小误差的1.5倍，而LMS算法达此水平至少需20M次迭代。因此，RLS比LMS至少快一个数量级。 

若n趋于无限大，在不考虑量化误差的条件下，RLS算法无失调（无误差）。而LMS始终存在与步长有关的失调。

RLS算法的主要问题之一是每次迭代中的计算量与阶数M的平方成正比。虽然比之最小二乘法（M的三次方成正比)好，但比LMS算法(M成正比)要差。

参考视频：

https://www.bilibili.com/video/BV1wS4y1D7ng?p=10&vd_source=77c874a500ef21df351103560dada737