自适应滤波器5-最小二乘法(LSM)

传统信号处理的作用，往往是在频域上对某部分频段的信号进行增强，或者是对某部分频段的信号进行衰减，又或者兼而有之，它是对确定信号的一种信号处理，数字滤波器在这里面起到了关键的作用。

而现代信号处理这个课题面对的是随机信号和随机过程。其中估计和预测是自适应滤波的两个典型的应用，比如说将湮没在噪声中信号估计出来，此处的淹没不单单指的是信噪比，而是说他们很有可能在频谱上也是混叠的，传统的低通和高通显得显得无能为力。

后续的学习笔记，将会围绕：

1. 维纳滤波器

2. 最速下降法

3. 随机梯度下降法  

4. 最小均方算法（LMS）

5. 最小二乘法以及递归最小二乘算法（RLS）--本文---

6. 卡尔曼滤波器

7. 矩阵的基本知识

本文论述最小二乘法，那是一种批处理，即不像最速下降法那样是基于集平均的算法，也不像LMS那样是基于单个样本点的算法，它是基于一个数据块，这个数据块里的点数不止一个点。因此它也是随机梯度下降算法的一种，因为梯度里还是包含了一点梯度噪声。

下面的学习笔记，将会以图形的形式进行展示，是因为原word文档的公式在公众号编辑器里有点水土不服，同时也懒得再用markdown重新开始编辑，同时也附上百度网盘的下载地址，观看效果应该更好，同时也附上参考书籍。

链接：https://pan.baidu.com/s/1S79AWpIsYz6IEe_ZkTER8A

提取码：saz4