数值分析——曲线拟合的最小二乘法

一、曲线拟合的最小二乘原理

拟合曲线定义：求近似函数 φ(x), 使之 “最好” 的逼近f(x) ,无需满足插值原则.
这就是曲线拟合问题。
（时间紧迫直接看例子就行，智慧交通专业的补修课，可能理论学的不那么深入，主要是方法。）

1. 超定方程组的最小二乘解

超定方程组是指方程个数大于未知量个数的方程组 。
最小二乘解： 对于方程组：Ax = b

如果有向量x使得 ：达到最小，则称x是该方程组的最小二乘解。

解题方法：

直接看例子：

上面法方程组的解，也就是超定方程组的最小二乘解。

解析：实际上是求拟合曲线φ(x)的参数a，b；将原问题转化为求法方程组的问题。

2. 直线拟合

例子在后面

3. 多项式拟合

求解过程与上面类似，因为其A(T)A 系数矩阵有一定的规律性，因此单独拿出来记忆。

A(T)A的特点：

• n : 有n组实例数据表，n个方程组， i 的范围是1-n
• m ：φ(x)有 m 个待求系数，并且A(T)A 是m × m规格的矩阵
• A(T)A :是对称矩阵
• 直线拟合的矩阵其实就是多项式拟合的左上角2 × 2的部分

上栗子！

1. 多项式拟合例子
   
   

2. 直线拟合例子
   
   下面给出一次拟合多项式的步骤：