函数逼近基本概念

维尔斯特拉斯定理：设，则使在上一致成立。
构造，那么在上一致成立，则还有.但收敛慢，故实际中很少用。

三个基本问题：

选定逼近函数类型
按一定目标逼近：可分为插值和拟合
研究逼近函数的存在唯一性、收敛性及误差估计等理论问题。

插值法

牛顿插值与拉格朗日插值多项式

从阶差商到牛顿插值多项式

优点，每增加一个插值点就增加一项，便于计算。
插值多项式还可用插值基函数表示为

其中

上式被称为拉格朗日插值多项式
还可被写为

其中

截断误差表示为

上式称为插值余项，此外还有差商的表示：

比较上述两式，可以得到差商与导数的关系

实际上，当的极限就是泰勒展开的余项.

Hermite插值

除了满足函数值的要求外，还需要满足导数条件.

$\begin{array}{l} \alpha_{i}\left(x_{j}\right)=\partial_{i j}, \alpha _{i}^{\prime}\left(x_{j}\right)=0, \quad j=0,1, \cdots, n \\ \beta_{i}\left(x_{j}\right)=0, \beta_{i}^{\prime}\left(x_{j}\right)=0_{i j}, \quad j=0,1, \cdots, n \end{array}$
余项为

插值函数的收敛性与稳定性

插值点为作为插值点求出插值多项式序列

若，就称插值多项式序列收敛于，否则就称不收敛.

理论上已知，满足上述条件的拉格朗日插值多项式序列不是收敛的.
例如在上按等距节点构造的插值多项式序列,当时,只在三点收敛于.(伯恩斯坦给出的例子)

Runge给出例子：,在上用等距节点插值得到的,在时也不收敛于.

这两个例子说明，高次插值多项式不能保证它的收敛性.

下面讨论插值函数的稳定性.当有误差时,即实际求插值函数时使用的函数表为而精确值.我们要研究当充分小时,插值函数的误差是否随增大,这就是插值函数的稳定性问题.
是计算出来的插值函数

于是得到插值函数的总误差

第一项为截断误差,第二项为舍入误差,即
$\begin{aligned} \varepsilon_{n} &=\max _{a \in x<b}\left|I_{n}\left(f, x\right)-I_{n}(\xi, x)\right| \\ & \leqslant \max _{a: x \in b}\left[\sum_{i=0}^{n}\left|l_{i}(x)\right|\right] \max _{1<1<n}\left|f_{i}-\tilde{f}_{i}\right| \\ & =\lambda_{n} \max _{1 \leqslant i \leqslant n}\left|f_{i}-\tilde{f}_{i}\right| \end{aligned}$
若有界,
则插值函数就是数值稳定的.下面给出定义

定义对任给若使当就有

则称插值函数是稳定的，否则就是不稳定的。

从定义看到，插值函数稳定，则其舍入误差可以忽略不计,而插值函数是否稳定则取决于是否有界.对于拉格朗日插值多项式则有是无界的,这表示高次插值多项式是不稳定的.因此从收敛性与稳定性考虑,使用高次插值多项式是不可取的,故当插值节点较大时一般不用多项式插值,而采用分段低次插值或样条插值.

样条插值函数

在具有收敛性与稳定性的插值函数中,最常用和最重要的时样条插值函数插值,而且用样条插值函数给出的光滑插值曲线或曲面在飞机、轮船、汽车等精密机械设计中有着广泛的应用.在数值逼近、数值微积分、微分方程数值解等计算数学领域中，样条函数是重要的工具.

定义设上的一个剖分,如果函数满足条件
1.
2.在每个子区间上是次代数多项式.
则称是关于节点剖分的次样条函数.
若再给定在节点上的值,并使

则称是的次样条插值函数.

通常用的比较多的是的具有二阶连续导数的三次样条插值函数.
三次样条函数在每个子区间上可用四个系数唯一确定，因此在上有个待定参数,由于
$\left\{\begin{array}{l} \boldsymbol{s}\left(x_{i}-0\right)=\boldsymbol{s}\left(x_{i}+0\right) \\ \boldsymbol{s}^{\prime}\left(x_{i}-0\right)=\boldsymbol{s}^{\prime}\left(x_{i} + {0} \right) \\ \boldsymbol{s}^{\prime \prime}\left(x_{i}-0\right)=\boldsymbol{s}^{\prime \prime}\left(x_{i}+0\right), \quad \boldsymbol{i}=1,2, * *, n-1 \end{array}\right.$
给出个条件,加上插值条件共个,因此还需要两个边界条件.
分为三种情况:

一阶导数
二阶导数
周期样条函数条件

求三次样条插值函数有多种方法,这里给出其中一种,称三弯矩法.记,在每个子区间上是三次多项式,故在上为线性函数,可表示为

这里,对上式积分两次,并利用插值条件便可得到，再求导,最后把一阶导条件带进去得到

其中，
.
可以写成矩阵乘法的形式.
现讨论不同的边界条件：

一阶导数相等带入得到
二阶导数相等导出
其中,

这种三对角方程的系数矩阵元素,故它是严格对角占优的,利用追赶法就可求出.
以上讨论说明三次样条插值函数再条件的解是存在唯一的,上面求三次样条插值函数是一个常用的算法.下面给出在计算机上求的算法:
三次样条插值的三弯矩法：

输入初始数据及.
对计算
对计算.
用追赶法解方程组求出
求出,并根据要求计算在若干点上的值,然后打印结果.

定理设,是满足条件的三次样条插值函数，则有估计式

其中

B样条函数

之前导出的三次样条插值函数分别在每个子区间上有表达式,这在应用上和理论分析中不是很方便，而如果利用基样条表示往往更为方便.为此可根据定义给出的次样条函数概念，构造次样条函数空间的基函数.

设区间的剖分上的次样条函数全体组成的集合为,它是一个线性空间，并且它的维数是维,因为至多有个自由参数,由连续性条件知有个约束条件,的维数至多为.

定义截幂函数为

下面证明,中的个样条函数

在区间上线性无关,从而可得出维数为.

定义6 设是节点序列，令,函数关于的阶差商

称为第个次样条函数，简称样条函数。

利用差商的性质

其中.由此得到
定义中的个样条函数是线性无关的，所以组成的一组基。这样对任何在上关于剖分的次样条函数都可以表示成

这样求得问题就归结为求系数，实际上就是解线性方程组。例如，已知在点上得函数值,及处的导数值及,要求三次样条插值函数.
由上式可得方程组
$\left\{\begin{array}{l} \sum_{j=-3}^{n-1} a_{j} B_{j, 3}^{\prime}\left(x_{0}\right)=f_{0}^{\prime} \\ \sum_{j=-3}^{n-1} a_{j} B_{j, 3}\left(x_{i}\right)=f_{i}, \quad i=0,1, \cdots, n \\ \sum_{i=-3}^{n-1} a_{j} B_{j, 3}^{\prime}\left(x_{n}\right)=f_{n}^{\prime} \end{array}\right.$
求出这个系数，则得三次样条插值函数.

为了说明上式得系数矩阵特点并研究其解的存在唯一性，以及确定系数就必须了解样条函数的性质。下面给出样条函数的一些重要性质，其证明可根据样条函数定义及差商性质得到。
性质1 递推关系

性质2 正性与局部非零性

性质3 规范性

性质4 样条的导数
当；当(时除为节点外)

内积空间与正交多项式

定义7 设为有限或无限空间,是定义在上的非负函数，对都存在，对非负,若则，称为上的权函数。

定义8 设 , 为上的权函数，定义

称为函数与的内积。

由内积定义得,称为的加权欧式(Euclid)模或加权2-范数。当时就是2-范数。

定理4 设，则在上线性无关的充分必要条件是,其中其中表示内积。

定义若为上的权函数，若

则称与在上带权正交。若函数序列在上两两正交，即

则称为正交函数族。

由于序列是线性无关的，利用正交化方法可以构造出在上带权正交的多项式序列:

这样构造的正交多项式序列由以下性质：
(1)是最高项系数为1的次多项式
(2)任何次多项式均可表示为的线性组合
(3)当时且与任一次数小于的多项式正交。
正交多项式还有以下的重要性质：

定理5 在上带权的正交多项式序列,若最高项系数为1，它便是唯一的，且由以下的递推公式确定：

其中
$\begin{array}{c} \varphi_{0}(x)=1, \quad \varphi_{-1}(x)=0 \\ \alpha_{n}=\frac{\left(x \varphi_{n}, \varphi_{n}\right)}{\left(\varphi_{n}, \varphi_{n}\right)}, \quad n=0,1, \cdots, \quad \beta_{n}=\frac{\left(\varphi_{n}, \varphi_{n}\right)}{\left(\varphi_{n-1}, \varphi_{n-1}\right)} \\ n=1,2, \dots \quad(3,9) \end{array}$
这里

定理6 设是在上带权的正交多项式序列，则的个根都是单重实根，且都在区间内。

勒让德多项式

在区间上权函数的正交多项式称为勒让德多项式，其表达式为

的首项的系数为记

则是首项系数为的勒让德多项式。
勒让德多项式有许多重要的性质，特别有：

正交性
递推公式

其中.

切比雪夫多项式

在区间上权函数的正交多项式称为切比雪夫多项式，它可表示为

若令,则,这是的参数表示。利用三角公式可将展成的一个次多项式，故上式是的次多项式。下面给出的主要性质：

正交性

只要对积分做变换,利用三角公式即可得到上式结果。
递推公式
奇偶性
在内的个零点为,在上有个极点
的最高次幂的系数为

其它正交多项式

第二类切比雪夫多项式

在区间上权函数为的正交多项式称为第二类切比雪夫多项式，其表达式为

也可表示为,它有递推公式

其中.的正交性为

拉盖尔多项式

在区间上，权函数的正交多项式称为拉盖尔多项式，其表达式为

它的递推公式为

其中.正交性为

欸而米特多项式

在区间上，带权的正交多项式称为埃尔米特多项式，其表达式为

它的递推公式为

其中正交性为

函数的最佳平方逼近

最佳平方问题及其解法

设为上个线性无关函数,记,则对有

用逼近，使满足

其中是上的权函数，这就是最佳平方逼近问题。若由函数表给出，则最佳平方逼近问题是求使得

这里是点处的权。

定义11 设,若存在使

则称为在中的最佳平方逼近函数。

由定义知，求解等价于求多元函数

的极小值。由于是关于参数的二次函数，由多元函数极值必要条件得

于是有

这是关于的线性方程组，称为法方程。由于线性无关，由定理知上式得系数矩阵非奇异，故方程组有唯一解于是有

记,称为最佳平方逼近误差，简称平方误差，由于，故

作为特例，若取区间取.此时在上得最佳平方逼近多项式为

此时由于

对应得中元素.称为希尔伯特矩阵。
此时法方程为它的解为由此则得最佳平方逼近多项式.

由于是病态矩阵，在时直接解法方程误差很大，因此当时解法方程方法只适合的情形，对可用正交多项式作的基求解最佳平方逼近多项式。

用正交函数族做平方逼近

如使用勒让德多项式逼近得到的多项式和由为基得到的是一致的，但此处不用解病态法方程，且在所有系数为1 的n次多项式中，勒让德多项式在上与零的平方误差最小

曲线拟合的最小二乘法

当是由实验或观测得到的，其函数通常是由表格给出.若要求曲线逼近,通常由于观测有误差，因此不一定成立，当只要求就是曲线拟合的最小二乘问题。此时求的问题等价于求多元函数

的极小值，和之前一样可以得到法方程：

只是这里内积由积分换成和式，即
$\left\{\begin{array}{l} \left(\varphi_{j}, \varphi_{k}\right)=\sum_{i=0} ^{m} \varphi_{j}\left(x_{i}\right) \varphi_{k}\left(x_{i}\right) \rho_{i} \\ \left(f, \varphi_{k}\right)=\sum_{i=0}^{m} f_{i} \varphi_{k}\left(x_{i}\right) \rho_{i} \end{array}\right.$

周期函数逼近与快速傅里叶变换

周期函数的最佳平方逼近

当为周期函数时，用三角多项式逼近比用代数多项式更合适。
在离散点集上给出函数值可以证明，当时三角函数族为离散点集的正交函数族.于是给出此时最小二乘解的系数，
$\left\{\begin{array}{l} a_{k}=\frac{2}{N} \sum_{j=0}^{N-1} f\left(\frac{2 \pi j}{N}\right) \cos \frac{2 \pi k j}{N}, k=0,1, \cdots, n \\ b_{k}=\frac{2}{N} \sum_{j=0}^{N-1} f\left(\frac{2 \pi j}{N}\right) \sin \frac{2 \pi k j}{N}, k=1,2, \cdots, n \end{array}\right.$
特别的，当时，则有

此时就是三角插值多项式.
更一般情形，假设是以为周期的复值函数，已知，令则关于节点正交，从而由离散傅里叶正变换逆变换(Discrete Fourier Transformation, DFT)。

快速傅里叶变换(FFT)

上一节的傅里叶分析都可以归结为计算

需要次复数乘法，次复数加法。
FFT的思想是尽量减少式子中乘法次数，注意到是等分复平面单位圆上的一点，且所以只有个不同值，特别当时，只有个不同值，因此可把同一个对应的相加后再乘,这就能大量减少乘法次数。
下面介绍时的算法，把分别用二进制表示为
$\begin{array}{l} k=k_{m-1} 2^{m-1}+\dots+k_{1} 2^{1}+k_{0} 2^{\iota}=\left(k_{m-1} \dots k_{1} k_{0}\right) \\ j=j_{m-1} 2^{m-1}+\dots+j_{1} 2^{1}+j_{0} 2^{0}=\left(j_{m-1} \dots j_{1} j_{8}\right) \end{array}$
其中只能取0或1，相应地令

$\begin{aligned} W^{*} y &=W\left(k_{n-1} \cdots k_{1} k_{0}\right)\left(j_{m-1} \cdots j_{1} j_{0}\right) \\ &=W^{j} 0\left(k_{m-1} \cdots k_{1} k_{11}\right)+j_{1}\left(k_{m-2} \cdot k_{0} 0\right)+\cdots+j_{m-1}\left(k_{0} 0 \quad 0\right) \end{aligned}$
于是原式可分为层求和，即
$\begin{aligned} C(j) &=\sum_{k=0}^{K-1} B_{0}(k) W^{k j} \\ &=\sum_{k_{0}=0}^{1}\left\{\sum_{k_{1}=0}^{1} \dots\left(\sum_{k_{m-1}=0}^{1} B_{0}\left(k_{m-1} \dots k_{1} k_{0}\right) W^{j_{0}\left(k_{m-1} \cdots p_{0}\right)}\right)\right. \end{aligned}$

当时，它是非快速算法运算量地

最佳一致逼近

最佳一致逼近多项式

定义12 设称

为与的偏差：

定义13 设，若存在使

则称为在上的最佳一致逼近多项式。
定理 8 若若使

则称是关于的偏差点。
若，则称为正偏差点；
若,则称为负偏差点。

定理8(切比雪夫)是的最佳逼近多项式的充分必要条件是，在上至少有个轮流为正负的偏差点，即至少有个点使得

上述点称为切比雪夫交错点组。

推论1(唯一性定理) 设,则在中的最佳逼近多项式是唯一的。

推论2 若，则其最佳逼近多项式是的一个拉格朗日插值多项式

切比雪夫定理从理论上给出了求最佳一致逼近多项式方法，但当时计算是很困难的，Remes给出了一种逐次逼近的算法。
设的最佳逼近多项式为

又设它的个点为切比雪夫交错点组，最小偏差为由定理可得方程。

这是关于的个未知量的个方程(参考书本p54，这个方法也很复杂，很少用)

零偏差最小多项式及其应用

定理10 所有最高项系数为1的次多项式中，在区间上与零偏差最小的多项式是这里是最高项系数为1的切比雪夫多项式，

用切比雪夫多项式的零点作差值的插值多项式，余项具有极小化性质。

函数按切比雪夫多项式展开

由于切比雪夫多项式具有零偏差最小的性质，因此若将直接按展开并用它逼近，也可得到近似的最佳逼近多项式。由于是在上的带权正交函数族。

有理逼近

有理逼近与连分式

可以有效减少运算量

有理插值

设给定在个互异节点上的值,要求一个有理函数

使,实际上只有个独立参数。对有理插值，首先要研究解的存在唯一性问题，其次使如何构造插值函数，第三是误差估计问题。
构造反差商进行计算。

帕德逼近

定理11 设，则插值问题等价于在中求,使

推广上述多项式插值到有理函数插值，假定在上具有阶导数,则有
定义16 设如果有理函数

其中互质且满足条件

则称为函数在处的阶帕德逼近，记作
定理12 设是由上上式定义的，函数令

其中，则差值条件成立的充分必要条件是
定理13 设,则有理函数是的阶Pade逼近的充分必要条件是，多项式及的系数及满足下列线性方程组

其中。当时;时.

第二章.数值逼近