数值分析

1. 数学基础

泰勒公式

If and if exists on the open interval , then for any points and in the closed interval ,

for some point between and

收敛阶数 order of convergence

描述一个序列的收敛速度
如果 ,那么序列的收敛阶数为

使用迭代公式 来计算 ,求
\begin{align*} |x_{k+1} - \sqrt{a}| & = |\frac{x_k(x_k^2 + 3a)}{3x_k^2+a} - \sqrt{a} | \\ & = |\frac{x_k^3 + 3a x^k - 3x_k\sqrt{a} + a\sqrt{a} }{3x_k^2+a}| \\ & = |\frac{(x_k - \sqrt{a})^3}{3x_k^2+a}| \\ & \approx \frac{1}{4a}|(x_k - \sqrt{a})|^3 , (x_k \to \sqrt{a}) \end{align*}
收敛阶数为3

定理:对于迭代公式,如果在附近收敛,并且
那么迭代公式的收敛阶数为

2. 计算机算法

计算机使用二进制表示数字,由于有限的数字位数,无法精确地表示每一个数字,可能需要进行舍入

绝对误差:
相对误差

两个非常接近的数字相减会带来较大地误差,通过分式上下同乘两数相加来避免

一个数值计算过程是不稳定的,如果在这个过程中一个阶段的误差被下一个阶段放大

3. 解线性方程组

解,先将化成两个简单的上三角、下三角矩阵
解,得到
解,得到原方程的解

Doolittle分解

令,依次更新的行,的列

LDU分解

对Doolittle分解的提取对角线元素,分解成

Crout分解

令,依次更新的列,的行

Cholesky分解


需是实对称正定矩阵

高斯消元法 with Scaled Row Pivoting


取每一行绝对值最大的数
取最大的行作为第次消元的pivot row,为第次更新后的值,前面已选为pivot row的行不参与

范数

矩阵的范数
范数: 绝对值行求和取最大
1范数: 绝对值列求和取最大
2范数: 的谱半径(最大特征值)开平方

用迭代法解方程



The equation suggests an iterative process




如果,则迭代法收敛

Richardson:
Modified Richardson:
Jacobi:
Gauss-Seidel:
SOR(successive over relaxation):

Consider a system

discuss its convergence when using Jacobi and G-S methods.
Solution: decomposing the coefficient matrix such that
Jacobi:

解特征方程得到特征值
, Jacobi方法收敛
Gauss-Seidel:

解特征方程得到特征值
, Gauss-Seidel方法不收敛

4. 函数逼近

多项式插值

给定一组点,找到一个插值多项式使得
误差项

拉格朗日插值法



牛顿插值法





等间距:
迎风差:


厄米特插值法

插值函数在给定点的函数值、导数都需与给定值相等


2n+2个条件,可以确定一个2n+1阶多项式

构造基函数
\begin{cases} \alpha_j(x_k) = \delta_{jk}, \alpha'_j(x_k) = 0 \\ \beta_j(x_k) = 0, \beta'_j(x_k) = \delta_{jk} \end{cases} \ \ \delta_{jk} = \begin{cases} 0, j \ne k \\ 1, j = k \end{cases} \ (j, k = 0, 1, \cdots, n)

最小二乘逼近

\left(\begin{matrix} \sum_{i=1}^{m} x_i^0 & \sum_{i=1}^{m} x_i^1 & \cdots & \sum_{i=1}^{m} x_i^n \\ \sum_{i=1}^{m} x_i^1 & \sum_{i=1}^{m} x_i^2 & \cdots & \sum_{i=1}^{m} x_i^{n+1} \\ \vdots & \vdots & \ddots & \vdots \\ \sum_{i=1}^{m} x_i^n & \sum_{i=1}^{m} x_i^{n+1} & \cdots & \sum_{i=1}^{m} x_i^{2n} \\ \end{matrix}\right) \left(\begin{matrix} a_0 \\ a_1 \\ \vdots \\ a_n \end{matrix}\right) = \left(\begin{matrix} \sum_{i=1}^{m} y_i x_i^0 \\ \sum_{i=1}^{m} y_i x_i^1 \\ \vdots \\ \sum_{i=1}^{m} y_i x_i^n \\ \end{matrix}\right)

函数逼近
\left(\begin{matrix} \int_{a}^{b} x^0 dx & \int_{a}^{b} x^1 dx & \cdots & \int_{a}^{b} x^n dx \\ \int_{a}^{b} x^1 dx & \int_{a}^{b} x^2 dx & \cdots & \int_{a}^{b} x^{n+1} dx \\ \vdots & \vdots & \ddots & \vdots \\ \int_{a}^{b} x^n dx & \int_{a}^{b} x^{n+1} dx & \cdots & \int_{a}^{b} x^{2n} dx \\ \end{matrix}\right) \left(\begin{matrix} a_0 \\ a_1 \\ \vdots \\ a_n \end{matrix}\right) = \left(\begin{matrix} \int_{a}^{b} f(x) x^0 dx \\ \int_{a}^{b} f(x) x^1 dx \\ \vdots \\ \int_{a}^{b} f(x) x^n dx \\ \end{matrix}\right)

正交多项式

如果
则称在权函数下正交

勒让德正交多项式

区间为

切比雪夫正交多项式

区间为

5. 数值微分与积分

数值微分


Richardson外推法

反复将带入泰勒展开式、组合,消去低阶项

数值积分

Newton-Cotes

使用拉格朗日插值多项式近似函数,对多项式积分

Trapezoid

使用一次函数近似,计算梯形面积

Composite Trapezoid

将区间n等分,, 计算n个梯形面积

Simpson


Composite Simpson

n等分区间,

Gaussian Quadrature

寻找最合适的点和系数,使得近似的精度最高
个系数,个点,可以确定精度最高阶多项式

选择的个点为阶正交多项式的零点
选择正交多项式要根据权重函数,区间,若区间不是,则需要作变量代换化成

当权重函数,选择切比雪夫正交多项式

6. 非线性方程求根

Bisection Method

, then


收敛阶数:

Newton Method





收敛阶数:

Secant Method

使用近似



收敛阶数:

7. 常微分方程的数值解法

在给定曲线上一个点的前提下,解一阶常微分方程
不直接求原函数,而是求某个点的近似函数值

局部截断误差:,则称该方法是阶的

Euler’s Method


Trapezoidal Method

implicit Euler formula

第二步采用迭代的方法

Modified Euler Method


不用迭代

Runge-Kutta Methods




上面的方式是单步(single-step methods)的,因为只依赖

Adams methods

你可能感兴趣的:(数值分析)