【数值计算方法】Gauss消元法及其Python/C实现

  Gauss消元法，也称为高斯消元法或高斯-约当消元法，是一种用于求解线性方程组的数值方法。它是由德国数学家卡尔·弗里德里希·高斯在18世纪末发展起来的。

  Gauss消元法的基本思想是通过一系列的行变换将线性方程组转化为一个上三角形的方程组，然后通过回代过程求解方程组的解。

一、基础理论

1. 线性方程组

  线性方程组是由一组线性方程组成的方程集合。每个线性方程都可以表示为形如 “a₁x₁ + a₂x₂ + … + aₙxₙ = b” 的形式，其中 a₁, a₂, …, aₙ 是已知的常数，x₁, x₂, …, xₙ 是未知的变量，b 是已知的常数。方程中的每一项都是变量的一次幂与常数的乘积，且没有乘法运算符连接变量。
  线性方程组可以包含多个线性方程，这些方程共同描述了一组变量的关系。解线性方程组就是找到满足所有方程的变量值，使得所有方程都成立。解线性方程组的目标是找到一组变量的值，使得方程组中的每个方程都得到满足。
  线性方程组的解可以有多个或者没有解。如果存在至少一个满足所有方程的变量值组合，那么方程组有解。如果不存在这样的变量值组合，那么方程组无解。
  解线性方程组的方法包括高斯消元法、矩阵法、克莱姆法则等。这些方法可以用于求解不同规模和形式的线性方程组。线性方程组在数学、物理、工程等领域中广泛应用，用于描述和解决各种实际问题。

2. Gauss消元法的详细步骤

1. 将线性方程组写成增广矩阵的形式，即将系数矩阵和常数向量合并在一起。
2. 选取第一个未知数的系数不为零的方程作为主元方程，如果没有这样的方程，则交换两行或者两列，使得主元系数不为零。
3. 将主元方程的系数除以主元系数，使主元系数变为1。
4. 用主元方程的系数乘以其他方程的主元系数，并将得到的结果从相应的方程中减去，以消除其他方程中的主元系数。
5. 重复步骤2到步骤4，直到所有的未知数的系数都变为上三角形矩阵的形式。
6. 进行回代过程，从最后一行开始，依次求解每个未知数的值。回代的过程是通过将已知的未知数代入到方程中，求解出未知数的值。

3. 注意事项

&emps;&emps;Gauss消元法的优点是可以精确地求解线性方程组，适用于任意个数的未知数和方程，在数值计算和科学工程领域有广泛的应用，然而，它也有一些限制和注意事项：

1. 如果方程组的系数矩阵是奇异的（即行列式为零），则无法使用Gauss消元法求解。

2. 在进行消元过程中，需要注意避免除以零的情况，如果遇到主元系数为零的情况，需要进行行交换或列交换。

3. 如果方程组的系数矩阵很大，消元的计算量会很大，可能需要较长的计算时间。

二、具体计算过程

1. 用Gauss 消元法求A的LU分解，并由此求解方程组 Ax =b

$$A=[[1,2,1,-2],[2,5,3,-2],[-2,-2,3,5],[1,3,2,3]]$$

$$b=[2,8,4,9]$$

a. 将A进行LU分解。

1. 选取第一个未知数的系数不为零的方程作为主元方程，即第1行第1列元素不为零，因此选择第1行为主元方程。

2. 将主元方程的系数除以主元系数，即第1行的所有元素除以1，得到：

1   2   1  -2
2   5   3  -2
-2 -2   3   5
1   3   2   3

3. 用主元方程的系数乘以其他方程的主元系数，并将得到的结果从相应的方程中减去，以消除其他方程中的主元系数。对第2行、第3行和第4行进行消元操作：

1   2   1  -2
0   1   1   2
0   4   4   1
0   1   1   5

4. 选择第二个未知数的系数不为零的方程作为主元方程，即第2行第2列元素不为零，因此选择第2行为主元方程。

5. 将主元方程的系数除以主元系数，即第2行的所有元素除以1，得到：

1   2   1  -2
0   1   1   2
0   4   4   1
0   1   1   5

6. 用主元方程的系数乘以其他方程的主元系数，并将得到的结果从相应的方程中减去，以消除其他方程中的主元系数。对第3行和第4行进行消元操作：

1   2   1  -2
0   1   1   2
0   0   0  -7
0   0   0   3

现在，我们得到了上三角形矩阵U和下三角形矩阵L：

U = 
1   2   1  -2
0   1   1   2
0   0   0  -7
0   0   0   3

L = 
1   0   0   0
2   1   0   0
-2  -4  1   0
1   -1  -1  1

b. 使用LU分解求解方程组Ax=b

1. 首先，根据LU分解，我们可以得到Ly=b，其中y是一个新的未知向量。

1   0   0   0   |  y1  =  2
2   1   0   0   |  y2  =  8
-2  -4  1   0   |  y3  =  4
1   -1  -1  1   |  y4  =  9

通过前向代入法，我们可以求解出y的值：

y1 = 2
y2 = 8 - 2y1 = 8 - 2(2) = 4
y3 = 4 - 2y1 + 4y2 = 4 - 2(2) + 4(4) = 18
y4 = 9 - y1 + y2 - y3 = 9 - 2 + 4 - 18 = -7

2. 然后，根据LU分解，我们可以得到Ux=y，其中x是我们要求解的未知向量。

1   2   1  -2   |  x1  =  y1
0   1   1   2   |  x2  =  y2
0   0   0  -7   |  x3  =  y3
0   0   0   3   |  x4  =  y4

通过回代法，我们可以求解出x的值：

x1 = y1 = 2
x2 = y2 - x1 = 4 - 2 = 2
x3 = y3 / (-7) = 18 / (-7) ≈ -2.571
x4 = y4 / 3 = (-7) / 3 ≈ -2.333

  因此，方程组Ax=b的解为x = [2, 2, -2.571, -2.333]。

三、代码实现

1. Python代码实现

import numpy as np

A = np.array([[1, 2, 1, -2],
              [2, 5, 3, -2],
              [-2, -2, 3, 5],
              [1, 3, 2, 3]])

b = np.array([2, 8, 4, 9])

def gauss_elimination(A, b):
    n = len(A)
    for i in range(n-1):
        for j in range(i+1, n):
            factor = A[j, i] / A[i, i]
            A[j, i:] -= factor * A[i, i:]
            b[j] -= factor * b[i]
    return A, b

def back_substitution(U, y):
    n = len(U)
    x = np.zeros(n)
    x[-1] = y[-1] / U[-1, -1]
    for i in range(n-2, -1, -1):
        x[i] = (y[i] - np.dot(U[i, i+1:], x[i+1:])) / U[i, i]
    return x

def solve_linear_equations(A, b):
    U, y = gauss_elimination(A, b)
    x = back_substitution(U, y)
    return x

x = solve_linear_equations(A, b)
print("Solution x:", x)

2. C语言代码实现