假设有矩阵 A m × n A_{m\times n} Am×n , 并且 m < n m<n m<n (未知数比方程多), 根据前面课程的结论, A x = 0 A\mathbf{x}=\mathbf{0} Ax=0 的解空间除了零向量还有一些别的向量, 也就是说除了零解还有别的解, 因为至少有 n − m n-m n−m 个自由变量.
什么情况下向量 x 1 , x 2 , … , x n \mathbf{x_1},\mathbf{x_2},\dots,\mathbf{x_n} x1,x2,…,xn 是线性无关的? 当且仅当不存在结果为 0 \mathbf{0} 0 的线性组合 c 1 x 1 + c 2 x 2 + ⋯ + c n x n c_1\mathbf{x_1}+c_2\mathbf{x_2}+\dots+c_n\mathbf{x_n} c1x1+c2x2+⋯+cnxn , 除非系数 c i c_i ci 全为0, x 1 , x 2 , … , x n \mathbf{x_1},\mathbf{x_2},\dots,\mathbf{x_n} x1,x2,…,xn 是线性无关的. 可以发现, 如果 x 1 , x 2 , … , x n \mathbf{x_1},\mathbf{x_2},\dots,\mathbf{x_n} x1,x2,…,xn 中包含零向量, 它们就不可能线性无关了.
在 R 2 R^2 R2 中选定两个不共线的向量, 它们线性无关. 如果选定三个向量, 那它们就一定线性相关了. 我们可以将三个向量组成一个 2 × 3 2\times 3 2×3 矩阵 A A A , 这三个向量线性无关相关意味着 A [ c 1 c 2 c 3 ] = 0 A\begin{bmatrix} c_1\\c_2\\c_3 \end{bmatrix}=\mathbf{0} A⎣⎡c1c2c3⎦⎤=0 只有零解, 这显然是错误的.
把这个结论推广到 n n n 维: 对于向量 v 1 , v 2 , … , v n \mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_n} v1,v2,…,vn 及由它们作为列向量组成的矩阵 A A A , 如果它们是线性无关的, 那么 A A A 的零空间将只有零向量, 其秩为 n n n , 不存在自由变量; 如果它们线性相关, 则意味着 A A A 的零空间还存在非零向量 c \mathbf{c} c , 其秩小于 n n n , 存在自由变量.
v 1 , v 2 , … , v n \mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_n} v1,v2,…,vn span a space means: 这个空间包含这些向量的所有线性组合. span可以叫做张成, 展成, 生成都行.
一个矩阵的列空间就是其列向量张成的空间. 这些列向量不一定线性无关. 我们更关心既能生成空间, 本身又是线性无关的向量组. 由此就带出了基的概念.
一个向量空间的基(basis)是此空间中的一系列向量 v 1 , v 2 , … , v d \mathbf{v_1},\mathbf{v_2},\dots,\mathbf{v_d} v1,v2,…,vd , 这些向量具有两种性质: 它们是线性无关的, 并且它们可以张成这个向量空间.
举个栗子, 零空间的基就是零向量. R 3 \R^3 R3 的一组基是 [ 1 0 0 ] , [ 0 1 0 ] , [ 0 0 1 ] \begin{bmatrix} 1\\0\\0 \end{bmatrix},\begin{bmatrix} 0\\1\\0 \end{bmatrix},\begin{bmatrix} 0\\0\\1 \end{bmatrix} ⎣⎡100⎦⎤,⎣⎡010⎦⎤,⎣⎡001⎦⎤ , 这被称为是标准基, 并且不止这一组基. 只要是 n × n n\times n n×n 的可逆矩阵, 其列向量都可以作为 R n \R^n Rn 的基.
考虑向量 [ 1 1 2 ] , [ 2 2 5 ] \begin{bmatrix} 1\\1\\2 \end{bmatrix},\begin{bmatrix} 2\\2\\5 \end{bmatrix} ⎣⎡112⎦⎤,⎣⎡225⎦⎤ , 其不足以作为 R 3 \R^3 R3 的基, 但是它们仍然可以张成一个空间, R 3 \R^3 R3 中的一个平面.
对于给定空间, 其所有的基都满足此性质: 基向量的个数相等. 这个个数被称作空间的维数(dimension).
举个栗子, A = [ 1 2 3 1 1 1 2 1 1 2 3 1 ] A=\begin{bmatrix} 1&2&3&1\\1&1&2&1\\1&2&3&1 \end{bmatrix} A=⎣⎡111212323111⎦⎤ , 其列向量可以张成一个空间吗? 当然可以, 这就是 C ( A ) C(A) C(A) 的定义. 其列向量是一组基吗? 当然不是, 他们线性相关. A A A 的秩, A A A 的主列的数目, 就等于 C ( A ) C(A) C(A) 的维数. 我们没有说秩是 A A A 的维数, 而是 C ( A ) C(A) C(A) 的维数. 同理, 我们也不会说 C ( A ) C(A) C(A) 的秩是多少, 矩阵才有秩. A A A 的一组基就是第一列和第二列, 第二三列也不错.
考虑 A A A 的零空间 N ( A ) N(A) N(A) 的维数. 零空间实际上在告诉我们, 如何组合列向量才可以得到零向量. 零向量的维数就是自由变量的数目, 也就是 n − r n-r n−r .