线性相关性、基、维数

首先在定义这几个名词之前，我们要知道这几个词：线性相关（linear independence）、基（basis）、维数（dimension）是争对什么量的，比如我们只会说一组向量（a bunch of vectors）线性无关或线性相关，不会说矩阵线性无关，矩阵我们只说秩，行列式等，我们会说某组向量可以作为某空间的基，不会说某个矩阵是基，另外这里讨论的维数并不是矩阵的维数，而是空间的维数。

线性相关性

假设有向量x1，x2…xn，这些向量可进行任意组合，如果有除了c1=0，c2=0，…，cn=0之外的常数向量c使得c1x1+ c2x2+…+ cnxn=0，那么x1，x2…xn就是相关的（dependent）。定义很好理解，现在我们来看两个例子加深对定义的理解，第一个例子，如果向量组（a bunch of vectors）中有零向量，那么这组向量就一定是线性相关的。我们可以认为零向量可用任何向量乘以0得到，也就是说零向量与任意向量都存在倍数关系，因此一定是相关的，也可以想象一下，我们可以用任何非零常数乘以零向量加上零乘以其他非零向量可以得到零向量，所以从定义的角度也可得到结果。第二个例子，平面内的任意三个向量一定是相关的。假设平面内有向量，我们构造一个矩阵A，它的第一列是v1，第二列是v2，第三列是v3，即A=   ，从这里我们看出来不管v1，v2，v3是多少，这个矩阵一定有自由变量存在，也就是说一定有自由列存在，那么零空间中一定存在非零向量，也就是说这三列一定是相关的，通过这个例子我们可以看到，可以将向量与矩阵或矩阵的零空间N(A)联系起来，从而直接判断向量的相关性，如果N(A)中存在非零向量，那么各列相关，如果只有零向量，则无关，这也是判断向量相关与否的一个方法。另外顺便提一下，把n个向量作为列放入矩阵后，如果这些向量是线性无关的，那么所有的列都是主列，因此共有n个主元，所以矩阵的秩为n，如果线性相关，则秩小于n，因为自由列的本质就是它们是其他列的线性组合。

生成空间（span aspace）

用一组向量（a bunch of vectors）生成一个空间(span a space)，实际上我们前面几篇已经不知不觉的见过这种情况：矩阵里面有一些列向量，这些列向量的所有线性组合生成一个列空间。所以向量生成的空间表示：这个空间包含了这些向量的所有线性组合，且这个空间是最小的。

基

我们知道矩阵的各列生成列空间，但这些列可能有关，也可能无关，其实我们最关心的是这样的一组向量：既能生成空间，本身又是无关的，这就是基的两大特点，它包含的向量个数刚好不多不少。拿三维举例，我们立马都能想到的一组基就是，但这不是唯一的一组，  也可作为基，顺便插一句，如何检验它是否为基？前面已经说过，可以将它们当成矩阵的列，然后通过消元和简化，看是否会得到自由变量，或者是否所有列都是主元列，从而判断它们是否无关以及是否对任意的b均有解，其实这里还有另外一种方法判断向量组是否为空间的基：在Rⁿ中，如果有n个向量构成了基，那么以这n个向量为列的n*n矩阵必须是可逆的。我们知道一个空间的基可能有很多个，拿R³空间举例，某可逆3*3矩阵，它的列都是R³的基，但不管有多少组基，所有这些基都有共同点，那就是其中向量的个数都是一定的，如果是R³空间，那么基向量的个数就是3，如果是Rⁿ空间，那么基向量的个数就是n，这个结论对所有空间都是成立的，这个n告诉了我们这个空间的大小，也就是生成此空间需要的基向量个数，n称为空间的维数（dimension）。

还是拿上面的基   为例，简单分析一下为什么Rⁿ的基向量个数必须是n。

假设现在已有两个向量，那么它是否可作为R³的基呢？将其作为矩阵的列并且消元后可得到 ，2个主元，0个自由变量，所以两列是无关的，但是最后一行为全0，也就是只有当b3等于0时方程才有解，也就是这两个向量的线性组合只能表示b3=0的b向量，无法包括R³中的所有向量，所以如果向量数小于n，则不能表示整个Rⁿ，因为消元后下面总是会出现零行。那么假设现在多一个向量，有4个向量 ，将其作为矩阵的列并且消元后可得到   ，3个主元，1个自由变量，因此这4个列一定是线性相关的，所以如果向量数大于n，则这些向量之间一定相关，因为一定会出现自由变量。

矩阵的列空间C(A)和零空间N(A)维数各是多少？

我们已经知道矩阵的各个列可生成矩阵的列空间，但是注意它们不一定是列空间的基，这里给出一个很重要的结论，A矩阵的秩rank（A），是主列的数目，同时它也是列空间的维数。这里很多概念容易弄错，注意不是矩阵的维数，而是列空间的维数，同时这里也没有说是空间的秩，而说的是矩阵的秩，矩阵才有秩。所以如果我们知道了空间的维数，只要找到了那么多无关的向量，那么它们就可作为空间的基。同样对于零空间，如果已知秩rank(A)，那么n-r是自由变量的个数，同时它也是零空间的维数。

最后总结一下这4个概念。

线性无关（linear independence）：着眼于线性组合不为0的情况

生成（span）空间：着眼于向量所有的线性组合

基（basis）：是一组无关的向量，并能生成空间

空间维数（dimension）：表示基向量的个数