矩阵与线性代数

矩阵是线性代数的研究对象，矩阵（Matrix）是一个按照长方阵列排列的复数或实数集合 ，最早来自于方程组的系数及常数所构成的方阵。这一概念由19世纪英国数学家凯利首先提出。抽象理解矩阵，是理解高等数学的基础。
一般来说，矩阵指代下面两种含义之一，当然，这两种含义并非割裂开的，正是由向量的运动（线性变换）组成了空间。
1、 向量空间
2、 线性变换

一、 向量空间。
向量空间直观来看，是由向量组成的空间。就这个问题，需要构造向量及描述向量、构造空间及描述空间、以及空间中所适用的运动（线性变化会放在下一部分详细介绍）。
1、向量：一组有序的数字，称为向量。数字的数目，是向量的维数。一个数字是一维向量，二个数字是二维向量，三个数字就是三维向量等。就向量而言，有以下的特点：
1）、向量性质：有方向和大小两个性质。此处只介绍大小：模。向量a 的模可以写成|a |，对于二维向量a=(x,y),|a|=√ (x^2 +y^2 )。由此引出单位向量：长度为一个单位（即模为1）的向量，与a同向，且长度为单位1的向量，叫做a方向上的单位向量。
2）、向量运算：这里介绍三种：加法、数乘、点乘。
加法：放在坐标图中，是在第一个向量的尾巴上，延伸第二个向量；用公式表明如下：设(a_1 ) =(x_1,y_1)，(a_2 ) =(x_2,y_2)，则(a_1+a_2 ) =(x_1+x_2,y_1+y_2)。向量加法有交换律和结合律。
数乘：设有一实数λ（就以实数为例），则λ(a_1 )=(λx_1,λy_1)。
点乘：对于(a_1 ) =(x_1,y_1)，(a_2 ) =(x_2,y_2)，点乘就是

3）、向量关系：主要有线性相关和线性无关这两种。对于向量v_1,v_2,⋯v_n，若存在一组不全为0的c_i，使得c_1 v_1+c_2 v_2+⋯+c_n v_n=0，则称这一组向量线性相关，否则，线性无关。对于线性无关的向量，还有一种特殊情况就是正交。向量正交是指：x^T y=0
2、 空间：
定义：设V是一个非空集合，F是一个数域。
（1）如果能定义一种V的元素间的运算，叫做加法：对于V中任意两个元素a,b,都有V中唯一的元素c与之对应；c称为a与b的和，记为c=a+b。
（2）另外，还能定义一种数域F的数与集合V的元素间的运算，叫做数乘：对于数域F中任一数k及集合V中任一元素a，都有V中唯一的元素d与之对应；d称为k与a的数积，记为d=ka。
（3）并且以上两种运算具有如下性质：
a) α+β=β+α，对任意α，β∈V.
b) α+(β+γ)=(α+β)+γ，对任意α，β，γ∈V.
c) 存在一个元素0∈V，对一切α∈V有α+0=α，元素0称为V的零元.
d) 对任一α∈V，都存在β∈V使α+β=0，β称为α的负元素，记为-α.
e) 对F中单位元1，有1α=α(α∈V).
f) 对任意k，l∈F，α∈V有(kl)α=k(lα).
g) 对任意k，l∈F，α∈V有(k+l)α=kα+lα.
h) 对任意k∈F，α，β∈V有k(α+β)=kα+kβ，
则称V为数域F上的一个线性空间。
关于“空间”，可以抽象理解为有4个特征：
a) 一般有无穷多个点组成（有特例：仅包含0这一个点，也是一个空间。）
b) 这些点之间存在相对关系:可以通过线性变化构造关系
c) 向量可以在空间中定义长度、角度
d) 这个空间可以容纳运动，这里我们所说的运动是从一个点到另一个点的移动（变换），而不是微积分意义上的“连续”性的运动
以上摘自：https://blog.csdn.net/myan/article/details/647511

而线性代数中常见的矩阵又和向量和空间有什么关系呢？举例说明

(a_11…,a_m1)是一个列向量，(a_11…,a_1n)是一个行向量。A表示了向量的组合。很明显，A不是一个空间。但是从A，借助线性变化，可以构造4个子空间，并且可以引申出一些常用的概念。
四个基本子空间：
a) 列空间：由A中所有的列向量，通过线性变化后形成的空间，维数为rank A，是m维空间中的子空间；
b) 行空间：由A中所有的行向量，通过线性变化后形成的空间，维数为rank A，是n维空间中的子空间；
c) 零空间：对于A中所有的列向量，通过数乘后相加，得到零向量。其中数乘的系数就是零空间, 是n维空间中的子空间，维数是n-r；
d) 左零空间：对于A中所有的行向量，通过数乘后相加，得到零向量。其中数乘的系数就是左零空间，是m维空间中的子空间，维数是m-r；

由向量和矩阵引出空间的时候，带出了一系列的概念：
1、秩:秩是矩阵的一个性质，一个矩阵A的列秩是 A的线性无关的纵列的极大数目。类似地，行秩是 A的线性无关的横行的极大数目。矩阵的列秩和行秩总是相等的，表示为rank A。m× n矩阵的秩最大为 m和 n中的较小者。秩不仅描述了A，还描述了A的四个子空间的维数。当矩阵不是满秩的时候，说明存在线性相关（自由）的向量，而自由向量的数目就是零空间中的非自由变量的数目。线性无关是建立“秩”这个概念的一个基础。只是，当把向量放到矩阵中时，如果矩阵中的向量是线性相关的，则得到秩的方式是把向量变短。所以，矩阵总是有秩的，最小是1。
2、基向量：基向量或者基，这已经在说空间了。除了极少数特殊的空间之外，大部分空间都包含无数个向量。同时，由于线性空间可以由向量通过加法和数乘运算生成。在此基础上，考虑用一组线性无关的向量通过加法和数乘运算生成空间，这一组向量就是基向量，同时，基向量的维数与空间的维数是一样的。
3、正交:正交可以指向量和向量之间，向量和空间之间以及空间与空间之间。向量与空间正交是指向量与空间中的每一个向量都正交，空间与空间正交是指来自这两个空间的向量正交。四个基本子空间的正交关系：行空间与零空间都在n维空间中，由数乘后得到零向量，可知行空间与零空间正交。同理，列空间与左零空间是m维空间中的正交子空间。
4、投影：投影最初是为了解决Ax=b这个方程组无解的情况。若该方程组无解，意味着b不在A的生成空间里，假设b在A上的投影p是最接近b的向量，则Ax ̆=p。设A是n维空间中的子空间，a是n维空间中的一向量，p是a在A上的投影。投影用公式表达为：A^T (Ax ̆-b)=0，可以很容易得到x ̆这个近似解。由公式可见，投影暗含了一个正交关系，引出了投影矩阵（投影矩阵已经是用矩阵表示线性变化了）。由于

可知

可以将不在A生成空间中的向量变成其投影向量，故称之为投影矩阵。

应用：梳理了矩阵的一系列理论体系，除了在学术上、计算机和理工科上的应用之外，我认为线性代数现在比较常用的地方是特征与指标，以及看待问题的框架。因为现在描述客户，或者业务的指标已经很多了，我们同样也有很多的客户。这其实就是一个矩阵，所以可以尝试去看这个矩阵的四个子空间有什么含义，在这个指标体系下的秩、基、正交、投影又有什么含义，相信会有不同的发现。（本文未涉及方阵，方阵体系下的行列式和特征值下一篇文章会详细介绍。）