之前的概念只是线性代数中最基本的工具，而线性代数最核心的内容在这里才刚刚开始。我们知道，代数的对象是结构，而代数的核心则是变换。结构间的变换不光揭露了它们之间的本质关系，它还是了解结构本身深层属性的有力工具。变换本身没有什么，我们更关注的其实是变中的不变，不变量则又是变换的核心。
1. 线性映射
1.1 定义和基本性质
在抽象代数中，同态映射是深入理解代数结构的重要方法，它可以对其进行纵向分解，从更宏观的角度解析代数结构。之前我们把矩阵定义成一种映射，可见想要深入了解矩阵，就必须回到它的根源上去。线性空间首先是一个交换群，同态映射的定义可以照搬过来。另一方面，线性空间还有数乘运算，而且这才是它的核心所在，故同态映射还需保持数乘的形式不变。为此定义线性空间\(V,V'\)之间的映射如下，并称\(\mathscr{A}\)为从\(V\)到\(V'\)的线性映射。
\[\mathscr{A}(\alpha+\beta)=\mathscr{A}(\alpha)+\mathscr{A}(\beta),\quad\mathscr{A}(k\alpha)=k\mathscr{A}(\alpha)\tag{1}\]
当映射为双射的时候，它显然是个同构映射，也就是个可逆运算。而一般的线性映射，每个像的原像可能不止一个，顺着这个关系，我们依次要讨论的是：像的结构是怎样的？每个像的原像是什么？像和原像有什么关系？使用定义比较容易验证，线性映射的像\(\mathscr{A}(V)\)是一个线性空间，且有公式（2）成立。
\[\mathscr{A}(0)=0,\quad\mathscr{A}(-\alpha)=-\mathscr{A}(\alpha),\quad\mathscr{A}(k_1\alpha_1+\cdots+k_n\alpha_n)=k_1\mathscr{A}(\alpha_1)+\cdots+k_n\mathscr{A}(\alpha_n)\tag{2}\]
设所有从\(V\)到\(V'\)的线性映射组成集合\(\text{Hom}(V,V')\)，容易验证它在式（3）的运算下是一个线性空间。另外显然，复合线性映射\(V\overset{\mathscr{B}}{\mapsto} V'\overset{\mathscr{A}}{\mapsto} V''\)也是线性映射，且满足公式（4）。还可以证明，复合运算和加法运算满足分配率（5），但由于乘法不封闭，故不一定是环。
\[(\mathscr{A}+\mathscr{B})(\alpha)=\mathscr{A}(\alpha)+\mathscr{B}(\alpha),\quad(k\mathscr{A})(\alpha)=k(\mathscr{A}(\alpha))\tag{3}\]
\[k(\mathscr{AB})=(k\mathscr{A})\mathscr{B}=\mathscr{A}(k\mathscr{B})\tag{4}\]
\[(\mathscr{A}+\mathscr{B})\mathscr{C}=\mathscr{AC}+\mathscr{BC},\quad\mathscr{C}(\mathscr{A}+\mathscr{B})=\mathscr{CA}+\mathscr{CB}\tag{5}\]
1.2 核和商空间
仿照抽象代数，定义\(0\)的原像集合\(W\)为\(\mathscr{A}\)的核，记作\(\text{Ker}\,\mathscr{A}\)，容易验证它是\(V\)的子空间。继续考察任意像\(\alpha'\)的原像，设\(\mathscr{A}(\alpha)=\alpha'\)，易知\(\mathscr{A}(\alpha_0)=\alpha'\)的充要条件是\(\alpha-\alpha_0\in W\)，即\(\alpha_0\)在陪集\(\alpha+W\)中。这就在像和陪集之间建立了一一对应的关系，它可用如下映射表示。
\[\sigma:\:\alpha+W\mapsto\alpha',\quad\mathscr{A}(\alpha)=\alpha'\tag{6}\]
如果在陪集上定义如下运算（式（7）），可以证明该运算是良性的，且陪集集合形成一个线性空间，它叫商空间，记作\(V/W\)。容易验证\(\sigma\)是一个线性变换，故商空间和像同构（公式（8）），这样我们就彻底弄清了像与原像的关系。其实对任意一个子群\(W\)，都可以定义映射\(\alpha\mapsto(\alpha+W)\)，容易证明它就是以\(W\)为核的线性映射，这个映射也叫自然映射。以上正反的推导说明，线性空间\(V\)上的线性映射和它的子空间是等价的。
\[(\alpha+W)+(\beta+W)=(\alpha+\beta)+W,\quad k(\alpha+W)=k\alpha+W\tag{7}\]
\[V/W\cong \mathscr{A}(V),\quad W=\text{Ker}\,\mathscr{A}\tag{8}\]
下面继续讨论有限维空间中，核空间和商空间的关系。首先根据抽象代数的结论，空间元素的个数满足\(|V|=|W|·|V/W|\)，从而它们的维度满足公式（9）。设空间\(V\)的维度是\(n\)，核\(W\)的维度是\(r\)，且\(\alpha_1,\cdots,\alpha_r\)是它的一组基。现在来寻找\(V/W\)的一组基\(\beta_1+W,\cdots,\beta_{n-r}+W\)，首先\(\beta_1,\cdots,\beta_{n-r}\)当然是线性无关的，又由于它们都不在\(W\)中，故\(\alpha_1,\cdots,\alpha_r,\beta_1,\cdots,\beta_{n-r}\)正好组成\(V\)的一组基。
\[\dim{V}=\dim{W}+\dim(V/W)\tag{9}\]
商空间在三维空间中有较直观的形象，比如空间中的一维子空间就是任意过原点的直线\(l\)，它的陪集就是所有与\(l\)平行的直线，商空间自然就是这些平行线组成的线性空间。为了更直观地理解这个商空间，观察任意一个过原点且不与\(l\)平行的平面\(\pi\)，所有的平行线与\(\pi\)的唯一交点正好组成\(\pi\)，故二维空间\(\pi\)可以看做这个商空间的同构空间。再比如，当我们取某个过零点平面\(\pi\)作为子空间时，商空间就是所有与之平行的平面，与这个商空间同构的一维空间是任意一条过零点且不与\(\pi\)平行的直线\(l\)。
1.3 映射的矩阵
根据公式（2）的第3式可知，有限维线性空间的线性映射可以由\(V\)的一组基完全确定。具体来讲，选择\(V\)的一组基\(\alpha_1,\cdots,\alpha_n\)，再选择\(V'\)的一组基\(\beta_1,\cdots,\beta_m\)，线性映射可以表示成如下表达式。故每个线性映射在选定的基下都确定一个矩阵\(A\)，且反之对任意\(n\times m\)阶矩阵，式子（10）也定义了一个线性变换。所以在有限维空间中，可以把线性映射和矩阵等价看待。这与我们在矩阵乘法中的视角相一致，但要注意\(\mathscr{AB}\)的矩阵是\(BA\)（自行验证）。
\[\mathscr{A}(\alpha_1,\cdots,\alpha_n)=A_{n\times m}(\beta_1,\cdots,\beta_m)\tag{10}\]
对于同一个线性映射，选择\(V,V'\)的不同基，得到的矩阵也是不同的。设\((\alpha'_1,\cdots,\alpha'_n)=P(\alpha_1,\cdots,\alpha_n)\)和\((\beta'_1,\cdots,\beta'_m)=Q(\beta_1,\cdots,\beta_m)\)是另一组基，则有式（11）成立，即线性映射的矩阵变为\(PAQ^{-1}\)。反之对任意\(n,m\)阶的可逆方阵\(P,Q\)，\(B=PAQ^{-1}\)都是同一个线性映射在某组基下的矩阵。满足以上条件的\(A,B\)称为是相抵矩阵，显然相抵矩阵是一个等价类，每一个类对应\(\text{Hom}(V,V')\)中的一个元素。
\[\mathscr{A}(\alpha'_1,\cdots,\alpha'_n)=P\mathscr{A}(\alpha_1,\cdots,\alpha_n)=PA(\beta_1,\cdots,\beta_m)=PAQ^{-1}(\beta'_1,\cdots,\beta'_m)\tag{11}\]
由上一篇的结论知，总存在可逆方阵\(P,Q\)，使得\(PAQ^{-1}=\begin{bmatrix}I_r&0\\0&0\end{bmatrix}\)。在对应基下，线性映射有了最简单的形式，它也是最本质的形式，同构意义下\(n\)维到\(m\)维空间的线性映射仅有\(\min(n,m)\)个。另外，显然\(A\)的秩\(r\)正是\(\mathscr{A}(V)\)的维度，故\(r\)也称为\(\mathscr{A}\)的秩，同样记作\(\text{rank}\,\mathscr{A}\)。
如果把相抵看成是一种变换，我们更关注其中不变的量，比如矩阵的秩，并称之为变换的不变量。不变量是变换或等价类的重要属性，它也是考察变换的主要工具。反之，一旦矩阵的阶和秩确定，它们所属的相抵等价类也就确定了，这样的量可以唯一刻画变换，它被称为变换的全系不变量。关于不变量的讨论将贯穿今后的内容，因为这才是线性代数最精华的部分，全系不变量不仅可以给出变换的简单标准式，还可以对变换进行彻底地分类。
2. 线性变换
2.1 线性变换和相似矩阵
线性空间\(V\)到自身的线性映射也叫线性变换，它们组成的集合简记为\(\text{Hom}(V)\)，由于乘法在其中是封闭的，故它是一个环。恒等变换\(\mathscr{I}\)将每个元素变换到自身，显然它是环的单位元，故\(\text{Hom}(V)\)还是含幺环。像这种定义了乘法的线性空间，且乘法满足公式（4）（5）和存在单位元，我们一般称之为域\(K\)上的代数。代数是很常见的结构，比如一般的数域、\(n\)维方阵、一元多项式等等。
一一映射的线性变换是可逆映射，它的逆一般也记作\(\mathscr{A}^{-1}\)。又由于线性变换在乘法上的封闭性，可以很自然地定义它的幂运算（12），且它符合一般幂运算的性质，不再赘述。
\[\mathscr{A}^0=\mathscr{I},\quad \mathscr{A}^m=\mathscr{A}\mathscr{A}^{m-1},\quad \mathscr{A}^{-m}=(\mathscr{A}^{-1})^m\tag{12}\]
对\(n\)维空间\(V\)，线性变换\(\mathscr{A}\)同样可以对应到\(n\)阶方阵\(A\)，且变换可逆与矩阵可逆等价。前面已经看到，线性映射是矩阵的直观表示，我们同样可以用线性变换来研究方阵的性质。比如考察序列\(\mathscr{A},\mathscr{A}^2,\mathscr{A}^3,\cdots\)，显然有\(\mathscr{A}(V)\supseteq\mathscr{A}^2(V)\supseteq\cdots\)，由于秩不可能无限递减，故存在\(\mathscr{A}^k(V)=\mathscr{A}^{k+1}(V)\)。一旦出现这种情况，等式会一直成立下去，从而必定有式（13）成立。
\[\mathscr{A}^n(V)=\mathscr{A}^{n+1}(V)=\cdots,\quad \text{rank}\,A^n=\text{rank}\,A^{n+1}=\cdots\tag{13}\]
既然像和原像在同一空间，对它们选择相同一组基\(\alpha_1,\cdots,\alpha_n\)会比较方便，这也是线性变换不同于一般线性映射的根本原因。当取另一组基\((\alpha'_1,\cdots,\alpha'_n)=P(\alpha_1,\cdots,\alpha_n)\)时，易知线性变换的矩阵变为\(PAP^{-1}\)。更一般地，如果矩阵\(A,B\)满足式（14），则称\(A,B\)是相似矩阵，记作\(A\sim B\)。同样地，相似矩阵的等价类与\(\text{Hom}(V)\)的元素一一对应。
\[B=PAP^{-1},\quad |P|\ne 0\tag{14}\]
下一篇的主要任务将是研究相似矩阵的不变量和全系不变量，以得到相似标准型及相似矩阵的完全分类，这里先做一些准备工作。
2.2 不变子空间
由于线性变换的像和原像在同一空间，它们总是纠缠在一起，不能像线性映射那样变得简单。但我们还是希望将变换尽量分割开来，具体讲就是，将\(V\)分解为尽量小的子空间\(V_1\oplus V_2\oplus\cdots\oplus V_s\)，且线性变换的像\(\mathscr{A}(V_i)\)还在\(V_i\)中。这样在对应的基下，变换的矩阵是一个分块对角矩阵。进一步地，如果这样的分割唯一，我们还能对矩阵或变换进行分类。
为此我们先简单讨论一下这样的子空间\(W\)，如果它满足\(\mathscr{A}(W)\subseteq W\)，则称之为\(\mathscr{A}\)的不变子空间。显然\(V\)本身、变换的核\(\text{Ker}\,\mathscr{A}\)、变换的像\(\mathscr{A}(V)\)都是不变子空间。根据定义还可以证明，不变子空间的和、交都是不变子空间。另外，如果选取\(W\)的一组基并将其扩展成\(V\)的基，则显然变换的矩阵是如下分块下三角矩阵，其中\(r\)是\(W\)的维度。
\[\begin{bmatrix}X_{r\times r}&0\\Z&Y_{(n-r)\times(n-r)}\end{bmatrix}\tag{15}\]
如果在商空间\(V/W\)中定义映射\(\alpha+W\mapsto\mathscr{A}\alpha+W\)，首先由于\(W\)是不变子空间，易知这是一个良定义。再通过简单的验证可知这个映射是线性变换，它也被称为\(\mathscr{A}\)在\(V/W\)上的诱导变换。设\(W\)的基为\(\alpha_1,\cdots,\alpha_r\)，扩展为\(V\)的基为\(\alpha_1,\cdots,\alpha_n\)，则可以证明，诱导变换在基\(\alpha_{r+1}+W,\cdots,\alpha_n+W\)下的矩阵正好就是公式（15）中的\(Y\)。
其实\(\mathscr{A}(V),\text{Ker}\,\mathscr{A}\)为不变子空间这一结论是可以进行扩展的，这里介绍一个十分有用的结论。设线性变换\(\mathscr{B}\)满足\(\mathscr{AB}=\mathscr{BA}\)，\(V'\)是\(\mathscr{A}\)的不变子空间，容易验证\(\mathscr{B}^{-1}(V')\)和\(\mathscr{B}(V')\)都是\(\mathscr{A}\)的不变子空间。特别地，如果取\(\mathscr{B}\)为多项式\(f(\mathscr{A})\)，并分别取\(V'\)为\(V\)和\(0\)，则有\(f(\mathscr{A})(V)\)和\(\text{Ker}\,f(\mathscr{A})\)都是\(\mathscr{A}\)的不变子空间。
2.3 循环子空间
有一种不变子空间比较容易想到，那就是从某个向量\(\alpha\)开始“生成”的不变子空间。要使得它是不变子空间，则要求\(\alpha,\mathscr{A}(\alpha),\mathscr{A}^2(\alpha),\cdots\)都属于这个空间。在有限空间中，这个序列迟早会变得线性相关，设在\(\mathscr{A}^m(\alpha)\)处第一次出现线性相关，则它可以由\(\alpha,\cdots,\mathscr{A}^{m-1}(\alpha)\)线性表出（式（16）），而且显然后面所有的向量都可以由这前\(m\)个向量线性表出。
\[\mathscr{A}^m(\alpha)=a_{m-1}\mathscr{A}^{m-1}(\alpha)+\cdots+a_1\mathscr{A}(\alpha)+a_0\alpha\tag{16}\]
这\(m\)个向量的生成子空间被称为由\(\alpha\)生成的循环子空间，记做\(C_{\alpha}\)（公式（17））。显然\(C_{\alpha}\)的维数是\(m\)，且容易证明，它是包含\(\alpha\)的最小不变子空间。取这\(m\)个向量作为\(C_{\alpha}\)的基，容易验证\(\mathscr{A}|_{C_{\alpha}}\)在这组基下的矩阵为式（18）。
\[C_{\alpha}=\left<\alpha,\,\mathscr{A}(\alpha),\,\cdots,\,\mathscr{A}^{m-1}(\alpha)\right>\tag{17}\]
\[\begin{bmatrix}0&1&&\\&\ddots&\ddots&\\&&\ddots&1\\&&&0\\a_0&a_1&\cdots&a_{m-1}\end{bmatrix}\tag{18}\]
2.4 特征值和特征向量
最简单的循环子空间当然就是\(\alpha\)的生成子空间\(\left<\alpha\right>\)，这时有公式（19）左边的关系。将满足条件的\(\alpha\)称为\(\mathscr{A}\)的特征向量，对应的\(\lambda\)称为特征值。这个关系等价于（19）的右式，要使非零的\(\alpha\)存在，特征矩阵\(\lambda I-A\)的行列式必须为\(0\)。容易证明它的行列式有式（20）的格式，多项式\(\varphi(\lambda)\)称为\(A\)的特征多项式。
\[\mathscr{A}(\alpha)=\lambda\alpha\quad\Leftrightarrow\quad (\lambda\mathscr{I}-\mathscr{A})\alpha=0\tag{19}\]
\[|\lambda I-A|=\varphi(\lambda)=\lambda^n-(a_{11}+\cdots+a_{nn})\lambda^{n-1}+\cdots+(-1)^n|A|\tag{20}\]
• \(A,B\)为复方阵，求证\(AB,BA\)的特征多项式相同。
显然\(A\)的所有特征值就是\(\varphi(\lambda)=0\)的所有根，根\(\lambda_i\)的重数称为特征值的代数重数。另外容易证明，任意特征值\(\lambda_i\)的所有特征向量组成一个线性空间，称为特征子空间，记作\(V_{\lambda_i}\)，这个线性空间的维数称为特征值的几何重数。当\(\lambda_i\ne\lambda_j\)时，考虑\(0\)在\(V_{\lambda_i}+V_{\lambda_j}\)上的分解（式（21）左），设\(0=\alpha_i+\alpha_j\)，将\(\mathscr{A}\)作用于两边得式（21）右，联立两个等式知\(\alpha_i=\alpha_j=0\)。从而\(V_{\lambda_i}\cap V_{\lambda_j}=0\)，从而可知任意两个特征子空间都不相交。
\[0=\alpha_i+\alpha_j;\quad 0=\lambda_i\alpha_i+\lambda_j\alpha_j\tag{21}\]
这样就可以选取各特征子空间的基并将其扩展为空间的集，线性变换在这组基下的矩阵具有以下形式，其中\(n_1,\cdots,n_s\)为特征值的几何重数。通过这个式子可以看到几何重数不大于代数重数，当所有几何重数等于代数重数时，矩阵就成为对角矩阵，这样的矩阵也称为可对角化的。反之也显然，可对角化矩阵的几何重数与代数重数都相等，它们是等价的。
\[\begin{bmatrix}\lambda_1 I_{n_1}&\cdots&0&0\\0&\ddots&0&0\\0&\cdots&\lambda_s I_{n_s}&0\\B_1&\cdots&B_{s-1}&B_s\end{bmatrix}\tag{22}\]
你可能注意到，特征值、特征向量、特征多项式在某个线性变换下都是确定的，故它们是矩阵相似变换下的不变量。但它们并不一定是全系不变量。因为即使有了特征值，矩阵（22）还是不确定的。当然矩阵可对角化时，特征值完全确定了矩阵，这时特征值就是矩阵在相似变换下的全系不变量。另外要注意，特征值的个数与域\(K\)的选取有关，我们不妨先在代数闭域（对应数域中的复数域）中进行讨论，因为在代数闭域中所有多项式都能分解为一次多项式之积\((\lambda-\lambda_1^{m_1})\cdots(\lambda-\lambda_s^{m_s})\)。
在这种假设下，首先由公式（18）知道所有特征值（包括重根）的积为\((-1)^n|A|\)，而它们的和则为\(a_{11}+\cdots+a_{nn}\)，由于特征值是不变量，所以对角线之和也是不变量。另外，任何矩阵都有特征值和特征向量，随便选取一对便得到相似矩阵\(\begin{bmatrix}\lambda_1&0\\C&B\end{bmatrix}\)。继续对\(B\)进行类似的处理，就可以得到一个下三角相似矩阵，而对角线上正是所有特征值，且每个特征值的个数与其代数重数相同。