线性代数复习

（因为要小测了，所以先从后面开始写，之后再补前面的）

运算相关

逆和转置

1. ${(A^T)}^{-1}={(A^{-1})}^T$
2. $(AB{)}^T=B^T{A}^T$
3. $(AB{)}^{-1}=B^{-1}{A}^{-1}$
4. $A^{-1}=\frac{adjA}{\det (A)}$

行列式

5. $\det (AB)=\det (A)\det (B)$
6. $\det (A^T)=\det (A)$
7. $\det (A^{-1})\det (A)=1$
8. $\det (adjA)={\det (A)}^{n-1}$

矩阵的迹

7. $tr(A+B)=tr(A)+tr(B)$
8. $tr(AB)=tr(BA)$

矩阵乘法

9. $c_{i,j}={\Sigma }_{k=1}^n{a}_{i,k}{b}_{k,j}$

矩阵的积

10. 内积：每个位置对应相乘得到的值之和
11. 向量外积：$x^{T}y$
    矩阵外积就是矩阵乘法

几个重要的等价命题

($A$是$n\times n$的方阵矩阵)

1. 矩阵$A$是非奇异的（可逆）
2. $\det (A)\ne 0$
3. $Ax=0$只有平凡解$x=0$
4. 矩阵$A$列向量线性无关
5. $rank(A)=n$

向量空间

是一个向量的集合，在这个集合内能够满足向量的加法运算和数乘运算（运算的封闭性）

欧氏空间

$n$维的欧氏空间$R^n$定义为所有$n$维向量

当然也有形如$R^{m\times n}$表示所有$m\times n$实数矩阵

$Z$空间表示只有$\{0\}$向量的向量空间
$P_n$表示所有次数小于$n$的多项式的集合

列空间

矩阵$A$的列空间就是$A$的列向量所有的线性组合
同理，矩阵$A$的行空间就是$A$的行向量所有的线性组合

子空间

一个向量空间的子集就是这个向量空间的子空间

张成

若干个向量的线性组合的集合
其中有个定理：
若$v_1,v_2,\dots ,v_n$的是向量空间$V$中的元素, 则向量$v_1,v_2,\dots ,v_n$的张成$Span(v_1,v_2,\dots ,v_n)$是向量空间$V$的一个子空间

张集

$\{v_1,v_2,\dots ,v_n\}$张成向量空间$V$自身.
其中$v_i\in V$

$n$个$n$维列向量能张成向量空间$R_n$的充要条件是这$n$个列向量线性无关

线性无关

如果$c_1{v}_1+c_2{v}_2+\cdots +c_n{v}_n=0$ 推出来标量$c_1,c_2,\dots ,c_n$皆为0，
则向量$v_1,v_2,\dots ,v_n$是线性无关的

维数

若向量空间$V$的一组基含有$n$个向量，
则称向量空间的维数是$n$.
记做$\dim (V)=n$

基

向量$v_1,v_2,\dots ,v_n\in V$满足：

1. $\dim (V)=n$
2. $v_1,v_2,\dots ,v_n$线性无关

则$v_1,v_2,\dots ,v_n$是向量空间$V$的基

基变换

若存在一组基$[v_1,v_2,\dots ,v_n]$
现在要将在这组基下的坐标用另外一组基$[u_1,u_2,\dots ,u_n]$表示出来
则有$x=Uc=Vd$
$\Rightarrow$ $d=V^{-1}Uc$
称$V^{-1}U$为转移矩阵

转移矩阵

从$U$到$I$的转移矩阵$S$为$[u_1\dots u_n]$

零空间

$Ax=0$的解构成的一个向量空间，记作$N(A)$

简化-行阶梯型矩阵 （rref）

最后要简化成形如
R = [ 1 2 0 3 0 0 0 1 2 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 ] R=\left[ \begin{matrix} 1 & 2 & 0 & 3 & 0\\ 0 & 0 & 1 & 2 & 0\\ 0 & 0 & 0 & 0 & 1\\ 0 & 0 & 0 & 0 & 0\\ 0 & 0 & 0 & 0 & 0 \end{matrix} \right] R= ​10000​20000​01000​32000​00100​ ​
的矩阵
我们称第1、3、5列为主列，第2、4列为自由列

如此，我们称这个矩阵的秩为3，记作$rank(R)=r=3$

矩阵的秩（解方程$Ax=b$）

解方程$Ax=b$，设其中一个特解是$x^{\ast }$
则方程的解集为$\{x\}=x^{\ast }+N(A)=\{x+\alpha |\alpha \in N(A)\}$

$Ax=0$的基础解系有$n-r$个特解，这些特解构成$A$的零空间
接着再找特解$x^{\ast }$
利用增广矩阵$[A|b]\Rightarrow [R|d]$
则$A{x}^{\ast }=b$的解等价于$R{x}^{\ast }=d$
即可解得

$Ax=0$解的个数（$m\times n$的矩阵）

$m<n$时

无穷个解

$m=n$时

$rank(A)<n$时，等价$m<n$
否则，只有$x=0$一个解

$m>n$时

$rank(A)<n$时，等价$m<n$
$rank(A)=n$时，等价$m=n$

总结，只和$rank(A)$和$n$的大小有关

$Ax=b$解的个数（$m\times n$的矩阵）

$rank(A)=m=n$时

唯一解

$rank(A)=m<n$时

无穷个解

$rank(A)=n<m$时

$d=0$，唯一解
$d\ne 0$，无解

$rank(A)<n$且$rank(A)<m$时

$d=0$，无穷解
$d\ne 0$，无解

另外，有重要结论：行秩等于列秩

线性变换

函数是线性的，满足以下两个条件：

1. 可加性：$f(a+b)=f(a)+f(b)$
2. 齐次性：$af(x)=f(ax)$

表示矩阵

将线性映射$L$表示为矩阵乘法的形式
设$L$是$R^n$→$R^m$的线性变换, 且$E=[v_1\dots v_n]$是$R^n$的有序基,
$F=[w_1\dots w_m]$是$R^m$的有序基, $A$是相应于有序基$E$和$F$的表示矩阵
则$$A=F^{-1}[L(v_1)\dots L(v_n)]$$

也可以用增广矩阵求解
将$A=[F|L(v_1)\dots L(v_n)]$用高斯若当法变为$[I|A]$

相似矩阵

若存在可逆矩阵$S$使得$B=S^{-1}AS$，则称矩阵$A$和矩阵$B$相似

那么若已知$[u_1\dots u_n]$的表示矩阵$A$，要求$[v_1\dots v_n]$的表示矩阵$B$，则可以通过相似矩阵来求$B=S^{-1}AS$，其中$S$为$U$到$V$的转移矩阵

矩阵的迹

定义$tr(A)={\Sigma }_{i=1}^n{a}_{i,i}$

正交

正交向量

若两个向量外积为$0$，则称两个向量正交，记为$x\perp y$

正交补

正交和正交补共同张成完整的向量空间，$X$的正交补记作$X^{\perp }$

向量投影

向量$b$到向量$a$的投影$p=a\frac{a^{T}b}{a^{T}a}$

投影矩阵

当$Ax=b$无解时，找到最小二乘解$x$
投影矩阵$P=A(A^{T}A{)}^{-1}{A}^T$

性质：

1. $P$是对称矩阵，即$P=P^T$
2. $P^k=P$，对于$k\in R$

此时，最小二乘解$x=(A^{T}A{)}^{-1}{A}^{T}b$

正交矩阵

定义正交矩阵$Q$，满足$Q^{T}Q=I$
那么这个正交矩阵的投影矩阵可以表示为$P=Q{Q}^T$
同时，对于$Qx=b$这个方程，最小二乘解也可以表示为$x=Q^{T}b$

那么我们考虑将$Ax=b$变为$Qx=b$
对于$A$中的每个列向量，进行如下操作：
第一步：

得到所有的$u_i$

第二步：

得到所有的$q_i$，再把其合成一个矩阵$Q$
（其中$||x||$表示$x$的长度）

第三步：
再令 R = [ q 1 T a 1 q 1 T a 2 ⋯ q 1 T a n 0 q 2 T a 2 ⋯ q 2 T a n 0 0 ⋱ ⋮ 0 0 0 q n T a n ] R= \left[ \begin{matrix} q_1^Ta_1 & q_1^Ta_2 & \cdots & q_1^Ta_n\\ 0 & q_2^Ta_2 & \cdots & q_2^Ta_n\\ 0 & 0 & \ddots & \vdots\\ 0 & 0 & 0 & q_n^Ta_n\\ \end{matrix} \right] R= ​q1T​a1​000​q1T​a2​q2T​a2​00​⋯⋯⋱0​q1T​an​q2T​an​⋮qnT​an​​ ​

这样我们就把$A$分解成了$QR$（$A=QR$）
就可以用回代法求解$Rx=Q^{T}b$

特征值和特征向量

求解$Ax=\lambda x$

特征值

特征值$\lambda$满足$\det (A-\lambda I)=0$
特征值有如下性质：

1. ${\lambda }_1{\lambda }_2\cdots {\lambda }_n=\det (A)$
2. ${\lambda }_1+{\lambda }_2+\cdots +{\lambda }_n=tr(A)$
3. $A^{k}x={\lambda }^{k}x$，对于$k\in R$

特征向量

$(A-\lambda I)x=0$的解$x$称为特征向量

矩阵的对角化

对于矩阵$A$，将其对角化为$X\Lambda X^{-1}$

其中 Λ = [ λ 1 0 0 0 0 λ 2 0 0 0 0 ⋱ 0 0 0 0 λ n ] X = [ x 1 x 2 ⋯ x n ] \Lambda=\left[ \begin{matrix} \lambda_1 & 0 & 0& 0\\ 0 & \lambda_2 & 0 & 0\\ 0 & 0 & \ddots & 0\\ 0 & 0 & 0 & \lambda_n\\ \end{matrix} \right] \\ X=[x_1x_2\cdots x_n] Λ= ​λ1​000​0λ2​00​00⋱0​000λn​​ ​X=[x1​x2​⋯xn​]
值得注意的是要一一对应

相似矩阵有相同的特征值

先写到这