【矩阵分析】期末复习急救包

写在前面

​ 这里是AI20级学弱DoubleS,因为还有两天就要考菊粉了，然鹅还没怎么学（实则是想好好学可惜英语水平不足）因此有了这个小PDF来整理一下。本文叫做菊粉急救包，如果你还在上矩阵分析这门课或是认真听过老师讲课的同学，那么建议右上角关闭此文来节省时间，好好听课，都来得及。本文建议矩阵分析结课后再看，因为救急(还有两天考试），所以只节选了自己认为比较重要的结论，其中很多定理都只给了个证明思路，甚至很多都没有证明过程，因此作用仅为应对考试。我们这一届按老师说法，第三章不考，即使涉及第三章知识点也可以用其他章方法解决。除了本文之外，备考还需要做好课后习题，看下PPT！学好菊粉，对未来的AI学习有很大的帮助，线代是起点，菊粉yyds！最后，大家以后还要了解矩阵分析的知识，请翻阅 $MatrixAnalysis$.本文图片来自知乎，CSDN，PPT

第零章

主要的矩阵类型

• 对称矩阵 $A^T=A$

• 斜对称矩阵 $A^T=-A$

• 正交的(orthogonal) $A^{T}A=I$

• 酉矩阵 $AA\ast =I$

• Hermitian矩阵$A=A^{\ast }$

• 斜Hermitian矩阵$A=-A^{\ast }A$

• 正规矩阵 $A{A}^{\ast }=A^{\ast }A$

一点点小知识

• 谱$\sigma (A)$为A所有特征值$\lambda$的集合

  • 谱半径$\rho (A)=max\{|\lambda |:\lambda \in \sigma (A)\}$

• 奇异：线代中的可逆，当且仅当$0\in \sigma (A)$.

• $trA{A}^{\ast }=0\leftrightarrow A=0$(A的所有元素平方和为0)

• $tr(AB)=tr(BA)$(利用$\sum$可交换性)

• $<x,y>=y^{\ast }x$ Euclid内积 纯量积

• $||x|{|}_2=<x,x{>}^{\frac{1}{2}}=(x^{\ast }x{)}^{\frac{1}{2}}$ Euclid范数 $||\alpha x|{|}_2=|\alpha |||x|{|}_2$

• 若$<x,y>=0$，则x,y正交

• 施密特标准正交化：（与线代描述不同，正交化同时标准化）：

  $y_1=x_1$

  $z_1=\frac{y_1}{||y_1|{|}_2}$

  $y_k=x_k-<x_k,z_{k-1}>z_{k-1}-<x_k,z_{k-2}>z_{k-2}-\dots -<x_k,z_1>z_1$

  $z_k=\frac{y_k}{||y_k|{|}_2}$ 最后所有$z_1,\dots ,z_k$为标准正交向量组

第零章再看看特殊矩阵，其他全靠上学期啃老本（克拉默啥的）…

第一章 特征值，特征向量，相似性

相似性与特征值啃老本

比较有用or需要注意的定理（因为有些定理太难了…）

• 定理1.3.12:设$A,B\in M_n$是可对角化的.那么A与B可交换，当且仅当它们是可同时对角化的.

  • 证明可将A，B转化为对角矩阵，再利用对角矩阵可交换性即可.

• 定理1.3.22:假设$A,B\in M_{m,n}(m\le n)$那么$BA$的$n$个特征值是$AB$的$m$个特征值加上$n-m$个0，也就是说，$p_{BA}(t)=t^{n-m}{p}_{AB}(t)$.如果$m=n$且$A$与$B$中至少有一个非奇异，那么$AB$与$BA$相似.

• 定理1.3.31$(Mirsky)$:存在一个$A\in M_n$，其特征值为${\lambda }_1,\dots ,{\lambda }_n$，而主对角元素为$d_1,\dots ,d_n$的充分必要条件是${\sum }_{i=1}^n{\lambda }_i={\sum }_{i=1}^n{d}_i$.

  • 利用$trA=E_1(A)=S_1(A)$证明.

• 定理1.4.3 证明：算术重数不小于几何重数

  • 证明方法利用证明定理1.2.18：$rank(A-\lambda I)\ge n-k$.

    A与其k重特征值$\lambda$,令$B=A-\lambda I$，所以0为B的k重特征值，从而$p_B^{(k)}(0)\ne 0$（1.2.17），但$p_B^{(k)}(0)=k!(-1{)}^{n-k}{E}_{n-k}(B)$（1.2.10），所以$E_{n-k}(B)\ne 0$（B的n-k阶主子式之和),因此B的某个n-k阶主子式不为0，从而$rank(B)=rank(A-\lambda I)\ge n-k$（rank的定义),得证

• 定义1.4.6:左特征向量 $y^{\ast }A=\lambda y^{\ast }$

  • 结论1.4.6a:假设$Ax=\lambda x$,如果$x^{\ast }A=\mu x^{\ast }$,那么$\lambda =\mu$.

  • x为A右特征向量，y为左特征向量，若对应特征值不同，那么$y^{\ast }x=0$.(双正交定理)

  • 定理1.4.12:x为A特征向量，y为A左特征向量

    (a)如果$\lambda$的代数重数为1，那么$y^{\ast }x\ne 0$.

    (b)如果$\lambda$的几何重数为1，那么它的代数重数为1，当且仅当$y^{\ast }x\ne 0$.

第二章 酉相似与酉等价

我觉得比较重要的…

酉矩阵与QR分解

• 定理2.1.2:每个标准正交的向量组都是线性无关的.
  • 先假设其线性相关找矛盾.
• 定义2.1.3:酉矩阵U:$U^{\ast }U=I$,如果$U^{T}U=I$，那么U是实正交矩阵.
• 定理2.1.4:性质串：
  • U是酉矩阵
  • U是非奇异的，且$U^{\ast }=U^{-1}$
  • $U^{\ast }U=I$
  • $U^{\ast }$是酉矩阵
  • U的列、行分别标准正交
  • $||x|{|}_2=||Ux|{|}_2$，x与Ux有相同Euclid范数
• Euclid空间的封闭有界子集是紧集（闭且有界），因此酉矩阵的集合也是紧的
• 定理2.1.14 QR分解 $A_{m,n}$（利用$U(y,x)$）（实际操作可参考施密特正交化过程）
  • 如果$n\ge m$，则存在一个具有标准正交列向量的$Q\in M_{m,n}$以及一个具有非负主对角元素的上三角矩阵$R\in M_{m,n}$，使得$A=QR$.
  • 若$rankA=m$,则Q和R就唯一确定，且R主对角元素全为正数.
  • 若m=n，则Q为酉矩阵.
  • 存在Q为酉矩阵，R为非负对角元素的上三角矩阵，使得$A=QR$.
  • 若A是实的，则Q与R也是实的.

酉相似

$A=UB{U}^{\ast }$

酉对角化：与一个对角矩阵酉相似.

A,B酉相似，${\sum }_{i,j=1}^{n,m}|b_{ij}{|}^2={\sum }_{i,j=1}^{n,m}|a_{ij}{|}^2$,即$tr{B}^{\ast }B=tr{A}^{\ast }A$.

酉三角化，Schur化

• 定理2.3.1(Schur型；Schur三角化)：设$A\in M_n$有特征值${\lambda }_1$,${\lambda }_2$,…,${\lambda }_n$,它们以任意指定次序排列，设$Ax={\lambda }_{1}x$的单位向量

  • 存在酉矩阵$U=[x{u}_2\dots u_n]\in M_n$,使得$U^{\ast }AU=T=[t_{ij}]$是以$t_{ii}={\lambda }_i$,为对角元素的上三角矩阵.
  • 如果A仅有实特征值，那么x为实的，且存在实正交矩阵$Q=[x{q}_2\dots q_n]$使得$Q^{T}AQ=T=[t_{ij}]$是以$t_{ii}={\lambda }_i$为对角元素的上三角矩阵.

• 推论

  • $trT={\sum }_{i=1}^n{t}_{ii}$，$detT={\prod }_{i=1}^n{t}_{ii}$
  • 2.4.3 $Cayley-Hamilton$定理：设$p_A(t)$是A的特征多项式，那么$p_A(A)=0$.
    • 重要应用1：$A^k$可写成$I,A,A^2,\dots ,A^{n-1}$的线性组合
    • 重要应用2：求逆矩阵（用伟哥的话来说就是必考）
      
  • 2.4.4 关于线性矩阵的$Sylvester$定理
    • 引理：如果$AX-XB=0$，那么任何多项式$g(t)$而言，都有$g(A)X-Xg(B)=0$.
    • $Sylvester$定理:$AX-XB=0$有唯一解，当且仅当$\sigma (A)\cap \sigma (B)=\varnothing$,此时$X=0$.
  • 每一个矩阵都可以分块对角化，每个方阵都是几乎可以对角化的

• 2.4.8 交换族以及同时三角化

  • A,B可交换，那么存在一个A的特征值序列${\alpha }_1,\dots ,{\alpha }_n$,B的特征值序列${\beta }_1,\dots ,{\beta }_n$,使得A+B特征值为${\alpha }_1+{\beta }_1,\dots ,{\alpha }_n+{\beta }_n$,且AB特征值为${\alpha }_1{\beta }_1,\dots ,{\alpha }_n{\beta }_n$.特别地，$\sigma (A+B)\subseteq \sigma (A)+\sigma (B)$,$\sigma (AB)\subseteq \sigma (A)\sigma (B)$.（仅充分）
  • 谱半径对于可交换矩阵有次加性，次积性.
  • A,B可交换,对于所有${\alpha }_i\ne {\beta }_j$，那么A+B非奇异.

• 2.4.10 rank-one摄动的特征值

  • A有特征值${\lambda }_1,\dots ，{\lambda }_n$,有$Ax={\lambda }_{1}x$,则对任意v，$A+x{v}^{\ast }$的特征值是${\lambda }_1+v^{\ast }x,{\lambda }_2,\dots ,{\lambda }_n$.

正规矩阵

$A{A}^{\ast }=A^{\ast }A$

上三角矩阵若正规，必然为对角矩阵

• 一系列等价命题

  • A是正规矩阵
  • A可以酉对角化：$A=U\Lambda U^{\ast }$ 谱分解
  • ${\sum }_{i,j=1}^n|a_{ij}{|}^2={\sum }_{i=1}^n|{\lambda }_i{|}^2$
  • A有n个标准正交的特征向量

• Hermite矩阵谱定理：设A是Hermite矩阵，特征值${\lambda }_1,{\lambda }_2,\dots ,{\lambda }_n$,$\Lambda$为特征值的对角矩阵

  • ${\lambda }_1,{\lambda }_2,\dots ,{\lambda }_n$为实数
  • A可以酉对角化
  • 存在酉矩阵，使得$A=U\Lambda U^{\ast }$

• 定理2.5.16(Fuglede-Putnam):

  • A，B正规，$AX=XB$,当且仅当$A^{\ast }X=X{B}^{\ast }$

    (利用正规矩阵谱分解证明)

酉等价与奇异值分解（应该不会详细考，但AI未来很有用，所以就写的详细）

任何矩阵都可以通过酉等价来对角化

奇异值：$A^{\ast }A$非负特征值的算术平方根

${\sigma }_1,{\sigma }_2,\dots {\sigma }_r$按照递减顺序排列

CS分解

Typora里面太难打了，直接上ppt（只有两天就考试了orz，应该记住形式就行）

第二章终于结束了，好累，喝口水继续第四章

第四章 Hermite矩阵，对称矩阵以及相合

Hermite矩阵：$A=A^{\ast }$

斜Hermite矩阵：$A=-A^{\ast }$

• Hermite矩阵的一些性质：

一些重要定理

• 定理4.1.2(Toeplitz分解)：每个A可写成$A=H+iK$,均为Hermite矩阵或者A=H+S，H为Hermite矩阵，S为斜Hermite矩阵

• 定理4.1.3 A为Hermite矩阵

  • $x^{\ast }Ax$对所有x都是实的（直接取共轭证明）
  • A的特征值是实的（$\lambda =\lambda x^{\ast }x=x^{\ast }Ax$,$x{x}^{\ast }=1$)
  • $S^{\ast }AS$是Hermite的（直接取*证明）

• 定理4.1.4 Hermite矩阵判定（符合一条就是）：

  • $x^{\ast }Ax$是实的
  • A是正规的且只有实特征值
  • $S^{\ast }AS$是Hermite矩阵

• 定理4.1.8 $x^{\ast }Ax$是正实数的充要条件为A是Hermite矩阵且所有特征值为正

• 4.2 Rayleigh

Hermite矩阵特征值的不等式

• 定理4.3.1 Weyl 特征值同样按照从小到大排列

  $${\lambda }_i(A+B)\le {\lambda }_{i+j}(A)+{\lambda }_{n-j}(B)\iff Ax={\lambda }_{i+j}(A)x,Bx={\lambda }_{n-j}(B)x,(A+B)x={\lambda }_i(A+B)x$$

  $${\lambda }_{i-j+1}(A)+{\lambda }_j(B)\le {\lambda }_i(A+B)\iff Ax={\lambda }_{i-j+1}(A)x,Bx={\lambda }_j(B)x,(A+B)x={\lambda }_i(A+B)x$$

  • 有超级多推论，可以说Weyl是万恶之源，当赌狗赌他一手不重点考

  • 交错定理：A是Hermite矩阵，z为非零向量

    • ${\lambda }_i(A)\le {\lambda }_i(A+z{z}^{\ast })\le {\lambda }_{i+1}(A)$
    • ${\lambda }_n(A)\le {\lambda }_n(A+z{z}^{\ast })$

  • 单调定理：A，B是Hermite矩阵，并假设B半正定(若正定，严格小于)

    • ${\lambda }_i(A)\le {\lambda }_i(A+B)$，等式成立条件：B是奇异的，有非零向量x，使得$Ax={\lambda }_i(A)x,Bx=0,(A+B)x={\lambda }_i(A+B)x$
    • ${\lambda }_i(A)+{\lambda }_1(B)\le {\lambda }_i(A+B)\le {\lambda }_i(A)+{\lambda }_n(B)$，等式成立条件存在非零向量x是公共特征向量

  • Cauchy:B是Hermite矩阵，设$A=\left[\begin{array}{cc}B& y\\ y^{\ast }& a\end{array}\right]$,那么

    • ${\lambda }_1(A)\le {\lambda }_1(B)\le {\lambda }_2(A)\le \dots \le {\lambda }_n(A)\le {\lambda }_n(B)\le {\lambda }_{n+1}A$
    • 等号成立条件：存在非零向量z，为A，B对应特征值的公共特征向量，且$y\ast z=0$
    • 可以利用Cauchy与已知的特征值交错顺序反构造$A=\left[\begin{array}{cc}\Lambda & y\\ y^T& a\end{array}\right]$

  • Poincare分离定理：A是Hermite矩阵，$u_1,\dots ,u_m$是标准正交，设$B=[u_i^{\ast }A{u}_j{]}_{i,j=1}^m$

    • ${\lambda }_i(A)\le {\lambda }_i(B)\le {\lambda }_{i+n-m}(A)$

酉相合与复对称矩阵

Youla是真的看不懂给跪了

• 定义4.4.14：如果$A{A}^{\ast }=\overline{A^{\ast }A}$,则$A$是共轭正规的

  • $A=\left[\begin{array}{cc}{A}_{11}& A_{12}\\ 0& A_{22}\end{array}\right]$,若A共轭正规，当且仅当$A_{11},A_{12}$共轭正规（方阵）

• 定理4.4.24：每一个A都与一个复对称矩阵相似（蕴含每一个复矩阵相似于它的转置，且可以写成两个 复对称矩阵的乘积）$A=BC$，B，C是对称矩阵且可以非奇异

• 定理4.4.27：A是对称的，A可对角化的充要条件为它可以复正交对角化

相合以及对角化

• 定义4.5.4：存在非奇异矩阵S（以下均为等价关系）

  • $B=SA{S}^{\ast }$,那么B与A是*相合的
  • $B=SA{S}^T$,那么B与A是相合的

• 定义4.5.6：A是Hermite矩阵 A的惯性指数(inertia)有序三数组

  • $i(A)=(i_{+}(A),i_{-}(A),i_0(A))$
  • $rankA=i_{+}(A)+i_{-}(A)$

• 定理4.5.7：每一个Hermite矩阵都与它的惯性矩阵*相合

  • 惯性矩阵：$I(A)=I_{i_{+}(A)}\oplus I_{i_{-}(A)}\oplus 0_{i_0(A)}$

• 定理4.5.8(Sylvester惯性定律)（传递性，都*相合惯性矩阵）

  Herimite矩阵A，B，*相合，当且仅当它们正特征值个数与负特征值个数都相同

• 定理4.5.9（Ostrowski）

  A是Hermite矩阵，S是非奇异矩阵，存在正实数${\theta }_k\in [{\sigma }_n^2,{\sigma }_1^2]$,$\sigma$是S的奇异值，使得
  $${\lambda }_k(SA{S}^{\ast })={\theta }_k{\lambda }_k(A)$$
  利用Weyl（4.3.2a,4.3.2b）以及奇异值定义证明

• 定理4.5.12

  A，B是对称矩阵，存在非奇异S，使得$A=SB{S}^T$的充要条件是$rankA=rankB$

• 定义4.5.16

  矩阵A被称为可共轭对角化的，如果存在非奇异S，以及一个对角矩阵$\Lambda$，使得$A=S\Lambda {\overline{S}}^{-1}$

共轭相似以及共轭三角化

• 定义4.6.1：A，B是共轭相似的，如果存在非奇异S，使得$A=SB{\overline{S}}^{-1}$

• 定义4.6.2：A是可共轭三角化的，如果存在非奇异S，使得$S^{-1}A\overline{S}$是上三角的

  • 可共轭对角化，可共轭酉三角化，可共轭酉对角化（酉相合）同理

• 定理4.6.3：下列命题等价

  • A可共轭三角化
  • A可共轭酉三角化
  • $A\overline{A}$的每个特征值都是非负实数

• 定理4.6.4：矩阵A是可以共轭酉三角化的，当且仅当它是对称的

• 定义4.6.5：$A\overline{x}=\lambda x$，x为共轭特征向量，$\lambda$为共轭特征值

• 定理4.6.11：A是可共轭三角化的，当且仅当$A\overline{A}$可以相似对角化，$A\overline{A}$每个特征值都是非负实数，且$rankA=rankA\overline{A}$.

第五章 向量的范数(norm)和矩阵的范数

该章为计算题集中营，重点关注

范数定义与内积定义

• 定义5.1.1：函数$||\bullet ||$称为范数，也称向量范数

  • $||x||\ge 0$ 非负性
  • $||x||=0$当且仅当x=0 正性（1a）
  • $||cx||=|c|||x||$ 齐性
  • $||x+y||\le ||x||+||y||$ 三角不等式（次加性）
  • 不满足(1a)而满足其他性质的函数$||\bullet ||$称为半范数，非零向量的半范数可能为0

• 引理5.1.2 半向量范数有$|\parallel x\parallel -\parallel y\parallel |\le \parallel x-y\parallel$

• 定义5.1.3$<\bullet ,\bullet >$内积

  • $<x,x>\ge 0$ 非负性
  • $<x,x>=0$当且仅当$x=0$ 正性（1a）
  • $<x+y,z>=<x,z>+<y,z>$ 加性
  • $<cx,y>=c<x,y>$ 齐性
  • $<x,y>=\overline{<y,x>}$ Hermite性质

• 定理5.1.4（Cauchy-Schwarz不等式）
  $$|<x,y>{|}^2\le <x,x><y,y>$$
  等号成立条件是x,y线性相关

• 推论5.1.7:内积定义的范数$\parallel x\parallel =<x,x{>}^{\frac{1}{2}}$

范数的例子与内积的例子

• Euclid范数（$l_2$范数）

  $\parallel x{\parallel }_2=(|x_1{|}^2+\dots +|x_n{|}^2{)}^{\frac{1}{2}}$

  它由Euclid内积导出的

  它是酉不变的,$\parallel Ux{\parallel }_2=\parallel x{\parallel }_2$

• 和范数（$l_1$范数）（也是矩阵范数）

  $\parallel x{\parallel }_1=|x_1|+\dots +|x_n|$

  又称曼哈顿范数，也称出租车范数

• 最大值范数($l_{\infty }$范数)（纯量倍数是矩阵范数）

  $\parallel x{\parallel }_{\infty }=max\{|x_1|,\dots ,|x_n|\}$

• $l_p$范数

  $\parallel x{\parallel }_p=(|x_1{|}^p+\dots +|x_n{|}^p{)}^{\frac{1}{p}},p\ge 1$

• k范数（最大元素的绝对值非增顺序排列，取前k个）

  $\parallel x{\parallel }_{[k]}=|x_{i_1}|+\dots +|x_{i_k}|$

• $\parallel \bullet {\parallel }_S$范数，S是$M_{m,n}$列满秩$m\ge n$

  $\parallel x{\parallel }_S=\parallel Sx\parallel$

• Frobenius内积与Frobenius范数（也是矩阵范数）

  • Frobenius内积：$<A,B{>}_F=tr{B}^{\ast }A$
  • Frobenius范数：$\parallel A{\parallel }_2=(tr{A}^{\ast }A{)}^{\frac{1}{2}}$

• 无限维向量空间的情况（连续函数）

  

范数的代数性质

从给定的范数出发，可以用若干种方法构造出新的范数

• 定理5.3.1

  $f(x)=\parallel [\parallel x{\parallel }_{{\alpha }_1},\parallel x{\parallel }_{{\alpha }_2},\dots ,\parallel x{\parallel }_{{\alpha }_m}{]}^T\parallel$ 所定义的函数$f(x)$是一个范数

范数的解析性质

• 定义5.4.1

  向量序列$\{x^{(k)}\}$关于$\parallel \bullet \parallel$收敛，当且仅当${\lim }_{k\to \infty }\parallel x^{(k)}-x\parallel =0$

  如果$\{x^{(k)}\}$关于$\parallel \bullet \parallel$收敛于x，我们写成关于$\parallel \bullet \parallel$有${\lim }_{k\to \infty }{x}^{(k)}=x$

• 定理5.4.4 准范数

  $f_1.f_2$是V上实值函数，设$\mathrm{B}=\{x^{(1)},\dots ,x^{(n)}\}$是V的基向量，又对所有$z=[z_1\dots z_n{]}^T$有$x(z)=z_1{x}^{(1)}+\dots +z_n{x}^{(n)}$,假设$f_1,f_2$是

  • 正的：$f_i(x)\ge 0$,又$f_i(x)=0$当且仅当$x=0$
  • 齐性的：$f_i(\alpha x)=|\alpha |f_i(x)$
  • 连续的：$f_i(x(z))$关于Euclid范数是连续的

  那么存在有限正常数$C_m,C_n$使得$C_m{f}_1(x)\le f_2(x)\le C_n{f}_1(x)$

• 定义5.4.7 两个给定的范数是等价的

  如果只要一个向量序列$\{x^{(k)}\}$关于其中一个范数收敛于一个向量x，那么它就关于另一个范数也收敛于x

• 定义5.4.12 对偶范数

  设$f(\bullet )$是准范数，函数$f^D(y)=ma{x}_{f(x)=1}Re<x,y>=ma{x}_{f(x)=1}Re{y}^{\ast }x$称为$f$的对偶范数

  另一种形式$f^D(y)=ma{x}_{f(x)=1}|y^{\ast }x|=ma{x}_{x\ne 0}\frac{|y^{\ast }x|}{f(x)}$

  • $|y^{\ast }x|\le f(x)f^D(y)$
  • $|y^{\ast }x|\le f^D(x)f(y)$

• 定义5.4.18
  • 单调的：$|x|\le |y|$蕴含$\parallel x\parallel \le \parallel y\parallel$
  • 绝对的：$\parallel x\parallel =\parallel |x|\parallel$

范数的对偶以及几何性质

我实在看不懂

随便写点概念，看形式

• 球的定义：$B_{\parallel \bullet \parallel }(r;x)=\{y\in V:\parallel y-x\parallel \le r\}$

• 单位球,$r=1,x=0$

• 平衡的：x在单位球内，$|\alpha |=1$的$\alpha x$也在球内

• 凸的：若$||x||,||y||\le 1$

  $\parallel \alpha x+(1-\alpha )y\parallel \le \parallel \alpha x\parallel +\parallel (1-a)y\parallel =\alpha \parallel x\parallel +(1-\alpha )\parallel y\parallel \le \alpha +(1-\alpha )=1$

• Co(S)，S的凸包，包含S的最小凸集

矩阵范数

这一节看好是要算三道杠还是两道杠，别算错辽

• 矩阵范数$|||\bullet |||$

  • $|||A|||\ge 0$ 非负性
  • $|||A|||=0$当且仅当$A=0$ 正性（1a）
  • $|||cA|||=|c||||A|||$ 齐性
  • $|||A+B|||\le |||A|||+|||B|||$ 三角不等式
  • $|||AB|||\le |||A||||||B|||$ 次积性(不满足这一条的称为矩阵上的向量范数)

• Frobenius范数的另一形式：$||A_2||=\sqrt{{\sigma }_1(A{)}^2+\dots +{\sigma }_n(A{)}^2}$

  因为$trA{A}^{\ast }$是$A{A}^{\ast }$特征值之和

• 向量范数诱导矩阵范数（算子范数，最小上界（Lub）范数）：$|||A|||=ma{x}_{||x||=1}||Ax||$

  • $|||I|||=1$
  • $||Ay||\le |||A|||||y||$(相容的)
  • $|||\bullet |||$是矩阵范数
  • $|||A|||=ma{x}_{||x||=||y|{|}^D=1}|y^{\ast }Ax|$

• 算子范数的例子

  • $|||\bullet ||{|}_1$称为最大列和矩阵范数

    $|||A||{|}_1=ma{x}_{1\le j\le n}{\sum }_{i=1}^n|a_{ij}|$

  • $|||\bullet ||{|}_{\infty }$称为最大行和矩阵范数

    $|||A||{|}_{\infty }=ma{x}_{1\le i\le n}{\sum }_{j=1}^n|a_{ij}|$

  • $|||\bullet ||{|}_2$称为谱范数

    $|||A||{|}_2={\sigma }_1(A)$

  • $|||\bullet ||{|}_S$

    $|||A||{|}_S=|||SA{S}^{-1}|||$

• 定理5.6.9：$|||\bullet |||$是一个矩阵范数

  • $|\lambda |\le \rho (A)\le |||A|||$
  • 如果A非奇异，那么$\rho (A)\le |\lambda |\le \frac{1}{|||A^{-1}|||}$

• 引理5.6.10：存在$|||\bullet |||$使得$\rho (A)\le |||A|||\le \rho (A)+\epsilon$

• 引理5.6.11：若存在矩阵范数使得$|||A|||<1$,那么${\lim }_{k\to \infty }{A}^k=0$

  • 定理5.6.12：${\lim }_{k\to \infty }{A}^k=0$,当且仅当$\rho (A)<1$

• 推论5.6.13（Gelfand公式）：$\rho (A)={\lim }_{k\to \infty }|||A^k||{|}^{\frac{1}{k}}$

• 定理5.6.36 $|||\bullet |||$是矩阵范数，由$||\bullet ||$诱导

  • $||\bullet ||$是绝对范数
  • $||\bullet ||$是单调范数
  • 如果$\Lambda =diag({\lambda }_1,\dots ,{\lambda }_n)$,那么$|||\Lambda |||=ma{x}_{1\le i\le n}|{\lambda }_i|$

• 定义5.6.38 对偶范数

  $||A|{|}^D=ma{x}_{||B||=1}Re<A,B{>}_F=ma{x}_{||B||=1}Retr{B}^{\ast }A$

• 定理5.6.42：绝对范数$||\bullet ||$诱导的矩阵范数$|||\bullet |||$，设$|||\bullet ||{|}^D$是其对偶范数，有$\Lambda =diag({\lambda }_1,\dots ,{\lambda }_n)$那么

  • $|||\bullet ||{|}^D$是矩阵范数
  • $|||\Lambda |||=|{\lambda }_1|+\dots +|{\lambda }_n|$

矩阵上的向量范数

• 如果$G(\bullet )$是范数，若S，T是非奇异，那么$G_{S,T}(A)=G(SAT)$

  即使$G(\bullet )$是矩阵范数，$G_{S,T}(\bullet )$也不一定次积性，除非$T=S^{-1}$

条件数

写在最后

本文算是结束了吧，推荐大家保存好Horn这本好书，以后可以当作参考资料来翻阅。明天就要考菊粉了，明早起来看一下，应该差不多了。怎么那么紧啊！

最后祝大家都能考好！

DoubleS 2021.6.27