矩阵论

线性空间与线性变换

 

1. 线性空间

    1）集合与映射

        a）集合：数域

        b）映射：定义；变换；运算

    2）线性空间及其性质

        a）线性空间是某类事物从量的方面的一个抽象

        b）线性空间（向量空间）定义：

            定义内容；线性运算；

            实线性空间、复线性空间；矩阵空间；

        c）定理1.1：

            内容：线性空间有唯一的零元素，任意元素也有唯一的负元素；

            证明：反证法

            向量的减法（由负元素引出）

        d）线性空间的维数：线性空间中线性无关向量组所含向量最大个数

    3）线性空间的基与坐标（（V是数域K上的线性空间））

        a）线性空间的基：

            定义：设V是数域K上的线性空间，x1,...xr(r>=1)是属于V的任意r个向量，如果它满足：（1）x1,...,xr线性无关；（2）V中任一向量x都是x1,...xr的线性组合，则称x1,...xr为V的一个基或基底，并称xi(i=1,...,r)为基向量

            线性空间的维数就是其基中所含向量的个数

            齐次线性方程组AX=0的基础解系中所含的向量，就是其解空间的一个基

            一个线性空间的基不是唯一的

        b）坐标：

            坐标：线性空间的V一个基x1,...xn为它的一个坐标系。设向量x属于线性空间V，它在该基下的线性表示为x=a1*x1+...+an*xn，则称a1,...,an为x在该坐标系中的坐标或分量

            在不同的坐标系（基）中同一向量的坐标一般是不同

       c）定理1.2：设x1,...xn为线性空间的V一个基，则x可唯一的表示成x1,...,xn的线性组合

       d）向量的坐标随基的不同而不同；

       e）维数与所考虑的数域有关

    4）基变换与坐标变换

        a）基变换：

            由旧基到新基的过渡矩阵；

            基变换公式；

            过渡矩阵是非奇异矩阵

        b）向量的坐标变换

            基变换下向量坐标的变换公式：内容；证明

        c）过渡矩阵和新坐标的计算

    5）线性子空间

        a）线性子空间的定义

            内容：非空子集合...

            每个非零线性空间至少有两个子空间：自身；零子空间

            零子空间不含线性无关的向量，因此它没有基，规定其维数为零

            dimV1<=dimV

        b）线性子空间的生成问题 ：L(X1,...,Xm) = {K1*X1+...+Km*Xm}

        c）矩阵的值域：

            R(A)= L(a1,...,an)

            rankA= dimR(A)

        d）矩阵的核空间（零空间）：N(A)={X | AX = 0}

        e）矩阵的零度：n(A) = dimN(A)

        f）定理1.3：

            内容：设V1是数域K上的n维线性空间Vn的一个m维子空间，x1,...,xm是V1的基，则这m个基向量必可扩充为Vn的一个基

            证明：线性空间基定义、线性空间的生成

    6）子空间的交与和

        a）子空间的交

            定理1.4：数域k上的两个线性子空间的交也是该线性空间的子空间

            运算律：交换律；结合律

        b）子空间的和

            子空间的和定义

            运算律：交换律；结合律

        c）定理1.6（维数公式）：关于两子空间的交与和的维数

            内容：dimV1+dimV2 = dim(V1与V2的和)+dim(V1与V2的交)

            证明：分类；定理1.3；基定义；向量线性无关

        d）直和（直接和）：

            零空间的表示法不唯一

            直和定义：如果V1+V2中的任一向量只能唯一的表示为子空间V1的一个向量与子空间V2的一个向量和，则称V1+V2为V1与V2的直和

            子空间直和推广到多个子空间情形

        e）定理1.7：

            内容：和V1+V2为直和的充要条件为V1与V2的交集为零空间

            证明：零向量；直和定义；反证法

            推论1：V1，V2是线性空间V的子空间，U= V1+V2，则U为V1和V2的直和的充要条件为dim(U) = dim(V1+V2) = dimV1+dimV2；证明据维数公式、零空间的维数为零

            推论2：如果x1,...,xk为V1的基，y1,...,yl为V2的基，且V1+V2为直和，则x1,...,xk,y1,...,yl为V1与V2直和的基；证明据推论1、向量线性无关定义、线性空间必包含零空间

2. 线性变换及其矩阵

    线性空间是某类事物从量方面的一个抽象，而线性变换则研究线性空间中元素之间的基本联系。

    1）线性变换及其运算

        a）线性变换的定义

            线性空间的变换（算子）：设V是数域K上的线性空间，T是V到自身的一个映射，使对属于V的任一向量x，V中都有唯一的向量y与之对应，则称T是V的一个变换或算子，记为Tx = y。称y为x在T下的象，x是y的原象（象源）

            线性变换：如果数域K上的线性空间V的一个变换T具有下列性质：T(k*x + l*y) = k*Tx +l*Ty，其中x，y数域V，k，l属于K，则称T为V的一个线性变换或线性算子。即变换T对向量的线性运算是封闭的

            线性变换的性质：T(零向量）=零向量；T(-x) = -Tx； 线性变换把线性相关向量组变为线性相关向量组，可能把线性无关的向量组变为线性相关的（零变换）

        b）线性变换值域和核的概念

            线性变换的值域：R(T) = {Tx | x属于数域K上的线性空间V}

            线性变换的核：N(T) = {Tx = 零向量，x属于V}

            定理1.8：线性空间V的线性变换T的值域和核都是V的线性子空间

            线性变换的象子空间、核子空间

            线性变换的秩和亏（零度）定义1.13：dimR(T)/dimN(T)

            设n维线性空间V的基为x1,...,xn，T是V中的线性变换，则R(T) = L(Tx1,...,Txn)

        c）线性变换的运算

            单位变换和零变换：Te(x) = x；T0(x) = 零向量

            两变换相等

            线性变换的加法：定义；负变换；性质（4条）

            线性变换与数的乘法：定义；性质（4条）

            线性变换的乘法：定义；性质（3条）；一般不满足交换律；T*Te = Te*T = T

            逆变换：定义；意义；存在的充要条件（T是一对一的变换）；线性变换的逆变换也是线性变换

            线性变换的多项式：n次幂、零次幂定义；线性变换的指数法则；可逆线性变换的负整数次幂；线性变换的多项式；同一线性变换的多项式相乘是可交换的

    2）线性变换的矩阵表示

        a）有限维线性空间的向量可以用坐标表示出来，可通过坐标把线性变换用矩阵表示出来，从而可把比较抽象的线性变换转化为具体的矩阵来处理。因为T是线性变换，而V中任一向量都可由基向量唯一线性表示，所以只要能够确定出V的基向量的象，则V中任一向量的象也就确定了

        b）线性变换的矩阵定义：

             定义：T是n维线性空间V的线性变换，x1,...,xn是V的一个基，则V中任一向量的象由基象组Tx1,...,Txn唯一确定，T(x1,...,xn) = (Tx1,...,Txn) = (x1,...,xn)*A

            对于任意n阶矩阵A，存在唯一的一个线性变换T

            数乘变换（特例：零变换、单位变换）、数量矩阵（特例：零矩阵、单位矩阵）

            同一线性变换在不同基下的矩阵一般不相同

            A是n维线性空间的线性变换T的矩阵，则dimR(T) = dimR(A),dimN(T) = dimN(A)；dimR(T)+dimN(T) = n

        c）线性变换的运算的矩阵

            定理1.9：线性变换的和、与数相乘、乘、逆变换的矩阵

            定理1.9推论：线性变换的对多项式的矩阵-->方阵A的多项式

            定理1.10：线性变换的坐标

        d）线性变换的矩阵如何随基改变而改变

            定理1.11：不同基下，同一线性变换的矩阵的关系

            矩阵相似（定义1.15）：定义；线性变换在不同基下的矩阵是相似的，反之，若两矩阵相似，则他们可看为是同一变换在不同基下的矩阵；性质（反身、对称、传递）

            相似类

            若B=（P逆）*A*P，且f(t)是数域K上的多项式，则矩阵多项式f（B）与f（A）之间的关系f（B）= （P逆）* f（A）*P

    3）特征值与特征向量

        a）开始讨论如何选择线性空间的基，使线性变换在该基下的矩阵形状最简单的问题

        b）线性变换的特征值和特征向量的定义

            定义：设T是数域K上的n维线性空间V的线性变换，且对K中某一数a，存在属于V的非零向量x，使得Tx = ax成立，则称a为T的特征值，x为T的属于a的特征向量。在几何上，特征向量x的方位，经过线性变化后保持不变

            特征向量不被特征值唯一确定，特征值被特征向量唯一确定

            矩阵的特征多项式、特征值（根）、特征向量

            线性变换T的特征值与该线性变换的矩阵的特征值和特征向量相一致

            计算线性变换特征值和特征向量的步骤

            线性变换的特征子空间

        c）矩阵的迹

            定义：trA = a11+...+aii。矩阵A的所有特征值的和等于A的迹，矩阵A的所有特征值的积等于det（A）

            定理1.12：A为m*n矩阵，B为n*m矩阵，则tr(AB) = tr(BA)

            定理1.13：相似矩阵有相同的迹；证明（定理1.12）

            定理1.14：相似矩阵有相同的特征多项式，因此也有相同的特征值；证明（特征多项式定义，行列式）；线性变换的矩阵的特征多项式与基的选择无关，直接被线性变换所决定

            定理1.15：设A1,...,Am均为方阵，A= diag(A1,...,Am)，则det(A的特征多项式) = det(A1的特征多项式)*...*det(Am的特征多项式)

            定理1.16（Sylvester）：A为m*n矩阵，B为n*m矩阵，a为特征值，则（a的n次方）*（AB的特征多项式） = （a的m次方）*（BA的特征多项式）

 

            定理1.17：任意n阶矩阵与三角矩阵相似；证明：逆矩阵、特征值与特征向量定义、定理1.14

            计算矩阵的相似三角矩阵：1.17中构造矩阵P的过程时，为使步骤减少，可用矩阵A的多个线性无关的特征向量作为P1的前几列

            定理1.18（Hamilton-Cayley）：n阶矩阵A是其特征多项式的矩阵根（零点）

            计算矩阵的多项式：据定理1.18

        d）以矩阵为根的多项式的关系

            矩阵的最小多项式定义定义1.19：首项系数是1（首1），次数最小，且以矩阵A为根的a的多项式，称为A的最小多项式，m(a)

            定理1.19：矩阵A的最小多项式可整除以A为根的任意首1多项式，且最小多项式是唯一的

            定理1.20：矩阵的最小多项式与其特征多项式的零点相同；证明：定理1.18、定理1.19、

            定理1.21（求最小多项式）：n阶矩阵的A的最小多项式= A的特征多项式/A的特征矩阵的全体n-1阶子式的最大公因式

            相似矩阵有相同的最小多项式（矩阵相似的必要条件）：证明据1.19

        e）属于不同的特征值之间的特征向量的关系问题

            定理1.22：矩阵A的不同特征值对应的特征向量组成的向量组线性无关

            定理1.23（定理1.22推广）：若a1,...,ak是矩阵A的不同特征值，而xi1,...xiri是属于ai的线性无关的特征向量（i = 1,2,...,k）则向量机组x11,...,x1r1,...,xk1,...xkrk也线性无关

    4）对角矩阵

        a）讨论哪些线性在适当基下的矩阵是对角矩阵的问题

        b）定理1.24：线性空间的线性变换在某一基下的矩阵可以为对角矩阵的充要条件是该线性变换有n个线性无关的特征向量

        c）定理1.25：n阶矩阵A与对角矩阵相似的充要条件是A有n个线性无关的特征向量，或A有完备的特征向量系

        d）定理1.26（矩阵对对角矩阵相似的充分条件）：如果n阶矩阵A有n个不同的特征值，则A与对角矩阵相似

    5）不变子空间

        a）讨论子空间与线性变换的关系，从而进一步简化线性变换的矩阵

        b）线性变换的不变子空间：

            定义1.20：如果T是线性空间V的线性变换，V1是V的子空间，并且对于任意一个属于V1的向量x，都有Tx属于V1，则称V1是T的不变子空间

            线性变换T的属于特征值a的特征子空间为T的不变子空间

            整个线性空间V和零子空间是每个线性变换的不变子空间

            线性子空间的交与和仍为线性变换的不变子空间

            线性变换R的值域R(T)与核N(T)都是T的不变子空间

        c）如何使用线性变换的子空间来简化线性变换的矩阵

            定理1.27：设T是n维线性空间V的线性变换，且V可分解为s个T的不变子空间的直和，又再每个不变子空间Vi中取基xi1,...,ximi(i = 1,...,s)，把它们合起来作为V的基，则T在该基下的矩阵A = diag（A1,...,As），其中Ai就是T在Vi的基xi1,...,ximi下的矩阵。矩阵分解为准对角矩阵与线性空间分解为不变子空间的直和是相当的

            定理1.27的推论：线性空间V的线性变换T在V的某一基下的矩阵为对角矩阵的充要条件是V可分解为n个T的一维特征子空间的直和

            定理1.27的推论的推广：设T是线性空间V的线性变换，a1,...,as是T的全部不同的特征值，则T在某一基下的矩阵为对角矩阵的充要条件为dim(与a1对应的特征子空间)+...+dim(as对应的特征子空间) = n

    6）Jordan标准型介绍

          a）与矩阵A相似的全体矩阵中最简单的矩阵作为A的标准型。对角阵最好，但不是每个矩阵都与对角阵相似

          b）Jordan标准型的定义：

            定理1.28：内容；证明（定理1.27）

            Jordan标准型的定义：Jordan标准型、Jordan块

          c）Jordan标准型的求法

            定理1.29（一般矩阵Jordan标准型的存在性）：

            多项式矩阵的不变因子、不变因式、i阶行列式因子、初等因子、初等因子组

            定理1.30：每个n阶复矩阵A都与一个Jordan标准型相似，这个Jordan标准型除去其中Jordan块的排列次序外，是被A唯一确定的

            定理1.29中非奇异矩阵P的求法：求A的特征向量和广义特征向量

            定理1.30的应用：若a1,...,as是A的特征值，则A的k次幂的特征值只能是a1的k次幂，...，as的k次幂；求解线性微分方程组          

3. 两个特殊的线性空间

    1）Euclid空间的定义与性质

        a）Euclid空间（欧式空间、实内积空间）定义：

            定义1.22：设V是实数域K上的线性空间，对于V中任意两个向量x与y，按某规则定义一个实数，用(x,y)表示，且它满足四个条件：交换律、分配律、齐次性、非负性，则称V为Euclid空间

            因为向量的内积与向量的线性运算是彼此无关的运算，所以无论内积如何规定，都不会影响实线性空间的维数

           典型内积：n维向量空间中的任一两个向量、实线性空间中任意两个连续函数、n*n维线性空间中，任意两个矩阵

        b）内积的基本性质（3条）：

        c）度量矩阵（Gram矩阵）：

            定义：对称正定

            知道基的度量矩阵后，任意两向量的内积就可通过通过1.3.4和1.3.5来计算

            度量矩阵完全确定了内积，于是可用任意正定矩阵作为度量矩阵的来规定内积

            基于线性空间的两基的度量矩阵是合同的；证明据过渡矩阵、线性空间中任一向量是其基的线性表示、内积性质3

        d）向量的长度：

            定义1.23：在欧式空间中，非负实数sqrt((x,x))称为V中向量x的长度（模、范数）

            性质（2条）：|k*x| = |k|*|x|；|x+y| <= |x| + |y|

            单位向量：

            把向量单位化或规范化

            柯西-施瓦茨不等式|(x,y)|<= |x|*|y|

        e）非零向量的夹角：

            定义1.24： = arccos((x,y)/(|x|*|y|)) 0<= <=π

            n维欧式空间和欧式空间C(a,b)的Schwarz不等式

            三角不等式：|x+y|*|x+y| <= (|x|+|y|)*(|x|+|y|)

    2）正交性

        a）两向量正交（垂直）定义1.25：如果对于欧式空间中的两向量x与y，有(x,y) = 0，则称...

        b）正交向量组定义1.26：若欧式空间中一组非零向量两两正交

        c）欧式空间中的商高定理（勾股弦定理）定理1.31：若向量x与y正交则|x+y|*|x+y| = |x|*|x| + |y|*|y|；证明据定义1.26

        d）正交向量组的无关性定理1.32：正交向量组必线性无关；证明据定义1.26

        e）标准正交基：

            标准正交基定义1.27：在n维欧式空间V中，由n个非零向量组成的正交向量组称为V的正交基；由单位向量组成的正交基称为标准正交基

            标准正交基

            一个基为标准正交基的充要条件是它的度量矩阵为单位矩阵

            标准正交基存在的意义：简化内积形式；向量的坐标可通过内积表达

          f）n维欧式空间中标准正交基的求法

            定理1.33：对于欧式空间的任一基都可找到一个标准正交基。任一非零欧式空间都有正交基和标准正交基

            求欧式空间的基的标准正交基（把基正交化、把基正交规范化）：Schmidt正交化方法

         g）欧式空间中子空间的正交性问题

            性质1：若向量组的每个向量均与向量y正交，则该向量组的线性组合也与向量y正交

            性质2：设V1为n维欧式空间的子空间，向量y与V1正交的充要条件是y与V1的每个基向量正交

            正交补空间（正交补）

            定理1.34：任一欧式空间为其子空间V1及V1的补空间的直和

            定理1.34推论：设V1为n维欧式空间的子空间，dim(V1)+dim(V1的补空间） = n

            正交补空间的应用：正交补空间与齐次线性方程组的解之间的关系：齐次线性方程组的解空间就是系数矩阵行向量组生成的子空间的正交补空间

            定理1.35：对于任意m*n的矩阵A有：R(A)的正交补空间= N(A转置)；m维欧式空间是R(A)和N(A转置)的直和；R(A转置)的正交补空间=N(A);n维欧式空间是R(A转置)与N(A)的直和

    3）正交变换与正交矩阵

        a）保持向量长度不变的变换

        b）正交变换

            定义1.28：设V为欧式空间，T是V的一个线性变换，如果T保持V中任一向量x的长度不变，既有（x，x） = （Tx，Tx），则称T是V的一个正交变换

            定理1.36：线性变换T为正交变换的充要条件是对于欧式空间中的任一向量x都有（x，y） = （Tx，Ty）

        c）正交矩阵

            定义1.29：如果实方阵Q满足（Q转置）*Q = 单位矩阵 或 Q逆矩阵 = Q转置，则称Q为正交矩阵

            矩阵为正交矩阵的充要条件：其列向量两两正交

        d）定理1.37：欧式空间的线性变换是正交变换的充要条件是，它对于标准正交基的矩阵是正交矩阵

            定理1.37推论1：正交矩阵是非奇异的

            定理1.37推论2：正交矩阵的逆矩阵仍然是正交矩阵

            定理1.37推论2：两个正交矩阵的乘积仍为正交矩阵

            欧式空间的两个正交变换的乘积还是正交变换；正交变换的逆变换也是正交变换

           从一标准正交基改变到另一标准正交基的过渡矩阵：正交矩阵

    4）对称变换与对称矩阵

        a）定义1.30：设T是欧式空间V的一个线性变换，且对V中任意两个向量x，y，都有（Tx，y）=（x，Ty）成立，则称T为V中的一个对称变换

        b）定理1.38：欧式空间的线性变换是实对称变换的充要条件是，它对于标准正交基的矩阵是实对称矩阵

        c）实对称矩阵的性质：

            定理1.39：是对称矩阵的特征值都是实数

            定理1.40：实对称矩阵的不同特征值所对应的特征向量是正交的

    5）酋空间介绍

        a）酋空间是一个特殊的复线性空间。酋空间的理论与欧式空间的理论很相近，有一套平行的理论

        b）酋空间定义1.31

        c）由内基定义，得

            性质（3条）、长度（模）、柯西施瓦茨不等式、夹角、正交基和标准正交基、酋变换、酋矩阵、Hermite变换（酋对称变换）

        d）Schur定理定理1.41：定理1.17的加强版

        e）正规矩阵

            定义1.31

            正交矩阵、酋矩阵、对角矩阵、实对称矩阵及Hermite矩阵

            定理1.42：（1）n*n的复矩阵空间中的A酋相似于对角矩阵的充要条件是A为正规矩阵；（2）若n*n的实矩阵空间中的A的特征值均为实数，则A正交相似于对称矩阵的充要条件是A为正规矩阵

            定理1.42的推论1：实对称矩阵正交相似于对角矩阵

            定理1.42的推论2：若T是n维欧式空间V的对称变换，则在V中存在标准正交基，使T在该基下的矩阵为对角矩阵

            Hermite矩阵A的谱分解

范数理论及其应用

 

 

 

1. 研究范数理论的意义：研究数值方法的收敛性、稳定性及误差分析等问题时，范数理论显得十分重要

2. 向量范数及其性质

    1）向量范数的概念及lp范数

        a）向量数列收敛

            向量数列收敛（向量序列有极限）：设给定了n维向量空间中的向量序列....

            向量的长度可用来刻画收敛的性质：若向量序列收敛于向量x，则该向量序列的元素与x的差的欧式长度收敛于零；反之，若有一向量的欧式长度收敛于零，则它的每一分两一定收敛于零，从而该向量序列收敛于零

        b）向量的范数定义

            定义2.1 如果V是数域K上的线性空间，且对于V的任一向量x，对应一个实值函数||x||，它满足以下三个条件：非负性、齐次性、三角不等式，则称||x||为V上向量x的范数，简称向量范数

            向量范数是线性空间的向量的分量的连续函数

        c）向量的p-范数（lp范数）

            定义           

            2-范数

            1-范数

            无穷范数

            加权范数（椭圆范数）

            向量的p-范数（另一定义）：给定n维线性空间V的基x1,...,xn，设向量x属于V，x在该基下的坐标向量x* = （a1,...,an），那么||x||p=||x*||p

    2）n维线性空间V上的向量范数的等价性

        a）各种向量范数间的关系

            定理2.1：c1*||x||b <= ||x||a <=c2*||x||b

        b）范数等价定义2.2

        c）定理2.2（向量序列收敛到向量x的充要条件）

            尽管不同的向量范数可能具有不同的大小，但在各种范数下考虑向量序列的收敛问题时，却表现出明显的一致性。若向量序列对某一种范数收敛，且极限为向量x，则对其他范数这个序列仍然收敛，并且具有相同的极限

3. 矩阵的范数

    1）矩阵范数的定义与性质

        a）矩阵范数（定义2.3）

            矩阵的广义矩阵范数：实值函数；满足非负性、齐次性、三角不等式

            矩阵范数：满足矩阵的广义矩阵范数的条件和相容性

            矩阵序列的收敛于矩阵A的充要条件是该矩阵序列的元素与A差的矩阵范数收敛于实值0

        b）矩阵范数与向量范数的形容性

            在数值方法中进行某种估计时，遇到的多数情况是矩阵范数常与向量范数混合在一起使用，而矩阵常是作为另个线性空间的线性映射（变换）出现的。因此考虑一些矩阵范数时，应该使他能与向量范数联系起来

            定义2.4（矩阵范数与向量范数相容）：同类范数；||Ax||v <= ||A||m*||x||v

        c）Frobenius范数（F-范数）

            定义：||A||F = sqrt(tr(AH*A))

            定理2.3 ：矩阵A左乘或右乘酋矩阵后，其F-范数值不变（A为实矩阵时，则左乘或右乘正交矩阵）

            定理2.3推论：和矩阵A酋相似（正交相似）的矩阵的F-范数是相同的

    2）几种常用的矩阵范数

        a）从属范数

            给出一种规定矩阵的具体方法，使矩阵范数与已知的向量范数相容

            定理2.4：同类范数，当||向量x|| = 1时，||矩阵A|| = max(||Ax||)

            矩阵范数与向量范数密切相关，有什么样的向量范数就有什么样的矩阵范数

        b）常用的矩阵范数

            定理2.5（从属于向量的1-范数、2-范数、无穷范数的矩阵范数）：列和范数、谱范数（AH*A）、行和范数

            F-范数||A||F =  sqrt(矩阵中所有（i，j）元模值平方之和) = tr(AH*A)

        c）从属范数和所有满足定义2.3的矩阵范数都是等价的

4. 范数的一些应用

    1）矩阵的非奇异性条件

        a）定理2.6：设A是n*n复空间的矩阵，且对其上的某种矩阵范数有||A||<1，则矩阵 I-A 非奇异，且有||(I-A)逆矩阵|| <= （|| I ||/(1-||A||)）

        b）定理2.7：设A是n*n复空间的矩阵，且对其上的某种矩阵范数有||A||<1，则 ||I-(I-A)逆矩阵|| <= ||A||/(1-||A||)

    2）近似逆矩阵的误差-逆矩阵的摄动

        a）定理2.8

        b）矩阵的条件数：cond(A) = ||A|| * ||A逆矩阵||

    3）矩阵的谱半径及其性质

        a）矩阵的谱半径在特征值估计、广义逆矩阵、数值分析以及数值代数等理论的建树中，都占有极其重要的地位

        b）矩阵的谱半径

            定义2.5：特征值绝对值的最大值

            定理2.9：矩阵的谱半径小于或等于该矩阵的任何一种矩阵范数

            矩阵A的k次幂的谱半径等于矩阵A谱半径的k次幂

            对于任意非奇异矩阵A有A的2-范数等于sqrt(矩阵AH*A的谱范数)，当A是Hermite矩阵时，则A的2-范数等于A的谱半径

        c）谱范数||A||2一般与谱半径可能相差很大

            定理2.10： 任意正数c、存在某种矩阵范数||*||m（与给定的矩阵密切相关），使得||A||m <= A的谱半径+c

矩阵分析及其应用

 

 

 

1. 矩阵分析理论的意义：矩阵分析理论的建立，同数学分析一样，也是以极限理论为基础的，其内容丰富，是研究数值方法和其他数学分支以及许多工程问题的重要工具。首先讨论矩阵序列的极限运算；然后介绍矩阵序列和矩阵级数的收敛定理、矩阵幂级数和一些矩阵函数；最后介绍矩阵的微分和积分的概念及其性质，同时介绍它们在微分方程组中的应用

2. 矩阵序列

    1）矩阵序列的收敛性

        a）定义3.1

        b）矩阵序列收敛

            性质1：矩阵序列一般项乘以个数的极限；矩阵序列一般项之和的极限

            性质2：两收敛矩阵序列的一般项乘积 -> 两矩阵序列的极限矩阵的乘积

            性质3：矩阵序列的一般项与矩阵序列的极限矩阵均为逆矩阵，则矩阵序列一般项的逆矩阵组成的矩阵序列 -> 该极限矩阵的逆矩阵

       c）定理3.1：矩阵序列一般项->零向量的充要条件是： || 矩阵序列一般项||->0；

                               矩阵序列一般项->矩阵A的充要条件是： || 矩阵序列的一般项 - 矩阵A ||->0

    2）矩阵序列的收敛性

        a）矩阵序列有界（定义3.2）：一般项矩阵的各元素有界

        b）收敛矩阵（定义3.3）：方阵A的一般项的极限为零向量 ，则称

        c）定理3.2（充要）：（方阵A的k次幂 -> 零向量）   <-> （ A的谱半径<1）；证明据定理2.10，定理3.1

        d）定理3.3（充分）：（有一种矩阵范数使||方阵A|| < 1） -> (方阵A的k次幂 -> 零向量)；证明据定理2.9、定理3.2

3. 矩阵级数

    1）矩阵级数，特别是矩阵幂级数是建立矩阵函数的依据；讨论矩阵级数的收敛、发散、和等概念，这些与数项级数的相应定义与性质完全类似

    2）矩阵级数

        a）矩阵级数的定义（定义3.4）：矩阵序列无穷和

        b）矩阵级数的收敛性

            收敛、发散（定义3.5）：部分和序列收敛，则矩阵级数收敛，且其和为部分和序列的极限；发散

            绝对收敛（定义3.6）：部分和序列一般项矩阵矩阵A的m*n数项级数元素绝对收敛

        c）判别矩阵级数收敛性的法则

            性质1：矩阵级数绝对收敛->收敛，且任意调换其项的顺序，所得级数仍收敛，和不变；对应数项级数的Dirichlet定理

            性质2（充要）：矩阵级数绝对收敛 <-> 矩阵级数各项对应的矩阵范数形成的正项级数收敛；证明据绝对收敛定义、m1范数、矩阵范数的等价性、正项级数的比较判别法

            性质3：矩阵级数收敛（绝对收敛），它左乘或右乘矩阵后，仍收敛（绝对收敛），...；证明据定义3.4、性质2、矩阵范数的相容性

            性质4：柯西乘积；

    3）矩阵幂级数

        a）方阵幂级数

            定理3.4：方阵幂级数收敛的充要条件（A为收敛矩阵）及收敛时其和（（I - A）逆矩阵）；证明据矩阵级数的元素的数项级数、收敛必要条件为一般项极限为零、定理3.2

            定理3.5：若方阵对某一种矩阵范数的值<1，则对于非负整数k，以（(I-A)逆矩阵）为方阵的幂级数的部分和的近似时，其误差 <= （||A||的k+1次幂）/（1- ||A||）；证明据定理3.3、定理2.9

        b）矩阵幂级数与纯量幂级数的关系

            定理3.6：已知纯量幂级数的收敛半径r；若方阵A的谱半径 < r，则与纯量幂级数对应的矩阵幂级数是绝对收敛的；若方阵A的谱半径>r，则其是发散的；

                              证明据定理2.10、矩阵范数的齐次性和相容性、数项级数的比较判别法、矩阵级数性质2、定理1.17（任意矩阵与三角矩阵相似的证明）、矩阵级数性质3

            定理3.6推论：如果纯量幂级数在整个复平面上是收敛的，那么无论A是任何矩阵，与纯良幂级数对应的矩阵幂级数总是绝对收敛的

4. 矩阵函数

    1）矩阵函数的定义与性质

        a）矩阵函数的概念与通常函数概念一样，是以n阶矩阵为自变量和函数值（因变量）的一种函数。以定理3.6及矩阵级数和的概念为依据，给出矩阵函数的定义

        b）矩阵函数的定义及性质

            定义3.7：

            exp(A)，cos(A)，sin(A)，exp(jA)，cos(-A)，sin(-A)，cos(A)、sin(A)、exp(jA)间的对应关系

            定理3.7：如果AB = BA，则exp(A)*exp(B) = exp(B)*exp(A) = exp(A+B)

            定理3.7推论1：exp(A)*exp(-A) = exp(-A)*exp(A) = I,exp(A)逆矩阵 = exp(-A)

            定理3.7推论2：m为整数exp(A)的m次幂 = exp(mA)

    2）矩阵函数值的求法

        a）待定系数法：

            实现思路：矩阵的特征多项式-->首1多项式，能整除特征多项式且以A为矩阵根的m次多项式（最小多项式/特征多项式）-->f = 纯量幂级数=该m次特征多项式*多项式+多项式r（次数小于m）-->f（A特征值） = r（A特征值）、导数确定多项式r系数-->f（A）

            求exp(A)及exp(tA)

        b）数项级数求和法

            实现思路：确定首1m次多项式r且以矩阵A为根（特征多项式）-->求矩阵A的m次幂 -->根据待求矩阵函数的级数和值确定函数值

            求sin（A）

        c）对角形法

            实现思路：当A与对角矩阵相似时，可将矩阵幂级数的求和问题转化为求变换矩阵的问题。求n阶矩阵A特征多项式-->求与特征多项的特征值对应的特征向量-->构造矩阵P，使（P逆）* A * P = diag(以A特征值为对角元素) -->矩阵函数f的函数值f(A) = P * diag( f(A特征值) ) *P

            求exp(A)、exp(tA)、cos(A)

        d）Jordan标准形法

            实现思路：矩阵幂级数求和问题转化为矩阵的Jordan标准形变换矩阵的问题。求n阶矩阵A的特征值和广义特征向量-->构造矩阵P确定矩阵A的Jordan标准形-->求矩阵A的Jordan标准形中每个Jordan块的函数值 f(Jordan块) -->据前面结果确定矩阵A的Jordan标准形的函数值-->矩阵A的函数值

    3）矩阵函数的另一定义

        a）前面矩阵函数的实质就是先将纯量函数展开为收敛的幂级数，然后以矩阵代替纯量，得到矩阵幂级数，对于任意给定的函数要求能够展开成收敛幂级数的条件较强，一般不易满足，因此需要拓展矩阵函数的定义

        b）定义3.8：根据矩阵的Jordan标准形定义

        c）根据定义3.8求矩阵函数

        d）结论（3条）：

            定义3.8中给出的矩阵函数f(A)与矩阵A的Jordan标准形中Jordan块的排列次序无关，与矩阵P的选取无关

            f(z) = f1(z) + f2(z)， 则，f(A) = f1(A) + f2(A)

            f(z) = f1(z)*f2(z) ，则f(A) = f1(A) * f2(A)

5. 矩阵的微分和积分

    1）矩阵的导数与积分

        a）矩阵的导数定义定义3.9

        b）矩阵的导数的运算法则：

            定理3.8

            定理3.9

        c）定义3.10：

    2）其它微分概念

        a）在自动控制理论以及其他科学领域中，还要讨论纯量对于向量，向量对于向量，矩阵对于向量以及矩阵对于矩阵的微商

        b）函数对矩阵的导数

        c）函数矩阵对矩阵的导数

6. 矩阵函数的一些应用：矩阵函数及其微积分运算的应用

    1）一阶线性常系数齐次微分方程组

        a）定理3.10：内容；微分方程组的基础解系、一般解（通解）；证明据Maclaurin级数、矩阵的微分

        b）求解一阶线性常系数齐次微分方程组

        c）积分方程、Jacobi恒等式

    2）一阶线性常系数非齐次微分方程组

        a）求解一阶线性常系数非齐次微分方程组的解的推导过程；

        b）先求齐次线性方程组的通解；再采取常向量变异法求特解；方程组的解= 通解+特解

        c）求解一阶线性常系数非齐次微分方程组

矩阵分解

 

 

 

矩阵的三角分解和QR分解等在计算数学中都扮演着十分重要的角色，尤其是以QR分解所建立的QR方法，以对数值线性代数理论的近代发展起了关键作用。矩阵的满秩分解和奇异值分解在广义逆矩阵等理论中经常用到，它们与QR方法都是近20年来求解各类最小二乘问题和最优化问题的主要数学工具

1. Gauss消去法与矩阵的三角分解

    1）Gauss消去法的矩阵形式

        a）Gauss主元素消去法的基本思想：化n元线性方程组的系数矩阵A为上三角矩阵，或化增广矩阵[A,b]为上阶梯形矩阵以求其解

        b）Gauss主元素消去法有3种形式：按自然顺序（按主对角线顺序）选主元素法、按列选主元素法、按总体选主元素法

        c）Frobenius矩阵

        d）Gauss消元过程

        e）附加条件：主子式不为零

    2）矩阵的三角（LU）分解

        a）方阵的三角分解（LU/LR分解）定义（定义4.1）：如果方阵A可分解成一个下三角矩阵L和一个上三角矩阵U的乘积，则称...。如果A可分解成A = LDU，其中L是单位下三角矩阵，D是对角矩阵，U是单位上三角矩阵，则称A可做LDU分解

        b）方阵的三角分解的存在性和唯一性

            一般方阵的LU分解不唯一

            定理4.1：对于n阶矩阵A，当且仅当A的k阶顺序主子式不等于零（k = 1,2,...,n-1）时，A可唯一分解为A = LDU，其中L是单位下三角矩阵，U是单位上三角矩阵，D是对角矩阵，D = diag（d1,d2,...,dn），dk = A的k阶主子式/A的k-1阶主子式

            定理4.1的推论：n阶非奇异矩阵A有三角分解A=LU的充要条件是A的k阶顺序主子式不等于零（k=1,2,...,n-1）

        c）带行交换的矩阵三角分解

            定理4.2：设A是n阶非奇异矩阵，则存在置换矩阵P使PA的n个顺序主子式非零

            定理4.2的推论：设A是n阶非奇异矩阵，则存在置换矩阵P，使PA = LU'= LDU

        d）利用三角分解法求解线性方程组：据定理4.1、定理4.2对系数矩阵做三角分解、引入中间变量

    3）其他三角分解及其算法

        a）矩阵的Doolittle分解

        b）矩阵的Crout分解

        c）实对称正定矩阵的Cholesky分解（平方根分解、对称三角分解）

            定义4.3：A = LDU，A = LD'*D'*(L转置）=(LD'')*(LD''转置） = G*(G转置),D'' = diag（sqrt(d1),...,sqrt(dn)），G为下三角矩阵

            矩阵G的(i,j)元素的递推公式

            |矩阵G的(i,j)元素| <= sqrt(A的(i,j)元素) ，j<=i，因此Cholesky分拣中的中间量矩阵G的(i,j)元素完全得以控制，从而计算过程是稳定的

    4）分块矩阵的拟LU分解与拟LDU分解

        a）讨论如何将方阵分解为两个拟三角矩阵的乘积或两个拟三角矩阵和一个拟对角矩阵的乘积问题。这种分解对处理高阶方阵分解问题带来方便，并能减少计算工作量

        b）仅限于参加运算的矩阵在纵向和横向列分成3块的情况

        c）分块矩阵的拟LDU分解（2种）

        d）分块矩阵的det(A)不等于零的充要条件（2种情况）；应用

2. 矩阵的QR分解（针对非奇异矩阵）

    1）Givens变换与Householder变换

        a）Givens矩阵和Givens变换

            Givens矩阵（初等旋转矩阵）定义（定义4.4）

            性质1：正交矩阵，且有Tij(c,s)逆=Tij(c,s)转置 = Tij(c,-s)，det[Tij(c,s)] = 1;

            性质2：c和s值的选取

            定理4.3对于非零向量x，存在有限个Givens矩阵的乘积T，使得Tx = |x|*向量e1

            定理4.3的推论：由定理4.3中向量e1推广到单位列向量z的情况

        b）Householder矩阵和Householder变换

            Householder矩阵（初等反射矩阵）定义（定义4.5）： 单位列向量u属于n维空间，称H = I - 2*U*U转置为Householder矩阵

            Householder矩阵的性质：对称矩阵、正交矩阵、对合矩阵、自逆矩阵、detH = -1

            定理4.4：任意给定n维实空间中非零向量x及单位列向量z，则存在Householder矩阵，使得Hx = |x|z；x = |x|z时，取单位列向量u满足（u转置）*x = 0；当x != |x|z时，H = (x - |x|z) / |x - |x|z|

        c）Givens变换与Householder变换的关系

            定理4.5：初等旋转矩阵是两个初等反射矩阵的乘积

    2）矩阵的QR(正交三角)分解

        a）矩阵QR分解的定义

            定义4.6：如果实（复）非奇异矩阵A能够化成正交（酋）矩阵Q与实（复）非奇异上三角矩阵R的乘积，即A = QR，则称...

        b）矩阵QR分解的存在性和唯一性

            定理4.6：设A是n阶实（复）非奇异矩阵，则存在正交（酋）矩阵Q和实（复）非奇异上三角矩阵R，使A有AR分解式 A=QR，且除去相差一个对角元素的绝对值（模）全等于1的对角矩阵因子外，分解式是唯一的；证明据Schmidt正交化

            定理4.7（4.6的推广）：设A是m*n实（复）矩阵，且其n个列线性无关，则A有分解 A = QR，其中Q是m*n实（复）矩阵，且满足(Q转置)*Q = I (QH * Q = I)，R是n阶实（复）非奇异上三角矩阵。该分解除去相差一个对角元素的绝对值（模）全等于1的对角矩阵因子外，分解式是唯一的

        c）矩阵QR分解的实现方法1：Schmidt正交化方法

        d）矩阵QR分解的实现方法2：初等旋转变换

            定理4.8：任何n阶实非奇异矩阵A，可通过左连乘初等旋转矩阵化为上非奇异三角矩阵

            定理4.9: 定理4.8推广到复矩阵的情况

            应用初等变换求矩阵的QR分解

        e）矩阵QR分解的实现方法3：初等反射变换

            定理4.10：任何n阶实非奇异矩阵A，可通过左连乘Householder矩阵化为上非奇异三角矩阵

        f）矩阵QR分解的实现方法4：利用矩阵的满秩分解，需要先证明再使用

    3）矩阵与Hessenberg矩阵的正交相似问题

        a）矩阵与Hessenberg矩阵的相似问题，在矩阵特征值问题研究中有重要应用

3. 矩阵的满秩分解

    1）将非零矩阵分解为列满秩和行满秩的乘积形式。该分解理论在关于广义逆矩阵的研究中有重要应用

    2）矩阵的满秩分解定义（定义4.8）：A为m*n复矩阵，秩为r，若存在m*r且秩为r的矩阵F和r*n且秩为r的矩阵G，使A= FG，则称...

    3）矩阵的满秩分解的存在性

        a）定理4.13：

        b）矩阵的满秩分解不是唯一的

    4）矩阵的满秩分解方法1：利用初等行变换

    5）矩阵的满秩分解方法2：利用矩阵的Hermite标准形

        a）矩阵Hermite标准形定义（定义4.9）：

        b）置换矩阵（定义4.10）：

        c）利用矩阵的Hermite标准形求满秩矩阵：

    6）利用矩阵的满秩分解处理矩阵问题

        a）证明rank(A1+A2) <= rankA1 + rankA2

        b）设A是m*n复矩阵，秩为r（r>0），则必有分解式 A = QR，其中Q是m*r矩阵，且为酋矩阵，而R是r*n矩阵，它的r个行线性无关

4. 矩阵的奇异值分解

    1）研究意义：矩阵的奇异值分解在最优化问题、特征值问题、最小二乘方问题、广义逆矩阵问题及统计学等方面有重要应用

    2）矩阵的正交对角分解

        a）矩阵的正交对角分解

            定理4.15：

    3）矩阵的奇异值与奇异值分解

        a）矩阵的奇异值

            前提结论（3条）

            定义4.11：

            矩阵的奇异值个数等于其列数，其非零奇异值个数等于其秩

        b）矩阵的奇异值分解

            定理4.16

            A的奇异值唯一，但U，V一般不唯一，因此矩阵的奇异值分解一般也是不唯一的

            求矩阵的奇异值分解

    4）矩阵正交相抵的概念

        a）矩阵正交相抵定义

            定义4.12：

            性质：自反性、对称性、传递性

            正交相抵等价类

        b）定理4.18：正交相抵矩阵有相同的奇异值

特征值的估计及对称矩阵的极性

 

 

 

1. 特征值的估计

    1）特征值估计的意义：复数域上矩阵的特征值的计算一般比较困难；在大量应用中，往往不需精确计算特征值，只需估计出它们所在的范围；所以从矩阵的元素出发，若能用较简便的运算给出矩阵特征值的范围，将有着十分重要的意义

    2）特征值的界

        a）估计矩阵特征值的模的上界的方法

            定理5.1：实矩阵的特征值虚部模值范围

            定理5.1推论：实对称矩阵的特征值都是实数

            引理1

            定理5.2：复矩阵特征值的模、实部模、虚部模范围；证明据特征方程和引理1

            定理5.2推论：Hermite矩阵的特征值都是实数，反Hermite矩阵的特征值为零或纯虚数

        b）估计矩阵特征值之乘积的模的界的方法

            矩阵按行严格对角占优、按行（弱）对角占优的定义（定义5.1）：Rr(A)

            矩阵按列严格对角占优、按列（弱）对角占优的定义（定义5.2）：

            定理5.3：A为n*n的复矩阵，若A按行严格对角占优，...；s>r时，A的(s,j)元素值为零时，等号成立

            定理5.4（Hadamard's inequality）：A为n*n复矩阵

             估计矩阵按模最小特征值的上界

        c）估计矩阵特征值模之平方和的上界的方法

            定理5.5（Schur"s inequality）：n*n的复矩阵A的特征值为a1,...,an，则有A特征值模值平方之和 <= A元素模值平方直和 =（ A的F-范数）的平方；等号成立条件A为正规矩阵

    3）特征值的包含区域

        a）矩阵特征值的分布状况

            盖尔圆定义（定义5.3）：A是n*n的复矩阵，由不等式 |z - A(i,i)| <= Ri在复平面上确定的区域为矩阵的第i个Gerschgorin圆（盖尔圆），用记号Gi表示，其中Ri = Ri(A) = （矩阵A第i行除(i,i)元素以外的元素模值之和）

            定理5.6（Gerschgorin theorem 1）：n*n复矩阵A的一切特征值都在它的n个盖尔圆的并集之内

            定理5.7（Gerschgorin theorem 2）：由矩阵A的所有盖尔圆组成的连通部分中任取一个，如果它由k个盖尔圆组成，则在这个连通部分中有且仅有A的k个特征值（盖尔圆重复时重复计数，A的特征值相同时也重复计数）；证明据矩阵特征值是连续依赖于矩阵元素的依赖定理

            讨论矩阵的特征值的分布状况

            定理5.7的推论：应用盖尔圆定理研究特征值的隔离问题；该隔离矩阵特征值的方法不能用于任意的具有互异特征值的矩阵，比如主对角线上有相同的元素的矩阵

            证明如果矩阵A按行（列）严格对角占优，则其行列式detA 不等于零；证明据定理5.6、反证法

        b）估计矩阵特征值的范围

            定理5.8：n*n不可约矩阵A的一个特征值在其n个盖尔圆并集的边界上，则所有的n个圆周都通过该特征值点

            定理5.9：如果n*n矩阵A不可约，且存在i0，使得A在i0行的元素模值之和 < A的无穷范数，则有A的谱半径 < A的无穷范数

            定理5.10（Ky Fan）：设A为n*n的复矩阵，B为n*n的实矩阵，如果B(i,j) >= abs(A(i,j))，则对A的任一特征值a，必有i，使|a - A(i,i)| <= B的谱半径 - B(i,j)

            引理2

            定理5.11（Ostrowski theorem 1）：A为n*n复矩阵， 0<= b <= 1，对于A的任意特征值a，存在i，使 |a - A(i,j)| <= Ri(A) 的b次幂 * Ri(A转置)的1-b次幂

            定理5.11推论1：证明据定理5.11和引理2

            定理5.11推论2：若A奇异...

            定理5.11推论3：矩阵A谱半径范围

            定理5.11推论4：矩阵A谱半径范围

            定理5.11推论5、6、7、8：矩阵A谱半径范围

            定理5.12（Ostrowski theorem 2）：

            定理5.12的推论：A为n*n复矩阵（n>=2），如果对于所有的i != j，恒有 | A(i,i) | * | A(j,j) | > Ri(A) * Rj(A)，则detA != 0

           估计矩阵特征值范围、估计矩阵谱半径范围

           利用5.12的推论 讨论矩阵的奇异性

    4）扰动理论中的特征值估计

2. 广义特征值问题

    1）广义特征值（定义5.5）：形如A*x = λ*B*x（A为n阶实对称矩阵，B为n阶实对称正定矩阵，x为n维列向量）的特征值问题为矩阵A相对于矩阵B的广义特征值问题，简称为广义特征值问题；称λ为矩阵A相对于矩阵B的特征值；而与λ相对应的非零解x称为属于λ的特征向量

    2）广义特征值问题的等价形式

        a）第一种：B逆左乘A*x = λ*B*x

        b）第二种：对正定矩阵B做Cholesky分解，B= G*G转置，G为下三角矩阵，令y = G转置*x，得Sy = λ*y，其中S = G逆*A*G逆的转置，为对称矩阵

    3）特征向量的正交性

        a）按矩阵B标准正交化向量系定义（定义5.6）：内容；B正交条件

        b）按矩阵B标准正交化向量系的性质（2条）：各分量不为零向量且他们线性无关

3. 对称矩阵特征值的极性

    1）实对称矩阵的Rayleigh商的极性

        a）实对称矩阵的Rayleigh商定义（定义5.7）： A是n阶实对称矩阵，x为n维实列向量，称R(x) = (x转置* A *x) / (x转置 * x)

        b）Rayleigh商的性质（4条）：连续、零次齐次、最大最小值存在，且能够在单位球面S = {x | x 为n维实向量，x的2-范数 = 1}上达到

        c）定理5.16：A为实对称矩阵，则其Rayleigh商最小值为A最小特征值，最大值为A最大特征值

              推论1：在||x||2 = 1上，向量p1和pn分别是R(x)的极小点和极大点，则R(p1) = λ1，R(pn) = λn

              推论2：如果λ1 = ... = λn，则在 ||x||2 = 1上，R（x）的所有极小点为β1*p1 + ...+ βn*pk (1<=k <= n)，且满足β1*β1 +...+βk*βk = 1

        d）定理5.17：定理5.16推广

        e）定理5.18（Courant-Fischer）：设实对称矩阵A的特征值按从小到大顺序排列，则A的第k个特征值λk = min max{x转置*A*x | x 属于k维实空间，||x|| = 1}

        f）定理5.19（扰动定理）：实对称矩阵A和A+Q的特征值分别为λ1 <=...<= λn，和μ1 <=... <=μn，则有|λi -μi | <= Q的2-范数

        g）定理20、定理21：定理5.19的完善

    2）广义特征值的极大极小原理

        a）矩阵A相对于矩阵B的广义Rayleigh商定义（定义5.8）：A,B为n阶对称矩阵，且B正定

        b）非零向量是广义Rayleigh商的驻点充要条件（定理5.22）：x0为Ax = λBx的属于特征值λ的特征向量

            定理5.22的推论：若x'是Ax = λBx的特征向量，则R（x'）是与之对应的特征值

        c）广义特征值的极大极小原理

            广义特征值的极大极小原理：定理5.23：

            特征值的极大极小原理：定理5.23推论1：第k个特征值λk = min[max{R(x)}] ，第n-k+1个特征值 λ' = max[min{R(x)}]

            定理5.23推论2

    3）矩阵奇异值的极大极小性质

        a）利用实对称矩阵特征值的极大极小原理，可研究实矩阵奇异值的极大极小性质

        b）设m*n实矩阵A的奇异值排列为 0= σ1 = ... = σ,n-r < σ,n-r+1 <=...<= σn，则A的第k个奇异值和第n-k+1个奇异值具有下列的极值性质σ,k = Vk上min（max （||Ax||2/||x||2））, σ,n-k+1 = Vk上max（min （||Ax||2/||x||2））,x为非零向量

        c）定理5.25：对应定理5.19；矩阵奇异值的计算具有良好的数值稳定性

        d）定理5.26：定理5.25的更进一步结论

4. 矩阵的直积及其应用

    1）直积的概念

    2）线性矩阵方程的可解性

广义逆矩阵

 

 

 

广义逆矩阵：该矩阵对于奇异矩阵甚至长方矩阵都存在、具有通常逆矩阵的一些性质、当矩阵非奇异时，它还原到通常的逆矩阵，满足以上3条性质的矩阵叫做广义逆矩阵

1920年，E.H.Moore提出广义逆矩阵的概念，1955年，R.Penrose以更明确的形式给出Moore的广义逆矩阵定义。

广义逆矩阵在数理统计、系统理论、优化计算和控制论等多领域中有重要应用，广义逆矩阵理论与应用的研究是矩阵论的一个重要分支

1. 投影矩阵

1）投影算子与投影矩阵

    a）投影算子

        投影：设L和M都是n维复空间C的子空间，且C为L和M的直和，任意属于C的向量x都可唯一分解为x = y + z，其中y属于L，z属于M，称y是x沿着M到L的投影

        投影算子（定义6.1）：将属于n维复空间C的任意向量变为沿着M到L的投影的变换称为沿着M到L的投影算子

        投影算子的值域为L，零空间为M

        投影算子为线性算子

    b）投影矩阵

        定义6.2：投影算子在n维复空间C下的基下的矩阵称为投影矩阵

    c）投影矩阵与幂等矩阵的关系

        引理1：若A是n*n复矩阵空间的幂等矩阵，则N(A) = R(I - A)

        定理6.1：矩阵P为投影矩阵的充要条件是P维幂等矩阵；证明据投影矩阵的定义、幂等矩阵的定义、引理1、直和概念

    d）求投影矩阵方法：

        假定dimL = r，则dimM = n-r，在子空间L和M中分别取定基底x1,...,xr；y1,...,yn-r，做分块矩阵X = (x1,...,xr)，Y = (y1,...,yn-r)，从而P[X,Y] = [X,0]，因此投影矩阵为P = [X,0][X,Y]逆

    e）幂等矩阵在广义逆矩阵中具有重要作用，在某种意义上相等于单位矩阵在通常的逆矩阵上所起的作用

2）正交投影算子与正交投影矩阵

    a）投影算子的一个子类

    b）正交投影算子、矩阵的定义（定义6.3）： L的正交补空间到L

    c）定理6.2：矩阵P为正交投影矩阵的充要条件是P为幂等Hermite矩阵

    d）已知子空间L的基后，正交投影矩阵的求法：P = X((XH*X)逆)XH

2. 广义逆矩阵的存在、性质及构造方法

1）Penrose的广义逆矩阵

2）广义逆矩阵的性质及构造方法

3）Moore-Penrose逆的等价定义

3. 广义逆矩阵的计算方法

1）利用Hermite标准型计算矩阵的{1}-逆和{1,2}-逆

2）利用满秩分解求广义逆矩阵

3）计算A+的Zlobec公式

4）Greville方法

5）一些特殊分块矩阵的广义逆矩阵

6）计算一类实Hessenberg矩阵的广义逆

7）计算A+的迭代方法

4. 广义逆矩阵与线性方程组的求解

1）线性方程组的相容性、通解与广义{1}-逆

2）相容线性方程组的极小范数解与广义{1,4}-逆

3）矛盾方程组的最小二乘解与广义{1,3}-逆

4）矛盾方程组的极小范数最小二乘解与广义逆矩阵A+

5）矩阵方程AXB = D的极小范数最小二乘解

5.约束广义逆和加权广义逆

1）约束广义逆

2）加权广义逆

6. Drazin广义逆

1）方阵的指标

2）Drazin逆

3）Drazin逆的谱性质

4）Drazin逆的计算方法

 

最后欢迎大家访问我的个人网站: 1024s