矩阵论学习笔记二：范数理论及其应用
参考书：《矩阵论》第3版，程云鹏 张凯院 徐仲编著 西北工业大学出版社
1. 研究范数理论的意义：研究数值方法的收敛性、稳定性及误差分析等问题时，范数理论显得十分重要
2. 向量范数及其性质
1）向量范数的概念及lp范数
a）向量数列收敛
向量数列收敛（向量序列有极限）：设给定了n维向量空间中的向量序列....
向量的长度可用来刻画收敛的性质：若向量序列收敛于向量x，则该向量序列的元素与x的差的欧式长度收敛于零；反之，若有一向量的欧式长度收敛于零，则它的每一分两一定收敛于零，从而该向量序列收敛于零
b）向量的范数定义
定义2.1 如果V是数域K上的线性空间，且对于V的任一向量x，对应一个实值函数||x||，它满足以下三个条件：非负性、齐次性、三角不等式，则称||x||为V上向量x的范数，简称向量范数
向量范数是线性空间的向量的分量的连续函数
c）向量的p-范数（lp范数）
定义
2-范数
1-范数
无穷范数
加权范数（椭圆范数）
向量的p-范数（另一定义）：给定n维线性空间V的基x1,...,xn，设向量x属于V，x在该基下的坐标向量x* = （a1,...,an），那么||x||p=||x*||p
2）n维线性空间V上的向量范数的等价性
a）各种向量范数间的关系
定理2.1：c1*||x||b <= ||x||a <=c2*||x||b
b）范数等价定义2.2
c）定理2.2（向量序列收敛到向量x的充要条件）
尽管不同的向量范数可能具有不同的大小，但在各种范数下考虑向量序列的收敛问题时，却表现出明显的一致性。若向量序列对某一种范数收敛，且极限为向量x，则对其他范数这个序列仍然收敛，并且具有相同的极限
3. 矩阵的范数
1）矩阵范数的定义与性质
a）矩阵范数（定义2.3）
矩阵的广义矩阵范数：实值函数；满足非负性、齐次性、三角不等式
矩阵范数：满足矩阵的广义矩阵范数的条件和相容性
矩阵序列的收敛于矩阵A的充要条件是该矩阵序列的元素与A差的矩阵范数收敛于实值0
b）矩阵范数与向量范数的形容性
在数值方法中进行某种估计时，遇到的多数情况是矩阵范数常与向量范数混合在一起使用，而矩阵常是作为另个线性空间的线性映射（变换）出现的。因此考虑一些矩阵范数时，应该使他能与向量范数联系起来
定义2.4（矩阵范数与向量范数相容）：同类范数；||Ax||v <= ||A||m*||x||v
c）Frobenius范数（F-范数）
定义：||A||F = sqrt(tr(AH*A))
定理2.3 ：矩阵A左乘或右乘酋矩阵后，其F-范数值不变（A为实矩阵时，则左乘或右乘正交矩阵）
定理2.3推论：和矩阵A酋相似（正交相似）的矩阵的F-范数是相同的
2）几种常用的矩阵范数
a）从属范数
给出一种规定矩阵的具体方法，使矩阵范数与已知的向量范数相容
定理2.4：同类范数，当||向量x|| = 1时，||矩阵A|| = max(||Ax||)
矩阵范数与向量范数密切相关，有什么样的向量范数就有什么样的矩阵范数
b）常用的矩阵范数
定理2.5（从属于向量的1-范数、2-范数、无穷范数的矩阵范数）：列和范数、谱范数（AH*A）、行和范数
F-范数||A||F = sqrt(矩阵中所有（i，j）元模值平方之和) = tr(AH*A)
c）从属范数和所有满足定义2.3的矩阵范数都是等价的
4. 范数的一些应用
1）矩阵的非奇异性条件
a）定理2.6：设A是n*n复空间的矩阵，且对其上的某种矩阵范数有||A||<1，则矩阵 I-A 非奇异，且有||(I-A)逆矩阵|| <= （|| I ||/(1-||A||)）
b）定理2.7：设A是n*n复空间的矩阵，且对其上的某种矩阵范数有||A||<1，则 ||I-(I-A)逆矩阵|| <= ||A||/(1-||A||)
2）近似逆矩阵的误差-逆矩阵的摄动
a）定理2.8
b）矩阵的条件数：cond(A) = ||A|| * ||A逆矩阵||
3）矩阵的谱半径及其性质
a）矩阵的谱半径在特征值估计、广义逆矩阵、数值分析以及数值代数等理论的建树中，都占有极其重要的地位
b）矩阵的谱半径
定义2.5：特征值绝对值的最大值
定理2.9：矩阵的谱半径小于或等于该矩阵的任何一种矩阵范数
矩阵A的k次幂的谱半径等于矩阵A谱半径的k次幂
对于任意非奇异矩阵A有A的2-范数等于sqrt(矩阵AH*A的谱范数)，当A是Hermite矩阵时，则A的2-范数等于A的谱半径
c）谱范数||A||2一般与谱半径可能相差很大
定理2.10： 任意正数c、存在某种矩阵范数||*||m（与给定的矩阵密切相关），使得||A||m <= A的谱半径+c