计算方法 - 向量与矩阵的范数

向量的范数：

向量的范数可以简单形象的理解为向量的长度，或者向量到零点的距离，或者相应的两个点之间的距离。

向量的范数定义：

向量的范数是一个函数||x||, 满足:

非负性: ||x|| >= 0
齐次性: ||cx|| = |c| * ||x||
三角不等式: ||x+y|| <= ||x|| + ||y||

常用的向量的范数：

L1范数: ||x|| 为x向量各个元素绝对值之和。
L2范数: ||x||为x向量各个元素平方和的1/2次方，L2范数又称Euclidean范数或者Frobenius范数
Lp范数: ||x||为x向量各个元素绝对值p次方和的1/p次方
L∞范数: ||x||为x向量各个元素绝对值最大那个元素的绝对值，如下：

$$\underset{k->\infty }{\lim }(\sum _{i=1}^n|p_i-q_i{|}^k{)}^{1/k}$$

矩阵的范数定义：

矩阵A的某个实值函数N（A）== ||A||, 满足:

非负性: ||A|| >= 0 且 ||A||| = 0的充分必要条件是A= 0
齐次性: ||aA|| = |a| * ||A||
三角不等式: ||A+B|| <= ||A|| + ||B||
矩阵乘法不等式：||AB|| <= ||A|| * ||B||

矩阵、向量乘法相容性：

||AX|| <= ||A|| * ||X||

矩阵A的实值函数：
$$||A|{|}_r=\underset{x!=0}{\max }\frac{||AX|{|}_r}{||X|{|}_r}$$
$$||AB|{|}_r=\underset{x!=0}{\max }\frac{||(AB)X|{|}_r}{||X|{|}_r}<=||A|{|}_r||B|{|}_r$$

常用的矩阵的算子范数：