向量范数和矩阵范数

范数

  范数(norm)是数学中的一种基本概念。在泛函分析中，它定义在赋范线性空间中，并满足一定的条件，即 ①非负性；②齐次性；③三角不等式。它常常被用来度量某个向量空间（或矩阵）中的每个向量的长度或大小。范数，是具有“长度”概念的函数。在线性代数、泛函分析及相关的数学领域，范数是一个函数，是矢量空间内的所有矢量赋予非零的正长度或大小。半范数可以为非零的矢量赋予零长度。

总的来说，范数的定义就是一种具有“长度”概念的函数

一、向量范数

总体公式

举例 先定义一个向量为： .

1.1 向量的1范数

即 p=1   也就是向量的各个元素的绝对值之和。

那么上述向量 .

1.2 向量的2范数

即 p=2 向量的每个元素的平方和再开平方根，也就是欧氏距离。

那么上述向量 .

1.3 向量的无穷范数

即  , 向量的所有元素的绝对值中最大的。

 

那么上述向量 .

二、矩阵范数

举例 矩阵

                      

2.1  矩阵的L0范数

         矩阵的L0范数即：矩阵的非0元素的个数，通常用它来表示稀疏，L0范数越小0元素越多，也就越稀疏，上述矩阵A最终结果就是4.

2.2 矩阵的L1范数

        矩阵的L1范数即：矩阵中的每个元素绝对值之和，它是L0范数的最优凸近似，因此它也可以表示稀疏，上述矩阵A最终结果就是13.

2.3 矩阵的F范数

         矩阵的F范数即：矩阵的各个元素平方之和再开平方根，它通常也叫做矩阵的L2范数，它的有点在它是一个凸函数，可以求导求解，易于计算，上述矩阵A最终结果就是：.

2.4 矩阵的1范数(列和范数)

        矩阵的1范数（列和范数，列模）() ,即：矩阵的每一列上的元素绝对值先求和，再从中取个最大的，（列和最大），上述矩阵A的1范数先得到[5,8]，再取最大的最终结果就是8.

2.5 矩阵的2范数(谱范数)

        矩阵的2范数（谱范数，谱模）, 即：矩阵的最大特征值开平方根，上述矩阵A的2范数得到的最终结果是：7.545179782593587.

2.6 矩阵的无穷范数(行和范数)

        矩阵的1范数（行和范数，行模），即：矩阵的每一行上的元素绝对值先求和，再从中取个最大的，（行和最大），上述矩阵A的1范数先得到[3,10]，再取最大的最终结果就是10.

2.7 矩阵的核范数

        矩阵的核范数即：矩阵的奇异值（将矩阵svd分解）之和，这个范数可以用来低秩表示（因为最小化核范数，相当于最小化矩阵的秩——低秩），上述矩阵A最终结果就是：7.810249675906655.

2.8 矩阵的L21范数

        矩阵的L21范数即：矩阵先以每一列为单位，求每一列的F范数（也可认为是向量的2范数），然后再将得到的结果求L1范数（也可认为是向量的1范数），很容易看出它是介于L1和L2之间的一种范数，上述矩阵A最终结果就是：10.4476609.

参考博客

https://blog.csdn.net/Michael__Corleone/article/details/75213123

https://blog.csdn.net/qq_35154529/article/details/82754157

https://blog.csdn.net/tinkle2015/article/details/85106003