范数的理解

L0范数

L0范数是指向量中非0的元素的个数。如果我们用L0范数来规则化一个参数矩阵W的话，就是希望W的大部分元素都是0。

向量---L1范数

其表示向量元素绝对值之和。

向量---L2范数

其表示向量元素绝对值的平方和再开方。

向量----范数

其表示所有向量元素绝对值中的最大值。

向量---(-)-范数

其表示所有向量元素绝对值中的最小值。

向量---p-范数

向量元素绝对值的p次方和的1/p次幂。

矩阵---1-范数

其表示列和范数，即所有矩阵列向量绝对值之和的最大值。

矩阵---2-范数

其表示谱范数，即矩阵的最大特征值的开平方，其中表示的最大特征值。

矩阵----范数

其表示行和范数，即所有矩阵行向量绝对值之和的最大值。

矩阵---F-范数

其表示矩阵元素绝对值的平方和再开平方。

矩阵---核范数

其表示矩阵的奇异值之和，其中是矩阵A的奇异值。