向量范数：1-范数、2-范数、无穷范数；矩阵范数；欧几里得度量
-
欧几里得度量
又称为欧几里得距离，指的是欧几里得空间中两点间“普通”（即直线）距离。使用这个距离，欧氏空间成为度量空间。相关联的范数称为欧几里得范数。较早的文献称之为毕达哥拉斯度量。
在欧几里得空间中，点 x = ( x 1 , . . . , x n ) x = (x_1,...,x_n) x=(x1,...,xn)和 y = ( y 1 , . . . , y n ) y = (y_1,...,y_n) y=(y1,...,yn)之间的欧氏距离为:
d ( x , y ) ： = ( x 1 − y 1 ) 2 + ( x 2 − y 2 ) 2 + ⋅ ⋅ ⋅ + ( x n − y n ) 2 d(x,y)：= \sqrt{(x_1-y_1)^2+(x_2-y_2)^2+\cdot\cdot\cdot+(x_n-y_n)^2} d(x,y)：=(x1−y1)2+(x2−y2)2+⋅⋅⋅+(xn−yn)2
向量 x ⃗ \vec{x} x的自然长度，即该点到原点的距离为
∣ ∣ x ⃗ ∣ ∣ 2 = ∣ x 1 ∣ 2 + ⋅ ⋅ ⋅ ∣ x n ∣ 2 ||\vec{x}||_2=\sqrt{|x_1|^2+\cdot\cdot\cdot|x_n|^2} ∣∣x∣∣2=∣x1∣2+⋅⋅⋅∣xn∣2
它是一个纯数值。在欧几里得度量下，两点之间线段最短。
-
范数（维基百科）
范数(norm)，是具有“长度”概念的函数。
- 1-范数：向量元素绝对值之和
∣ ∣ x ∣ ∣ 1 = ∑ i = 1 N ∣ x i ∣ ||x||_1 = \sum_{i=1}^{N}|x_i| ∣∣x∣∣1=i=1∑N∣xi∣
- 2-范数：Euclid范数（欧几里得范数，常用计算向量长度），即向量元素绝对值的平方和再开方
∣ ∣ X ∣ ∣ 2 = ∑ i − 1 N x i 2 ||X||_2=\sqrt{\sum_{i-1}^{N}x_i^2} ∣∣X∣∣2=i−1∑Nxi2
- + ∞ +\infty +∞范数：所有向量元素绝对值中的最大值
∣ ∣ X ∣ ∣ + ∞ = max i ∣ x i ∣ ||X||_{+\infty} = \max_{i}|x_i| ∣∣X∣∣+∞=imax∣xi∣
- − ∞ -\infty −∞范数：所有向量元素绝对值中的最小值
∣ ∣ X ∣ ∣ − ∞ = min i ∣ x i ∣ ||X||_{-\infty} = \min_{i}|x_i| ∣∣X∣∣−∞=imin∣xi∣
- p-范数：向量元素绝对值的p次方和的1/p次幂
∣ ∣ X ∣ ∣ p = ( ∑ i = 1 N ∣ x i ∣ p ) 1 p ||X||_p=(\sum_{i=1}^{N}|x_i|^p)^\frac{1}{p} ∣∣X∣∣p=(i=1∑N∣xi∣p)p1
-
矩阵范数
- 1-范数：列和范数，即所有矩阵列向量绝对值之和的最大值
- 2-范数：谱范数，即A’A矩阵的最大特征值的开平方
- ∞ \infty ∞范数：行和范数，即所有矩阵行向量绝对值之和的最大值
- F-范数：Frobenius范数，即矩阵元素绝对值的平方和再开平方
- 核范数：矩阵A的奇异值
-
Reference
- 0 范数、1 范数、2 范数有什么区别？