什么是范数(Norm),其具有哪些性质

文章目录

  • 直观的感受一下范数
  • 范数的定义
  • 直观的感受下范数的边界图像
  • 范数的性质
  • 参考资料

直观的感受一下范数

先直观的感受一下二维空间的范数,假设在二维空间的向量为 v = ( x , y ) \bold{v} =(x,y) v=(x,y)

则v的1范数为

∣ ∣ v ∣ ∣ 1 = ∣ ∣ ( x , y ) ∣ ∣ 1 = ∣ x ∣ + ∣ y ∣ = ( ∣ x ∣ 1 + ∣ y ∣ 1 ) 1 1 ||\bold{v}||_1 =||(x,y)||_1 = |x| + |y| = (|x|^1+|y|^1)^\frac{1}{1} v1=(x,y)1=x+y=(x1+y1)11

v的2范数为

∣ ∣ v ∣ ∣ 2 = ∣ ∣ ( x , y ) ∣ ∣ 2 = ∣ x ∣ 2 + ∣ y ∣ 2 = ( ∣ x ∣ 2 + ∣ y ∣ 2 ) 1 2 ||\bold{v}||_2 =||(x,y)||_2 = \sqrt{|x|^2 + |y|^2} = (|x|^2+|y|^2)^\frac{1}{2} v2=(x,y)2=x2+y2 =(x2+y2)21

v的3范数为

∣ ∣ v ∣ ∣ 3 = ∣ ∣ ( x , y ) ∣ ∣ 3 = ∣ x ∣ 3 + ∣ y ∣ 3 3 = ( ∣ x ∣ 3 + ∣ y ∣ 3 ) 1 3 ||\bold{v}||_3 =||(x,y)||_3 = \sqrt[3]{|x|^3 + |y|^3} = (|x|^3+|y|^3)^\frac{1}{3} v3=(x,y)3=3x3+y3 =(x3+y3)31

推广后,得v的p范数为

∣ ∣ v ∣ ∣ p = ∣ ∣ ( x , y ) ∣ ∣ p = ∣ x ∣ p + ∣ y ∣ p p = ( ∣ x ∣ p + ∣ y ∣ p ) 1 p ||\bold{v}||_p =||(x,y)||_p = \sqrt[p]{|x|^p + |y|^p} = (|x|^p+|y|^p)^\frac{1}{p} vp=(x,y)p=pxp+yp =(xp+yp)p1

p = ∞ p=\infin p= 时,有些区别,v的无穷范数为

∣ ∣ v ∣ ∣ ∞ = ∣ ∣ ( x , y ) ∣ ∣ ∞ = m a x ( ∣ x ∣ , ∣ y ∣ ) ||\bold{v}||_\infin =||(x,y)||_\infin = max(|x|, |y|) v=(x,y)=max(x,y)

为无穷范数时,是从x,y的绝对值中挑出一个大的

范数的定义

感受过二维向量的范数后,将其扩展到n维向量后,向量 x x x的范数为:

向量 x x x1范数

∣ ∣ x ∣ ∣ 1 = ∑ i = 1 n ∣ x i ∣ ||x||_1 = \sum_{i=1}^n|x_i| x1=i=1nxi

向量 x x x2范数
∣ ∣ x ∣ ∣ 2 = ( ∑ i = 1 n ∣ x i ∣ 2 ) 1 2 ||x||_2 = (\sum_{i=1}^n|x_i|^2)^\frac{1}{2} x2=(i=1nxi2)21

向量 x x xp范数
∣ ∣ x ∣ ∣ p = ( ∑ i = 1 n ∣ x i ∣ p ) 1 p      1 ≤ p < ∞ ||x||_p = (\sum_{i=1}^n|x_i|^p)^\frac{1}{p} ~~~~ 1 \le p < \infin xp=(i=1nxip)p1    1p<

注意p的范围:①p不能等于无穷,对于无穷范数有额外的定义;②p可以是小数

向量 x x x无穷范数

∥ x ∥ ∞ = max ⁡ 1 ≤ i ≤ n ∣ x i ∣ \|x\|_{\infty}=\max _{1 \leq i \leq n}\left|x_{i}\right| x=1inmaxxi

直观的感受下范数的边界图像

定义范数后,可以直观的感受下二维范数的边界图像,即 ∥ ( x , y ) ∥ p ≤ 1 \|(x,y)\|_p\le1 (x,y)p1 的函数图像。

1范数时的边界图像( ∣ x ∣ + ∣ y ∣ = 1 |x|+|y|=1 x+y=1 的图像)为:
什么是范数(Norm),其具有哪些性质_第1张图片

菱形边界是函数 ∣ x ∣ + ∣ y ∣ = 1 |x|+|y|=1 x+y=1 函数图像,菱形内部满足 ∣ x ∣ + ∣ y ∣ < 1 |x|+|y| < 1 x+y<1。其他范数同理

2范数时的边界图像( ∣ x ∣ 2 + ∣ y ∣ 2 = 1 \sqrt{|x|^2+|y|^2}=1 x2+y2 =1 的图像)为:

什么是范数(Norm),其具有哪些性质_第2张图片

可以通过GeoGebra p-norm ball,自己感受下不同范数下的边界图像

通过感受不同范数的图像最终可以发现如下图所示的规律,即范数越大,图像越方。同时容易明白,为什么二维无穷范数的定义是 m a x ( ∣ x ∣ , ∣ y ∣ ) max(|x|, |y|) max(x,y)
什么是范数(Norm),其具有哪些性质_第3张图片

对于三维空间,那就是遵循下图的变化:
什么是范数(Norm),其具有哪些性质_第4张图片

范数的性质

  1. 正定型: ∥ x ∥ ≥ 0 \|x\| \ge0 x0 ,当且仅当 x = 0 x=0 x=0时, ∥ x ∥ = 0 \|x\|=0 x=0
  2. 齐次性: ∥ λ x ∥ = ∣ λ ∣ ∥ x ∥ \|\lambda x\|=|\lambda|\|x\| λx=λx, 其中 λ ∈ R \lambda \in R λR
  3. 三角不等式: ∥ x + y ∥ ≤ ∥ x ∥ + ∥ y ∥ , ∀ x , y ∈ C n \|x+y\| \leq\|x\|+\|y\|, \forall x, y \in C^{n} x+yx+y,x,yCn
  4. ∥ 0 ∥ = 0 \|0\|=0 0=0
  5. x ≠ 0 x\neq0 x=0 时, ∥ 1 ∥ x ∥ x ∥ = 1 \|\frac{1}{\|x\|}x \|=1 x1x=1
  6. 对任意的 x ∈ C n x\in C^n xCn,有 ∥ − x ∥ = ∥ x ∥ \|-x\|=\|x\| x=x
  7. 对任意的 x , y ∈ C n x, y\in C^n x,yCn,有 ∣   ∥ x ∥ − ∥ y ∥   ∣ ≤ ∥ x − y ∥ |~\|x\|-\|y\|~| \le \|x-y\|  xy xy





参考资料

GeoGebra p-norm ball:https://www.geogebra.org/m/pyxfvyyk

第八课:向量的范数:https://zhuanlan.zhihu.com/p/30279795

你可能感兴趣的:(机器学习,线性代数,机器学习,几何学)