python求矩阵范数_向量范数详解+代码实现

fd70d5746add21be84774a0ad1f5103b.png

点击菜单栏“粉丝福利”

拿小度,兑手机!

作者:张家豪 来源:人工智能学习圈

1

向量范数是什么?

两个标量我们可以比较大小,比如1,2,我们知道2比1大。 但是现在如果是两个向量 (1,2,1) (2,2,0),我们如何比较大小呢? 此时我们把一个向量通过不同的方法,映射到一个标量,从而可 以比较大小,这个标量学名就叫做“范数”。 向量范数也可以分为0范数,1范数,2范数,p范数,∞范数等。 向量范数 为方便理解,在介绍向量范数之前,我们先定义一个简单向量: b63c317bd626adaf06b3328e8b7f87c8.png 0-范数 向量0-范数表示向量非零元的个数。 python求矩阵范数_向量范数详解+代码实现_第1张图片 1-范数 f320f9c8c8ed7287c6a778d8d26daf1d.png 向量1-范数也就是求X向量各元素之和。 python求矩阵范数_向量范数详解+代码实现_第2张图片 2-范数 509e9a319b406bc07ddd6a4cb964895c.png 向量2-范数又欧几里德范数,也就是求X向量各元素平方和,再开方。 python求矩阵范数_向量范数详解+代码实现_第3张图片 p-范数 1ec49c0fd15e161f8fa52c766a366042.png 向量p-范数也就是求X向量各元素绝对值的p次方之和,再开p次方。 python求矩阵范数_向量范数详解+代码实现_第4张图片 ∞-范数 98133c5f8875fced21b77e7321fc7209.png 所有向量元素绝对值的最大值。 python求矩阵范数_向量范数详解+代码实现_第5张图片 -∞-范数 c952d2045a834904719b6fff2e7fa781.png 所有向量元素绝对值的最小值。 python求矩阵范数_向量范数详解+代码实现_第6张图片 向量范数毕竟是一维的,总体上来说还是易于理解的,接下来我们看看二维矩阵的范数情况~

2

向量范数的性质

python求矩阵范数_向量范数详解+代码实现_第7张图片

3

范数在机器学习中的应用

机器学习中常用L1范数和L2范数来进行正则化,因为机器学习中往往需要最小化损失函数Loss function, 而最小化Loss function的过程中,模型参数不加以限制就容易导致过拟合,所以我们使用L1范数和L2范数把参数向量转化成一个可以度量的标量,同时加上最小化的约束,就达到了控制模型参数的 目的从而防止过拟合。
原文链接: https://zhuanlan.zhihu.com/p/139386468

python求矩阵范数_向量范数详解+代码实现_第8张图片

db2c8f4b321c81a933a5973eb4623248.png 4082527b68fc3b13b54a943f4bb1a473.png ed3fa95364c131c8373e061e85e3976f.png 250785a4e54228128a7c1cdd46f20c28.png e9166da32ee390b8a61bc6324404fc86.png python求矩阵范数_向量范数详解+代码实现_第9张图片

你可能感兴趣的:(python求矩阵范数)