一、定义说明
1、linalg=linear线性
algebra代数
norm范数
范数是对向量(或者矩阵)的度量,是一个标量(scalar)
定义:这里以Cn空间为例,Rn空间类似。
可以验证p-范数确实满足范数的定义。其中三角不等式的证明不是平凡的,这个结论通常称为闵可夫斯基(Minkowski)不等式。
当p取1,2,∞的时候分别是以下几种最简单的情形:
1-范数:║x║1=│x1│+│x2│+…+│xn│
2-范数:║x║2=(│x1│2+│x2│2+…+│xn│2)1/2
∞-范数:║x║∞=max(│x1│,│x2│,…,│xn│)
二、函数参数
x_norm=np.linalg.norm(x, ord=None, axis=None, keepdims=False)
(1)x: 表示矩阵
(2)ord:范数的类型。可赋值1,2,none。默认情况下,求2范数,即平方之和再开方。
(3)axis:行向量处理或列向量处理。
axis=1表示按行向量处理,求多个行向量的范数
axis=0表示按列向量处理,求多个列向量的范数
axis=None表示矩阵范数。
(4)keepding:是否保持矩阵的二维特性
True表示保持矩阵的二维特性,False相反
三、代码实现
import numpy as np
x = np.array([
[0, 3, 4],
[1, 6, 4]])
//默认参数ord=None,axis=None,keepdims=False
四、常见示例
"默认参数(矩阵整体元素平方和开根号,不保留矩阵二维特性):",np.linalg.norm(x)
"矩阵整体元素平方和开根号,保留矩阵二维特性:",np.linalg.norm(x,keepdims=True)
"矩阵每个行向量求向量的2范数:",np.linalg.norm(x,axis=1,keepdims=True)
"矩阵每个列向量求向量的2范数:",np.linalg.norm(x,axis=0,keepdims=True)
"矩阵1范数:",np.linalg.norm(x,ord=1,keepdims=True)
"矩阵2范数:",np.linalg.norm(x,ord=2,keepdims=True)
"矩阵∞范数:",np.linalg.norm(x,ord=np.inf,keepdims=True)
"矩阵每个行向量求向量的1范数:",np.linalg.norm(x,ord=1,axis=1,keepdims=True)
五、归一化
归一化(Normalization)
归一化:将每个样本缩放到单位范数(每个样本的范数为1),如果后面要使用如二次型(点积)或者其他核函数方法计算两个样本之间的相似性,这个方法会很有用。
Normalization主要思想是对每个样本计算其p-范数,然后对该样本中每个元素除以该范数,这样处理的结果是是的每个处理后样本的p-范数(L1-norm, L2-norm)等于1。
p-范数的计算公式:||x||p=(|x1|^p+|x2|^p+…+|xn|^p)^(1/p)
该方法主要应用在文本分类和聚类中。例如,对于两个TF-IDF向量的I2-norm进行点积,就可以得到这两个向量的余弦相似性。
1.可以使用preprocessing.normalize()函数对指定数据进行转换。
X= [[ 1., -1., 2.],
[ 2., 0., 0.],
[ 0., 1., -1.]]
X_normalized = preprocessing.normalize(X, norm='l2')
X_normalized
array([[ 0.40..., -0.40..., 0.81...],
[ 1. ..., 0. ..., 0. ...],
[ 0. ..., 0.70..., -0.70...]])
怎么算出来的呢?
按行算:
[1,-1,2]的L2范数是(1^2+(-1)^2+2^2)^(1/2)=6^(1/2)=2.45
第一行的每个元素除以L2范数,得到:
[1/2.45, -1/2.45, 2/2.45] = [0.4, -0.4, 0.8..]
第二行和第一行一样,也是算自己的L2范数:(2^2+0^2+0^2)^(1/2)=2,
[ 2/2, 0/2, 0/2]=[1,0,0]……
六、参考资料:
https://baike.baidu.com/item/%E8%8C%83%E6%95%B0/10856788?fr=aladdin
https://www.cnblogs.com/klausage/p/12268093.html
https://blog.csdn.net/power0405hf/article/details/53456162 包含标准化,归一化和正则化的概念和使用