np.linalg.norm求范数函数用法以及归一化函数preprocessing.normalize()函数的使用

一、定义说明

1、linalg=linear线性

     algebra代数

      norm范数

范数是对向量（或者矩阵）的度量，是一个标量（scalar）

定义：这里以Cn空间为例，Rn空间类似。

最常用的范数就是p-范数。若

，那么

 

可以验证p-范数确实满足范数的定义。其中三角不等式的证明不是平凡的，这个结论通常称为闵可夫斯基(Minkowski）不等式。

当p取1，2，∞的时候分别是以下几种最简单的情形：

1-范数：║x║1=│x1│+│x2│+…+│xn│

2-范数：║x║2=（│x1│2+│x2│2+…+│xn│2）1/2

∞-范数：║x║∞=max（│x1│，│x2│，…，│xn│）

二、函数参数

x_norm=np.linalg.norm(x, ord=None, axis=None, keepdims=False)

（1）x: 表示矩阵

（2）ord：范数的类型。可赋值1,2，none。默认情况下，求2范数，即平方之和再开方。

（3）axis：行向量处理或列向量处理。

axis=1表示按行向量处理，求多个行向量的范数

axis=0表示按列向量处理，求多个列向量的范数

axis=None表示矩阵范数。

（4）keepding：是否保持矩阵的二维特性

True表示保持矩阵的二维特性，False相反

三、代码实现

import numpy as np
x = np.array([
[0, 3, 4],
[1, 6, 4]])

//默认参数ord=None，axis=None，keepdims=False

四、常见示例
"默认参数(矩阵整体元素平方和开根号，不保留矩阵二维特性)：",np.linalg.norm(x)
 "矩阵整体元素平方和开根号，保留矩阵二维特性：",np.linalg.norm(x,keepdims=True)
"矩阵每个行向量求向量的2范数：",np.linalg.norm(x,axis=1,keepdims=True)

"矩阵每个列向量求向量的2范数：",np.linalg.norm(x,axis=0,keepdims=True)
 "矩阵1范数：",np.linalg.norm(x,ord=1,keepdims=True)
 "矩阵2范数：",np.linalg.norm(x,ord=2,keepdims=True)
 "矩阵∞范数：",np.linalg.norm(x,ord=np.inf,keepdims=True)
"矩阵每个行向量求向量的1范数：",np.linalg.norm(x,ord=1,axis=1,keepdims=True)

五、归一化

归一化（Normalization）
归一化：将每个样本缩放到单位范数(每个样本的范数为1)，如果后面要使用如二次型（点积）或者其他核函数方法计算两个样本之间的相似性，这个方法会很有用。
Normalization主要思想是对每个样本计算其p-范数，然后对该样本中每个元素除以该范数，这样处理的结果是是的每个处理后样本的p-范数（L1-norm, L2-norm）等于1。
p-范数的计算公式：||x||p=(|x1|^p+|x2|^p+…+|xn|^p)^(1/p)
该方法主要应用在文本分类和聚类中。例如，对于两个TF-IDF向量的I2-norm进行点积，就可以得到这两个向量的余弦相似性。

1.可以使用preprocessing.normalize()函数对指定数据进行转换。

X=  [[ 1., -1.,  2.],
    [ 2.,  0.,  0.],
    [ 0.,  1., -1.]]
X_normalized = preprocessing.normalize(X, norm='l2')
X_normalized
array([[ 0.40..., -0.40...,  0.81...],
       [ 1.  ...,  0.  ...,  0.  ...],
       [ 0.  ...,  0.70..., -0.70...]])

怎么算出来的呢？

按行算：
[1,-1,2]的L2范数是(1^2+(-1)^2+2^2)^(1/2)=6^(1/2)=2.45
第一行的每个元素除以L2范数，得到：
[1/2.45, -1/2.45, 2/2.45] = [0.4, -0.4, 0.8..]
第二行和第一行一样，也是算自己的L2范数：(2^2+0^2+0^2)^(1/2)=2,
[ 2/2,  0/2,  0/2]=[1,0,0]……

 

六、参考资料：

https://baike.baidu.com/item/%E8%8C%83%E6%95%B0/10856788?fr=aladdin

 https://www.cnblogs.com/klausage/p/12268093.html

https://blog.csdn.net/power0405hf/article/details/53456162   包含标准化,归一化和正则化的概念和使用