【Pytorch】torch.nn.functional.normalize函数详解

1 函数作用

torch.nn.functional.normalize(input, p=2, dim=1, eps=1e-12, out=None)

  作用：将输入的数据（input）按照指定的维度(dim)做p范数(默认是2范数)运算，即将某一个维度除以那个维度对应的范数。
  更详细的来讲即：返回在指定维度上的输入数据input的L-p范数的标准化后的数据。（在指定维度上，该数据的每个元素除以其L-p范数）L-p范数：数学上的范数是指一个向量$x=(x_1,x_2,...,x_n)$的模。公式如下。
$$\Vert x\Vert =\sum _1^n{\left({\left(\left|x_i\right|\right)}^p\right)}^{\frac{1}{p}}$$

 参数意义

• input:输入任何形式的torch.tensor
• p :理解了L-p范数的定义，显然这里的p是用来指代L-p范数的。
• eps: 因为要除以L-p范数，为避免分母过于小，因此设定了一个阈值，其默认为1e-12

2 举例

  详细举例见参考文献【2】

3 参考文献

[1]pytorch函数之torch.nn.functional.normalize()
[2]torch.nn.functional.normalize详解