归一化的几种方法

归一化

1 归一化含义

1.1 定义

​ 归一化是通过一定的算法处理，将原本离散的数据，限制在一定范围内。

1.2 优点

​ 1.数据分布更规范，使得梯度下降算法更有效，加快求得最优解的速度

​ 2.提高精度

2 归一化的方法

2.1 线性归一化

​ 通过线性变化，将输入值限定在(0,1)之间

$$x^{\prime }=\frac{x-min(x)}{max(x)-min(x)}$$

2.2 标准差归一化

求得数据集的均值和标准差，通过算法处理，将数据集标准化，处理过后的数据符合标准正态分布，均值为0，标准差为1

$$\begin{gathered} 均值： \\ \mu =\frac{1}{m}\sum _{i=1}^m{x}_i \\ 标准差: \\ \sigma =\sqrt{\frac{1}{m}\sum _{i=1}^m(x_i-\mu {)}^2} \\ 转换函数: \\ {x}^{\prime }=\frac{x-\mu }{\sigma } \end{gathered}$$

2.3 非线性归一化

通过使用一些log，指数，正切等函数转换，这种应用在数据差距较大的情况。