数据标准化 VS 数据归一化

数据标准化

目的

• 将数据转换为均值为0，标准差为1的分布。

方法

• 对于每个特征，从其值中减去特征的平均值，然后除以特征的标准差。
• 公式：
  $标准化值=\frac{(原始值-平均值)}{标准差}$

应用场景

• 当数据的分布接近正态分布时，标准化特别有效。
• 适用于大多数机器学习算法，特别是那些对数据尺度敏感的算法，如支持向量机（SVM）、K最近邻（KNN）和主成分分析（PCA）。

优点

• 保持数据中的异常值。
• 使数据在不同特征间具有可比性。

缺点

• 不保留数据中的原始尺度和距离关系。

数据归一化

目的

• 将数据缩放到一个固定的范围，通常是0到1或-1到1。

方法

• 将数据按比例缩放，使其落入一个设定的最小值和最大值之间。
  公式（0到1范围）：
  $归一化值=\frac{(最大值-最小值)}{(原始值-最小值)}$
  ​

应用场景

• 当需要保留原始数据中的比例关系时，归一化是一个好选择。
• 适用于不要求数据具有正态分布特性的算法，如神经网络和距离度量算法。

优点

• 保留了数据中的原始比例关系。
• 使数据适用于需要固定范围输入的算法。

缺点

• 可能会因为异常值的存在而失去一些有用的信息。

总结

• 标准化更注重数据的分布特性，使数据在不同特征间具有可比性，但不保留原始尺度。
• 归一化更注重保留数据的原始比例关系，适用于需要固定范围输入的算法，但可能受异常值的影响较大。