机器学习之特征收缩与归一化

文章目录

  • 问题的引出
  • 一、特征收缩是什么?
  • 二、特征收缩程度
  • 三、归一化
  • 总结


问题的引出

在一次梯度下降中是曲折前进的,但是有一个问题就是特征值的大小是不一定,这会导致要迭代很多遍。这时就要用到特征收缩这一个方法(归一化)
引用我在B站学习的视频里面的图:
机器学习之特征收缩与归一化_第1张图片


一、特征收缩是什么?

就是将特征值(X)全部整体放大缩小使得全部在一个范围能够更好的找到代价函数的最小值,是的迭代次数变小

引用我在B站学习的视频里面的图:
机器学习之特征收缩与归一化_第2张图片

二、特征收缩程度

一般放缩到-3到3左右即可,但是不能太小不能小于0.333左右,道理和太大了一样,会让迭代次数变得非常多,使得程序不断运行

引用我在B站学习的视频里面的图:
机器学习之特征收缩与归一化_第3张图片

三、归一化

引用我在B站学习的视频里面的图:
机器学习之特征收缩与归一化_第4张图片

指的是,特征值减去该组数据的平均值除以最大值减去最小值


总结

这是一种在梯度下降的注意技巧

你可能感兴趣的:(机器学习,学习,机器学习,人工智能,深度学习)