基于梯度下降的线性回归（Gradient Descent For Linear Regression）

• 概述：
  梯度下降是很常用的算法，它不仅被用在线性回归上和线性回归模型、平方误差代价函数。在本次，我们要将梯度下降和代价函数结合。我们将用到此算法，并将其应用于具体的拟合直线的线性回归算法里。
  梯度下降算法和线性回归算法比较如图（左边梯度下降，右边是线性回归的目标函数以及代价函数）：
  
• 计算相关公式：
  对我们之前的线性回归问题运用梯度下降法，关键在于求出代价函数的导数，将右边线性回归的函数带入到左边的梯度下降算法中，即：
  
  带入求导计算后，则算法改写成：
  
• 使用公式：
  最后，通过这个算法公式，去不断迭代得到和，当得到的这两个参数使得代价函数为最小值，那么此时说明线性回归函数拟合成功。

参考内容：
吴恩达-机器学习
机器学习笔记