曲线拟合、多元线性回归与梯度下降算法

曲线拟合

梯度下降算法

博主最近在弄研究生数学建模，题目中给出了几万条数据，多个参数（X1，X2，X3，X4，X5，X6）影响着最终我们的恒定量Y。这就促使我们走向机器学习里的一元或者多元线性回归问题。
博主对机器学习也是刚刚入门，对决策树和拟合不是太理解，就边学习边建模

梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的地方走，同理，如果我们的目标是上山，也就是爬到山顶，那么此时应该是朝着最陡峭的方向往上走。然后每走一段距离，都反复采用同一个方法，最后就能成功的抵达山谷。