机器学习总结

(1)x(2) 表示训练集中x的第二个训练数据,y(2) 表示训练集中的y的第二个训练数据

(2)需要注意的是对于一个模型构建出来的函数F,那么我们如何找出该模型的可以更好拟合训练数据的模型参数呢,我们通过使用代价函数(cost function),通过计算不同的参数得到的预测值y和最终结果y之间的误差大小来最终确定应该如何选择最佳的参数。

(3)梯度下降算法被用来寻找使得代价函数J的最小值,从而确定其此时对应的各个坐标轴的值。

(4)对于梯度下降算法,使用的不断的更新当前的各个参数的方法,也就是使用当前的参数减去一个适当学习率α*对于该参数的偏导,

机器学习总结_第1张图片

这样有利于确定当以各个参数为自变量时的局部最小值,当我们设置的初始位置在上升的曲线位置时,此时,对于该参数的偏导数为正数,又因为α的取值范围在0~1(为正数),所以,此时属于w或者b减去α*一个正数,因而结果肯定是使得w或者b的值减少的;反之亦然,当我们设置的初始值在下降的曲线位置时,此时,对于相应参数的偏导数为负数

你可能感兴趣的:(机器学习,数据分析,数据挖掘)