吴恩达机器学习课程课时12梯度下降算法中参数θ0,θ1求偏导

最近学习吴恩达的机器学习课程。

看到了线性回归的梯度下降算法。课程中将了一个非常简单的线性回归:

比如给出一些房子的size和对应的price,我们可以建立一个模型(在此模型就是线性回归),

希望之后在给出任意一个房子的size,可以比较准确的预测到房子的价格。

课程中的假设函数、参数、代价函数如下:

吴恩达机器学习课程课时12梯度下降算法中参数θ0,θ1求偏导_第1张图片

然后下节视频讲到梯度下降算法,希望通过不断迭代使找到θ0,θ1使代价函数值最小。

在 xOy 平面内,当动点由 P(x0,y0) 沿不同方向变化时,函数 f(x,y) 的变化快慢一般说来是不同的,

因此就需要研究 f(x,y) 在 (x0,y0) 点处沿不同方向的变化率。

从一个(θ0,θ1)到一个新的点,需要求偏导数,课程中直接给出θ0和θ1的偏导。

吴恩达机器学习课程课时12梯度下降算法中参数θ0,θ1求偏导_第2张图片

作为一个有强迫症的人,好像不亲自求一下,总感觉中间缺了点什么,所以自己手算了一下偏导。

同时也可以让数学不好的同学知道这两个偏导数是怎么来的。

作为一个多元函数,必须未知数有x,y,z......,如果想要对x求偏导,那么只需将其他未知数当作常数,

对x求导即可。

x^a 的倒数是  a*x^(a-1)

a*x 的倒数是  a

常数的倒数是0

则针对代价函数,对θ0,θ1求偏导的过程如下。

 

 

你可能感兴趣的:(数学相关)