导数对机器学习算法的作用

导数对机器学习算法的作用

• 1.基本概念
• 2.引题
• 3.推导过程

1. 引题

导数本质： 导数的本质是通过极限的概念对函数进行局部的线性逼近,导数实质上就是一个求极限的过程。以下为推导公式：

求导作用： 可以得到一些问题的极大值与极小值

2.引题

假设某披萨店的披萨价格和披萨直径之间有下列数据关系：
训练样本

训练样本	直径（英寸）	价格（美元）
1	6	7
2	8	9
3	10	13
4	14	17.5
5	18	18

假设某披萨店的披萨价格和披萨直径之间有下列数据关系：
根据上面的训练数据，我们能否推断(预测)出某个直径的披萨可能的售价呢？例如，12英寸的披萨可能售卖多少钱？

---

通过上述问题，我们需要推断出某个直径的披萨可能的售价，就需要得到一个符合训练样本的线性回归函数。即如图所示：

我们最终得到的线性回归函数必须符合所有的训练数据都与这条线的直线距离最小，就是最终我们需要得到的回函数。那么这样的函数该怎样得到？

3.推导过程

带入训练数据：
xTrain = np.array([6,8,10,14,18])
yTrain = np.array([7,9,13,17.5,18])
通过下面的公式得到x,θ
f(x,θ)=(6x+θ0-7)²+(8x+θ0-9)²+(10x+θ0-13)²+(14x+θ0-17.5)²+(18x+θ0-18)²
即我们需要得到一个极小值来创造出一个符合我们预期的线性回归函数。那么极小值该怎样求取？
通过对该算法进行求导，令f’=0,即可求得符合我们预期的极值。

---