泰勒展开:一阶,二阶

泰勒展开式:

泰勒展开:一阶,二阶_第1张图片

x_{0}=0时,是麦克劳林公式 

麦克劳林公式:

看下图可以发现,当多项式的阶数达到一定的数值,会很接近幂函数。

泰勒展开:一阶,二阶_第2张图片

泰勒展开:一阶,二阶_第3张图片

GBDT的损失函数是一阶泰勒展开,XGB是二阶展开

梯度下降法与泰勒级数的关系:

梯度下降法背后的原理 - 知乎

梯度下降法和一阶泰勒展开的关系 - 知乎

 

你可能感兴趣的:(数学相关理论知识,机器学习,概率论,线性代数)