机器学习中的数学基础--高等数学基础(二)

机器学习中的数学基础--第二天

    • 多元函数
    • 偏导数
    • 方向导数
    • 可微
    • 梯度
    • 链式法则(多元函数)
    • Hessian 矩阵
    • 拉格朗日乘数法

多元函数

定义:
机器学习中的数学基础--高等数学基础(二)_第1张图片

ps.类似于一元函数,但因自变量更多,需考虑每一个自变量对因变量的影响.

偏导数

定义:

机器学习中的数学基础--高等数学基础(二)_第2张图片

方向导数

机器学习中的数学基础--高等数学基础(二)_第3张图片

ps.存在方向导数,但不一定存在偏导数,如z=√x²+y²,在0处就不存在偏导数.

可微

定义:在这里插入图片描述

梯度

定义:机器学习中的数学基础--高等数学基础(二)_第4张图片

链式法则(多元函数)

前置:雅可比矩阵
机器学习中的数学基础--高等数学基础(二)_第5张图片

定义:机器学习中的数学基础--高等数学基础(二)_第6张图片

Hessian 矩阵

机器学习中的数学基础--高等数学基础(二)_第7张图片
利用Hessian判定多元函数极值:
机器学习中的数学基础--高等数学基础(二)_第8张图片

拉格朗日乘数法

定义:在这里插入图片描述
机器学习中的数学基础--高等数学基础(二)_第9张图片

你可能感兴趣的:(机器学习数学基础,线性代数,机器学习,深度学习)