机器学习--数学基础

课堂学习笔记

  • 机器学习---数学基础一
    • 机器学习与数学分析
    • 概率论与贝叶斯先验
      • 概率论基础
      • 统计量
        • 期望/方差/协方差/相关系数
        • 独立和不相关
      • 大数定律
      • 中心极限定理
      • 最大似然估计
        • 过拟合

机器学习—数学基础一

机器学习与数学分析

什么是方向导数
  方向导数是梯度向量的重要应用。
  w = w(x, y)的偏导wx和wy衡量了点在x轴和y轴移动时w的变化,那么如果在其它方向移动呢?是否在任意方向上都有一个导数呢?答案是肯定的,那就是方向导数。
机器学习--数学基础_第1张图片
梯度:
机器学习--数学基础_第2张图片

概率论与贝叶斯先验

概率论基础

  • 条件概率: P ( A ∣ B ) = P ( A B ) P ( B ) P(A|B)= \frac{P(AB)}{P(B)} P(AB)=P(B)P(AB)
  • 全概率公式: P ( A ) = ∑ i P ( A ∣ B i ) P ( B i ) P(A)=\sum_{i}{P(A|B_i)P(B_i)} P(A)=iP(ABi)P(Bi)
  • 贝叶斯公式: P ( B i ∣ A ) = P ( A ∣ B i ) P ( B i ) ∑ j P ( A ∣ B j ) P ( B j ) P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{j}{P(A|B_j)P(B_j)}} P(BiA)=jP(ABj)P(Bj)P(ABi)P(Bi)

统计量

期望/方差/协方差/相关系数

独立和不相关

大数定律

中心极限定理

最大似然估计

过拟合

你可能感兴趣的:(数学基础,数学基础)