机器学习--数学基础

机器学习—数学基础一

机器学习与数学分析

什么是方向导数
　　方向导数是梯度向量的重要应用。
　　w = w(x, y)的偏导wx和wy衡量了点在x轴和y轴移动时w的变化，那么如果在其它方向移动呢？是否在任意方向上都有一个导数呢？答案是肯定的，那就是方向导数。

梯度：

概率论与贝叶斯先验

概率论基础

• 条件概率：$P(A|B)=\frac{P(AB)}{P(B)}$
• 全概率公式：$P(A)={\sum }_{i}P(A|B_i)P(B_i)$
• 贝叶斯公式：$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{{\sum }_{j}P(A|B_j)P(B_j)}$

统计量

期望／方差／协方差／相关系数

独立和不相关

大数定律

中心极限定理

最大似然估计

过拟合