机器学习数学基础——概率论与贝叶斯先验

机器学习数学基础——概率论与贝叶斯先验

一、引入

代码:

应用：商品推荐

解决办法：

公路堵车模型：

二、概率公式

贝叶斯公式的应用

在给定一些样本的条件下，求事件θ的发生概率

三、分布

(一)两点分布（离散的）

（二）二项分布Bernoulli distribution（离散的）

（三）考察Taylor展式（离散的）

（四）泊松分布Poisson distribution(离散的)

（五）均匀分布（连续的）

（六）指数分布（连续的）

指数分布的无记忆性

（七）正态分布

二元正态分布图

（八）总结

（九）Beta分布

（十）Bernoulli分布

Sigmoid/Logistic函数

Sigmoid函数的导数

（十一）Gaussian分布

四、事件的独立性

（一）不同数据类型期望的定义方法

（二）期望的性质

（三）例子

计算期望



集合Hash问题

五、方差

六、协方差

（一）协方差的意义

（二）协方差的上界

（三）协方差上界定理的证明

（四）Pearson相关系数

（五）代码

七、协方差矩阵

八、切比雪夫不等式

九、大数定律

（一）大数定律的意义

(二)重要推论（事件发生的频率只要这个事件足够多，这个事件的频率无相接近其概率）

十、中心极限定理

（一）中心极限定理的意义