容易混淆的概念

微分

1. 原函数->导函数

2. 导数：变化率。举个栗子，位移求导是速度，速度求导是加速度。

3. 偏导数：两个自变量，假定y不变，对x求导。

积分

1. 导函数->原函数

2. 定积分、不定积分

bootstraping - 有放回抽样

boosting - bootstrap aggregating

random forest

参数统计：总体分布可以用有限个参数刻画，e.g. 假定为正态，估计μ, σ

非参数估计：假设问题分布不能用有限个参数刻画

频率派

1. 经典统计

2. θ固定，样本X随机

3. 极大似然估计MLE(EM), 最大后验估计MAP

贝叶斯派

1. 贝叶斯统计

2. 样本X固定，θ随机

3. 先验分布+样本分布=>后验分布

4. Gibbs sampling

伯努利分布0-1分布

二项式分布0-1，n次-共轭先验分布是Beta分布

多项式分布0-6，n次-共轭先验分布是Dirichlet分布

来源

结构之法 算法之道 http://blog.csdn.net/v_july_v/article/details/41209515