机器学习？服下这碗药——是时候回顾一下概率与统计了（二）

前言

在机器学习中，用到比较多的是对参数的估计。对参数的估计中，用得较多的是极大似然估计。

一、极大似然估计

1.1 相关定义

似然函数

极大似然估计

1.2 MLE求法

MLE对于一些特定的问题，可以从定义出发进行求解，在一般情况下，可以通过求极值的方式进行求解，之后再验证解是MLE。对于指数族，有下面的定理。

定理

1.3 例子

例1：两点分布{b(1,p): 0 < p < 1}中p的MLE。

例2：Poisson分布{P(λ): λ > 0}中λ的MLE。

例3：正太分布中均值和方差的MLE。

二、区间估计

单个正太相关参数估计

两个正太相关参数估计

三、假设检验

单个正太总体均值的假设检验

单个正太总体方差的假设检验

两个正太总体均值的假设检验

两个正太总体方差的假设检验

总结

统计涉及了许许多多概念，如果不常用起，大概太容易忘记吧。