2.3.4 高斯分布的最大似然估计

给定一个数据集,其中观测嘉定是独立从多元高斯分布中抽取的,那我们可以用最大似然来估计分布的参数和
高斯分布公式

对数似然函数为

似然函数对数据集的依赖体现在和,对进行求导,应用二次型求导公式

我们有

令导数为零,求出均值

也就是数据点的观测集合均值


可以看出的求解与无关,因此我们可以使用来求解

结果为

对于书中有这么一段话:

我们看到对于均值的最大似然估计的期望等于实际的均值。然而,对于协方差的最大似然估计的期望小于真正的值,因此是有偏的。我们可以定义一个不同的估计值来修正这个误差

根据https://www.matongxue.com/madocs/607.html给出的解答,可以得到关于协方差的公式

另外关于无偏估计量 https://blog.csdn.net/ccnt_2012/article/details/82715415

你可能感兴趣的:(2.3.4 高斯分布的最大似然估计)