贝叶斯(2)-最大似然估计和贝叶斯参数估计

贝叶斯(2)-最大似然估计和贝叶斯参数估计_第1张图片
直接统计类条件密度太复杂了且样本不足,所以我们希望用一个密度函数去拟合它,比如拟合成下面的正态分布,其中的参数可以用最大似然方法或者贝叶斯估计去进行参数估计。
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第2张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第3张图片
给每个类建模一个密度函数,每个类的函数的参数θ不同;
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第4张图片
假设n个样本独立同分布
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第5张图片
每个样本可以形成一个模型,多个样本多个模型,如图1;取均值得到图2;但是可能会下溢(p很小),所以用log来解决这个问题,也称为似然;
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第6张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第7张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第8张图片
这里的Σ是协方差;t代表转置,因为x是多维向量;
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第9张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第10张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第11张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第12张图片
极大似然估计就是事先假定一个模型,用样本估计参数;所以对模型的选择依赖性很大,如果模型选错,就达不到最优。
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第13张图片
上面的公式不过是在普通的贝叶斯公式上加了个条件D,在每个概率上都加个D就行。
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第14张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第15张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第16张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第17张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第18张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第19张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第20张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第21张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第22张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第23张图片贝叶斯(2)-最大似然估计和贝叶斯参数估计_第24张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第25张图片

贝叶斯(2)-最大似然估计和贝叶斯参数估计_第26张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第27张图片
贝叶斯(2)-最大似然估计和贝叶斯参数估计_第28张图片

没看懂,日后再看几遍吧。。。。。

多方参考,看看这篇博客辅助理解一下链接

你可能感兴趣的:(研究生机器学习,概率论,机器学习,深度学习)