模式识别学习笔记(2)——贝叶斯决策

贝叶斯决策理论

模式识别学习笔记(2)——贝叶斯决策_第1张图片

生成模型:一个类别一个类别进行训练

判别模型:将多个类别的样本放在一起分析训练

参数模型

非参数模型:无函数形式

半参数:多个高斯函数混合而成,可表示任意分布的密度函数

模式识别学习笔记(2)——贝叶斯决策_第2张图片

最小错误率决策

基于先验概率决策,则最小错误率决策为



基于后验概率决策,则最小错误率决策为

模式识别学习笔记(2)——贝叶斯决策_第3张图片

极大似然法

模式识别学习笔记(2)——贝叶斯决策_第4张图片

最小风险决策

决策代价(Loss):真实类j被决策为i的代价


条件风险(condition risk):针对决策的结果

P(αi|wj):x属于j类的概率

overall(expected)risk

最小风险决策(贝叶斯决策)

举例:
模式识别学习笔记(2)——贝叶斯决策_第5张图片

最小错误率分类
0-1 loss
模式识别学习笔记(2)——贝叶斯决策_第6张图片
最小错误率决策: 最大后验概率决策(MAP)maximum a posterior

举例:
模式识别学习笔记(2)——贝叶斯决策_第7张图片

带拒识的决策
拒识:对x不作判断
模式识别学习笔记(2)——贝叶斯决策_第8张图片
拒识的代价小于错误的代价
模式识别学习笔记(2)——贝叶斯决策_第9张图片

判别函数
模式识别学习笔记(2)——贝叶斯决策_第10张图片
模式识别学习笔记(2)——贝叶斯决策_第11张图片

决策面
特征空间中二类判别函数相等的点的集合

贝叶斯决策用于模式分类:
模式识别学习笔记(2)——贝叶斯决策_第12张图片

参考资料:

中国科学院大学硕士课《模式识别》ppt







你可能感兴趣的:(学习笔记)