模式识别——正态训练样本分类估计

拓宽 眼界与范围，博客不一定只能用来写acm，涉及的范围可以广一点。

 

涉足模式识别，对根据已知训练样本生成分类器进行分类估计，主要分为有监督和无监督两部分

对了入门，先了解一下有监督的贝叶斯决策和无监督的Pazern窗估计

 

贝叶斯决策

贝叶斯决策，即根据先验概率P(wi) 和类条件概率P(x | wi)，利用全概率公式即可计算出样本的后验概率P(wi | x) 。

P(wi | x) = P(wi·x) / P(x);

P(wi·x) = P(wi) * P(x | wi);

P(x) = Σ P(wj) * P(x | wj),(j=1~n);

可得

P(wi | x)  =[ P(wi) * P(x | wi) ] / { Σ[ P(wj) * P(x | wj) ] }, (j=1~n) ;

 

贝叶斯决策又分为最小风险决策和最小错误率决策

选取后验概率最高的结果wi决策，即可得最小错误率决策

 

而对于最小风险决策，则需要根据风险公式λ(ai,wj),计算出每个决策的风险值R(ai | x)

R(ai | x) = Σ λ(ai | wj) * P(wj | x),(j=1~n);

 选取风险值最小的结果ai决策，即可得到最小风险决策

 

对于正态分布的变量，利用函数mvnrnd(μ,σ,n)生成决策样本，μ为d维列向量，σ为协方差矩阵，n为样本数量

normpdf(x,μ,σ)函数可以计算X~N(μ,σ)正态分布函数在x处的函数值

再根据

gi(x) &#