在对模式进行识别时,在存在模棱两可的情况下,任何决策都存在判别错误的可能性。最小错误贝叶斯决策就是以错误率为自小的分类规则。使用p(e)表示错误概率,那么最小错误贝叶斯分类器的目的就是minp(e).
对于两种模式,其中:
即x属于第一类,判别为第二类的概率,x属于第二类,判别为第一类的概率。
可以看出使错误率最小的决策就是使后验概率最大的决策,因此最小错误率贝叶斯决策可写为:
其中,后验概率的计算使用贝叶斯公式计算,因此要已知先验概率p(ωi)以及类条件概率密度p(x|wi)。
判决公式还有很多等价公式。
错误率:
对于多类问题的决策,思路跟两类问题类似,不同的只是计算量加重了许多;可以把每一类的后验概率当做是该类的一个判别函数gi(x),决策的过程就是各类的判别函数进行比较,最后取最大的那个。使用图形表示为:
(1)使用函数产生mvnrnd三类服从高斯分布的样本点。高斯函数的参数作为输入参数输入,包括均值,协方差,个数,先验概率。
(2)为了区分三类样本,第一类使用蓝色,第二类使用绿色,第三类使用红色。
第一类错分的点使用黑色三角表示下来,第二类错分的店使用黄色+表示下来,第三类使用粉红色正方形表示出来。
(3)使用函数mvnpdf()实现高斯密度函数值的计算
(4)比较高斯密度值的大小,选取最大的一类,分到那一类。
输入参数分别为:
function self_mvnrnd1(varargin)%可自定义参数的函数
if(nargin==12)%判定输入参数是否为12
w1=mvnrnd(varargin{1},varargin{2},varargin{3});%第一类高斯函数密度值
w2=mvnrnd(varargin{5},varargin{6},varargin{7});%第二类
w3=mvnrnd(varargin{9},varargin{10},varargin{11});
figure(1);
plot(w1(:,1),w1(:,2),'bo');%蓝色o为第一类
hold on
plot(w2(:,1),w2(:,2),'g*');%绿色*为第二类
hold on
plot(w3(:,1),w3(:,2),'r^')
title('300个随机样本,蓝色o为第一类,绿色*为第二类,红色-为第三类');
w=[w1;w2;w3];
n1=0;%第一类正确个数
n2=0;%第二类正确个数
n3=0;%第三类正确的个数
figure(2);
%贝叶斯分类器
for i=1:(varargin{3}+varargin{7}+varargin{11})
x=w(i,1);
y=w(i,2);
g1=mvnpdf([x,y],varargin{1},varargin{2})*varargin{4};
g2=mvnpdf([x,y],varargin{5},varargin{6})*varargin{8};
g3=mvnpdf([x,y],varargin{9},varargin{10})*varargin{12};
if g1>g3&&g1>g2
if 1<=i&&i<=varargin{3}
n1=n1+1;%第一类正确个数
plot(x,y,'bo');%蓝色o表示正确分为第一类的样本
hold on;
else
plot(x,y,'k^');%红色的上三角形表示第一类错误分为第二类
hold on;
end
end
if g2>g3&&g2>g1
if varargin{3}<=i&&i<=(varargin{3}+varargin{7})
n2=n2+1;%第一类正确个数
plot(x,y,'g*');%绿色o表示正确分为第二类的样本
hold on;
else
plot(x,y,'y+');%红色的上三角形表示第一类错误分为第二类
hold on;
end
end
if g3>g1&&g3>g2
if (varargin{3}+varargin{7})<=i&&i<=(+varargin{7}+varargin{3}+varargin{11})
n3=n3+1;%第一类正确个数
plot(x,y,'r^');%绿色o表示正确分为第二类的样本
hold on;
else
plot(x,y,'ms');%红色的上三角形表示第一类错误分为第二类
hold on;
end
end
end
r1_rate=0;
r2_rate=0;
r3_rate=0;
r1_rate=n1/varargin{3}
r2_rate=n2/varargin{7}
r3_rate=n3/varargin{11}
print(r1_rate)
print(r2_rate)
print(r3_rate)
end
%%%%%%%%%
main.m
self_mvnrnd1([1 3],[1.5,0;0,1],100,0.2,[3,1],[1,0.5;0.5,2],100,0.4,[-1,-2],[ 1,0.5;0.5,2],100,0.4)
/