Discriminant Functions

鉴别函数(Discriminant Functions)

	设定鉴别函数概念的目的是将归类的判断条件统一化

1. set-of discriminant functions $g_i(x),i=1,2,\dots ,c$.
2. if $g_i(x)=\max g_j(x)$,then $x\to w_i$ (or if $g_i(x)-g_j(x)>0$, then $x\to w_i$)

Example:

比如对于最小错误率贝叶斯公式，我们可以让鉴别函数为如下：

1. $g_i(x)=P(w_i|x)$
2. $g_i(x)=P(w_i)P(x|w_i)$
3. $g_i(x)=lnP(w_i)+lnP(x|w_i)$

特别的，对于只有两个类别的问题，可以采用如下方式：

$g(x)=g_1(x)-g_2(x)$
if $g(x)>0$;
$x\to w_1$
else
$x\to w_2$

其中 $g(x)$ 可以是如下：

1. $g(x)=P(w_1|x)-P(w_2|x)$
2. $g(x)=lnP(w_1|x)-lnP(w_2|x)$
3. $g(x)=P(x|w_1)P(w_1)-P(x|w_2)P(w_2)$
4. $g(x)=ln\frac{P(x|w_1)}{P(x|w_2)}+ln\frac{P(w_1)}{P(w_2)}$