广义线性判别

广义线性判别

设有一个训练用的模式集{$X$}，在模式空间$X$中线性不可分，但在模式空间$X^{\ast }$中线性可分，其中$X^{\ast }$的维度高于$X$的维度；若取 $X^{\ast }=(f_1(X),f_2(X),\dots ,f_k(X)),k>n$则分类界面在$X^{\ast }$中是线性的，若我们实现一个函数使$X$映射为$X^{\ast }$，则可以$d(X)=W{X}^{\ast }$实现线性可分。

对于$f_i(x)$采用$r$次多项式函数，其中$x$是$n$维的

其中$f_i(X)=x_{p1}^{s_1}{x}_{p2}^{s_2}\dots x_{pr}^{s_r},p_1,p_2\dots p_r=1,2,\dots ,n;s,t=0,1$

$d(X)$的权值系数个数为$N_W=C_{n+r}^r=\frac{(n+r)!}{r!n!}$