《模式识别与智能计算-matlab技术实现》学习笔记三

1.3分类器设计

   模式识别算法的设计都是强调“最优”或“最佳”，希望所设计的系统在性能上最优。这种“最优”是针对某一种设计原则而言的，及准则。

1.3.1分类器设计准则如下：

         1）最小误差率准则；

         2）最小风险准则；

         3）近邻准则：依据是同类物体在特征空间具有聚类特性的原理；

         4）Fisher准则；

         5）均方误差最小准则；

         6）感知准则。

    分类器设计方法如下：

         1）模板匹配；

         2）判别函数：概率分布、几何判别

         3）神经网络分类法；

         4）基于规则推理的方法：决策树和粗糙集理论等；

 

1.3.2判别函数

    函数类型选择（线性/非线性）、参数确定；

 

1.3.3分类器的选择

    设特征向量特征分量数目为n，可分类数目为M，符合一定的条件时可以使用线性分类器；正态分布条件下一般适合使用二次函数决策面：

         1）若可分类数目M=2(n+1)约等于2n，则几乎无法用一个线性函数分类器将他们分成两类；

         2）在模式识别中，理论上，M>n+1的线性分类器不能应用，但其中一类的特征向量聚集度高，则无论M多大线性分类器效果都是良好的。

 

1.3.4训练与学习

    1）训练集

    2）测试集

    3）系统评价原则

 

1.4聚类定义与设计准则（略）