opencv SVM核函数模型选择
SVM模型类型枚举
enum {C_SVC, NU_SVC, ONE_CLASS,EPSILON_SVR,NU_SVR };
C_SVC：C表示惩罚因子，C越大表示对错误分类的惩罚越大
NU_SVC：和C_SVC相同。
ONE_CLASS:不需要类标号,用于支持向量的密度估计和聚类.
EPSILON_SVR:-不敏感损失函数，对样本点来说，存在着一个不为目标函数提供任何损失值的区域，即-
带。
NU_SVR：由于EPSILON_SVR需要事先确定参数，然而在某些情况下选择合适的参数却不是一件容易的事情。而NU_SVR能够自动计算参数。
注意：C_SVC与NU_SVC其实采用的模型相同，但是它们的参数C的范围不同,C_SVC采用的是0到正无穷，NU_SVC是[0,1]。
核函数类型枚举
enum {LINEAR, POLY, RBF,SIGMOID, PRECOMPUTED };
LINEAR：线性核函数（linear kernel）
POLY:多项式核函数（ploynomial kernel）
RBF:径向机核函数(radical basis function)
SIGMOID:神经元的非线性作用函数核函数(Sigmoid tanh)
PRECOMPUTED：用户自定义核函数
只有四个常用核函数，但我们必须决定哪一个是首选。然后是惩罚因子C和核参数的选择。
在支持向量机中使用的核函数主要有四类：
线性核函数：
多项式核函数：
RBF核函数：
Sigmoid核函数：
究竟用哪一种核函数取决对数据处理的要求，不过建议一般都是使用RBF核函数。因为RBF核函数具有良好的性态，在实际问题中表现出了良好的性能。
1 RBF核
通常而言，RBF核是合理的首选。这个核函数将样本非线性地映射到一个更高维的空间，与线性核不同，它能够处理分类标注和属性的非线性关系。并且，线性核是RBF的一个特例（Keerthi and Lin 2003），因此，使用一个惩罚因子C的线性核与某些参数（C,γ）的RBF核具有相同的性能。同时，Sigmoid核的表现很像一定参数的RBF核（Lin and Link 2003）。
第二个原因，超参数（hyperparameter）的数量会影响到模型选择的复杂度（因为参数只能靠试验呀！）。多项式核比RBF核有更多的超参数。
最后，RBF核有更少的数值复杂度（numerical difficulties）。一个关键点0<Kij<=1对比多项式核，后者关键值需要 infinity(rxiTxj+r>1)或者zero(rxiTxj+r<1)，这是高阶运算。此外，我们必须指出sigmoid核在某些参数下不是合法的 （例如，不是两个向量的内积）。（Vapnik 1995）
当然，也存在一些情形RBF核是不适用的。特别地，当特征维数非常大的时候，很可能只能适用线性核。
|