Chapter 9 SVM实践

1 SVM包的使用

从sklearn导入svm包

2 SVM的调参

c增大——泛化能力降低——精度提高——过渡带变窄

kernel——核函数,默认是rbf,可以是linear

gamma: rbf,poly 和sigmoid的核函数参数。默认是auto,则会选择1/n_features

ovo:one vs one ——>四个类别出现六个分类器

ovr(默认):one vs rest——>四个类别出现四个分类器

3 不平衡数据的处理

改变权重大小

Chapter 9 SVM实践_第1张图片 然后通过图形来判断最合适的分类器

4 分类器指标

AUC(混淆矩阵):

Chapter 9 SVM实践_第2张图片

TPR=\frac{TP}{TP+FN}

FPR=\frac{FP}{FP+TN}

指标:

准确率accuracy=\frac{TP+TN}{TP+TN+FN+FP}

精确率precision=\frac{TP}{TP+FP}

召回率recall = \frac{TP}{TP+FN}

精确率和召回率的调和平均值F_{1}=\frac{2\cdot precision\cdot recall}{precision+recall}=\frac{2}{\frac{1}{precision}+\frac{1}{recall}}

F_{\beta }=\frac{(1+\beta ^{2})\cdot precision\cdot recall}{\beta ^{2}\cdot precision+recall},β小则重视precision,反之重视recall。

5 SVM用于手写体数字分类

Chapter 9 SVM实践_第3张图片

 训练数据存取

测试数据存取

 求得训练数据、测试数据的准确率,从而判断分类器的好坏以及过拟合情况。

6 支持向量回归:SVR

kernel:核函数,默认是rbf,还可以是linear、poly、sigmoid等等。

degree:int,默认3。多项式核函数的次数

gamma: rbf,poly 和sigmoid的核函数参数。默认是auto,则会选择1/n_features。

C:float,默认1.0,惩罚参数。

你可能感兴趣的:(机器学习——算法进阶,java,servlet,开发语言)