【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数

目录

  • 一、LIBSVM简介
  • 二、LIBSVM的下载及安装
  • 三、基于LIBSVM处理手工生成数据集
    • 1. 启动LIBSVM
    • 2. 手工绘制数据集
    • 3. 利用LIBSVM训练模型并求出决策函数
  • 四、总结
  • 五、参考

一、LIBSVM简介

  LIBSVM是台湾大学林智仁(Lin Chih-Jen)教授等开发设计的一个简单、易于使用和快速有效的SVM模式识别与回归的软件包。
  LIBSVM不但提供了编译好的可在Windows系列系统的执行文件,还提供了源代码,方便改进、修改以及在其它操作系统上应用;该软件对SVM所涉及的参数调节相对比较少,提供了很多的默认参数,利用这些默认参数可以解决很多问题;并提供了交互检验(Cross Validation)的功能。该软件可以解决C-SVMν-SVMε-SVRν-SVR等问题,包括基于一对一算法的多类模式识别问题。

二、LIBSVM的下载及安装

官网下载地址:https://www.csie.ntu.edu.tw/~cjlin/libsvm/
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第1张图片
将下载的压缩文件解压即可
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第2张图片
该文件夹中有多种语言的代码,可自行根据自己的需要进行使用。

三、基于LIBSVM处理手工生成数据集

1. 启动LIBSVM

  • 点击解压文件夹下的windows文件夹,在文件夹中找到名为svm-toy.exe的运行程序并运行
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第3张图片
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第4张图片

2. 手工绘制数据集

  • 点击鼠标左键可进行描点
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第5张图片

  • 点击Change切换颜色,再描一组点
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第6张图片

  • 点击Save将数据保存为train.txt作为训练集
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第7张图片

  • 再设置一组数据作为测试集test.txt
    【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第8张图片

3. 利用LIBSVM训练模型并求出决策函数

  • 导入库
from libsvm.svmutil import *
from libsvm.svm import *
import scipy.spatial
  • 数据导入
label,data= svm_read_problem('train.txt')#训练数据
p_label,p_data=svm_read_problem('test.txt')#测试数据
  • 使用线性核训练模型
para ='-t 0 -c 4 -b 1' #训练参数
model=svm_train(label,data,para)
svm_save_model('model1.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果:
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第9张图片
模型参数及结果:
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第10张图片

  • 使用多项式核训练模型
para ='-t 1 -c 4 -b 1' #训练参数
#多项式核
model=svm_train(label,data,para)
svm_save_model('model2.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第11张图片
模型参数及结果:
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第12张图片

  • 使用高斯核训练模型
para ='-t 2 -c 4 -b 1'#训练参数
model=svm_train(label,data,para)
svm_save_model('model3.txt',model)
acc=svm_predict(p_label,p_data,model)

运行结果:
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第13张图片
模型参数及结果:
【机器学习】基于LIBSVM实现支持向量机核函数训练并获取决策函数_第14张图片

四、总结

  本文简略的介绍了LIBSVM工具,并将其应用于手工数据集的分类任务。

五、参考

LIBSVM入门解读

你可能感兴趣的:(机器学习,计算机视觉,opencv,图像处理)