Python 之 LIBSVM 使用小结（三）

1. 准备数据：一种方法是通过svm_read_problem方法直接读取libsvm格式的文件，返回分类标签([])和数据([[]])。如：labels, datas =svm_read_problem(‘filename’) ,还有一种方法是直接python格式的，这种方法适用于在程序执行过程中动态产生的data，我要用到的就是这种，没必要把大量的数据都写入文件(这两天搞infominer算法挖掘序列数据模式并看预测效果是个苦力活呀)。python的libsvm处理数据也分为两种，一种是特征值连续的不用手动去表明各个属性值的index,即是说省掉了 label index1:value1 index2:value2……中的index值，例如labels, datas = [1,-1], [[1,0,1], [-1,0,-1]],还有一种就是带index的，适合处理那些数据比较稀疏的，即好多特征值木有。labels, datas = [{1:1, 3:1}, {1:-1,3:-1}]
2. 通过训练集training得到模型：用到svm_train方法，传入labels，datas必要的参数，返回model。也有两三种方案，一是直接调用model =svm_train(labels,data, ‘-h 0′)，将必要的参数’-h 0’传入(这个参数-h shrinking 默认为1，我开始跑的时候时间太久了，程序提示我better设置0，说是可以跑faster)。另外的一/两种是先labels和data作为一个整体prob传入，整体构成通过svm_problem(labels, datas)得到，然后再调用svm_train(prob, param)训练得到model，这里的param可以直接以’-h 0’字符串的形式，也可以通过param = svm_parameter(‘-c 4 -b 1′)得到，因此说这是第二或者三种方案。通过调用此方法，在svmutil内部会将部分信息直接打印到控制台，跟前面说的用windows命令行train时的信息一样，效果可以看这个图片。
3. 利用model进行预测：这里的model可以是上一步返回的model，或者从外部文件载入的model。预测的方法是svm_predict(testClassfier,testSeqVector,model),参数分别是测试集的实际labels，测试数据特征向量，训练模型，当然还有一个可选的参数就是predict的是否需要评估概率的参数-b 0 or 1,默认为0，还说对于一类的SVM(可能用于检测outlier吧)，只能用默认的0。例如p_label, p_acc, p_val = svm_predict(y, x, m, ‘-b 1′)，这里返回了3个值，分别是预测的label列表([]),准确率p_acc(三元组())用于分类的准确率,回归的mean-squared error和squared correlation coefficient,具体的我还得补充下统计学相关知识,p_val的值是概率估计值(如果传入了参数-b 1)，否则就决策值([[]])，注意返回的其中每一个元素是一个包含k*(k-1)/2个float的数组[],k代表label的类别，其中每一个float就是预测属于哪一类的概率(其下标顺序与传入的labels数组一样)。官方里还介绍了ACC, MSE, SCC = svmutil.evaluations(true_val, predict_val)这个方法，说是计算准确率啊啥啥的(跟前面提到的svm_predict返回结果的第二个值的三元组不一样哦)，猜测是用于回归的吧，我就没研究过了。注意这里的predict是个一维数组[]，不能利用上面svm_predict产生的结果第三个值。
4. 源码示例

import numpy
import os
#os.chdir(‘C:\Program Files\libsvm-3.16\python’)
os.chdir("F:\\wfpdm\\20150727_1010\\libsvm\\libsvm-3.12\\python")
import sys
sys.path.append('F:\\wfpdm\\20150727_1010\\libsvm\\libsvm-3.12\\python')
from svmutil import *

#y, x = svm_read_problem('../heart_scale')
#m = svm_train(y[:200], x[:200], '-c 10 -t 0 -p 10')
#p_label, p_acc, p_val = svm_predict(y[200:], x[200:], m)

Data_Set = []
Data_Lab = []
for k in range(5):
    arr = numpy.random.random([30,45])
    lab = [k]*30
    for i in numpy.arange(0,30):
        j = i%3
        arr[i,k*9+j*3:k*9+j*3+3] = arr[i,k*9+j*3:k*9+j*3+3]+100
    print arr.shape
    Data_Set.append(arr)
    Data_Lab.append(lab)
train = Data_Set[0].tolist()
m = svm_train(Data_Lab[0], Data_Set[0].tolist(), '-c 10 -t 0 -p 10')
p_label, p_acc, p_val = svm_predict(Data_Lab[0], Data_Set[0].tolist(), m)