SVM中参数调优的方法


最近在用到svm做一些科研的工作,但是在用到svm的时候,发现在不同的svm参数下,精度差别不是一般的大。


熟悉svm的大家应该都知道,svm中参数很多,其中最主要得还是-c和-g参数,所以我就主要 调整这两个参数。


所以,找找怎么调整合适的参数,已达到最高的精度,如下: 是我亲测的两个可以很大情况下提高精度的参数值,


第一种:

[c,g] = meshgrid(-10:0.2:10,-10:0.5:10);
[m,n] = size(c);
cg = zeros(m,n);
eps = 10^(-4);
v = 5;
bestc = 1;
bestg = 0.1;
bestacc = 0;
for i = 1:m
    for j = n:n
        cmd = ['-v ',num2str(v),' -t 2',' -c ',num2str(2^c(i,j)),' -g ',num2str(2^g(i,j)),' -s 2', ' -n 0.5'];
        cg(i,j) = svmtrain(trainLabel,trainMatrix,cmd);     
        if cg(i,j) > bestacc
            bestacc = cg(i,j);
            bestc = 2^c(i,j);
            bestg = 2^g(i,j);
        end        
        if abs( cg(i,j)-bestacc )<=eps && bestc > 2^c(i,j) 
            bestacc = cg(i,j);
            bestc = 2^c(i,j);
            bestg = 2^g(i,j);
        end
    end
end

cmd = [' -t 2',' -c ',num2str(bestc),' -g ',num2str(bestg),' -n 0.5',' -s 2'];
model = svmtrain(trainLabel,trainMatrix,cmd);



第二种:



bestcv = 0;
for log2c = -4:12,
  for log2g = -8:4,
%       for log2c = -1:3,
%   for log2g = -4:1,
    cmd = ['-v 5 -c ', num2str(2^log2c), ' -g ', num2str(2^log2g)];
    cv = svmtrain(labels2, data2, cmd);
    if (cv >= bestcv),
      bestcv = cv; bestc = 2^log2c; bestg = 2^log2g;
    end
 %   fprintf('%g %g %g (best c=%g, g=%g, rate=%g)\n', log2c, log2g, cv, bestc, bestg, bestcv);
  end
end
% # train one-against-one model
  cmd2 = ['-c ', num2str(bestc), ' -g ',num2str(bestg), ' -b 1 '];



使用这些更新参数,你会收到意想不到的高精度。

你可能感兴趣的:(Machine,Learning,Matlab)