R语言机器学习系列-支持向量机二分类代码

与回归类似，首先是构建公式，然后用e1071包的svm函数训练支持向量机模型。traindata中的因变量需要提前处理成factor类型，这样svm会自动构建分类模型。为了预测分类概率，需要在svm中将probability参数值设置为TRUE。

# 因变量自变量构建公式
colnames(Heart)
form_cls <- as.formula(
  paste0("AHD ~ ", paste(colnames(traindata)[2:14], collapse = " + "))
)
form_cls

# 构建模型
fit_svm_cls <- svm(form_cls, 
                   data = traindata, 
                   kernel = "radial",
                   cost = 1,
                   gamma = 0.1,
                   probability = T)
# 模型概况
fit_svm_cls

与其他之前介绍的随机森林不同，利用svm预测时，并不是通过type参数指定预测输出是概率还是分类，而是在设定probability为TRUE之后，会在预测分类的同时，输出预测概率。要从预测结果中提取预测概率则要采用attr函数，并将which参数设置为"probabilities"。

trainpred <- predict(fit_svm_cls, newdata = traindata, probability = T)
trainpredprob <- attr(trainpred, "probabilities")