R语言利用ROCR评测模型的预测能力

说明

受试者工作特征曲线(ROC），这是一种常用的二元分类系统性能展示图形，在曲线上分别标注了不同切点的真正率与假正率。我们通常会基于ROC曲线计算处于曲线下方的面积AUC(area under curve),并以此峰面积来衡量相应分类模型的性能。

操作

继续使用telecom churn数据集作为样例数据集

library(caret)
data(churn)

str(churnTrain)

churnTrain = churnTrain[,!names(churnTrain) %in% c("state","area_code","account_length")]

#生成随机编号为2的随机数
set.seed(2)
#将churnTrain的数据集分为两类，按0.7与0.3的比例无放回抽样
ind = sample(2,nrow(churnTrain),replace = TRUE,prob = c(0.7,0.3))

trainset = churnTrain[ind == 1,]
testset = churnTrain[ind == 2,]

library(gplots)
ibrary(ROCR)
library(e1071)

使用probability参数为TRUE的训练数据集得到一个SVM模型：

svmfit = svm(churn ~ .,data = trainset,prob = TRUE)

基于训练好的模型对测试数据集进行预测，同样将probability参数设置为TRUE

Pred = predict(svmfit,testset[,!names(testset) %in% c("churn")],probability = TRUE )

得到标号为“yes”的概率

pred.prob = attr(pred,"probabilities")
pred.to.roc = pred.prob[,2]

使用prediction函数产生预测结果，

pred.rocr = prediction(pred,testset$churn)

使用preformance完成性能评估

pred.rocr.pref = performance(pred.rocr,"tpr","fpr")
pred.rocr.auc.perf = performance(pred.rocr,measure = "auc",x.measure = "cutoff")
plot(pred.rocr.pref,col = 2,colorize=T,main=paste("AUC:",pred.rocr.auc.perf@y.values))

总结

可以参考titanic（三）的内容学习。