交叉检验的实现

在k重交叉验证中，样本被分为k个子样本，轮流将k–1个子样本组合作为训练集，另外1个子样本作为保留集。这样会获得k个预测方程，记录k个保留样本的预测表现结果，然后求其平均值。（当n是观测总数目，且k为n时，该方法又称作刀切法，jackknifing。）

目前实现了交叉检验的两种实现方法：
1.boot包里的cv.glm()函数
主要用来做广义线性模型的交叉验证，一般与glm（）函数一起使用。
glm()函数中的参数family = “binomial”用来执行逻辑斯蒂回归，但如果用glm()函数拟合模型时没有设定family参数，那么它就跟lm()函数一样执行的是线性回归。

 library(boot)
 cv.err <- cv.glm(total_train, total.glm, K = 5)
 cv.err$delta   
 # 返回的向量是交叉验证的结果，包含两个值，分别为原始的交叉验证和调整的交叉验证值。(《统计学习导论》讲过)

1. bootstrap包里的crossval()函数
   通用的交叉验证法。

 library(bootstrap)
 x <- total_train2[,-2]
 y <- total_train2[,2]
 theta.fit <- function(x,y) {lsfit(x,y)}
 theta.predict <- function(fit, x){
                  cbind(1,x)%*%fit$coef
                 }

 results <- crossval(x,y,theta.fit,theta.predict,ngroup=5)   

result返回的是每个观测值的交叉验证的预测值results$cv.fit，再带入均方误差公式，求出交叉验证的预测误差。
详见： 《R实战2》