机器学习 00 交叉验证

一、什么是交叉验证(cross validation)

交叉验证:将拿到的训练数掘，分为训练和验证集。以下图为例: 将数据分成4份，其中一份作为验证集。然后经过4次(组)的测试，每次都更换不同的验证集。即得到4组模型的结果，取平均值作为最终结果。又称4折交叉验证。

我们之前知道数据分为训练集和测试集，但是为了让从训练得到模型结果更加准确。做以下处理
 

训练集:训练集+验证集
测试集:测试集

 

1.1为什么需要交叉验证

交叉验证目的:为了让被评估的模型更加准确可信（不能提高准确率）。

问题:这个只是让被评估的模型更加准确可信，那么怎么选择或者调优参数呢?

二、网格搜索

什么是网格搜索(Grid Search)
通常情况下，有很多参数是需要手动指定的 (如k-近邻算法中的K值)，这种叫超参数。但是手动过程繁杂，所以需要对模型预设几种超参数组合，每组超参数都采用交叉验证来进行评估。最后选出最优参数组合建立模型。