四种交叉验证法（留出法，K-Fold，留一法，Bootstrap）

机器学习面试题集 - 详解四种交叉验证方法

[深度概念]·K-Fold 交叉验证 (Cross-Validation)的理解与应用

1.K-Fold 交叉验证概念
------在机器学习建模过程中，通行的做法通常是将数据分为训练集和测试集。测试集是与训练独立的数据，完全不参与训练，用于最终模型的评估。在训练过程中，经常会出现过拟合的问题，就是模型可以很好的匹配训练数据，却不能很好在预测训练集外的数据。如果此时就使用测试数据来调整模型参数，就相当于在训练时已知部分测试数据的信息，会影响最终评估结果的准确性。
------通常的做法是在训练数据再中分出一部分做为验证(Validation)数据，用来评估模型的训练效果。验证数据取自训练数据，但不参与训练，这样可以相对客观的评估模型对于训练集之外数据的匹配程度。
------模型在验证数据中的评估常用的是交叉验证，又称循环验证。它将原始数据（xs：“原始数据”指的是整个训练集）分成K组(K-Fold)，将每个子集数据分别做一次验证集，其余的K-1组子集数据作为训练集，这样会得到K个模型。这K个模型分别在验证集中评估结果，最后的误差MSE(Mean Squared Error)加和平均就得到交叉验证误差。交叉验证有效利用了有限的数据，并且评估结果能够尽可能接近模型在测试集上的表现，可以做为模型优化的指标使用。（xs：交叉验证过程中，只涉及训练集和验证集，不涉及测试集）