三、模型选择+过拟合和欠拟合

1. 训练误差和泛化误差

  • 训练误差(training error)是指, 模型在训练数据集上计算得到的误差。
  • 泛化误差(generalization error)是指, 模型应用在同样从原始样本的分布中抽取的无限多数据样本时,模型误差的期望。
  • 模型容量需要匹配数据复杂度,否则可能导致欠拟合和过拟合
  • 统计机器学习提供数学工具来衡量模型复杂度
  • 实际中一般靠观察训练误差和验证误差
    三、模型选择+过拟合和欠拟合_第1张图片
  • 2.验证数据集和测试数据集

三、模型选择+过拟合和欠拟合_第2张图片

3.K-则交叉数据集

三、模型选择+过拟合和欠拟合_第3张图片

4、过拟合和欠拟合

4.1模型容量

三、模型选择+过拟合和欠拟合_第4张图片三、模型选择+过拟合和欠拟合_第5张图片
三、模型选择+过拟合和欠拟合_第6张图片

vc维

三、模型选择+过拟合和欠拟合_第7张图片
三、模型选择+过拟合和欠拟合_第8张图片三、模型选择+过拟合和欠拟合_第9张图片
##数据复杂度

三、模型选择+过拟合和欠拟合_第10张图片

你可能感兴趣的:(2022最新深度学习,机器学习,集成学习,人工智能)