机器学习 | 你的数据量足够吗？ 1个验证法、4项估算准则

一方法 学习曲线法：

一般来说，学习曲线如下图所示，模型精度随着数据量的提升而提升，到了一定程度放缓：

因此，可以用不同的数据量去训练模型，绘制模型精度和数据量的关系。如下图，观察数据量和精度趋势，如果在猛烈上涨，则说明提升数据量会有显著帮助，如果已经平缓，说明没有必要再去收集数据了。

4准则：

1 数据集必须能够覆盖到模型使用时所有结构性变化。比如识别人的时候，需要输入人的各种姿势，角度等等。
2 关联性，让模型找到规律。 简单来说，就是要量大。
3 数据信息量要比模型变数量多十倍以上。数据信息量可以简单理解为数据集中包含多少个数字。
例如ResNet 有25636712个参数，千万级别。那么数据信息应当有1个亿以上。图像的大小是256*256,1000张图就是大概两亿个像素。所以1000张图够。
4、数据品质。数据品质不好，模型会有误差，可以通过增加数据量提升模型精度。
增加数据量如果增加100倍，预期模型数误差下降10倍，公式如下图：


取4个准则里估算的数据量的最大值。

参考：
https://www.bilibili.com/video/BV14r4y1D7UA/?spm_id_from=333.337.search-card.all.click&vd_source=fd23946b01c2a9a3f921de79df667850