机器学习:不均衡样本情况下的抽样

题目

在分类问题中,我们经常会遇到正负样本数据量不等的情况,比如正样本为10w条数据,负样本只有1w条数据,以下最合适的处理方法是()

A. 将负样本重复10次,生成10w样本量,打乱顺序参与分类

B. 直接进行分类,可以最大限度利用数据(不可行)

C. 从10w正样本中随机抽取1w参与分类

D. 将负样本每个权重设置为10,正样本权重为1,参与训练过程

---------------------------------------------------------------------------------

解决这类问题主要分重采样、欠采样、调整权值

1. 重采样。

A可视作重采样的变形。改变数据分布消除不平衡,可能导致过拟合。

2. 欠采样。

C的方案提高少数类的分类性能,可能丢失多数类的重要信息。

如果1:10算是均匀的话,可以将多数类分割成为1000份。然后将每一份跟少数类的样本组合进行训练得到分类器。而后将这1000个分类器用assemble的方法组合位一个分类器。

另:如果目标是 预测的分布 跟训练的分布一致,那就加大对分布不一致的惩罚系数。

3. 权值调整。

D方案也是其中一种方式。

你可能感兴趣的:(机器学习:不均衡样本情况下的抽样)