倾斜数据的处理

一般认为,倾斜的数据就是严重不对称的数据。不倾斜的数据就是数据落在均值两侧的概率大致相同。可以通过直方图来看。

一般来说,如果最大值和最小值的比例超过20,那么数据倾斜的可能性就很大了。

同时,数据的倾斜可以用计算公式来估算,估算方式如下:

倾斜数据的处理_第1张图片

如果数据不倾斜的话,那么该值近似为0,右倾斜的话,大于0,左倾斜的话小于0. 可以通过平方跟,取对数,取倒数等方式来消除数据倾斜问题。这几种方式可统一在如下公式中:

倾斜数据的处理_第2张图片

lamda=2就是平方,0.5是开方,-1是倒数。有了训练数据之后,可以估算lamda的值(注意,lamda的值可以是任意值)。

Box and Cox (1964) 提出了用最大似然估计的方法来估算lamda的值。

你可能感兴趣的:(倾斜数据的处理)