sklearn数据预处理(preprocessing)系列——类别以及特征的编码(Encoder)

sklearn数据预处理(preprocessing)系列——类别以及特征的编码(Encoder)_第1张图片

 

一、特征编码

1 类别的独热编码(One-Hot Encoder)

关于什么是独热编码以及为什么要进行独热编码,这里就不详细介绍了,本文只介绍“具体实践方式”,原理一笔带过。

第一步:先对离散的数字、离散的文本、离散的类别进行编号,使用 LabelEncoder,LabelEncoder会根据取值的种类进行标注。

import sklearn.preprocessing as pre_processing
import numpy as np

label=pre_processing.LabelEncoder()
labels=label.fit_transform(['中国','美国','法国','德国'])
print(labels)

labels的结果为:[0,3,2,1]

第二步:然后进行独热编码,使用OneHotEncoder 

labels=np.array(labels).reshape(len(labels),1) #先将X组织成(sample,feature)的格式

onehot=pre_processing.OneHotEncoder()
onehot_label=onehot.fit_transform(labels)
print(onehot_label.toarray())   #这里一定要进行toarray()

结果为:

[[1. 0. 0. 0.]
 [0. 0. 0. 1.]
 [0. 0. 1. 0.]
 [0. 1. 0. 0.]] 

注意,上面的第二步也可以使用LabelBinarizer进行替代

onehot_label=pre_processing.LabelBinarizer().fit_transform(labels)

这里的参数labels就是【0,3,2,1】,不需要组织成(samples,features)的形式。

2、对“特征”进行编码

上面讲的是对分类的类别进行编码,有时候也需要对特征进行编码,为什么呢?比如有下面的一些样本

sklearn数据预处理(preprocessing)系列——类别以及特征的编码(Encoder)_第2张图片

一共有3个特征,color  price  size  。  classlabel对应于类别,类别的独热编码上面已经进行了讲解,但是特征为什么也需要进行独热编码呢,单纯的进行数字化难道不行吗?比如用1表示green,2表示red,3表示blue。这显然不行,因为对于模型而言,color特征的每一个取值是 ”地位平等“的,也就是说所说的”无序性“如果单纯的用1、2、3进行数值化,岂不是就说告诉模型,red是green的2倍,blue是green的3倍吗?这显然不合理,凭什么你就是我的3倍,我们都是颜色啊。

那么什么样的特征需要独热编码呢?

无序的离散特征”我们一般需要进行独热编码。但有一些不需要,比如人的身高,体重,这其实是有序的,连续的。

独热编码会为每个离散值创建一个哑特征(dummy feature)。什么是哑特征呢?举例来说,对于‘颜色’这一特征中的‘蓝色’,我们将其编码为[蓝色=1,绿色=0,红色=0],同理,对于‘绿色’,我们将其编码为[蓝色=0,绿色=1,红色=0],特点就是向量只有一个1,其余均为0,故称之为one-hot。这么做的目的是为了保证每一个离散取值的“无序性、公平性、彼此正交性”

X=[[1,10.1,1],[2,13.5,2],[3,15.3,3]]
onehot=pre_processing.OneHotEncoder()
features=onehot.fit_transform(X)

print(features.toarray())  #一定要toarray()

上面的原始数据为:

  color price size
1 1 10.1 1
2 2 13.5 2
3 3 15.3 3

先使用了LabelEncoder对color这一列,size这一列进行的“标签编码",参见上面。

运行结果为:

[[1. 0. 0. 1. 0. 0. 1. 0. 0.]
 [0. 1. 0. 0. 1. 0. 0. 1. 0.]
 [0. 0. 1. 0. 0. 1. 0. 0. 1.]]

即下面的结果:

  color_1 color_2 color_3 price_1 price_2 price_3 size_1 size_2 size_3
1 1 0 0 1 0 0 1 0 0
2 0 1 0 0 1 0 0 1 0
3 0 0 1 0 0 1 0 0 1

3、OneHotEncoder类的详解

下面列出在使用它的时候要注意的一些问题:

(1)给fit_transform传递的X一定要是 2D的,即(samples,features),否则会报错

(2)要查看fit_transform返回的结果,一定要使用toarray()函数进一步转化,方便查看

(3)在没有缺失数据的时候,每一个离散特征取值种类是自动计算的,但是如果有某个特征值丢失了,则需要自己手动指定,如下:

enc = preprocessing.OneHotEncoder(n_values=[2, 3, 4])  ,

##  2 表示的是 X1有两个离散值,3 表示的是X2有三个离散值, 4 表示的是X4有4个离散值。

 

 

你可能感兴趣的:(机器学习,深度学习,python)