1 类别的独热编码(One-Hot Encoder)
关于什么是独热编码以及为什么要进行独热编码,这里就不详细介绍了,本文只介绍“具体实践方式”,原理一笔带过。
第一步:先对离散的数字、离散的文本、离散的类别进行编号,使用 LabelEncoder,LabelEncoder会根据取值的种类进行标注。
import sklearn.preprocessing as pre_processing
import numpy as np
label=pre_processing.LabelEncoder()
labels=label.fit_transform(['中国','美国','法国','德国'])
print(labels)
labels的结果为:[0,3,2,1]
第二步:然后进行独热编码,使用OneHotEncoder
labels=np.array(labels).reshape(len(labels),1) #先将X组织成(sample,feature)的格式
onehot=pre_processing.OneHotEncoder()
onehot_label=onehot.fit_transform(labels)
print(onehot_label.toarray()) #这里一定要进行toarray()
结果为:
[[1. 0. 0. 0.]
[0. 0. 0. 1.]
[0. 0. 1. 0.]
[0. 1. 0. 0.]]
注意,上面的第二步也可以使用LabelBinarizer进行替代
onehot_label=pre_processing.LabelBinarizer().fit_transform(labels)
这里的参数labels就是【0,3,2,1】,不需要组织成(samples,features)的形式。
2、对“特征”进行编码
上面讲的是对分类的类别进行编码,有时候也需要对特征进行编码,为什么呢?比如有下面的一些样本
一共有3个特征,color price size 。 classlabel对应于类别,类别的独热编码上面已经进行了讲解,但是特征为什么也需要进行独热编码呢,单纯的进行数字化难道不行吗?比如用1表示green,2表示red,3表示blue。这显然不行,因为对于模型而言,color特征的每一个取值是 ”地位平等“的,也就是说所说的”无序性“如果单纯的用1、2、3进行数值化,岂不是就说告诉模型,red是green的2倍,blue是green的3倍吗?这显然不合理,凭什么你就是我的3倍,我们都是颜色啊。
那么什么样的特征需要独热编码呢?
“无序的离散特征”我们一般需要进行独热编码。但有一些不需要,比如人的身高,体重,这其实是有序的,连续的。
独热编码会为每个离散值创建一个哑特征(dummy feature)。什么是哑特征呢?举例来说,对于‘颜色’这一特征中的‘蓝色’,我们将其编码为[蓝色=1,绿色=0,红色=0],同理,对于‘绿色’,我们将其编码为[蓝色=0,绿色=1,红色=0],特点就是向量只有一个1,其余均为0,故称之为one-hot。这么做的目的是为了保证每一个离散取值的“无序性、公平性、彼此正交性”。
X=[[1,10.1,1],[2,13.5,2],[3,15.3,3]]
onehot=pre_processing.OneHotEncoder()
features=onehot.fit_transform(X)
print(features.toarray()) #一定要toarray()
上面的原始数据为:
color | price | size | |
1 | 1 | 10.1 | 1 |
2 | 2 | 13.5 | 2 |
3 | 3 | 15.3 | 3 |
先使用了LabelEncoder对color这一列,size这一列进行的“标签编码",参见上面。
运行结果为:
[[1. 0. 0. 1. 0. 0. 1. 0. 0.]
[0. 1. 0. 0. 1. 0. 0. 1. 0.]
[0. 0. 1. 0. 0. 1. 0. 0. 1.]]
即下面的结果:
color_1 | color_2 | color_3 | price_1 | price_2 | price_3 | size_1 | size_2 | size_3 | |
1 | 1 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 |
2 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 1 | 0 |
3 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 1 |
3、OneHotEncoder类的详解
下面列出在使用它的时候要注意的一些问题:
(1)给fit_transform传递的X一定要是 2D的,即(samples,features),否则会报错
(2)要查看fit_transform返回的结果,一定要使用toarray()函数进一步转化,方便查看
(3)在没有缺失数据的时候,每一个离散特征的取值种类是自动计算的,但是如果有某个特征值丢失了,则需要自己手动指定,如下:
enc = preprocessing.OneHotEncoder(n_values=[2, 3, 4]) ,
## 2 表示的是 X1有两个离散值,3 表示的是X2有三个离散值, 4 表示的是X4有4个离散值。