机器学习实战(基于scikit-learn和TensorFlow)学习心得(9)--one-hot encoding

当我们想在model里训练文字类的数据的时候,比如房子距离海边的距离这种描述(<1H OCEAN,INLAND,ISLAND,NEAR BAY, NEAR OCEAN)我们可以简单的给这五种描述赋值1-5,但结果却不好. 这五种其实是完全不同的五种类型,如果我们用1-5进行编码那么1跟2的相似度肯定要大于1跟5,机器就会产生错觉.为了避免这种误差.
one-hot encoding就派上用场了.
我们假设5个二进制参数,我们把这五种状态赋值
<1H OCEAN 10000
INLAND 01000
ISLAND, 00100
NEAR BAY, 00010
NEAR OCEAN 00001
这样每两个状态之间的欧氏距离就都是相同的了(五维坐标的五个点).
ML也不会产生不必要的误差了.
但是one-hot encoding也有弊端,他占用了太多的数据空间了,如果我们的状态再多一点,比如我们有好几百个位置的文字描述,那么one-hot encoding就不那么精简了.这时候我们要放弃这种描述方式,使用其他的描述方式了.(例如用到海边的精确距离来代替文字描述.)

你可能感兴趣的:(机器学习实战学习心得)