机器学习笔记（三）——决策树

优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感，可以处理不相关特征数据。

缺点：可能会产生过度匹配问题

使用数据类型：数值型和标称型

 

决策树的一般流程

（1）收集数据：可以使用任何方法；

（2）准备数据：树构造算法只适用于标称型数据，因此数值型数据必须离散化；

（3）分析数据：可以使用任何方法，构造树完成之后，我们应该检查图形是否符合预期；

（4）训练算法：构造树的数据结构；

（5）测试算法：使用经验树计算错误率；

（6）使用算法：此步骤可以适用于任何监督学习算法，而使用决策树可以更好地理解数据的内在含义。

        

表1中给出5个海洋动物的数据，特征包括：不浮出水面是否可以生存，以及是否有脚蹼。我们可以将这些动物分为两类：鱼类和非鱼类。 下面将以这个例子学习决策树。

如何划分数据集？

 

    一些决策树采用二分法划分数据，本文采用ID3算法划分数据集。

    划分数据集的大原则是：将无序的数据变得更加有序。

 

    如何评测哪种数据划分方式最好？

        在划分数据集之前和之后信息发生的变化称为信息增益（information gain），知道如何计算信息增益，我们就可以计算每个特征值划分数据集获得的信息增益，获得信息增益最高的特征就是最好的选择。

    如何计算信息增益？

        集合信息的度量方式称为香农熵或简称熵（entropy）。

 

        计算熵

        

        其中p(xi)是选择该分类的概率，n为分类的数目。

        使用Python计算信息熵： 

# coding=utf-8
from math import log
import operator

# 计算给定数据集合的香农熵
def calcShannonEnt(dataSet):
	numEntries = len(dataSet)
	labelCounts = {}
	for featVec in dataSet:
		currentLabel = featVec[-1]
		if currentLabel not in labelCounts.keys():
			labelCounts[currentLabel] = 0
		labelCounts[currentLabel] += 1
	shannonEnt = 0.0
	for key in labelCounts:
		prob = float(labelCounts[key]) / numEntries
		shannonEnt -= prob * log(prob, 2)
	return shannonEnt
	

def createDataSet():
	dataSet = [[1, 1, 'yes'], [1, 1, 'yes'], [1, 0, 'no'], [0, 1, 'no'], [0, 1, 'no']]
	labels = ['no surfacing', 'flippers']
	return dataSet, labels

以上代码中，calcShannonEnt() 计算熵，createDataSet() 给出一组鉴定数据

 

执行命令查看结果：

    

    熵越高，则混合的数据也越多。

    我们可以在数据集中添加更多的分类，来观察熵是如何变化的。这里增加第三个名为maybe的分类，测试熵的变化：

    

划分数据集

        对每个特征划分数据集的结果计算一次信息熵，然后判断按照哪个特征划分数据集是最好的划分方法。

        在trees.py中加入如下代码：

# 按照给定特征划分数据集	
def splitDataSet(dataSet, axis, value):
	retDataSet = []
	for featVec in dataSet:
		# 将符合特征的数据抽取出来
		if featVec[axis] == value:
			reducedFeatVec = featVec[:axis]
			reducedFeatVec.extend(featVec[axis+1:])
			retDataSet.append(reducedFeatVec)
	return retDataSet

	
# 选择最好的数据集划分方式
def chooseBestFeatureToSplit(dataSet):
	# 每行数据个数-1
	numFeatures = len(dataSet[0]) - 1
	# 计算数据集合的熵
	baseEntropy = calcShannonEnt(dataSet)
	bestInfoGain = 0.0
	bestFeature = -1
	# 遍历每一列
	for i in range(numFeatures):
		# 提取dateSet数据集中的第i列是所有值
		featList = [example[i] for example in dataSet]
		uniqueVals = set(featList)
		newEntropy = 0.0
		for value in uniqueVals:
			# 按照value划分数据集，即找出第i列中是value的所有数据
			subDataSet = splitDataSet(dataSet, i, value)
			# 这些数据占整个数据集的比例prob
			prob = len(subDataSet) / float(len(dataSet))
			# 对每种划分方式计算信息熵，再乘以prob， 然后把所有信息熵相加
			newEntropy += prob * calcShannonEnt(subDataSet)
		infoGain = baseEntropy - newEntropy
		# 比较所有特征中的信息熵增益，返回最好特征划分的索引值
		if(infoGain > bestInfoGain):
			bestInfoGain = infoGain
			bestFeature = i
	return bestFeature

执行命令查看结果：

    

代码运行结果告诉我们，第0个特征是最好的用于划分数据集的特征。

到此，我们学习了如何度量数据集的信息熵，如何有效地划分数据集，下面将介绍如何将这些函数功能放在一起，构建决策树。

递归构建决策树

 

工作原理：

（1）得到原始数据集；

（2）然后基于最好的属性值划分数据集，由于特征值可能多于两个，因此可能存在大于两个分支的数据划分；

（3）第一次划分之后，数据将被向下传递到树分支的下一个节点，在这个节点上，我们可以再次划分数据。

 

递归结束的条件：

程序遍历完所有划分数据集的属性，或者每个分支下的所有实例都具有相同的分类。如下图

    如果数据处理了所有的属性，但是类标签依然不是唯一的，此时我们该如何定义该叶子节点？

    在这种情况下，我们通常采用多数表决的方法决定叶子节点的分类。代码实现如下：

    在trees.py文件中加入如下代码：

def majorityCnt(classList):
	classCount = {}
	for vote in classList:
		if vote not in classCount.keys():
			classCount[vote] = 0
		classCount[vote] += 1
	# 按照dict中value的值从大到小排序
	sortedClassCount = sorted(classCount.iteritems(), key = operator.itemgetter(1), reverse=True)
	# 返回出现次数最多的分类名称
	return sortedClassCount[0][0]

下面是创建树的代码：

def createTree(dataSet, labels):
	classList = [example[-1] for example in dataSet]
	# 类别完全相同则停止继续划分
	if classList.count(classList[0]) == len(classList):
		return classList[0]
	# 如果遍历完了所有的特征，返回出现次数最多的
	if len(dataSet[0]) == 1:
		return majorityCnt(classList)
	# 找出最好数据划分方式特征属性所在的列序号
	bestFeat = chooseBestFeatureToSplit(dataSet)
	# 获取该列的特征属性的标签
	bestFeatLabel = labels[bestFeat]
	
	myTree = {bestFeatLabel:{}}
	# 删除标签列表中序号为bestFeat的标签
	del(labels[bestFeat])	
	# 得到列表包含的所有属性值
	featValues = [example[bestFeat] for example in dataSet]
	uniqueVals = set(featValues)
	for value in uniqueVals:
		subLabels = labels[:]
		myTree[bestFeatLabel][value] = createDataSet(splitDataSet(dataSet, bestFeat, value), subLabels)
	return myTree

执行命令查看结果：

    

绘制树形图

 

决策树的主要优点是直观易于理解，如果不能将其直观地显示出来，就无法发挥其优势。下面将使用Matplotlib注解绘制树形图

新建treePlotter.py文件，在此文件中加入如下代码：

# coding=utf-8
import matplotlib.pyplot as plt

decisionNode = dict(boxstyle="sawtooth", fc="0.8")
leafNode = dict(boxstyle="round4", fc="0.8")
arrow_args = dict(arrowstyle="<-")

def plotNode(nodeTxt, centerPt, parentPt, nodeType):
	createPlot.ax1.annotate(nodeTxt, xy=parentPt, xycoords='axes fraction', xytext = centerPt, textcoords='axes fraction', va="center", ha="center", bbox=nodeType, arrowprops=arrow_args)

'''	
def createPlot():
	fig = plt.figure(1, facecolor = 'white')
	fig.clf()
	createPlot.ax1 = plt.subplot(111, frameon = False)
	plotNode('a decision node', (0.5, 0.1), (0.1, 0.5), decisionNode)
	plotNode('a leaf node', (0.8, 0.1), (0.3, 0.8), leafNode)
	plt.show()
'''

# 获取叶子节点的数目	
def getNumLeafs(myTree):
	numLeafs = 0
	firstStr = myTree.keys()[0]
	secondDict = myTree[firstStr]
	for key in secondDict.keys():
		if type(secondDict[key]).__name__ == 'dict':
			numLeafs += getNumLeafs(secondDict[key])
		else:
			numLeafs += 1
	return numLeafs
	

# 获取树的层数
def getTreeDepth(myTree):
	maxDepth = 0
	firstStr = myTree.keys()[0]
	secondDict = myTree[firstStr]
	for key in secondDict.keys():
		if type(secondDict[key]).__name__ == 'dict':
			thisDepth = 1 + getTreeDepth(secondDict[key])
		else:
			thisDepth = 1
		if thisDepth > maxDepth:
			maxDepth = thisDepth
	return maxDepth
	

def retrieveTree(i):
	listOfTrees = [{'no surfacing': {0:'no', 1:{'flippers':{0:'no', 1:'yes'}}}}, {'no surfacing':{0:'no', 1:{'flippers':{0:{'head':{0:'no', 1:'yes'}}, 1:'no'}}}}]
	return listOfTrees[i]

# 在父子节点间填充文本信息
def plotMidText(cntrPt, parentPt, txtString):
	xMid = (parentPt[0] - cntrPt[0])/2.0 + cntrPt[0]
	yMid = (parentPt[1] - cntrPt[1])/2.0 + cntrPt[1]
	createPlot.ax1.text(xMid, yMid, txtString)
	
def plotTree(myTree, parentPt, nodeTxt):
	numLeafs = getNumLeafs(myTree)
	depth = getTreeDepth(myTree)
	firstStr = myTree.keys()[0]
	cntrPt = (plotTree.xOff + (1.0 + float(numLeafs)) / 2.0 / plotTree.totalW, plotTree.yOff)
	plotMidText(cntrPt, parentPt, nodeTxt)
	plotNode(firstStr, cntrPt, parentPt, decisionNode)
	secondDict = myTree[firstStr]
	plotTree.yOff = plotTree.yOff - 1.0/plotTree.totalD
	for key in secondDict.keys():
		if type(secondDict[key]).__name__ == 'dict':
			plotTree(secondDict[key], cntrPt, str(key))
		else:
			plotTree.xOff = plotTree.xOff + 1.0/plotTree.totalW
			plotNode(secondDict[key], (plotTree.xOff, plotTree.yOff), cntrPt, leafNode)
			plotMidText((plotTree.xOff, plotTree.yOff), cntrPt, str(key))
	plotTree.yOff = plotTree.yOff + 1.0 / plotTree.totalD
	
def createPlot(inTree):
	fig = plt.figure(1, facecolor = 'white')
	fig.clf()
	axprops = dict(xticks=[], yticks=[])
	createPlot.ax1 = plt.subplot(111, frameon=False, **axprops)
	plotTree.totalW = float(getNumLeafs(inTree))
	plotTree.totalD = float(getTreeDepth(inTree))
	plotTree.xOff = -0.5/plotTree.totalW
	plotTree.yOff = 1.0
	plotTree(inTree, (0.5, 1.0), '')
	plt.show()

执行命令查看结果：

    

运行结果：

    

测试算法：使用决策树执行分类

依靠训练数据构造决策树之后，我们可以将它用于实际数据的分类中。

在trees.py文件中添加如下代码：

#使用决策数对数据进行分类
def classify(inputTree, featLabels, testVec):
	firstStr = inputTree.keys()[0]
	secondDict = inputTree[firstStr]
	featIndex = featLabels.index(firstStr)
	for key in secondDict.keys():
		if testVec[featIndex] == key:
			if type(secondDict[key]).__name__ == 'dict':
				classLabel = classify(secondDict[key], featLabels, testVec)
			else:
				classLabel = secondDict[key]
	return classLabel

执行命令查看结果：

    

决策树的存储

现在我们已经创建了使用决策树的分类器，但每次使用分类器时，必须重新构造决策树，这将会耗费大量的时间。因此，为了节省时间，最好能够在每次执行分类时调用已经构造好的决策树。

# 使用Pickle模块存储决策树
def storeTree(inputTree, filename):
	import pickle
	fw = open(filename, 'w')
	pickle.dump(inputTree, fw)
	fw.close()
	
def grabTree(filename):
	import pickle
	fr = open(filename)
	return pickle.load(fr)

    

通过上面的代码，我们可以将分类器存储在硬盘上，而不用每次对数据分类时重新学习一遍，
这也是决策树的优点之一，像第2章介绍的k-近邻算法就无法持久化分类器。

实例：使用决策树预测隐形眼镜类型

（1）收集数据：提供的文本文件

（2）准备数据：解析tab键分隔的数据行

（3）分析数据：快速检查数据，确保正确地解析数据内容，使用createPlot()函数绘制最终的树形图

（4）训练算法：使用createTree()函数

（5）测试算法：编写测试函数验证决策树可以正确分类给定的数据实例

（6）使用算法：存储树的数据结构，以便下次使用时无需重新构造树

    

    

申明：本文为本人学习中所记之笔记，欢迎各位读者前来交流学习心得，如有批评建议请在下方评论处留言，转载请注明出处：http://blog.csdn.net/jay_xio/article/details/44516623

作者：Jay_Xio