决策树
生活中的决策树模型：
显然：判断依据的重要性从前往后越来越小
信息的度量和作用
在不知道任何信息的情况下猜测32支球队中的冠军：如果用二分法，需要猜5次，即需要的代价为5bit，这个5bit我们称之为信息熵（H）
5 = -(1/32log(1/32) + 1/32log(1/32) + ... + 1/32log(1/32))
公式：概率log概率 之和
如果我们知道了一些球队的信息，需要的代价会小于5bit
5 > -(1/4log(1/32) + 1/8log(1/32) + ... + 1/24log(1/32))
信息熵越大(比如，当每个球队的夺冠几率相等)，不确定性越大
结合决策数，之所以我们先对某些条件进行判断，是因为能够减少我们更多的不确定性
决策树的划分依据——信息增益
信息增益：当得知一个条件之后，减少的信息熵的大小
常见决策树使用的算法
- ID3：信息增益 最大的准则
- C4.5：信息增益比 最大的准则
- CART
- 回归树: 平方误差 最小
- 分类树: 基尼系数 最小的准则 在sklearn中可以选择划分的默认原则。基尼系数的划分比信息增益更加仔细
决策树的api
案例：泰坦尼克号乘客生存状态
在泰坦尼克号和titanic2数据帧描述泰坦尼克号上的个别乘客的生存状态。在泰坦尼克号的数据帧不包含从剧组信息，但它确实包含了乘客的一半的实际年龄。关于泰坦尼克号旅客的数据的主要来源是百科全书Titanica。这里使用的数据集是由各种研究人员开始的。其中包括许多研究人员创建的旅客名单，由Michael A. Findlay编辑。
我们提取的数据集中的特征是票的类别，存活，乘坐班，年龄，登陆，home.dest，房间，票，船和性别。乘坐班是指乘客班（1，2，3），是社会经济阶层的代表。
其中age数据存在缺失。
import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier
from sklearn.tree import export_graphviz
def decision():
"""
决策树对泰坦尼克进行预测生死
:return: None
"""
#获取数据
taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
#处理数据，找出特征值和目标值
x = taitan[['pclass', 'age', 'sex']]
y = taitan[['survived']]
print(x)
#缺失值处理
x['age'].fillna(x['age'].mean(), inplace=True)
#分割数据集到训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)
#进行处理（特征工程）：当特征是类别的信息需要进行one-hot编码
dict = DictVectorizer(sparse=False)
x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数，把一行转换成一个字典
print(dict.get_feature_names())
x_test = dict.fit_transform(x_test.to_dict(orient="records"))
print(x_train)
#用决策树进行预测
dec = DecisionTreeClassifier(max_depth=5) #参数限定决策树的深度
dec.fit(x_train, y_train)
print("预测的准确率为：",dec.score(x_test, y_test))
#导出决策树的结构
export_graphviz(dec, out_file="./tree.dot", feature_names=['年龄', 'pclass=1st', 'pclass=2nd', 'pclass=3rd', '女性', '男性'])
#导出的文件用Graphviz打开
return None
if __name__ == "__main__":
decision()
决策树部分图例：
决策树的优缺点以及改进
优点：
- 简单理解和解释，数目可视化
- 需要很少的数据准备，其他技术通常需要数据归一化
缺点：
- 决策树学习者可以创建不能很好地推广数据的过于复杂的树，这被称为过拟合
改进：
- 减枝cart算法：如果是用sklearn，在DecisionTreeClassifier中指定超参数即可
- 随机森林：准确率非常高
集成学习方法
集成学习通过建立几个模型组合的来解决单一预测问题。它的工作原理是生成多个分类器/模型，各自独立地学习和作出预测。这些预测最后结合成单预测，因此优于任何一个单分类的做出预测。
随机森林是一个包含多个决策树的分类器，并且其输出的类别是由个别树输出的类别的众数而定。
随机森林建立多个决策树的过程：
-
单个决策树的建立过程：
- 随机在N个样本当中选择一个样本，重复N次 可能重复
- 随机在M个特征中选出m个特征
建立多颗决策树，样本、特征大多不一样 随机有放回的抽样，称bootstrap抽样
ps：为什么要随机抽样？避免每颗树的训练集的一样，那么最终训练出的上面的分类结果也是完全一样的
-
随机森林的api
在这里插入图片描述
随机森林案例：
import pandas as pd
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
def randomforest():
"""
随机森林对泰坦尼克进行预测生死
:return: None
"""
#获取数据
taitan = pd.read_csv("http://biostat.mc.vanderbilt.edu/wiki/pub/Main/DataSets/titanic.txt")
#处理数据，找出特征值和目标值
x = taitan[['pclass', 'age', 'sex']]
y = taitan[['survived']]
print(x)
#缺失值处理
x['age'].fillna(x['age'].mean(), inplace=True)
#分割数据集到训练集和测试集
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)
#进行处理（特征工程）：当特征是类别的信息需要进行one-hot编码
dict = DictVectorizer(sparse=False)
x_train = dict.fit_transform(x_train.to_dict(orient="records")) #to_dict的参数，把一行转换成一个字典
print(dict.get_feature_names())
x_test = dict.fit_transform(x_test.to_dict(orient="records"))
print(x_train)
rf = RandomForestClassifier()
#网格搜索与交叉验证
param = {"n_estimators":[120, 200, 300, 500, 800, 1200], "max_depth":[5, 8, 15, 25, 30]}
gc = GridSearchCV(rf, param_grid=param, cv=5)
gc.fit(x_train, y_train)
print("预测的准确率为：", gc.score(x_test, y_test))
print("查看选择的参数模型：", gc.best_estimator_)
print("最佳的参数：", gc.best_params_)
#注意：随机森林的图不支持导出
return None
if __name__ == "__main__":
randomforest()
随机森林的优点：
- 在当前所有算法中，具有极好的准确率
- 能够有效地运行在大数据集上（大体现在样本数和特征数两方面）
- 能够处理具有高维特征的输入样本，而且不需要降维
- 能够评估各个特征在分类问题上的重要性
- 对于缺省值问题也能够获得很好得结果
随机森林几乎没有缺点