机器学习学习笔记--决策树

决策树算法就是通过对已有明确结果的历史数据进行分析，寻找数据中的特征，并以此为依据对新产生的数据结果进行预测。决策树主要由下面三部分组成:

决策节点:每个决策节点表示一个待分类的数据类别或属性，其中最顶部的是根决策节点。

分支：每一个分支都有一个新的决策节点。

叶子节点：每个叶子节点表示一种结果。

决策树是一个树结构（可以是二叉树或非二叉树）。其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。