决策树模型

• 决策树模型是一种基本的分类与回归方法。
• 学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型，
• 预测时，对新的数据，利用决策树模型进行分类。
• 决策树学习通常包括3个步骤：特征选择、决策树的生成，决策树的剪枝。
• 常见的决策树模型有ID3（信息增益）、C4.5（信息增益比）、CART算法等。