决策树的生成-ID3算法生成_例题详解

数据集:

判断特征集是否是空集，进行下一步

选择信息增益最大的那个特征作为根节点，以“有自己的房子”作为限定条件看其他特征

 D1（有自己的房子）不确定性为0，以D2（没有自己的房子）为新的训练集，A1（年龄）,A2（有工作）,A4（信贷情况）为新的特征集

 D2（没有自己的房子）共9个样本

特征一：年龄

g( D2 , A1 ) = H ( D2 ) - H ( D2 | A1 )

 

 特征二：有无工作

g( D2 , A2 ) = H ( D2 ) - H ( D2 | A2 )

 

 

  特征四：信贷情况

g( D2 , A4 ) = H ( D2 ) - H ( D2 | A4 )

 

 

整理：

“有无工作”  的信息增益最大 

参考有无工作的数据情况，发现在D2“有自己的房子”的情况下，只要还”有工作“就一定有贷款，反之没有（即， 属于同一类），因此决策树停止，得到叶子结点