生成模型和判别模型

• 生成模型：生成方法由数据学习联合概率分布，然后求出条件概率分布作为预测的模型，即生成模型。
• 判别模型：由数据直接学习决策函数或者条件概率分布作为预测的模型，即判别模型。
• 生成模型与判别模型的比较：
• 生成模型：

     1生成方法可以还原出联合概率分布，而判别方法不能

     2生成方法的学习收敛速度更快

     3当存在隐变量时，仍然可以使用生成方法学习，而判别方法则不能。

• 判别模型：

     1判别方法直接学习的是条件概率分布或决策函数，直接面对预测，往往学习的准确率更高

     2由于直接学习条件概率分布或者决策函数，可以对数据进行抽象、定义特征并使用特征，因此可以简化学习问题。

• 常见的生成模型有：

       朴素贝叶斯、隐马尔可夫模型

• 常见的判别模型有：

       KNN、LR、SVM、RF、AdaBoost