13_集成学习和随机森林(Ensemble Learning and Random Forests)

13_集成学习和随机森林(Ensemble Learning and Random Forests)

集成学习的思想是机器学习领域解决问题的一种重要思想。我们将从集成之前已经学习过的算法出发,
进而引入集成学习的经典算法:随机森林。我们将看到集成学习的威力。在这一章,我们还会对其他集成学习的思想,
如AdaBoost, Gradient Boosting, Stacking等算法进行介绍。 …

13-1 什么是集成学习

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第1张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第2张图片

13-2 Soft Voting Classifier

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第3张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第4张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第5张图片

  • logistic regression
    13_集成学习和随机森林(Ensemble Learning and Random Forests)_第6张图片
  • 非参数模型(kNN,decision tree)

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第7张图片

  • SVC
    13_集成学习和随机森林(Ensemble Learning and Random Forests)_第8张图片

13-3 Bagging 和 Pasting

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第9张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第10张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第11张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第12张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第13张图片

13-4 oob (Out-of-Bag) 和关于Bagging的更多讨论

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第14张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第15张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第16张图片

13-5 随机森林和 Extra-Trees

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第17张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第18张图片

13-6 Ada Boosting 和 Gradient Boosting

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第19张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第20张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第21张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第22张图片

13-7 Stacking

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第23张图片
13_集成学习和随机森林(Ensemble Learning and Random Forests)_第24张图片

13_集成学习和随机森林(Ensemble Learning and Random Forests)_第25张图片

课程总结

相信通过这个课程的学习。同学们学到的不仅仅是一个一个零散的机器学习算法,更对机器学领域解决问题的方式有了一个系统性的认识。
学会了这种思维方法,相信大家都可以更好地继续深入学习机器学习。在最后,我将给大家介绍scikit-learn的文档,
希望大家能够借助scikit-learn这个强大的机器学习库,继续探索机器学习这个当下…

官方文档
https://scikit-learn.org/

User-guide
https://scikit-learn.org/stable/user_guide.html
里面有详细的介绍和案例,通读可以增强对函数的理解
API
https://scikit-learn.org/stable/modules/classes.html
里面有各种函数的接口查询

这个课程还缺少两个算法,贝叶斯算法和神经网络;
缺少对数据的处理,非监督学习的部分

你可能感兴趣的:(Python3入门机器学习,机器学习)