百面机器学习总结笔记(第十二章 集成学习)

百面机器学习总结笔记(第十二章 集成学习)

  • 百面机器学习总结笔记
    • 第十二章 集成学习
      • 集成学习的种类
      • 集成学习的步骤和例子
      • 基分类器
      • 偏差与方差
      • 梯度梯度决策树的基本原理
      • XGBoost与GBDT的联系和区别

百面机器学习总结笔记

第十二章 集成学习

百面机器学习总结笔记(第十二章 集成学习)_第1张图片

集成学习的种类

场景描述
在这里插入图片描述
知识点
Boosting Bagging 基分类器

问题 集成学习分哪几种?他们有何异同?

分析与解答
百面机器学习总结笔记(第十二章 集成学习)_第2张图片
百面机器学习总结笔记(第十二章 集成学习)_第3张图片
百面机器学习总结笔记(第十二章 集成学习)_第4张图片
百面机器学习总结笔记(第十二章 集成学习)_第5张图片
百面机器学习总结笔记(第十二章 集成学习)_第6张图片

集成学习的步骤和例子

场景描述
在这里插入图片描述
知识点
集成学习 Adaboost 梯度提升决策树

问题 集成学习有些基本步骤?请举几个集成学习的例子

分析与解答
百面机器学习总结笔记(第十二章 集成学习)_第7张图片
百面机器学习总结笔记(第十二章 集成学习)_第8张图片

基分类器

场景描述
在这里插入图片描述
知识点
方差-偏差关系 随机森林 基分类器

问题1 常用的基分类器是什么?

分析与解答
百面机器学习总结笔记(第十二章 集成学习)_第9张图片
问题2 可否将随机森林中的基分类器,由决策树替换为线性分类器或者K-近邻?请解释为什么?

偏差与方差

场景描述

知识点
偏差 方差 重采样 Boosting Bagging

问题1 什么是偏差和方差?

分析与解答



问题2 如何从减小方差和偏差的角度解释Boosting和Bagging的原理?

分析与解答


梯度梯度决策树的基本原理

场景描述

知识点
GBDT CART

问题1 GBDT的基本原理是什么?

分析与解答

百面机器学习总结笔记(第十二章 集成学习)_第10张图片


在这里插入图片描述
在这里插入图片描述

问题3 GBDT 的优点和局限性有哪些?

分析与解答
百面机器学习总结笔记(第十二章 集成学习)_第11张图片

XGBoost与GBDT的联系和区别

场景描述

知识点
XGBoost GBDT 决策树

问题 XGBoost与GBDT的联系和区别有哪些?

分析与解答



你可能感兴趣的:(百面机器学习总结笔记(第十二章 集成学习))