机器学习boost--XGBoost

机器学习boost--XGBoost

    • 1.boost的概念
    • 2.boosting与bagging区别
    • 3.XGBoost算法公式推导

1.boost的概念

决策树所要解决的两个重要问题:
1.树结构
2.叶节点权重
提升的目的是找到合适的权重和合适的树结构,方法是最小化LossFunction最小
机器学习boost--XGBoost_第1张图片

2.boosting与bagging区别

机器学习boost--XGBoost_第2张图片
方差偏差解释
机器学习boost--XGBoost_第3张图片

3.XGBoost算法公式推导

机器学习boost--XGBoost_第4张图片
机器学习boost--XGBoost_第5张图片

机器学习boost--XGBoost_第6张图片
机器学习boost--XGBoost_第7张图片
机器学习boost--XGBoost_第8张图片
以上是计算合适的权重

此处为得到最佳树结构,优势为在测试不同树结构效果的时候可以并行计算
机器学习boost--XGBoost_第9张图片

你可能感兴趣的:(机器学习,算法,决策树,机器学习,人工智能)