回归预测 | MATLAB实现XGBoost极限梯度提升树多输入单输出

回归预测 | MATLAB实现XGBoost极限梯度提升树多输入单输出

目录

    • 回归预测 | MATLAB实现XGBoost极限梯度提升树多输入单输出
      • 预测效果
      • 基本介绍
      • 模型描述
      • 程序设计
      • 参考资料

预测效果

回归预测 | MATLAB实现XGBoost极限梯度提升树多输入单输出_第1张图片
回归预测 | MATLAB实现XGBoost极限梯度提升树多输入单输出_第2张图片

基本介绍

XGBoost的全称是eXtreme Gradient Boosting,它是经过优化的分布式梯度提升库,旨在高效、灵活且可移植。

  • xgboost是属于boosting家族,是GBDT算法的一个工程实现,在模型的训练过程中是聚焦残差,在目标函数中使用了二阶泰勒展开并加入了正则,在决策树的生成过程中采用了精确贪心的思路,寻找最佳分裂点的时候,使用了预排序算法,对所有特征都按照特征的数值进行预排序,然后遍历所有特征上的

你可能感兴趣的:(#,XGBoost极限梯度提升树,回归预测,机器学习,回归,matlab,机器学习,XGBoost,决策树)