【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型

【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型

一、学习资料

(LGBM)是一种基于梯度增强决策树(GBDT)算法。
往期研究了多输入单输出回归预测方法,本次研究多输入多输出回归预测。
参考链接:

lightgbm原理参考链接:
训练过程评价指标metric函数参考链接:
lightgbm参数介绍参考链接:
lightgbm调参参考链接:


二、回归预测(多输入多输出)

1.数据设置
数据(103个样本,6输入2输出)
2.预测结果
【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型_第1张图片
【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型_第2张图片
【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型_第3张图片

【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型_第4张图片

3.参数设置

parameters=containers.Map;
parameters('task')='train';
parameters('boosting_type')='gbdt';
parameters('metric')='rmse';
parameters('num_leaves')=31;
parameters('learning_rate')=0.05; %越大,训练集效果越好
parameters('feature_fraction')=0.9;
parameters('bagging_fraction')=0.8;
parameters('bagging_freq')=5;
parameters('num_threads')=1;
parameters('verbose')=1;

4.训练过程

[   1]  train rmse 0.233357
[   2]  train rmse 0.231044
[   3]  train rmse 0.228797
[   4]  train rmse 0.227415
............
[ 497]  train rmse 0.085027
[ 498]  train rmse 0.085003
[ 499]  train rmse 0.084895
[ 500]  train rmse 0.084889
bestIteration: 500
变量1训练集数据的R2为:0.86962
变量1测试集数据的R2为:0.68349
变量1训练集数据的MAE为:17.4661
变量1测试集数据的MAE为:30.9187
变量1训练集数据的MBE为:0.41216
变量1测试集数据的MBE为:10.9088
变量2训练集数据的R2为:-1.6106
变量2测试集数据的R2为:-1.3039
变量2训练集数据的MAE为:9.6898
变量2测试集数据的MAE为:10.2226
变量2训练集数据的MBE为:-2.193
变量2测试集数据的MBE为:-1.9149

5.特征变量敏感性分析
【MATLAB第72期】基于MATLAB的LightGbm(LGBM)梯度增强决策树多输入多输出回归预测模型_第5张图片

三、代码获取

CSDN后台私信回复“72期”即可获取下载方式。

你可能感兴趣的:(matlab,决策树,lgbm,lightgbm,多输入多输出,回归预测,梯度增强)