分类预测 | MATLAB实现BO-LSTM贝叶斯优化长短期记忆神经网络多特征分类预测

分类预测 | MATLAB实现BO-LSTM贝叶斯优化长短期记忆神经网络多特征分类预测

分类效果

基本介绍

MATLAB实现BO-LSTM贝叶斯优化长短期记忆神经网络多特征分类预测。建立了基于长短期记忆神经网络的辨识模型。利用模拟器获取操纵数据并建立数据集，模型经过训练后，能够有效利用数据的时序特征，成功识别不同状态，模型的识别准确率到达92%左右。

模型描述

贝叶斯优化是一种黑盒优化算法，用于求解表达式未知的函数的极值问题。算法根据一组采样点处的函数值预测出任意点处函数值的概率分布，这通过高斯过程回归而实现。根据高斯过程回归的结果构造采集函数，用于衡量每一个点值得探索的程度，求解采集函数的极值从而确定下一个采样点。最后返回这组采样点的极值作为函数的极值。这种算法在机器学习种被用于AutoML算法，自动确定机器学习算法的超参数。MATLAB实现BO-LSTM贝叶斯优化长短期记忆神经网络多特征分类预测。建立了基于长短期记忆神经网络的辨识模型。贝叶斯优化参数为隐藏层节点、初始学习率、正则化系数。

程序设计

• 完整程序和数据私信博主。

%----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- 
%%  创建网络
layers = [ ...
  sequenceInputLayer(num_dim)                  % 输入层
  lstmLayer(NumOfUnits, 'OutputMode', 'last')  % LSTM层
  reluLayer                                    % Relu激活层
  fullyConnectedLayer(num_class)               % 全连接层
  softmaxLayer                                 % 损失函数层
  classificationLayer];                        % 分类层
%----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- 
%%  设置网络参数
opt.options = trainingOptions('adam', ...             % 优化算法Adam
    'MaxEpochs', 800, ...                             % 最大训练次数
    'GradientThreshold', 1, ...                       % 梯度阈值
    'InitialLearnRate', optVars.InitialLearnRate, ... % 初始学习率
    'LearnRateSchedule', 'piecewise', ...             % 学习率调整
    'LearnRateDropPeriod', 700, ...                   % 训练700次后开始调整学习率
    'LearnRateDropFactor',0.2, ...                    % 学习率调整因子
    'L2Regularization', optVars.L2Regularization, ... % 正则化参数
    'ExecutionEnvironment', 'cpu',...                 % 训练环境
    'Verbose', 0, ...                                 % 关闭优化过程
    'Plots', 'none');                                 % 不画出曲线
%----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- 

参考资料

[1] https://blog.csdn.net/kjm13182345320/article/details/128364159?spm=1001.2014.3001.5501
[2] https://blog.csdn.net/kjm13182345320/article/details/128358983?spm=1001.2014.3001.5501