分类预测 | MATLAB实现BO-BiLSTM贝叶斯优化双向长短期记忆神经网络多特征分类预测

分类预测 | MATLAB实现BO-BiLSTM贝叶斯优化双向长短期记忆神经网络多特征分类预测

分类效果

基本介绍

MATLAB实现BO-BiLSTM贝叶斯优化双向长短期记忆神经网络多特征分类预测。建立了基于双向长短期记忆神经网络的辨识模型。利用模拟器获取操纵数据并建立数据集，模型经过训练后，能够有效利用数据的时序特征，成功识别不同状态，模型的识别准确率到达96%左右。

模型描述

贝叶斯优化（Bayesian optimization algorithm，简称BOA）利用之前已搜索点的信息确定下一个搜索点，用于求解维数不高的黑盒优化问题。算法的思路是首先生成一个初始候选解集合，然后根据这些点寻找下一个有可能是极值的点，将该点加入集合中，重复这一步骤，直至迭代终止。最后从这些点中找出极值点作为问题的解。MATLAB实现BO-BiLSTM贝叶斯优化双向长短期记忆神经网络多特征分类预测。建立了基于双向长短期记忆神经网络的辨识模型。贝叶斯优化参数为隐藏层节点、初始学习率、正则化系数。

程序设计

• 完整程序和数据私信博主。

%%  创建网络
layers = [ ...
  sequenceInputLayer(num_dim)                  % 输入层
  bilstmLayer(NumOfUnits, 'OutputMode', 'last')% BiLSTM层
  reluLayer                                    % Relu激活层
  fullyConnectedLayer(num_class)               % 全连接层
  softmaxLayer                                 % 损失函数层
  classificationLayer];                        % 分类层

% 参数设置
options = trainingOptions('adam', ...                 % 优化算法Adam
    'MaxEpochs', 800, ...                             % 最大训练次数
    'GradientThreshold', 1, ...                       % 梯度阈值
    'InitialLearnRate', InitialLearnRate, ...         % 初始学习率
    'LearnRateSchedule', 'piecewise', ...             % 学习率调整
    'LearnRateDropPeriod', 700, ...                   % 训练700次后开始调整学习率
    'LearnRateDropFactor',0.2, ...                    % 学习率调整因子
    'L2Regularization', L2Regularization, ...         % 正则化参数
    'ExecutionEnvironment', 'cpu',...                 % 训练环境
    'Verbose', 0, ...                                 % 关闭优化过程
    'Plots', 'training-progress');                    % 画出曲线

%%  训练
net = trainNetwork(p_train, t_train, layers, options);

参考资料

[1] https://blog.csdn.net/kjm13182345320/article/details/128368295?spm=1001.2014.3001.5501
[2] https://blog.csdn.net/kjm13182345320/article/details/128371095?spm=1001.2014.3001.5502