基于麻雀算法改进的LSTM预测算法-附代码

基于麻雀算法改进的LSTM预测算法

摘要：为了提高LSTM数据的预测准确率，对LSTM中的参数利用麻雀搜索算法进行优化。

1.数据

采用正弦信号仿真数据，数量为200。90%的数据用于训练，10%的数据用于测试。

2.LSTM模型

LSTM请自行参考相关机器学习书籍。

3.基于麻雀算法优化的LSTM

麻雀搜索算法的具体原理参考博客：https://blog.csdn.net/u011835903/article/details/108830958。

麻雀算法的优化参数为 LSTM网路包含的隐藏单元数目,最大训练周期,初始学习率,L2参数。适应度函数为LSTM对训练集和测试集的均方误差（MSE），均方误差MSE越低越好
$$finteness=MSE[predict(train)]+MSE[predict(test)]$$

4.测试结果

麻雀参数设置如下：

%% 定义麻雀优化参数
pop=10; %种群数量
Max_iteration=10; %  设定最大迭代次数
dim = 4;%维度，即LSTM网路包含的隐藏单元数目,最大训练周期,初始学习率,L2参数
lb = [2,2,10E-5,10E-6];%下边界
ub = [200,100,1,1];%上边界
fobj = @(x) fun(x,numFeatures,numResponses,XTrain,YTrain,XTest,YTest);

---

SSA-LSTM优化得到的最优参数为：
SSA-LSTM优化得到的隐藏单元数目为：181
SSA-LSTM优化得到的最大训练周期为：97
SSA-LSTM优化得到的InitialLearnRate为：0.016595

SSA-LSTM优化得到的L2Regularization为：0.012629

SSA-LSTM结果：
SSA-LSTM训练集MSE:0.0062063
SSA-LSTM测试集MSE:0.066716
LSTM结果：
LSTM训练集MSE:0.0046388
LSTM测试集MSE:0.14566
从结果来看，经过改进后的优于未改进前的结果。

5.Matlab代码