基于猎人猎物算法优化LSTM的碳交易价格预测

目录

一、背景及介绍

1.1 长短时记忆网络

1.2 猎人猎物优化算法（HPO）

二、HPO-LSTM算法

 三、模型仿真与结果分析

四、总结与展望

一、背景及介绍

1.1 长短时记忆网络

        提到LSTM算法，相必大家都马上就能想起和序列、列表有关的时序数据的预测，是RNN的改进版本。现如今，lstm已经在语音识别，语言建模，翻译，图片描述等问题上已经取得一定成功，并且被越来越多的应用在各行各业种。LSTM 的关键就是细胞状态，水平线在图上方贯穿运行。细胞状态类似于传送带。直接在整个链上运行，只有一些少量的线性交互。信息在上面流传保持不变会很容易。

       LSTM内部主要有三个阶段：1.忘记阶段，遗忘门。这个阶段主要是对上一个节点传进来的输入进行选择性忘记。简单来说就是’忘记不重要的，记住重要的‘。具体来说就是通过计算得到的f表示forget）来作为忘记门控，来控制上一个状态的哪些需要留哪些需要忘。2.选择记忆阶段，输入门。这个阶段将这个阶段的输入有选择性地进行’记忆‘。主要是会对输入x进行选择记忆。重要部分多记录，不重要的少记录。当前的输入由前面计算得到的 z 表示。而选择的门控信号则是由i来进行控制。将上面两步得到的结果相加，即可得到传输给下一个状态的  。也就是上图中的第一个公式 。 3. 输出阶段，输出门。这个阶段将决定哪些将会被作为当前状态的输出。主要是通过来进行控制的。并且还对上一阶段得到的进行了放缩（通过一个tanh激活函数进行变化）。与普通RNN类似，输出往往最终也是通过变化得到。
 

也有很多文章详细的讲解了LSTM的内容如下，这里就不再详细介绍了：

深度学习：LSTM简介_小马帅就是我没错了的博客-CSDN博客_lstm介绍

理解 LSTM 网络 - 简书

人人都能看懂的LSTM - 知乎

1.2 猎人猎物优化算法（HPO）

        相信提到这个算法大家可能就一头雾水了，因为这个优化算法是2021年最新提出的一种具有全局寻优能力的优化算法。别怕，类似的算法你肯定听说过：模拟退火算法、蚁群算法等等。都是经典的具有全局寻优能力的优化算法，在解决问题的过程中利用这种算法可以快速的找到全局的最优解并且这种算法还可以在常见的机器学习算法中代替原有的参数更新过程来避免传统的机器学习算法可能出现的陷入局部极值的情况。而最新的群智优化算法可以参考下面的这个博客：

2020-2022年最新的智能群优化算法_Vertira的博客-CSDN博客_最新的群智能优化算法

        猎人猎物优化搜索算法是由Naruei& Keynia 于2022年提出的一种最新的优化搜索算法。受到捕食动物(如狮子、豹子和狼)和猎物(如雄鹿和瞪羚)的行为的启发，他们根据猎人和猎物的位置移动方法设计了一种新型的搜索方式及自适应度更新的方法，随后的测试被应用在多个单峰及多峰测试函数上，并表现出了优于其他搜索算法的特点。

        该算法的基本假设是：在猎人寻找猎物的场景中，由于猎物通常是成群的，猎人将大概率的选择一个远离群体的猎物(远离平均群体位置)。猎人找到猎物后，就会追逐猎物。与此同时，猎物寻找食物，并在捕食者的攻击中逃脱，到达一个安全的地方，这两个过程中即伴随着猎人位置与猎物位置的更新。根据适应度函数，我们最终认为这个安全的地方（目标搜索位置）是最佳猎物所在的地方，从而完成了整个搜索的过程，下面分别是猎人追击猎物与猎物逃跑过程的示意图。

 

详细的猎人猎物优化算法可以参考下面这篇博客：

基于猎人猎物优化算法的函数寻优算法_心️升明月的博客-CSDN博客

二、HPO-LSTM算法

         整体的HPO-LSTM算法其实核心的思想就是去改变网络训练过程反向传播过程中的参数更新的方法，基本的流程图如下，：

 三、模型仿真与结果分析

     采用matlab进行编程求解，并且以我国的最早的八个碳交易试点地区为例进行模型测试。

详细的代码和数据可以私信找我要。训练过程中的截图：

 预测结果与真实结果之间的对比：

 最后进行模型分析，可从图中可以清晰直观的看出：优化后的HPO-LSTM模型在中国八个试点地区的碳交易价格测试数据中的均方误差（RMSE）均小于对应地区的LSTM的误差，表明优化后的预测模型预测准确率高于原有模型；同时由程序全部运行时间的对比图可看出，HPO-LSTM模型的平均运行时间在八个地区上均呈现小于LSTM的趋势，表明优化后的模型能够提高预测效率，缩短程序运行时长：

 

四、总结与展望

       传统LSTM网络在预测时间序列数据方面的不足，可以利用最新提出的具有较强的全局搜索与局部寻优能力的HPO搜索算法来对其进行优化。将HPO中调整自适应度及超参数的方法替换原LSTM中反向传播中参数更新的梯度下降方法，可以有效地避免在迭代搜索过程中陷入局部极值的概率，从而大大提高模型预测的准确率；同时，利用算法结构简单的HPO替换原有复杂的LSTM模型中的参数更新同样可以使得预测模型的效率提升。在不同地区不同类型的数据集上HPO-LSTM表现的均比原有LSTM模型更优，表明了优化后的模型在碳交易价格的预测上具有一定的泛化能力。