基于lstm 的GA 优化算法(matlab)

概述:

第一部分:关于lstm

第二部分:关于ga

第三部分:代码和结果展示

一、关于lstm

长短期记忆网络(Long short-term memory, LSTM)模型本质上是一种特定形式的循环神经网络(Recurrent Neural Network,简称RNN),是一种用于时序预测的深度神经网络,主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题。LSTM通过对采集数据进行时序预测,广泛适用于各类时序相关的预测问题,能够有效地利用时间维度进行合理的判断。

LSTM模型在RNN模型的基础上解决了RNN的短期记忆问题,使神经网络能够真正有效地利用长距离的时序信息。LSTM 神经网络为 RNN 添加了用于处理信息的有用记忆单元,每个记忆单元包括输入门、输出门和遗忘门。

在t时刻,LSTM神经网络定义的公式如下:

        it = σ(Wi xt + Uiht - 1 + bi ) (1)[引用]

        C͂t = tanh(Wc xt + Ucht - 1 + bc) (2)

其中,W、U、b 分别为权重及误差,xt 为当期信号输入, ht - 1为该记忆细胞的前期输入。

更新遗忘门输出为:

         ft = σ(Wt xt + Ufht - 1 + bf ) (3)

新的记忆单元被更新为:

         Ct = it × C͂t + ft × Ct - 1 (4)

输出门与输入门相同,均由两部分构成:

          ot = σ(Wo xt + Uoht - 1 + bo ) (5)

LSTM神经网络的训练步骤如下所示:

  1. 首先将t时刻的数据特征输入至输入层,经过激励函数输出结果。
  2. 将输出结果、t-1时刻的隐藏层输出和t-1时刻cell单元存储的信息输入LSTM结构的节点中,通过Input Gate,Output Gate,Forget Gate和cell单元的处理,输出数据到下一隐藏层或输出层
  3. 输出LSTM结构节点的结果到输出层神经元,计算反向传播误差,更新各个权值。

二、关于遗传算法(ga)

遗传算法(Genetic Algorithm, GA)是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型,是一种通过模拟自然进化过程搜索最优解的方法。
      遗传算法以一种群体中的所有个体为对象,并利用随机化技术指导对一个被编码的参数空间进行高效搜索。其中,选择(Selection)、杂交(Crossbreed)和变异( Mutation)是遗传算法的三个主要操作算子,它们构成了所谓的遗传操作(GeneticOperations),使遗传算法具有了其他传统方法没有的特征。其具体过程为:
1)编码和初始化群体生成。把所需要选择的特征进行编码,每一个特征就是一个基因,一个解就是一串基因的组合。然后随机产生N个初始串结构数据,每个串结构数据称为一个个体,N个构成了一个群体。
2)计算当前群体的所有个体的适应度。根据解决问题的不同用相对应的适应度计算方法计算出每个个体的适应度。
3)选择。选择出适应度更适合生存的个体继续繁衍下去。
4)杂交。由交换概率挑选的每两个父代通过将相异的部分基因进行交换,从而产生新的个体。
5)变异。变异首先在群体中随机选择一定数量的个体,对于选中的个体以一定的概率随机地改变串结构数据中某个基因的值。最后判断是否满足算法结束条件,若满足则算法终止,否则进入步骤2)。

三、代码结果展示

基于lstm 的GA 优化算法(matlab)_第1张图片

如下代码也可获取:

优化LSTM(长短期记忆网络)分类如下:


PS0优化LSTM(长短期记忆网络)分类/粒子群

https://download.csdn.net/download/qq_53393298/85150662

GA优化L STM(长短期记忆网络)分类/遗传算法

https://download.csdn.net/download/qq_53393298/85058379

鲸鱼优化L STM(长短期记忆网络)分类算法

https://download.csdn.net/download/qq_53393298/85058390

烟花算法优化LSTM(长短期记忆网络)分类

https://download.csdn.net/download/qq_53393298/85150649


麻雀搜索算法优化LSTM(长短期记忆网络)分类

https://mianbaoduo.com/o/bread/YpqWmpxx

差分进化算法优化LSTM(长短期记忆网络)分类

https://download.csdn.net/download/qq_53393298/85150654   

布谷鸟算法优化L STM(长短期记忆网络)分类

https://download.csdn.net/download/qq_53393298/85072264

你可能感兴趣的:(算法,lstm,matlab)