基于深度极限学习机的回归预测方法Matlab实现——附代码

目录

摘要：

极限学习机

 变分自编码器

深度极限学习机

本文代码分享 

---

摘要：

本文使用深度极限学习进行数据回归预测，极限学习机（ELM）是当前一类非常热门的机器学习算法，被用来训练单隐层前馈神经网络（SLFN）。本篇博文尽量通俗易懂地对极限学习机的原理进行详细介绍，之后分析如何用MATLAB实现该算法并对代码进行解释。本文主要内容如下：

极限学习机

极限学习机（Extreme Learning Machine, ELM）或“超限学习机”是一类基于前馈神经网络（Feedforward Neuron Network, FNN）构建的机器学习系统或方法，适用于监督学习和非监督学习问题 。

ELM在研究中被视为一类特殊的FNN，或对FNN及其反向传播算法的改进，其特点是隐含层节点的权重为随机或人为给定的，且不需要更新，学习过程仅计算输出权重。

传统的ELM具有单隐含层，在与其它浅层学习系统，例如单层感知机（single layer perceptron）和支持向量机（Support Vector Machine, SVM）相比较时，被认为在学习速率和泛化能力方面可能具有优势  。ELM的一些改进版本通过引入自编码器构筑或堆叠隐含层获得了深度结构，能够进行表征学习 。

ELM的应用包括计算机视觉和生物信息学，也被应用于一些地球科学、环境科学中的回归问题  。

 变分自编码器

变分自动编码器（Variational autoEncoder，VAE）是生成模型的一种。这些方法的主要目标是从对象的学习分布中生成新的采样数据。2014 年，Kingma et al. [3]提出了这种生成模型，该模型可以从隐变量空间的概率分布中学习潜在属性并构造新的元素。

 变分自编码器与对抗生成网络类似，均是为了解决数据生成问题而生的。在自编码器结构中，通常需要一个输入数据，而且所生成的数据与输入数据是相同的。但是通常希望生成的数据具有一定程度的不同，这需要输入随机向量并且模型能够学习生成图像的风格化特点，因此在后续研究中以随机化向量作为输入生成特定样本的对抗生成网络结构便产生了。变分自编码器同样的以特定分布的随机样本作为输入，并且可以生成相应的图像，从此方面来看其与对抗生成网络目标是相似的。但是变分自编码器不需要判别器，而是使用编码器来估计特定分布。总体结构来看与自编码器结构类似，但是中间传递向量为特定分布的随机向量，这里需要特别区分：编码器、解码器、生成器和判别器

深度极限学习机

本文代码分享