基于麻雀算法优化的核极限学习机(KELM)回归预测 -附代码

基于麻雀算法优化的核极限学习机(KELM)回归预测

摘要：本文利用麻雀搜索算法对核极限学习机(KELM)进行优化，并用于回归预测.

1.KELM理论基础

核极限学习机（Kernel Based Extreme Learning Machine，KELM）是基于极限学习机（Extreme Learning Machine，ELM）并结合核函数所提出的改进算法，KELM 能够在保留 ELM 优点的基础上提高模型的预测性能。

ELM 是一种单隐含层前馈神经网络，其学习目标函数F(x) 可用矩阵表示为:
$$F(x)=h(x)\times \beta =H\times \beta =L\text{\hspace{1em}(9)}$$
式中：$x$ 为输入向量，$h(x)$、$H$ 为隐层节点输出，$\beta$ 为输出权重，$L$ 为期望输出。

将网络训练变为线性系统求解的问题，$\beta$根据 $\beta =H\ast \cdot L$ 确定，其中，$H^{\ast }$ 为 $H$ 的广义逆矩阵。为增强神经网络的稳定性，引入正则化系数 $C$ 和单位矩阵 $I$，则输出权值的最小二乘解为
$$\beta =H^T(H{H}^T+\frac{I}{c}{)}^{-1}L\text{\hspace{1em}(10)}$$
引入核函数到 ELM 中，核矩阵为：
$${\Omega }_{ELM}=H{H}^T=h(x_i)h(x_j)=K(x_i,x_j)\text{\hspace{1em}(11)}$$
式中：$x_i$ ，$x_j$ 为试验输入向量，则可将式（9）表达为：
$$F(x)=[K(x,x_1);...;K(x,x_n)](\frac{I}{C}+{\Omega }_{ELM}{)}^{-1}L\text{\hspace{1em}(12)}$$
式中：$(x_1,x_2,\dots ,x_n)$ 为给定训练样本，$n$ 为样本数量.$K()$为核函数。

正则化系数 C 和核函数参数 S 需要人为设定，两者的设定将对 KELM的预测性能具有一定影响。

2.回归问题数据处理

采用随机法产生训练集和测试集，其中训练集包含 1 900 个样 本，测试集包含 100 个样本。为了减少变量差异较大对模型性能的影响，在建立模型之前先对数据进行归一化。选取核函数为rbf 高斯核函数，利用麻雀算法对正则化系数 C 和核函数参数 S 选取进行优化。

4.基于麻雀搜索算法优化的KELM

麻雀搜索算法的具体原理参考博客：https://blog.csdn.net/u011835903/article/details/108830958。

由前文可知，本文利用麻雀搜索算法对正则化系数 C 和核函数参数 S 进行优化。适应度函数设计为训练集的误差的MSE：
$$fitness=argmin(MS{E}_{pridect})$$

适应度函数选取训练后的MSE误差。MSE误差越小表明预测的数据与原始数据重合度越高。最终优化的输出为最佳正则化系数 C 和核函数参数 S。然后利用最佳正则化系数 C 和核函数参数 S训练后的网络对测试数据集进行测试。

5.测试结果

训练集结果如下图所示

测试集结果如下图所示：

麻雀收敛曲线：

训练集KELM 的MSE:0.0050992
训练集KELM 的MSE:0.42449
测试集SSA-KELM 的MSE:0.032512
测试集KELM 的MSE:0.80655

可以看出无论是在测试集和训练集上麻雀优化的KELM结果均更优。

6.Matlab代码

基于麻雀算法优化的核极限学习机(KELM)回归预测