神经网络的分类及其不同的应用场景

Artificial Nerual Networks-Based Machine Learning for Wireless Networks:A Tutorial

这篇论文讲述了基于神经网络的无线网络机器学习教程,论文中对神经网络进行了分类，并且总结了不同的神经网络应用的场景。

•模块化神经网络： 模块化神经网络（MNN）由几个独立的神经网络和一个中介组成。在一个MNN中，每个ANN用来完成MNN要执行的整个任务的一个子任务。中间层用来处理每个独立神经网络的输出，并生成一个神经网络的输出。
•递归（循环）神经网络：RNN是一种神经网络结构，允许神经元从一层神经元连接到前一层神经元。根据RNN中神经元的激活函数和连接方式的不同，RNN可以定义几种不同的结构：
a）随机神经网络
b）双向神经网络（BNNs）
c）全递归神经网络（FRNN）
d）神经图灵机（NTM）
e）长短时记忆（LSTM）
f） 回声状态网络（ESNs）
g）简单递归神经网络（SRNNs）
h）门控递归单元（gru）
**•生成性对抗网络：**生成性对抗网络（GAN）由两个神经网络组成。一个神经网络用于从潜在空间学习映射到特定的数据分布，另一个神经网络用于区分真实数据分布和神经网络映射的分布。
•深层神经网络： 所有具有多个隐藏层的ann称为dnn。
**•尖峰神经网络：**尖峰神经网络由精确模拟生物神经网络的尖峰神经元组成。
•前馈神经网络： 在前馈神经网络（FNN）中，每个神经元只有来自前一层的传入连接，只有到下一层的传出连接。FNNs可用于定义更高级的体系结构，如：
a）极限学习机（ELMs）
b）卷积神经网络（CNNs）
c）时延神经网络（TDNNs）
d）自动编码器(Autoencoder)
e）概率神经网络（pnu）
f）径向基函数（rbf）。
•物理神经网络： 在物理神经网络（PNN）中，使用电可调电阻材料来模拟神经激活的功能。
每种类型的神经网络都适用于特定的学习任务。例如，rnn在处理依赖时间的数据方面是有效的，而snn在处理连续数据方面是有效的。应该注意的是，大多数由无线网络收集的数据是时间相关的和连续的。特别是在无线网络中，用户上下文和行为、无线信号和无线信道条件都是时间相关的和连续的。RNN和SNN在处理这些收集到的数据时是有效的。他们可以利用这些数据进行各种用途，例如网络控制和用户行为预测。然而，由于rnn或snn只能记录有限大小的历史数据，它们可能无法解决所有的无线通信问题。为了解决浅层rnn和snn无法解决的复杂无线问题，可以使用具有高存储容量的dnn进行数据分析，并且可以将需要学习的复杂问题分离成几个简单问题的组合，从而使学习过程有效。因此，可以根据不同的应用场合来选取特定的算法。
下图总结了RNNs（循环神经网络），SNNs（尖峰神经网络），DNNs（深度神经网络）的优缺点：