深度学习网络模型梳理

Resent

残差网络

深度学习网络模型梳理_第1张图片
深度学习网络模型梳理_第2张图片
深度学习网络模型梳理_第3张图片

一、Resent网络理论部分

2015年,He等人采用残差网络(Residual Networks,ResNet)来解决梯度消失的问题。ResNet的主要特点是跨层连接,它通过引入捷径连接技术(shortcut connections)将输入跨层传递并与卷积的结果相加。在ResNet中只有一个池化层,它连接在最后一个卷积层后面。ResNet使得底层的网络能够得到充分训练,准确率也随着深度的加深而得到显著提升。将深度为152层的ResNet用于LSVRC-15的图像分类比赛中,它获得了第1名的成绩。在文献中,还尝试将ResNet的深度设置为1000,并在CIFAR-10图像处理数据集中验证该模型。

VGG

RNN递归神经网络

会将之前结果全部记下来,太多可能会导致一些特征不清楚。
深度学习网络模型梳理_第4张图片

LSTM

深度学习网络模型梳理_第5张图片

word2vec词向量模型

深度学习网络模型梳理_第6张图片
转换为词向量,根据前后两个次,输出得到一个多分类,让最有可能出现的第三个词,概率变大。

深度学习网络模型梳理_第7张图片
构建语料库,人为添加0标签

CBOW

深度学习网络模型梳理_第8张图片

Skipgram

深度学习网络模型梳理_第9张图片
深度学习网络模型梳理_第10张图片
深度学习网络模型梳理_第11张图片

GAN对抗生成网络

transfomer

深度学习网络模型梳理_第12张图片

深度学习网络模型梳理_第13张图片

TNT

深度学习网络模型梳理_第14张图片
深度学习网络模型梳理_第15张图片
深度学习网络模型梳理_第16张图片
蓝色的离散程度更大,特征更鲜明

DETR

深度学习网络模型梳理_第17张图片
深度学习网络模型梳理_第18张图片
深度学习网络模型梳理_第19张图片

faster-rcnn

你可能感兴趣的:(深度学习,深度学习,网络,神经网络)