门控神经网络第36页

十分钟读完 Transformer 经典论文- Attention is all you need

全新神经网络架构Transformer，用自注意力机制颠覆序列转换模型引言：自注意力机制的崛起在过去的几年中，序列转换模型的领域一直由基于复杂的循环神经网络（RNN）或卷积神经网络（CNN）的架构所主导

夕小瑶·2024-01-17 10:14

数学建模常见算法的通俗理解（更新中）

做出某种决定）1.1粗浅理解1.2算法过程1.2.1构造判断矩阵1.2.2计算权重向量1.2.3计算最大特征根1.2.4计算C.I.值1.2.5求解C.R.值1.2.6判断一致性1.2.7计算总得分2神经网络

菜只因C·2024-01-17 09:19

循环神经网络

一、序列模型1、解决问题：对于事件有关的序列数据，通过使用历史观测来预测下一个未来观测。2、自回归模型第一种策略：可能不需要相当长的序列，只需要满足某个长度为的时间跨度。模型即自回归模型（autoregressivemodels）。第二种策略：保留一些对过去观测的总结，同时更新预测和总结。模型基于，以及公式更新的模型。由于从未被观测到，故该类模型称为隐变量自回归模型（latentautoregre

懒羊羊（学习中）·2024-01-17 08:23

深度学习笔记（八）——构建网络的常用辅助增强方法：数据增强扩充、断点续训、可视化和部署预测

截图和程序部分引用自北京大学机器学习公开课要构建一个完善可用的神经网络，除了设计网络结构以外，还需要添加一些辅助代码来增强网络运行的稳定性，鲁棒性。

絮沫·2024-01-17 08:45

论文笔记（一）：se(3)-TrackNet: Data-driven 6D Pose Tracking by ...... in Synthetic Domains

墨绿色的摆渡人·2024-01-17 07:38

【人工智能与深度学习】当输入层维度为1024，输出层维度为100时，为什么全连接层参数量为1024*100+100

当输入层维度为1024，输出层维度为100时，为什么全连接层参数量为1024*100+100在神经网络中，全连接层（也称为稠密层或线性层）的参数量计算通常包括权重（weights）和偏置（biases）

你好，Albert·2024-01-17 07:37

深度学习基础知识整理

自动编码器Auto-encoders是一种人工神经网络，用于学习未标记数据的有效编码。它由两个部分组成：编码器和解码器。

Do1phln·2024-01-17 07:01

深度学习论文解读分享之diffGrad：一种卷积神经网络优化方法

IEEETNNLS2020：diffGrad:一种卷积神经网络优化方法题目diffGrad:AnOptimizationMethodforConvolutionalNeuralNetworks作者ShivRamDubey

曦曦逆风·2024-01-17 07:29

23/76-LeNet

LeNet早期成功的神经网络。先使用卷积层来学习图片空间信息。然后使用全连接层转换到类别空间。

CeciliaJingle·2024-01-17 07:43

在PyTorch中开发我们的第一个神经网络

本教程将介绍初学者在PyTorch中构建神经网络的过程。我们将通过一个项目逐步进行操作。

小北的北·2024-01-17 07:30

论文笔记：信息融合的门控多模态单元（GMU）

整理了GMU（ICLR2017GATEDMULTIMODALUNITSFORINFORMATIONFUSION）论文的阅读笔记背景模型实验论文地址：GMU背景多模态指的是同一个现实世界的概念可以用不同的视图或数据类型来描述。比如维基百科有时会用音频的混合来描述一个名人；来自社交网络的用户用文本和多媒体附件(图像/视频/音频)评论音乐会或体育比赛等事件。医疗记录由图像、声音、文本和信号等的集合表

图学习的小张·2024-01-17 06:23

Python数据分析案例33——新闻文本主题多分类(Transformer, 组合模型) 模型保存

模型构建很重要，现在对于自然语言处理基本都是神经网络的方法了。

阡之尘埃·2024-01-17 06:48

循环神经网络-单变量序列预测详解（pytorch）

参考博客文章目录（1）导入所需要的包（2）读取数据并展示（3）数据预处理（4）划分训练集和测试集（5）构建RNN回归模型（6）构造训练函数（7）对整个数据集进行预测（8）可视化展示（9）MSE为评价指标（1）导入所需要的包importtorchimportnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltfromsklearn.preproc

heibut不相信眼泪·2024-01-17 06:46

回归预测 | Matlab实现MSADBO-CNN-LSTM基于改进蜣螂算法优化卷积神经网络-长短期记忆神经网络多特征回归预测

回归预测|Matlab实现MSADBO-CNN-LSTM基于改进蜣螂算法优化卷积神经网络-长短期记忆神经网络多特征回归预测目录回归预测|Matlab实现MSADBO-CNN-LSTM基于改进蜣螂算法优化卷积神经网络

机器学习之心·2024-01-17 05:27

回归预测 | Matlab实现SSA-CNN-LSTM-Attention麻雀优化卷积长短期记忆神经网络注意力机制多变量回归预测（SE注意力机制）

回归预测|Matlab实现SSA-CNN-LSTM-Attention麻雀优化卷积长短期记忆神经网络注意力机制多变量回归预测（SE注意力机制）目录回归预测|Matlab实现SSA-CNN-LSTM-Attention

机器学习之心·2024-01-17 05:21

神经网络中的损失函数（下）——分类任务

神经网络中的损失函数前言分类任务中的损失函数交叉熵最大似然信息论信息量信息熵最短平均编码长度交叉熵KL散度余弦相似度损失函数总结前言上文主要介绍了回归任务中常用的几个损失函数，本文则主要介绍分类任务中的损失函数

liuzibujian·2024-01-17 05:51

chatgpt的奖励模型的原理是什么？

奖励模型是一种额外的神经网络，它接收生成的文本并预测它的质量。在训练过程中，ChatGPT会按照奖励模型的预测结果来调整生成文本的参数，以最大化奖励模型的预测值。

任我心意·2024-01-17 05:18

使用 Python 实现的卷积神经网络初学者指南

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达目录卷积神经网络简介其组成部分输入层卷积层池化层全连接层CNN在数据集上的实际实现CNN简介卷积神经网络是一种专为处理图像和视频而设计的深度学习算法

小白学视觉·2024-01-17 03:46

深度学习的错误总结

通常，神经网络在每个小批次（mini-batch）的数据上计算损失，这个损失表示模型的预测与实际标

豆沙沙包?·2024-01-17 03:35

【AI】AI和医疗大数据（3/3）

目录六、AI和医疗大数据的结合案例——基于卷积神经网络CT图像检测——步骤：——技术：——案例：——典型应用步骤详解：第一步：数据预处理第二步：训练集构建第三步：预测第四：代码片段续前，今天给几个卷积神经网络使用的具体例子

giszz·2024-01-17 02:56

【论文阅读笔记】Prompt Tuning for Parameter-efficient Medical Image Segmentation

这种方法基于预训练的神经网络，通过插入可

cskywit·2024-01-17 01:50

深度学习与Tensorflow学习笔记2 ——回调函数callbacks和Tensorboard

上一期我们从Fashion-mnist数据集开始，使用Tensorflow.keras搭建一个简单的神经网络来处理分类问题。通过这个简单例子我们熟悉了tf.keras的调用。

木头里有虫911·2024-01-17 01:19

【科普】神经网络中的随机失活方法

1.Dropout如果模型参数过多，而训练样本过少，容易陷入过拟合。过拟合的表现主要是：在训练数据集上loss比较小，准确率比较高，但是在测试数据上loss比较大，准确率比较低。Dropout可以比较有效地缓解模型的过拟合问题，起到正则化的作用。Dropout，中文是随机失活，是一个简单又机器有效的正则化方法，可以和L1正则化、L2正则化和最大范数约束等方法互为补充。在训练过程中，Dropout的

pprpp·2024-01-17 00:24

transfomer中Decoder和Encoder的base_layer的源码实现

工作原理：首先，通过卷积神经网络（CNN）提取输入图像的特征。然后，这些特征通过一系列自注意力的变换层进行处理，每个变换层都会将特征映射进行编码并产生一个新的特征映射。

zwhdldz·2024-01-17 00:14

[易语言]使用易语言部署工业级人脸检测模型

它利用深度学习技术，特别是卷积神经网络（CNN），实现了高精度的脸部定位。这个库是在C++语言中编写的，但是提供了Python的绑定，使得研究人员和开发者可以方便地在各种应用中使用它。

FL1623863129·2024-01-17 00:00

【论文笔记】基于强化学习的连续型机械臂自适应跟踪控制

4仿真校验5结论摘要【针对问题】空间主动碎片清除操作中连续型三臂节机器人系统跟踪【提出方法】一种基于强化学习的自适应滑模控制算法（强化学习+滑模控制）【具体内容】（1）基于数据驱动的建模方法，采用BP神经网络对三臂节连续型机械臂进行建模

Ctrl+Alt+L·2024-01-16 22:23

一文看懂深度学习（白话解释+8个优缺点+4个典型算法）

深度学习、神经网络、机器学习、人工智能的关系深度学习、机器学习、人工智能简单来说：深度学习是机器学习的一个分

喜欢打酱油的老鸟·2024-01-16 22:42

深度学习讲稿(19)

4.2比较：误差与比例尺在前一章中，我们的神经网络给出了预测的结果。但这个结果并不是真实的结果。但是我们知道真实的结果是什么。

山岳之心·2024-01-16 22:17

2024年初私募量化策略大盘点

其中树模型比神经网络占比更大一些，有的机构中使用率高达90%。

量化风云·2024-01-16 22:20

深度学习——第7章项目实战：自己动手写一个神经网络模型

第7章项目实战：自己动手写一个神经网络模型目录7.1导入数据集7.2定义神经网络输入层、隐藏层、输出层神经元个数7.3网络参数W和b初始化7.4正向传播过程7.5损失函数7.6反向传播过程7.7网络参数更新

曲入冥·2024-01-16 21:01

注意力机制在神经网络中的作用与影响

注意力机制的作用2解决梯度消失问题2.1传统RNN结构中的梯度消失难题2.2注意力机制对梯度消失问题的缓解2.3注意力机制对梯度传播的改进意义3不同变体的注意力机制3.1自注意力3.2多头注意力4注意力机制对神经网络的影响结语前言在深度学习领域

cooldream2009·2024-01-16 19:49

【持续学习系列(八)】《Continual Learning Through Synaptic Intelligence》

ContinualLearningThroughSynapticIntelligence2作者FriedemannZenke,BenPoole,SuryaGanguli3研究机构StanfordUniversity二、主要内容论文探讨了如何在人工神经网络

ZedKingCarry·2024-01-16 17:51

第六篇《基于多分支深度可分离卷积神经网络*的滚动轴承故障诊断研究》论文阅读笔记

[1]刘恒畅,姚德臣,杨建伟,张骄.基于多分支深度可分离卷积神经网络的滚动轴承故障诊断研究[J].振动与冲击,2021,40(10):95-102.基于多分支深度可分离卷积神经网络的滚动轴承故障诊断研究

子曰1884·2024-01-16 16:00

第五周作业：卷积神经网络（Part3）

文章目录一、《MobileNets:EfficientConvolutionalNeuralNetworksforMobileVisionApplications》1.原文地址2.TensorFlow官方3.论文亮点4.代码学习二、《MobileNetV2:InvertedResidualsandLinearBottlenecks》1.原文地址2.非官方Pytorch代码3.论文亮点4.代码学习三

QxwOnly·2024-01-16 16:59

【深度学习】各种卷积的理解笔记（2D，3D，1x1，可分离卷积）

同样，在卷积神经网络中，通过卷积，利用训练过程中自动学习权值的滤波器来提取不同的特征。然后，所有这

夹猪逃·2024-01-16 16:25

【论文笔记合集】卷积神经网络之深度可分离卷积（Depthwise Separable Convolution）

本文作者：slience_me我看的论文地址：MobileNets:EfficientConvolutionalNeuralNetworksforMobileVisionApplications内容1.标准卷积假设输入为DF×DF×M，输出为输入为DF×DF×N，卷积核为DK×DK×M，共有N个卷积核进行卷积操作下图为标准的卷积过程，每个卷积核对输入的向量进行卷积操作，得到一个特征映射，共有N个卷

slience_me·2024-01-16 16:52

机器学习算法实战案例：确实可以封神了，时间序列预测算法最全总结！

技术交流2、时间序列预测分类3、时间序列数据的特性4、时序预测评价指标5、基于深度学习的时间序列预测方法5.1统计学习方法5.2机器学习方法5.3卷积神经网络5.4循环神经网络5.5Transformer

Python算法实战·2024-01-16 15:10

【MATLAB随笔】遗传算法优化的BP神经网络（随笔，不是很详细）

文章目录一、算法思想1.1BP神经网络1.2遗传算法1.3遗传算法优化的BP神经网络二、代码解读2.1数据预处理2.2GABP2.3部分函数说明一、算法思想1.1BP神经网络BP神经网络（BackpropagationNeuralNetwork

感谢地心引力·2024-01-16 15:49

AIGC必备知识点：你不可不知的CNN（卷积神经网络）-知识全解析！

OJAC近屿智能·2024-01-16 14:03

毕业设计：基于深度学习的动态手势识别系统人工智能

目录前言设计思路一、课题背景与意义二、算法理论原理2.1卷积神经网络2.2手势识别三、检测的实现最后前言大四是整个大学期间最忙碌的时光,一边要忙着备考或实习为毕业后面临的就业升学做准备,一边要为毕业设计耗费大量精力

Krin_IT·2024-01-16 13:35

大语言模型

背景大语言模型是指具有大规模参数的神经网络模型，用于生成和理解自然语言。它的诞生背景源于深度学习和神经网络在自然语言处理领域的快速发展。

图灵追慕者·2024-01-16 11:31

【MATLAB】SVMD_LSTM神经网络时序预测算法

有意向获取代码，请转文末观看代码获取方式~也可转原文链接获取~1基本定义SVMD-LSTM神经网络时序预测算法是一种结合了单变量经验模态分解（SingularValueDecomposition，SVD

Lwcah·2024-01-16 11:22

神经网络｜张量tensor（待完善）

如何用代码实现tensortensor在神经网络中的应用其他tensor/张量什么是tensor？张量是用来探究一个点在各个切面（一共三个切面）和各个方向（x，y，z三个方向）上的受力情况。

晓源Galois·2024-01-16 11:51

【MATLAB】tvf_emd_LSTM神经网络时序预测算法

有意向获取代码，请转文末观看代码获取方式~也可转原文链接获取~1基本定义TVF-EMD-LSTM神经网络时序预测算法是一种结合了变分模态分解（VariationalModeDecomposition，VMD

Lwcah·2024-01-16 11:51

NeRF算法论文解析与翻译

超爱吃小蛋糕的66·2024-01-16 11:16

NeRF算法原理总结概述

论文翻译见博客：《NeRF算法论文解析与翻译》参考链接：神经网络辐射场NeRF、实时NeRFBaking、有向距离场SDF、占用网络Occupancy、NeRF自动驾驶NeRF详解NeRF入门之体渲染(

超爱吃小蛋糕的66·2024-01-16 11:14

深度学习面试100题（1-10）

用随机值初始化权重和偏差b.把输入传入网络，得到输出值c.计算预测值和真实值之间的误差d.对每一个产生误差的神经元，调整相应的权重值以减少误差e.重复迭代，直至得到网络权重的最佳值已知：大脑是有很多个叫做神经元的东西构成，神经网络是对大脑的简单的数学表达

xiaoshun007～·2024-01-16 10:36

无监督深度学习

SOM是一种无监督神经网络，它通过降低输入的维度来创建输入数据集的聚类。SOM在很多方面与传统的人工神经网

AI-智能·2024-01-16 10:13

从零开始训练神经网络

我必须创建一个训练循环，并使用随机梯度下降（SGD）作为优化器来更新神经网络的参数。训练函数中有两个主要循环。一个循环表示epoch数，即我遍历整个数据集的次数，第二个循环用于逐个遍历每个观察值。

AI-智能·2024-01-16 10:42

【论文笔记】Effect of Attention Mechanism in Deep Learning-Based Remote Sensing Image Processing：A S...

注意机制在基于深度学习的遥感图像处理中的作用：系统文献综述综述：概述了已开发的注意力机制以及如何将它们与不同的深度学习神经网络架构集成。此外，它旨在研究注意力机制对基于深度学习的RS图像处理的影响。

吃核桃用手夹·2024-01-16 09:54

推荐频道

门控神经网络