反向传播

BP算法与淋浴器的温度调节

BP算法（反向传播算法）是一种用于神经网络训练的基本算法。它通过逐层迭代地调整神经网络的权重和偏置，以使网络的输出尽可能接近期望的输出。
人工智能教学实践·2023-12-27 19:37

目标检测-Two Stage-Fast RCNN

中提到SPPNet的主要缺点是：分开训练多个模型困难且复杂尽管比RCNN快10-100倍，但仍然很慢SPPNet无法更新空间金字塔池化层以下的权重，根本原因是，当每个训练样本来自不同影像时，通过SPP层的反向传播效率很低
学海一叶·2023-12-27 06:29

pytorch中池化函数详解

池化层一般没有参数，所以反向传播的时候，只需对输入参数求导，不需要进行权值更新。池化操作的基本思想是将特征图划分为若干个子区域（一般为
智慧医疗探索者·2023-12-26 18:02

回答同学的提问，机器学习中常见的目标函数，优化器，损失函数的概念，联系

它用于计算预测结果与真实标记之间的误差，并通过误差反向传播算法来指导模型参数的更新。目标函数主要分为分类任务目标函数和回归任务目标函数，有时还会加入附加任务目标函数以防止过拟合或求得稀疏解。
小桥流水---人工智能·2023-12-26 09:20

深度学习中的池化

池化层一般没有参数，所以反向传播的时候，只需对输入参数求导，不需要进行权值更新。池化操作的基本思想是将特征图划分为若干个子区域
智慧医疗探索者·2023-12-25 09:39

神经网络和深度学习（四）—反向传播工作原理

姓名：吴丞楚学号：20012100032学院：竹园三号书院【嵌牛导读】简要介绍反向传播算法【嵌牛鼻子】深度学习神经网络反向传播算法【嵌牛提问】如何将反向传播算法应用到神经网络反向传播算法工作原理在上一篇文章
吴丞楚20012100032·2023-12-25 08:28

OpenAI科学家Hyung Won Chung演讲精华版

文章目录第一个观点：涌现第二个观点：如何扩大规模1、标记化2、嵌入3、计算4、评估（损失函数）5、反向传播最近从Google跳槽到OpenAI的AI科学家HyungWonChung比较拗口，我就简称尚哥了他最近做了一个技术演讲涵盖了大语言模型的很多最新动向和技术细节今天大飞在这里跟大家分享一下可以说这次分享可以跟安德烈卡帕西的
韫秋鱼线·2023-12-25 03:27

Pytorch-神经网络

神经网络一个常见的训练过程如下：（1）定义含有可训练参数的神经网络；（2）遍历输入数据集；（3）输入数据经过网络进行的相关运算（正向传播）；（4）计算损失函数（loss）；（5）梯度反向传播；
WAI_f·2023-12-24 18:02

【23-24 秋学期】NNDL 作业10 BPTT

习题6-1P推导RNN反向传播算法BPTT.已知，z1---f激活函数--h1,h1--g激活函数--,y1是真实值。
今天也是元气满满的一天呢·2023-12-24 18:08

LSTM（长短期记忆网络）的设计灵感和数学表达式

然而，在处理长序列数据时，由于反向传播过程中梯度的不断乘积，会导致梯度消失或梯度爆炸的问题，使得网络无法有效地学习到长期依赖关系。为了解决这个问题，Hochreiter和Schmidhuber
科学禅道·2023-12-24 17:27

神经网络：深度学习基础

1.反向传播算法（BP）的概念及简单推导反向传播（Backpropagation，BP）算法是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见算法。
是Dream呀·2023-12-23 20:38

机器学习笔记（二）使用paddlepaddle，再探波士顿房价预测

反向传播：执行梯度反向传播backward函数，即从后到前逐层计
Leventure_轩先生·2023-12-23 16:52

深度学习（4）数据预处理-均值减法

1)从主成分分析（PCA）入手解释2)从深度学习反向传播计算入手3、代码1）图像去均值（imagemean）2）像素均值（pixelmean）当样本类别差异较大，减少样本差异，对样本数据进行预处理，这也是提高模型泛华能力的一种
香博士·2023-12-23 03:45

循环神经网络中的梯度消失或梯度爆炸问题产生原因分析

循环神经网络中，通过时间反向传播（backpropagationthroughtime，BPTT）实际上是循环神经网络中反向传播技术的一个特定应用。
科学禅道·2023-12-22 15:00

Pytorch：optimizer.zero_grad(), loss.backward(), optimizer.step()

grad_scaler.step(optimizer)grad_scaler.update()这三个函数的作用是：在训练过程中先调用optimizer.zero_grad()清空梯度再调用loss.backward()反向传播最后
北方骑马的萝卜·2023-12-22 08:53

循环神经网络中的梯度消失或梯度爆炸问题产生原因分析（二）

上一篇中讨论了一般性的原则，这里我们具体讨论通过时间反向传播（backpropagationthroughtime，BPTT）的细节。我们将展示目标函数对于所有模型参数的梯度计算方法。
科学禅道·2023-12-22 07:58

100天搞定机器学习|day37 无公式理解反向传播算法之精髓

image100天搞定机器学习|Day35深度学习之神经网络的结构image100天搞定机器学习|Day36深度学习之梯度下降算法本篇为100天搞定机器学习之第37天，亦为3Blue1Brown《深度学习之反向传播算法
统计学家·2023-12-22 00:57

【torch】rsample与sample的区别

所以，我们不能反向传播，因为它是随机的！（计算图被截断）。
qq_42725437·2023-12-21 21:39

从零开始的神经网络

先决条件在本文中，我将解释如何通过实现前向和后向传递（反向传播）来构建基本的深度神经网络。这需要一些关于神经网络功能的具体知识。
人工智能小豪·2023-12-21 11:36

Pytorch：backward()函数详解

.backward().backward()是PyTorch中用于自动求导的函数，它的主要作用是计算损失函数对模型参数的梯度，从而实现反向传播算法。
北方骑马的萝卜·2023-12-21 08:52

PyTorch比NumPy能省多少时间？（附代码）

上节，我已经展示了如何通过反向传播为前馈神经网络实现这些计算，让我们看看与NumPy相比，PyTorch为我们节省了多少时间。
人工智能小豪·2023-12-21 07:05

去掉乘法运算的加法移位神经网络架构

github.com/huawei-noah/AdderNet/tree/master核心贡献用filter与inputfeature之间的L1-范数距离作为“卷积层”的输出为了提升模型性能，提出全精度梯度的反向传播方法根据不同层的梯度级数
Mr.zwX·2023-12-21 05:28

BP神经网络原理

1.基本概念1.1简介BP神经网络（BackPropagationNeuralNetwork）是一种基于误差反向传播算法（BackPropagationAlgorithm）的人工神经网络，也是应用最广泛的神经网络之一
Annual Mercury·2023-12-21 01:29

MNIST手写数字识别——simple model Y = XW + b

文章目录数据处理MINIST手写数字数据集简单介绍一下数据集将数据集转化为csv文件简单的手写数字识别模型加载数据集定义模型和超参数前向传播sigmoid激活函数softmax函数交叉熵损失函数反向传播梯度下降法链式法则
涵涵不是憨憨~·2023-12-20 18:30

湖南科技大学计算智能课设（二）以人事招聘为例的误差反向传播算法

以人事招聘为例的误差反向传播算法写在前面这篇文章是课设的相关记录，有些地方可能会写的不对，欢迎大家指正。
枍飏·2023-12-20 03:52

NNDL 作业10 BPTT [HBU]

目录习题6-1P推导RNN反向传播算法BPTT.习题6-2推导公式(6.40)和公式(6.41)中的梯度．习题6-3当使用公式(6.50)作为循环神经网络的状态更新公式时，分析其可能存在梯度爆炸的原因并给出解决方法
洛杉矶县牛肉板面·2023-12-20 00:01

NNDL 作业11 LSTM [HBU ]

目录习题6-4推导LSTM网络中参数的梯度，并分析其避免梯度消失的效果>LSTM前向传播>反向传播求梯度>梯度消失和梯度爆炸怎么来的？>关键点：LSTM如何缓解梯度消失？
洛杉矶县牛肉板面·2023-12-20 00:29

pytorch文本分类（三）模型框架（DNN&textCNN）

textCNN）原任务链接目录pytorch文本分类（三）模型框架（DNN&textCNN）1.背景知识深度学习2.DNN2.1从感知器到神经网络2.2DNN的基本结构2.2.1前向传播算法激活函数2.2.2反向传播算法损失函数梯度下降优化器
大地之灯·2023-12-20 00:59

「X」Embedding in NLP｜神经网络和语言模型 Embedding 向量入门

01.深入了解神经网络首先，简要回顾一下神经网络的构成，即神经元、多层网络和反向传播算法。如果还想更详细深入了解这些基本概念可以参考其他资源
Zilliz Planet·2023-12-19 20:25

[PyTorch][chapter 8][李宏毅深度学习][Back propagation]

前言：反向传播算法(英:Backpropagationalgorithm，简称:BP算法)是一种监督学习算法，常被用来训练多层感知机。它用于计算梯度计算中，降低误差。
明朝百晓生·2023-12-19 08:11

基于Levenberg-Marquardt算法改进的BP神经网络-公式推导及应用

下面是基于Levenberg-Marquardt算法改进的反向传播（BP）神经网络的详细推导过程。考虑一个具有L层的前馈神经网络，其中第l层（l=1,2,...,L）有nl个神经元。
轩Scott·2023-12-19 05:39

预测算法|高斯过程回归GPR算法原理及其优化实现

目前，常用的机器学习方法主要有支持向量机（supportvectormachine，SVM)、反向传播神经网络（backpropagationneuralnetwork，BPNN)等非概率方法以及高斯过程回归
KAU的云实验台·2023-12-18 23:15

图像识别的精度与效率优化研究

一、引言深度学习是一种基于神经网络的机器学习方法，通过构建多层次的神经网络，通过反向传播算法进行训练，从而实现对图像的自动学习和识别。与传统的机器学习算法相比，深度学习具有更强的表达能
matlabgoodboy·2023-12-18 18:39

BP神经网络

一、BP神经网络的概念BP神经网络是一种多层的前馈神经网络，其主要的特点是：信号是前向传播的，而误差是反向传播的。
花花妞·2023-12-18 16:40

深度学习 | 前馈神经网络与反向传播算法

目录一、Logistic函数二、前馈神经网络（FNN）三、反向传播算法（BP算法）四、基于前馈神经网络的手写体数字识别一、Logistic函数Logistic函数是学习前馈神经网络的基础。
天下弈星~·2023-12-18 16:31

【Pytorch】学习记录分享3——PyTorch 自动微分与线性回归

【【Pytorch】学习记录分享3——PyTorch自动微分与线性回归1.autograd包，自动微分2.线性模型回归演示3.GPU进行模型训练小结：只需要将前向传播设置好，调用反向传播接口，即可实现反向传播的链式求导
大江东去浪淘尽千古风流人物·2023-12-18 16:47

notes2

LightGBM逻辑回归，L1L2正则化熵，KL散度，交叉熵micro-f1,macro-f1神经网络连续型特征处理决策树分箱BP算法优化器注意力和Softmax的两点有趣发现：鲁棒性和信息量softmax反向传播推导交叉熵函数优于均方差函数的推导和
lym94·2023-12-18 14:53

基于matlab的卷积神经网络(CNN)讲解及代码

转载自：http://blog.csdn.net/walegahaha/article/details/51603040经典反向传播算法公式详细推导卷积神经网络(CNN)反向传播算法公式详细推导网上有很多关于
空山明月_Blog·2023-12-18 13:36

卷积神经网络的学习与实现

1.经典反向传播算法公式详细推导这里引用经典反向传播算法公式详细推导_反向目标公式-CSDN博客第一个公式代表隐藏层神经元的输入值都是前边所有神经元的累加和
赛亚超·2023-12-18 13:03

神经网络中梯度消失 以及梯度爆炸的原因已解决办法

梯度消失问题：梯度消失指的是在网络的深层结构中，梯度在反向传播过程中逐渐变小，最终变得非常接近于零。这会导致深层网络的参数无法得到有效更新，使得网络无法学习到有效的特征表示。
澄绪猿·2023-12-18 12:42

Pytorch学习概述

Intelligence）1.1人类智能1.2机器学习（人工智能）1.3深度学习1.4学习系统的发展历程传统的机器学习策略2.传统机器学习算法的一些挑战3.神经网络的简要历史3.1BackPropagation（反向传播
chairon·2023-12-18 11:33

BP神经网络

包括信号的正向传播和误差的反向传播两个过程，即计算机误差输出时按从输入到输出的方向进行，从而调整权重和阈值时按从输出到输入的方向进行
unhurried人生——冕临·2023-12-18 10:59

变分自编码器（VAE）初识

它基于反向传播算法与最优化方法（如梯度下降法），AE（Auto-Encoder）的架构可以如下所示;记XXX为整个数据集的集合，xix_{i}xi是数据集中的一个样本。自编码
碧蓝的天空丶·2023-12-18 08:38

pytorch | epoch, batch, iteration

（也就是说，所有训练样本在神经网络中都进行了一次正向传播和一次反向传播）然而，当一个Epoch的样本（也就是所有的训练样本）数量可能太过庞大（对于计算机而言），就需要把它分成多个小块，也就是就是分成多个
Mine4ever_·2023-12-18 08:47

为什么每次optimizer.zero_grad()

2计算梯度（反向传播）：损失函数对网络参数的梯度（即导数）是通过一个称为反向传播的过程计算出来的。这个过程从损失函数开始，向后通过网络传播，直到达到输入层，计算每个参数对损失的贡献。
Code_LiShi·2023-12-17 21:03

深度学习记录--随机初始化

我们的隐层的神经单元输出始终不变，出现隐藏神经元的对称性这种对称性会导致a值和w值无法进行正常的迭代更新，导致每层的节点作用式微，神经网络也就失去其作用了一般来说，模型所有的权重w随机初始化，所有偏置b初始化为0这种方法，在反向传播的过程中所有权重的导数
蹲家宅宅·2023-12-17 20:33

Pytorch当中的.detach()操作是什么意思

当我们在PyTorch中进行张量运算时，操作会构建一个计算图来跟踪计算历史，这个计算图用于自动求导和反向传播来计算梯度。
BugMaker2002·2023-12-17 07:18

基于BP/GRNN神经网络的网络安全数据预测——Matlab仿真

本文将介绍如何使用BP（反向传播）和GRNN（广义回归神经网络）两种神经网络模型，通过Matlab进行网络安全数据预测的仿真实验。
程序员拓荒·2023-12-16 22:56

Python实战演练之python实现神经网络模型算法

from__future__importdivisionimportmathimportrandomimportpandasaspd2.构建BP神经网络类主要是构建三层反向传播神经网络类。"""
程序猿～厾罗·2023-12-16 16:15

DCFnet - Discrimitive Correlation Filters Network for Visual Tracking 笔记

体来说，作者将DCF视为在Siamese网络中添加的特殊相关滤波器层，并通过将网络输出定义为对象位置的概率热图来仔细地通过它来推导反向传播。因为推导仍然在傅里叶域内进行，所以保留了DCF高效的特性。
橙子潘潘·2023-12-16 15:33
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他