反向传播

PyTorch入门学习（十三）：损失函数与反向传播

本文将介绍如何在PyTorch中使用损失函数和反向传播来训练深度学习模型。接下来将详细解释提供的代码，并深入探讨交叉熵损失函数、均方误差损失函数以及它们在模型训练中的应用。
不吃花椒的兔酱·2023-11-04 15:11

【CV面试】简述CNN、计算机视觉、人脸识别

将大数据量的图片降维成小数据量1.2.保留图片特征，符合图片处理的原则2.CNN的思想来源3.基本原理3.1.卷积层：提取特征3.2.池化层：下采样、降维、避免过拟合3.3.全连接层：输出结果4.结构5.梯度的求法和反向传播过程
褚骏逸·2023-11-03 15:35

坚持记录博客NO：1------------------＞论文笔记：深度学习

答：BP算法是人工神经网络的反向传播算法（BackPropgation）利用B
红心柚大果·2023-11-03 02:14

《Pytorch新手入门》第二节-动手搭建神经网络

《Pytorch新手入门》第二节-动手搭建神经网络一、神经网络介绍二、使用torch.nn搭建神经网络2.1定义网络2.2torch.autograd.Variable2.3损失函数与反向传播2.4优化器
半个女码农·2023-11-02 14:11

卷积神经网络的反向传播

1.DNN的反向传播首先回顾深度神经网络（DNN）的反向传播forward：LossFunction:backward:w的梯度：b的梯度：令：已知，推导上一层：2.CNN的前向传播2.1卷积层(1)单通道
zuomeng844·2023-11-01 23:59

递归神经网络RNN与长短期记忆网络LSTM

以E3为例，它的反向传播指向
weixin_30617737·2023-11-01 09:52

神经网络系统理论与实践,神经网络系统理论基础

20世纪50年代末，Rosenblatt提出了感知器模型，1982年，Hopfiled引入了能量函数的概念提出了神经网络的一种数学模型，1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播算法等
ai智能网络·2023-11-01 04:05

Pytorch机器学习——3 神经网络（八）

outline神经元与神经网络激活函数前向算法损失函数反向传播算法数据的准备PyTorch实例：单层神经网络实现3.5反向传播算法在传统的机器学习方法（比如逻辑回归）中，可以通过梯度下降来确定权重的调整
辘轳鹿鹿·2023-10-31 05:29

2021字节秋招算法岗面经——抖音推荐

2021字节秋招算法岗面经一面过(一个小时)讲实习实习的结果是如何评估的为什么用AUC，而不用别的AB测试时，为什么是基于用户划分，而不是基于司机划分最大池化的反向传播求导公式LSTM解决了什么问题通用的提高模型泛化能力的方法
姜呆·2023-10-31 05:03

Paddle模型搭建-从keras转换为Paddle

其实是高度封装的一个神经网络模块，优点就是可以很方便的进行开发，缺点就是很多情况下只能用现成的Layer去构建模型，比如我需要用神经网络去进行控制，那么在控制量和输出量两层中间，使用keras是很难实现误差的反向传播
Shi_Technology·2023-10-30 18:15

深度神经网络的数学原理：基于超平面、半空间与线性区域的表示

概述以前的文章主要描述了神经网络，即多层感知机、全连接模型的运行原理，还是以实验为主，数学描述为辅的方式，这篇文章以纯数学的视角来描述神经网络的运行原理，主要以前馈过程为主（反向传播的动力学过程还是比较复杂
_pinnacle_·2023-10-30 12:47

循环神经网络（RNN）

用数学公式可表达为：对于上图的循环神经网络，梯度反向传播的过程可表达为：在分别对和求导的过程中，与全连接神经网络不同的是：
Babyface Killer·2023-10-29 20:56

【深度学习】吴恩达课程笔记(二)——浅层神经网络、深层神经网络

吴恩达课程笔记(一)——深度学习概论、神经网络基础吴恩达课程笔记——浅层神经网络、深层神经网络四、浅层神经网络1.双层神经网络表示2.双层神经网络的前向传播第一层前向传播第二层前向传播3.双层神经网络的反向传播参数梯度下降反向传播公式第二层反向传播推导
今天有没有吃饱饱·2023-10-29 16:00

LSTM长短期记忆网络，GRU

LSTM和GRU的区别前言上一篇博文我们介绍了RNN循环神经网络，虽然神经网络在解决时序问题是有着不错的表现，但是也有一个非常严重的问题，就是当网络结构比较深的时候，RNN网络由于前后的关联性导致了其在反向传播的时候会出现梯度消失或者梯
I松风水月·2023-10-29 11:40

RNN循环卷积神经网络

目录前言一.网络结构二.前向传播三.损失函数3.1.单个时间步的损失3.1整个序列的损失四.反向传播五.RNN的缺点前言为什么需要RNN网络？
I松风水月·2023-10-29 11:09

DL Homework 4

目录1整理一下理论收获1.1基础理论1.2应用到机器学习1.3参数学习1.4反向传播算法2.激活函数3.神经网络流程推导(包含正向传播和反向传播)4.数值计算-手动计算5.代码实现-numpy手推6.代码实现
熬夜患者·2023-10-29 10:54

反向传播法（backpropagation）的基本原理

本文通过整理李宏毅老师的机器学习教程的内容，介绍神经网络中用于更新参数的反向传播法（backpropagation）的基本原理。
星海浮生·2023-10-28 04:50

简单线性回归模型（复习一下前向传播和反向传播）

案例1importtorchtorch.__version__x=torch.rand(3,4,requires_grad=True)xtensor([[0.9795,0.8240,0.6395,0.1617],[0.4833,0.4409,0.3758,0.7234],[0.9857,0.9663,0.5842,0.8751]],requires_grad=True)b=torch.rand(3
Che_Che_·2023-10-27 22:47

深度学习中的epoch, batch 和 iteration

名词定义epoch使用训练集的全部数据进行一次完整的训练，称为“一代训练”batch使用训练集中的一小部分样本对模型权重进行一次反向传播的参数更新，这样的一部分样本称为：“一批数据”iteration使用一个
Code_LiShi·2023-10-27 21:10

神经网络算法

b为：门槛所谓threshold)反向传播(backpropagation)是在这种场景下快速求解∂C/∂w、∂C/∂b的算法，用了这个算法的多层感知机--也就是这篇文章讲的神经网络--也就叫作BP神经网络
_清净心_·2023-10-26 23:00

BN层总结与实际作用

层的目的深度学习的一个重要假设是独立同分布假设（IID），这个假设不仅适用于训练集和测试集，也适用于同一网络的不同层之间，即假设每一层的输入在经过与权重相乘和非线性激活后，输出（即下一层的输入）与输入依然IID，这样在反向传播时各层的梯度都会在一个合理的区间内
qq184861643·2023-10-26 07:32

深度学习-1.2神经网络

“1975年W博士将多层感知机堆叠成神经网络，并利用反向传播算法训练神经网络自动学习参数。”“神经网络是一种模仿生物神经网络的结构和功能的数学模型或计算模型。”看到这句话，就觉得这玩意儿像玄学。
yiwenbin94·2023-10-25 11:19

bp神经网络中的重要函数解释

BP神经网络是反向传播神经网络1.归一化:将数据映射到[0，1]或者[-1，1]缩小数据范围。防止数据淹没（一个数据很大一个很小，小的可能会忽略不计）2.
芋圆奶绿，要半t·2023-10-25 07:51

机器学习中的专有名词

ARautoregressive自回归BPTTbackpropagationthroughtime通过时间的反向传播BMBoltzmannmachineBoltzmann机BPbackpropagation
LinearPi·2023-10-25 06:05

机器学习---BP算法代码（定义了一个基本的神经网络框架，包括Neuron（神经元）、NeuronLayer（神经元层）和NeuralNetwork（神经网络）三个类）

在计算反向传播时，我们需要计算损失函数相对于模型参数的偏导数。2."d_"作为变量前缀表示"derivative"（导数）。导数是一个函数在某一点的斜率，它表示函数在该点的变化率。3."
三月七꧁ ꧂·2023-10-24 08:42

神经网络

单层神经元模型image.png激活函数image.pngBP神经网络（误差逆向传播）示意图image.png理论推导（误差反向传播）image.pngimage.pngimage.pngimage.png
crishawy·2023-10-24 02:02

深度学习3：循环神经网络Recurrent Neural Network（基于Python MXNet.Gluon框架）

循环神经网络循环神经网络概述给网络增加记忆能力延时神经网络有外部输入的非线性自回归模型循环神经网络简单循环网络循环神经网络的计算能力循环神经网络的通用近似定理图灵完备应用到机器学习序列到类别模式同步的序列到序列模式异步的序列到序列模式参数学习随时间反向传播算法实时循环学习算法两种算法的比较手动计算的例子长程依赖问题改进方案梯度爆炸梯度消失参考资料循环神经网络概述
绝对是谨慎提交的昵称·2023-10-24 00:44

反向传播是怎么回事？详细教程2019-05-22

反向传播的详细推导一文弄懂神经网络中的反向传播法——BackPropagation最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版
loveevol·2023-10-23 22:14

雅可比矩阵和雅可比坐标

完成本教程后，您将了解：雅可比矩阵收集了可用于反向传播的多元函数的所有一阶偏导数。雅可比行列式在变量之间变化时非常有用，它充当一个坐标空间与另一个坐标空间之间的缩放因子。
无水先生·2023-10-23 19:01

深度学习第二周

#学习目标，实现一个二分类具有一个隐藏层的神经网络，使用一个例如tanh的非线性激活函数#计算交叉熵损失函数，实现前向和反向传播#首先我们导入需要的包importnumpyasnpimportoperatorfromfunctoolsimportreduceimportmatplotlib.pyplotaspltfromtestCases_v2import
R一·2023-10-22 14:34

Transformer学习路线

2.学习深度学习:了解神经网络的基本结构和训练方法，包括前向传播、反向传播等。3.熟悉自然语言处理:学习关于NLP的基础知识，如词嵌入、词袋模型、循环神经网络（RNN）等。
jio本小子·2023-10-22 13:55

Reparameterization trick（重参数化技巧）

这个技巧的目的是使模型可微分（differentiable），以便使用梯度下降等反向传播算法来训练模型，也就是将随机采样的过程转换为可导的运算，从而使得梯度下降算法可以正常工作。
重剑DS·2023-10-22 12:31

Pytorch机器学习——3 神经网络（六）

outline神经元与神经网络激活函数前向算法损失函数反向传播算法数据的准备PyTorch实例：单层神经网络实现3.4损失函数损失函数又称为代价函数，是一个非负的实值函数，通常用表示。
辘轳鹿鹿·2023-10-22 10:44

DistributedDataParallel数据不均衡

背景在使用DistributedDataParallel进行数据并行训练时，每次反向传播都需要执行all_reduce操作以同步各个进程的梯度。
weixin_43870390·2023-10-22 00:44

【PyTorch】深度学习实践 1. Overview

目录人工智能概述课程前置知识人工智能问题分类推理类预测类算法分类传统算法与智能算法人工智能领域细分学习系统的发展基于规则的系统经典机器学习算法表示学习方法维度诅咒说明解决方法第一代第二代（深度学习）传统机器学习策略神经网络基础基本原理正向传播和反向传播正向传播反向传播小结人工智能概述课程前置知识线性代数
令夏二十三·2023-10-21 22:59

【TensorFlow1.X】系列学习笔记【入门二】

大量经典论文的算法均采用TF1.x实现,为了阅读方便,同时加深对实现细节的理解,需要TF1.x的知识文章目录【TensorFlow1.X】系列学习笔记【入门二】前言神经网络的参数神经网络的搭建前向传播反向传播总结前言学习了张量
牙牙要健康·2023-10-21 20:58

哈里斯鹰算法优化BP神经网络(HHO-BP)回归预测研究（Matlab代码实现）

本文目录如下：目录1概述2运行结果3参考文献4Matlab代码及数据1概述哈里斯鹰算法优化BP神经网络（HHO-BP）回归预测是一种结合了哈里斯鹰算法和反向传播神经网络（BP神经网络）的方法，用于回归预测问题的研究
程序猿鑫·2023-10-21 19:12

链式传导反向传播 | Back-Propagation公式推导

链式传导反向传播|Back-Propagation目标求损失函数对各个参数参数的倒数例子f(x)为激活函数目标：求出损失函数对各个参数的导数对于L对w5,w6的导数对于L对w1,w2,w3,w4的导数w3
btee·2023-10-21 18:49

反向传播back propagation

深度学习概述决定要怎么连接这些neuron的时候就已经确定了functionset相比于之前做logisticregression，linearregression的时候，换一个方式来决定functionset比较大，包含了logisticregression，linearregression没法包含的function全连接，fullconnectfeedforward，前馈，正反馈input，h
Selvaggia·2023-10-21 14:43

机器学习笔记 - 深度学习中跳跃连接的直观解释

然而，为了理解在许多作品中看到的大量设计选择（例如跳过连接），了解一点反向传播机制至关重要。如果你在2014年尝试训练神经网络，你肯定会观察到所谓的梯度消失问题。
坐望云起·2023-10-21 06:12

深度学习之参数初始化（一）——Xavier初始化

而我们知道在全连接的神经网络中，参数梯度和反向传播得到的状态梯度以及入激活值有关——激活值饱和会导致该层状态梯度信息为0，然后导致下面所有层的参数梯度为0；入激活值为0会导致对应参数梯度为0。
马大哈先生·2023-10-21 05:08

Xavier初始化和He初始化

转自https://blog.csdn.net/xxy0118/article/details/84333635Xavier初始化:条件：正向传播时，激活值的方差保持不变；反向传播时，关于状态值的梯度的方差保持不变
Beryl已存在·2023-10-21 05:04

学习pytorch14 损失函数与反向传播

神经网络-损失函数与反向传播官网损失函数L1LossMAE平均MSELoss平方差CROSSENTROPYLOSS交叉熵损失注意code反向传播在debug中的显示codeB站小土堆pytorch视频学习官网
陌上阳光·2023-10-21 04:21

Pytorch深度学习 - 学习笔记

torchvision中的数据集使用5.DataLoader使用6.神经网络6.1神经网络的基本骨架6.2卷积层6.3最大池化的使用6.4非线性激活6.5线性层及其他层6.6小实战及Sequential7.损失函数与反向传播
code_weic·2023-10-21 00:56

哈里斯鹰算法优化BP神经网络(HHO-BP)回归预测研究（Matlab代码实现）

本文目录如下：目录1概述2运行结果3参考文献4Matlab代码及数据1概述哈里斯鹰算法优化BP神经网络（HHO-BP）回归预测是一种结合了哈里斯鹰算法和反向传播神经网络（BP神经网络）的方法，用于回归预测问题的研究
长安程序猿·2023-10-20 23:59

bp（back propagation）

文章目录定义过程前向传播计算过程计算损失函数（采用均方误差MSE）反向传播误差（链式法则）计算梯度更新参数简单实例定义反向传播全名是反向传播误差算法（Backpropagation），是一种监督学习方法
怎么全是重名·2023-10-20 20:52

逻辑回归揭秘: 从分类原理到机器学习实践

梯度下降工作原理梯度下降的公式梯度下降的变种学习率前向传播vs反向传播前向传播反向传播手把手计算回归前向传播反向传播参数更新实战逻辑回归预测乳
我是小白呀·2023-10-20 15:56

matlab的神经网络工具箱实用指南,Matlab的神经网络工具箱实用指南

第三章以反向传播网络为例讲解了反向传播网络的原理和应用的基本过程。正文:Matlab的神经网络工具箱实用指南第一章介绍1．神经网络神经网络是单个并行处理元素的集合，我们从生物学神经系统得到启发。
weixin_39695701·2023-10-20 07:51

神经网络反向传播算法

奇技指南本文介绍全连接人工神经网络的训练算法——反向传播算法。反向传播算法本质上是梯度下降法。人工神经网络的参数多，梯度计算比较复杂。
360技术·2023-10-20 07:48

神经网络反向传播时梯度简易求法

神经网络反向传播时梯度简易求法5相信每一个刚刚入门神经网络（现在叫深度学习）的同学都一定在反向传播的梯度推导那里被折磨了半天。
qiling0102·2023-10-20 07:48
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他