Backward

pyhanlp词典分词

目录1、utility.py（加载词典）2、fully_segment.py（完全切分）3、forward_segment.py（正向最长匹配）4、backward_segment.py（逆向最长匹配）
宁静_致远_·2023-01-01 19:09

【Pytorch深度学习实践】B站up刘二大人之 BackPropagation-代码理解与实现(3/9)

是数值了，而grad仍然是Tensor类型，如果想获得数据的grad的数值，那么，必须要这样：loss.grad.data；当使用了l=loss（x，y），那么，就是构建了从x到y的计算图模型；而再用l.backward
nemo_0410·2022-12-30 03:34

神经网络搭建(Pytorch)——train()

inputs.to(device),labels.to(device)前向传播：outputs=model(inputs)计算损失函数：loss=criterion(outputs,labels)计算梯度：loss.backward
KL-22b·2022-12-29 21:55

pytorch中为什么要用 zero_grad() 将梯度清零

pytorch中为什么要用zero_grad()将梯度清零pytorch中为什么要用zero_grad()将梯度清零调用backward()函数之前都要将梯度清零，因为如果梯度不清零，pytorch中会将上次计算的梯度和本次计算的梯度累加
小小鼠标0·2022-12-29 12:52

.zero_grad()的重要性

foriinrange(2):a.backward(retain_graph=True)print("b.grad.data:{}".format(b.grad.data))不写.zero_grad()
FaFa_Not_Flower·2022-12-29 12:18

Pytorch约束可训练参数的范围

1.在训练train的时候，对参数的范围进行限制out=net(frame)loss=F.mse_loss(out,label_onehot)loss.backward()optimizer.step(
yxbkl·2022-12-28 21:20

定义torch.autograd.Function的子类，自己定义某些操作，且定义反向求导函数

大部分内容转载自：Pytorch入门学习（八）—–自定义层的实现（甚至不可导operation的backward写法）哇,这个博客是对pytorch官方手册中-ExtendingPyTorch部分的的翻译总虽然
tang-0203·2022-12-28 16:32

loss.backward()报错RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED

最近在处理二分割问题时，遇到了标题所述的问题。首先我可以确定我的环境绝对没问题。仔细检查代码发现是网络用了深度监督机制，即输出多级结果和gt一同算loss。仔细检查代码发现，几级输出有两级忘记用sigmoid激活直接算BCELoss所以导致报错。
thinson·2022-12-28 13:59

【Pytorch进阶】pytorch中loss.backward() retain_graph=True参数意义

1定义lossbackwardoptimizer.zero_grad()loss.backward()optimizer.step()在定义loss时上面的代码是标准的三部曲，但是有时会碰到loss.backward
星之所望·2022-12-28 12:31

pytorch的计算图loss.backward(retain_graph=True)实现复杂loss的训练

然而一般情况下当反向传播backward()结束时代表计算图的一次迭代就结束了，此时计算图会自动free掉。但在我们的实验过程中，常常需要设计复杂的损失函数以取得我们所需要的显著的实验效果。
Mr.小蔡·2022-12-28 12:01

Pytorch中backward(retain_graph=True)的 retain_graph参数解释

每次backward()时，默认会把整个计算图free掉。
今 晚 打 老 虎·2022-12-28 12:00

Pytorch的model.train() & model.eval() & torch.no_grad() & 为什么测试的时候不调用loss.backward()计算梯度还要关闭梯度

使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/evalmodel.train()启用BatchNormalization和Dropout告诉我们的网络，这个阶段是用来训练的，可以更新参数。model.eval()不启用BatchNormalization和Dropout。告诉我们的网络，这个阶段是用来测试的在train模式下，dropout网络层会按照设定的参数p
hxxjxw·2022-12-28 12:29

Pytorch: retain_graph=True错误信息

butthebuffershavealreadybeenfreed.Specifyretain_graph=Truewhencallingbackwardthefirsttime)1.具有多个loss值retain_graph设置True，一般多用于两次backward
Serendipity0928·2022-12-28 12:59

pytorch的计算图 loss.backward(retain_graph=True) # 添加retain_graph=True标识，让计算图不被立即释放

前言：接触pytorch这几个月来，一开始就对计算图的奥妙模糊不清，不知道其内部如何传播。这几天有点时间，就去翻阅了Github，pytorchForum，还有很多个人博客（后面会给出链接），再加上自己的原本一些见解，现在对它的计算图有了更深层次的理解。pytorch是非常好用和容易上手的深度学习框架，因为它所构建的是动态图，极大的方便了codinganddebug。可是对于初学者而言，计算图是一
Arthur-Ji·2022-12-28 12:28

model.eval()和loss.backward(retain_graph = True)

1:model.eval()会固定网络的nn.BN层和nn.Dropout层，nn.BN层在train的时候针对每一个batch会计算一次均值方差，然后最后归纳整个训练集的均值方差，所以在test的时候就不能再让BN层的均值方差发生变化了。参考文章：(1条消息)Pytorchmodel.eval()的作用_嘿，兄弟，好久不见的博客-CSDN博客_model.eval()作用2：loss.backw
xx_xjm·2022-12-28 12:28

pytorch基础（三）- 随机梯度下降

目录梯度介绍激活函数及其梯度Sigmoid/LogisticTanhReLULoss函数及其梯度均方差MSEautograd.grad()求梯度loss.backward()求梯度Softmax链式法则单层感知机的求导多输出感知机的求导链式法则
sherryhwang·2022-12-27 18:55

torch item()的用法

importtorchfromtorch.autogradimportVariablea=Variable(torch.Tensor([2,3]),requires_grad=True)b=a+3c=b*3out=c.mean()out.backward
qq_23996885·2022-12-27 18:54

深度学习反向传播简单流程

反向传播简单例子：importtorcha=torch.tensor([1.,2.,3.,4.],requires_grad=True)b=a**2print(b)b.sum().backward()print
阮松云·2022-12-27 18:54

tensor的grad参数

文章目录问题描述测试例子代码问题描述遇到以下代码loss_data[t]=loss.data.item()#{'S':0.9529048204421997}loss.backward()grads[t]
月亮不知道·2022-12-27 18:22

【深度学习】（二）反向传播+tensor原理+w.data&w.grad&w.grad.data&w.grad.item()区别+练习

目录BackPropagation1、回顾线性模型2、两层神经网络3、forward&backward4、tensor：1、w.data&w.grad&w.grad.data&w.grad.item()
Queen_sy·2022-12-27 18:20

loss.backward(),scheduler(), optimizer.step()的作用

在用pytorch训练模型时（pytorch1.1及以上版本），通常会在遍历epochs的过程中依次用到optimizer.zero_grad(),loss.backward()和optimizer.step
脱坑diary·2022-12-27 10:32

Pytorch optimizer.step()

可参考：Pytorchoptimizer.step()和loss.backward()和scheduler.step()的关系与区别（Pytorch代码讲解）
tw_devin·2022-12-27 10:00

NotFoundError: No Output(X@GRAD) found for BatchNormGrad operator.

这几天在学习paddle的过程中遇到一个问题，写了一个网络，前向传播很nice，加上优化器、损失啥啥的反向传播就GG了，报错的行在.backward()这个地方，内容如下----------------
欧阳罢笔·2022-12-26 21:56

人工智能和安全方向专业英语词汇论文摘录

AdversarialNetwork：对抗网络adversarialexamples：对抗例子adversarialsamples：对抗样本annotation：标注，注释Bblockchain：区块链backward
mossfan·2022-12-26 08:54

3-32，3-33Pytorch与autograd中的几个重要概念

importtorchclassline(torch.autograd.Function):@staticmethoddefforward(ctx,w,x,b):#y=w*x+bctx.save_for_backward
白色蜻蜓蜓·2022-12-25 15:02

python中forward属性_浅析PyTorch中nn.Module的使用

_backward_
weixin_39664746·2022-12-25 15:30

Pytorch学习笔记(一)

学习资料：Pytorch中文手册：参见PyTorch中文手册Pytorch深度学习实践：参见《PyTorch深度学习实践》完结合集_哔哩哔哩_bilibili知识点1：Pytorch基础—自动求导—backward
白首作舟·2022-12-24 15:49

Caffe学习：Forward and Backward

原文forwardandbackwardpasses（前向迭代和反向迭代）是Net最基本的成分。下面以简单的logisticregressionclassifier（逻辑回归分类器）为例。ForwardPass（前向迭代）利用给定的输入，根据模型设定的函数，计算出输出。Thispassgoesfrombottomtotop（数据流向从bottom到top）。数据x通过一个innerproductl
jiarenyf·2022-12-23 09:36

Forward-backward梯度求导(tensorflow word2vec实例)

考虑不可分的例子通过使用basisfunctions使得不可分的线性模型变成可分的非线性模型最常用的就是写出一个目标函数并且使用梯度下降法来计算梯度的下降法的梯度计算关于线性和非线性的隐层非线性隐层使得网络可以计算更加复杂的函数线性隐层不能增强网络的表述能力，它们被用来做降维，减少训练需要的参数数目，这在nlp相关的模型中经常用到(embeddingvector)一个backprop的例子前向计算
weixin_34337381·2022-12-23 09:36

AI Studio学习笔记:李宏毅机器学习 研讨课（三）

1的第i个神经元和l层的第j个神经元连接关于矩阵计算：关于数据处理:原始数据输入->线性变化（Y=AX+b）->激活函数（Z=(Y)）->神经元得到输入输出->所有神经元后计算losspytorch中backward
陈曦749·2022-12-23 01:59

Python实现与pytorch实现反向传播的区别

例如，求导数是一项很繁琐的过程，而pytorch利用静态计算图已经帮我们自动计算出导数了，这时我们只要调用backward()方法就可以自动求导，是不是很方便呢？
bedoomNO1·2022-12-22 19:43

python奥运五环_Python绘制奥运五环

绘制奥运五环主要涉及到Python中的turtle绘图库运用：turtle.forward(distance)向当前画笔方向移动distance像素长度turtle.backward(distance)
weixin_39992462·2022-12-21 22:39

文本生成论文阅读Sequence to Backward and Forward Sequences: A Content-Introducing Approach to

普通的seq2seq生成的内容，其实没有办法把控生成的语义信息。通过增加关键词信息，用关键词去影响生成回复的语义。使用关键词作为硬约束，即关键词一定出现在生成文本中提示。文章目录前言一、使用PMI预测关键字1.PMI定义2.PMI计算方法二、seq2BF模型1.改进方法2.使用到的的模型方法总结前言最近读的论文全是关于seq2seq优化的只希望我能坚持下去并且一鼓作气seq2seq在文本生成领域是
欢桑·2022-12-21 14:15

PyTorch Module类构造模型

继承Module类来构造模型，Module类是nn模块里提供的一个模型构造类，是所有神经网络模块的基类：·__init__函数：创建模型参数·forward函数：定义前向计算·backward函数：反向传播注意
下雨天吃火锅哩·2022-12-20 13:41

torch叶子节点才能保存grad，叶子节点如何修改才不变为中间节点，保留grad呢？使用data

3.0,5],requires_grad=True)#x设为可以求梯度，由他生成的变量均可求导x1=torch.tensor([3.7,4])#默认不可求梯度y=x**2+x1#x是叶子节点，y是非叶子节点，backward
look老猫·2022-12-20 13:04

Pytorch 叶子张量 leaf tensor (叶子节点) (detach)

对于任意一个张量来说，我们可以用tensor.is_leaf来判断它是否是叶子张量（leaftensor）在Pytorch神经网络中，我们反向传播backward()就是为了求叶子节点的梯度。
hxxjxw·2022-12-20 12:58

PyTorch：常见错误 inplace operation

PyTorch里面一个比较常见的错误，有的时候会比较好发现，例如下面的代码：importtorchw=torch.rand(4,requires_grad=True)w+=1loss=w.sum()loss.backward
强劲九·2022-12-20 10:59

expected version 1 instead. Hint: the backtrace further above shows the operation that faile

变成x=x+1（还记得我刚看到这个代码的时候觉得，卧槽+=多方便，这沙雕这基本语法都不知道吗）2）如果是对比学习的例如GAN这种网络，两个loss.backward()放在一起大概这样子。
小公子三木君·2022-12-20 10:28

enable anomaly detection to find the operation that failed to compute its gradient, with torch.autog

关于pytorch中多个backward出现的问题：enableanomalydetectiontofindtheoperationthatfailedtocomputeitsgradient,withtorch.autograd.set_detect_anomalyTrue
静静的喝酒·2022-12-20 10:58

PyTorch深度学习实践L4——反向传播

grad初始为None，调用l.backward()方法后w.grad为Tensor，故更新w.data时需使用w.grad.data。
小LATA·2022-12-19 09:52

pytorch使用过程中遇到的警告

toconverta0-dimtensortoaPythonnumber#原语句：train_loss+=loss.data[0]#修改后：train_loss+=loss.item()2、TypeError:backward
Li_GaoGao·2022-12-17 20:58

【NLP理论到实战】04 Pytorch完成线性回归

反向传播梯度计算与计算图节点属性转换2.1反向传播梯度计算2.2tensor.data与tensor.numpy()3.线性回归实现Pytorch完成线性回归目标知道requires_grad的作用知道如何使用backward
Onedean·2022-12-17 16:24

python求导函数_pytorch基础五（定义自动求导函数）

代码来自pytorch官网importtorch#通过继承torch.autograd.Function类，并实现forward和backward函数classMyReLU(torch.autograd.Function
weixin_39764379·2022-12-17 15:48

PyTorch--2.1自动求导

PyTorch--2.1自动求导过程总结：当我们执行z.backward()的时候。这个操作将调用z里面的grad_fn这个属性，执行求导的操作。
SUNNY小飞·2022-12-17 15:13

pytorch如何去定义新的自动求导函数

pytorch定义新的自动求导函数在pytorch中想自定义求导函数，通过实现torch.autograd.Function并重写forward和backward函数，来定义自己的自动求导运算。
Python266·2022-12-17 15:05

mnist手写数字识别，dnn实现代码解读

为什么是output.max(1)optim.zero_grad()、pred=model(input)、loss=criterion(pred,tgt)、loss.backward()、optim.step
DreamBoy@·2022-12-16 12:21

Pytorch--自动求导

完成计算之后，调用.backward()函数（即
qq_45839415·2022-12-16 06:36

pytorch—自动求导

在训练神经网络模型反向传播时，通过调用.backward()可以方便计算出loss关于每一个node的梯度。
长空。·2022-12-16 06:36

[Pytorch系列-21]：Pytorch基础 - 全自动链式求导backward

作者主页(文火冰糖的硅基工坊)：文火冰糖（王文兵）的博客_文火冰糖的硅基工坊_CSDN博客本文网址：[Pytorch系列-21]：Pytorch基础-全自动链式求导backward_文火冰糖（王文兵）的博客
文火冰糖的硅基工坊·2022-12-16 06:01

pytorch如何定义新的自动求导函数

定义新的自动求导函数pytorch自动求导与逻辑回归自动求导逻辑回归总结pytorch定义新的自动求导函数在pytorch中想自定义求导函数，通过实现torch.autograd.Function并重写forward和backward
·2022-12-15 18:43
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他