grad 第11页

Caffe 中Eltwise层详解

BlackEyes_SY·2023-01-18 12:09

python深度学习求导简单题目+pytorch实战

importtorchfromtorch.autogradimportgradx=torch.tensor([2.,])#x是输入的图片w1=torch.tensor([2.,])#w是模型的可训练的参数w2=torch.tensor([2.,],requires_grad

QYD_(DK数据工作室技术)·2023-01-17 16:13

pytorch注册hook获取网络任意中间层的特征和梯度

又不想重写模型，但还要获取网络中间输出时，就可使用hook机制首先打印模型，查看待输出层的名称print(model)定义hook取特征：feature=fmap_block[‘input’]取梯度：grad

小小溪99·2023-01-17 11:24

pytorch学习--线性回归

pytorch学习–线性回归求解步骤：确定模型Module:y=wx+b选择损失函数MSE：均方差等求解梯度并更新w,bw=w-LR*w.gradb=b-LR*w.grad（LR:步长，即学习率）importtorchimportmatplotlib.pyplotasplttorch.manual_seed

ZHANGYAN·2023-01-17 09:35

PyTorch深度学习：用PyTorch实现线性回归

Bilibili刘二大人《用PyTorch实现线性回归》代码大致思路：铺垫：创建数据集、构建计算模型定义损失函数和优化方式训练：通过forward函数进行前馈loss记录损失值清除上一次的梯度值反向传播并记录梯度值grad

嘿化小学生578·2023-01-17 09:04

神经网络加速基础知识

importtorchimporttorchvisionfromtqdmimporttqdmDEVICE="cuda:0"model=torchvision.models.mobilenet_v2(pretrained=True)model=model.to(DEVICE)withtorch.no_grad

麻花地·2023-01-17 09:34

基于Pytorch 框架手动完成线性回归

Pytorch完成线性回归hello,各位朋友好久不见，最近在忙着期末考试，现在结束之后继续更新咱们的Pytorch框架学习笔记目标知道requires_grad的作用知道如何使用backward知道如何手动完成线性回归

烟火向星辰，所愿皆成真·2023-01-17 08:04

Pytorch学习笔记之通过numpy实现线性拟合

#a=torch.tensor(1.,requires_grad=True)#b=torch

想当厨子的半吊子程序员·2023-01-17 07:55

Pytorch实现线性回归

目录向前计算requires_grad和grad_fn梯度计算手动实现线性回归Pytorch完成模型常用的APInn.Mudule优化器类optimizer损失函数线性回归完整代码在GPU上运行代码向前计算对于

WXiujie123456·2023-01-17 07:46

数值梯度与解析梯度

J(x1,x2)=x21+3x1∗x2解析梯度：function[value,grad]=simpleQuadraticFunction(x)%thisfunctionacceptsa2Dvectorasinput

zhao_crystal·2023-01-16 12:17

PyTorch奇奇怪怪的问题（一）

Tocopyconstructfromatensor,itisrecommendedtousesourceTensor.clone().detach()orsourceTensor.clone().detach().requires_grad

今我来思雨霏霏_JYF·2023-01-16 11:48

诚之和:pytorch Variable与Tensor合并后 requires_grad()默认与修改方式

Tensor创建后,默认requires_grad=Flase，可以通过xxx.requires_grad_()将默认的Flase修改为Tr

weixin_45378258·2023-01-16 09:03

pytorch Variable与Tensor合并后 requires_grad（）默认与修改

Variable一样进行反向传播的更新，返回值为TensorVariable自动创建tensor，且返回值为Tensor，（所以以后不需要再用Variable）Tensor创建后,默认requires_grad

西电小猪猪·2023-01-16 09:33

PyTorch 之 requires_grad，requires_grad_()，grad_fn

x.grad_fn和x.requires_grad为x的属性x.grad_fn：积分方法名，默认为Nonex.requires_grad：是否积分的属性，默认为Falsex.requires_grad_

Xiao J.·2023-01-16 09:02

PyTorch中tensor属性requires_grad_()与requires_grad

所有的tensor都有.requires_grad属性,可以设置这个属性.x=tensor.ones(2,4,requires_grad=True)2.如果想改变这个属性，就调用tensor.requires_grad

yxbkl·2023-01-16 09:31

pytorch: 学习笔记2.1：pytorch中的变量及 tensor(requires_grad=True)转为numpy

1，pytorch的tensor转为numpy2，pytorch中的变量Variable#1,tensor转为numpy#requires_grad=True时，不可以将tensor直接转为numpy；

小旺的尾巴·2023-01-16 09:30

torch.Tensor.requires_grad_(requires_grad=True)的使用说明

参考链接:requires_grad_(requires_grad=True)→Tensor原文及翻译:requires_grad_(requires_grad=True)→Tensor方法:requires_grad

敲代码的小风·2023-01-16 09:28

【动手学深度学习】线性回归＋基础优化算法

参考：08线性回归+基础优化算法【动手学深度学习v2】_哔哩哔哩_bilibili【pytorch系列】withtorch.no_grad():用法详解_大黑山修道的博客-CSDN博客_torch.no_grad

Ya_nnnG·2023-01-16 09:26

pytorch backward 求梯度累计样式

因为这样，所以才需要optimizer.zero_grad()。

培之·2023-01-16 09:56

Pytorch中requires_grad_(), detach(), torch.no_grad()的区别

>>>a.grad>>>a.requires_gradFals

SnailTyan·2023-01-16 09:56

pytorch requires_grad

情况1importtorchdefault_requires_grad=torch.tensor([1.,2.,0.,0,-1,3],dtype=torch.float)A=torch.tensor([

培之·2023-01-16 09:55

pytorch 一个 Tensor的 is_leaf requires_grad 两个属性同时为 True 才会保存 grad

根据下面的代码和输出，不难发现在loss执行完backward操作之后只有那些requires_grad和is_leaf的属性同时为True的Tensor才会有grad属性。

培之·2023-01-16 09:54

pytorch compute graph 计算图例子

例1从例1、2中可以发现使用y=torch.tensor(x*x,requires_grad=True)跟使用y=x*x效果不一样x=torch.tensor(0.3,requires_grad=True

培之·2023-01-16 09:54

深度学习——梯度

一、初识梯度importtorchx=torch.arange(4.0)print(x)x.requires_grad_(True)y=2*torch.dot(x,x)#torch.matmul(x,x

yonuyeung·2023-01-16 06:58

torchcam热力图使用常见报错

ordirectlyaccesssavedtensorsaftertheyhavealreadybeenfreed).Savedintermediatevaluesofthegrapharefreedwhenyoucall.backward()orautograd.grad

irrationality·2023-01-16 00:11

cross entropy loss = log softmax + nll loss

代码如下：importtorchlogits=torch.randn(3,4,requires_grad=True)labels=torch.LongTensor([1,0,2])print('logits

wujpbb7·2023-01-15 16:48

Pytorch gpu加速方法

Pytorchgpu加速方法原文：https://www.zhihu.com/question/274635237relu用inplace=True用eval()和withtorch.no_grad()

AI视觉网奇·2023-01-15 13:55

ValueError: can‘t optimize a non-leaf Tensor 数据在cpu 和gpu之间转换的时候涉及到requires_grad和is_leaf的趣事

当我生成一个可导类型的cpu张量的时候，判断其是否为叶子节点，显示为True，如下面的代码所示：x=torch.randn(750,2048,requires_grad=True)print(x.is_leaf

Tchunren·2023-01-15 12:12

【pytorch: can't optimize a non-leaf Tensor】

需要先把Tensor放入到GPU中，然后再设置Tensor.requires_grad=True。

npkhgl·2023-01-15 12:42

pytorch遇到的bug记录—1

_k,encoding_length).cuda().requires_grad_())此时self.alp

羊藤枝·2023-01-15 12:42

【Optimizer】ValueError: can‘t optimize a non-leaf Tensor

的参数打出来看看，如下图：forname,parameterinmodel.named_parameters():print('%-40s%-20s%s'%(name,parameter.requires_grad

NLP_wendi·2023-01-15 12:40

torch.autograd.grad与w.backward区别

torch.autograd.grad与w.backward区别作用:两者都是求解参数在某点的梯度值autorgrad.grad参数为第一个:目标函数第二个:待求解的自变量参数backward不需要传入参数

SumFunction·2023-01-15 11:37

torch.autograd.grad()函数使用

torch.autograd.grad()函数使用importtorch#x=torch.FloatTensor([[0,1,2,3],[1,2,3,4],[2,3,4,5]]).requires_grad

学习要有仪式感呦·2023-01-15 11:37

torch.autograd.grad的使用初步

创建可以求导的张量#createatensorandrequiresgradx=torch.tensor(1.).requires_grad_(True)x=torch.tensor(1.,requires_grad

Shengkun Wu·2023-01-15 11:35

torch.autograd.grad与backward

1.进行一次torch.autograd.grad或者loss.backward（）后前向传播都会清空，因此想反复传播必须要加上retain_graph=True。

撒旦即可·2023-01-15 11:04

（Pytorch）简单了解torch.autograd.grad()以及torch.autograd.backward()

文章目录背景torch.autograd.grad()torch.autograd.backward()背景一般情况下，我们有了Loss之后，loss.backward()就计算好了梯度，其他的根本不用管

音程·2023-01-15 11:03

【pytorch】model

foreleinmodel.modules():print(ele)打印named_parameters()：for(name,param)inmodel.named_parameters():ifnotparam.requires_grad

JNingWei·2023-01-15 08:45

RuntimeError: a view of a leaf Variable that requires grad is being used in an in-place operation

报错：Traceback(mostrecentcalllast):File"D:/GraduationProject/Py_Code2.0/yolov5-master/train.py",line466,intrain(hyp,opt,device,tb_writer)File"D:/GraduationProject/Py_Code2.0/yolov5-master/train.py",line

一起变胖吧·2023-01-14 17:28

跑YOLOv5遇到的问题

RuntimeError:aviewofaleafVariablethatrequiresgradisbeingusedinanin-placeoperation解决办法：在第148行下添加一行withtorch.no_grad

Pysonmi·2023-01-14 17:27

pytorch查看loss曲线_pytorch 如何使用tensorboard实时查看曲线---- tensorboardX简介

__init__(logdir)deflog_training(self,reduced_loss,grad_norm,learning_rate,duration,iteration):self.add_scalar

泽柒·2023-01-14 15:05

ValueError: Expected input batch_size (288) to match target batch_size (8).

在运行模型框架时，遇到标题问题问题很明显可以看出是batch_size设置问题此时，本人问题出在代入损失函数计算上所以，我们可以通过如下方法进行一、在读取数据集数据前加上代码withtorch.no_grad

Mr.Mayuyuyuyu·2023-01-14 14:17

Pytorch中state_dict()、named_parameters()和parameters()的区别

它们的差异主要体现在3方面：返回值类型不同存储的模型参数的种类不同返回的值的require_grad属性不同测试代码准备工作importtorchimporttorch.nnasnnimp

Jiyang@UESTC·2023-01-14 13:38

神经网络——Tensor、计算图、训练方法

required_grad，该tensor是否连接在计算图（computationalgraph）上。grad，如果required_grad是True，则这个属

不说话装高手H·2023-01-14 11:22

3.2 Linear regression

被withtorch.no_grad()包住的代码，不用跟踪反向梯度计算，来做一个实验：a=torch.tensor([1.1],requires_grad=True)b=a*2输出是：tensor([

Adhere_Chris·2023-01-14 10:37

3.5 Softmax

嘟教授的博客-CSDN博客_pytorchreshape关于reshape的用法可以参考上面X.reshape((-1,W.shape[0]))关于autograd用法可参考withtorch.no_grad

Adhere_Chris·2023-01-14 10:37

PyTorch学习DAY1定义以及张量的操作

Tensor和Variabledata：被包装的Tensorgrad：data的梯度grad_fn：创建Tensor的Function，是自动求导的关

沙鳄鱼·2023-01-14 10:34

[Pytorch]CNN图像预测编程项目-Analyze the model‘s results

1.grad_fn是导致这个张量被创造出来的函数，这个张量的梯度被跟踪。局部关闭梯度跟踪法一：1.利用上下文管理器（contextmanager），局部关闭梯度跟踪。法二：创建混淆矩阵绘制混淆矩

雕雀桑·2023-01-14 08:57

ConnectionResetError: [Errno 104] Connection reset by peer

",line13,intracker.train_over(seqs)File"/root/miniconda3/lib/python3.7/site-packages/torch/autograd/grad_mode.py

小圆脸kk·2023-01-14 04:43

tensorflow中梯度求解及梯度裁剪

1.tensorflow中梯度求解的几种方式1.1tf.gradientstf.gradients(ys,xs,grad_ys=None,name='gradients',colocate_gradients_with_ops

orangerfun·2023-01-13 11:35

深度学习常见的激活函数

正如从图中所看到，激活函数是分段线性的x=torch.arange(-8.0,8.0,0.1,requires_grad=True)y=torch.relu(x)d2l.plot(x

菜小鸡同志要永远朝光明前进·2023-01-13 09:16

推荐频道

grad