requires_grad

Pytorch简单学习入门--Autograd自动求导

torch.tensor是这个包的核心类，主要参数是requires_grad=，如果为True，代表追踪tensor的所有操作。当完成操作后，可以通过调用.backward来自动计算梯度。
不不加辣椒·2022-12-07 13:16

【pyTorch基础】自动求导(autograd)

importtorch求导x=torch.tensor([3.],requires_grad=True)y=torch.pow(x,2)#y=x**2grad_1=torch.autograd.grad
Running派～·2022-12-06 15:21

torch.tensor()的简单实用示例

参考链接:torch.tensor(data,dtype=None,device=None,requires_grad=False,pin_memory=False)代码实验展示:MicrosoftWindows
敲代码的小风·2022-12-06 01:47

torch.Tensor详解

详解参考：提供的数据类型：初始化：2、设置类型和设备3、可以使用Python的索引和切片符号访问和修改张量的内容4、使用torch.Tensor.item()从包含单个值的张量中获取Python数字：5、requires_grad
KPer_Yang·2022-12-06 01:15

Pytorch之requires_grad

requires_grad是Pytorch中通用数据结构Tensor的一个属性，用于说明当前量是否需要在计算中保留对应的梯度信息，以线性回归为例，容易知道权重w和偏差b为需要训练的对象，为了得到最合适的参数值
Zed·2022-12-05 08:12

pytorch冻结模型

例如，如果要对预先训练的CNN进行优化，只要切换冻结模型中的requires_grad标志就足够了，直到计算到最后一层才会保存中间缓冲区，其中的仿射变换（卷级操作等）将使用需要梯度的权重并且网络的输出也将需要它们
AI界扛把子·2022-12-03 10:06

Pytorch学习笔记（3）torch.autograd，逻辑回归模型训练

lesson5torch.autogradgrad_tensors的使用w=torch.tensor([1.],requires_grad=True)x=torch.tensor([2.],requires_grad
小帅吖·2022-12-03 04:24

【pytorch】利用requires_grad冻结部分网络参数

代码示例：importtorchimporttorch.nnasnnclassa1(torch.nn.Module):def__init__(self):super(a1,self).__init__()self.l1=nn.Linear(3,2)classaa(a1):def__init__(self):super(aa,self).__init__()self.a=''self.b='c'se
zkq_1986·2022-12-01 15:53

pytorch：model.zero_grad()和optimizer.zero_grad()、net.parameters()、requires_grad

两种方式都是把模型中参数的梯度设置为0。当optimizer=optim.Optimizer(net.parameters())时，二者等效。其中Optimizer可以是Adam、SGD等优化器。net.parameters()其中：parameters意思是参数在网络优化过程中，使用net.parameters传入优化器，对网络参数进行优化，网络开始训练时会随机初始化网络的参数，然后进行训练，也
开心邮递员·2022-12-01 15:50

pytorch冻结网络参数，requires_grad与optimizer顺序的关系

问题说明：pytorch迁移学习时，需要对某些层冻结参数，不参与方向传播，具体实现是将要冻结的参数的requires_grad属性置为false，然后在优化器初始化时将参数组进行筛选，只加入requires_grad
村民的菜篮子·2022-12-01 14:18

PyTorch中Tensor的学习笔记

使用torch.tensor()直接创建Tensor示例代码如下：torch.tensor([[1,2,3],[4,5,6]])2.2如何创建作为参数的Tensor（使用默认方法创建的Tensor，属性requires_grad
songyuc·2022-12-01 14:18

.requires_grad固定部分参数进行网络训练

.requires_grad固定部分参数进行网络训练文章目录.requires_grad固定部分参数进行网络训练1.只训练部分层2.固定部分层参数3.检查部分参数是否固定4.查看可训练参数5.查看网络总参数
Code_demon·2022-12-01 14:14

[Pytorch函数].requires_grad固定部分参数进行网络训练

1.只训练部分层classRESNET_attention(nn.Module):def__init__(self,model,pretrained):super(RESNET_attetnion,self).__init__()self.resnet=model(pretrained)forpinself.parameters():p.requires_grad=Falseself.f=nn.C
Jeanshoe·2022-12-01 14:14

pytorch中requires_grad=false却还能训练的问题

在pytorch中，requires_grad用于指示该张量是否参与梯度的计算，我们可以通过如下方式来修改一个张量的该属性：tensor.requires_grad_()//TrueorFalse然而，
FPGA硅农·2022-12-01 14:44

parameters.requires_grad=False ：误差仍然反向传播，梯度不更新

首先要明白，误差回传与否，与requires_grad的值没有关系，取决于loss.backward()。再来看误差回传过程中规定是，parameters的梯度计算关闭。
Stig_Q·2022-12-01 14:13

requires_grad&volatile在冻结训练&预训练中的使用

每个变量都有两个标志：requires_grad和volatile。它们都允许从梯度计算中精细地排除子图，并可以提高效率。
KernStarc·2022-12-01 14:13

requires_grad和volatile

每个Tensor都有两个标志：requires_grad和volatile。它们都允许从梯度计算中精细地排除子图，并可以提高效率。
orzchenyuming·2022-12-01 14:12

pytorch学习笔记——requires_grad和volatile

本片博文主要是对http://pytorch.org/docs/notes/autograd.html的部分翻译以及自己的理解，如有错误，欢迎指正！Backward过程中排除子图pytorch的BP过程是由一个函数决定的，loss.backward()，可以看到backward()函数里并没有传要求谁的梯度。那么我们可以大胆猜测，在BP的过程中，pytorch是将所有影响loss的Variable
Xs_55555·2022-12-01 14:35

关于requires_grad和优化器optim中parameters的记录

在模型中如果设置了requires_grad=True，则表示该层要进行梯度计算，标记为False则不计算梯度，在迁移学习中一般会设置成False，这样会大量减少算力。
immc1979·2022-12-01 14:33

深度学习之自动求导（代码）

一个简单例子x=torch.arange(4.0)x.requires_grad_(True)#等价于x=torch.arange(4.0,requires_grad=True)print(x.grad
Summerke123·2022-12-01 10:25

（转载笔记）loss.backward()与optimizer.step()的作用

x=torch.tensor([1.,2.],requires_grad=True)#x:tensor([1.,2.],requires_grad=True)y=100*x#y:tensor([100.
_wjunjie·2022-12-01 08:07

torch.ones_like()

TORCH.ONES_LIKEtorch.ones_like(input,*,dtype=None,layout=None,device=None,requires_grad=False,memory_format
Stig_Q·2022-12-01 07:48

pytorch在训练时，显示内存不够 cuda out of memory

batchsize过大导致的，不然训练集也运行不起来，最简单直接的方法，就是把验证集放到cpu上，一般验证集的数据比较小，也很快就完成了例如：imgn_val=Variable(imgn_val.cuda(),requires_grad
甚夏·2022-12-01 04:13

torchvision.models中模型编辑的requires_grad

在对torchvision已有模型进行编辑的时候会保存已有训练结果，只针对编辑过的层进行训练，可以通过对requires_grad的赋值实现importtorchimporttorchvisionfromtorchimportoptim
immc1979·2022-11-30 12:48

pytorch神经网络初级架构及简单预测模型实现

.基本语法torch.zeros,torch.empty,torch.randn,torch.add,x*weights=x.mm(weights)……2.requires_grad在定义数据时，加入requires_grad
被迫营业GGG·2022-11-30 10:44

pytorch学习笔记——requires_grad、detach、torch.no_grad

requires_grad()requires_grad表示这个tensor是否要求计算梯度，自己新建的tensor(即叶子节点）默认为False,不用计算梯度。
phily123·2022-11-30 10:26

卷积神经网络学习：使用pytorch反向传播

每个Tensor都有一个requires_grad参数，代表这个Tensor是否会被跟踪自动微分。
Abel_____·2022-11-29 14:11

7、TORCH.AUTOGRAD

它需要对现有代码进行最少的更改-您只需要声明Tensors，应使用requires_grad=True关键字为其计算梯度。
Adagrad·2022-11-29 13:17

RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn

报错：RuntimeError:element0oftensorsdoesnotrequiregradanddoesnothaveagrad_fn原因：这个是因为没有将requires_grad设为True
ZwaterZ·2022-11-29 10:09

Pytorch Optimizer类使用小技巧总结

一、固定部分网络层参数1.将需要固定，不参与训练层参数的requires_grad属性设为False：#在nn.Modele子类内固定features层参数forpinself.features.parameters
潜行隐耀·2022-11-29 01:17

pytorch中.data()与.item()

pytorch中.data()与.item()-Guang'Jun-博客园1..data()将变量(Variable)变为tensor,将requires_grad设置为Flasea=torch.tensor
非常可爱的刘妹妹·2022-11-28 11:32

Pytorch中.detach()与.data()的用法

importtorcha=torch.tensor([1.0,2.0,3.0],requires_grad=True)a=a.detach()#会将requires_grad属性设置为Falseprin
DRACO于·2022-11-28 11:23

Torch学习 自动求梯度

Tensor是这个包的核心类，如果将其属性.requires_grad设置为True，它将开始追踪(track)在其上的所有操作（这样就可以利用链式法则进行梯度传播了）。
qq_39033580·2022-11-27 18:04

Pytorch损失反向传播后参数梯度为None

错误代码：反向传播后输出factor参数的grad为Nonefactor=torch.ones(num,requires_grad=True)self.factor=torch.nn.Parameter
一千克欣喜·2022-11-27 14:22

Pytorch反向传播梯度始终为None

torch.device('cuda'iftorch.cuda.is_available()else'cpu')x=torch.rand(10,3).to(device)w=torch.rand(3,1,requires_grad
洛臣心·2022-11-27 14:46

pytorch入门笔记02

pytorch自动微分torch.Tensor是包的核心类，有个属性.requires_grad设为True就会跟踪tensor所有操作。计算完成后调用backward()自动计算所有梯度。
哈土奇·2022-11-27 04:31

Pytorch报错TypeError : __init__() takes 1 positional argument but 2 were given 原因及解决方法

outlayer=nn.Sigmoid()#需要先对类实例化，才能调用x=outlayer(x)官网例子：m=nn.Sigmoid()loss=nn.BCELoss()input=torch.randn(3,requires_grad
Dr. 卷心菜·2022-11-26 21:18

PyTorch学习笔记：基础语法及应用

=torch.cuda.is_available()k=torch.tensor([1.2,3.4]).dtypex=torch.tensor((1,2,3),dtype=torch.float32,requires_grad
code_carrot·2022-11-26 18:36

pytorch梯度函数的使用方法

importtorchtorch.cuda.set_device(0)t1=torch.randn(3,3,requires_grad=True)#定义一个3X3的张量print(t1)t2=t1.pow
CrystalheartLi·2022-11-26 11:19

numpy array转tensor

1、torch.tensor(data,*,dtype=None,device=None,requires_grad=False,pin_memory=False)最推荐数据类型：和输入相同，可以使用dtype
是暮涯啊·2022-11-26 04:44

torch.linspace()用法

torch.linspace()用法torch.linspace(start,end,steps=100,out=None,dtype=None,layout=torch.strided,device=None,requires_grad
快乐地笑·2022-11-25 20:51

nll_loss 和 cross_entropy

-1,一般可以看作一个一维列表，存放的是真实类别编号先经过softmax，再经过log，最后再使用nll_loss#inputisofsizeNxC=3x5input=torch.randn(3,5,requires_grad
Huranqingqing·2022-11-25 14:14

【基础篇】pytorch学习笔记（二）[自动求导autograd、backword、with torch.no_grad等]

1.自动求导将Tensor的属性.requires_grad设置为True，它将开始跟踪其上的所有操作(比如加减乘除等等计算)。完成计算后，可调用.backwa
ykszd71·2022-11-25 04:54

【pytorch】|tensor grad

下面用代码展示上述计算图梯度求导过程：importtorch#需要计算梯度-requires_grad=Tru
rrr2·2022-11-25 04:21

Pytorch | 自动求导机制下tensor的各个属性

requires_grad若当前tensor需
忧郁的常凯申·2022-11-25 04:21

【机器学习】PyTorch中 tensor.detach() 和 tensor.data 的区别

tensor.data的用法举例importtorchx=torch.ones(1,requires_grad=True)print(x)#tensor([1.],requires_grad=True)
Quentin_HIT·2022-11-25 04:50

torch.nn.parameter详解

:--目录：参考：1、parameter基本解释：2、参数requires_grad的深入理解：2.1Parameter级别的requires_grad2.2Module级别的requires_grad
KPer_Yang·2022-11-25 04:15

【深度学习】pytorch自动求导机制的理解 | tensor.backward() 反向传播 | tensor.detach()梯度截断函数 | with torch.no_grad()函数

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、pytorch里自动求导的基础概念1.1、自动求导requires_grad=True1.2、求导requires_grad
今天一定要洛必达·2022-11-25 04:45

Pytorch常用命令

一、张量处理1、张量创建1.1torch.tensor(data,dtype=None,device=None,requires_grad=False,pin_memory=False)功能：从data
HopeTiger_only1·2022-11-24 17:20

pytorch代码阅读、代码学习

argparse.ArgumentParser（）用法解析二、torch.manual_seed(1)三、python的class(类)中有object什么含义四、SummaryWriter五、Datasets与DataLoader六、requires_grad
恬梦·2022-11-24 15:33
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他