autograd

pytorch bug: Unable to find a valid cuDNN algorithm to run convolution解决！

File"D:\ProgramFiles\Anaconda\lib\site-packages\torch\tensor.py",line221,inbackwardtorch.autograd.backward
qq_40929682·2022-11-26 01:12

RuntimeError: CUDA error: device-side assert triggered 解决方法

容易报上面的错误解决方法：（1）检查自己的代码实现，数组是否越界BCELoss之前有没有转到0~1之间（2）这个通常是产生了nan导致数组越界，可以通过如下方式定位nan出现的位置：withtorch.autograd.detect_anomaly
JackHu-bme·2022-11-26 01:36

torch.as_tensor()、torch.Tensor() 、 torch.tensor() 、transforms.ToTensor()的区别

1）torch.as_tensor(data,dtype=None,device=None)->Tensor:为data生成tensor，保留autograd历史记录并尽量避免复制（dtype和devices
三世·2022-11-25 19:21

【深入浅出PyTorch】6-进阶训练技巧

文章目录6.1自定义损失函数6.1.1以函数方式定义6.1.2以类的方式定义6.1.3继承`nn.autograd.Function`来实现6.1.4案例6.2动态调整学习率6.2.1官方的scheduler6.2.2
超级虚空·2022-11-25 12:18

pytorch中detach()函数以及data属性的区别+梯度求导计算

重点是detach在你想要进行autograd的时候就会提醒关于梯度计算常用的求导步骤要求导只需要做到两点：变
徽先生·2022-11-25 04:28

【pytorch】2.2 pytorch 自动求导、 Tensor 与 Autograd

目录一、计算图二、自动求导要点三、标量反向传播的计算四、使用Tensor及Autograd实现机器学习1）先来造一批数据，作为样本数据x和标签值y2）定义一个模型y=wx+b,我们要学习出w和b的值，用来你拟合
Enzo 想砸电脑·2022-11-25 04:55

【基础篇】pytorch学习笔记（二）[自动求导autograd、backword、with torch.no_grad等]

autograd包为tensors上的所有操作提供自动微分。是一个按运行定义的框架，这意味着你的反向求导是由代码的运行方式定义的，并且每个迭代都可以是不同的。
ykszd71·2022-11-25 04:54

PyTorch基础知识 | 安装 | 张量 | 自动求导

2.2依据数值创建2.3依概率分布创建3.张量的操作3.1张量的拼接3.2张量的切分3.3张量的索引3.4张量的变换3.5张量的数学运算4.广播机制5.is_leaf与grad_fn概念三、自动求导1.Autograd
幼稚的人呐·2022-11-25 04:49

pytorch里面的nn库：torch.nn.modules、torch.nn.functional、torch.nn.parameter、torch.nn.Sequential

torch.nn是专门为神经网络设计的模块化接口torch.nn构建与autograd之上，可以用来定义和运行神经网络介绍一下四大库：torch.nn.modules、torch.nn.functional
Amanda_JIDAN·2022-11-25 04:45

【Pytorch】反向传播为NaN报错的排查解决方法，RuntimeError: Function ‘BmmBackward0‘ returned nan values

最近在训练模型的过程中，反复出现方向传播至为NaN的报错，报错信息如下所示：File"/home/fu/anaconda3/envs/torch/lib/python3.7/site-packages/torch/autograd
Maple_66·2022-11-24 22:31

Pytorch基础知识

Pytorch基础知识张量简介创建Tensor张量的操作广播机制自动求导Autograd简介梯度计算并行计算简介为什么要做并行计算并行计算和CUDA什么关系常见的并行的方法：网络结构分布到不同的设备中(
安小兴先生·2022-11-24 22:07

【小白学习PyTorch教程】六、基于CIFAR-10 数据集，使用PyTorch 从头开始构建图像分类模型...

在开始阅读本文之前，建议先了解一下什么是tensor、什么是torch.autograd以及如何在PyTorch中构建神经网络模型。
风度78·2022-11-24 14:49

PyTorch入门（2）—— 自动求梯度

PyTorch提供的autograd
云端FFF·2022-11-24 01:31

Pytorch的自定义拓展:torch.nn.Module和torch.autograd.Function

参考链接：pytorch的自定义拓展之（一）——torch.nn.Module和torch.autograd.Function_LoveMIss-Y的博客-CSDN博客_pytorch自定义backward
ChaoFeiLi·2022-11-23 12:37

深度学习 — — PyTorch入门（三）

点击关注我哦autograd和动态计算图可以说是pytorch中非常核心的部分，我们在之前的文章中提到：autograd其实就是反向求偏导的过程，而在求偏导的过程中，链式求导法则和雅克比矩阵是其实现的数学基础
小北的北·2022-11-23 10:16

关于pytorch复现模型的一些报错总结

1.RuntimeError:OneofthedifferentiatedTensorsdoesnotrequiregrad关于这个报错的意思是：有一个参数不需要计算导数此torch.autograd.grad
snow5618·2022-11-23 10:13

grad can be implicitly created only for scalar outputs

1.Autograd：自动求导torch.Tensor是这个包的核心类。如果设置它的属性.requires_grad为True，那么它将会追踪对于该张量的所有操作。
一只皮皮虾x·2022-11-23 09:38

Pytorch之autograd错误：RuntimeError: grad can be implicitly created only for scalar outputs

此公众号会发表计算机考研（初复试信息）、夏令营等资料，方便考研人对信息的获取，节约自身查找资料的时间，回复408，可获得数据结构、操作系统、计算机网络、计算机组成原理全科资料前言标量是0阶张量(一个数)，是1*1的；向量是一阶张量，是1*n的；张量可以给出所有坐标间的关系，是n*n的。所以通常有人说将张量(n*n)reshape成向量(1*n)，其实reshape过程中并没有发生大的变化。impo
青竹aaa·2022-11-23 09:38

【Pytorch学习笔记二】pytorch中的张量（Tensors）和计算梯度数值(Atuograd)

文章目录一，张量（Tensors）1.tensor的属性2.创建张量3.数据初始化4,常用方法二，PyTorch计算梯度数值1.Autograd2.扩展Autograd参考资料：https://handbook.pytorch.wiki
QHCV·2022-11-23 09:25

Pytorch学习笔记

Pytorch基本语法1.1、什么是Pytorch1.2、Pytorch基本元素操作1.2.1、Tensors张量1.2.1、导入torch1.2.2、创建矩阵1.2.3、基本运算1.3、Pytorch中的autograd1.3.1
码农a皮·2022-11-23 08:33

Pytorch 梯度反转层及测试

Pytorch梯度反转层及测试参考文献：梯度反转importtorchimporttorch.nnasnnfromtorch.autograd.functionimportFunctionclassGrl_func
tpz789·2022-11-23 02:08

Pytorch 构建简单Neural Networks

nn包依赖autograd包来定义模型并求导。一个nn.Module包含各个层和一个forward(input)方法，该方法返回output。
pengege666·2022-11-23 01:19

pytorch学习遇到的问题汇总

博客园(cnblogs.com)https://www.cnblogs.com/yanghh/p/13758243.html2.backward和grad一文解释PyTorch求导相关(backward,autograd.grad
Tsparkle·2022-11-23 00:18

Dive into deep learning(01)[动手学深度学习]———————第一章，预备知识

第一章，预备知识1、数据操作(DataManipulation)2、数据预处理(DataPreprocessing)3、线性代数(LinearAlgebra)4、微积分(Calculus)5、自动微分(Autograd
梦想实干家杭77·2022-11-22 18:47

PyTorch学习笔记——入门（Tensor、Autograd、NN、图像分类器实验、数据并行处理）

PyTorch学习笔记160min入门学习1.1张量1.1.1构造1.1.2Tensor操作查看信息改变形状索引操作Tensor类型逐元素操作归并操作比较线性代数Tensor和Numpy内部结构其他1.2自动微分1.2.1required_grad1.2.2计算图1.2.3t.no_grad()与tensor.data()||tensor.detach()1.2.4查看非叶子节点的导数autogr
问尔·2022-11-22 18:13

Pytorch中loss.backward()和torch.autograd.grad的使用和区别(通俗易懂)

一、问题描述假设我们现在有如下的式子:y=x*xz=2*y然后，我们想求z在x=3处的梯度，学过数学的同学大都知道怎么求，如下所示：那么如何用Pytorch中的torch.autograd.grad和loss.backward
信小颜·2022-11-22 10:24

实现线性回归——【torch学习笔记】

可以仅依靠NDarray进行数据存储和线性代数，以及autograd软件包中的自动分化功能。
一个语文不好的NLPer·2022-11-21 23:47

Pytorch笔记——2、Pytorch自动求梯度

PyTorch提供的autograd包能够根据输入和前向传播过程自动构建计算图，并执行反向传播。
数据科学家修炼之道·2022-11-21 23:20

pytorch教程(1.5)——梯度自动计算

为了计算这些梯度，PyTorch有一个名为torch.autograd的内置微分引擎。它支持任何计算图的梯度自动计算。考虑最简单的一层神经网络，输入x，参数w和b，以及一些损失函数。
leetteel·2022-11-21 22:15

pytorch计算模型的参数量和计算速度

文章目录模型参数总量模型计算量梯度值模型层数模型计算图pytorch实用工具总结模型层数：print_layers_num模型参数总量：print_model_parm_nums模型的计算图：defprint_autograd_graph
helloworld_Fly·2022-11-21 03:36

Pytorch

文章目录TensorAPI：索引：维度变换广播机制Autograd关于计算神经网络块Pytorch架构torchvisiontorchvision.transformstorchvision.modelstorchvision.iotorchvision.opttorchvision.utilsDataSetDataLoaderModule
银晗·2022-11-21 01:42

PyTorch框架

文章目录1.张量1.1Variable1.2Tensor1.3张量的创建1.4张量的操作1.5计算图与动态图1.5.1计算图1.6autograd1.6.1torch.autograd.backward
zhaohui24·2022-11-21 00:42

[三十二]深度学习Pytorch-循环神经网络RNN

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-20 22:03

Note | PyTorch官方教程学习笔记

目录1.快速入门PYTORCH1.1.什么是PyTorch1.1.1.基础概念1.1.2.与NumPy之间的桥梁1.2.Autograd:AutomaticDifferentiation1.2.1.Tensor1.2.2
LVXIAO2897·2022-11-20 16:18

PyTorch C++ API笔记

Autograd：通过自动微分增强ATen。C++前端：用于训练和评估机器学习模型的高级构造。TorchScript：TorchScriptJIT编译器和
代丹·2022-11-20 14:44

【PyTorch教程】06-如何使用PyTorch搭建神经网络模型并进行训练

nn库依赖于autograd定义模
自牧君·2022-11-20 11:30

Chapter3 Pytorch与机器学习有关函数（二）

3.4tensor中的填充操作3.4.1tensor.full3.5pytorch中模型的保存/加载/并行化3.6导数、方向导数、偏导数3.6.1重要概念3.6.1.1概念3.6.1如何计算梯度3.6.2torch.autograd.Function3.7pytorch
Courage2022·2022-11-20 10:48

Stylenga_pytorch 代码解析

importargparseimportmathimportrandomimportosimportnumpyasnpimporttorchfromtorchimportnn,autograd,optimfromtorch.nnimportfunctionalasFfromtorch.utilsimportdataimporttorch.distributedasdistfromtorchvisi
jinggegebuaa·2022-11-20 04:49

[二十一]深度学习Pytorch-正则化Regularization之weight decay

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-20 03:21

Caught RuntimeError in replica 0 on device 0（为什么pytorch多卡跑会报错）

那不妨看看本文：a=torch.nn.Parameter(torch.zeros(dims,1).type(torch.FloatTensor),requires_grad=True)a=torch.autograd.Variable
不困先生说·2022-11-20 01:39

深度学习框架拾遗：【Pytorch（一）】——Pytorch的核心概念

基本上就是tensor,autograd,nn三级封装。
J_Xiong0117·2022-11-19 23:54

笔记 | PyTorch安装及入门教程

PyTorch主要由4个包组成：torch:可以将张量转换为torch.cuda.TensorFloattorch.autograd:自动梯度torch.nn：具有共享层和损失函数的神经网络库torch.optim
小白学视觉·2022-11-19 23:51

二、pytorch核心概念：3.动态计算图

function同时包含正向计算和反向传播的逻辑，比如relu函数：classMyReLU(torch.autograd.Function):#正向传播逻辑，可以用ctx存储一些值，供反向传播使
crud_player·2022-11-19 23:12

pytorch 核心 autograd 自动求导

Autograd：自动求导PyTorch中，所有神经网络的核心是autograd包。先简单介绍一下这个包，然后训练我们的第一个的神经网络。autograd包为张量上的所有操作提供了自动求导机制。
临街的小孩·2022-11-19 23:10

PyTorch Autograd（backward grad 等PyTorch核心）

本文将会主要关注PyTorch计算图相关和autograd类的backward等方面。图1它从不显式计算整个雅可
培之·2022-11-19 23:09

报错信息：RuntimeError: isDifferentiableType(variable.scalar_type()) INTERNAL ASSERT FAILED at ...

variable.scalar_type())INTERNALASSERTFAILEDat"/opt/conda/conda-bld/pytorch_1607370156314/work/torch/csrc/autograd
程序猿的探索之路·2022-11-19 22:31

RuntimeError: diff_view_meta-＞output_nr_ == 0 INTERNAL ASSERT FAILED at \“..\\\\torch\\\\csrc\\\\aut

\\torch\\csrc\\autograd\\variable.cpp":417,pleasereportabugtoPyTorch.问题描述使用的训练环境问题解决一、剪枝之后出现的错误，但是自己的模型并没有剪枝的操作
yuride·2022-11-19 22:55

动手学深度学习--课堂笔记 autograd

梯度与导数：梯度是某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点出沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）方向导数：对于多元函数来说，除了沿坐标轴方向上的导数，在非坐标轴方向上也可以求导数，这些导数就是方向导数。导数用来反映某一函数的变化率，某一特定点的导数就是该点的“瞬间斜率”，即切线斜率。所以，在单变量的实值函数中，梯度可简单理解为只是导数，或者说对于一个线
weixin_46480637·2022-11-19 22:19

[三十]深度学习Pytorch-图像目标检测Faster RCNN

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-19 18:01

[二十六]深度学习Pytorch-迁移学习、模型微调Finetune

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-19 18:31
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他