autograd

[二十一]深度学习Pytorch-正则化Regularization之weight decay

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-20 03:21

Caught RuntimeError in replica 0 on device 0（为什么pytorch多卡跑会报错）

那不妨看看本文：a=torch.nn.Parameter(torch.zeros(dims,1).type(torch.FloatTensor),requires_grad=True)a=torch.autograd.Variable
不困先生说·2022-11-20 01:39

深度学习框架拾遗：【Pytorch（一）】——Pytorch的核心概念

基本上就是tensor,autograd,nn三级封装。
J_Xiong0117·2022-11-19 23:54

笔记 | PyTorch安装及入门教程

PyTorch主要由4个包组成：torch:可以将张量转换为torch.cuda.TensorFloattorch.autograd:自动梯度torch.nn：具有共享层和损失函数的神经网络库torch.optim
小白学视觉·2022-11-19 23:51

二、pytorch核心概念：3.动态计算图

function同时包含正向计算和反向传播的逻辑，比如relu函数：classMyReLU(torch.autograd.Function):#正向传播逻辑，可以用ctx存储一些值，供反向传播使
crud_player·2022-11-19 23:12

pytorch 核心 autograd 自动求导

Autograd：自动求导PyTorch中，所有神经网络的核心是autograd包。先简单介绍一下这个包，然后训练我们的第一个的神经网络。autograd包为张量上的所有操作提供了自动求导机制。
临街的小孩·2022-11-19 23:10

PyTorch Autograd（backward grad 等PyTorch核心）

本文将会主要关注PyTorch计算图相关和autograd类的backward等方面。图1它从不显式计算整个雅可
培之·2022-11-19 23:09

报错信息：RuntimeError: isDifferentiableType(variable.scalar_type()) INTERNAL ASSERT FAILED at ...

variable.scalar_type())INTERNALASSERTFAILEDat"/opt/conda/conda-bld/pytorch_1607370156314/work/torch/csrc/autograd
程序猿的探索之路·2022-11-19 22:31

RuntimeError: diff_view_meta-＞output_nr_ == 0 INTERNAL ASSERT FAILED at \“..\\\\torch\\\\csrc\\\\aut

\\torch\\csrc\\autograd\\variable.cpp":417,pleasereportabugtoPyTorch.问题描述使用的训练环境问题解决一、剪枝之后出现的错误，但是自己的模型并没有剪枝的操作
yuride·2022-11-19 22:55

动手学深度学习--课堂笔记 autograd

梯度与导数：梯度是某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点出沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）方向导数：对于多元函数来说，除了沿坐标轴方向上的导数，在非坐标轴方向上也可以求导数，这些导数就是方向导数。导数用来反映某一函数的变化率，某一特定点的导数就是该点的“瞬间斜率”，即切线斜率。所以，在单变量的实值函数中，梯度可简单理解为只是导数，或者说对于一个线
weixin_46480637·2022-11-19 22:19

[三十]深度学习Pytorch-图像目标检测Faster RCNN

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-19 18:01

[二十六]深度学习Pytorch-迁移学习、模型微调Finetune

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-19 18:31

[二十五]深度学习Pytorch-模型保存与加载、断点续训练

Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd
yanzhiwen2·2022-11-19 18:00

pytorch-grad-cam源代码阅读和调试(中)

pytorch-grad-campytorch-grad-cam源代码阅读和调试(上)pytorch-grad-cam源代码阅读和调试(中)pytorch-grad-cam源代码阅读和调试(下)该代码仍存在一些不足,这里将继承自orch.autograd.Function
敲代码的小风·2022-11-19 18:13

pytorch搭建深度学习网络

目录1、tensor2、损失函数1）nn.CrossEntropyLoss2）nn.L1Loss3）nn.MSELoss3、自动求导Autograd4、网络模型库torchvision1）加载预训练模型
Nicholson07·2022-11-19 17:01

PyTorch日积月累_2-计算图、autograd机制、损失函数和优化器

文章目录Pytorch中的模块类nn.ModulePyTorch的计算图和自动求导机制PyTorch如何实现计算图上节点的跟踪torch.autograd模块如何避免计算图上节点的跟踪Pytorch损失函数和优化器损失函数二分类常用损失函数多分类常用损失函数优化器
长星照耀十三州府_·2022-11-19 14:02

Pytorch笔记——3、Pytorch实现线性回归

因此，本节将介绍如何只利用Tensor和autograd来实现一个线性回归的训练。importtorchfrommatplotl
数据科学家修炼之道·2022-11-19 08:38

Pytorch的官方教程学习--神经网络的初步理解

现在对于自动梯度(autograd)有一些了解，神经网络是基于自动梯度(autograd)来定义一些模型。
布丁小芒果·2022-11-19 07:14

PyTorch中hook（钩子）的使用

如何使用钩子注册钩子的函数torch.autograd.Variable.register_hook(Pythonmethod）torch.nn.Module.register_forward_hook
张好好-学习·2022-11-16 18:18

PyTorch requires_grad/detach

参考文章在pytorch中停止梯度流的若干办法，避免不必要模块的参数更新一文搞透pytorch中的tensor、autograd、反向传播和计算图pytorch训练GAN时的detach()测试代码importtorchimporttorch.nnasnndeftest_requires_grad
CarolSu2055·2022-11-15 13:44

PyTorch-Tutorials【pytorch官方教程中英文详解】- 7 Optimization

在上一篇文章PyTorch-Tutorials【pytorch官方教程中英文详解】-6Autograd介绍了torch.autograd，接下来看看在模型的训练和优化中如何选取损失函数和优化器。
双木的木·2022-11-15 11:15

torch.nn

1.参数classtorch.nn.Parameterstorch.nn.Parameter是torch.autograd.Variable的子类，如果在网络的训练过程中需要更新，就要定义为Parameter
爱钻研的小铭·2022-11-14 17:31

LESSON 10.1&10.2&10.3 SSE与二分类交叉熵损失函数&二分类交叉熵损失函数的pytorch实现&多分类交叉熵损失函数

在介绍PyTorch的基本工具AutoGrad库时，我们系统地介绍过数学中的优化问题和优化思想，我们介绍了最小二乘法以及梯度下降法这两个入门级优化算法的具体操作，并使用AutoGrad库实现了他们。
Grateful_Dead424·2022-11-13 11:27

翻译：PyTorch基础知识学习 - 自动微分TORCH.AUTOGRAD

翻译文章地址：自动微分一、自动微分TORCH.AUTOGRAD在训练神经网络时，最常用的算法是反向传播。在该算法中，参数（模型权重）根据损失函数相对于给定参数的梯度进行调整。
茕夜·2022-11-11 11:48

深度学习Pytorch（八）——神经网络模块（详细）

文章目录深度学习Pytorch（八）——神经网络模块（详细）一、PyTorch中的nn包二、使用优化器训练神经网络三、自定义nn模块四、神经网络中的控制流和权重共享一、PyTorch中的nn包计算图和autograd
柚子味的羊·2022-11-09 03:04

PyTorch 笔记Ⅲ——PyTorch 神经网络

上一讲已经讲过了autograd，nn包依赖autograd包来定义模型并求导。一个nn.Module包含各个层和一个forward(input)方法，该方法返回output。例如：它是一个
DeepHao·2022-11-09 03:28

Pytorch库的基本架构

首先要说明的是PyTorch这是torch的Python版本，所以导入的是torch而不是Pytorch:importtorch1运行基础torch.tensor：基础数据结构torch.autograd
有温度的算法·2022-11-08 09:41

Pytorch简单入门操作

PyTorch安装及入门教程详细文档第2章Pytorch基础–Python技术交流与分享PyTorch主要由4个包组成：torch:可以将张量转换为torch.cuda.TensorFloattorch.autograd
m0_61899108·2022-11-06 07:59

Pytorch学习笔记3

theta（1-theta）a=torch.linspace(-100,100,10)torch.sigmoid(a)Tanh激活函数：ReLU激活函数：LOSS函数：pytorch自动求导：torch.autograd.grad
深度学不学习·2022-11-04 11:09

【深度学习】翻译：60分钟入门PyTorch（四）——训练一个分类器

A60MinuteBlitz翻译：林不清（https://www.zhihu.com/people/lu-guo-92-42-88）目录60分钟入门PyTorch（一）——Tensors60分钟入门PyTorch（二）——Autograd
风度78·2022-11-03 09:58

RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously

inloss.backward()#反向传播计算梯度File"F:\Anaconda3\lib\site-packages\torch\_tensor.py",line307,inbackwardtorch.autograd
Cyril_KI·2022-10-25 07:22

如何使用torch计算梯度，理解Autograd的作用及原理

1.介绍Tensor在PyTorch中主要是通过torch.Tensor存储和计算数据，Tensor可以表示数值，向量或矩阵。假设x=torch.tensor(3.0),当x的requires_grads参数为True时，它跟踪x参与的运算。并且在计算得到的结果上(结果也是Tensor一个对象)上调用backward()就会自动计算x的梯度，并将梯度累加到x.grad属性上。下面代码演示在y=x2
rpsate·2022-10-15 07:49

pytorch自定义函数实现自动梯度

实现要点：将函数定义为类，需继承自torch.autograd.Function类需实现两个静态方法：forward()和backward()，分别对应前向传播和反向传播函数使用前需调用apply方法从而嵌入计算图
Gεorge·2022-10-07 12:51

分别使用numpy和pytorch进行图像傅里叶变换和频域分析

pytorch的fft功能在1.7.1版之后才完善，支持CUDA和autograd，可以加入到神经网络中实现一些有趣的操作。  
Brikie·2022-10-02 07:37

动手实现一个带自动微分的深度学习框架

动手实现一个带自动微分的深度学习框架转自：AutomaticDifferentiationTutorial参考代码：https://github.com/borgwang/tinynn-autograd
Adenialzz·2022-09-28 12:09

Pytorch深度学习笔记（01）--自动求导、梯度下降、反向传播

张量Tensors二、Autograd:自动求导(automaticdifferentiation)1、变量(Variable)核心类2、函数（Function）3、梯度（Gradients）梯度（可简单理解为导数
呆呆酱～^_^·2022-09-27 18:50

pytorch---张量和自动求导

**PyTorch中的autograd包提供了这个功能。当使用autograd时，网络前向传播将定义一个计算图；图中的节点是tensor，边是函数，这些函数是输出tensor到输入tensor的映射。
飞驰的拖鞋·2022-09-25 01:02

Pytorch总结七之深度学习的正向、反向传播原理+参数初始化+实战房价预测

1.正向传播、反向传播和计算图在实现小批量随机梯度下降法训练模型过程中：我们只提供了模型的正向传播（forwardpropagation）的计算，即对输⼊计算模型输出，然后通过autograd模块来调⽤
明月醉窗台·2022-09-21 11:52

使用 PyTorch 进行音频信号处理的数据操作和转换

通过支持PyTorch，torchaudio遵循相同的理念，即提供强大的GPU加速，通过autograd系统专注于可训练的特征，并具有一致的风格（张量名称和维度名称）。
海拥✘·2022-09-18 07:41

pytorch基础

目录安装新建虚拟环境（MacOS）方法一：直接AnacondaNavigator中安装方法二：在终端中创建安装pytorch检测安装成功与否基本概念Tensor创建Tensor运算其他操作autograd
Gu_NN·2022-09-14 07:59

PyTorch 的 Autograd详解

由此可见，自动求导(autograd)是PyTorch，乃至其他大部分深度学习框架中的重要组成部分。了解自
视学算法·2022-09-09 07:29

【原创】torch.autograd.backward()函数解读

torch.autograd.backward()函数解读参考内容：Automaticdifferentiationpackage-torch.autograd本文的目的是剖析backward()定义及使用方法
maze2023·2022-09-09 07:59

PyTorch 的 Autograd

PyTorch的Autograd转自：PyTorch的AutogradPyTorch作为一个深度学习平台，在深度学习任务中比NumPy这个科学计算库强在哪里呢？
Adenialzz·2022-09-09 07:55

Pytorch torch.autograd 与torch.optim的区别//一个求模型里面的梯度，一个通过再梯度来更新模型参数权重

Pytorchtorch.autograd与torch.optim的区别//一个求模型里面的梯度，一个通过再梯度来更新模型参数权重#更新权重值，更新过程使用下面的公式：weight=weight+learning_rate
思考实践·2022-09-09 07:23

torch.autograd

torch.autograd提供了类和函数用来对任意标量函数进行求导。要想使用自动求导，只需要对已有的代码进行微小的改变。只需要将所有的tensor包含进Variable对象中即可。
爱钻研的小铭·2022-09-09 07:15

PyTorch 源码解读之 torch.autograd：梯度计算详解

前言本篇笔记以介绍pytorch中的autograd模块功能为主，主要涉及torch/autograd下代码，不涉及底层的C++实现。本文涉及的源码以PyTorch1.7为准。
OpenMMLab·2022-09-09 07:44

Pytorch梯度检查 torch.autograd.gradcheck

在编写好自己的autogradfunction后，可以利用gradcheck中提供的gradcheck和gradgradcheck接口，对数值算得的梯度和求导算得的梯度进行比较，以检查backward是否编写正确。即用它可以check自己写的反向传播函数是否正确这个函数可以自己计算通过数值法求得的梯度，然后和我们写的backward的结果比较在下面的例子中，我们自己实现了Sigmoid函数，并利用
hxxjxw·2022-09-09 07:06

Pytorch autograd.backward理解

通常在训练的时候,最后的loss是一个标量,无脑使用loss.backward()进行反向传播计算梯度即可.但是碰到有些代码中出现了多个loss,比如这样的代码:torch.autograd.backward
LuffysMan·2022-09-09 07:02

【Pytorch】autograd.Variable类详解 & tensor.backward()进行反向传播梯度计算过程

文章目录前置知识：Pytorch计算图1）torch.autograd.Variable类详解2）torch.tensor.backward()源码分析3）梯度计算与反向传播实例分析前置知识：Pytorch
Iron_lyk·2022-09-09 07:02

Pytorch autograd.grad与autograd.backward详解

Pytorchautograd.grad与autograd.backward详解引言平时在写Pytorch训练脚本时，都是下面这种无脑按步骤走：outputs=model(inputs)#模型前向推理optimizer.zero_grad
Adenialzz·2022-09-09 07:29
上一页 5 6 7 8 9 10 11 12 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他