grad

Bert模型冻结指定参数进行训练

这个就需要用到parameter的requires_grad的属性，来冻结和放开参数。
colourmind·2022-07-19 13:41

【注意力机制】CBAM: Convolutional Block Attention Module

注意力模块的排列4实验4.1消融研究4.1.1探索计算通道注意的有效方法4.1.2探索计算空间注意的有效方法4.1.3如何结合通道和空间注意模块4.1.4总结4.2在ImageNet-1K的图像分类4.3使用Grad-CAM
不断进步的咸鱼·2022-07-19 07:07

【26】pytorch中的grad求导说明以及利用backward获取梯度信息

这两天对pytorch中的梯度计算以及其自动求导机制进行一个简单的实验，主要部分有两个，第一部分是关于pytorch求梯度的简单接口；第二部分是描述grad-cam进行可视化的简单原理与大概的逻辑实现。
Clichong·2022-07-15 07:08

可解释性（一）之CAM和Grad_CAM

参考：kerasCAM和Grad-cam原理简介与实现GAPCAMGrad-CAMGrad-CAM++的解释pytorch实现所有cam衍生ECG-Grad-CAMCAM将原模型的结构修改：利用GAP(
打着灯笼摸黑·2022-07-15 07:57

PyTorch 梯度加权类激活映射 Grad-CAM

Grad-CAM全称Gradient-weightedClassActivationMapping，用于卷积神经网络的可视化，甚至可以用于语义分割不过我是主要研究目标检测的，在看论文的时候就没有在意语义分割的部分
荷碧·TongZJ·2022-07-15 07:15

[ 可视化 ] 经典网络模型 —— Grad-CAM 详解与复现

：HorizonMax✨编程技巧篇：各种操作小结机器视觉篇：会变魔术OpenCV深度学习篇：简单入门PyTorch神经网络篇：经典网络模型算法篇：再忙也别忘了LeetCode[可视化]经典网络模型——Grad-CAM
Horizon Max·2022-07-14 07:12

卷积神经网络——LeNet（pytorch实现）

文章目录前言一、model二、train三、test相关问题总结1.withtorch.no_grad():2.torch.max()函数前言LeNet，它是最早发布的卷积神经网络之一。
Ap21ril·2022-07-13 08:37

关于GAN训练过程中的报错：one of the variables needed for gradient computation has been modified by an inplace

netD.zero_grad()#optimizerD.step()real_out=netD(real_img).mean()fake_out=netD(fake_img).mean()d_loss=
mmdbhs·2022-07-13 07:24

RuntimeError: one of the variables needed for gradient computation has been modified by an...

qf)loss_img=L1loss(img_E,img_H_tensor)loss_train=loss_img+0.1*loss_qfprint(loss_train)optimizer.zero_grad
Kyogre9·2022-07-13 07:52

one of the variables needed for gradient computation has been modified by an inplace operation

importtorchimporttorch.optimx=torch.tensor([3,6],dtype=torch.float32)x.requires_grad_(True)optimizer=
Mr.Yaoo·2022-07-13 07:14

pytorch之数据类型tensor

数据初始化方法一：torch.tensor功能：构建常规tensortorch.tensor(data,*,dtype=None,device=None,requires_grad=False,pi
远方的旅行者·2022-07-06 07:00

pytorch 笔记：validation ，model.eval V.S torch.no_grad

1validation的一般框架模型为model，优化器为optimizermin_val_loss=np.infforepochinrange(1,epochs+1):############################训练部分开始#############################model.train()train_losses=[]for(batch_x,batch_y)intr
UQI-LIUWJ·2022-07-04 07:23

Pytorch 04天——梯度、激活函数、loss及其梯度

initializationstatus2）learningrate（stepLR）3）momentum常见函数的梯度激活函数loss及其梯度1、MeanSquaredError(MSE)均方差：autograd.grad
努力奔跑的憨憨啊·2022-06-29 07:47

PSS：你距离NMS-free+提点只有两个卷积层 | 2021论文

 论文提出了简单高效的PSS分支，仅需在原网络的基础上添加两个卷积层就能去掉NMS后处理，还能提升模型的准确率，而stop-grad的训练方法也挺有意思的，值得一看来源：晓飞的算法工程笔记公众号论文:ObjectDetectionMadeSimplerbyEliminatingHeuristicNMS
晓飞的算法工程笔记·2022-06-28 19:25

在 pytorch 中实现计算图和自动求导

，下面是一个简单函数建立了yy和xx之间的关系然后我们结点和边形式表示上面公式：上面的式子可以用图的形式表达，接下来我们用torch来计算x导数，首先我们创建一个tensor并且将其requires_grad
·2022-06-28 10:00

【Pytorch基础】torch.nn.embedding理解

方法参数torch.nn.Embedding(num_embeddings,embedding_dim,padding_idx=None,max_norm=None,norm_type=2.0,scale_grad_by_freq
一穷二白到年薪百万·2022-06-28 07:08

pytorch中 nn.Embedding的原理

实现维度转换torch.nn.Embedding(num_embeddings,embedding_dim,padding_idx=None,max_norm=None,norm_type=2.0,scale_grad_by_freq
啦咯啦咯啦·2022-06-28 07:28

pytorch中的nn.Embedding用法

htmltorch.nn.Embedding(num_embeddings,embedding_dim,padding_idx=None,max_norm=None,norm_type=2.0,scale_grad
日和公主·2022-06-28 07:38

PyTorch 21. PyTorch中nn.Embedding模块

函数：torch.nn.Embedding(num_embeddings,embedding_dim,padding_idx=None,max_norm=None,norm_type=2,scale_grad_by_freq
DCGJ666·2022-06-28 07:26

ASM字节码插桩解决国内隐私问题

而使用Grad
只影1·2022-06-27 20:51

PSS：你距离NMS-free+提点只有两个卷积层 | 2021论文

 论文提出了简单高效的PSS分支，仅需在原网络的基础上添加两个卷积层就能去掉NMS后处理，还能提升模型的准确率，而stop-grad的训练方法也挺有意思的，值得一看来源：晓飞的算法工程笔记公众号论文:ObjectDetectionMadeSimplerbyEliminatingHeuristicNMS
·2022-06-27 12:05

二：动手实操SpringBoot-使用Spring Initializr创建项目

虽然不能生成应用程序代码，但它能为你提供一个基本的项目结构，以及一个用于构件代码的Maven或者Grad
小小赫下士·2022-06-24 11:00

(三)pytorch中损失函数

importtorchdeflossTest():input=torch.randn(3,5,requires_grad=True)target
li三河·2022-06-23 02:55

coggle11月打卡—pytorch与CV竞赛

的转换任务2：梯度计算和梯度下降过程1、学习自动求梯度原理1.1pytorch自动求导初步认识1.2tensor的创建与属性设置1.3函数求导方法——y.backward()1.4查看求得的导数的值——x.grad1.5
Litra LIN·2022-06-18 16:45

pytorch快速搭建神经网络--函数自动求导（automatic differentiation）

目录1.自动求导1.1自动求类torch.tensor1.2实现求导1.3终止一个Tensor在计算图中的追踪回溯1.3.1.detach()求偏导数1.3.2withtorch.no_grad()进行测试集测试
Never Hanoi·2022-06-18 07:35

【torch.Tensor.new_full】详解

用法new_full(...)new_full(size,fill_value,dtype=None,device=None,requires_grad=False)->Tensor参数详解fill_value
panbaoran913·2022-06-18 07:52

【CNN可解释性】|特征可视化技术——CAM LIME Grad-CAM

反卷积导向反向传播使用普通的反向传播得到的图像噪声较多，基本看不出模型的学到了什么东西。使用反卷积可以大概看清楚猫和狗的轮廓，但是有大量噪声在物体以外的位置上。导向反向传播基本上没有噪声，特征很明显的集中猫和狗的身体部位上。缺点：虽然借助反卷积和导向反向传播我们“看到”了CNN模型神秘的内部，但是却并不能拿来解释分类的结果，因为它们对类别并不敏感，直接把所有能提取的特征都展示出来了。refhttp
rrr2·2022-06-12 07:15

关于安卓glide加载显示进度

（一）grad
motosheep·2022-06-10 08:50

深度学习之如何使用Grad-CAM绘制自己的特征提取图-（Pytorch代码，详细注释）神经网络可视化-绘制自己的热力图

论文名称：Grad-CAM:VisualExplanationsfromDeepNetworksviaGradient-basedLocalization论文下载地址：https://arxiv.org
小馨馨的小翟·2022-06-07 10:30

自动求导（动手学深度学习v2）

importtorchx=torch.arange(4.0)print(x)x.requires_grad_(True)#存梯度x.gradprint(x.grad)y=2*torch.dot(x,x)
Recurss·2022-06-06 07:03

pytorch：自动求导机制

requires_grad每一个张量都含有一个标记（flag）requires_grad,它允许在一定的“细粒度”上将其在梯度计算图中剔除以提高效率。
xholes·2022-06-05 08:17

Pytorch框架学习路径(五：autograd与逻辑回归)

Pytorch框架学习路径(五：autograd与逻辑回归)文章目录autogradtorch.autograd.backward方法求导torch.autograd.grad方法求导autograd小贴士
☞源仔·2022-06-05 08:46

Pytorch框架学习路径(四：计算图与动态图机制)

计算图与动态图机制文章目录计算图与动态图机制计算图grad_fn:记录创建该张量时所用的方法动态图vs静态图计算图与动态图机制计算图1、什么是计算图？什么是计算图？
☞源仔·2022-06-05 08:46

Pytorch学习——自动求导机制requires_grad()

Pytorch框架：反向传播全都计算好了无需手动计算需要求导的地方：requires_grad=True或者用.requires_grad=True来定义没有指定的requires_grad(下面例子中的
zero requiem·2022-06-05 08:11

PyTorch学习笔记（3）autograd 自动求导

自动求导torch.autograd.backward自动求取梯度tensors用于求导的张量retain_graph保存计算图create_graph创建导数计算图用于高阶求导grad_tensors
TongYixuan_LUT·2022-06-05 07:58

【深度学习-pytorch】自动求导实现

importtorchx=torch.arange(4.0)print(x)x.requires_grad_(True)#把梯度放在哪个地方print(x.grad)y=2*torch.dot(x,x)
cc街道办事处·2022-06-05 07:22

PyTorch学习之autograd（自动求导）

autograd1.最常用的方法就是torch.autograd.backward(）torch.autograd.backward(tensors,grad_tensors=None,retain_graph
Leo&&Eva·2022-06-05 07:21

pytorch的计算图和自动求导机制

在创建张量的时候设置requires_grad=True可以将该张量加入到计算图中。
饕餮&化骨龙·2022-06-05 07:48

使用PyTorch实现自动求导

准备工作importtorchx=torch.arange(4.0)#在计算y关于x的梯度前，需要一个地方来储存梯度x.requires_grad_(True)也可以直接在创建tensor的时候直接定义
limingxin007·2022-06-05 07:16

Autograd解析｜OneFlow学习笔记

1一个求梯度的小例子先看下面这个简单的例子：importoneflowasofx=of.randn(2,2,requires_grad=True)y=x+100z=y.sum()z.backward()
OneFlow深度学习框架·2022-06-02 14:36

OSV-q grd_x=grd_x[:, :, 0:-1, :]-data_in[:, :, 1:, :]IndexError: too many indices for tensor of d

input_net,target_net=Variable(batch[0]),Variable(batch[1],requires_grad=False)torch.Size([1,3,356,356
Claire_Shang·2022-05-26 07:26

微信小程序实用工具——渐变色按钮（一）

渐变色按钮（一）前言按钮一按钮二按钮三按钮四按钮五按钮六按钮七按钮八前言平时我们在开发中的按钮色调过于单调于是我在网上找了几款好看的渐变色按钮分享一下下面是动图的效果展示按钮一wxml：wxss：.btn-grad1
失散多年的哥哥·2022-05-25 19:23

pytorch分类模型绘制混淆矩阵及可视化

分类模型绘制混淆矩阵及可视化Step1.获取混淆矩阵#首先定义一个分类数*分类数的空混淆矩阵conf_matrix=torch.zeros(Emotion_kinds,Emotion_kinds)#使用torch.no_grad
王延凯的博客·2022-05-25 02:58

Intellij Idea系列之导Jar包与编写单元测试(二)

笔者有意将本博客做成系列文章，后期会有关于如何用Intellij来搭建maven和grad
weixin_30920597·2022-05-19 09:51

OneFlow源码阅读2：Op、Kernel与解释器

UserOpRegistryMgr的头文件中定义了3个宏，分别用于注册op、grad_op、kernel。ReluOp的注册REGISTER_
·2022-05-14 20:24

Autograd解析｜OneFlow学习笔记

1一个求梯度的小例子先看下面这个简单的例子：importoneflowasofx=of.randn(2,2,requires_grad=True)y=x+100z=y.sum()z.backward()
·2022-05-13 12:35

pytorch_lesson6 动态计算图与梯度下降（AutoGrad回溯机制与动态计算图+反向传播与梯度计算+下降基本思想）

文章目录一、AutoGrad的回溯机制与动态计算图1.可微分性相关属性requires_grad属性：可微分性grad_fn属性：存储Tensor微分函数2.张量计算图计算图的定义节点类型3.计算图的动态性二
斯外戈的小白·2022-05-13 07:12

pytorch梯度下降函数_Pytorch学习笔记6：激活函数/单层感知机/梯度下降求最小值实例...

importtorchimportnumpyasnpfrommatplotlibimportpyplotaspltfrommpl_toolkits.mplot3dimportAxes3D#需要import以上库print('——————————激活函数——————————')grad1
weixin_39783512·2022-05-10 07:02

pytorch学习笔记二——nn.Module

pytorch学习笔记二——nn.Module一、五种模型构造形式nn.Sequential()class自定义类顺序块requires_grad=False混合搭配各种组合块的方法二、参数管理net.state_dict
墨夜之枫·2022-05-10 07:55

卷积神经网络的可视化——热力图Grad CAM

前言在大部分人看来，卷积神经网络是一种黑盒技术，通过理论推导，以及梯度传播，去不断逼近局部最优解。这也导致人们对于神经网络研究进展的缓慢，因为这种黑盒模型无法给出研究人员进行改进的思路。所幸的是，近几年来的论文，也从常规的神经网络结构转向神经网络可视化，目的是让我们能看见卷积神经网络“学习”到了什么，神经网络是怎么判别物体的类别今天就要为大家介绍一种卷积神经网络可视化的技巧，它发表于一篇论文，名叫
MarDino·2022-05-08 07:06
上一页 21 22 23 24 25 26 27 28 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他