nn.Parameter

【pytorch】register_buffer的使用

下面列出不需要手动注册、会自动注册的几种情况：1.nn.Parameter自动注册：任何你在nn.Module中定义为nn.Parameter的张量都会自动注册为模型的参数。
Aha_aho·2024-09-10 18:12

类参数和实例参数

__init__()self.weight=nn.Parameter(torch.rand(kernel_size))self.bias=nn.Parameter(torch.zeros(1))逐行解释给定的代码
代码猪猪傻瓜coding·2024-01-31 02:57

PyTorch 之 nn.Parameter

文章目录使用方法：为什么使用`nn.Parameter`：示例使用：在PyTorch中，nn.Parameter是一个类，用于将张量包装成可学习的参数。
JNU freshman·2024-01-28 08:26

模型创建与nn.Module

parameters：用于存储和管理nn.Parameter类的属性。nn.Parameter是一种特殊的张量，它被自动注册为模型的参数，可以进行梯度计算和优化。
-恰饭第一名-·2024-01-10 00:04

【nn.Parameter】Pytorch特征融合自适应权重设置（可学习权重使用）

2021年11月17日11:32:14今天我们来完成Pytorch自适应可学习权重系数，在进行特征融合时，给不同特征图分配可学习的权重！原文：基于自适应特征融合与转换的小样本图像分类（2021）期刊：计算机工程与应用（中文核心、CSCD扩展版）实现这篇论文里面多特征融合的分支！实现自适应特征处理模块如下图所示：特征融合公式如下：Fff=α1∗Fid+α2∗Fdconv+α3∗Fmax⁡+α4∗Fa
bao文·2024-01-05 05:51

【手撕算法系列】Linear层

__init__()self.w=nn.Parameter(torch.randn(in_ch,out_ch))self.b=nn.Parameter(torch.randn(out_ch))defforwar
Nastu_Ho-小何同学·2023-12-18 16:19

pytorch0.4.1报错Padding_idx must be within num_embeddings

nn.Embedding(self.vocab_size+2,self.embedding_dim,padding_idx=self.vocab_size+1)self.embedding.weight=nn.Parameter
Re0·2023-11-03 04:30

pytorch学习率设置——optimizer.param_groups、对不同层设置学习率、动态调整学习率

介绍及示例、Yolov7优化器代码示例pytorch学习率设置——optimizer.param_groups、对不同层设置学习率、动态调整学习率PyTorch学习——关于tensor、Variable、nn.Parameter
Chaoy6565·2023-11-02 03:49

相对位置编码 relative position encoding

在代码中直接初始化0矩阵，在forward函数中直接与x相加:self.position_embeddings=nn.Parameter(torch.zeros(1,n_patches,in_channels
翰墨大人·2023-10-26 08:10

pytorch里面的 nn.Parameter 和 tensor有哪些异同点

简单来说，你可以把tensor看作是一个通用的数据结构，而nn.Parameter看作是一种特殊的tensor，这种tensor可以被优化以提高模型的性能。
子燕若水·2023-10-21 02:55

Pytorch因nn.Parameter导致实验不可复现的一种情况

文章首发见博客：https://mwhls.top/4871.html。无图/格式错误/后续更新请见首发页。更多更新请到mwhls.top查看欢迎留言提问或批评建议，私信不回。没解决，只是记录这种情况。也可以多次实验取均值以避免结果复现。场景自己的模块中，包含一个与x相加的可学习参数，导致单卡同种子下结果无法复现。去掉该模块，能正常复现。保留声明，注释使用后，能正常复现。且结果与无该模块的结果一致
MWHLS·2023-10-08 14:28

【手动实现nn.Linear 】

__init__()self.weights=nn.Parameter(torch.Tensor(output_dim,input_dim))self.bias=nn.Parameter(torch
A half moon·2023-09-25 16:25

torch.nn.Parameter()函数

引言在很多经典网络结构中都有nn.Parameter()这个函数，故对其进行了解pytorch官方介绍：语法结构：torch.nn.parameter.Parameter(data=None,requires_grad
梦在黎明破晓时啊·2023-09-16 22:46

《动手学深度学习 Pytorch版》 4.2 多层感知机的从零开始实现

batchsizebatch_size=256train_iter,test_iter=d2l.load_data_fashion_mnist(batch_size)4.2.1初始化模型为什么不直接使用Tensor而是用nn.Parameter
AncilunKiang·2023-09-13 07:55

pytorch优化器——add_param_group()介绍及示例、Yolov7 优化器代码示例

介绍及示例、Yolov7优化器代码示例pytorch学习率设置——optimizer.param_groups、对不同层设置学习率、动态调整学习率PyTorch学习——关于tensor、Variable、nn.Parameter
Chaoy6565·2023-08-20 02:01

简单理解大模型参数高效微调中的LoRA(Low-Rank Adaptation)

网络结构其中，原有模型的参数是直接冻结的，可训练参数只有额外引入的LoRA参数(由nn.Parameter实现)。
xiongxyowo·2023-08-16 10:43

torch.nn.Parameter理解

它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去；而module中非nn.Parameter()的普通t
时光碎了天·2023-08-10 17:18

Pytorch nn.Parameter() (register_parameter)

它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去；而module中非nn.Parameter()的普通tensor
hxxjxw·2023-08-06 16:13

6.2 手写卷积类

__init__()self.weight=nn.Parameter(torch.rand(kernel_size))#如kernel_size=(2,2),则随机初始化一个2
computer_vision_chen·2023-08-06 07:15

AttributeError: module ‘torch.nn‘ has no attribute ‘module‘

_init_()self.ndim=ndimself.weight=nn.Parameter(torch.randn(ndim,1))#定义权重self.bias=nn.Parameter(tor
Leeyayai·2023-07-15 12:59

【NAS工具箱】Pytorch中的Buffer&Parameter

第一种：直接通过成员变量nn.Parameter()进行创建，会自动注册到parameter中。def__init__(self):super(MyModel,self).
pprpp·2023-04-18 11:33

torch.nn.Patameter()详解

它与torch.Tensor的区别就是nn.Parameter的对象会被被加入到module自带的parameter()这个迭代器中去（见后面Linear例子）；而module中非nn.Parameter
马尔代夫Maldives·2023-04-13 17:05

pytorch中nn.parameter和require_grad=True的区别

nn.parameter()首先可以把这个函数理解为类型转换函数，将一个不可训练的类型Tensor转换成可以训练的类型parameter并将这个parameter绑定到这个module里面(net.parameter
Shashank497·2023-02-06 08:21

【中级】用nn.Module，nn.Sequential，nn.Functional 构建网络

Pytorch中，模型的参数用nn.Parameter来表达，但是要手动去管理这些参数不容易，所以我们构建模型一般使用nn.Module，管理参数也是使用nn.Module和它的子类。
WeissSama·2023-01-29 19:21

【nn.Parameter()】生成和为什么要初始化

它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去；而module中非
panbaoran913·2023-01-17 22:06

nn.Parameter生成含Nan（日常记录）

问题源头在这里：self.u=nn.Parameter(torch.Tensor(x,y))翻遍了全网，在一个老哥那里发现了同样的问题，文章链接如下关于Pytorch中Parameter的nan|WeeklyReview
LTuantuan·2023-01-17 22:29

李沐_pytorch补充

1、注册带有参数的层时候就要使用nn.Parameter（）self.pos_embedding=nn.Parameter(torch.randn(1,num_patches+1,dim))self.cls_token
Marshal～·2023-01-05 21:15

pytorch保存参数及模型的两种方式

__init__()self.w1=nn.Parameter(torch.randn(3,4))self.
Bi 8 Bo·2023-01-01 10:49

style transform图像风格转换实战

一、项目目标实现图像风格的转换，原理为：1、设置vgg网络用于提取内容和风格特征，其中内容特征在输入靠后的层，风格特征在比较靠近输入的层上提取，分别保存2、设置一个网络，forward返回的是nn.Parameter
自在犹仙·2022-12-30 14:44

Pytorch学习(3) —— nn.Parameter nn.ParameterList nn.ParameterDict 源码解析

为了更好理解Pytorch基本类的实现方法，我这里给出了关于参数方面的3个类的源码详解。此部分可以更好的了解实现逻辑结构，有助于后续代码理解，学pytorch的话这个不是必须掌握的，看不懂也没关系。文章目录1Parameter参数类源码2ParameterList参数列表类源码3ParameterDict参数字典类源码总结1Parameter参数类源码此部分参考《pytorch源码阅读系列之Par
小玺玺·2022-12-28 07:32

【nn.Parameter】Pytorch特征融合自适应权重设置（可学习权重使用）

2021年11月17日11:32:14今天我们来完成Pytorch自适应可学习权重系数，在进行特征融合时，给不同特征图分配可学习的权重！原文：基于自适应特征融合与转换的小样本图像分类（2021）期刊：计算机工程与应用（中文核心、CSCD扩展版）实现这篇论文里面多特征融合的分支！实现自适应特征处理模块如下图所示：特征融合公式如下：Fff=α1∗Fid+α2∗Fdconv+α3∗Fmax⁡+α4∗Fa
陈嘿萌·2022-12-22 13:06

nn.Parameter 详解 （将 nn.Parameter 用于 nn.init.kaiming_normal 初始化）

Parameters是Variable的子类。Paramenters和Modules一起使用的时候会有一些特殊的属性，即：当Paramenters赋值给Module的属性的时候，它会自动的被加到Module的参数列表中(即：会出现在parameters()迭代器中)。简单来说就是将一个不可训练的tensor转换成可以训练的类型parameter并将这个parameter绑定到这个module里面，
觉子·2022-12-22 13:06

nn.parameter

参考PyTorch里面的torch.nn.Parameter()详解-云+社区-腾讯云classtorch.nn.parameter.Parameter[source]作为一种模型参数的张量。参数是张量的子类，在与模块s一起使用时具有一个非常特殊的特性——当它们被指定为模块属性时，它们会自动添加到参数列表中，并且会出现，例如在parameters()迭代器中。分配一个张量就没有这样的效果。这是因为
Wanderer001·2022-12-22 13:05

[nn.Parameter]理解总结与初始化方法大全

文章目录一、查看性质二、参数是否初始化的区别三、参数初始化的方法1.均匀分布2.正太分布3.常数分布4.全1分布5.全0分布6.单位分布:question:7.xavier_uniform分布8.xavier_normal分布9.kaiming_uniform分布10.kaiming_normal分布11、正交矩阵12、稀疏矩阵13.函数初始化14、遍历初始化Parameter实际上也是Tenso
panbaoran913·2022-12-22 13:04

nn.Parameter

它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到parameter()这个迭代器中去；而module中非nn.Parameter()的普通tensor
小瓶盖的猪猪侠·2022-12-22 13:04

nn.Parameter()

示例：分别使用nn.Linear和nn.Parameter实现下图所示的全连接层。
ICDAT_GO·2022-12-22 13:04

nn.Parameter

para=nn.Parameter(torch.Tensor(10,20),requires_grad=True)para.requires_grad=Falseif(lr==0)elseTrue参考：
让我安静会·2022-12-22 13:33

【Torch】解决tensor参数有梯度，weight不更新的若干思路

问题：在torch类里面用nn.Parameter声明了一个可学的Tensor参数，结果每次梯度回传之后，可以看到变量梯度，但是该参数的weight始终不变，一直保持着初始值。
lwgkzl·2022-12-22 13:03

nn.Parameter的作用

例如：self.weight=nn.Parameter(torch.randn(ndim,1))self.bias=nn.Parameter(torch.randn(1))
华天雪 L.W·2022-12-22 13:33

Pytorch中nn.Parameter（）参数的使用

在网上百度，发现了这个函数的使用nn.Parameter（），从而记录一下。1、含义解读：讲的很清楚，引用！Parameter：参数。
每天都想要出去玩鸭~·2022-12-22 13:02

PyTorch Tutorials 摘要(3) What is torch.nn really?

文章目录前言源码前言教程链接概述：看完之后大概能明白nn.Module/nn.Parameter/torch.optim/Dataset/DatasetLoader的作用。
清欢守护者·2022-12-19 00:29

『PyTorch』第十三弹_torch.nn.init参数初始化

初始化参数的方法nn.Module模块对于参数进行了内置的较为合理的初始化方式，当我们使用nn.Parameter时，初始化就很重要，而且我们也可以指定代替内置初始化的方式对nn.Module模块进行补充
weixin_33850890·2022-12-18 13:45

【Pytorch】模型中buffer的使用

这里额参数其实包括2种：一种是模型中各种module含的参数，即nn.Parameter，我们当然可以在网络中定义其他的nn.Parameter参数。另外一种是buffer。
mjiansun·2022-12-14 20:45

pytorch中optimizer为不同参数设置不同的学习率

__init__()self.w1=nn.Parameter(torch.randn(3,4))self.b1=nn.P
咕 嘟·2022-12-11 11:47

Pytorch系列入门5----神经网络核心torch.nn工具箱介绍

系列文章目录文章目录系列文章目录前言一、troch.nn的定位二、torch.nn几大模块1.nn.Module__init()__方法forward()方法nn.Parameter()方法2.nn.functional
CV_Today·2022-12-07 13:21

pytorch学习笔记03-nn.Module-卷积-池化-激活函数

Content：1.构建模型2.torch.nn(1)nn.Parameter(2)nn.Module(3)nn.functional(4)nn.init3.Containers(1)nn.Sequential
marvel2018·2022-12-07 12:18

【torch.nn.Parameter 】参数相关的介绍和使用

它与torch.Tensor的区别就是nn.Parameter会自动被认为是module的可训练参数，即加入到
zyw2002·2022-12-05 10:57

pytoch中class定义神经网络的参数保存与加载

__init__()self.layer=nn.Linear(1,1)self.layer.weight=nn.Parameter(torch.FloatTensor([[10]
m0_67635646·2022-12-04 15:04

RuntimeError: All input tensors must be on the same device. Received cuda:0 and cpu 问题解决方案

解决前self.fc2.weight=nn.Parameter(self.fc2.weight*self.zeros)解决后device=torch.device(‘cuda:0’)#假如我使用的GPU
我不是zzy1231A·2022-11-25 20:35

nn.Parameter和torch.nn.init系列函数给模型参数初始化

参考自：(12条消息)torch.nn.init常用函数总结_不牌不改的博客-CSDN博客_torch.nn.init.normal_
xx_xjm·2022-11-25 04:01
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他