torch杂记第45页

YOLOV5改进-Optimal Transport Assignment

YOLOV5改进-OptimalTransportAssignment1下载yolov5-7.02复制以下代码进loss.py底部importtorch.nn.functionalasFfromutils.metricsimportbox_ioufromutils.torch_utilsimportde_parallelfromutils.generalimportxywh2xyxyclassCo

啃萝卜包·2024-01-10 11:59

yolov5-OTA 注意力 OTA--Optimal Transport Assignment

shapemismatch:valuetensorofshape【2,1】cannotbebroadcasttoindexingresultofshape【2】出现1.1的错误，也可以直接将报错的iou.detach()改成torch.squeeze

骑猴的码农·2024-01-10 11:58

（超详细）YOLOV5改进-Optimal Transport Assignment

importtorch.nn.functiona

我要变胖哇·2024-01-10 11:22

大模型训练算力利用率达60%，蚂蚁开源分布式训练扩展库ATorch

近日，蚂蚁集团宣布开源大模型分布式训练加速扩展库ATorch。ATorch可针对不同模型和硬件资源，实现深度学习自动资源动态优化和分布式训练稳定性提升，帮助提升深度学习的智能性。

光锥智能·2024-01-10 11:56

Pytorch：动量与学习率

（1）动量：momentum，也可以说是惯性,经过变为也就是说，权值w现在不只想着的方向衰减，也向着

「已注销」·2024-01-10 10:09

Failed to create CUDAExecutionProvider 使用onnxruntime-gpu未成功调用gpu

，遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。

大雾的小屋·2024-01-10 10:38

PyTorch中不同学习率设置

为什么要对不同卷积层设置不同的学习率？如果某些网络层已经预训练过，那么联合训练时只希望微调它，则为其设置小一些的学习率，如果希望固定其参数，则学习率设置为0（也可以在优化器中忽略它）为不同卷积层设置不同的学习率optimizer=Adam([{'params':extractor.parameters()},{'params':model.parameters(),'lr':args.base_l

YHFHing·2024-01-10 10:07

pytorch -不同网络层设置不同学习率

pytorch-不同网络层设置不同学习率当使用预训练模型时，如果对主干网络以外的网络分支进行了单独的修改并进行初始化，而主干网络层的参数仍采用预训练模型的参数进行初始化，则希望在训练过程中，主干网络只进行微调

小程是个什么鬼·2024-01-10 10:36

pytorch优化器与学习率设置详解

那么在Pytorch中，如在训练过程中动态地调整学习率呢？学习

小白学视觉·2024-01-10 10:36

torch.nn.CrossEntropyLoss()

torch.nn.CrossEntropyLoss(weight=None,size_average=None,ignore_index=-100,reduce=None,reduction='mean

一壶浊酒..·2024-01-10 10:36

pytorch调整模型学习率

目录1.定义衰减函数2.手动修改optinmizer中的lr3.lr_scheduler.LambdaLR4.lr_scheduler.StepLR5.lr_scheduler.ExponentialLR6.lr_scheduler.CosineAnnealingLRReferences:1.定义衰减函数[Sourcecode]定义learningrate衰减方式：LRepoch=LR0×0.8e

Pr4da·2024-01-10 10:36

pytorch分层学习率设置

optimizer=torch.optim.SGD(model.parameters(),lr=learning_rate,momentum=0.9,nesterov=True,weight_decay

data-master·2024-01-10 10:35

深度学习与Pytorch实战（二）预测房价--线性回归

PyTorch实例：线性回归我们将实现一个线性回归模型，并用梯度下降算法求解该模型，从而给出预测曲线。

volcanical·2024-01-10 10:33

分层学习率设置和学习率衰减（pytorch）

分层学习率设置和学习率衰减（pytorch）1分层学习率设置在使用bert或者其它预训练模型进行微调，下接其它具体任务相关的模块时，会面临这样一个问题，bert由于已经进行了预训练，参数已经达到了一个较好的水平

风居住的街道~·2024-01-10 10:02

PyTorch实战：波士顿房价预测案例

我们将使用PyTorch框架，从头到尾详细解释这个案例，旨在帮助初学者理解深度学习模型的构建和训练过程。

洞深视界·2024-01-10 10:02

Pytorch：找到对应的层，并在不同层设置不同的学习率

fizzer_·2024-01-10 10:01

基于pytorch的房价预测

简介本文主要介绍的基于pytorch和房价预测深度学习网络构建。该系统使用的是网络上的开源数据：实现了对房价数据的处理，包括词频统计、情感分析等，并将分析结果以图表形式进行展示。

大雾的小屋·2024-01-10 10:31

Pytorch张量通过索引获取指定数据

importtorchx=torch.tensor([1,2,3])xOut[3]:tensor([1,2,3])x[0]#索引操作：取单个数字Out[4]:tensor(1)x[0:1]#切片操作：可以保持维度不变

shengchao0920·2024-01-10 10:31

【huggingface】【pytorch-image-models】timm框架中使用albumentations库数据增广

文章目录一、前言二、实操2.1声明库2.2定义你的数据增广算子2.3加入其中一、前言问题是这样的，在使用timm框架训练时，发现数据增广不够，想用Albumentations库的数据增广，怎么把后者嵌入到前者的训练中。其实也是比较简单的，这里笔者也是做个笔记以往忘记，需要的童鞋自取。二、实操我们知道训练才需要数据增广，原始的数据增广是在：其实也就是用XXX_tfl来收集数据增广的算子，那么要加入A

Thomas_Cai·2024-01-10 10:30

【AI】Pytorch 系列：学习率设置

a.有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和余弦退火CosineAnnealing。b.自适应调整：自适应调整学习率ReduceLROnPlateau。c.自定义调整：自定义调整学习率LambdaLR。#得到当前学习率lr=next(iter(optimizer.param_groups))['lr']#multiplelea

路途…·2024-01-10 10:30

安装requirements文件命令（清华源）

pipinstall-rrequirements.txt-ihttps://pypi.tuna.tsinghua.edu.cn/simple/torch网址https://pytorch.org/get-started

晚安Alice·2024-01-10 09:03

[碎语杂记]给孩子的一些建议07——热爱学习，学会学习

DSC04436.jpg说学习是人生最重要的事情，肯定不合适；但学习对一个人来说，确实很重要。劳动创造了人，学习发展了人，劳动过程也是学习的过程。人与人能力品质的差距，很大程度上是学习的差距。热爱学习是一个人最优秀的品质之一。发现学习的乐趣，培养学习的兴趣，享受学习的快乐。学习能力是一个人最重要的能力，没有之一。培养良好的学习习惯，研究和改进学习方法，拓展拓宽学习渠道，建立健全科学的思维模式，构建

简叔老魏·2024-01-10 08:10

pytorch-gpu版本安装

前言PyTorch是一款广泛使用的python深度学习框架，它能够帮助研究者们快速构建和训练复杂的神经网络，在人工智能领域无疑是【宠儿】的存在。

EelBarb·2024-01-10 08:31

torchvision\io\image.py:13: UserWarning: Failed to load image Python extension: ‘[WinError 127] ...

原因：torch和torchvision的版本不对应解决方案：根据github上的对应关系，选择适应版本即可https://github.com/pytorch/vision

EelBarb·2024-01-10 08:31

杂记（2020-2-3）

今天天气很好，有种阳光明媚的感觉，疫情究竟什么时候过去，这估计是很多人都在关心的问题。早晨醒来看到老家新增了一例确诊病例，我很担心，县城很小，人口密集，期望一切都在掌控之中，希望一切都可以慢慢好起来。这几天一直在想03年非典的时候，那年我上初中，中间发生的事情，我的心情这些统统都想不起来了，我从小学四年级开始就有写日记的习惯，很想找一找当时自己的日记，看看那个时候我的心情。假期的自己是完全颓废的自

好多年了·2024-01-10 07:35

kaggle比赛：Classify Leaves图片树叶分类（使用resnet50预训练模型进行）

#导入一些用到的包importcollectionsimportmathimportosimportshutilimportpandasaspdimporttorchimporttorchvisionfromtorchimportnnfromd2limporttorchasd2

kay_545·2024-01-10 07:01

模型参数访问

某一层的参数net=nn.Sequential(nn.Linear(4,8),nn.ReLU(),nn.Linear(8,1))X=torch.rand(size=(2,4))print(n

Kevin_D98·2024-01-10 07:59

Softmax回归

Softmax回归的从零开始实现2.softmax回归的简洁实现对重新审视softmax的实现的思考：对交叉熵损失函数的思考：小批量随机梯度下降算法的理解：1.Softmax回归的从零开始实现importtorchfromIPythonimportdisplayfromd2limporttorchasd2l

sendmeasong_ying·2024-01-10 06:54

李沐之神经网络基础

在前向传播函数中执行代码2.参数管理2.1参数访问2.2参数初始化3.自定义层3.1不带参数的层3.2带参数的层4.读写文件4.1加载和保存张量4.2加载和保存模型参数1.模型构造1.1层和块importtorchfromtorchimportnnfromtorch.nnimportfunctionalasF

sendmeasong_ying·2024-01-10 06:54

tensor .t() vs .T

pytorch中.t()与.T都表示转置，那么区别是什么呢？查阅官方文档，发现.t()是.transpose函数的简写版本，但两者都只能对2维以下的tensor进行转置。

lollows·2024-01-10 06:53

cannot import name ‘_compare_version‘ from ‘torchmetrics.utilities.imports‘

File“/scratch/AzureNfsServer_INPUT1/vc_data/users/willing/home/mQG/src/1_train.py”,line14,inimportpytorch_lightningasplFile

Wwwilling·2024-01-10 06:07

CUDA out of memory.

torch.cuda.OutOfMemoryError:CUDAoutofmemory.Triedtoallocate20.00MiB(GPU0;31.75GiBtotalcapacity;24.79GiBalreadyallocated

Wwwilling·2024-01-10 06:07

libtorch 中Scalar 歧义性

是使用libtorch构建c++推理程序中，因为使用opencv的Scalar类型，导致和libtorch命名空间的Scalar冲突：image.pngimage.png相关版本：libtorch:1.5.1cuda

熙熙江湖·2024-01-10 06:36

Anaconda下查看 PyTorch 和 torchvision 版本（windows环境）

进入anaconda，输入python，回车(base)C:\Users\Administrator>pythonPython3.7.0(default,Jun282018,08:04:48)[MSCv.191264bit(AMD64)]::Anaconda,Inc.onwin32Type"help","copyright","credits"or"license"formoreinformati

meteor,across T sky·2024-01-10 04:31

大创项目推荐深度学习实现语义分割算法系统 - 机器视觉

概念介绍2.1什么是图像语义分割3条件随机场的深度学习模型3\.1多尺度特征融合4语义分割开发过程4.1建立4.2下载CamVid数据集4.3加载CamVid图像4.4加载CamVid像素标签图像5PyTorch

laafeer·2024-01-10 04:59

TORCH02-04:Torch两种实现方式与框架结构说明

Torch是一个比较简单的框架，在自动求导与静态图方面比较有特色，但整个框架在软件设计层面是简捷方便的，本主题就是用两种方式实现深度网络，强化对框架封装的理解；本主题主要内容包含： 1.全链接深度网络实现

杨强AT南京·2024-01-10 04:13

全网最低价：轴承故障——创新模型全家桶

轴承数据解读与分类处理Python轴承故障诊断(一)短时傅里叶变换STFTPython轴承故障诊断(二)连续小波变换CWT_pyts小波变换故障-CSDN博客Python轴承故障诊断(三)经验模态分解EMD_轴承诊断pytorch-CSDN

建模先锋·2024-01-10 03:23

大甩卖——代码全家桶！！！

轴承数据解读与分类处理Python轴承故障诊断(一)短时傅里叶变换STFTPython轴承故障诊断(二)连续小波变换CWT_pyts小波变换故障-CSDN博客Python轴承故障诊断(三)经验模态分解EMD_轴承诊断pytorch-CSDN

建模先锋·2024-01-10 03:22

多特征变量序列预测(一)——CNN-LSTM风速预测模型

目录往期精彩内容：前言1多特征变量数据集制作与预处理1.1导入数据1.2数据集制作与预处理2基于Pytorch的CNN-LSTM预测模型2.1定义CNN-LSTM预测模型2.2设置参数，训练模型3模型评估与可视化

建模先锋·2024-01-10 03:52

晨曦杂记三

2月26日，星期二，小雨转阴今天下午，叶老师让我们去图书室保洁，我拿了一把扫帚和大家去了图书室。那些没有拿扫帚、拖把，抹布、簸箕的同学，老师让他们站到外面。图书室就像一个大迷宫，我一边参观图书室，一边寻找垃圾。忽然，我发现一个“庞然大物”，它是一个箱子，里面有很多字典。有的像被火烧了，有的被老鼠咬坏了，有的上面有灰，有的完好无损，有的……我们把箱子从“小巷子”移动到大厅里。×××同学他们趁机“拿”

sunshine_a晨曦·2024-01-10 03:54

详解a-PyTorch-Tutorial-to-Image-Captioning-master代码中的model模型，此代码是对show attend and tell论文的复现，基于Pytorch

代码的下载地址：https://github.com/sgrvinod/a-PyTorch-Tutorial-to-Image-Captioning代码的调试请参考：（强！）

冰岛小贤·2024-01-10 03:44

nerfstudio复现___踩坑坑坑坑坑指南

nerfstudio官方网站：Dataconventions-nerfstudio环境搭建nerfstudio需要python>=3.8pytorchtiny-cuda-nn如果想要训练自己的数据集，那么还需要

但行此事1222·2024-01-10 02:23

强化学习Double DQN方法玩雅达利Breakout游戏完整实现代码与评估pytorch

3.10.12Anaconda：23.7.4系统：Ubuntu22.04.3LTS(GNU/Linux5.15.0-91-genericx86_64)IDE：VSCode1.85.1gym：0.26.2Pytorch

一条独龙·2024-01-10 01:22

模型创建与nn.Module

一、网络模型创建步骤二、nn.Module下面描述了在PyTorch中常见的一些属性和功能，用于存储和管理神经网络模型的参数、模块、缓冲属性和钩子函数。

-恰饭第一名-·2024-01-10 00:04

模型容器与AlexNet构建

是nn.module的容器，用于按顺序包装一组网络层•顺序性：各网络层之间严格按照顺序构建•自带forward()：自带的forward里，通过for循环依次执行前向传播运算Sequential是PyTorch

-恰饭第一名-·2024-01-10 00:01

23点

所以尽是些零碎杂记。这样子的日更其实坚不坚持或许没什么区别吧？这个十月太压抑了。最让人窒息的是这才只是个开始。每每这个时候，就会反复念叨自己创的那句至理名言：无所畏惧向前。有所畏惧时一点点向前。与你

yusu_moon·2024-01-09 23:14

【随笔-8】pytorch中visdom的基本调用

一、在自己电脑上用visdom监视数据安装visdompipinstallvisdom在代码中使用visdomimportvisdomvis=visdom.Visdom(env='model_1')这时候运行代码，代码跑出来是会报错的。因为还需要先在命令行中开启visdom服务。在命令行中输入python3-mvisdom.server之后命令行中会弹出提示Youcannavigatetohttp

小海绵要自律吖·2024-01-09 23:36

在anaconda中安装pytorch的GPU版本

本文前提：1.你已经下载好了anaconda,最好是新建一个虚拟环境来安装pytorch的GPU版本，并且设置了国内镜像源；2.了解自己电脑对应的cuda版本，可通过nvidia-smi，并下载好了cuda

月落霜满天·2024-01-09 23:20

Hugging face库

Transformers库支持多种深度学习框架，如PyTorch，TensorFlow，JAX和Flax，并且可以轻松地在不同的设备上运行，如CPU，GPU和TPU。

carmen_山海·2024-01-09 21:12

[动手学深度学习-PyTorch版]-3.13深度学习基础-丢弃法

3.13丢弃法除了前一节介绍的权重衰减以外，深度学习模型常常使用丢弃法（dropout）[1]来应对过拟合问题。丢弃法有一些不同的变体。本节中提到的丢弃法特指倒置丢弃法（inverteddropout）。3.13.1方法image.pngimage.pngimage.png图3.5隐藏层使用了丢弃法的多层感知机3.13.2从零开始实现根据丢弃法的定义，我们可以很容易地实现它。下面的dropout函

蒸饺与白茶·2024-01-09 21:56

推荐频道

torch杂记