PyTorch深度学习实战第27页

如何创建一个pytorch的训练数据加载器（train_loader)用于批量加载训练数据

Talkischeap,showmethecode!哈哈，先上几段常用的代码，以语义分割的DRIVE数据集加载为例：DRIVE数据集的目录结构如下，下载链接DRIVE,如果官网下不了，到Kaggle官网可以下到：1.定义DriveDataset类，每行代码都加了注释，其中collate_fn()看不懂没关系：importosfromPILimportImageimportnumpyasnpfrom

Trouville01·2024-01-15 07:20

Pytorch中的标准维度顺序

在PyTorch中，如果一个张量包括通道数（C）、宽度（W）、高度（H）和批量大小（N），那么它的标准维度顺序是[N,C,H,W]，即：第一个维度N是批量大小，表示一次处理的样本数。

实名吃香菜·2024-01-15 07:49

pytorch中的DataLoader

通常在训练时我们会将数据集分成若干小的、随机的批（batch），这个操作当然可以手动操作，但是pytorch里面为我们提供了API让我们方便地从dataset中获得batch，DataLoader就是来解决这个问题的

智慧医疗探索者·2024-01-15 07:18

pytorch一致数据增强—异用增强

前作[1]介绍了一种用pytorch模仿MONAI实现多幅图（如：image与label）同用randomseed保证一致变换的写法，核心是MultiCompose类和to_multi包装函数。

HackerTom·2024-01-15 07:17

PyTorch中的FX图

一.FX图介绍 FX图是PyTorch中的一个主要数据结构，用于在FX中间表示（IntermediateRepresentation，IR）中表示程序。

NLP工程化·2024-01-15 07:15

提取模型权重进行计算推理

pytorch获取全部权重参数、每一层权重参数自制深度学习推理框架-第七课-构建自己的计算图一、提取pytorch模型权重首先查看模型权重的各个层的大小分布情况：E:\Anaconda3\envs\pytorch1

dataloading·2024-01-15 07:43

PyTorch中的Eager模式

在PyTorch中，“EagerExecution”（即即时执行模式）是指一种动态图计算模式，其中每个操作都立即被执行，而不是被先放入计算图中。

NLP工程化·2024-01-15 06:16

大数据深度学习ResNet深度残差网络详解：网络结构解读与PyTorch实现教程

文章目录大数据深度学习ResNet深度残差网络详解：网络结构解读与PyTorch实现教程一、深度残差网络（DeepResidualNetworks）简介深度学习与网络深度的挑战残差学习的提出为什么ResNet

星川皆无恙·2024-01-15 06:14

YOLOV8目标识别与语义分割——使用OpenCV C++ 推理模型

简介深度学习在实际应用中包括训练和推理两个重要阶段，通常依赖于流行的深度学习框架，如Caffe、TensorFlow、PyTorch等。

知来者逆·2024-01-15 05:11

生成学习全景：从基础理论到GANs技术实战

本文全面探讨了生成学习的理论与实践，包括对生成学习与判别学习的比较、详细解析GANs、VAEs及自回归模型的工作原理与结构，并通过实战案例展示了GAN模型在PyTorch中的实现。

TechLead KrisChang·2024-01-15 05:04

pytorch 通用训练代码讲解(very good)

文章目录1.模型训练参数设置2.保证模型可复现性3.设置device4初始化模型权重及加载预训练权重4.1初始化模型权重4.2加载预训练权重4.3在线下载预训练权重5k-means聚类anchors6多卡同步bn及并行运行7权重指数平滑ModelEMA7.1EMA的原理及作用7.2EMA的实现7.2EMA的使用8optimizer设置

@BangBang·2024-01-15 04:54

【深度学习】Attention提速9倍！FlashAttention燃爆显存，Transformer上下文长度史诗级提升...

甚至，相较于PyTorch的标准注意力，其运行速度最高可达9倍。一年前，StanfordAILab博士TriDao发布了FlashAttent

风度78·2024-01-15 03:42

conda安装包

最小醉·2024-01-15 01:16

5.Pytorch模型单机多GPU训练原理与实现

文章目录Pytorch的单机多GPU训练1)多GPU训练介绍2)pytorch中使用单机多`GPU`训练`DistributedDataParallel`(DDP)相关变量及含义a)初始化b)数据准备c

恒友成·2024-01-15 00:07

【PyTorch简介】3.Loading and normalizing datasets 加载和规范化数据集

Loadingandnormalizingdatasets加载和规范化数据集文章目录Loadingandnormalizingdatasets加载和规范化数据集Datasets&DataLoaders数据集和数据加载器LoadingaDataset加载数据集IteratingandVisualizingtheDataset迭代和可视化数据集CreatingaCustomDatasetforyour

冰雪storm·2024-01-15 00:05

pytorch使用GRU等做时序预测的Dataloader如何构建

pytorch使用GRU等做时序预测的Dataloader如何构建一、本文所关注的内容二、时序数据与非时序数据的区别三、时序数据要不要设置`shuffle=True`四、`Dataloader`中的shuffle

无穷升高的卡农·2024-01-14 22:19

[学习笔记]刘知远团队大模型技术与交叉应用L2-Neural Network Basics

最后使用PyTorch演示一个NLP任务的一个完整训练的Pipeline。神经网络的基本组成单个神经元(人工)神经元接受n个输入，1个输出。由参数w、b以及激活函数f来构成。

N刻后告诉你·2024-01-14 21:47

书生·浦语第三章：基于 InternLM 和 LangChain 搭建你的知识库

一、搭建环境1.1基础环境配置在官方提供的教程中构建环境的命令如下#拷贝一个pytorch2.0.1的环境/root/share/install_conda_env_internlm_base.shInternLM

Jankin_Tian·2024-01-14 21:41

PyTorch项目源码学习（3）——Module类初步学习

torch.nn.ModuleModule类是用户使用torch来自定义网络模型的基础，Module的设计要求包括低耦合性，高模块化等等。一般来说，计算图上所有的子图都可以是Module的子类，包括卷积，激活函数，损失函数节点以及相邻节点组成的集合等等，注意这里的关键词是“节点”，Module族类在计算图中主要起到搭建结构的作用，而不涉及运算逻辑的具体实现。要注意的是，Module类对象的chil

_int_me·2024-01-14 20:10

pytorch和pycocotools的安装

记录一下自己安装pytorch和pycocotools一，Anaconda安装二，pytorch安装三，安装pycocotools一，Anaconda安装参考博客首先保证你有python3.6/3.7的环境

敏儿要努力·2024-01-14 17:54

pytorch与jittor计图的数据集读写比较

pytorch与jittor计图的数据集读写比较pytorchjittorpytorchpytorch分为三级结构：分别是Dataset，Dataloader，train/test_loader.其中第一级别

天天写点代码·2024-01-14 16:10

onnx模型：查看、转换与使用

2.可视化可视化网页:https://netron.app/结果：3.pytorch框架下的转换pytorch框架下，使用torch.onnx.export（）函数进行转换。

LENG_Lingliang·2024-01-14 16:36

深度学习框架PyTorch入门与实践：第一章 PyTorch简介

张天祥学号：21181214261学院：广州研究院转自https://blog.csdn.net/u011436316/article/details/100813287【嵌牛导读】本文重点介绍了什么是pytorch

这就是神奇呀·2024-01-14 14:44

[代码复现]BrainGNN: Interpretable Brain Graph Neural Network for fMRI Analysis

2.2.代码运行3.为啥跑这个代码1.论文资料（1）论文原文：BrainGNN：用于fMRI分析的可解释脑图神经网络-ScienceDirect（2）论文代码：GitHub-xxlya/BrainGNN_Pytorch

夏莉莉iy·2024-01-14 13:55

基于pytorch的支持向量机

本文主要实现了一个以pytorch编写的支持向量机。

大雾的小屋·2024-01-14 12:54

基于pytorch的循环神经网络情感分析系统

任务目标基于给定数据集，进行数据预处理，搭建以LSTM为基本单元的模型，以Adam优化器对模型进行训练，使用训练后的模型进行预测并计算预测分类的准确率。数据简介IMDB数据集是一个对电影评论标注为正向评论与负向评论的数据集，共有25000条文本数据作为训练集，25000条文本数据作为测试集。已知数据集中数据格式如下1、读取数据2、数据预处理首先，对于创建词汇表，记录每一个单词出现的频率，并由此将特

大雾的小屋·2024-01-14 12:54

PyTorch常用操作

0.先决条件安装驱动、CUDA、cuDNN，请参考：https://blog.csdn.net/liugan528/article/details/128974129importtorchprint(torch.__version__)#查看gpu是否可用print(torch.cuda.is_available())#查看设备gpu个数print(torch.cuda.device_count(

GarryLau·2024-01-14 12:53

基于pytorch的图书评论分析系统

任务目的基于给定数据集，采用三层bp神经网络方法，编写程序并构建分类模型，通过给定特征实现预测的书籍评分的模型。数据简介在各项指标中，我认为书籍的评分和出版社、评论数量还有作者相关，和其他属性的关系并大。所以，对于出版社，我选取了出版社的平均评分和出版社在这个表格中出现的频率作为出版社的评价指标。对于作者选择了平均评分作为指标。此外，选择了前40000条数据作为训练集，考虑到运算的时间成本，后续只

大雾的小屋·2024-01-14 12:22

一条命令解决安装torch_scatter torch_sparse torch_cluster torch_spline

pipinstallpyg_libtorch_scattertorch_sparsetorch_clustertorch_spline_conv-fhttps://data.pyg.org/whl/torch-2.0.0+cu118.html该命令安装了pyg_lib包以及一些与PyTorch

_Lyang_·2024-01-14 11:35

#工具# 最简单的anaconda安装教程！

安装成功开始菜单可以打开AnacondaPrompt，且不报错创建anaconda虚拟环境可以手动创建安装第三方库-PyTorch

向日葵花籽儿·2024-01-14 11:57

cuda版本对应的 pytorch和torchvision

cuda版本对应的pytorch和torchvision官网链接：https://pytorch.org/get-started/previous-versions/

weLin2230·2024-01-14 11:44

cuda12.0 安装 pytorch

流程如下首先下载miniconda，我下的是python3.8的创建自己的自定义环境检查自己的cuda版本，我的是cuda:12.0然后再pytorch上找到对应cuda版本的进行下载，pipinstall

NoahBBQ·2024-01-14 11:40

在 Nvidia Docker 容器编译构建显存优化加速组件 xFormers

本篇文章，聊聊如何在新版本PyTorch和CUDA容器环境中完成xFormers的编译构建。让你的模型应用能够跑的更快。

soulteary·2024-01-14 10:20

pytorch中torchvision数据集的使用——CIFAR-10dataset数据集

一、数据集的基本使用介绍1.数据集的基本介绍CIFAR-10dataset数据集在这个数据集中包括了60000张32*32的彩色图片这个图片会有10种类别['airplane','automobile','bird','cat','deer','dog','frog','horse','ship','truck']每个类别有6000张图像其中有50000张图像训练图片然后10000张是测试图片这个

m0_54291751·2024-01-14 10:33

【AI实战】分布式训练：使用DistributedDataParallel实现单机多GPU并行训练resnet50模型

DistributedDataParallel依赖包加载预训练模型使用DistributedDataParallel自定义数据加载分布式训练保存模型完整代码DistributedDataParallel一种基于pytorch

szZack·2024-01-14 09:07

Pytorch单机多卡并行应用经验分享

目录一、设置进程组二、封装模型【Tips】三、分割数据【Tips】四、训练模型【Tips】五、执行命令行【Tips】参考资料记录分享一下最近使用单机多卡执行并行运算时总结的一些经验，以下内容均假设实验所使用的设备上有GPU，且已准备好了单卡运算时所需的数据及模型代码，本文仅介绍使用多卡（即多进程）并行运算时要在代码及命令行中需要额外设置的内容。一、设置进程组首先，我们要在指定存储设备device前

略胜亿筹·2024-01-14 09:34

pytorch多GPU并行DistributedDataParallel应用和踩坑记录（本节-单机多卡实现）持续补充

参考链接：pytorch多GPU并行训练DistributedDataParallel应用和踩坑记录_train_sampler=distributedsampler(train_dataset,-CSDN

Miss_Bueno·2024-01-14 09:33

安装Pytorch如何选择CUDA的版本，看这一篇就够了

CUDA是一个并行计算平台和编程模型，能够使得使用GPU进行通用计算变得简单和优雅。Nvidia官方提供的CUDA库是一个完整的工具安装包，其中提供了Nvidia驱动程序、开发CUDA程序相关的开发工具包等可供安装的选项。NvidiaCUDANvidia安装的cuda是一个完整的cuda库，包含cudatoolkit和相应的驱动。主要包含三部分：CUDAtoolkit、CUDAdriver和NVI

AI小白龙*·2024-01-14 08:41

动手学深度学习

本期Datawhale组队学习呢，是学习李沐老师的动手学深度学习pytorch版本，希望自己能坚持学下去有所收获。

伟伟好帅·2024-01-14 07:01

李沐《动手学深度学习》预备知识张量操作与数据处理

张量的运算（三）张量的广播机制（四）索引和切片（五）转换为其他Python对象二、数据预处理（一）数据集读取（二）缺失值处理（三）转换为张量格式教材：李沐《动手学深度学习》一、数据操作张量：n维数组，PyTorch

丁希希哇·2024-01-14 07:29

Task 2

@pytorch深度学习预备知识数据操作1、首先在学长的帮助下，我学会了如何配置环境，包括下载d21库和torch库。2、然后是学习了一些numpy库的基础知识，比如如何创建张量、如何访问它的大小等。

爱敲代码的农农·2024-01-14 07:27

深度学习（动手学深度学习pytorch）1

目录预备知识数据操作数据预处理线性代数微积分预备知识数据操作1.行对应样本，列对应属性2.张量（n维数组），Numpy包中的ndarray。用torch的arange，下面是生成行向量，从0开始的前十二个整数。shape访问每个轴长度（形状），size访问元素个数，reshape改变形状【可以写-1让它自动计算，如x.reshape(-1,4)】importtorchx=torch.arange(

智能打工人·2024-01-14 07:26

《动手学深度学习》组队学习——Task1-2打卡

1.在Navigator界面，尝试创建d2l环境，并在base和d2l环境下安装了pytorch（咱也不知道这步是不是多余）。

Jessy佳音·2024-01-14 07:55

李沐《动手学深度学习》预备知识线性代数与微积分

张量运算的基本性质（三）降维（四）点积（五）矩阵向量积、矩阵乘法（六）范数二、微积分（导数、偏导数、梯度、链式法则）三、自动微分（一）非标量变量的反向传播（二）分离计算（三）Python控制流的梯度计算（四）pytorch

丁希希哇·2024-01-14 07:52

GPU云服务器使用教程、运行YOLOV5项目并连接到本地VSCode（Pycharm）

之前已经教过大家如何在自己的电脑中配置Pytorch深度学习环境，但是有些小伙伴没有英伟达的GPU，所以用CPU的话训练模型会比较慢，所以这次出一期使用GPU云服务器的教程。

爱敲代码的panda·2024-01-14 07:29

报错NVIDIA GeForce RTX 4060 Laptop GPU with CUDA capability sm_89 is not compatible with ...

完整报错serWarning:NVIDIAGeForceRTX4060LaptopGPUwithCUDAcapabilitysm_89isnotcompatiblewiththecurrentPyTorchinstallation.ThecurrentPyTorchinstallsupportsCUDAcapabilitiessm

坠金·2024-01-14 06:49

Feature Fusion for Online Mutual KD

FeatureFusionforOnlineMutualKnowledgeDistillationofficialimplementation：https://github.com/Jangho-Kim/FFL-pytorch

00000cj·2024-01-14 05:38

当conda list列表中同时存在pytorch和torch

查看torch能否用GPU（torch.cuda.is_available()）只与torch有关。

wen_ding·2024-01-14 05:34

给我一台新的服务器，我会怎么安排 CUDA

深度学习环境搭建过程中，初期阶段，相信大家都会遇到，动不动TensorFlow或者Pytorch库与Cuda、或者Cudnn版本不匹配的问题；因此很多时候，在一台服务器中安装多个Cuda逐步成为了各位搬砖大佬们的必然选择本文为大家揭秘一台全新服务器

墨理学AI·2024-01-14 04:42

深度学习pytorch环境搭建

一、Anaconda安装与使用1、安装参考：https://www.jianshu.com/p/62f155eb6ac5https://blog.csdn.net/weixin_37766087/article/details/1007421982、conda使用：打开anacondaprompt查看conda版本：conda--version创建新环境：condacreate--nameenv_

青衫无尘·2024-01-14 03:46

推荐频道

PyTorch深度学习实战