Pytorch入门笔记第19页

VIT探索笔记（AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE）

VIT探索笔记CodePaper[vit-pytorch](https://github.com/lucidrains/vit-pytorch/tree/main)参看学习bilibili视频11.1VisionTransformer

FMsunyh·2024-01-26 19:34

PyTorch项目笔记（三）使用ImageNet预训练ResNet18模型训练图像分类模型

目录1加载ImageNet预训练模型2准备数据集2.1加载数据集2.2使用matplotlib可视化数据集3模型训练函数4使用torchvision微调模型5观察模型预测结果6固定模型参数1加载ImageNet预训练模型在torchvision.model包中定义了许多模型用于完成图像方面的深度学习任务，包括：图像分类语义分割（semanticsegmentation）目标检测（objectdet

Xyzz1223·2024-01-26 19:40

使用MMYOLO中yolov8训练自己VOC数据集实战

概述MMYOLO是商汤公司基于PyTorch框架和YOLO系列算法开源的工具箱-目前支持的任务目标检测旋转框目标检测-支持的算法YOLOv5YOLOv6YOLOv7YOLOv8YOLOXRTMDetRTMDet-Rotated

dream_home8407·2024-01-26 18:51

Pytorch分布式训练：DDP

pytorch是支持单机多卡甚至是多机多卡训练的，目前大部分的模型朝着6G甚至好几十G上涨，单凭一张显卡有点难以招架了。

Silver__Wolf·2024-01-26 18:04

【pytorch】pytorch学习笔记（续2）

求导：pytorch实现自动求导：第一种方法：torch.autograd.grad()设置w需要求导有两种方法：（1）在创建w之后，用来设置w需要求导。（2）在创建w的时候，用w=torch.te

小白冲鸭·2024-01-26 18:04

【pytorch】pytorch学习笔记（续1）

p22：1.加减乘除：（1）add(a,b)：等同于a+b。（2）sub(a,b)：等同于a-b。（3）mul(a,b)：等同于a*b。（4）div(a,b)：等同于a/b。a//b表示整除。2.tensor的矩阵式相乘：matmul注意区分：（1）*：表示相同位置的元素相乘；（2）.matmul：表示矩阵相乘。对于（2）矩阵的相乘，有三种方式：(1)torch.mm:只适用于二维的tensor，

小白冲鸭·2024-01-26 18:04

【pytorch】pytorch学习笔记

p8：1.pytorch不是一个完备的语言库，而是一个对于数据的gpu加速库，所以其没有对string的内键支持，即pytorch的基本类型中不包含string。

小白冲鸭·2024-01-26 18:34

《动手学深度学习(PyTorch版)》笔记3.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.3ConciseImplementationsofLinearRegressionimportnumpyasnpimpor

南七澄江·2024-01-26 18:34

【pytorch】pytorch学习笔记（续3）

p41：1.LeakReLU,SELU,softplus2.GPU加速：.to方法p42：不太懂p43：1.visdom，tensorbroadXp44：p45：1.如何检测过拟合？在train上表现很好，而在test上表现不好。test的目的（没有valset的时候）：防止过拟合，选取最优参数。相当于是验证集。一般选取testaccuracy最高的那点停止训练，作为最优参数。p46：1.trai

小白冲鸭·2024-01-26 18:03

基于LSTM深度学习模型进行温度的单步预测(使用PyTorch构建模型)

一、引言我们使用PyTorch构建了一个LSTM模型来进行单步温度预测。我们首先爬取成都市近十年的温度数据并进行预处理，然后定义了LSTM模型、损失函数和优化器。

孝钦显皇后给过版权费了·2024-01-26 17:00

TensorRT-LLM Docker镜像制作

在镜像内安装trt-llm在trt-llm的docker中默认的基础镜像是nvcr.io/nvidia/pytorch:23.08-py3。因此，尝试在该基础镜像中安装trt-llm。

美洲大蠊很顽强·2024-01-26 16:22

一文带你搞懂PyTorch中所有模型查看的函数model.modules()系列

model一般继承nn.Model他的实例一般具有几个有序字典，_modules，_parameters，_buffers，表示当前model的子模块，自己注册的parameters和buffers注意，_modules字典keys对应子模块名字，value对应子模块的实例，所以可以迭代的调用子模块的子模块，比如下面两个函数model._modules["blocks"]._modules["0"

白菜c·2024-01-26 14:16

Difference Between [Checkpoints ] and [state_dict]

在PyTorch中，checkpoints和状态字典（state_dict）都是用于保存和加载模型参数的机制，但它们有略微不同的目的。

挪威的深林·2024-01-26 14:13

【Pytorch 第二讲】如何遍历或者查看Model权重/参数/tesnsor_size/dict_names

for(name,param),(key,value)inzip(network.named_parameters(),network.state_dict().items()):print(f"{name}Tensorsize:{param.size()}{key}Tensorsize:{value.size()}")print("\nParameterdetails:")State_dictk

挪威的深林·2024-01-26 14:06

深度学习-Pytorch如何构建和训练模型

深度学习-Pytorch如何构建和训练模型用pytorch如何构建模型，如何训练模型，如何测试模型？

Alex_StarSky·2024-01-26 12:38

深度学习-Pytorch如何保存和加载模型

深度学习-Pytorch如何保存和加载模型用pytorch构建模型，并训练模型，得到一个优化的模型，那么如何保存模型？然后如何又加载模型呢？

Alex_StarSky·2024-01-26 11:07

Pytorch与TensorFlow如何选择

直接以Pytorch为切入点，它整体来讲API较为清晰，文档较为清晰，比TensorFlow更接近于Python，调试也比较好调试，尤其是当你引用API的时候，Pytorch的API是一个框架下来的，他不会有很多混杂的地方

我爱派生·2024-01-26 11:42

yolov5训练自己的数据

数据标注4.数据整理4.1数据集切分4.2修改数据文件4.3修改模型文件5.训练模型5.1训练5.2验证5.3测试6.训练结果分析1.环境搭建安装anaconda、python、cuda、cudnn、pytorch

wyw0000·2024-01-26 11:42

【Pytorch 第一讲】如何加载预训练模型

一.封装Pytorch的Model加载pre-trianedModelimporttorchimporttorchvision.modelsasmodelsfromtorchvisionimporttransforms

挪威的深林·2024-01-26 11:41

深入浅出 diffusion（2）：pytorch 实现 diffusion 加噪过程

我在上篇博客深入浅出diffusion（1）：白话diffusion原理（无公式）中介绍了diffusion的一些基本原理，其中谈到了diffusion的加噪过程，本文用pytorch实现下到底是怎么加噪的

木水_·2024-01-26 11:40

pytorch与tensorflow如何选择？

目录1.动态图和静态图1.1tensorflow是静态图1.2pytorch动态图2.易用性3.编程语言4.性能和扩展性5.社区支持和生态系统1.动态图和静态图1.1tensorflow是静态图如上图：

wyw0000·2024-01-26 11:06

《动手学深度学习(PyTorch版)》笔记3.6

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.6ImplementationsofSoftmaxRegressionfromScratchimporttorchimpo

南七澄江·2024-01-26 09:52

《动手学深度学习(PyTorch版)》笔记3.5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.5ImageClassificationDatasetimporttorchimporttorchvisionimport

南七澄江·2024-01-26 09:51

《动手学深度学习(PyTorch版)》笔记3.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.2ImplementationsofLinearRegressionfromScratchimportnumpyasnpi

南七澄江·2024-01-26 09:21

《动手学深度学习(PyTorch版)》笔记3.7

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.7ConciseImplementationsofSoftmaxRegression从计算角度来看，指数可能会造成数值稳定

南七澄江·2024-01-26 09:21

【深度学习】动手学深度学习PyTorch版笔记

1前言看完前言！刚学深度学习那会看的是李沐老师的视频，同时做了些笔记，基本都是自己主观性比较强的笔记，而且也没看完，看了前面十几集后基本就是直接上实战，然后跳着看了。建议学习深度学习的同学直接去看视频跟李沐学AI。另外还推荐李宏毅老师的深度学习视频，不过他的视频我只看过部分，当时是结合李沐老师的视频看的，感觉很不错。看李沐老师的视频可能需要一些基础，而且老师讲的有些地方的确不太好理解（我是这样），

EucliwoodXT·2024-01-26 09:16

《动手学深度学习(PyTorch版)》笔记3.4

Chapter3LinearNeuralNetworks3.4SoftmaxRegression3.4.1ClassificationProblems一般的分类问题并不与类别之间的自然顺序有关，统计学家发明了一种表示分类数据的简单方法：独热编码（one-hotencoding）。独热编码是一个向量，它的分量和类别一样多。类别对应的分量设置为1，其他所有分量设置为0。在我们的例子中，标签yyy将是一

南七澄江·2024-01-26 09:42

PyTorch 中的nn.Conv2d 类

nn.Conv2d是PyTorch中的一个类，代表二维卷积层（2DConvolutionLayer）。这个类广泛用于构建卷积神经网络（CNN），特别是在处理图像数据时。

风筝超冷·2024-01-26 09:08

PyTorch中self.layers的作用

它是一个nn.ModuleList对象，这是PyTorch中用于存储nn.Module子模块的特殊列表。为什么使用nn.ModuleList？

风筝超冷·2024-01-26 09:07

【DeepLearning-5】基于Transformer架构的自定义神经网络类

类定义classUserDefined(nn.Module):UserDefined是一个自定义的神经网络类，继承自PyTorch的nn.Module基类。

风筝超冷·2024-01-26 09:02

linux conda 配置 stable video diffusion

github.com/Stability-AI/generative-models.git2创建conda环境condacreate-nsvdpython=3.10condaactivatesvd3安装pytorchgpucuda

lanlinbuaa·2024-01-26 07:33

pytorch 测试模型时取不同的batchsize会由不同的正确率

问题：pytorch测试模型时取不同的batchsize会由不同的正确率之前：pytorch测试模型时只用了withtorch.no_grad()，如下图withtorch.no_grad():#下面是没有梯度的计算

lanlinbuaa·2024-01-26 07:02

PyTorch-Transformers初识

文章出处:https://baijiahao.baidu.com/s?id=1640539349483912777&wfr=spider&for=pcTransformers理解:https://www.analyticsvidhya.com/blog/2019/06/understanding-transformers-nlp-state-of-the-art-models/?utm_sourc

谷德白麻酱·2024-01-26 07:51

【模型部署】入门教程（六）：实现 PyTorch-ONNX 精度对齐工具

模型部署入门教程（六）：实现PyTorch-ONNX精度对齐工具-知乎(zhihu.com)目录设计思路代码实现Debug算子Debugger类生成调试节点提取调试模型运行调试模型输出调试信息使用方法总结系列传送门久等啦

卖报的大地主·2024-01-26 07:41

AI学习(3): PyTorch-初识张量

1.介绍PyTorch中的张量（tensor）是其核心数据结构，表示任意维度的数组。张量可以用于存储和处理数据，是PyTorch中的基本构建模块。

猿码记·2024-01-26 07:31

TensorFlow 深度学习开发环境搭建全教程

PyTorch深度学习开发环境搭建全教程TensorFlow深度学习开发环境搭建全教程1、指定清华源命令-ihttps://pypi.tuna.tsinghua.edu.cn/simple2、conda

机器学习杨卓越·2024-01-26 06:46

深度学习基础知识

卷积层基本参数（卷积核大小，步长【pytorch默认为1】，padding边缘填充）输出尺寸=（输入尺寸-卷积核尺寸+2*padding）/stride+1卷积神经网络的基本结构层输入层：批次通道图像大小卷积层激活函数

湘溶溶·2024-01-26 06:40

ICCV 2021 广义源无关领域自适应

该论文采用了基于PyTorch1.3和CUDA10.0的代码，通过阅读’requireme

OverlordDuke·2024-01-26 06:38

git 快速入门笔记

第1章给心急者1.1git是什么git是一种版本控制器.更直白说,团队开发时,管理代码用的软件.面试时,容易被问到的一个东西.1.2安装git在Linux,Mac,Win下都可以安装.本文是以Win7系统为环境编写的.Window环境:到https://git-scm.com/download下载软件,双击,一路"Next",安装完毕.Linux环境安装git:#ubuntu,debian#$su

vins·2024-01-26 01:33

PyTorch实战GANs

GANs简介GANs（GenerativeAdversarialNetworks）,全名又叫做生成式对抗网络，设计者使用的是一种类似于“左右手互博”的思想，所以GANs的作者周伯通（英文名：lanGoodfellow）在设计的时候遵循的就是这个原则。“左右手”分别指代的是GANs中的生成器（Generator）和判别器（Discriminator）。图片来源于网络生成器的主要作用就是随机生成一个指

Omni-Space·2024-01-26 00:24

如何正确配置pytorch环境

1各种镜像源的问题因为pytorch原生的服务器在国外，而pytorch（cuda版本）大小为1G以上，使用国外源下载是不太可能的。因此衍生出了很多国内的下载源。

Lvjawag·2024-01-26 00:24

PyTorch的衍生资源

PyTorch作为深度学习领域的一个重要框架，自2016年首次发布以来经历了显著的发展。

科学禅道·2024-01-26 00:23

深度之眼Pytorch框架训练营第三期（1）——张量简介与创建

张量简介与创建1.张量的概念张量是一个多维数组，它是标量、向量、矩阵的高维扩展。在这里插入图片描述1.1Tensor与VariableVariable是torch.autograd中的数据类型，主要用于封装Tensor，进行自动求导，包含五个属性：在这里插入图片描述data：被包装的Tensorgrad：data的梯度grad_fn：创建Tensor的function，是自动求导的关键requir

aidanmomo·2024-01-25 22:58

一位不愿暴露自己的小可爱·2024-01-25 21:32

libtorch的常见tensor操作

操作拼接操作算术运算求最值数据类型转换1.int和tensor2.tensor转vector3.二维的tensor转vector4.std::vector转tensor{batchsize,c,h,w}libtorch类似于pytorch

Mr.Q·2024-01-25 21:02

PyTorch踩过的12坑精选

nn.Module.cuda()和Tensor.cuda()的作用效果差异无论是对于模型还是数据，cuda()函数都能实现从CPU到GPU的内存迁移，但是他们的作用效果有所不同。对于nn.Module:model=model.cuda()model.cuda()上面两句能够达到一样的效果，即对model自身进行的内存迁移。对于Tensor:和nn.Module不同，调用tensor.cuda()只

头顶一根发的程序猿·2024-01-25 21:42

pytorch数据集加载

loader=SegmentLoader(img_path=train_data_seg, batch_size=cfg.train_batch_size, is_train=True, pos_number=cfg.pos_number, neg_number=cfg.neg_number, de

用编程减轻生活压力·2024-01-25 18:31

pytorch加载数据集续

cv2.drawContours(image,contours,contourIdx,color,thickness,lineType,hierarchy,maxLevel,offset)cv2.drawContours()函数用于在图像上绘制轮廓。参数说明：image：要绘制轮廓的图像。contours：要绘制的轮廓列表。contourIdx：要绘制的轮廓索引。设置为-1时表示绘制所有轮廓。co