Torch

[实践应用] 深度学习之优化器

常见的优化函数有很多种，下面是几种主流的优化器及其特点、原理和PyTorch实现：1.随机梯度下降（SGD）原理:随机梯度下降通过

YuanDaima2048·2024-09-16 04:38

个人学习笔记7-6：动手学深度学习pytorch版-李沐

#人工智能##深度学习##语义分割##计算机视觉##神经网络#计算机视觉13.11全卷积网络全卷积网络（fullyconvolutionalnetwork，FCN）采用卷积神经网络实现了从图像像素到像素类别的变换。引入l转置卷积（transposedconvolution）实现的，输出的类别预测与输入图像在像素级别上具有一一对应关系：通道维的输出即该位置对应像素的类别预测。13.11.1构造模型下

浪子L·2024-09-16 00:45

python画出分子化学空间分布（UMAP）

利用umap画出分子化学空间分布图安装pipinstallumap-learn下面是用一个数据集举的例子importtorchimportumapimportpandasaspdimportnumpyasnpimportmatplotlib.pyplotaspltimportseabornassnsfromsklearn.manifoldimportTSNEfromrdkit.Chemimport

Sakaiay·2024-09-15 21:58

【安装环境】配置MMTracking环境

版本v0.14.0安装torchnumpy的版本不能太高，否则后面安装时会发生冲突。先安装numpy，因为pytorch的安装会自动配置高版本numpy。

xuanyu22·2024-09-15 18:53

Python(PyTorch)和MATLAB及Rust和C++结构相似度指数测量导图

要点量化检查图像压缩质量低分辨率多光谱和高分辨率图像实现超分辨率分析图像质量图像索引/多尺度结构相似度指数和光谱角映射器及视觉信息保真度多种指标峰值信噪比和结构相似度指数测量结构相似性图像分类PNG和JPEG图像相似性近似算法图像压缩，视频压缩、端到端优化图像压缩、神经图像压缩、GPU变速图像压缩手术机器人深度估计算法重建三维可视化推理图像超分辨率算法模型三维实景实时可微分渲染算法MATLAB结构

亚图跨际·2024-09-15 18:20

【深度学习】训练过程中一个OOM的问题，太难查了

pytorch爆内存了，然后journald假死了，在journald被watchdog干掉之后，系统就崩溃了。这种规模的爆内存一般，即使被oomkill了，也要卡半天的，确实会这样，能不能配

weixin_40293999·2024-09-15 17:16

Pyorch中 nn.Conv1d 与 nn.Linear 的区别

即一维卷积层和全联接层的区别nn.Conv1d和nn.Linear都是PyTorch中的层，它们用于不同的目的，主要区别在于它们处理输入数据的方式和执行的操作类型。

迪三·2024-09-15 14:00

图片中的上采样，下采样和通道融合(up-sample, down-sample, channel confusion)

前言以conv2d为例（即图片），Pytorch中输入的数据格式为tensor，格式为:[N,C,W,H,W]第一维N.代表图片个数，类似一个batch里面有N张图片第二维C.代表通道数，在模型中输入如果为彩色

迪三·2024-09-15 14:00

深度学习-13-小语言模型之SmolLM的使用

文章附录1SmolLM概述1.1SmolLM简介1.2下载模型2运行2.1在CPU/GPU/多GPU上运行模型2.2使用torch.bfloat162.3通过位和字节的量化版本3应用示例4问题及解决4.1attention_mask

皮皮冰燃·2024-09-15 10:48

Python 报错 ImportError: cannot import name xxx from partially initialized module xxx

文章目录1.报错2.原因3.参考1.报错ImportError:cannotimportname'SummaryWriter'frompartiallyinitializedmodule'torch.utils.tensorboard

SmallerFL·2024-09-15 09:10

深度学习：怎么看pth文件的参数

.pth文件是PyTorch模型的权重文件，它通常包含了训练好的模型的参数。要查看或使用这个文件，你可以按照以下步骤操作：1.确保你有模型的定义你需要有创建这个.pth文件时所用的模型的代码。

奥利给少年·2024-09-15 03:31

每天五分钟玩转深度学习PyTorch：模型参数优化器torch.optim

在pytorch中定义了优化器optim，我们可以使用它调用封装好的优化算法，然后传递给它神经网络模型参数，就可以对模型进行优化。

幻风_huanfeng·2024-09-14 23:32

安装torch报错 raise ReadTimeoutError(self._pool, None, “Read timed out.“) pip._vendor.urllib3.exceptions

文章目录1.配置cuda的torch环境时报错1.配置命令2.报错bug2.解决方法1.增加下载超时时间：2.尝试使用镜像源：3.检查网络连接：4.分次安装：5.重试安装：6.手动下载.whl文件安装1

待磨的钝刨·2024-09-14 17:51

多模态大模型微调Qwen-VL微调及日志

pipinstalltransformersacceleratetiktoken-U%pipinstalleinopstransformers_stream_generator-U%pipinstallpillow-U%pipinstalltorchvision

Messi^·2024-09-14 15:10

【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程

环境搭建以及模型部署的详细教程提示:博主取舍了很多大佬的博文并亲测有效,分享笔记邀大家共同学习讨论文章目录【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程前言模型转换--pytorch

牙牙要健康·2024-09-14 14:34

Cuda 程序编译报错: fatal error: cusparse.h: No such file or directory

编译cuda程序时发现下列报错：/mnt/xxx/miniconda3/envs/xxx/lib/python3.8/site-packages/torch/include/ATen/cuda/CUDAContext.h

原野寻踪·2024-09-14 07:44

大模型微调 - 基于预训练大语言模型的对话生成任务训练代码

大模型微调-基于预训练大语言模型的对话生成任务训练代码flyfish模型扮演堂吉诃德这个角色，回答关于自我介绍的问题importtorchfromdatasetsimportDatasetfrommodelscopeimportAutoTokenizer

西笑生·2024-09-14 05:00

PyTorch官方免CUDA加速推理，Triton时代要来？

在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的GPU和CUDA是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖CUDA，使用它加速的机器学习模型可以实现更大的性能提升。虽然CUDA在加速计算领域占据主导地位，并成为英伟达重要的护城河之一。但其他一些工作的出现正在向CUDA发起挑战，比如OpenAI推出的Triton，它在可用性、内存开销、AI编译器堆栈构建等方面具有一定的优势

诗者才子酒中仙·2024-09-14 04:56

pytorch安装(windows)

thePythonIDEforProfessionalDevelopersbyJetBrains(2)下载anacondaAnaconda|TheWorld'sMostPopularDataSciencePlatform(3)创建一个新环境：torchcondacreate-ntorch-y

m0_62244898·2024-09-14 03:19

深度学习入门篇：PyTorch实现手写数字识别

在众多的深度学习框架中，PyTorch以其动态计算图、易用性强和灵活度高等特点，受到了广泛的喜爱。本篇文章将带领大家使用PyTorch框架，实现一个手写数字识别的基础模型。

AI_Guru人工智能·2024-09-14 02:43

【ShuQiHere】小白也能懂的 TensorFlow 和 PyTorch GPU 配置教程

然而，对于许多刚刚入门的小白来说，如何在TensorFlow和PyTorch中指定使用GPU进行训练可能会感到困惑。

ShuQiHere·2024-09-13 15:08

解决ModuleNotFoundError: No module named ‘torch的方法

ModuleNotFoundError:Nomodulenamed‘torch’错误是Python在尝试导入名为torch的模块时找不到该模块而抛出的异常。

梅菊林·2024-09-13 14:30

Python中item()和items()的用处

item()区别一:在pytorch训练时，一般用到.item()。比如loss.item()。

~|Bernard|·2024-09-13 07:48

TextCNN：文本卷积神经网络模型

定义TextCNN类importtorch.nnasn

一只天蝎·2024-09-13 07:48

GPU版pytorch安装

由于经常重装系统，导致电脑的环境需要经常重新配置，其中尤其是cudatorch比较难以安装，因此记录一下安装GPU版本torch的过程。

普通攻击往后拉·2024-09-13 03:13

QLoRa使用教程

LoRa.网址：https://huggingface.co/docs/peft/main/en/developer_guides/quantization案例11.4bit量化+LoRaimporttorchfromtransformersimportBitsAndBytesConfigconfig

云帆@·2024-09-13 03:12

轻松升级：Ollama + OpenWebUI 安装与配置【AIStarter】

安装必要的依赖库，如TensorFlow或PyTorch等。更新步骤克隆项目：使用Git命令行工具克隆最新的Ollama和OpenWebUI仓库到本地。更新代码：确保你正在使

ai_xiaogui·2024-09-13 02:36

conda环境管理

来看一看使用conda来进行环境管理的基本命令创建环境创建一个名为test的python环境，指定python版本是3.7.3，并在test环境中安装pytorchcondacreate--nametestpython

Johnson0722·2024-09-12 23:49

R-Drop pytorch实现

Pytorch实现了R-Drop，可以用于训练分类模型。

warpin·2024-09-12 21:39

Transformer模型：WordEmbedding实现

前言最近在学Transformer，学了理论的部分之后就开始学代码的实现，这里是跟着b站的up主的视频记的笔记，视频链接：19、Transformer模型Encoder原理精讲及其PyTorch逐行实现

Galaxy.404·2024-09-12 17:42

如何使用Pytorch-Metric-Learning？

文章目录如何使用Pytorch-Metric-Learning？

鱼儿也有烦恼·2024-09-12 17:12

每天五分钟玩转深度学习框架PyTorch：获取神经网络模型的参数

获取所有参数Parametersfromtorchimportnnnet=nn.Sequential(nn.Linear(4,2),nn.Linear(2,2))print(list(net.paramet

幻风_huanfeng·2024-09-12 16:37

一维数组 list 呢，怎么转换成 (批次句子长度特征值 )三维向量 python pytorch lstm 编程人工智能

一、介绍对于一维数组，如果你想将其转换成适合深度学习模型（如LSTM）输入的格式，你需要考虑将其扩展为三维张量。这通常涉及到批次大小（batchsize）、序列长度（sequencelength）和特征数量（numberoffeatures）的维度。以下是如何将一维数组转换为这种格式的步骤：###1.确定维度-**批次大小（BatchSize）**：这是你一次处理的样本数量。-**序列长度（Seq

zhangfeng1133·2024-09-12 16:34

每天五分钟玩转深度学习框架PyTorch：将nn的神经网络层连接起来

本文重点前面我们学习pytorch中已经封装好的神经网络层，有全连接层，激活层，卷积层等等，我们可以直接使用。

幻风_huanfeng·2024-09-12 16:34

项目实训十四

将pytorch模型封装成接口由于前面对于模型的构建、训练、评估都以完成，接下来要做的就是将按照项目要求，将模型封装成接口，供后端直接调用。

qq_51946537·2024-09-12 11:37

pytorch矩阵乘法

一、torch.bmminput1shape:(batch_size,seq1_len,emb_dim)input2shape:(batch_size,emb_dim,seq2_len)outputshape

weixin_45694975·2024-09-12 10:59

pytorch矩阵乘法总结

1.element-wise（*）按元素相乘，支持广播，等价于torch.mul()a=torch.tensor([[1,2],[3,4]])b=torch.tensor([[2,3],[4,5]])c

chenxi yan·2024-09-12 10:26

推荐开源项目：PyTorch-Metric-Learning

潘惟妍·2024-09-12 09:53

pytroch2.4 提示到不到fbgemm.dll

#python/pytorch/问题记录```>>>importtorchTraceback(mostrecentcalllast):File"",line1,inFile"C:\Users\95416

bziyue·2024-09-12 03:44

基于Pytorch框架的CIFAR-10图像分类任务（附带完整代码）

本文主要实现在pytorch框架下，训练CIFAR数据集，通过观察训练和验证的误差、准确率图像来进一步改善。保存最好的模型。

难得北窗高卧·2024-09-12 01:00

Pytorch深度学习- Tensorboard的使用以及图像变换transform的使用（小土堆）

Tensorboard中的SummaryWriter使用导入数据包fromtorch.utils.tensorboardimportSummaryWriter构造函数方法#那么生成的数据文件都存在于logs

Mr chenxizhi·2024-09-12 00:23

动手学深度学习（pytorch土堆）-03常见的Transforms

Composetransforms.Compose是PyTorch中的一个函数，用于将多个图像变换操作组合在一起，形成一个变换流水线。

#include<菜鸡>·2024-09-12 00:51

探秘3D UNet-PyTorch：高效三维图像分割利器

探秘3DUNet-PyTorch：高效三维图像分割利器在医学影像处理、计算机视觉和自动驾驶等领域，三维图像的理解与分析至关重要。而是一个基于PyTorch实现的深度学习模型，专为三维图像分割任务设计。

鲍凯印Fox·2024-09-12 00:18

使用C++编写接口调用PyTorch模型，并生成DLL供.NET使用

一、将PyTorch模型保存为TorchScript格式1）构造一个pytorch2TorchScript.py，示例代码如下：importtorchimporttorch.nnasnnimportargparsefromnetworks.seg_modelingimportmodelasViT_segfromnetworks.seg_modelingimportCONFIGSasCONFIGS

编程日记✧·2024-09-11 23:17

动手学深度学习（pytorch土堆）-02TensorBoard的使用

1.可视化代码使用了torch.utils.tensorboard将数据记录到TensorBoard以便可视化。具体来说，它将标量数据记录到目录logs中，使用的是SummaryWriter类。

#include<菜鸡>·2024-09-11 23:15

使用3DUNet训练自己的数据集（pytorch）— 医疗影像分割

代码：lee-zq/3DUNet-Pytorch:3DUNetimplementedwithpytorch(github.com)文章<cicek16miccai.pdf(uni-freiburg.de

编程日记✧·2024-09-11 23:44

【Python】成功解决IndexError: list index out of range

博主简介：985高校的普通本硕，曾有幸发表过人工智能领域的中科院顶刊一作论文，熟练掌握PyTorch框架。技术专长：在CV、NLP及多模态等领域有丰富的项目实战经验。

高斯小哥·2024-09-11 21:34

note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed

确认安装了合适的PyTorch版本，mmcv常常需要与PyTorch版本紧密配合。

哎呀——哪是啥·2024-09-11 21:57

Error: Could not installed packages due to anOSError: [Errno 28] No space left on device

Error:CouldnotinstalledpackagesduetoanOSError:[Errno28]Nospaceleftondevice前言安装torch时出现标题所示报错。

不废江河954·2024-09-11 20:26

李沐55_循环神经网络RNN简洁实现——自学笔记

pipinstall--upgraded2l==0.17.5#d2l需要更新importtorchfromtorchimportnnfromtorch.nnimportfunctionalasFfromd2limporttorchasd2lbatch_size

Rrrrrr900·2024-09-11 20:54

推荐频道