Pytorch深度学习笔记

[实践应用] 深度学习之优化器

常见的优化函数有很多种，下面是几种主流的优化器及其特点、原理和PyTorch实现：1.随机梯度下降（SGD）原理:随机梯度下降通过

YuanDaima2048·2024-09-16 04:38

吴恩达深度学习笔记(30)-正则化的解释

正则化（Regularization）深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少你的网络误差。如果你怀疑神经网络过度拟合了数据，即存在高方差问题，那么最先想到的方法可能是正则化，另一个解决高方差的方法就是准备更多数据，这也是非常

极客Array·2024-09-16 00:23

个人学习笔记7-6：动手学深度学习pytorch版-李沐

#人工智能##深度学习##语义分割##计算机视觉##神经网络#计算机视觉13.11全卷积网络全卷积网络（fullyconvolutionalnetwork，FCN）采用卷积神经网络实现了从图像像素到像素类别的变换。引入l转置卷积（transposedconvolution）实现的，输出的类别预测与输入图像在像素级别上具有一一对应关系：通道维的输出即该位置对应像素的类别预测。13.11.1构造模型下

浪子L·2024-09-16 00:45

【安装环境】配置MMTracking环境

先安装numpy，因为pytorch的安装会自动配置高版本numpy。

xuanyu22·2024-09-15 18:53

Python(PyTorch)和MATLAB及Rust和C++结构相似度指数测量导图

要点量化检查图像压缩质量低分辨率多光谱和高分辨率图像实现超分辨率分析图像质量图像索引/多尺度结构相似度指数和光谱角映射器及视觉信息保真度多种指标峰值信噪比和结构相似度指数测量结构相似性图像分类PNG和JPEG图像相似性近似算法图像压缩，视频压缩、端到端优化图像压缩、神经图像压缩、GPU变速图像压缩手术机器人深度估计算法重建三维可视化推理图像超分辨率算法模型三维实景实时可微分渲染算法MATLAB结构

亚图跨际·2024-09-15 18:20

【深度学习】训练过程中一个OOM的问题，太难查了

pytorch爆内存了，然后journald假死了，在journald被watchdog干掉之后，系统就崩溃了。这种规模的爆内存一般，即使被oomkill了，也要卡半天的，确实会这样，能不能配

weixin_40293999·2024-09-15 17:16

Pyorch中 nn.Conv1d 与 nn.Linear 的区别

即一维卷积层和全联接层的区别nn.Conv1d和nn.Linear都是PyTorch中的层，它们用于不同的目的，主要区别在于它们处理输入数据的方式和执行的操作类型。

迪三·2024-09-15 14:00

图片中的上采样，下采样和通道融合(up-sample, down-sample, channel confusion)

前言以conv2d为例（即图片），Pytorch中输入的数据格式为tensor，格式为:[N,C,W,H,W]第一维N.代表图片个数，类似一个batch里面有N张图片第二维C.代表通道数，在模型中输入如果为彩色

迪三·2024-09-15 14:00

深度学习：怎么看pth文件的参数

.pth文件是PyTorch模型的权重文件，它通常包含了训练好的模型的参数。要查看或使用这个文件，你可以按照以下步骤操作：1.确保你有模型的定义你需要有创建这个.pth文件时所用的模型的代码。

奥利给少年·2024-09-15 03:31

每天五分钟玩转深度学习PyTorch：模型参数优化器torch.optim

在pytorch中定义了优化器optim，我们可以使用它调用封装好的优化算法，然后传递给它神经网络模型参数，就可以对模型进行优化。

幻风_huanfeng·2024-09-14 23:32

【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程

环境搭建以及模型部署的详细教程提示:博主取舍了很多大佬的博文并亲测有效,分享笔记邀大家共同学习讨论文章目录【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程前言模型转换--pytorch

牙牙要健康·2024-09-14 14:34

PyTorch官方免CUDA加速推理，Triton时代要来？

在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的GPU和CUDA是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖CUDA，使用它加速的机器学习模型可以实现更大的性能提升。虽然CUDA在加速计算领域占据主导地位，并成为英伟达重要的护城河之一。但其他一些工作的出现正在向CUDA发起挑战，比如OpenAI推出的Triton，它在可用性、内存开销、AI编译器堆栈构建等方面具有一定的优势

诗者才子酒中仙·2024-09-14 04:56

pytorch安装(windows)

（1）下载pycharmPyCharm:thePythonIDEforProfessionalDevelopersbyJetBrains(2)下载anacondaAnaconda|TheWorld'sMostPopularDataSciencePlatform(3)创建一个新环境：torchcondacreate-ntorch-y(4)进入新环境condaactivatetorch(5)加入清华源

m0_62244898·2024-09-14 03:19

深度学习入门篇：PyTorch实现手写数字识别

在众多的深度学习框架中，PyTorch以其动态计算图、易用性强和灵活度高等特点，受到了广泛的喜爱。本篇文章将带领大家使用PyTorch框架，实现一个手写数字识别的基础模型。

AI_Guru人工智能·2024-09-14 02:43

【ShuQiHere】小白也能懂的 TensorFlow 和 PyTorch GPU 配置教程

然而，对于许多刚刚入门的小白来说，如何在TensorFlow和PyTorch中指定使用GPU进行训练可能会感到困惑。

ShuQiHere·2024-09-13 15:08

解决ModuleNotFoundError: No module named ‘torch的方法

torch是PyTorch深度学习框架的核心库，如果你的Python环境中没有安装这个库，尝试导入时就会遇到这个错误。

梅菊林·2024-09-13 14:30

Python中item()和items()的用处

item()区别一:在pytorch训练时，一般用到.item()。比如loss.item()。

~|Bernard|·2024-09-13 07:48

GPU版pytorch安装

由于经常重装系统，导致电脑的环境需要经常重新配置，其中尤其是cudatorch比较难以安装，因此记录一下安装GPU版本torch的过程。1）安装CUDAtoolkit这个可以看做是N卡所有cuda计算的基础，一般都会随驱动的更新自动安装，但是不全，仍然需要安装toolkit，并不需要先看已有版本是哪个，反正下载完后会自动覆盖原有的cuda。下载网站两个：国内网站：只能下载最新的toolkit，但是

普通攻击往后拉·2024-09-13 03:13

轻松升级：Ollama + OpenWebUI 安装与配置【AIStarter】

安装必要的依赖库，如TensorFlow或PyTorch等。更新步骤克隆项目：使用Git命令行工具克隆最新的Ollama和OpenWebUI仓库到本地。更新代码：确保你正在使

ai_xiaogui·2024-09-13 02:36

conda环境管理

来看一看使用conda来进行环境管理的基本命令创建环境创建一个名为test的python环境，指定python版本是3.7.3，并在test环境中安装pytorchcondacreate--nametestpython

Johnson0722·2024-09-12 23:49

R-Drop pytorch实现

Pytorch实现了R-Drop，可以用于训练分类模型。

warpin·2024-09-12 21:39

Transformer模型：WordEmbedding实现

前言最近在学Transformer，学了理论的部分之后就开始学代码的实现，这里是跟着b站的up主的视频记的笔记，视频链接：19、Transformer模型Encoder原理精讲及其PyTorch逐行实现

Galaxy.404·2024-09-12 17:42

如何使用Pytorch-Metric-Learning？

文章目录如何使用Pytorch-Metric-Learning？

鱼儿也有烦恼·2024-09-12 17:12

每天五分钟玩转深度学习框架PyTorch：获取神经网络模型的参数

本文重点当我们定义好神经网络之后，这个网络是由多个网络层构成的，每层都有参数，我们如何才能获取到这些参数呢？我们将再下面介绍几个方法来获取神经网络的模型参数，此文我们是为了学习第6步（优化器）。获取所有参数Parametersfromtorchimportnnnet=nn.Sequential(nn.Linear(4,2),nn.Linear(2,2))print(list(net.paramet

幻风_huanfeng·2024-09-12 16:37

一维数组 list 呢，怎么转换成 (批次句子长度特征值 )三维向量 python pytorch lstm 编程人工智能

一、介绍对于一维数组，如果你想将其转换成适合深度学习模型（如LSTM）输入的格式，你需要考虑将其扩展为三维张量。这通常涉及到批次大小（batchsize）、序列长度（sequencelength）和特征数量（numberoffeatures）的维度。以下是如何将一维数组转换为这种格式的步骤：###1.确定维度-**批次大小（BatchSize）**：这是你一次处理的样本数量。-**序列长度（Seq

zhangfeng1133·2024-09-12 16:34

每天五分钟玩转深度学习框架PyTorch：将nn的神经网络层连接起来

本文重点前面我们学习pytorch中已经封装好的神经网络层，有全连接层，激活层，卷积层等等，我们可以直接使用。

幻风_huanfeng·2024-09-12 16:34

项目实训十四

将pytorch模型封装成接口由于前面对于模型的构建、训练、评估都以完成，接下来要做的就是将按照项目要求，将模型封装成接口，供后端直接调用。

qq_51946537·2024-09-12 11:37

pytorch矩阵乘法

一、torch.bmminput1shape:(batch_size,seq1_len,emb_dim)input2shape:(batch_size,emb_dim,seq2_len)outputshape:(batch_size,seq1_len,seq2_len)注意：torch.bmm只适合三维tensor做矩阵运算特别地，torch.bmm支持tenso广播运算input1shape:(

weixin_45694975·2024-09-12 10:59

pytorch矩阵乘法总结

1.element-wise（*）按元素相乘，支持广播，等价于torch.mul()a=torch.tensor([[1,2],[3,4]])b=torch.tensor([[2,3],[4,5]])c=a*b#等价于torch.mul(a,b)#tensor([[2,6],#[12,20]])a*torch.tensor([1,2])#广播,等价于torch.mul(a,torch.tensor

chenxi yan·2024-09-12 10:26

推荐开源项目：PyTorch-Metric-Learning

潘惟妍·2024-09-12 09:53

pytroch2.4 提示到不到fbgemm.dll

#python/pytorch/问题记录```>>>importtorchTraceback(mostrecentcalllast):File"",line1,inFile"C:\Users\95416

bziyue·2024-09-12 03:44

基于Pytorch框架的CIFAR-10图像分类任务（附带完整代码）

本文主要实现在pytorch框架下，训练CIFAR数据集，通过观察训练和验证的误差、准确率图像来进一步改善。保存最好的模型。

难得北窗高卧·2024-09-12 01:00

Pytorch深度学习- Tensorboard的使用以及图像变换transform的使用（小土堆）

Tensorboard中的SummaryWriter使用导入数据包fromtorch.utils.tensorboardimportSummaryWriter构造函数方法#那么生成的数据文件都存在于logs文件夹下writer=SummaryWriter("logs")add_scalar代码示例'''tag:数据标题global_step:x轴数据scalar_value:y轴数据'''#运行结

Mr chenxizhi·2024-09-12 00:23

动手学深度学习（pytorch土堆）-03常见的Transforms

Composetransforms.Compose是PyTorch中的一个函数，用于将多个图像变换操作组合在一起，形成一个变换流水线。

#include<菜鸡>·2024-09-12 00:51

探秘3D UNet-PyTorch：高效三维图像分割利器

探秘3DUNet-PyTorch：高效三维图像分割利器在医学影像处理、计算机视觉和自动驾驶等领域，三维图像的理解与分析至关重要。而是一个基于PyTorch实现的深度学习模型，专为三维图像分割任务设计。

鲍凯印Fox·2024-09-12 00:18

使用C++编写接口调用PyTorch模型，并生成DLL供.NET使用

一、将PyTorch模型保存为TorchScript格式1）构造一个pytorch2TorchScript.py，示例代码如下：importtorchimporttorch.nnasnnimportargparsefromnetworks.seg_modelingimportmodelasViT_segfromnetworks.seg_modelingimportCONFIGSasCONFIGS

编程日记✧·2024-09-11 23:17

动手学深度学习（pytorch土堆）-02TensorBoard的使用

1.可视化代码使用了torch.utils.tensorboard将数据记录到TensorBoard以便可视化。具体来说，它将标量数据记录到目录logs中，使用的是SummaryWriter类。代码分解如下：SummaryWriter("logs")：初始化一个TensorBoard的写入器，日志会保存到"logs"目录。writer.add_scalar("y=x",i,i)：在循环的每一次迭代

#include<菜鸡>·2024-09-11 23:15

使用3DUNet训练自己的数据集（pytorch）— 医疗影像分割

代码：lee-zq/3DUNet-Pytorch:3DUNetimplementedwithpytorch(github.com)文章<cicek16miccai.pdf(uni-freiburg.de

编程日记✧·2024-09-11 23:44

【Python】成功解决IndexError: list index out of range

博主简介：985高校的普通本硕，曾有幸发表过人工智能领域的中科院顶刊一作论文，熟练掌握PyTorch框架。技术专长：在CV、NLP及多模态等领域有丰富的项目实战经验。

高斯小哥·2024-09-11 21:34

note: This error originates from a subprocess, and is likely not a problem with pip. ERROR: Failed

确认安装了合适的PyTorch版本，mmcv常常需要与PyTorch版本紧密配合。

哎呀——哪是啥·2024-09-11 21:57

PyTorch中用于神经网络的开源特征可视化工具包

//mp.weixin.qq.com/s/CTS3MUkcNTZXbAR2gvkcQw1.设置场景给概览功能的可视化作为一个研究领域，并推出了FlashTorch- 一个开放源码的功能可视化工具包建在PyTorch

顾北向南·2024-09-11 18:00

torch.stack()方法在数据集构造中的应用

torch.stack()是PyTorch中用于将多个张量沿着新维度进行堆叠的操作。

大多_C·2024-09-11 11:47

Pytorch维度转换操作：view，reshape，permute，flatten函数详解

引言Pytorch中常见的维度转换函数有view,reshape,permute,flatten。本文将详细介绍这几个函数的作用与使用方式，并给出了具体的代码示例，希望能够帮助大家。

ghx3110·2024-09-11 10:43

pytorch计算网络参数量和Flops

fromtorchsummaryimportsummarysummary(net,input_size=(3,256,256),batch_size=-1)输出的参数是除以一百万（/1000000）M，fromfvcore.nnimportFlopCountAnalysisinputs=torch.randn(1,3,256,256).cuda()flop_counter=FlopCountAna

Mr_Lowbee·2024-09-11 10:08

Pytorch ResNet Fashion-Mnist

pytorch实现ResNetonFashion-MNISTfrom__future__importprint_functionimporttorchimporttimeimporttorch.nnasnnimporttorch.nn.functionalasFimporttorchvisionimporttorchvision.transformsastransformsfromtorchimp

hyhchaos·2024-09-11 02:28

ONNXRuntime与CUDA版本对应

onnxruntime-gpu版本可以说是一个非常简单易用的框架，因为通常用pytorch训练的模型，在部署时，会首先转换成onnx，而onnxruntime和onnx又是有着同一个爸爸，无疑，在op的支持上肯定是最好的

zy_destiny·2024-09-10 22:15

【已解决】torch包下载缓慢

方法一直接将PyTorch安装指引中的https://download.pytorch.org/whl替换为https://mirrors.aliyun.com/pytorch-wheels即可。

烟花节·2024-09-10 21:41

MoveNet: PyTorch实现的轻量级人体姿态估计框架

MoveNet:PyTorch实现的轻量级人体姿态估计框架movenet.pytorch项目地址:https://gitcode.com/gh_mirrors/mo/movenet.pytorchMoveNet

侯深业Dorian·2024-09-10 20:33

MoveNet PyTorch 项目教程

MoveNetPyTorch项目教程movenet.pytorch项目地址:https://gitcode.com/gh_mirrors/mo/movenet.pytorch项目介绍MoveNet是一个超快速且精确的模型

邢琛高·2024-09-10 20:33

pytorh基础知识和函数的学习：torchvision.transforms()

transforms是PyTorch的torchvision库中用于图像处理的一个模块。它提供了一组工具，用于在图像数据集上进行常见的预处理和数据增强操作，以便更好地训练深度学习模型。

深蓝海拓·2024-09-10 19:30

推荐频道