pytorch代码学习第41页

ViT的极简pytorch实现及其即插即用

先放一张ViT的网络图可以看到是把图像分割成小块，像NLP的句子那样按顺序进入transformer，经过MLP后，输出类别。每个小块是16x16，进入LinearProjectionofFlattenedPatches,在每个的开头加上clstoken和位置信息，也就是positionembedding。去掉数据读取部分，直接上一个极简的ViT代码：importtorchfromtorchimp

雪地(>^ω^<)·2023-12-30 06:21

Python遥感影像深度学习指南(2)-在 PyTorch 中创建自定义数据集和加载器

问题在于，深度学习框架（如Keras、Fast.ai甚至PyTorch）中的大多数语义分割模型都是为处理RGB图像而设计的，并带有预先训练好的权重。除此之外，这些库中的视觉模块也仅限于RGB文件。

gis收藏家·2023-12-30 06:50

昇腾910平台安装驱动、固件、CANN toolkit、pytorch

本文使用的昇腾910平台操作系统是openEuler，之前没了解过，不过暂时感觉用起来和centOS差不多。系统架构是ARM，安装包基本都是带aarch64字样，注意和x86_64区别开，别下错了。安装依赖cmake通过yum安装的cmake版本较老，需要源代码安装wgethttps://cmake.org/files/v3.21/cmake-3.21.3.tar.gztar-zxvfcmake-

weixin_36049506·2023-12-30 06:45

PyTorch中的 Dataset、DataLoader 和 enumerate()

PyTorch：关于Dataset，DataLoader和enumerate()本博文主要参考了Pytorch中DataLoader的使用方法详解和pytorch：关于enumerate，Dataset

kevin小新·2023-12-30 06:15

Pytorch简介

1.1Pytorch的历史PyTorch是一个由Facebook的人工智能研究团队开发的开源深度学习框架。在2016年发布后，PyTorch很快就因其易用性、灵活性和强大的功能而在科研社区中广受欢迎。

lock cylinder·2023-12-30 06:14

pytorch 动态调整学习率，学习率自动下降，根据loss下降

0为什么引入学习率衰减？我们都知道几乎所有的神经网络采取的是梯度下降法来对模型进行最优化，其中标准的权重更新公式：W+=α∗gradientW+=\alpha*\text{gradient}W+=α∗gradient学习率α\alphaα控制着梯度更新的步长(step)，α\alphaα越大，意味着下降的越快，到达最优点的速度也越快，如果为000，则网络就会停止更新学习率过大，在算法优化的前期会加

呆呆象呆呆·2023-12-30 06:07

Error executing the command: Command ‘[‘D:\\xx\\python.exe‘, ‘-m‘, ‘accelerate.commands.launch‘,

目录accelerate多卡训练报错pytorchwin11单机多卡训练示例accelerate多卡训练报错accelerate.commands.launch训练图片生成时报错：Errorexecutingthecommand

AI视觉网奇·2023-12-30 05:04

Pytorch实现共享单车数量预测

之前分享过Pytorch实现简单线性回归算法的内容：Pytorch实现简单的线性回归算法，这次分享一下用pytorch预测贡献单车数量的项目，具体的理论可能讲的不太明白，大家参考一下代码就可以。

carmanzzz·2023-12-30 05:57

深度学习框架:Tensorflow和pytorch、PaddlePaddle比较

Tensorflow和pytorch、PaddlePaddle都是非常优秀的深度学习框架，它们各自有着独特的优势和特点。

科学熊·2023-12-30 05:17

霹雳吧啦Wz《pytorch图像分类》-p2AlexNet网络

《pytorch图像分类》p2AlexNet网络基础及代码一、零碎知识点1.过拟合2.使用dropout后的正向传播3.正则化regularization4.代码中所用的知识点二、总体架构分析1.ReLU

失舵之舟-·2023-12-30 05:33

刘二大人《PyTorch深度学习实践》p9多分类问题

刘二大人《PyTorch深度学习实践》p9多分类问题一、零碎知识点1.LongTensor长整形张量2.transform结构及用法二、预备知识1.Softmax激活函数2.NLLLoss损失函数3.CrossEntropyLoss

失舵之舟-·2023-12-30 05:03

霹雳吧啦Wz《pytorch图像分类》-p1卷积神经网络LeNet

《pytorch图像分类》p1卷积神经网络基础及代码一、卷积神经网络1.反向传播（backpropagation）2.常用的激活函数二、神经网络层类型概述1.全连接层2.卷积层卷积过程中出现越界3.池化层

失舵之舟-·2023-12-30 05:03

刘二大人《PyTorch深度学习实践》p8加载数据集

刘二大人《PyTorch深度学习实践》p8加载数据集一、零碎知识点1.enumerate()二、Batch（批次）和Mini-Batch1.Mini-Batch2.Dataset（数据集）3.DataLoader

失舵之舟-·2023-12-30 05:02

刘二大人《PyTorch深度学习实践》p5用pytorch实现线性回归

刘二大人《PyTorch深度学习实践》p5用pytorch实现线性回归一、零碎知识点1.torch.nn2.nn.Module3.nn.linear4.nn.MSELoss5.torch.optim.SGD

失舵之舟-·2023-12-30 05:32

刘二大人《PyTorch深度学习实践》p6逻辑斯蒂回归

刘二大人《PyTorch深度学习实践》p6logistic回归一、零碎知识点1.torchvision2.np.linspace3.torch.Tensor(x).view4.matplotlib画一条直线二

失舵之舟-·2023-12-30 05:32

pytorch机器学习各种激活函数总结（不完整学习更新中~）

pytorch各种激活函数总结0.思维导图预览1.ReLU函数2.Sigmoid函数3.Softmax函数4.Tanh函数5.

失舵之舟-·2023-12-30 05:57

ResNet18-实现图像分类

PyTorch中网络里面的inplace=True字段的意思_TravelingLight77的博客-CSDN博客_inplace=true一.原理参见论文：何凯明：DeepResidualLearningforImage

AutoGalaxy·2023-12-30 00:22

Jetson ORIN NX安装Ubuntu20.04，配置CUDA，cuDNN 等注意事项

大体准备工作与流程与博客英伟达官方源JetsonXavierNX安装Ubuntu20.04，配置CUDA，cuDNN，Pytorch等环境教程（基于NVIDIA官方教程，理论适用其它Jetson设备）一致

hongliyu_lvliyu·2023-12-30 00:52

TypeError: add_self_loops() got an unexpected keyword argument ‘edge_weight‘

，这个问题与PyTorchGeometric版本有关，因为较新的版本中add_self_loops函数的参数已经发生了变化。将"edge_weight"参数改为"edge_attr"即可参考于：

GarsonW·2023-12-30 00:52

django调用矩阵分解推荐算法模型做推荐系统

以下是这个过程的一个简化示例：步骤1:训练推荐算法模型首先，你需要使用Python的机器学习库（例如scikit-learn、TensorFlow或PyTorch）来训练一个推荐算法模型。

qa浪涛·2023-12-30 00:50

预训练模型下载和使用

1huggingfaceHuggingface是一家公司，在Google发布BERT模型不久之后，这家公司推出了BERT的pytorch实现，形成一个开源库pytorch-pretrained-bert

哦豁灬·2023-12-29 22:03

基于深度学习的高精度水果检测识别系统（PyTorch+Pyside6+YOLOv5模型）

摘要：基于深度学习的高精度水果（苹果、香蕉、葡萄、橘子、菠萝和西瓜）检测识别系统可用于日常生活中或野外来检测与定位水果目标，利用深度学习算法可实现图片、视频、摄像头等方式的水果目标检测识别，另外支持结果可视化与图片或视频检测结果的导出。本系统采用YOLOv5目标检测模型训练数据集，使用Pysdie6库来搭建页面展示系统，同时支持ONNX、PT等模型作为权重模型的输出。本系统支持的功能包括水果训练模

BestSongC·2023-12-29 21:16

基于YOLOv7算法的高精度实时海洋生物检测识别系统（PyTorch+Pyside6+YOLOv7）

摘要：基于YOLOv7算法的高精度实时海洋生物目标检测系统可用于日常生活中检测与定位海胆、海参、扇贝和海星，此系统可完成对输入图片、视频、文件夹以及摄像头方式的目标检测与识别，同时本系统还支持检测结果可视化与导出。本系统采用YOLOv7目标检测算法来训练数据集，使用Pysdie6框架来搭建桌面页面系统，支持PT、ONNX等模型权重作为系统的预测模型加载。本系统实现的功能包括：模型权重的选择与初始化

BestSongC·2023-12-29 21:16

基于YOLOv7算法的高精度实时人脸口罩检测识别系统（PyTorch+Pyside6+YOLOv7）

摘要：基于YOLOv7算法的高精度实时人脸口罩目标检测系统可用于日常生活中检测与定位行人是否佩戴口罩，此系统可完成对输入图片、视频、文件夹以及摄像头方式的目标检测与识别，同时本系统还支持检测结果可视化与导出。本系统采用YOLOv7目标检测算法来训练数据集，使用Pysdie6框架来搭建桌面页面系统，支持PT、ONNX等模型权重作为系统的预测模型加载。本系统实现的功能包括：模型权重的选择与初始化；检测

BestSongC·2023-12-29 21:46

基于YOLOv7算法和MOT20数据集的高精度行人目标检测识别系统（PyTorch+Pyside6+YOLOv7）

摘要：基于YOLOv7算法和MOT20数据集的高精度行人目标检测系统可用于日常生活中检测与定位行人，此系统可完成对输入图片、视频、文件夹以及摄像头方式的目标检测与识别，同时本系统还支持检测结果可视化与导出。本系统采用YOLOv7目标检测算法来训练数据集，使用Pysdie6框架来搭建桌面页面系统，支持PT、ONNX等模型权重作为系统的预测模型加载。本系统实现的功能包括：模型权重的选择与初始化；检测置

BestSongC·2023-12-29 21:46

基于YOLOv7算法的高精度实时行人打电话检测系统（PyTorch+Pyside6+YOLOv7）

摘要：基于YOLOv7算法的高精度实时行人打电话检测系统可用于日常生活中检测与定位手机，此系统可完成对输入图片、视频、文件夹以及摄像头方式的目标检测与识别，同时本系统还支持检测结果可视化与导出。本系统采用YOLOv7目标检测算法来训练数据集，使用Pysdie6框架来搭建桌面页面系统，支持PT、ONNX等模型权重作为系统的预测模型加载。本系统实现的功能包括：模型权重的选择与初始化；检测置信度与后处理

BestSongC·2023-12-29 21:44

深度学习数据处理（一）

在PyTorch中，torch.Tensor是存储和变换数据的主要工具。如果你之前用过NumPy，你会发现Tensor和NumPy的多维数组非常类似。

kk要读书·2023-12-29 21:30

4.15 构建onnx结构模型-Max

前言构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch—>onnx2、通过onnx自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Max结点进行分析方式方法一

nsq_ai·2023-12-29 20:31

4.14 构建onnx结构模型-Min

前言构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch—>onnx2、通过onnx自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以Min结点进行分析方式方法一

nsq_ai·2023-12-29 20:00

4.16 构建onnx结构模型-And

前言构建onnx方式通常有两种：1、通过代码转换成onnx结构，比如pytorch—>onnx2、通过onnx自定义结点，图，生成onnx结构本文主要是简单学习和使用两种不同onnx结构，下面以And结点进行分析方式方法一

nsq_ai·2023-12-29 20:27

Triton Inference Serve调研

TritonInferenceServer，具有如下特点：支持常见深度学习框架导出模型的推理，如TensorRT,TensorFlowGraphDef,TensorFlowSavedModel,ONNX,PyTorchTorchScriptandOpenVINO

georgeguo·2023-12-29 19:46

Vanilla KD论文解读

RevisitthePowerofVanillaKnowledgeDistillationfromSmallScaletoLargeScaleofficialimplementation：GitHub-Hao840/vanillaKD:PyTorchcodeandcheckpointsreleaseforVanillaKD

00000cj·2023-12-29 19:35

常见的LLM推理加速解决方案

KVCacheint量化PagedAttentionGQASpeculativeDecodingcodeAcceleratingGenerativeAIwithPyTorchII:GPT,FastFastInferencefromTransformersviaSpeculativeDecoding

transformer_WSZ·2023-12-29 17:45

ubuntu系统（6）：Nvidia Docker配置cuda+pytorch【纯小白版】

目录一、安装NvidiaDocker二、安装显卡驱动1、安装驱动2、检查显卡驱动版本3、查询驱动版本和显卡相关信息三、Dockerhub安装pytorch和对应版本cuda1、在Dockerhub中查询对应版本镜像编辑

zhenz0729·2023-12-29 17:28

pytorch--基于参数权重初始化模型

#coding=utf-8"""背景：将CPM-large模型权重映射到transforer的GPT2LMHeadModel预训练模型上。存在问题：1.原始的CPM-large的部分层权重与transformers中的计算方式不一样。例如线性计算有的用linear，有的用Cov1D。linear中的权重自带转置，而Cov1D的需要权重提前转置2.GPT2LMHeadModel最后用的final_l

Catherine_In_Data·2023-12-29 14:43

Pytorch基础指令

1.pytorch指定使用GPU卡##方法一：在运行脚本前，使用CUDA_VISIBLE_DEVICES环境变量exportCUDA_VISIBLE_DEVICES=0,1#使用GPU卡号为0和1pythonyour_script.py

Catherine_In_Data·2023-12-29 14:43

ERROR: No matching distribution found for torch==2.0.1解决方案

《Python入门核心技术》专栏总目录・点这里文章目录问题描述解决方案离线安装PyTorch问题描述在安装stable-diffusion-webui过程中出现ERROR:Nom

水滴技术·2023-12-29 13:58

大数据前馈神经网络解密：深入理解人工智能的基石

前馈神经网络概述什么是前馈神经网络前馈神经网络的工作原理应用场景及优缺点二、前馈神经网络的基本结构输入层、隐藏层和输出层激活函数的选择与作用网络权重和偏置三、前馈神经网络的训练方法损失函数与优化算法反向传播算法详解避免过拟合的策略四、使用Python和PyTorch

星川皆无恙·2023-12-29 12:48

PyTorch中文版官方教程来了

PyTorch中文版官方教程来了。PyTorch是近期最为火爆的深度学习框架之一，然而其中文版官方教程久久不来。

DevolperFront·2023-12-29 12:32

YOLOv8可视化：引入多种可视化CAM方法，为科研保驾护航

本文内容：调用pytorch下的CAM可视化库，支持十多种可视化方法，打开“黑盒”，让YOLOv8变得相对可解释性收录YOLOv8原创自研https://blog.csdn.net/m0_63774211

AI小怪兽·2023-12-29 08:00

JAX: 快如 PyTorch，简单如 NumPy - 深度学习与数据科学

JAX是TensorFlow和PyTorch的新竞争对手。JAX强调简单性而不牺牲速度和可扩展性。由于JAX需要更少的样板代码，因此程序更短、更接近数学，因此更容易理解。

冷冻工厂·2023-12-29 07:04

使用pytorch搭建ResNeXt并基于迁移学习训练

冻结除最后全连接层以外的所有权重，只去单独训练它最后一层的的权重，这个方法，冻结了所有网络的权重。forparaminnet.parameters():param.requires_grad=False

pythonSuperman·2023-12-29 07:00

使用pytorch搭建ResNet并基于迁移学习训练

这里的迁移学习方法是载入预训练权重的方法net=resnet34()#loadpretrainweights#downloadurl:https://download.pytorch.org/models

pythonSuperman·2023-12-29 07:59

PyTorch中各种求和运算

首先定义张量AA=torch.arange(20,dtype=torch.float32).reshape(5,4)tensor([[0.,1.,2.,3.],[4.,5.,6.,7.],[8.,9.,10.,11.],[12.,13.,14.,15.],[16.,17.,18.,19.]])1.降维求和降维求和会沿指定轴降低张量的维度，使它变为一个标量。A_sum_axis0=A.sum(axi

_Lyang_·2023-12-29 06:24

如何使用 PyTorch 训练 LLM

PyTorch作为一种流行的深度学习框架，具有灵活性和易用性，为LLM的训练提供了强大的支持。本文将介绍如何使用PyTorch训练LLM的详细过程，并通过代码示例进行演示。

yule.yang·2023-12-29 06:52

【Pytorch】Pytorch或者CUDA版本不符合问题解决与分析

NVIDIACUDAToolkitReleaseNotesPackageinstallationissues【Pytorch】Pytorch或者CUDA版本不符合问题解决与分析1.版本不符问题解决与分析

大江东去浪淘尽千古风流人物·2023-12-29 06:18

中文OCR场景文字检测工具cnstd、文本框文字识别工具cnocr调试评测

这款很好用的工具项目地址为：https://github.com/breezedeus/cnstd目前基于PyTorch开发首先需要安装相关依赖： pipinstallcnstd pipinstallcnocr

achitc·2023-12-29 06:01

R2O语义分割: Refine and Represent: Region-to-Object Representation Learning

paper:arxiv.org/pdf/2208.11821v2.pdfrepolink:KKallidromitis/r2o:PyTorchimplementationofRefineandRepresent

追忆苔上雪·2023-12-29 06:04

pytorch模型转onnx

importtorchimporttorch.onnximportonnximportonnxruntimeimportnumpyasnpfromparse_argsimportparse_args,getModeldevice=torch.device("cpu")defto_numpy(tensor):returntensor.detach().cpu().numpy()iftensor.re

周星星✘·2023-12-29 05:36

本地部署 text-generation-webui

本地部署text-generation-webui0.背景1.text-generation-webui介绍2.克隆代码3.创建虚拟环境4.安装pytorch5.安装CUDA运行时库6.安装依赖库7.启动

engchina·2023-12-29 04:29

推荐频道

pytorch代码学习