cuda

使用Thrust库实现异步操作与回调函数

使用Thrust库实现异步操作与回调函数在Thrust库中，你可以通过CUDA流(stream)来实现异步操作，并在适当的位置插入回调函数。
东北豆子哥·2025-05-14 23:59

YOLOv8 TensorRT 部署（Python 推理）保姆级教程

1.部署前的准备1.1硬件要求NVIDIAGPU（如RTX3060/4090、Jetson系列）或RK3588NPU（支持TensorRT）CUDA（如11.x）、cuDNN、TensorRT已正确安装可运行
码农的日常搅屎棍·2025-05-14 22:48

如何判断IP是否被平台标记

示例命令：bashping8.8.8.8#检测延迟与丢包率traceroute8.8.8.8#定位网络瓶颈黑名单查询工具推荐：MXToolbox：检查IP是否被反垃圾邮件组织（如Spamhaus、Barracuda
IP管家·2025-05-14 20:34

【Linux】在Arm服务器源码编译onnxruntime-gpu的whl

服务器信息：aarch64架构ubuntu20.04nvidiaT4卡编译onnxruntime-gpu前置条件：已经安装合适的cuda已经安装合适的cudnn已经安装合适的cmake源码编译onnxruntime-gpu
阿颖&阿伟·2025-05-13 20:31

使用阿里开源大模型通义千问Qwen进行推理

）已经安装ubutun22.04如何学习大模型技术赋能业务和垂直领域(1):安装双操作系统_大模型操作系统用windows还是linux-CSDN博客（2）Ubuntu安装英伟达Nvidia显卡驱动-CUDA-cuDNNUbuntu
云博士的AI课堂·2025-05-13 11:03

llama.cpp无法使用gpu的问题

使用cuda编译llama.cpp后，仍然无法使用gpu。./llama-server-m../../../../..
米有哥·2025-05-13 05:22

ubuntu安装k8s+docker运行英伟达gpu cuda

安装k8s+dockersealosresetsealosrunregistry.cn-shanghai.aliyuncs.com/labring/kubernetes-docker:v1.27.7registry.cn-shanghai.aliyuncs.com/labring/helm:v3.9.4registry.cn-shanghai.aliyuncs.com/labring/cilium
青年夏日科技工作者·2025-05-12 22:40

Win7编译GPU版llama.cpp部署deepseek-r1等大模型记录

感谢“一只喜欢摄影的程序猿”的评论，在Windows7确实可以安装cuda11.6，我的情况是安装过程没报错，但是cuda11.6无效。
mygodalien·2025-05-12 20:25

复现MAET的环境问题（自用）

我的配置是3090，CUDAVersion:12.4配置环境时总有冲突，解决好的环境如下如果你的配置也是CUDA12.4，可以把下面的配置信息保存成environment.yml文件然后执行下面的代码创建环境即可
小汪学不会·2025-05-12 19:52

OpenCVCUDA 模块中在 GPU 上对图像或矩阵进行 边界填充（padding）函数copyMakeBorder()

操作系统：ubuntu22.04OpenCV版本：OpenCV4.9IDE:VisualStudioCode编程语言：C++11算法描述cv::cuda::copyMakeBorder是OpenCV的CUDA
村北头的码农·2025-05-12 15:49

PyTorch 中如何针对 GPU 和 TPU 使用不同的处理方式

示例代码：importtorchimporttime#---GPU示例---print("---GPU示例---")#检查是否有可用的GPU(CUDA)iftorch.cuda.is_available
frostmelody·2025-05-12 10:43

如何用AMD显卡部署模型/进行推理

本文将从两方面进行介绍如何在A卡上是用pytorch如何使用C++调用模型前置知识众所周知，使用N卡进行训练或推理的话，首先要有驱动，然后要有cuda。那么A卡同理，驱动是什么应该不用多
别来这个网址·2025-05-12 07:22

《GPU高性能编程CUDA实战》中文版电子书

《GPU高性能编程CUDA实战》中文版电子书【下载地址】GPU高性能编程CUDA实战中文版电子书探索GPU高性能编程的奥秘，掌握CUDA实战技巧！
翁佳忱·2025-05-12 04:36

llamafactory-cli cuda 显存动不动不够的一个解决办法

太不够就不要看了。使用一些模型之前还是多了解自己的显卡够不够格。其实关键就是使用deepspeed以及各种参数调整。以下是使用deepspeed的命令，记一笔为了以后改参数。deepspeed--num_gpus2\/mcm/LLaMA-Factory/src/train.py--deepspeed\/mcm/LLaMA-Factory/examples/deepspeed/ds_z3_confi
取啥都被占用·2025-05-11 18:35

报错Detected that PyTorch and torchvision were compiled with different CUDA major versions. PyTorch ha

完整报错：DetectedthatPyTorchandtorchvisionwerecompiledwithdifferentCUDAmajorversions.PyTorchhasCUDAVersion
不当菜鸡的程序媛·2025-05-10 23:30

CUDA：out of memory的解决方法（实测有效）

一、问题概述1.问题分析CUDAoutofmemory问题通常发生在深度学习训练过程中，当GPU的显存不足以容纳模型、输入数据以及中间计算结果时就会触发。
摆烂仙君·2025-05-09 20:30

量子机器学习中的GPU加速实践：基于CUDA Quantum的混合编程模型探索

本文聚焦于‌CUDAQuantum混合编程模型‌，深入探讨如何通过GPU加速技术突破量子机器学习的算力瓶颈。我们将结合NVIDIA最新量子计算框架，解析量子-经
九章云极AladdinEdu·2025-05-09 01:56

GPU软硬件架构协同设计解析

一、硬件架构的核心设计原则流式多处理器（SM）的模块化设计计算单元分层：每个SM包含多个CUDA核心（如NVIDIAH100SM含128个FP32核心）、TensorCore（AI加速）及RTCore（
ShineSpark·2025-05-09 01:26

报错未解决：python3.6.12+ pytorch1.4.0 tookit/cuda10.0

Collectingpackagemetadata(current_repodata.json):doneSolvingenvironment:failedwithinitialfrozensolve.Retryingwithflexiblesolve.Solvingenvironment:failedwithrepodatafromcurrent_repodata.json,willretryw
Tony Einstein·2025-05-08 09:44

CUDA：实现NPP过滤器实例

CUDA：实现NPP过滤器实例#ifdefined(WIN32)||defined(_WIN32)||defined(WIN64)||defined(
源代码大师·2025-05-07 16:59

错误信息 ModuleNotFoundError: No module named ‘vllm._C‘解决方法（windows下暂未找到解决办法，待补充）

结合日志中的Triton警告，可能原因包括：•CUDA环境配置错误（版本不匹配或驱动异常）•vLLM安装时未正确编译C++扩展（常见于Windows系统）•
老兵发新帖·2025-05-07 13:09

conda 安装cudnn

通过Conda安装cuDNN确保你有NVIDIAGPU和CUDAToolkit：首先，确保你的系统上安装了NVIDIAGPU和CUDAToolkit。
前行居士·2025-05-07 11:28

TensorRT plugin插件编写

TensorRTplugin插件编写参考CUDA与TensorRT部署部署实战第四章实现TensorRT自定义插件(plugin)自由！
Darchan·2025-05-07 11:55

模型部署技巧（一）

模型部署技巧（一）以下内容是参考CUDA与TensorRT模型部署内容第六章，主要针对图像的前/后处理中的trick。
Darchan·2025-05-07 10:52

deepseek-glm4-grpo训练

一、目录1.grpo重新训练已经微调的glm4模型二、实现1.grpo重新训练已经微调的glm4模型1.1指令：CUDA_VISIBLE_DEVICES=1nohuppythontest.py--model_name_or_path
贾亚飞·2025-05-07 06:55

deepseek-glm4-grpo训练

一、目录1.grpo重新训练已经微调的glm4模型二、实现1.grpo重新训练已经微调的glm4模型1.1指令：CUDA_VISIBLE_DEVICES=1nohuppythontest.py--model_name_or_path
贾亚飞·2025-05-07 06:55

torch安装踩坑记录

importtorch报错ImportError:DLLloadfailed:Thespecifiedmodulecouldnotbefoundwin10cuda90torch==1.1.0fromtorch
GISer_流浪·2025-05-07 05:50

Qwen2-VL出现RuntimeError: CUDA error: too many resources requested for launch CUDA kernel errors的解决方案

  大家好，我是爱编程的喵喵。双985硕士毕业，现担任全栈工程师一职，热衷于将数据思维应用到工作与生活中。从事机器学习以及相关的前后端开发工作。曾在阿里云、科大讯飞、CCF等比赛获得多次Top名次。现为CSDN博客专家、人工智能领域优质创作者。喜欢通过博客创作的方式对所学的知识进行总结与归纳，不仅形成深入且独到的理解，而且能够帮助新手快速入门。  本文主要介绍了Qwen2-VL出现RuntimeE
爱编程的喵喵·2025-05-07 04:44

安装深度环境anaconda+cuda+cudnn+pycharm＋qt＋MVS

下载cuda链接：https://developer.nvidia.com/cuda-toolkit-archive下载cudnn安装包,链接：https://developer.nvidia.com/
PinoLio·2025-05-06 16:36

C++下的libtorch部署——（三）window10下的Visual Studio配置libtorch

安装libtorch之前，要先安装好cuda以及对应的pytorch。
想要躺平的一枚·2025-05-06 08:08

【深度学习环境配置】Anaconda + Pycharm + CUDA + cuDNN + Pytorch + Opencv

如何在Ubuntu20.04上安装OpenCV-腾讯云开发者社区-腾讯云(tencent.com)OpenCV(OpenSourceComputerVisionLibrary)是一个开源的计算机视觉库，支持所有主流操作系统上的C++，Python，和Java。它可以发挥多核进程和GPU加速，用于实时操作。OpenCV应用广泛，包括医疗图片分析，街景图片处理，监视视频，探测和识别面部，追踪移动物体，
生活需要深度·2025-05-06 04:45

cuda+cudnn+pytorch2.2安装

之前安装GPU一直是囫囵吞枣，秉承能用就行的原则，现在尝到了恶果，从这次开始记录电脑的配置环境由于要复现一篇文章代码，他用的torch=2.2，同时由于复现代码导致突然原来的cuda报错OSError:
不是谁只是我·2025-05-06 00:18

各版本cuDNN驱动下载地址

https://developer.nvidia.com/rdp/cudnn-archiveCUDA9.0：下载网址https://developer.nvidia.com/cuda-90-download-archive
花咪·2025-05-05 11:27

X-AnyLabeling标注环境部署指南

全局环境准备anaconda最新cuda11.8cudnn8.9.7tensorrt8.6.1数据集标注环境准备标注软件：X-AnyLabeling从源码处编译安装：gitclonehttps://github.com
chonpsk·2025-05-05 05:48

抽空给笔记本装个显卡驱动，pytorch+CUDA docker 环境配置

点击查看如何使用显卡运行gazebo~一文搞懂CUDA问题，警告：买不起显卡的勿进以下内容由GPT组织，GPT味道
鱼香ROS·2025-05-05 02:55

基于cuda12.1安装pytorch-gpu

最近翻新了显卡，又得重新装一次环境。因课题需要，特别需要pytorch和tensorflow的gpu版本，为了方便大家装环境，故将这次重装pytorch-gpu过程给大家做个参考，期间需要的安装包也放在某盘了，需要可以自取。安装Anaconda（如果未安装的话）。Anaconda是一个Python的科学计算发行版，包含了大量常用的数据科学和机器学习库。前往Anaconda网站的下载页面（https
PZLXR·2025-05-05 02:55

pytorch-lightning环境配置记录（win11+anaconda）

我们的需求是CUDA版本，torch版本，lightning版本相匹配。
小蜗牛( ˙-˙ )·2025-05-05 02:24

在window10系统64位+python3.10上安装Pytorch3D教程

建议直接下载源码编译，这样最安全本次版本如下：python=3.10torch=2.3.1cuda=11.8注意cuda
ntr亚丝娜（我永远喜欢千花书记）·2025-05-04 23:09

PyTorch与神经网络

CPU上的整型、浮点型、比特型张量数据类型为torch.IntTensor、torch.FloatTensor、torch.ByteTensor，GPU上的整型、浮点型、比特型张量数据类型为torch.cuda.IntTensor
你的凡王·2025-05-04 23:04

Ubuntu24.04安装Anaconda3+Pycharm

Anaconda3和Pycharm及其环境搭建Ubuntu18.04安装Pycharm教程ubuntu系统安装Anaconda及Pycharm在移动硬盘上搭建Ubuntu24.04深度学习环境（Anaconda+CUDA
一个没有本领的人·2025-05-04 20:48

Cuda Instruction Replay

在CUDA编程中，指令重放（InstructionReplay）是GPU执行指令时因特定原因导致指令需重复发射或重新执行的现象，通常会影响性能。
ZhiqianXia·2025-05-04 16:20

CUDA Toolkit 12.9 与 cuDNN 9.9.0 发布，带来全新特性与优化

NVIDIA近日发布了CUDAToolkit12.9，为开发者提供了一系列新功能和改进，旨在进一步提升GPU加速应用的性能和开发效率。
love530love·2025-05-04 13:30

nerfstudio搭建 win11踩坑记录之tinycudann

tinycudann安装安装方法1安装方法2错误原因：解决方法：测试：参考安装方法1pipinstallgit+https://github.com/NVlabs/tiny-cuda-nn/#subdirectory
qq_41295301·2025-05-04 08:01

PyTorch_指定运算设备 （包含安装 GPU 的 PyTorch）

将张量移动到GPU上有两种方法：使用cuda方法直接在GPU上创建张量使用to方法指定设备安装含有GPU的PyTorch通过这个可以判断电脑里是否已经安装CUDAimporttorchprint(torch.cuda.is_available
CHNMSCS·2025-05-04 06:15

Detectron2 安装问题解决方案

Detectron2安装问题解决方案问题描述安装Detectron2时遇到以下错误：ImportError:libtorch_cuda_cu.so:cannotopensharedobjectfile:
angrunzheng·2025-05-03 20:14

首发！Llama3纯本地部署攻略！中文方法！

整好周六日有时间，在魔搭社区上测试一下一、启动环境登录魔搭社区，到自己的机器资源，可以看到，可选的机器配置，这里我们选择：8核32G内存，24G显存；预装ModelScope预装镜像为：ubuntu22.04-cuda12.1.0
添财小哥·2025-05-03 04:21

GPU虚拟化实现（五）

GPU虚拟化实现（五）章节回顾初步介绍详细介绍核心数据结构核心功能和运作机制初始化显存分配显存释放显存溢出检查显存类型检查查看分配信息代码执行流程假设例子总结章节回顾在上一章，简单介绍了项目拦截cuda
想看一次满天星·2025-05-03 04:19

YOLOv5的gpu训练环境安装（windows系统，anaconda虚拟python环境）

本人在用YOLOv5进行物体检测时，使用使用detect.py文件时无法调用gpu，下载了pytorch的gpu版本后代码运行会报错，错误信息说是CUDA环境不正确，为此整理了一下CUDA和pytorch
wifi11·2025-05-02 14:18

超越CUDA：ROCm与oneAPI在异构计算中的性能对比实验（国产GPU生态下的开发路径探索）

一、异构计算生态的竞争格局当前异构计算领域呈现“一超多强”格局：英伟达凭借‌CUDA生态‌占据90%以上的AI训练市场份额‌，而AMD的‌ROCm‌与英特尔的‌oneAPI‌通过差异化技术路线持续挑战其垄断地位
学术猿之吻·2025-05-02 12:38

CUDA编程高阶优化：如何突破GPU内存带宽瓶颈的6种实战策略

本文面向具备CUDA基础的研究者，从寄存器、共享内存到TensorCore，系统剖析6项突破性优化策略，助你充分释放GPU算力。
学术猿之吻·2025-05-02 12:08
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他