CUDA并行编程

【大模型】DeepSeek-R1-Distill-Qwen部署及API调用

当前模型开源后，我们可以将其部署，使用API方式进行本地调用1.部署环境本文中的部署基础环境如下所示：PyTorch2.5.1Python3.12(ubuntu22.04)Cuda12.4GPURTX3090

油泼辣子多加·2025-03-10 17:29

opencv cuda例程 OpenCV和Cuda结合编程

本文转载自：https://www.fuwuqizhijia.com/linux/201704/70863.html此网页，仅保存下来供随时查看一、利用OpenCV中提供的GPU模块目前，OpenCV中已提供了许多GPU函数，直接使用OpenCV提供的GPU模块，可以完成大部分图像处理的加速操作。该方法的优点是使用简单，利用GpuMat管理CPU与GPU之间的数据传输，而且不需要关注内核函数调用参

weixin_44602056·2025-03-10 16:27

利用CUDA与OpenCV实现高效图像处理：全面指南

利用CUDA与OpenCV实现高效图像处理：全面指南前言在现代计算机视觉领域，图像处理的需求日益增加。无论是自动驾驶、安防监控，还是医疗影像分析，图像处理技术都扮演着至关重要的角色。

快撑死的鱼·2025-03-10 16:25

linux 下 CUDA + Opencv 编程之 CMakeLists.txt

CMAKE_MINIMUM_REQUIRED(VERSION2.8)PROJECT(medianFilterGPU)#CUDApackageFIND_PACKAGE(CUDAREQUIRED)INCLUDE

maxruan·2025-03-10 16:23

Win11及CUDA 12.1环境下PyTorch安装及避坑指南：深度学习开发者的福音

Win11及CUDA12.1环境下PyTorch安装及避坑指南：深度学习开发者的福音【下载地址】Win11及CUDA12.1环境下PyTorch安装及避坑指南本资源文件旨在为在Windows11操作系统及

郁云爽·2025-03-10 16:52

CUDA编程之OpenCV与CUDA结合使用

OpenCV与CUDA的结合使用可显著提升图像处理性能。

byxdaz·2025-03-10 15:48

Pycharm搭建CUDA，Pytorch教程（匹配版本，安装，搭建全保姆教程）_cuda12(1)

查看cuda版本![](https://img-blog.csdnimg.cn/direct/ba9a3507f82a43b8891b42ab1566a71c.png)输入setcuda查看环境变量!

2401_84557821·2025-03-10 08:56

jupyter notebook参数化运行python

Updates（2019.8.1419:53）吃饭前用这个方法实战了一下，吃完回来一看好像不太行：跑完一组参数之后，到跑下一组参数时好像没有释放之占用的GPU，于是notebook上的结果，后面好几条都报错说cudaoutofmemory

HackerTom·2025-03-10 02:11

win11编译llama_cpp_python cuda128 RTX30/40/50版本

Geforce50xx系显卡最低支持cuda128，llama_cpp_python官方源只有cpu版本，没有cuda版本，所以自己基于0.3.5版本源码编译一个RTX30xx/40xx/50xx版本。

System_sleep·2025-03-10 01:02

MapReduce：分布式并行编程的基石

目录概述分布式并行编程分布式并行编程模型分布式并行编程框架MapReduce模型简介Map和Reduce函数Map函数Map函数的输入和输出Map函数的常见操作Reduce函数Reduce函数的输入和输出

JAZJD·2025-03-10 01:31

GPU编程实战指南03：CUDA开发快速上手示例，GPU性能碾压实测

上一节《GPU编程指南02：CUDA开发快速上手示例》中我们完成了一个使用GPU进行加减乘除四则运算的例子。

anda0109·2025-03-09 15:34

DeepSeek R1-32B医疗大模型的完整微调实战分析（全码版）

DeepSeekR1-32B微调实战指南├──1.环境准备│├──1.1硬件配置││├─全参数微调：4*A10080GB││└─LoRA微调：单卡24GB│├──1.2软件依赖││├─PyTorch2.1.2+CUDA

Allen_LVyingbo·2025-03-09 11:33

记录 | python os添加系统环境变量

python中通过os来添加系统环境变量：#设置os系统环境变量os.environ['CUDA_VISIBLE_DEVICES']='0'os.environ['p2c']='1'os.environ

极智视界·2025-03-09 10:00

GPU编程实战指南01：CUDA编程极简手册

目录1.CUDA基础概念1.1线程层次结构1.2内存层次结构2.CUDA编程核心要素2.1核函数2.2内存管理2.3同步机制3.CUDA优化技巧3.1内存访问优化3.2共享内存使用3.3线程分配优化4.

anda0109·2025-03-09 09:20

安装CUDA12.1和torch2.2.1下的DKG

1.创建python虚拟环境setNO_PROXY=*condadeactivatecondaenvremove-nfindkgcondacreate-nfindkgpython=3.11condaactivatefindkgcondainstallpackagingsetuptoolspipuninstallnumpycondainstallnumpy=1.24.3请注意，DKG需要python

超级无敌大好人·2025-03-09 07:07

win11编译pytorch cuda128版本流程

Geforce50xx系显卡最低支持cuda128，torchcu128release版本目前还没有释放，所以自己基于2.6.0源码自己编译wheel包。

System_sleep·2025-03-07 09:05

【学习笔记5】Linux下cuda、cudnn、pytorch版本对应关系

一、cuda和cudnnNVIDIACUDAToolkit（CUDA）为创建高性能GPU加速应用程序提供了一个开发环境。

longii11·2025-03-07 08:56

yolov8训练模型、测试视频

1、训练代码train.pyimportos#os.environ["CUDA_VISIBLE_DEVICES"]="3"#同样是选择第3块GPUfromultralyticsimportYOLO#L

灰灰学姐·2025-03-06 21:12

解决No such file or directory: ‘:/usr/local/cuda:/usr/local/cuda:...‘

【报错】error:[Errno2]Nosuchfileordirectory:':/usr/local/cuda:/usr/local/cuda:/usr/local/cuda:/usr/local/

北冰洋漂流·2025-03-06 00:42

PyTorch 与 NVIDIA GPU 的适配版本及安装

PyTorch与NVIDIAGPU的适配版本需要通过CUDA和cuDNN来实现。以下是详细的安装教程，包括如何选择合适的PyTorch版本以及如何配置NVIDIAGPU环境。

小赖同学啊·2025-03-05 19:05

C++使用Onnxruntime/TensorRT模型推理

.pth模型进行推理python下依据模型推理实现从.pth转向.onnxpython下基于.onnx进行推理，与后续两种推理方式种的推理结果进行比较环境windows10+RTX308015GB显存cuda11.3onnxru

奇华智能·2025-03-05 16:30

NCU使用指南及模型性能测试（pytorch2.5.1）

OverviewNsightCompute(NCU)是NVIDIA提供的GPU内核级性能分析工具，专注于CUDA程序的优化。它提供详细的计算资源、内存带宽、指

Jakari·2025-03-05 02:05

高性能计算中如何优化内存管理？

例如，在CUDA编程中，可以使用内存池来管理GPU内存，从而提高内存访问效率。异构内存管理：在异构计算环境中（如CPU+GPU），采用统一内存管理（UnifiedMemory）或智能数据迁移策略，

·2025-03-04 22:52

图像识别技术与应用课后总结（12）

全局平均池化（GlobalAveragePooling）1.导入库和设备配置importtorch.nnasnnimporttorch.nn.functionalasFdevice=torch.device("cuda

一元钱面包·2025-03-04 14:37

RuntimeError: CUDA error:device.side assert triggered（tensor形状有误）

报错如下：RuntimeError:CUDAerror:device.sideasserttriggeredCUDAkernelerrorsmightbeasynchronouslyreportedatsomeotherAPIcall

Gidear·2025-03-04 10:03

莫名奇妙的异常009：mysql row size too large＞8126

临时解决可以这样：1.设置mysql全局变量设置命令：SETGLOBALinnodb_file_format='Barracuda';检查命令：showGLOBALVARIABLESLIKE'%file_format

杨友山·2025-03-04 05:28

mysql row size too large_mysql 错误 Row size too large (> 8126)解决办法

基础设置：innodb_file_per_table=1innodb_file_format=Barracuda如果解决不了，

譃七唯·2025-03-04 05:26

使用pytorch和opencv根据颜色相似性提取图像

importcv2importtorchimportnumpyasnpimporttimedefget_similar_colors(image,color_list,threshold):#将图像和颜色列表转换为torch张量device=torch.device('cuda'iftorch.cuda.is_available

深蓝海拓·2025-03-03 15:34

分布式多卡训练(DDP)踩坑

单卡训练语句（正常运行）：pythonmain.py多卡训练语句：需要通过torch.distributed.launch来启动，一般是单节点，其中CUDA_VISIBLE_DEVICES设置用的显卡编号

m0_54804970·2025-03-03 11:05

Torch安装必知

从硬件到Torch的支持链条如下Nvidia显卡Nvidia显卡驱动CudaTorchCudnncudnn对torch不是必需，部分项目会依赖cudnn。

m0_52111823·2025-03-03 08:43

win11编译pytorchvision cuda128版本流程

1.前置条件本篇续接自win11编译pytorchcuda128版本流程，阅读前请先参考上一篇配置环境。

System_sleep·2025-03-02 13:04

科技快讯 | DeepSeek宣布开源DeepGEMM；多个团队开发AI论文反识别技术；OpenAI GPT 4.5现身Android测试版，即将发布

该库采用CUDA编写，在安装过程中无需编译，通过使用轻量级的即时编译（JIT）模块在运行时编译所有内核。FP

最新科技快讯·2025-03-01 23:18

【学习】电脑上有多个GPU，命令行指定GPU进行训练。

CUDA_VISIBLE_DEVICES=1假设要使用第二个GPU进行训练。CUDA_VISIBLE_DEVICES=1pythontrain.py

超好的小白·2025-03-01 19:18

window11和Ubuntu20.04安装Nvidia驱动和CUDA的正确方法

双系统安装Win11Ubuntu20.04双系统安装解决ubuntu+win11双系统时间不一致问题Ubuntu:系统分区一、安装Nvidia驱动参考：Ubuntu20.04安装NVIDIA显卡驱动、CUDA

qq_29128985·2025-03-01 07:20

Anaconda配置tensorflow-gpu教程

最近在入门tensorflow深度学习，配置环境吃了不少苦头，写个完整的教程首先得在自己主机上装cuda（我之前就是主机上没装cuda,只在虚拟环境里面装了，结果jupyter里面怎么调都识别不到GPU

rubisco214·2025-02-28 22:19

Stable diffusion 3.5本地运行环境配置记录

condacreate-nsd3.5python=3.10Pytorch(>2.0)condainstallpytorch==2.2.2torchvision==0.17.2torchaudio==2.2.2pytorch-cuda

寸先生的牛马庄园·2025-02-28 09:38

解读CUDA Compiler Driver NVCC - Ch.3

本篇文章了解CUDA源文件编译的整个workflow。

AliceWanderAI·2025-02-27 05:25

NVIDIA CUDA Compiler Driver NVCC

NVIDIACUDACompilerDriverNVCC4.2.8.23.`--list-gpu-code`(`-code-ls`)4.2.8.24.

Yongqiang Cheng·2025-02-27 05:23

安装CUDA以及GPU版本的pytorch

于是搜索便知道了CUDA。下面给出一个自检的建议：检查cuda的版本是否适配自己的GPU。

lskkkkkkkkkkkk·2025-02-26 21:53

下载cuda11.2+cudnn8.1+tensorflow-gpu2.5

安装cuda11.2和cudnn8.1要注意自己的版本，目前tensorflow-gpu2.5或最高版本tensorflow-gpu2.6只支持cuda11.2和cudnn8.1。

听微雨·2025-02-26 14:03

DL之IDE：深度学习环境安装之Tensorflow/tensorflow_gpu+Cuda+Cudnn(最清楚/最快捷)之详细攻略(图文教程)

DL之IDE：深度学习环境安装之Tensorflow/tensorflow_gpu+Cuda+Cudnn(最清楚/最快捷)之详细攻略(图文教程)导读本人在Win10下安装深度学习框架Tensorflow

一个处女座的程序猿·2025-02-26 11:43

flash_attn安装

flash_attn安装1.cuda-nvcc安装https://anaconda.org/nvidia/cuda-nvcc2.torch安装#https://pytorch.org/#找到对应cuda

壶小旭·2025-02-26 03:46

【python】flash-attn安装

这个命令：确保使用正确的CUDA12.6工具链设置必要的CUDA环境变量包含了常见的GPU架构支持利用你的128核心进行并行编译#清理之前的安装proxychains4pipuninstall-yflash-attn

x66ccff·2025-02-26 03:43

llama-cpp-python本地部署并使用gpu版本

使用带编译的命令安装llama库#首选GGML_CUDA后续LLAMA_CUBLAS将删除CMAKE_ARGS="-DGGML_CUDA=on"FORCE_CMAKE=1pipinstallllama-cpp-python

i__chen·2025-02-26 02:03

PyNvVideoCodec解码使用

解码视频生成器例子，支持解码视频和视频流try:importtimefromfunctoolsimportwrapsimportcv2importnumpyasnpimportpycuda.driverascudaimportPyNvVideoCodecasnvcimportctypesasCimportosexceptImportErrorase

huomama·2025-02-25 22:11

PaddleOCR环境搭建(记录)

需nvidia下载zlib包即C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v1

江木27·2025-02-25 21:04

Miniconda配置——conda虚拟环境的日常使用

xMiniconda3-latest-Linux-x86_64.shbashMiniconda3-latest-Linux-x86_64.sh#记住更新PATH到~/.bashrc时选noConda、CUDA

guikunchen·2025-02-25 06:13

RTX 3090图形处理巅峰性能解析

通过对比测试数据与工程原理分析，重点探讨24GBGDDR6X显存在8K分辨率场景下的带宽利用率，以及10496个CUDA核心在光线追踪与深度学习超采样（DLSS）任务中的动态负载分

智能计算研究中心·2025-02-25 03:26

pytorch3d安装记录

pytorch3d/blob/main/INSTALL.md通过pip或conda可以很容易安装上预编译好的包，安装过程不会报错，但是使用的时候就会报各种错误，原因是预编译好的包跟自己的环境不一定匹配，比如CUDA

leo0308·2025-02-24 23:57

cap4：YoloV5的TensorRT部署指南（python版）

《TensorRT全流程部署指南》专栏文章目录：《TensorRT全流程部署指南》专栏主页cap1：TensorRT介绍及CUDA环境安装cap2：1000分类的ResNet的TensorRT部署指南（

我是一个对称矩阵·2025-02-24 21:14

推荐频道