CUDA杂记第10页

【LLM】Llama Factory：Windows部署全流程

（二）部署流程硬件准备驱动安装环境管理框架部署功能验证二、Nvidia驱动部署（硬件适配层）（一）必要性说明功能支撑：激活GPU的CUDA计算能力，为后续PyTorch框架提供硬件

T0uken·2025-04-02 09:49

print(torch.cuda.is_available())输出为False

print(torch.cuda.is_available())输出为False此时已根据自己需要的版本安装好CUDA、pytorch、CuDNN等。

筱文rr·2025-04-02 06:29

CUDA专题8—CUDA L2缓存完全指南：从持久化策略到性能优化实战

1.设备内存L2缓存访问管理当CUDA内核反复访问全局内存中的某个数据区域时，此类数据访问可视为持久化(persisting)访问。反之，若数据仅被访问一次，则可视为流式(streaming)访问。

AI专题精讲·2025-04-02 04:17

CUDA的L2缓存

理解当一个cudakernel重复的获取一个globalmemory数据的时候,可以认为这种数据访问是持久的。如果一个数据只访问一次，那么这个数据被认为"过客"。

s.feng·2025-04-01 23:31

亲测超简单pytorch3D安装教程！！！（已解决）

不需要花里胡哨各种麻烦，只确认好你需要的pytorch3d版本，你环境的python、cuda、pytorch版本，去官网下载对应的安装包https://anaconda.org/pytorch3d/pytorch3d

小秋今天也要加油吖·2025-04-01 18:22

NVCC编译Kernel函数的优化选项详解

NVCC编译Kernel函数的优化选项详解NVCC（NVIDIACUDACompiler）提供了多种优化选项来优化CUDAkernel函数的性能。

东北豆子哥·2025-04-01 15:34

python gpu加速_Python基于pyCUDA实现GPU加速并行计算功能入门教程

本文实例讲述了Python基于pyCUDA实现GPU加速并行计算功能。

weixin_39710288·2025-04-01 03:42

python调用cuda程序_使用Python写CUDA程序的方法

使用Python写CUDA程序的方法来源：中文源码网浏览：次日期：2018年9月2日【下载文档:使用Python写CUDA程序的方法.txt】(友情提示:右键点上行txt文档名->目标另存为)使用Python

weixin_39556702·2025-04-01 03:41

python基础：CUDA调用

torch.device("cpu:0")print("CPUDevice:【{}:{}】".format(cpu1.type,cpu1.index))#指定GPUgpu=torch.device("cuda

tofutoo·2025-04-01 03:10

Python调用CUDA

CUDA常用语法和函数CUDA(ComputeUnifiedDeviceArchitecture)是NVIDIA提供的一个并行计算平台和编程模型，允许开发者使用NVIDIAGPU进行高性能计算。

源代码分析·2025-04-01 03:09

pytorch调用手写CUDA算子和pybind11的使用

之前介绍了很多CUDA编写算子的代码，但是一直缺乏一个好的方法来证明自己手写算子的正确性，以及希望知道自己的手写算子在时间上和pytorch的差异，这里我们需要用到pybind11这个工具，这个工具可以将我们手写的

谨慎付费（看不懂试读博客不要订阅）·2025-04-01 03:09

CUDA的Python教程

CUDA（ComputeUnifiedDeviceArchitecture）是一种并行计算平台和编程模型，用于利用NVIDIAGPU（图形处理器）进行高性能计算。

代码飞翔·2025-04-01 03:08

002-Wsl-Ubuntu下Nvidia显卡驱动和Cuda Toolkit的安装-【AI超车-B计划】

一、目标成功安装window环境下Nvidia显卡驱动WSL-Ubuntu环境下Nvidia显卡驱动温馨提示：本系列教程仅讨论NVIDIA显卡，其它品牌显卡暂不涉及；二、路径检测Windows下是否安装显卡驱动如win下未安装驱动，则需安装，再次检测；检测WSL-Ubuntu下是否检测的到显卡驱动；如Ubuntu下未检测到驱动，则需安装，再次检测；三、笔记1、检测Windows下是否安装显卡驱动使

AI超车计划@产品江湖·2025-03-31 23:44

QtAV入门

硬件加速利用GPU解码（DXVA2、VAAPI、VideoToolbox、CUDA）。

byxdaz·2025-03-31 06:09

vLLM：高性能大语言模型推理框架源码解析与最佳实践

核心组件与类层次结构3.3.初始化阶段详细流程3.4.推理阶段详细流程3.5.完整调用链路示例3.6.关键调用路径总结vLLM关键工作机制4.1.PagedAttention机制4.2.连续批处理技术4.3.CUDA

gfengwong·2025-03-30 11:29

CUDA专题3：为什么GPU能改变计算？深度剖析架构、CUDA®与可扩展编程

1.简介1.1.使用GPU的优势图形处理器（GPU）在相近的成本和功耗范围内，能够提供比中央处理器（CPU）更高的指令吞吐量和内存带宽。许多应用程序利用这些优势，在GPU上的运行速度远超CPU（参见《GPU应用》）。其他计算设备（如FPGA）虽然能效也很高，但其编程灵活性远不及GPU。GPU与CPU的能力差异源于它们的设计目标不同。CPU旨在以最快速度执行单个线程（即一系列操作），并可并行执行数十

AI专题精讲·2025-03-29 20:22

Ubuntu LLaMA-Factory实战

一、UbuntuLLaMA-Factory实战安装：CUDA安装CUDA是由NVIDIA创建的一个并行计算平台和编程模型，它让开发者可以使用NVIDIA的GPU进行高性能的并行计算。

张3蜂·2025-03-29 19:20

服务器上Cuda+Pytorch兼容性的那些问题

服务器上如何搭建匹配版本的cuda+pytorch:1.查询nvidia中驱动版本与cuda最高兼容版本命令行输入：nvidia-smi2.选择对应的pythonDriverVersion与NVIDIA-SMI

入世浮尘·2025-03-29 18:42

开源深度学习框架PyTorch

2.强大的GPU加速使用CUDA

深海水·2025-03-29 07:21

OpenCV正确安装及环境变量配置

Windows10SDK和MSVC安装CMake（3.31.6）在.npmrc配置pnpmconfigsetauto-approve-buildstrue运行pnpminstall接下来是开启GPU加速，非必须安装CUDAToolkit

饺子大魔王12138·2025-03-28 19:27

配置Windows Docker、Hyper-V虚拟机和WSL的一些踩坑解决备忘（随时更新）

Docker的设置上主要是cuda等配置会有问题，不知道是不是版本的事儿.尝试WSL中，看上去显卡环境没问题，cuda可以配置，开源代码尝试中。。。

VRJerry·2025-03-28 01:49

基于EasyOCR实现的中文、英文图像文本识别

pipinstalleasyocr主要特点：多语言支持：支持80+种语言的识别，包括中文、英文、日文、韩文等简单易用：几行代码即可实现OCR功能预训练模型：提供开箱即用的预训练模型GPU加速：支持CUDA

听风吹等浪起·2025-03-27 15:31

DeepSeek 本地部署详细教程

4090或更高）显存：至少16GB（根据模型版本调整）内存：32GB及以上存储：50GB可用空间1.2软件依赖操作系统：Linux/WindowsWSL2（推荐Ubuntu20.04+）Python3.8+CUDA11.7

文or野·2025-03-27 04:07

RTX4070Ti架构解析与效能实测

具体而言，7680个CUDA核心的并行计算效率、12GBGDDR6X显存的带宽利用率，以及DLSS3与光线追踪技术的协同优化，将成为重点探讨方向。为直观呈

智能计算研究中心·2025-03-27 02:53

CUDA 学习(4)——CUDA 编程模型

由于结构的不同，具有不同的特点：CPU：擅长流程控制和逻辑处理，不规则数据结构，不可预测存储结构，单线程程序，分支密集型算法GPU：擅长数据并行计算，规则数据结构，可预测存储模式在现在的计算机体系架构中，要完成CUDA

哦豁灬·2025-03-27 02:51

【nvidia-B200 生产环境】NVIDIA 570.124.06+Cuda12.8 Ubuntu22.04 nccl-test 一键部署脚本（免修改复制即用）

目录1.初始化与日志记录2.安装基础工具与配置更新3.NVIDIA驱动安装570.124.064.安装MellanoxOFED24.10-2.1.8.05.安装CUDA12.86.安装NCCL和测试7.

清风 001·2025-03-26 18:00

V100架构深度优化指南

本指南聚焦架构层面的核心优化要素，系统梳理从TensorCore矩阵运算加速原理到NVLink多卡通信协议的底层工作机制，同时深入探讨CUDA任务调度模型与显存子系统的协同优化路径。

智能计算研究中心·2025-03-26 04:39

NVIDIA GTC 开发者社区Watch Party资料汇总

NVIDIAGTC开发者社区WatchParty资料汇总以下是所有涉及到的工具中文解读汇总，希望可以帮到各位：1.CUDA编程模型开发者指南和最新功能解析专栏2.NVIDIAWarp：高性能GPU模拟与图形计算的

扫地的小何尚·2025-03-26 00:41

在GpuGeek上创建实例如何自定义环境？

Step1：创建实例如果平台的镜像中没有您需要的Python、Cuda、框架版本，则可以选择Miniconda，然后按照自己需求进行环境安装。

·2025-03-25 13:48

cuda10.1降级（卸载+安装）

1.卸载:实测有用贴：https://blog.csdn.net/qq_34877350/article/details/81185447https://blog.csdn.net/m0_37951243/article/details/90051494https://blog.csdn.net/u012074597/article/details/803172752.安装9.0

Silber666·2025-03-25 11:02

怎么在linux服务器选择GPU进行训练模型？

然后选择第0个和第1个GPU进行使用：CUDA_VISIBLE_DEVICES=0,1pythontrain.py设置CUDA_VISIBLE_D

LRJ-jonas·2025-03-25 07:03

【CUDA】了解GPU架构

以Fermi架构为例，其包含以下主要组成部分：CUDAcoresSharedMemory/L1CacheRegisterFileLoad/StoreUnitsSpecialFun

GG_Bond21·2025-03-25 04:07

保姆级大模型学习路线！清华博士耗时半年整理的14个核心阶段，文科生也能跟着冲！（附论文笔记+项目源码+训练技巧）

2023行业调查报告显示：92%学习者停滞在微调阶段，核心痛点集中在：论文看不懂：Transformer源码像天书环境配不好：CUDA版本冲突天天报错算力不够用：

大模型入门教程·2025-03-25 01:17

【AI大模型】搭建本地大模型GPT-NeoX：详细步骤及常见问题处理

1.系统要求1.1硬件要求1.2软件要求操作系统:Linux(推荐Ubuntu20.04或更高版本)CUDA:11.2或更高版本Python

qzw1210·2025-03-24 09:13

vggt 3d重建相机位姿，新视角生成

vggtimporttorchfromvggt.models.vggtimportVGGTfromvggt.utils.load_fnimportload_and_preprocess_imagesdevice="cuda"iftorch.cuda.is_available

AI算法网奇·2025-03-24 05:32

SenseVoice 部署记录

首先部署好conda环境和cuda，这个可以查看他人的文章。

安静六角·2025-03-23 23:09

【最新】TensorFlow、cuDNN、CUDA三者之间的最新版本对应及下载地址

TensorFlow、cuDNN、CUDA对应关系官网查询地址CUDA下载地址cuDNN下载地址VersionPythonversionCompilerBuildtoolscuDNNCUDAtensorflow_gpu

江上_酒·2025-03-23 21:25

PyTorch核心基础知识点

niuTaylor·2025-03-23 21:20

os.environ[‘CUDA_VISIBLE_DEVICES‘] = 的用法

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录os.environ['CUDA_VISIBLE_DEVICES']=单值作用os.environ['CUDA_VISIBLE_DEVICES

@锦瑟五十弦·2025-03-23 12:06

位宽512bit显卡_6144 CUDA/512bit位宽 Maxwell架构曝光

现在网上又流传开Maxwell的架构设计了，旗舰GM100将有6144个CUDA核心，512bit位宽显

李涛PS·2025-03-23 06:45

CUDA 学习(3)——CUDA 初步实践

1定位threadCUDA中提供了blockIdx,threadIdx,blockDim,GridDim来定位发起thread，下面发起1个grid，里面有2个block，每个block里有5个threads

哦豁灬·2025-03-23 05:08

pytorch v1.4.0安装问题

直接使用conda安装报错：(CenterNet)C:\Users\16323>condainstallpytorch==1.4.0torchvision==0.5.0cudatoolkit=10.1-

大柠丶·2025-03-23 05:32

Windows和Linux系统上的Mamba_ssm环境配置

第二种方法（感觉可靠）3、第三种方法：直接下载大神编译好的文件进行安装2）、安装mamba-ssm1、第一种方法2、第二种方法：直接下载大神编译好的文件进行安装一、Linux系统安装如果自己的系统不是cuda11.8

清纯世纪·2025-03-23 04:23

Ubuntu和Windows系统之Mamba_ssm安装

Ubuntu安装直接新建一个环境是最好的，不然很容易产生各种冲突#创建环境和相关包condacreate-nmambapython=3.10.13condaactivatemambacondainstallcuda

Netceor·2025-03-23 04:50

不用再当“技术宅“！这个AI神器让我5分钟变身人工智能达人

可每次想自己试试，打开教程就被满屏的代码吓退——"Python环境配置"、"CUDA驱动安装"这些词比数学作业还让人头疼。

阳光永恒736·2025-03-22 20:01

GPU计算的历史与CUDA编程入门

GPU计算的历史与CUDA编程入门背景简介GPU计算的历史可以追溯到早期的并行计算研究，如今已发展成为计算机科学中的一个重要分支。

己见明·2025-03-22 12:49

GTC 2025 中文在线解读

GTC2025中文在线解读｜CUDA最新特性与未来[WP72383]NVIDIAGTC大会火热进行中，一波波重磅科技演讲让人应接不暇，3月24日，NVIDIA企业开发者社区邀请KenHe、YipengLi

扫地的小何尚·2025-03-22 11:17

英伟达消费级RTX显卡配置表

显卡型号显存大小显存频率显存位宽显存带宽CUDA核心数TDP（功耗）上市年份RTX409024GB21Gbps384-bit1,008GB/s16,384450W2022RTX4080(16GB)16GB22.4Gbps256

真相很简单·2025-03-22 10:35

3090显卡Ktransformer本地部署deepseek R1:70B

这里写自定义目录标题效果完成视频：配置参考依赖安装安装cuda配置环境下载deepseekR170B下载ktransoformer开始安装运行Web启动常见问题runtimeerrordon'tmatch

SIATdog·2025-03-21 20:59

【ai】mocap：conda 安装python3.8+ cuda+ pytorch+torchaudio、torchvision

安装pytorch就是会带上cudacudnn啥的pytorch【ai】tx2nx：安装torch、torchvisionforyolov5这里就发现pytorch和torchvision有依赖关系的，

等风来不如迎风去·2025-03-21 05:41

推荐频道

CUDA杂记