CUDA编程入门第4页

【CUDA】Pytorch_Extensions

【CUDA】Pytorch_Extensions为什么要开发CUDA扩展？

joker D888·2025-02-20 15:28

本地搭建小型 DeepSeek 并进行微调

1.环境准备Python3.7或更高版本PyTorch1.8或更高版本CUDA(可选，用于GPU加速)Git2.克隆DeepSeek仓库bash复制gitclonehttps://github.com/

非著名架构师·2025-02-20 15:55

auto-gptq安装以及不适配软硬件环境可能出现的问题及解决方式

2、auto-gptq安装3、auto-gptq不正确安装可能会出现的问题（1）爆出：`CUDAextensionnotinstalled.`（2）没有报错但是推理速度超级慢1、auto-gptq是什么

IT修炼家·2025-02-20 12:00

《从编程小白到人工智能大神：大学新生Python入门攻略》

希望本文能帮助作为大学新生的你们在编程入门的过程中少走弯路，提供一条清晰有效的学习路径。一、编程语言选择作为编程新手，选择一门适合自己的编程语言至关重要。对于希望进入人工智能领

千帆过尽.·2025-02-20 06:10

深入浅出：CUDA是什么，如何利用它进行高效并行计算

为了满足这些需求，NVIDIA推出了CUDA（ComputeUnifiedDeviceArchitecture），这是一种并行计算平台和编程模型。

码上飞扬·2025-02-20 03:38

flash_atten库安装失败

1.查询对应版本（cuda，python等），直接下载对应whl文件。地址：https://github.com/Dao-AILab/flash-attention/releases?

心平气和不要慌·2025-02-19 18:02

flash-attention安装教程

安装方法如下：首先搞清楚你的python什么版本，torch什么版本，cuda什么版本，操作系统是什么。

深度求索者·2025-02-19 18:00

QT+FFmpeg如何使用GPU加速解码？

全文目录：问题描述解决方案1.确保FFmpeg和CUDA的支持2.正确选择硬件解码器设置硬件解码器3.初始化CUDA硬件设备4.硬件解码流程解码帧并处理硬件帧5.检查FF

bug菌¹·2025-02-19 17:22

快速在Ubuntu18.04系统中离线部署深度学习环境

一、服务器部署流程1、安装显卡驱动cuda、cudnn#安装gcc和makecd~/dockerDeploy/pool&&sudo./ins

高次超静定的人·2025-02-19 13:46

anaconda，Python，cuda,pytorch 下载安装

以下是Anaconda、Python、CUDA和PyTorch的下载安装步骤：一、Anaconda下载访问Anaconda官方网站：DownloadAnacondaDistribution|Anaconda

三希·2025-02-19 11:29

CUDA学习——Chapter 3（1）流式多处理器（SM）介绍

第三章上一章我们讨论了不同内存布局对核函数性能的影响，这一章我们就从硬件的角度，去探究为什么布局会导致核函数运行的不同。SM简介上一节我们说到deviceProp的时候，不知道会不会有读者有疑惑，为什么突然会提到multiprocessor（多处理器）这个概念，这个概念又是什么？其实这个multiprocessor，就是我们这一篇推文要介绍的SM。先来给大家看看SM的结构：这是Fermi架构下的S

KarK_Li·2025-02-19 08:03

cuda编程入门——并行归约(五)

CUDA编程入门—并行归约（数组求和为例）在并行计算中，归约（Reduction）是一种将多个数据通过特定操作（如求和、求最大值等）合并为单一结果的并行算法。

我不会打代码啊啊·2025-02-19 07:02

利用cuda加速图像处理—实现sobel边缘检测

利用cuda加速图像处理—实现sobel边缘检测#include#include#includeusingnamespacecv;/***@brief对图像进行Sobel滤波*@paraminput输入图像

我不会打代码啊啊·2025-02-19 07:02

cuda编程入门——并行性与异构性概念

CUDA编程入门一基于cuda的异构并行计算并行性一、并行性的概念与分类概念并行性旨在通过同时处理多个任务或数据元素来提高计算速度和效率。

我不会打代码啊啊·2025-02-19 07:32

conda更换环境版本（比如torch版本）

找到想要的torch版本pytorch官网torch过往的版本创建新环境condacreate--namemyenvpython=3.8condaactivatemyenvconda虚拟环境中安装CUDA

挨打且不服66·2025-02-19 03:57

Docker安装分布式vLLM

CUDAVersion：12.4

MasonYyp·2025-02-18 13:49

判断是否安装了cuda和cuDNN

#判断是否安装了cudaimporttorchprint(torch.cuda.is_available())#返回True则说明已经安装了cuda#判断是否安装了cuDNNfromtorch.backendsimportcudnnprint

幽殇默·2025-02-17 23:25

[C#]C#使用yolov8的目标检测tensorrt模型+bytetrack实现目标追踪

【测试通过环境】win10x64vs2019cuda11.7+cudnn8.8.0TensorRT-8.6.1.6opencvsharp==4.9.0.NETFramework4.7.2NVIDIAGeForceRTX2070Super

FL1623863129·2025-02-17 23:55

【Stable Diffusion部署至GNU/Linux】安装流程

显卡与计算架构介绍CUDA是NVIDIAGPU的专用并行计算架构技术层级说明CUDAToolkit提供GPU编译器(nvcc)、数学库(cuBLAS)等开发工具cuDNN深度神经网络加速库（需单独下载）

星星点点洲·2025-02-17 00:34

【vLLM 学习】安装

·2025-02-16 23:25

python编程入门学习（3）——自用笔记

目录第五章：if语句一个简单的示例条件测试if语句使用if语句处理列表第六章：字典一个简单的字典使用字典遍历字典嵌套在列表中存储字典在字典中存储列表在字典中存储字典第五章：if语句一个简单的示例#if语句示例cars=['bmw','audi','toyota','subaru']forcarincars:ifcar=='bmw':print(car.upper())else:print(car.

徐少19·2025-02-16 19:52

ubuntu完全卸载cuda(备忘)

cuda的卸载方法网上都有很多，这些方法大同小异，几乎都是错的，我在卸载cuda时基本试了个遍，各种踩坑。

fengsongdehappy·2025-02-16 10:49

DeepSeek 大模型离线 Docker 部署技术指南

DeepSeek离线部署采用容器化微服务架构，核心组件包括：模型服务层：基于TritonInferenceServer的模型推理容器API网关层：FastAPI实现的REST/gRPC接口服务资源管理层：CUDA-awareDocker

容器的搬运工·2025-02-16 04:32

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）包教包会【创作不易，求关注收藏点赞】商业合作请私聊，有问题可以评论或者私聊！

弹伦琴的雷登·2025-02-15 15:57

深度学习基础知识

cuda简介：CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种并行计算平台和应用程序编程接口（API）。

namelijink·2025-02-15 15:22

如何在我的电脑上查看是否安装cuda12？我现在在我的VS中新建项目时，里面多出来一个CUDA12.4 runtime，这是什么？是不是使用CUDA cpp进行编程？

在你的电脑上检查是否安装了CUDA12，可以通过以下几种方法：1.检查CUDAToolkit安装目录查看CUDA安装目录：-默认情况下，CUDAToolkit安装在C:\ProgramFiles\NVIDIAGPUComputingToolkit

吃榴莲的小鳄鱼·2025-02-15 15:21

windows 安装nvidaia驱动和cuda

安装nvidaia驱动和cuda官网搜索下载驱动https://www.nvidia.cn/drivers/lookup/这里查出来的都是最高支持什么版本的cuda安装时候都默认精简就行官网下载所需版本的

njl_0114·2025-02-15 14:14

HarmonyOS鸿蒙最全【PHP】PHP入门指南：从基础到进阶_php网络编程入门与进阶，2024年最新鸿蒙基础面试题及答案

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。需要这份系统化的资料的朋友，可以戳这里获取一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！PHP标记：了解PHP的起始和结束标记，以及如何嵌入

2401_84872585·2025-02-14 23:18

ACM训练系统 1003 [编程入门]密码破译 C

代码思路：利用srcii对每个字符进行加四处理一使用四个变量和getchar();对每个字符加密；。//baizhen#includeintmain(void){chara,b,c,d,e;a=getchar();b=getchar();c=getchar();d=getchar();e=getchar();printf("%c%c%c%c%c",a+4,b+4,c+4,d+4,e+4);//字符

眉间白·2025-02-14 23:16

蓝桥杯——Python初级入门

目录一、运算符练习二、分支练习一、运算符练习题目1003:[编程入门]密码破译要将"China"译成密码，译码规律是：用原来字母后面的第4个字母代替原来的字母．例如，字母"A"后面第4个字母是"E"．"

YAmlei·2025-02-14 22:13

1003: [编程入门]密码破译（A用%d输出为ASCII码值）

1.字母以整形%d输出：ASCII码值printf("%d",'A');2.判断字母为大写/小写'A'==65，'Z'==90，'a'==97，'z'==122可以用ASCII码值比较，或者字母比较if(ch>=65&&ch='A'&&chintmain(){chars[11];//定义一个长度为10的字符串（注意有结尾符）gets(s);//输入字符串for(inti=0;s[i]!='\0';

XU0826csdn·2025-02-14 22:12

C语言蓝桥杯1003: [编程入门]密码破译

要将"China"译成密码，译码规律是：用原来字母后面的第4个字母代替原来的字母．例如，字母"A"后面第4个字母是"E"．"E"代替"A"。因此，"China"应译为"Glmre"。请编一程序，用赋初值的方法使cl、c2、c3、c4、c5五个变量的值分别为，’C’、’h’、’i’、’n’、’a’，经过运算，使c1、c2、c3、c4、c5分别变为’G’、’l’、’m’、’r’、’e’，并输出。变量初

年*D-清仁·2025-02-14 22:11

m0_74824054·2025-02-14 14:40

tensorrt推理 onxx转engine代码（python），cyclegan网络推理（python、C++）

将onnx文件导出为engine，FP16格式importtensorrtastrtimportpycuda.driverascudaimportpycuda.autoinit#加载ONNX文件onnx_file_path

maobin_1·2025-02-14 10:04

模型实战（19）之从头搭建yolov9环境+tensorrt部署+CUDA前处理 -＞实现目标检测

从头搭建yolov9环境+tensorrt部署实现目标检测yolov9虚拟环境搭建实现训练、推理与导出导出onnx并转为tensorrt模型Python\C++-trt实现推理，CUDA实现图像前处理文中将给出详细实现源码

明月醉窗台·2025-02-14 09:59

GPU（Graphics Processing Unit）详解

关键特性：高并行度：现代GPU包含数千个计算核心（如NVIDIAH100拥有18,432个CUDA核心）。专用内存系统：配备高带宽

美好的事情总会发生·2025-02-14 03:32

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

接着上一篇博客：在Ubuntu上用LlamaFactory命令行微调Qwen2.5的简单过程_llamafactory微调qwen2.5-CSDN博客如果需要微调比较大的模型，例如Qwen2.5-32B，那么在两个3090上可能不够用，这里我用A6000×4的服务器。但如果仿照上篇博客，直接运行：llamafactory-clitrainexamples/train_qlora/qwen_lora

蛐蛐蛐·2025-02-12 22:27

CUDA与CUDPP源码解析及实战应用

本文还有配套的精品资源，点击获取简介：CUDA是NVIDIA推出的并行计算平台，CUDPP是一个提供GPU优化算法的开源库。

昊叔Crescdim·2025-02-12 19:06

C#工控上位机开发--＞1、C#快速编程入门

学习目标：一、控制台的输入输出二、C#中的变量使用三、字符串的拼接与格式化的三种方式四、数据类型转换的三种方式学习内容：1控制台的输入输出（1）输入方法：Console.Read();不会换行的输入，Console.ReadLine()；会在执行时换行的输入。（2）输出方法：Console.Write（）;不会换行的输出，Console.WriteLine();会在执行时换行的输出。（3）控制台闪

魚先森871·2025-02-12 17:53

【ai】李沐动手深度学学v2 环境安装：anaconda3、pycharm、d2

cuda-toolkitcuda_12.5.0_windows_network.exe官方课程网站第二版资源下载release版本pycharm版本李沐【动手学深度学习v2PyTorch版】课程笔记CUDA

等风来不如迎风去·2025-02-12 15:05

llama-cpp-python CUDA error问题

安装完cuBLAS(CUDA)版本的llama-cpp-pythonCMAKE_ARGS="-DLLAMA_CUBLAS=on"pipinstallllama-cpp-python跑模型，指定n_gpu_layers

0语1言·2025-02-12 09:31

报错：检测不到cuda解决方案

H_Shelly·2025-02-11 15:49

CUDA检测失败的解决方案

CUDA检测失败的解决方案在使用Python进行CUDA编程时，有时候会遇到"CUDAdetectionfailed"的错误信息。这个错误通常表示CUDA驱动程序无法正确地检测到CUDA设备。

HackDashX·2025-02-11 15:49

Transformer 的辉煌与大模型方向确立，点燃AGI之火把

技术壁垒：模型，技术，开源CUDA壁垒：PTX编程更加底层，大量中国硬件公司，可以适配Transformer架构的奠基2017年，Vaswani等人发表了开创性论文《AttentionisAllY

dingcb168·2025-02-11 07:47

Flask编程入门教程

Flask是一个轻量级的PythonWeb框架，非常适合快速开发小型到中型Web应用程序。以下是一个简单的Flask入门教程，帮助你快速上手。1.安装Flask首先，你需要安装Flask。你可以使用pip来安装：pipinstallFlask2.创建一个简单的Flask应用创建一个新的Python文件，例如app.py，并在其中编写以下代码：fromflaskimportFlask#创建一个Fla

Botiway·2025-02-11 02:12

JavaScript编程入门教程

JavaScript是一种用于网页交互的脚本语言，广泛应用于前端开发。以下是一个JavaScript编程的入门教程，帮助你快速掌握基础知识。1.什么是JavaScript？JavaScript是一种轻量级的解释型编程语言，主要用于为网页添加动态功能，如表单验证、动画、交互等。它可以在浏览器中直接运行，也可以用于服务器端开发（如Node.js）。2.在HTML中使用JavaScript方法1：内联脚