CUDA基础教程

auto-gptq安装以及不适配软硬件环境可能出现的问题及解决方式

2、auto-gptq安装3、auto-gptq不正确安装可能会出现的问题（1）爆出：`CUDAextensionnotinstalled.`（2）没有报错但是推理速度超级慢1、auto-gptq是什么

IT修炼家·2025-02-20 12:00

深入浅出：CUDA是什么，如何利用它进行高效并行计算

为了满足这些需求，NVIDIA推出了CUDA（ComputeUnifiedDeviceArchitecture），这是一种并行计算平台和编程模型。

码上飞扬·2025-02-20 03:38

Python编程基础教程：量化交易入门

1.背景介绍市场数据信息是每天都在更新，人们对市场变化的快速反应、精准把握、及时行动和判断将成为未来金融领域的一项重要任务。而传统的方式仍然是依赖于传统的报表分析和定期股票投资策略。如何用程序实现量化交易，并且实时跟踪和分析市场数据是本文将要讨论的重点。一般来说，以下五种程序语言被认为是最适合进行量化交易的语言：Python：是一个通用的高级编程语言，具有简单、易学习、可读性强等特点。其中有很多成

AI天才研究院·2025-02-19 19:09

flash_atten库安装失败

1.查询对应版本（cuda，python等），直接下载对应whl文件。地址：https://github.com/Dao-AILab/flash-attention/releases?

心平气和不要慌·2025-02-19 18:02

flash-attention安装教程

安装方法如下：首先搞清楚你的python什么版本，torch什么版本，cuda什么版本，操作系统是什么。

深度求索者·2025-02-19 18:00

QT+FFmpeg如何使用GPU加速解码？

全文目录：问题描述解决方案1.确保FFmpeg和CUDA的支持2.正确选择硬件解码器设置硬件解码器3.初始化CUDA硬件设备4.硬件解码流程解码帧并处理硬件帧5.检查FF

bug菌¹·2025-02-19 17:22

快速在Ubuntu18.04系统中离线部署深度学习环境

一、服务器部署流程1、安装显卡驱动cuda、cudnn#安装gcc和makecd~/dockerDeploy/pool&&sudo./ins

高次超静定的人·2025-02-19 13:46

anaconda，Python，cuda,pytorch 下载安装

以下是Anaconda、Python、CUDA和PyTorch的下载安装步骤：一、Anaconda下载访问Anaconda官方网站：DownloadAnacondaDistribution|Anaconda

三希·2025-02-19 11:29

CUDA学习——Chapter 3（1）流式多处理器（SM）介绍

第三章上一章我们讨论了不同内存布局对核函数性能的影响，这一章我们就从硬件的角度，去探究为什么布局会导致核函数运行的不同。SM简介上一节我们说到deviceProp的时候，不知道会不会有读者有疑惑，为什么突然会提到multiprocessor（多处理器）这个概念，这个概念又是什么？其实这个multiprocessor，就是我们这一篇推文要介绍的SM。先来给大家看看SM的结构：这是Fermi架构下的S

KarK_Li·2025-02-19 08:03

cuda编程入门——并行归约(五)

CUDA编程入门—并行归约（数组求和为例）在并行计算中，归约（Reduction）是一种将多个数据通过特定操作（如求和、求最大值等）合并为单一结果的并行算法。

我不会打代码啊啊·2025-02-19 07:02

利用cuda加速图像处理—实现sobel边缘检测

利用cuda加速图像处理—实现sobel边缘检测#include#include#includeusingnamespacecv;/***@brief对图像进行Sobel滤波*@paraminput输入图像

我不会打代码啊啊·2025-02-19 07:02

cuda编程入门——并行性与异构性概念

CUDA编程入门一基于cuda的异构并行计算并行性一、并行性的概念与分类概念并行性旨在通过同时处理多个任务或数据元素来提高计算速度和效率。

我不会打代码啊啊·2025-02-19 07:32

conda更换环境版本（比如torch版本）

找到想要的torch版本pytorch官网torch过往的版本创建新环境condacreate--namemyenvpython=3.8condaactivatemyenvconda虚拟环境中安装CUDA

挨打且不服66·2025-02-19 03:57

STM32基础教程——按键控制LED

目录概要技术实现1.硬件接线图2.引脚定义3.代码实现实验要点问题总结概要1.实验名称:按键控制LED2.实验环境:STM32F103C8T6最小系统板3.实验内容：两个按键分别控制两个LED的亮灭4.作者；abai5.实验时间：2025-2-18技术实现1.硬件接线图2.引脚定义3.代码实现main.c#include"stm32f10x.h"//Deviceheader#include"Del

Czzzzlq·2025-02-18 23:15

Docker安装分布式vLLM

CUDAVersion：12.4

MasonYyp·2025-02-18 13:49

判断是否安装了cuda和cuDNN

#判断是否安装了cudaimporttorchprint(torch.cuda.is_available())#返回True则说明已经安装了cuda#判断是否安装了cuDNNfromtorch.backendsimportcudnnprint

幽殇默·2025-02-17 23:25

[C#]C#使用yolov8的目标检测tensorrt模型+bytetrack实现目标追踪

【测试通过环境】win10x64vs2019cuda11.7+cudnn8.8.0TensorRT-8.6.1.6opencvsharp==4.9.0.NETFramework4.7.2NVIDIAGeForceRTX2070Super

FL1623863129·2025-02-17 23:55

ADS基础教程19 - 电磁仿真（EM）基本概念和实操

EM介绍一、引言二、基本概念1.EM介绍2.Momentum介绍3.FEM介绍4.Substrate介绍三、创建Layout并进行Momentum仿真1.创建Layout2.添加Microtrip（微带线）3.添加Substrate4.Momentum仿真四、总结一、引言本章节开始介绍EM的基本概念、内容以及实现具体步骤，并介绍如何在ADS中创建一个Layout，然后执行Momentum仿真过程。

RunningCamel·2025-02-17 12:35

ADS基础教程1 - 软件简介

1.ADS软件简介ADS是一款Kesight研制的先进设计系统软件，加速设计和仿真工作流程。该软件特点是为设计人员提供了针对特定设计流程预先配置好的软件组合。这些软件套件能够为设计师们提供多达三种不同的仿真技术——系统仿真、电路仿真和电磁（EM）仿真，帮助他们设计通信系统、GaAsMMIC、RFIC、射频系统封装（SiP）、射频电路板和信号完整性等产品。PathWaveADS软件套件包含W3600

RunningCamel·2025-02-17 12:34

【Stable Diffusion部署至GNU/Linux】安装流程

显卡与计算架构介绍CUDA是NVIDIAGPU的专用并行计算架构技术层级说明CUDAToolkit提供GPU编译器(nvcc)、数学库(cuBLAS)等开发工具cuDNN深度神经网络加速库（需单独下载）

星星点点洲·2025-02-17 00:34

【vLLM 学习】安装

·2025-02-16 23:25

ubuntu完全卸载cuda(备忘)

cuda的卸载方法网上都有很多，这些方法大同小异，几乎都是错的，我在卸载cuda时基本试了个遍，各种踩坑。

fengsongdehappy·2025-02-16 10:49

DeepSeek 大模型离线 Docker 部署技术指南

DeepSeek离线部署采用容器化微服务架构，核心组件包括：模型服务层：基于TritonInferenceServer的模型推理容器API网关层：FastAPI实现的REST/gRPC接口服务资源管理层：CUDA-awareDocker

容器的搬运工·2025-02-16 04:32

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）包教包会【创作不易，求关注收藏点赞】商业合作请私聊，有问题可以评论或者私聊！

弹伦琴的雷登·2025-02-15 15:57

深度学习基础知识

cuda简介：CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种并行计算平台和应用程序编程接口（API）。

namelijink·2025-02-15 15:22

如何在我的电脑上查看是否安装cuda12？我现在在我的VS中新建项目时，里面多出来一个CUDA12.4 runtime，这是什么？是不是使用CUDA cpp进行编程？

在你的电脑上检查是否安装了CUDA12，可以通过以下几种方法：1.检查CUDAToolkit安装目录查看CUDA安装目录：-默认情况下，CUDAToolkit安装在C:\ProgramFiles\NVIDIAGPUComputingToolkit

吃榴莲的小鳄鱼·2025-02-15 15:21

windows 安装nvidaia驱动和cuda

安装nvidaia驱动和cuda官网搜索下载驱动https://www.nvidia.cn/drivers/lookup/这里查出来的都是最高支持什么版本的cuda安装时候都默认精简就行官网下载所需版本的

njl_0114·2025-02-15 14:14

tensorrt推理 onxx转engine代码（python），cyclegan网络推理（python、C++）

将onnx文件导出为engine，FP16格式importtensorrtastrtimportpycuda.driverascudaimportpycuda.autoinit#加载ONNX文件onnx_file_path

maobin_1·2025-02-14 10:04

模型实战（19）之从头搭建yolov9环境+tensorrt部署+CUDA前处理 -＞实现目标检测

从头搭建yolov9环境+tensorrt部署实现目标检测yolov9虚拟环境搭建实现训练、推理与导出导出onnx并转为tensorrt模型Python\C++-trt实现推理，CUDA实现图像前处理文中将给出详细实现源码

明月醉窗台·2025-02-14 09:59

React框架基础教程

React框架基础教程目录简介React概述优势与应用场景环境准备Node.js安装创建React应用程序React基础JSX语法组件状态与属性事件处理组件生命周期挂载、更新、卸载错误边界状态管理useState

没有黑科技·2025-02-14 06:34

GPU（Graphics Processing Unit）详解

关键特性：高并行度：现代GPU包含数千个计算核心（如NVIDIAH100拥有18,432个CUDA核心）。专用内存系统：配备高带宽

美好的事情总会发生·2025-02-14 03:32

python 学习路线

学习顺序《python编程：从入门到实践》《Head-FirstPython》《“笨方法”学python3》《PythonCookbook》《Python机器学习基础教程》《FluentPython》《

Coding Happily·2025-02-13 11:05

用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法

接着上一篇博客：在Ubuntu上用LlamaFactory命令行微调Qwen2.5的简单过程_llamafactory微调qwen2.5-CSDN博客如果需要微调比较大的模型，例如Qwen2.5-32B，那么在两个3090上可能不够用，这里我用A6000×4的服务器。但如果仿照上篇博客，直接运行：llamafactory-clitrainexamples/train_qlora/qwen_lora

蛐蛐蛐·2025-02-12 22:27

CUDA与CUDPP源码解析及实战应用

本文还有配套的精品资源，点击获取简介：CUDA是NVIDIA推出的并行计算平台，CUDPP是一个提供GPU优化算法的开源库。

昊叔Crescdim·2025-02-12 19:06

【ai】李沐动手深度学学v2 环境安装：anaconda3、pycharm、d2

cuda-toolkitcuda_12.5.0_windows_network.exe官方课程网站第二版资源下载release版本pycharm版本李沐【动手学深度学习v2PyTorch版】课程笔记CUDA

等风来不如迎风去·2025-02-12 15:05

llama-cpp-python CUDA error问题

安装完cuBLAS(CUDA)版本的llama-cpp-pythonCMAKE_ARGS="-DLLAMA_CUBLAS=on"pipinstallllama-cpp-python跑模型，指定n_gpu_layers

0语1言·2025-02-12 09:31

报错：检测不到cuda解决方案

H_Shelly·2025-02-11 15:49

CUDA检测失败的解决方案

CUDA检测失败的解决方案在使用Python进行CUDA编程时，有时候会遇到"CUDAdetectionfailed"的错误信息。这个错误通常表示CUDA驱动程序无法正确地检测到CUDA设备。

HackDashX·2025-02-11 15:49

Transformer 的辉煌与大模型方向确立，点燃AGI之火把

技术壁垒：模型，技术，开源CUDA壁垒：PTX编程更加底层，大量中国硬件公司，可以适配Transformer架构的奠基2017年，Vaswani等人发表了开创性论文《AttentionisAllY

dingcb168·2025-02-11 07:47

【ubuntu24.04】GTX4700 配置安装cuda

筛选显卡驱动显卡驱动NVIDIA-Linux-x86_64-550.135.run而后重启：最新的是12.6用于ubuntu24.04，但是我的4700的显卡驱动要求12.4cuda

等风来不如迎风去·2025-02-11 01:58

DeepSpeed 在三台T4卡上部署deepseek-r1:32b

步骤：安装CUDA和cuDNN：确保你在每台机器上安装了与T4GPU兼容的CUDA和cuDNN版本，通常CUDA11.0或更高版本。安装CUDA：N

MonkeyKing.sun·2025-02-10 14:33

Rust编程基础教程：模式匹配和解构

本文将会通过《Rust编程基础教程：模式匹配和解构》的形式，对Rust语言的语法、数据结构、表达式、控制流、函数式编程等方面进行系统化地学习。阅读完此文，读者应该能够熟练地编

AI天才研究院·2025-02-10 05:12

【深度学习】无Linux管理员权限，照样可以安装CUDA

以下演示内容使用CUDA版本为CUDA11.71、官网官网：CUDA官网下载地址这里会列出所有的CUDA版本，选择需要的版本即可。

土豆炒马铃薯。·2025-02-10 05:40

解决Pytorch的cuDNN error: CUDNN_STATUS_NOT_INITIALIZED

目录1.问题报错2.可能原因2.1GPU内存不足2.2缓存问题2.3CUDA和Pytorch版本不兼容2.4CUDA和cuDNN版本不兼容3.验证CUDA是否可用4.参考1.问题报错在使用GPU加速模型训练的过程中经常会遇到这样的错误

Jurio.21·2025-02-10 00:31

CUDA环境配置

本文介绍Ubuntu14.04下CUDA环境的安装过程标签高性能计算（HPC）并行化加速学习CUDA最好的去处还是NVIDIA官网，上面许多文档写的都相当不错，比如CUDA编程指南、如何使用cuRand

波小澜·2025-02-10 00:29

【PyTorch 】【CUDA】深入了解 PyTorch 中的 CUDA 和 cuDNN 版本及 GPU 信息

目录引言一、环境准备1.1重要的环境依赖1.2安装CUDA和cuDNN1.3示例安装步骤1.4PyTorch、CUDA和cuDNN版本兼容性表二、检查CUDA和cuDNN版本三、检查GPU可用性四、测试

丶2136·2025-02-10 00:27

CUDA 学习笔记之程序栈

runtimeapi使用cudart动态库，以cuda为前缀。而driverapi使用cuda动态库，在使用前要包含相应的库文件，以c

cs199503·2025-02-09 19:26

【CUDA】 GPU与CPU体系结构对比

1.GPU与CPU运算性能对比在面对并行任务处理时,CPU与GPU的体系结构在设计理念上有着根本的区别。CPU注重通用性来处理各种不同的数据类型,同时支持复杂的控制指令,比如条件转移、分支、循环、逻辑判断及子程序调用等,因此CPU微架构的复杂性高,是面向指令执行的高效率而设计的。GPU最初是针对图形处理领域而设计的。图形运算的特点是大量同类型数据的密集运算,因此GPU微架构是面向这种特点的计算而设

WHAT816·2025-02-09 05:16

ext的cuda

EXT做为与用户交互的前端，其功能可以概括为：生成用户界面，与用户实现交互，并与程序（PHP,.NET等）后台通信来完成与用户的交互。生成用户界面:EXT被广泛接受认可的原因之一便是他拥有良好的用户外观。一个系统中最主要的功能便是实现CRUD（新增，读取，更新，删除），同时还有查询。为了将这些功能集中在一起，特意封装了一个EXT的CRUD面板，将这些常用的功能封装成一个类，以便创建易用性良好的界面

rdman84·2025-02-09 02:22

按键精灵ios脚本代码基础教程：让脚本也能认字

探索按键精灵的多样自动化脚本选择，包括iOS越狱版和免越狱版，涵盖了iOS和安卓系统的各种脚本，正在适配最新的iOS15和iOS16系统版本。同时，鹰眼软件提供手机群控、微信群控、游戏群控、手机投屏、手机云控以及电脑远程控制手机功能，为您的操作体验增添更多的趣味与便利！这里就重点介绍下使用按键ios脚本抓抓工具如何来制作字库:第一步:连接上手机设备,打开手机助手抓抓,点击截屏,把要包含要找的字的画

ii_best·2025-02-09 02:19

推荐频道