CUDA软连接

VS2019+QT4.15+openCV4.5.1+CUDA加速

文章目录前言一、软件安转以及注意事项二、CMake编译总结前言`最近公司有一个关于使用海康威视网络摄像头的目标检测的项目，发现使用openCV显示时，出现很大的延时，因此，只能使用cuda进行加速才能使显示达到实时
小小秀峰哥·2025-01-30 21:47

CUDA编程（一）：GPU计算与CUDA编程简介

CUDA编程（一）：GPU计算与CUDA编程简介GPU计算GPU硬件资源GPU软件资源GPU存储资源CUDA编程GPU计算NVIDIA公司发布的CUDA是建立在GPU上的一个通用并行计算平台和编程模型，
AI Player·2025-01-30 21:17

GPU编程与CUDA

CUDA编程并行计算整体流程从主机端申请内存，把内存部分的内容拷贝到设备端在设备端的核函数计算从设备端拷贝到主机端，并且释放内存显存主机端：cpu设备端：gpu核函数：在gpu上运行的函数CUDA内存模型
Nice_cool.·2025-01-30 21:17

GPU-CUDA编程学习(一)

Hello,CUDA最近在学习GUP编程，故此记录下学习进度。
☞北海北☜·2025-01-30 21:45

多版本cuda+多版本cudnn+gcc+cmake+opencv+darknet爬坑记录

本次针对darknet框架部署—centos7.x一、CUDA多版本安装1、很早前安装了很多cuda现在忘了步骤了，这里不再安装，下次再补上，可以看其他贴安装，记清楚自己的安装目录，一般默认在/usr/
LMM_AI·2025-01-30 21:41

RTX4060+ubuntu22.04+cuda11.8.0+cuDNN8.6.0 & 如何根据显卡型号和系统配置cuda和cuDNN所需的安装环境

文章目录电脑原配置安装cuda和cuDNN前的环境选择cuDNN与CUDAtookit和nvidiadriver的对应关系cuda版本选择⭐查看自己的nvidiadriver版本和最大支持的CUDA版本
computer_vision_chen·2025-01-30 20:05

ubuntu22.04 + isaac gym环境配置流程

1.CUDA安装1.看系统架构：uname-m2.去官网下载适配你显卡驱动的最新cuda，可以通过nvidia-smi查看https://developer.nvidia.com/cuda-toolkit-archive3
Yakusha·2025-01-30 20:02

cuda 线程调度

比如RTX2070有36个StreamingMultiprocessors，而每个SM有64个CUDACores，RTX2070具有36*64=2304个CUDACores。
weiwei0319·2025-01-30 05:31

Window 下Mamba 环境安装踩坑问题汇总及解决方法 （无需绕过selective_scan_cuda）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-30 03:45

vmamba 尝试安装记录

安装虚拟环境condacreate-nvmambapython==3.102、激活环境condaactivatevmamba3、安装附加环境pipinstall-rrequirements.txt4、确保cuda
青雉007·2025-01-30 02:41

Window Mamba 环境安装【CUDA】

直接安装Mamba及其依赖3.手动编译Mamba及其依赖1.安装PyTorch环境condacreate-nmambapython=3.10condaactivatemambacondainstallcudatoolkit
红豆布丁·2025-01-30 02:11

【人工智能】Python常用库-PyTorch常用方法教程

1.安装与导入1.1安装PyTorch访问PyTorch官方网站，根据系统、Python版本和CUDA支持选择安装命令。
IT古董·2025-01-29 15:08

Ubuntu22.04安装CUDA10.1

Ubuntu22.04安装CUDA10.1前言gcc降级添加软件源更新软件源安装gcc-7更换gcc版本安装CUDA10.1前言ubuntu22.04支持cuda10.7以上的版本，而在一些情况下我们需要用到低级的
想夹逼但不收敛·2025-01-29 11:00

centOS安装python3

python2.7先查看系统python的位置whereispythonpython2.7默认安装是在/usr/bin目录中cd/usr/bin#切换到/usr/binllpython*#查看python文件及其软连接从下图中我们可以看到
梦中生花·2025-01-28 23:40

docker镜像报错ERROR: failed to solve: DeadlineExceeded:

--------------------1|#基于NVIDIACUDA镜像，确保GPU支持2|>>>FROMnvidia/cuda:12.6.2-cudnn-devel-ubuntu20.043|4|#
柠檬编程工作室·2025-01-28 11:05

实验踩坑 flash_attn_2_cuda undifiend symol

Failedtoimporttransformers.models.llama.modeling_llamabecauseofthefollowingerror(lookuptoseeitstraceback):…/lib/python3.10/site-packages/flash_attn_2_cuda.cpython
崩溃李·2025-01-28 00:51

LLaVA微调debug：ImportError: xxx/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol:

完整报错信息：ImportError:/home/linjl/anaconda3/envs/sd/lib/python3.10/site-packages/flash_attn_2_cuda.cpython
同屿Firmirin·2025-01-28 00:46

从Nvidia切换到华为云昇腾芯片的入门技巧

等价命令Nvidia昇腾说明nvidia-sminpu-smiinfo查看机器上显卡信息npu-smiinfo-tusages-i查看显卡使用率CUDA_VISIBLE_DEVICESASCEND_RT_VISIBLE_DEVICES
sunrise_ccx·2025-01-27 23:40

Python&aconda系列：CUDA+Anaconda的安装以及 Conda实用命令

这里写目录标题一.深度学习环境配置：CUDA+Anaconda的安装3.1.1CUDA简介3.1.2查看电脑显卡型号是否支持CUDA的安装3.1.3查看电脑显卡的驱动版本3.1.4根据显卡驱动版本下载支持的
坦笑&&life·2025-01-27 20:54

pytorch单机多卡训练_数据并行DataParallel

模型并行是指，多张GPUs使用同一batch的数据，分别训练模型的不同部分.2.DataParallel源码2.1需要传入的参数module(Module):被并行运算的模型device_ids=None:CUDAdevicesoutput
Major Tom _·2025-01-27 13:03

Tesla V100驱动安装

确认操作系统kernel版本，参考链接：https://docs.nvidia.com/cuda/archive/12.2.0/cuda-installation-guide-linux/index.html
郭宝才·2025-01-26 17:17

训练入口+保存模型

frommodels.model_coupled_v1importUnetfromdata.data_loadimport*importglobfromcollectionsimportOrderedDictdevice="cuda
如若123·2025-01-26 04:30

花费上万元的 RTX4090，普通人真的需要它的性能吗？

01RTX4090的性能规格它拥有超多的CUDA核心，数量高达16384个。这就好比有一支庞大的计算大军，能够快速处理各种复杂的图形计算任务。
·2025-01-24 16:32

Windows 下Mamba2 环境安装问题记录及解决方法（causal_conv1d=1.4.0，mamba_ssm=2.2.2）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-24 14:38

Linux 下 Vim 环境安装踩坑问题汇总及解决方法（重置版）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-24 14:38

GPU 集群和分布式计算

《GPU集群和分布式计算》关键词：GPU集群、分布式计算、CUDA、OpenACC、OpenMP、性能优化、故障处理、案例分析摘要：本文详细探讨了GPU集群和分布式计算的基本概念、架构、编程模型以及应用场景
AI天才研究院·2025-01-23 21:28

error: [Errno 2] No such file or directory: ‘:/usr/local/cuda-12.1/bin/nvcc‘: ‘:/usr/local/cuda-12.1

一背景最近在服务器使用cuda报错，昨天使用还可以，今日就出问题，在此记录解决方案。
鲤鱼不懂·2025-01-23 19:46

【CUDA-BEVFusion】tool/build_trt_engine.sh 文件解读

build_trt_engine.sh#configuretheenvironment.tool/environment.shif["$ConfigurationStatus"!="Success"];thenecho"Exitduetoconfigurefailure."exitfi#tensorrtversion#version=`trtexec|grep-m1TensorRT|sed-n"s
old_power·2025-01-23 18:37

centos安装python3

目录介绍安装依赖下载python安装包安装python建立软连接python3加入PATH变量验证python3安装的一些库psutil模块安装源码安装psutilpip安装windows上安装IPy的安装
XMYX-0·2025-01-23 17:33

小土堆学习笔记10（利用GPU训练于模型验证）

1.利用GPU训练GPU可优化操作如下操作方法1方法2数据获取判断是否可以使用GPU，如果可以直接model.cuda()先设定device，用的时候直接model.to（“device”）损失函数1.1
干啥都是小小白·2025-01-22 11:03

安装CUDA Cudnn Pytorch(GPU版本）步骤

一.先看自己的电脑NVIDIA支持CUDA版本是多少？
学乐乐·2025-01-22 08:43

【环境安装】安装LLaMA-Factory

Linux-Centos7；显卡驱动：DriverVersion:460.106.00；TeslaP40*2【目标环境说明】torch==1.13.1+cu116llamafactory==0.9.2.dev01.CUDA11.6
BoostingIsm·2025-01-22 05:47

linux下jax-GPU安装

安装命令详细内容可查看jax官方文档在已有cuda的情况下，先使用命令1，再使用命令2，即可完成安装命令1：linux下jax安装命令pipinstalljax[cpu]==0.3.25-fhttps:
liu_zhaoda·2025-01-21 13:00

jax 和 jaxlib 的 cuda 版本安装

笔者花费时间才在Ubuntu20.04适配上jax和jaxlib的cuda版本安装，以及chex版本。
正经市民·2025-01-21 12:20

全面解析NVIDIA显卡：从入门级到旗舰级显卡详解

入门级显卡NVIDIAGeForceGT1030CUDA核心数:384基础频率:1227MHz加速频率:1468MHz显存:2GB
花千树-010·2025-01-20 18:05

从零开始的 AI Infra 学习之路

概述二、AI算法应用2.1机器学习2.2深度学习2.3LLM三、AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM五、AI编译&计算架构5.1CUDA5.2CANN
SSS不知-道·2025-01-19 15:15

ImportError: libnvinfer.so.8: cannot open shared object file: No such file or directory

Nosuchfileordirectory上面报错信息的意思主要是liblibcudnn.so.8这个文件找不到在网上查资料后知道了这个文件是在cudnn的安装包里的，那需要先安装cudnnNVIDIA官网下载cuDNN8.2.1CUDA11
kyle-fang·2025-01-19 14:37

linux软连接

文章目录第1章Linux文件类型1.文件类型与拓展名介绍2.Linux下常见的文件类型说明3.使用file命令查看文件的类型4.Windows和Linux下常见的拓展名说明第2章文件属性概述1.文件属性解释第3章Linux文件存储inode和block1.什么是inode2.什么是block3.目录和文件的关系4.Linux删除文件第4章软链接和硬链接1.什么是软链接2.什么是硬链接3.文件链接练
听风Q·2025-01-19 12:49

Jetson显卡上运行Qwen2-1.5b模型时报错“RuntimeError triu_tril_cuda_template not implemented for ‘BFloat16‘”

Jetson显卡上运行Qwen2-1.5b模型时报错“RuntimeErrortriu_tril_cuda_templatenotimplementedfor‘BFloat16’”问题描述：CUDA_DEVICE
wang151038606·2025-01-19 00:31

深度学习(1)

一、torch的安装基于直接设备情况，选择合适的torch版本，有显卡的建议安装GPU版本，可以通过nvidia-smi命令来查看显卡驱动的版本，在官网中根据cuda版本，选择合适的版本号，下面是安装示例代码
浅忆へ梦微凉·2025-01-18 18:57

[python]通过whl文件安装torchvision和torchaudio及国内whl文件下载地址汇总

你可以从PyTorch的官方网站获取适合你系统的安装命令例如，如果你使用的是CUDA11.3和Python3.8，你可以使用以下命令安装PyTorch：p
萌萌哒240·2025-01-18 16:40

centos7安装cuda、dudnn、Nvidia驱动[最详细的教程和报错解决方案]

现在很多教程都没有覆盖全报错问题，本文几乎把所有问题都描述到位首先说下我电脑的环境：centos7x86-64：uname-r命令显示为3.10.0-1160.el7.x86_64；物理显卡为单卡2080ti；gcc通过yum安装，yuminstallgcc版本为4.8.5,同时会显示安装一些其他包，如glibc版本为2.17；安装准备以下为驱动和官网文件名一致，可到nvidia官网下载，选择历史
LensonYuan·2025-01-18 08:10

华为昇腾AI处理器，atc模型转换和推理过程，华为的CANN库对标的是NVIDIA的cuda，所以在华为昇腾AI处理器上安装了CANN后，就可以直接使用pytorch了，以及推理框架(参考学习)

1，模型转换atc模型转换模型转换如图参考链接如下：https://toscode.mulanos.cn/ascend/samples/tree/master/inference/modelInference/sampleResnetQuickStart/cpp2，推理运行，这里需要注意用到了infer，有点类似的pytorch对模型的加载使用model=InferSession(0,model_
鼾声鼾语·2025-01-17 12:53

【vLLM 学习】安装

更多vLLM中文文档及教程可访问→https://vllm.hyper.ai/vLLM是一个Python库，包含预编译的C++和CUDA(12.1)二进制文件。
·2025-01-17 00:08

【安装环境】配置MMTracking环境

condainstallnumpy=1.21.5mmtracking支持的torch版本有限，需要找到合适的condainstallpytorch==1.11.0torchvision==0.12.0cudatoolkit
xuanyu22·2024-09-15 18:53

安装torch报错 raise ReadTimeoutError(self._pool, None, “Read timed out.“) pip._vendor.urllib3.exceptions

文章目录1.配置cuda的torch环境时报错1.配置命令2.报错bug2.解决方法1.增加下载超时时间：2.尝试使用镜像源：3.检查网络连接：4.分次安装：5.重试安装：6.手动下载.whl文件安装1
待磨的钝刨·2024-09-14 17:51

SAM2跑通（Ubuntu20.04)内含安装多个cuda

参考链接：github链接安装cuda，之前借鉴的方法安装多个cuda补充cuda安装：Asymlinkalreadyexistsat/usr/local/cuda.Updatetothisinstallation
好好607·2024-09-14 17:49

使用vllIm部署大语言模型

-CUDA工具包（根据GPU型号选择合适的版本）。二、安装vllm1.创建虚拟环境（推荐）-使用Conda：c
添砖JAVA的小墨·2024-09-14 12:18

vllm在线推理踩坑记

优点就不详细介绍了，这里摘抄一段来自于Qwen2上手指南对于它的简单介绍：它易于使用，且具有最先进的服务吞吐量、高效的注意力键值内存管理（通过PagedAttention实现）、连续批处理输入请求、优化的CUDA
懂点投资的码农·2024-09-14 12:14

多版本cuda安装及灵活切换详细教程

一、首先介绍下我所使用的环境ubuntu18.04+1080ti二、下载安装包1.cudatoolkit下载①环境选择，想要多版本共存的，尽量选择runfile文件进行安装②有些cudatoolkit下载页面
Fzc_PCL·2024-09-14 07:14
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他