cuda并行编程第23页

cuda安装的一个细节

wgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pinsudomvcuda-ubuntu2204

fengxiaoyangfeng·2023-12-16 16:33

cuda多版本切换

摘自：http://blog.csdn.net/Maple2014/article/details/78574275多个cuda版本之间进行切换将~/.bashrc或~/.zshrc下与cuda相关的路径都改为

温润如玉00·2023-12-16 15:36

pytorch-0.4.0上古版本安装参考

我的配置：cuda9.0gcc4.8.5安装过程：condacreate-ntorch040python=3.6.6condainstallpytorch=0.4.0-cpytorch(与我而言，能安装成功

momentum_·2023-12-16 14:20

远程GPU服务器Autodl搭建Pytorch环境

py38)1、创建新的虚拟环境2、进入新环境3、安装你想要的包（我的是pytorch）4.安装另外的包一、AutoDL创建实例镜像PyTorch1.10.0Python3.8(ubuntu20.04)Cuda11.3GPURTX3090

m0_51626061·2023-12-16 14:11

nvidia-docker gpu环境搭建

dockergpu环境搭建前言搭建GPU的开发环境需要安装nvidia的驱动、cuda、cudnn等，还要安装tensorflow、pytorch、mxnet等框架，并且驱动版本和框架版本需要相统一，如

chaos_chen·2023-12-16 12:22

OpenMP和OpenACC

OpenMPOpenMP是CPU的并行编程模型，它使用编译器指令来识别并行区域。

Shilong Wang·2023-12-16 11:26

stable-diffusion-webui（AI绘画）项目实现，即遇到的问题

miniconda在搜索中搜所miniconda找到建立虚拟环境condacreate--namesdwebuipython=3.10.6每次运行激活这个虚拟环境condaactivatesdwebui下载git安装cuda

ˇasushiro·2023-12-16 11:42

一些意外的bug

__file__若import的包名与pip安装的包的路径不一致，则copy过去具体：1、keyllamaerrortransformers问题，需安装4.282、deepspeed没有adam_cuda

一条水里的鱼·2023-12-16 09:32

lora微调

importosos.environ["CUDA_VISIBLE_DEVICES"]="0"importtorchimporttorch.nnasnnimportbitsandbytesasbnbimporttransformersfromtransformersimportAutoTokenizer

SmartDemo·2023-12-16 06:47

Ubuntu下COLMAP的编译与安装全攻略

文章目录一、前言二、安装依赖库基本的依赖安装CeresSolver安装不需要cuda支持需要cuda支持三、编译colmap四、运行colmap五、总结一、前言在计算机视觉领域，colmap是一款功能强大的开源图像重建工具

梦想的理由·2023-12-16 05:55

深度学习模型部署之安装TensorRT windows11+vs2022+TensorRT8.0.1+cuda11.5+cuDNN8.2.0

在你开始之前确保您已安装了CUDA11.5+cuDNN8.2.0作者一开始是用CUDA11.5+cuDNN8.3.1安装，但是安装完成后一直报错“Couldnotloadlibrarycudnn_cnn_infer64

程序之巅·2023-12-16 02:38

Windows上TensorRT部署记录入门

一.CUDA下载安装本人下载的版本是cuda11.6,cudnn8.4,正好对应上的，当然cuda版本要能支持你的GPU，cuda版本太高你的GPU跑不了，cuda版本太低也不好。运行

周振超的·2023-12-16 02:06

CUDA lazy loading is not enabled. Enabling it can significantly reduce device memory usage and speed

背景：在TensorRT运行测试用例的时候出现以下warning：CUDAlazyloadingisnotenabled.EnablingitcansignificantlyreducedevicememoryusageandspeedupTensorRTinitialization.See

豫州刺史·2023-12-16 02:01

Win10系统安装TensorRT

环境搭建系列文章目录一、Win10系统安装GPU版本CUDA、Cudnn二、Win10系统安装TensorRT文章目录环境搭建系列文章目录TensorRT简介一、版本对应关系二、下载及安装1.TensorRT2

夜幕龙·2023-12-16 02:59

win11安装TensorRT（python、c++（cmake、vs2019）部署）

默认已安装CUDA、CUDNN、对应版本的pytorch等环境（注意版本对应就好）重点说明用cmake去加载cuda和tensorRt库。

牛家俊·2023-12-16 02:29

win10正确配置tensorRT环境

目的使用tensorRT进行网络模型部署，加快推理速度方法安装tensorRT的过程需要对各种组件的版本进行匹配前置安装套件有：1、CUDA2、cuDNN3、pyCUDA4、tensorflow或pytorch

风1995·2023-12-16 02:26

Win11 TensorRT环境部署

一、CUDA和CUDNN安装cuda和cudnn网上有很多安装教程，这里列举了一些，就不详细说了，具体链接如下：csdn.net-CUDA安装教程（超详细）原创zhihu.com-深度学习之CUDA+CUDNN

豫州刺史·2023-12-16 02:47

ubuntu22.04安装 nvidia-cudnn

nvidia-cudnn是NVIDIACUDA深度神经网络库（CUDADeepNeuralNetworklibrary）的缩写。这是一个由NVIDIA提供的库，用于加速深度学习应用程序。

MonkeyKing_sunyuhua·2023-12-16 01:41

yolov8+tensorRT加速推理+部署-姿态识别-实力分割-目标检测

先决条件在Ubuntu20.04上测试并工作安装CUDA，说明在这里。推荐>=11.8安装cuDNN，说明在这里。

阿利同学·2023-12-15 22:32

【抄作业】ubuntu完全卸载CUDA，彻底卸载cuda，卸载不同版本的cuda，cuda不同版本的卸载方法

卸载的实现方法如何正确、完全的卸载cuda呢？

鳗小鱼·2023-12-15 22:48

视觉学习笔记11——TensorRT安装配置及使用

系列文章目录参考文献参考文献参考文献文章目录系列文章目录前言1.安装首先解压下载的TensorRT安装包然后添加环境变量python调用TensorRTAPI安装UFF安装graphsurgeon安装onnx_graphsurgeon安装pycuda2

RanceGru·2023-12-15 22:05

【已解决】RuntimeError: CUDA error: CUBLAS_STATUS_INVALID_VALUE when calling `cublasSgemm( handle, opa, o

前情提要今天来复现一下WaterKnn，这个项目的话遇到的问题不算很多，所以就长话短说。项目地址：https://github.com/adiyoss/WatermarkNN项目简介：https://medium.com/@carstenbaum/the-ubiquity-of-machine-learning-and-its-challenges-to-intellectual-property

鳗小鱼·2023-12-15 20:49

CUDA 指定设备的方法，CUDA_VISIBLE_DEVICES 设置当前pytorch程序使用那些GPU设备

大飞飞鱼·2023-12-15 20:58

学习pytorch19 pytorch使用GPU训练2

macbookprom1/m2用mps，是苹果arm芯片的gpu第二种使用gpu方式核心代码#设置设备device=torch.device('cpu')#使用cpudevice=torch.device('cuda

陌上阳光·2023-12-15 17:07

ubuntu18.04配置cuda+cudnn+tensorrt+anconda+pytorch-gpu+pycharm

一、显卡驱动安装执行nvidia-smi查看安装情况二、cuda安装cuda官网下载cuda_11.6.2_510.47.03_linux.run，安装执行sudoshcuda_11.6.2_510.47.03

Joemt·2023-12-15 16:22

Win10 + RTX3090 安装CUDA + CUDNN

目录安装遇到问题参考链接安装前提系统重新安装，anaconda3中tensorflow和pytorch已经安装过，主要目的是方便自己以后重新安装CUDA主机配置系统：Win1064bitCPU：I9-10850K

赵孝正·2023-12-15 16:13

LLaMA-Factory使用V100微调ChatGLM2报错 RuntimeError: “addmm_impl_cpu_“ not implemented for ‘Half‘

微调命令CUDA_VISIBLE_DEVICES=0python/aaa/LLaMA-Factory/src/train_bash.py\--stagesft\--model_name_or_path/

ybdesire·2023-12-15 13:01

LLaMA-Factory用self_cognition数据微调ChatGLM2后，CLI运行输出乱码和报错 IndexError: piece id is out of range

微调命令CUDA_VISIBLE_DEVICES=0python/aaabbb/LLaMA-Factory/src/train_bash.py\--stagesft\--model_name_or_path

ybdesire·2023-12-15 13:01

LLaMA-Factory微调ChatGLM3报错： Segmentation fault (core dumped)

SFT训练模型的命令CUDA_VISIBLE_DEVICES=0pythonsrc/train_bash.py\--stagesft\--model_name_or_pathmodels/chatglm3

ybdesire·2023-12-15 13:19

安装LLaMA-Factory微调chatglm3，修改自我认知

LLaMA-Factory.gitcondacreate-nllama_factorypython=3.10condaactivatellama_factorycdLLaMA-Factorypipinstall-rrequirements.txt之后运行单卡训练，CUDA_VISIBLE_DEVICES

小草cys·2023-12-15 13:46

并行编程接口规范MPI

▶1.并行编程概述在计算机领域，“并发”与“并行”有细微的差别。并发是将一个程序分解成多个片段，并在多个处理器上同时执行：并行是多个程序同时在多个处理器中执行，或者多个程序在一个处理器中轮流执行。

豐儀麟阁贵·2023-12-15 11:32

zedbox 实现配置 yolov5

积极向上的mr.d·2023-12-15 07:51

解决报错：RuntimeError：CUDA out of memory

爆内存，屏蔽显卡，换用cpu训练importosos.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"os.environ["CUDA_VISIBLE_DEVICES"

图学习的小张·2023-12-15 05:33

LLM推理部署（六）：TogetherAI推出世界上LLM最快推理引擎，性能超过vLLM和TGI三倍

TogetherAI声称，他们在CUDA上构建了世界上最快的LLM推理引擎，该引擎运行在NVIDIATensorCoreGPU上。

wshzd·2023-12-15 05:31

win11 CUDA(12.3) + cuDNN(12.x) 卸载

win11CUDA（12.3）+cuDNN（12.x）卸载信息介绍卸载信息介绍本文是对应win11+RTX4070Ti安装CUDA+cuDNN（图文教程）的卸载卸载控制面板-->程序-->卸载程序卸载掉图中红框内的

ZChen1996·2023-12-15 04:15

win11+RTX 4070Ti+CUDA12.1+cuDNN12.x+pytorch2.1 环境配置（图文教程）

win11+RTX4070Ti+CUDA12.1+cuDNN12.x+pytorch2.1环境配置（图文教程）教程基本信息介绍卸载已安装的CUDA和cuDNN安装CUDA与cuDNN安装Anaconda

ZChen1996·2023-12-15 04:15

【工具篇】Jetson Xavier NX环境搭建

文章目录JetsonXavierNX环境搭建（ROS、PyTorch、OpenCV）1.JetPack安装2.Pip安装3.CUDA环境变量配置4.ROS2安装5.ROS2卸载6.安装pytorch7.

MJY@二进制·2023-12-15 02:41

【Pytorch API笔记8】用torch.cuda.empty_cache()释放所有未使用的缓存内存

可以使用torch.cuda.empty_cache()来释放所有未使用的缓存内存。以下是一个示例：importtorchtorch.cuda.empty_cache()

hjxu2016·2023-12-15 02:07

多流

多流之前我们讨论的并行，都是线程级别的，即CUDA开启多个线程，并行执行核函数内的代码。GPU最多就上千个核心，同一时间只能并行执行上千个任务。

DreamColors·2023-12-14 23:42

【PyTorch】计算设备

torch.device('cuda')如果有多个GPU，我们使用以下方式表示第iii块GPU（从0开始）torch.device(f'cuda:{i}')另外，cuda:

盛世隐者·2023-12-14 22:40

github代码大纲

sworsman31415926/muduo:Event-drivennetworklibraryformulti-threadedLinuxserverinC++11(github.com)sworsman31415926/cuda_testcase

感知算法工程师·2023-12-14 22:58

FFmpeg的AVcodecParser

文章目录结构体操作函数支持的AVCodecParser这个模块是AVCodec中的子模块，专门用来提前解析码流的元数据，为后面的解码做准备，这一点对cuda-NVdec非常明显，英伟达解码器的元数据解析是放在

泰勒朗斯·2023-12-14 22:54

win10-mmgen安装/cyclegan运行问题记录

mmconda环境：conda：CUDA11.3condainstallpytorch1.11.0torchvision0.12.0torchaudio==0.11.0cudatoolkit=11.3-

橙黄橘绿时_Eden·2023-12-14 19:17

Anaconda+Cuda+Cudnn+Pytorch（GPU版）+Pycharm+Win11深度学习环境配置

一、准备工作个人电脑配置：RTX4060win11个人配置版本：cuda（11.7）+pytorch(2.0.1)+python(3.9)所需工具：1、python集成开发环境：Anaconda2、CUDA

find_starshine·2023-12-14 19:45

释放深度学习的力量：使用 CUDA 和 Turing GPU 构建 AI

对于渴望进入AI开发世界的爱好者来说，本指南将为您提供知识和资源，使用CUDA和TuringGPU在Windows或Li

结构化文摘·2023-12-14 19:38

Anaconda+Pytorch（GPU版）深度学习环境配置笔记

qq_43757976/article/details/131173301配置版本略有更新，最新版本时间为2023.12.11一、准备工作个人电脑配置：laptopRTX4060win11个人配置版本：cuda

xyzAriel·2023-12-14 19:35

ubuntu22.04 安装cuda

CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种并行计算平台和编程模型。它允许开发者利用NVIDIA的GPU（图形处理单元）进行高效的计算处理。

MonkeyKing_sunyuhua·2023-12-14 19:52

如何通过Clion配置cuda编程

方法ubutu中用clion创建的cuda项目，在终端编译一般没有什么问题，但是用Clion本身在配置cmake确经常报些找不到cuda等类似的错。

梦想的理由·2023-12-14 19:12

解决pytorch训练的过程中内存一直增加的问题

部分)代码中存在累加loss，但每步的loss没加item()importtorchimporttorch.nnasnnfromcollectionsimportdefaultdictiftorch.cuda.is_available

京城王多鱼·2023-12-14 17:47

推荐频道

cuda并行编程