cuda并行编程

CUDA中的原子操作

CUDA中的原子操作原子函数对驻留在全局或共享内存中的一个32位或64位字执行读-修改-写原子操作。
怎么开心怎么玩·2024-01-19 12:48

大模型学习与实践笔记（八）

一、LMDeploy的优势二、核心优势说明1.量化2.持续批处理3.Blockedk/vcache4.有状态的推理5.高性能cudakernel
AllYoung_362·2024-01-19 10:55

大模型学习与实践笔记（七）

一、环境配置1.平台：Ubuntu+Anaconda+CUDA/CUDNN+8GBnvidia显卡2.安装#构建虚拟环境condacreate--namextuner0.1.9python=3.10-y
AllYoung_362·2024-01-19 10:54

linux下载cuda toolkit实现并行计算

linux下载cudatoolkit实现并行计算（1）下载安装CUDAToolkitCUDAToolkit官网：https://developer.nvidia.com/cuda-downloads里面有安装步骤教程注意
Hz、辉·2024-01-19 09:49

linux系统环境变量问题记录

linux系统环境变量问题记录遇到的问题(1)在链接cuda代码时g++-oprogmain.o-lcudart报错：usr/bin/ld：找不到-lcudart(2)其实这个问题就是链接时编译器找不到
Hz、辉·2024-01-19 09:49

CUDA Toolkit 下载，安装，验证

CUDAToolkit下载进cuda官网下载CUDAToolkit链接：https://developer.nvidia.com/cuda-downloads官网默认显示当前的最新版本，这里以安装CUDAToolkit12.2
qyhua·2024-01-19 08:33

深度学习（一）——windows深度学习环境安装（pytorch）

1.确认电脑显卡是英伟达GPUwin+R，打开运行菜单，输入命令dxdiag2.安装CUDAhttps://developer.nvidia.com/cuda-downloads下载后，一路默认安装命令行
吴禅染·2024-01-19 08:30

pytorch 合集： pytorch的函数之torch

GPU类型就是CPU类型中间加上cuda.torch.Tensor,torch.rand(),torch.randn()默认生成torch.FloatTensor类型。
JL_Jessie·2024-01-19 08:00

ImportError: cannot import name ‘get_all_providers‘ from ‘onnxruntime.capi._pybind_state‘

debug备份场景：pth转onnx遇到此问题环境：onnx1.8.0onnxruntime-gpu1.6.0cuda11.1问题：cuda版本不对尝试解决办法：condainstallcudatoolkit
Mr.Q·2024-01-18 20:30

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA2024/1/1518:05百度搜索：ubuntugtx1080mcudahttps://blog.csdn.net
南棱笑笑生·2024-01-18 16:37

【TensorRT】DeviceToHost同步与异步拷贝的区别及带来的问题

cudaMemcpy与cudaMemcpyAsync的区别与问题cudaMemcpy与cudaMemcpyAsync的区别一、认识stream流二、tensorRT推理的常规流程三、遇到的问题四、引用与参考文献
澄鑫·2024-01-18 15:55

不同版本CUDA和cudnn下载安装并配置环境变量

干货满满，不要走开~目录前言一、下载或更新显卡驱动（选做）1.查看当前显卡驱动版本以及支持的最高版本的CUDA2.下载显卡驱动二、安装CUDA1.查看支持的最高版本的CUDA2.下载CUDAToolkit
爱敲代码的panda·2024-01-18 12:12

openai-whisper

增加到自己的视频里,并且显示字幕1.下载b站视频到电脑2.提取视频中的音频3.音频转文字4.自己的视频去掉音频,增加新的音频和字幕0.参数说明语音识别模型whisper的参数说明1.视频语音转文字exportCUDA_VISIBLE_DEVICES
GeekPlusA·2024-01-18 12:42

pycharm import torch

1安装我的电脑Windows11Python3.11Anaconda3-2023.09-0-Windows-x86_64.execuda_11.8.0_522.06_windows.exepytorch
东方.既白·2024-01-18 10:40

conda install命令无法安装pytorch

由于网络问题，直接采用condainstall命令可能无法直接下载对应的cuda包。
qq_43650421·2024-01-18 09:40

Tensorflow、CUDA、cuDNN详细的下载安装过程

文章目录前言一、Tensorflow简介二、Tensorflow版本介绍1.Tensorflow与python、CUDA、cuDNN对应关系2.NVIDIA显卡和CUDA的版本号关系三、Tensorflow
机智的小神仙儿·2024-01-18 09:15

TensorRT部署-Windows环境配置

系列文章目录文章目录系列文章目录前言一、安装VisualStudio（2019）二、下载和安装nvidia显卡驱动三、下载CUDA四、下载安装cuDNN五、安装Anaconda六、TensorRT安装七
小豆包的小朋友0217·2024-01-18 07:07

复现PointNet++（语义分割网络）：Windows + PyTorch + S3DIS语义分割 + 代码

一、平台Windows10GPURTX3090+CUDA11.1+cudnn8.9.6Python3.9Torch1.9.1+cu111所用的原始代码：https://github.com/yanx27
累了就要打游戏·2024-01-18 06:14

Tensorflow学习笔记（六）——卷积神经网络

  实现对fashion-minist分类：  （1）引包importosos.environ["CUDA_VISIBLE_DEVICES"]="-1"importmatplotlibasmplimportmatplotlib.pyplotasplt
七月七叶·2024-01-18 06:50

如果开启了8bit量化加载,项目无法启动，参考此位置，选择合适的cuda版本

部署大语言模型过程，报错如标题，并发现同时出现的报错信息：ImportError:Usingload_in_8bit=TruerequiresAccelerate:pipinstallaccelerateandthelatestversionofbitsandbytespipinstall-ihttps://test.pypi.org/simple/bitsandbytesorpipinstall
孔雀竹鱼·2024-01-18 01:36

【深度学习】RTX2060 2080如何安装CUDA，如何使用onnx runtime

文章目录如何在Python环境下配置RTX2060与CUDA101.安装最新的NVIDIA显卡驱动2.使用conda安装CUDAToolkit3.验证onnxruntime与CUDA版本4.验证ONNX
XD742971636·2024-01-18 01:29

nvcc -V显示command not found

出现这个问题，不仅是`nvcc-V`会显示commandnotfound,`nvidia-smi`同样也会显示解决方法如下：1）这里首先转换到CUDA所在位置，一般是在这个位置cd/usr/local2
摩卡摩卡～·2024-01-17 23:16

python检查PyTorch版本及cuda是否安装成功

__version__)print(torch.cuda.is_available())输出True就代表安装成功，反之安装失败1.7.0True
New___dream·2024-01-17 21:55

3.虚拟化关键技术&并行编程

计算虚拟化CPU虚拟化(目标是使虚拟机上的指令能被正常执行，且效率接近物理机)、内存虚拟化、I/O虚拟化虚拟化将软硬件解耦，将内存、CPU、网卡等计算资源，通过软件抽象后提供给虚拟机使用，极大的提升了资源利用率以及灵活度。使用虚拟化技术，将多台服务器的应用整合到一台服务器上的多个虚拟机上运行。虚拟化的几个概念GuestOS:运行在虚拟机上的操作系统GuestMachine:虚拟出来的虚拟机Hype
luowenc·2024-01-17 21:14

shell监视gpu使用情况

--------------------------------------------------------------+|NVIDIA-SMI440.44DriverVersion:440.44CUDAVersion
HackerTom·2024-01-17 18:27

【cuda】四、基础概念：Cache Tiled 缓存分块技术

缓存分块是一种内存优化技术，主要用于提高数据的局部性（Locality），以减少缓存未命中（CacheMiss）的次数。在现代计算机体系结构中，处理器（CPU）的速度通常比内存快得多。因此，如果CPU在处理数据时需要频繁地等待数据从内存中加载，就会大大降低程序的执行效率。CacheTiled技术通过将数据分割成较小的块（Tiles），并确保这些小块能够完全装入CPU的高速缓存（Cache），来减少
prinTao·2024-01-17 16:44

【CUDA】五、基础概念：Coalescing合并用于内存优化

先来看之前的例子：矩阵乘法中的Coalescingwrites刚才的代码中，可以观察到两个for循环，这里可以进行优化。“coalescingwrites”（合并写操作）“coalescingwrites”（合并写操作）是一种优化内存访问模式的技术，它能显著提高内存带宽的利用效率。这种技术尤其对于全局内存访问非常重要，因为全局内存访问速度相比于核心计算速度要慢得多。底层原理内存事务：当GPU的线程
prinTao·2024-01-17 14:51

【CUDA】零基础入门教程合集

本系列用于cuda编程的基础入门，详细介绍各种相关技术。这是系列连载的入口，还可以关注我的专栏CUDA编程。
prinTao·2024-01-17 14:51

【cuda】六、基础库：cuBLAS入门

cuBLAS基础介绍CUDABasicLinearAlgebraSubprograms（BLAS）提供了高效计算线性代数的方法。
prinTao·2024-01-17 14:51

【cuda】Visual Studio中进行CUDA程序的性能评估

在VisualStudio中使用Nsight进行CUDA应用程序的性能评估可以按照以下步骤进行：步骤1:准备工作确保已经安装了以下组件：最新版本的NVIDIA驱动。
prinTao·2024-01-17 14:18

Ubuntu部署ChatGLM2-6B踩坑记录

目录一、环境配置1、安装anaconda或者miniconda进行环境的管理2、安装CUDA3、环境安装二、配置加载模型1、建立THUDM文件夹三、遇到的问题1、pipinstall-rrequirements.txt2
XINYU W·2024-01-17 13:01

GPT实战系列-实战Qwen在Cuda 12+24G部署方案

GPT实战系列-实战Qwen在Cuda12+24G部署方案ChatGLM4进行新闻发布，但还没有开源更新，在此之际，实战部署测试Qwen大模型。
Alex_StarSky·2024-01-17 12:43

windows环境下安装CUDA（用GPU训练Tensorflow-YOLOv3）

关键就是搭建好cuda环境NVIDIA显卡驱动（https://www.nvidia.cn/Download/inde
dvlee1024·2024-01-17 11:47

6个技巧帮你提高Python运行效率

一、多进程行并行编程对于CPU密集型的程序，可以使用multiprocessing的Proces
酒酿小小丸子·2024-01-17 10:51

win11 + insightface + pytorch + CUDA + cuDNN 实战安装

安装攻关秘籍，步骤如下:第一步.下载pycharm社区版官网在这里：https://www.jetbrains.com/pycharm/download/?section=windows第二步.下载anaconda(最新版)//参考下面文章来执行安装anacondaWindows下Miniconda+Pytorch+Pycharm开发环境搭建指南第三步.配置anaconda的path和加速下载源加
大树叶·2024-01-17 09:06

【报错】NVIDIA 驱动版本不兼容 — NVIDIA driver on your system is too old

【报错】NVIDIA驱动版本不兼容—NVIDIAdriveronyoursystemistooold报错信息查看torch版本查看nvidia驱动版本报错信息CUDAinitialization:TheNVIDIAdriveronyoursystemistooold
之墨_·2024-01-17 09:54

ChatGLM3-6B的本地api调用

openai_api_demo路径下的openai_api.py启动后界面：注意：本地api调到的前提是——本地部署了ChatGLM3-6B,本地部署的教程可参考：20分钟部署ChatGLM3-6B部署了若CUDA
落叶阳光·2024-01-17 08:09

Coding and Paper Letter（六十）

vtki4.多GPUCUDA压力测试。gpuburn5.用于构建由PangeoNASAACCESS项目管理的kubernetes集群的配置和脚本。ACCESSK8S
G小调的Qing歌·2024-01-17 06:15

「解析」Jetson配置 git服务

这两天感冒了在家休养，想着把之前买的Jetson开发板用起来，买Jetson的初衷就是用来学习Linux系统，顺道可以部署算法，以及一些其他需求，相比树莓派而言，Jetson开发相对更贵，但是其配备了英伟达的显卡以及CUDA
ViatorSun·2024-01-17 02:47

解决GPU显存句柄泄漏问题

cudastream资源没释放：释放了就小了很多其他资源没释放，问题未知！！！模型资源释放了！！！多线程导致的没释放完成！！！！
_helen_520·2024-01-17 02:27

rocky9.1 深度学习环境配置

U盘制作启动盘，安装引导；略过；sudofdisk-l安装nvidia驱动教程参考：Rockylinux安装3090+CUDA11.3+pytorch-知乎驱动下载：Nvidia官网下载对应显卡驱动，网址略
_helen_520·2024-01-17 02:57

深度学习Anaconda与pyTorch环境搭建——看这一篇就够了

深度学习环境搭建（PyCharm）Anaconda+PyTorch深度学习环境搭建（PyCharm）前言Anaconda安装什么是Anaconda软件安装添加环境变量Anaconda虚拟环境管理演示编程环境安装CUDA
ZYiPan·2024-01-16 22:48

YOLOv8训练自己的数据集

数据集配置2.2选择需要的模型3.模型训练4.测试1.创建数据集环境：UltralyticsYOLOv8.0.230Python-3.8.18torch-2.3.0.dev20231226+cu118CUDA
李日音·2024-01-16 22:16

mysql中出现Specified key was too long； max key length is 767 bytes，需要innodb_large_prefix设置步骤

mysql>setglobalinnodb_file_format=BARRACUDA;QueryOK,0rowsaffected(0.00sec)mysql>setglobalinnodb_large_prefix
仰望星空007·2024-01-16 19:10

C# 消息队列、多线程、回滚、并行编程、异步编程、反射

消息队列消息队列是一种在应用程序之间传递消息的异步通信机制。它可以使应用程序解耦并提高系统的可伸缩性和可靠性。在C#中，你可以使用多个消息队列技术，其中一种广泛使用的技术是RabbitMQ。RabbitMQ是一个开源的消息代理，实现了高级消息队列协议（AMQP），提供了强大的功能来处理消息传递。以下是一个使用RabbitMQ的C#示例：usingRabbitMQ.Client;usingRabbi
EternalDreamer·2024-01-16 16:09

首款PCIe 5.0 SSD面世，速度大幅提升

在过去的几周里，TheVergeTomWarren一直在测试英睿达T700PCIeGen5.0NVMe固态硬盘以及希捷最新的FireCuda540，目的是了解这款最新SSD存储是否会对PC游戏带来改变。
大隐隐于野·2024-01-16 15:50

实验室服务器升级

cuda、python、pytorch版本兼容查看顺序及网站任务：在一个有GPU的电脑上安装pytorch时选择合适版本。
pythonSuperman·2024-01-16 15:00

我的深度学习日记（一）：安装开发环境

我的毕设题目是深度学习相关的，之前没弄过，学的图像处理的课也学的只有皮毛，就是python学的稍微好点，这次简单的系统自学一下深度学习吧，并记录一下学习过程中的笔记，理解有误之处望大家指正~这个笔记就是安装pytorch、CUDA
是lethe先生·2024-01-16 15:09

Windows安装cuda toolkit exe文件提示失败，附带解决办法（曲线救国方案）

cuda文件下载地址最新版本cuda11.8.0问题描述在Windows上面安装cuda特定版本的时候，系统提示无法下载、，最开始以为是版本问题，结果尝试多个版本都没有办法安装成功，于是想要找一个能够正确安装的方案解决办法
Three_ST·2024-01-16 15:36

pytorch与cuda环境安装操作

[需要python环境]安装完成后可以使用以下命令检测cuda是否安装好nvidia-smiThuDec719:51:032023+-----
Three_ST·2024-01-16 15:36
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他