CUDA并行编程

RTX 3060+CUDA+CUDAnn+Pytorch安装（自己踩过的）

昨天买了一个铭瑄RTX3060的卡，准备回来做深度学习，结果各种踩坑，现在发一下我最后一次装成功的过程。1、按装英伟达3060的驱动直接百度搜索NVIDIA驱动，就会出来官方GeForce驱动程序，进去之后，官方GeForce驱动程序|NVIDIA会出现下面这个页面，点击立即下载，下载完成之后进行安装，这里就不显示安装过程了。安装好之后需要登录（不知道可不可以不登录，我这里登录了。）下面是一个登陆
2753090819·2023-09-21 18:43

docker拉取的pytorch-gpu版找不到cuda和cudnn的位置

转自：本文链接：docker拉取的pytorch-gpu版找不到cuda和cudnn的位置，为何？
旺旺棒棒冰·2023-09-21 18:42

cudann官网上不见了，找不到了安装CUDA和CUDANN时，发现CUDANN不见了，官网甚至找不到一丝它的信息，公告也没有

我在习惯性的安装CUDA和CUDANN时，发现CUDANN不见了，官网甚至找不到一丝它的信息，公告也没有，看看吐槽说实话最开始的CUDANN确实比较恼火，要下载下来拷贝过去现在只需要直接安装cuda，就可以安装成功了
weixin_55008315·2023-09-21 18:12

深度学习环境搭建——之Anaconda3安装配置

一个深度学习环境的搭建，我根据使用的软件情况以及我自己的安装顺序，大致分为了四部分，Anaconda安装配置，CUDA
呓语煮酒·2023-09-21 16:38

第十篇-Tesla P40+FastChat+Vicuna-13B-V1.5

部署环境系统：CentOS-7CPU:14C28T显卡：TeslaP4024G驱动:515CUDA:11.7cuDNN:8.9.2.26下载模型https://huggingface.co/lmsys/
木卫二号Coding·2023-09-21 16:56

第十二篇-Tesla P40+ModelScope+Gradio+QWen+MindChat

本文主要实现Qwen-7B-Chat与MindChat-Qwen-7B的简单部署与测试环境系统：CentOS-7CPU:14C28T显卡：TeslaP4024G驱动:515CUDA:11.7cuDNN:
木卫二号Coding·2023-09-21 16:56

第七篇-Tesla P40+ChatGLM2+P-Tuning

本文目的本文仅仅是测试一下ptuning技术方案，使用少量数据测试下微调流程环境系统：CentOS-7CPU:14C28T显卡：TeslaP4024G驱动:515CUDA:11.7cuDNN:8.9.2.26
木卫二号Coding·2023-09-21 15:51

python统计秒数

code1.没有cuda的版本importtimes=time.time()foriinrange(100):passt=time.time()print("time:{}sec".format(t-s
换个名字就很好·2023-09-21 07:16

C++如何动态申请二维数组

最近在写cuda相关的代码遇到矩阵的问题就避免不了二维动态数组的内存申请。所以实际测了一下，一下代码可以用。
波雅_汉库克·2023-09-21 07:19

pytorch GPU训练

1、查看cuda相关1）cuda是否可用torch.cuda.is_available()2）gpu数量torch.cuda.device_count()3）gpu名字，默认从0开始torch.cuda.get_device_name
emergency_rose·2023-09-21 04:25

ChatGLM多卡微调踩坑记录

现将遇到的问题整理出来供大家参考，实现的相关代码也会整理到GitHub.1.Error:Expectedalltensorstobeonthesamedevice,butfoundatleasttwodevices,cuda
u013250861·2023-09-21 04:25

中文网页自动导航挑战赛——lora微调ChatGLM经验分享

环境配置本文使用的环境是：Miniconda-conda3-Python3.8(ubuntu18.04)-Cuda11.3安装必要的工具包!pipinstallpeft!pipinstallcp
Savarus·2023-09-21 04:20

使用thop库计算flops和params

fromthopimportprofilefromthopimportclever_formatinput_data=torch.randn(1,3,256,256).cuda()flops,params
一个尚在学习的计算机小白·2023-09-21 00:51

flash attention的CUDA编程和二维线程块实现softmax

本文参考了链接添加链接描述flashattention介绍flashattention的介绍可以参考论文：FlashAttention:FastandMemory-EfficientExactAttentionwithIO-Awareness，具体的数学公式参考下面这个图片：其中注意关于矩阵S有两个维度，softmax的操作维度是dim=1，用pytorch表示就是torch.softmax(S,
Galerkin码农选手·2023-09-20 20:57

expand，where和softmax算子的cuda编程

expand和where介绍当谈到Torch中的expand函数时，我们实际上是指PyTorch（Torch的Python接口）中的expand方法。下面是对expand方法和where函数的介绍，包括它们的输入和输出：expand方法：torch.Tensor.expand()是PyTorch中Tensor类的一个方法，用于扩展张量的维度。输入：input是要扩展的张量，size是一个元组，指定
Galerkin码农选手·2023-09-20 20:57

softmax的cuda编程详细解读——算子融合

softmax介绍在上一篇博客我们介绍了softmax的内容以及相关的编程实现，总结一下softmax的特点如下：（没有特殊说明的情况下，考虑的仍然只是1D向量xxx）1：获得向量的全局最大值M2：针对向量x^={exp⁡(xi−
Galerkin码农选手·2023-09-20 20:57

torch.cuda.is_available() 在有的项目中返回True有的返回Flase

问题描述，刚下了一个项目，不能用CUDA同一个环境不同项目中torch.cuda.is_available()返回值不同问题来源：这里的运行配置有问题选择编辑配置并修改对应的解释器查看和是否对应。
wangxiaojie6688·2023-09-20 18:43

def __apply()方法详解

1.classBaseModel(nn.Module)类中的_apply方法：def_apply(self,fn):#Applyto(),cpu(),cuda(),half()tomodeltensorsthatarenotparametersorregisteredbuffersself
。七十二。·2023-09-20 14:40

利用 GPU加速训练

2、1、网络模型、损失函数、优化器、数据（图像，标签）可以.cuda，加速训练。
。七十二。·2023-09-20 14:39

YOLOv8常见报错集合（ModuleNotFoundError、NameError、KeyError、nan值及map全为0、 CUDA out of memory、[WinError 145）

目录1.ModuleNotFoundError:Nomodulenamed‘ultralytics‘+解决方法：2.KeyError:'GAM_Attention'2.1原因2.2解决办法3.NameError:name'GAM'isnotdefined3.1原因3.2解决办法4.训练时出现loss出现nan值或者测试时P\R\map全部为0值4.1原因一：4.2原因二4.3原因三4.4原因四GT
陈子迩·2023-09-20 10:54

windows英伟达nvidia显卡驱动安装教程

文章目录查看版本驱动下载驱动安装查看安装结果查看版本之前我的电脑预安装了nvidia的显卡驱动，通过nvidia-smi命令发现驱动版本是DriverVersion：417.98，CUDAVersion
Cachel wood·2023-09-20 09:49

清华chatGLM2-6B windows本地安装教程

文章目录电脑环境配置显卡驱动安装教程cuda+cudnn安装教程pytorch安装教程chatGLM2-6B配置教程电脑环境配置显卡驱动：12.2cuda：11.8cudnn：v8.9.5pytorch
Cachel wood·2023-09-20 09:19

Windows安装cuda和cudnn教程最新版（2023年9月）

文章目录cudacudnncuda查看电脑的cuda最高驱动版本（适用于N卡电脑-Nvidia）win+R打开命令行，输入nvidia-smi右上角cuda-version就是目前支持的最高cuda版本
Cachel wood·2023-09-20 09:18

Windows安装GPU版本的pytorch详细教程

文章目录chatGLM2-6B安装教程正式安装chatGLM2-6BChatGLM2-6B版本要装pytorch2.0，而且要2.0.1，因此CUDA不能用12.0，也不能用10.0，只能用11.x版本
Cachel wood·2023-09-20 09:41

03【深度学习】YOLOV5-WIN11环境搭建（配置+训练)

一、深度学习环境搭建：Win11+CUDA+Pytouch+Anaconda本篇文字是【深度学习】YOLOV5-WIN11环境搭建（配置+训练)，首先介绍win11下基于Anaconda、pytorch
爱吃面的猫·2023-09-20 09:58

gpu cuda 数组求和优化

欢迎关注更多精彩关注我，学习常用算法与数据结构，一题多解，降维打击。问题描述给定1个数组，利用gpu求和并返回结果。cpu算法#include#include#include#includeusingnamespacestd;#defineBLOCK_SIZE1024#defineN(102300*1024)intarr[N];voidcpu_sum(int*in,int&out){out=0;f
闪电彬彬·2023-09-20 02:04

langchain-chatchat试用小记

condacreate-nchatchat激活环境condaactivatechatchat安装pytorchcondainstallpytorchtorchvisiontorchaudiopytorch-cuda
weixin_43147074·2023-09-20 00:44

LangChain-Chatchat学习资料-Windows开发部署（踩坑篇）

[LangChain-Chatchat学习资料-Windows开发部署（踩坑篇）]4.LangChain-Chatchat学习资料-Ubuntu安装Nvidia驱动和CUDA5.LangChain-Chatchat
vriverh·2023-09-20 00:42

LangChain-Chatchat学习资料-Windows开发部署

[LangChain-Chatchat学习资料-Windows开发部署（踩坑篇）]4.LangChain-Chatchat学习资料-Ubuntu安装Nvidia驱动和CUDA5.LangChain-Chatchat
vriverh·2023-09-20 00:11

PyTorch Geometric (PyG) 库的安装

1、PyG库的安装过程第一步：查看自己的torch版本和cuda版本importtorchprint(torch.
steelDK·2023-09-19 22:52

C++学习|CUDA内存管理代码实例

前言：之前介绍了CUDA入门知识，对CUDA编程有了一个基本了解，但是实际写起来还是遇到很多问题，例如cpp文件该怎么调用cuda文件、cpu和gpu之间内存数据怎么交换、如何编写.cu和.cuh文件之类的
魔法自动机·2023-09-19 18:21

C++学习|CUFFT计算一维傅里叶变换

CUFFT库介绍CUFFT（CUDAFastFourierTransform）：CUDA提供了一系列的函数帮助开发者进行快速傅里叶变换的运算。CUFFT库构成：两个子库分别是CUFFT
魔法自动机·2023-09-19 18:21

C++学习|CUDA编程入门

CUDA编程入门GPU介绍CUDA介绍NVCC——CUDA编译器cu/cuh文件——CUDA文件核函数——操作GPU线程模型——CUDA逻辑结构CUDA程序运行流程CUDA内存管理GPU介绍GPU（GraphicsProcessingUnit
魔法自动机·2023-09-19 18:21

deepspeed训练时export CUDA_VISIBLE_DEVICES无效这件事

官方文档在一个犄角旮旯的地方说了不管用(哭了，早点看到少受罪两天)见ResourceConfiguration(single-node)所以正确的做法是使用--include在.py前指定你要用的GPU--includelocalhost:6,7,8,9\顺便多说一句，仅仅单服务器(节点)训练压根不需要hostfile
CSU迦叶·2023-09-19 17:53

使用huggingface的accelerate库出现张量不在同一个设备的RuntimeError

报错如下RuntimeError:Expectedalltensorstobeonthesamedevice,butfoundatleasttwodevices,cuda:1andcuda:2!
CSU迦叶·2023-09-19 17:53

(已解决)Ubuntu多显卡训练模型时程序卡死：torch torch 奈若何

目录问题描述解决过程效果展示问题解决总结参考问题描述#包装为并行风格模型os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"os.environ["CUDA_VISIBLE_DEVICES
CSU迦叶·2023-09-19 17:23

深度学习部署（Pytorch+windows）

安装完成之后，查看自己的驱动版本（NVIDIA控制面板——系统信息——组件）CUDAToolKit安装CUDA之前，先看安装CUDA之前，先到pytorch官网（StartLocally|PyTorch
勇敢的花儿·2023-09-19 16:10

mmdetection环境配置和安装

openmmlab虚拟环境condacreate-nopenmmlabpython=3.7激活openmmlab环境condaactivateopenmmlab安装torch在torch官网查找安装自己电脑cuda
OneCodeSailor·2023-09-19 16:15

ChatGLM微调基于P-Tuning/LoRA/Full parameter（上）

1.准备环境首先必须有7个G的显存以上，torch>=1.10需要根据你的cuda版本1.1模型下载$gitlfsinstall$gitclonehttps://huggingface.co/THUDM
张志翔的博客·2023-09-19 16:11

ImportError: cannot import name ‘Mapping‘ from ‘collections‘

pytorch学习>tensorboard--logdir=logsTraceback(mostrecentcalllast):File"D:\Anaconda3_2022.10\envs\pytorch_cuda11.8
Chen_Chance·2023-09-19 13:37

ubuntu 编译安装支持CUDA的OpenCV+其他opencv细节(需要特定版本gcc)

安装须知cuda支持在安装完“linuxCUDAtoolkit+cudnn+tensorrt的安装”之后进行支持cuda的opencv安装否则报错：CMakeErroratmodules/dnn/CMakeLists.txt
FakeOccupational·2023-09-19 13:59

FasterTransformer在linux系统中的安装教程（ubuntu系统）

当然其实也可以不安装nvidia-docker，直接使用配置好的cuda环境配置，但是这样的话我们就无法使用docker来配置环境，因此配置不好会污染环境，最好是使用docker安装环境，例如使用d
eecspan·2023-09-19 10:42

语义分割pixellib安装方法 PixelLib Tensorflow Version

pip3installtensorflowIfyouhavehaveapcenabledGPU,Installtensorflow–gpu’sversionthatiscompatiblewiththecudainstalledon
越狱兔崽子·2023-09-19 09:37

linux用户下更换cuda版本及部分细节

linux用户下更换cuda版本及部分细节安装cuda进入cuda版本选择页面选择对应版本，这里以cuda11.3.0为例，选择对应的系统信息，选择runfile(local)1.运行代码进行下载wgethttps
_Keep _Going·2023-09-19 03:36

AMD Radeon RX 7000/6000系列显卡安装ROCm 调用CUDA

A卡用户画图炼丹、跑大模型甚至是跑机器学习、深度学习的有福了~注意：ROCm目前仅限在Linux系统下可用，Windows暂不支持1.安装ROCmRX6000系列及以下显卡使用ROCm5.4.2稳定版本命令【支持包括桌面级AMDRadeonRX6950XT、RX6900XT、RX6800XT、RX6800、RX6750XT、RX6750GRE、RX6700XT、RX6700GRE、RX6700、R
木法星人·2023-09-19 01:57

unity gb28181 rtsp 视频孪生图像拉流和矫正插件(一)

1、矫正算法和硬件解码最好使用opencv制作，可以使用opencv的cuda加速，opencv的编译，必须用cudacudnn，都装好，再编译。硬件解码写在插件里面。
qianbo_insist·2023-09-19 00:26

给 linux 的 NVIDIA GPU 安装 CUDA Toolkit

拿到电脑后，我先一个ubuntu-driversdevices查看可用的驱动版本╰─➤ubuntu-driversdevicesERROR:root:aplaycommandnotfound==/sys/devices/pci0000:ae/0000:ae:00.0/0000:af:00.0==modalias:pci:v000010DEd00001EB8sv000010DEsd000012A2b
·2023-09-18 23:09

nv 显卡安装驱动以及周边日志

cudatoolkit和驱动版本的对应关系:https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index...查看cudatoolkit历史版本
·2023-09-18 23:36

给 linux 的 NVIDIA GPU 安装 CUDA Toolkit

拿到电脑后，我先一个ubuntu-driversdevices查看可用的驱动版本╰─➤ubuntu-driversdevicesERROR:root:aplaycommandnotfound==/sys/devices/pci0000:ae/0000:ae:00.0/0000:af:00.0==modalias:pci:v000010DEd00001EB8sv000010DEsd000012A2b
·2023-09-18 23:32

Ubuntu16.04+RTX2070s 安装显卡驱动+CUDA+CUDNN+Pytorch

安装Ubuntu之后由于没有显卡驱动，默认使用了Nouveau，显示器分辨率极低1、安装显卡驱动一般可以使用ppa源安装或者自己从官网下，我在使用ppa添加源的时候一直没反应，可能是网络原因，所以这里选择了第二种：从NVIDIA官网：https://www.geforce.cn/drivers选择合适的版本下载，放在英文目录下（有可能在文本模式下没法显示中文）如果之前有安装驱动，需要先卸载旧版本驱
肥猫有梦想·2023-09-18 22:19
上一页 53 54 55 56 57 58 59 60 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他