CUDA学习日记第3页

pytorch实现模型搭建

模型就是获取设备，以方便后面的模型与变量进行内存迁移，设备名只有两种：'cuda'和'cpu'。通常是在你有GPU的情况下需要这样显式进行设备的设置，从而在需要时，你可以将变量从主存迁移到显存中。

Fiona.y·2024-08-24 21:30

ubuntu18.04+cuda11.4+nccl安装

本文参考自，但更加详细的介绍了安装方法，避免走弯路ubuntu下安装nccl具体教程_ubuntu安装nccl-CSDN博客文章浏览阅读1w次，点赞5次，收藏12次。使用paddlepaddle框架进行多卡训练时报错：Traceback(mostrecentcalllast):File"train.py",line210,indo_train()File"train.py",line91,indo

袁泽斌的学习记录·2024-08-24 20:57

https://developer.nvidia.com/cuda-toolkit-archive

CUDAToolkitArchive|NVIDIADeveloperhttps://developer.nvidia.com/cuda-toolkit-archive

aiotud·2024-08-24 14:17

Ubuntu20.04部署Ollama

在Ubuntu20.04上面安装完RTX4060的NvidiaCuda和TensorRT环境后，就开始跑些大模型看看。

stxinu·2024-08-24 05:22

【PyTorch】torch.backends.cudnn.benchmark 和 torch.backends.cudnn.deterministic

这个设置特别针对使用CUDA和cuDNN库进行的运算，并在使用具有变化输入尺寸的网络时有很大帮助。让我们更详细地解释这个设置的功能和应用场景。什么是cuDNN？cuDNN(CUDADeep

读思辨·2024-08-23 15:49

BigData学习日记

做一个简单的开篇说明从今天开始，每天定时更新当天所学知识，进行知识总结的同时进行一下日子的计算，也算为自己加油。

wsuan·2024-08-23 14:29

nll_loss_forward_reduce_cuda_kernel_2d: Assertion `t ＞= 0 && t ＜ n__classes` failed.

nll_loss_forward_reduce_cuda_kernel_2d:Assertion`t＞=0&&t＜n__classes`failed._..

特立独行的Q·2024-08-23 04:45

【flash attention安装】成功解决flash attention安装: undefined symbol: _ZN2at4_ops9_pad_enum4callERKNS_6Tensor

【大模型-flashattention安装】成功解决flashattention安装site-packages/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so

算法驯化师·2024-08-23 04:44

安装cuml和cupy

在windows虚拟linux环境wsl中安装cuml和cupy命令：（假设你的cuda安装的是12.x版本）pipinstallcupy-cuda12xpipinstallcuml-cu12--extra-index-url

luofengxxs·2024-08-23 02:01

CentOS7安装NVIDIA GPU驱动程序和CUDA工具包

1.查看本地环境检查GPU型号lspci|grep-invidia查看linux系统版本uname-m&&cat/etc/redhat-release禁用nouveaulsmod|grepnouveau#打开如下文件sudovim/usr/lib/modprobe.d/dist-blacklist.conf#写入以下内容blacklistnouveauoptionsnouveaumodeset=0

2级选手·2024-08-23 02:30

cuML installation guidence

Mycomputer’sgpuisgtx3060ti,cudaversionis11.4.FirstChecktheversionofyourgcc,type“gcc-v”,ensuringthatyourgccversionis9orhigher

clancy_wu·2024-08-23 02:29

pyinstaller打包onnxruntime-gpu报错找不到CUDA的解决方案

问题说明：使用onnxruntime-gpu完成了深度学习模型部署，但在打包时发生了报错：找不到CUDA具体问题描述：RuntimeError:D:\a\_work\1\s\onnxruntime\python

布呐呐na·2024-08-22 15:56

opencv | cv::cuda::GpuMat upload函数用法

cv::cuda::GpuMat是OpenCV中用于表示GPU上的图像数据的类，它继承自cv::cuda::GpuMatBase类，提供了一些常用的操作函数，例如upload、download、copyTo

Ddddddd_158·2024-08-22 08:40

DeepSpeed与Megatron的区别和联系

DeepSeedDeepSeed代表性功能MegatronMegatron代表性功能备注GPU底层优化有开创性的全栈GPU内核设计FP6量化更牛逼FusedCUDAKernels毕竟Megatron是Nvidia

爱串门的小马驹·2024-08-22 04:16

CUDA——内存

内存形式静态全局内存#include#include__device__floatdevData;//-GPU静态变量（所有设备代码均可见，主机代码不允许直接访问）__global__voidcheckGlobalVariable(){printf("threadIdx.x=%ddevData=%0.2f\n",threadIdx.x,devData);devData+=2.0f;}intmain

UCAS_HMM·2024-03-25 04:19

高质量 Git 仓库汇总（持续更新，方便查看）

pvs-studio-cmake-examples3D目标检测Awesome-3D-Object-DetectionAwesome-3D-Object-Detection-for-Autonomous-DrivingCudaCod

Nice_cool.·2024-03-17 21:31

tang-0203·2024-03-16 22:30

深度学习踩坑记录（持续更新）

目录4060显卡cuda版本异常transformers初始化TrainingArguments时output_dir指定问题4060显卡cuda版本异常环境：torch1.11.0+cu113程序报错

芒果不茫QAQ·2024-03-13 15:39

RuntimeError: (PreconditionNotMet) The third-party dynamic library (cublas64_102.dll；cublas64_10.dll

cublas64_10.dll)thatPaddledependsonisnotconfiguredcorrectly.C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA

xxxggany·2024-03-12 21:13

大模型加速与性能对比

本人环境torch2.0.1+cu118cuda11.8nvidia-driver535.98gcc9

__如风__·2024-03-12 11:58

Ubuntu20.04安装并配置vscode

Ubuntu20.04安装并配置vscodevscode安装miniconda安装创建虚拟python3.8环境pytorch和匹配的cuda安装vscode安装VSCode可以通过Snapcraft商店或者微软源仓库中的一个

double_c之·2024-03-07 12:05

ChatGPT引领的AI面试攻略系列：cuda和tensorRT

系列文章目录cuda和tensorRT（本文）AI全栈工程师文章目录系列文章目录一、前言二、面试题1.CUDA编程基础2.CUDA编程进阶3.性能优化4.TensorRT基础5.TensorRT进阶6.

梦想的理由·2024-03-05 12:04

Made In Heaven，LLM要加速了

这些都离不开Nvidia的Cuda计算，而目前适配这一驱动的只有Windows和Linux。

DisonTangor·2024-03-03 12:31

Ubuntu 22.04.4 LTS 安装cuda和cudnn

Ubuntu22.04.4LTS安装cuda和cudnn最简单最直接最快速的方法直接在命令行输入下面两行代码安装cudasudoaptinstallnvidia-cuda-toolkit安装cudnnsudoaptinstallnvidia-cudnn

鹤蓝桉·2024-03-01 14:56

解决conda环境下import TensorFlow失败的问题

于是在终端打开python并执行代码importtensorflowastfprint(1)除了提示2024-02-2721:50:00.801427:Iexternal/local_tsl/tsl/cuda

绿竹巷人·2024-02-28 07:17

图像数据增强

#coding:utf-8importtensorflowastfimportcv2importrandomimportsysimportosimportshutil#os.environ["CUDA_VISIBLE_DEVICES

菜鸟瞎编·2024-02-20 21:34

基于Diffusion Model的数据增强方法应用——毕业设计其三

文章目录题目简介前言StableDiffusionLatentdiffusion自动编码器(VAE)U-NetText-EncoderStableDiffusion的推理过程从零开始配置实验环境IDEAnacondaCUDA

大鸟仙童·2024-02-20 21:06

渲染对硬件的要求有哪些？渲染100邀请码1a12

如果用的软件支持Nvidia的CUDA并行运算，那对CPU的性能要求就降低了。2、GPUGPU或图形处

千野竹之卫·2024-02-20 19:54

【江湖说️学习日记89决策理论】

【江湖说️学习日记89决策理论】[打卡宝宝]：嘿黑~[打卡日期]：2019/02/28[累计坚持]：这是我坚持学习的第89天️[学习内容]：决策理论：如何做出好的决策[学习笔记]：️一、概念：研究人员曾经做过一次调查

栗小蒙·2024-02-20 18:41

学习笔记—独立的损益表

【优胜行动派️❤学习日记】[打卡宝宝]：张雪[打卡日期]：2019/2/21[累计坚持]：这是我坚持学习的第125天[学习内容]：5分钟商学院·独立的损益表[学习笔记]：讲了很久从员工到经理，其最核心的转变

凡小姐_ba36·2024-02-20 14:52

MIT-BEVFusion系列九--CUDA-BEVFusion部署1 debug代码

目录开启Debug常用数据在一起看CUDA-BEVFusion的代码前，我们把后面会常见到的变量以及他的含义写在前方，看代码的时候如果看到同名的变量，可以过来看一看数据的形状和含义。

端木的AI探索屋·2024-02-20 14:25

MIT-BEVFusion系列九--CUDA-BEVFusion部署2 create_core之参数设置

create_core图像归一化参数体素化参数稀疏卷积网络参数真实世界几何空间参数(雷达坐标系下体素网格的参数)解码后边界框的参数构建bevfusion::Core存储推理时需要的参数本章开始，我们将一起看CUDA-BEVFusion

端木的AI探索屋·2024-02-20 14:53

CUDA和cudnn安装教程

查看本机的CUDA驱动适配版本检查是否有合适的GPU,若有安装Cuda与CuDNN在桌面上右击如果能找到NVIDA控制面板，则说明该电脑有GPU。

悲伤的拾荒·2024-02-20 13:52

CUDA与CUDNN 关系

CUDA与cuDNN1、什么是CUDACUDA(ComputeUnifiedDeviceArchitecture)，是显卡厂商NVIDIA推出的运算平台。

XF鸭·2024-02-20 13:52

无需注册登录NVIDIA官网下载CUDNN

https://developer.nvidia.com/rdp/cudnn-archive点击cuDNNArchive|NVIDIADeveloper进入下图界面：找到需要的版本，点击展开下一层比如我想找CUDA

justablackacat·2024-02-20 13:49

在使用cuda12 报错Library cublas64_11.dll is not found

因为nvidia的升级基本上都是是CUDA12了,在我发表文章的时候如果去官网下载CUDA包默认安装CUDA版本就是12了.今天在调用fast-whisper的时候使用GPU报错Librarycublas64

atlasroben·2024-02-20 13:18

【踩坑系列记录】Anaconda环境将torch由cpu换成gpu

condainstallpytorch==1.12.1torchvision==0.13.1torchaudio==0.12.1cudatoolkit=11.3-

RoyZz_·2024-02-20 13:37

Kotlin学习日记-控制流程

1.条件与循环1.1If表达式在Kotlin中，if是一个表达式：它会返回一个值。因此就不需要三元运算符（条件?然后:否则），因为普通的if就能胜任这个角色varmax=aif(ab){max=a}else{max=b}//作为表达式valmax=if(a>b)aelseb如果您将if其用作表达式，例如，用于返回其值或将其分配给变量，则else分支是强制性的。1.2When表达式when定义具有多

浩辉-Hy·2024-02-20 08:48

GPU服务器安装显卡驱动、CUDA和cuDNN

GPU服务器安装cuda和cudnn1.服务器驱动安装2.cuda安装3.cudNN安装4.安装docker环境5.安装nvidia-docker25.1ubuntu系统安装5.2centos系统安装6

嘻哈记·2024-02-20 08:45

LSTM 08：超详细LSTM调参指南

本文代码运行环境：cudatoolkit=10.1.243cudnn=7.6.5tensorflow-gpu=2.1.0keras-gpu=2.3.1相关文章LSTM01：理解LSTM网络及训练方法LSTM02

datamonday·2024-02-20 08:00

2019-08-02

【行动派️学习日记】[打卡宝宝]：王燕[打卡日期]：2019/8/2[学习内容]：道德经说什么[学习笔记]：第三十七章，“侯王若能守之，万物将自化。”化，顺理成章。

meng7277·2024-02-20 07:28

2018-11-23

expectedtofindtorch.FloatTensorbutfoundtorch.cuda.FloatTensorinstead"So!!!

啊啊啊啊啊1231·2024-02-20 07:45

Pytorch backward报错2次访问计算图需要 retain_graph=True 的一种情况

importtorchimportnumpyasnpimporttorch.optimasoptimtorch.autograd.set_detect_anomaly(True)device=torch.device('cuda'iftorch.cuda.is_available

培之·2024-02-20 06:55

将pytorch中变量的梯度为 nan 的替换成 1 还是 0？

替换成0，则变量保持不动0:xtensor([1.0000,2.0000,3.0000,4.5000],device='cuda:0',requires_grad=True)0:xtensor([1.0000,2.0000,3.0000,4.5000

培之·2024-02-20 06:25

C/C++/Cuda不依赖任何三方库求解3x3矩阵的特征值和特征向量

/适用于C/C++下载dsyevv3-C-1.1.tar.gz采用LGPL协议，不适合商业开发https://github.com/PointCloudLibrary/pcl/blob/master/cuda

OTZ_2333·2024-02-20 03:34

【Unity学习日记03】数据持久化

目录1概念2PlayerPrefs2.1概念2.2操作1存储2读取3删除2.3Windows存储位置2.4优缺点分析2.5自定义类的存储3JSON3.1概念3.2JsonUtility1JsonUtility.ToJson2JsonUtility.FromJson3JsonUtility.FromJsonOverwrite3.3支持/不支持Unity序列化1字段2类3.4基于Json的简易存档系统

manqi_·2024-02-20 03:19

GPU，CUDA，cuDNN的理解

我们知道做深度学习离不开GPU，不过一直以来对GPU和CPU的差别，CUDA以及cuDNN都不是很了解，所以找了些资料整理下，希望不仅可以帮助自己理解，也能够帮助到其他人理解。

达微·2024-02-20 00:58

AI芯片技术架构有哪些？FPGA芯片定义及结构分析

GPU架构采用多个计算单元（CUDA核心）进行并行计算，能够高效地执行浮点运算和矩阵计算。NVIDIA的Tens

Hack电子·2024-02-20 00:43

思维导图：听书稿撰写的关键本领

【9.5学习日记】【你的昵称】6-8-飞龙【你最深刻的感悟与收获】01观看了今天的课程，顿然醒悟从课中我收获了听书稿写作的关键——提炼书中核心内容，撰写听书稿的写作提纲及思维导图。

贵龙讲学习·2024-02-19 21:44

英伟达（NVIDIA）和CUDA

英伟达（NVIDIA）是一家知名的图形处理器（GPU）制造公司，而CUDA则是NVIDIA推出的一种并行计算架构和编程模型。

小米人er·2024-02-19 20:57

推荐频道

CUDA学习日记