CUDA杂记第4页

Ubuntu20.04部署Ollama

在Ubuntu20.04上面安装完RTX4060的NvidiaCuda和TensorRT环境后，就开始跑些大模型看看。

stxinu·2024-08-24 05:22

【PyTorch】torch.backends.cudnn.benchmark 和 torch.backends.cudnn.deterministic

这个设置特别针对使用CUDA和cuDNN库进行的运算，并在使用具有变化输入尺寸的网络时有很大帮助。让我们更详细地解释这个设置的功能和应用场景。什么是cuDNN？cuDNN(CUDADeep

读思辨·2024-08-23 15:49

nll_loss_forward_reduce_cuda_kernel_2d: Assertion `t ＞= 0 && t ＜ n__classes` failed.

nll_loss_forward_reduce_cuda_kernel_2d:Assertion`t＞=0&&t＜n__classes`failed._..

特立独行的Q·2024-08-23 04:45

【flash attention安装】成功解决flash attention安装: undefined symbol: _ZN2at4_ops9_pad_enum4callERKNS_6Tensor

【大模型-flashattention安装】成功解决flashattention安装site-packages/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so

算法驯化师·2024-08-23 04:44

安装cuml和cupy

在windows虚拟linux环境wsl中安装cuml和cupy命令：（假设你的cuda安装的是12.x版本）pipinstallcupy-cuda12xpipinstallcuml-cu12--extra-index-url

luofengxxs·2024-08-23 02:01

CentOS7安装NVIDIA GPU驱动程序和CUDA工具包

1.查看本地环境检查GPU型号lspci|grep-invidia查看linux系统版本uname-m&&cat/etc/redhat-release禁用nouveaulsmod|grepnouveau#打开如下文件sudovim/usr/lib/modprobe.d/dist-blacklist.conf#写入以下内容blacklistnouveauoptionsnouveaumodeset=0

2级选手·2024-08-23 02:30

cuML installation guidence

Mycomputer’sgpuisgtx3060ti,cudaversionis11.4.FirstChecktheversionofyourgcc,type“gcc-v”,ensuringthatyourgccversionis9orhigher

clancy_wu·2024-08-23 02:29

pyinstaller打包onnxruntime-gpu报错找不到CUDA的解决方案

问题说明：使用onnxruntime-gpu完成了深度学习模型部署，但在打包时发生了报错：找不到CUDA具体问题描述：RuntimeError:D:\a\_work\1\s\onnxruntime\python

布呐呐na·2024-08-22 15:56

生活杂记

今天有几件事情，觉得值得记录。第一，有两位学生家长被外面某培训机构忽悠，死活想把孩子带去外面培训机构上学。虽然昨天下午跟她们两位家长利弊讲得很清楚，但今晚小L妈妈打电话来又说这件事，听她的意思好像是怪我这个班主任不让孩子去外面学习。这些家长为什么对公立学校的免费义务教育这么不信任？宁愿在外面花几万十几万的高价，还赔上孩子的几个月宝贵的时间，听着某些培训机构的忽悠，冒险去外面高价培训，面对中考，我很

康康的教育视野·2024-08-22 12:29

opencv | cv::cuda::GpuMat upload函数用法

cv::cuda::GpuMat是OpenCV中用于表示GPU上的图像数据的类，它继承自cv::cuda::GpuMatBase类，提供了一些常用的操作函数，例如upload、download、copyTo

Ddddddd_158·2024-08-22 08:40

DeepSpeed与Megatron的区别和联系

DeepSeedDeepSeed代表性功能MegatronMegatron代表性功能备注GPU底层优化有开创性的全栈GPU内核设计FP6量化更牛逼FusedCUDAKernels毕竟Megatron是Nvidia

爱串门的小马驹·2024-08-22 04:16

黑屋子（169）杂记

杂记一、当你以最快的速度被打压下去的时候，你应该以最快的速度重新站起来。时间就是效率，时间就是生命。君子复chou，十年不晚。时代已经完全不同，有些模型和工具，已经不再适合用在今天。

山的儿女2·2024-05-24 17:13

CUDA——内存

内存形式静态全局内存#include#include__device__floatdevData;//-GPU静态变量（所有设备代码均可见，主机代码不允许直接访问）__global__voidcheckGlobalVariable(){printf("threadIdx.x=%ddevData=%0.2f\n",threadIdx.x,devData);devData+=2.0f;}intmain

UCAS_HMM·2024-03-25 04:19

高质量 Git 仓库汇总（持续更新，方便查看）

pvs-studio-cmake-examples3D目标检测Awesome-3D-Object-DetectionAwesome-3D-Object-Detection-for-Autonomous-DrivingCudaCod

Nice_cool.·2024-03-17 21:31

tang-0203·2024-03-16 22:30

深度学习踩坑记录（持续更新）

目录4060显卡cuda版本异常transformers初始化TrainingArguments时output_dir指定问题4060显卡cuda版本异常环境：torch1.11.0+cu113程序报错

芒果不茫QAQ·2024-03-13 15:39

RuntimeError: (PreconditionNotMet) The third-party dynamic library (cublas64_102.dll；cublas64_10.dll

cublas64_10.dll)thatPaddledependsonisnotconfiguredcorrectly.C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA

xxxggany·2024-03-12 21:13

大模型加速与性能对比

本人环境torch2.0.1+cu118cuda11.8nvidia-driver535.98gcc9

__如风__·2024-03-12 11:58

Ubuntu20.04安装并配置vscode

Ubuntu20.04安装并配置vscodevscode安装miniconda安装创建虚拟python3.8环境pytorch和匹配的cuda安装vscode安装VSCode可以通过Snapcraft商店或者微软源仓库中的一个

double_c之·2024-03-07 12:05

老年人的七夕，比年轻人更虐狗!

浪漫七夕的由来农历七月初七是七夕节，又名乞巧节，起源于汉代，东晋葛洪的《西京杂记》有“汉彩女常以七月七日穿七孔针于开襟楼，人俱习之”的记载。

松柏之青·2024-03-05 12:27

2018年10月17日日常供稿供稿：阎晓佳、发稿：王子翔

重阳节佩茱萸，在晋代葛洪《西经杂记》中就有记

16康复大家庭·2024-03-05 12:53

ChatGPT引领的AI面试攻略系列：cuda和tensorRT

系列文章目录cuda和tensorRT（本文）AI全栈工程师文章目录系列文章目录一、前言二、面试题1.CUDA编程基础2.CUDA编程进阶3.性能优化4.TensorRT基础5.TensorRT进阶6.

梦想的理由·2024-03-05 12:04

Made In Heaven，LLM要加速了

这些都离不开Nvidia的Cuda计算，而目前适配这一驱动的只有Windows和Linux。

DisonTangor·2024-03-03 12:31

Ubuntu 22.04.4 LTS 安装cuda和cudnn

Ubuntu22.04.4LTS安装cuda和cudnn最简单最直接最快速的方法直接在命令行输入下面两行代码安装cudasudoaptinstallnvidia-cuda-toolkit安装cudnnsudoaptinstallnvidia-cudnn

鹤蓝桉·2024-03-01 14:56

解决conda环境下import TensorFlow失败的问题

于是在终端打开python并执行代码importtensorflowastfprint(1)除了提示2024-02-2721:50:00.801427:Iexternal/local_tsl/tsl/cuda

绿竹巷人·2024-02-28 07:17

愚夫杂记～星月天外有（原创）

何时天已无星月茫然一片风云剩人间俗艳物相诱惑亲疏清灯影下盆花绿叶出蓝轻点头示尔随意尽舒怀星月天外有心明清辉入君途图片发自App夜空中星晨似乎隐隐已经有了一种新的习惯，星晨已经习惯不再争辉，不知可年起已经开始稀落，再也难觅那么一两点星光，暗哑灰沉。每到夜晚霓虹灯映，尽目无际，反似繁星点点，真有天地挪移的感觉。各色各样不再纯粹，物欲横流地诱惑着众生，对质朴的疏离，对欲望亲近。人心似乎难以捉摸，表面亲亲

愚夫_e8a2·2024-02-26 09:33

家庭杂记 2021.06.01

1没想到这次六一儿童节，居然小学生放一天假，幼儿园的娃才放半天。这是觉得小学生压力太大了吗?于是辰辰前一天晚上就开始放飞了，放学和同学一家一起出去吃小龙虾了。吃完回来，和同学一起在家里把作业做了一大部分。给辰辰买的儿童节礼物——猫武士一部曲，一共六本。这个儿童节一过就一口气啃掉了三本，而且还意犹未尽，晚上看到十一点还不肯睡觉。看到她这么爱看书，老母亲心里也是各种纠结：爱看书是好事，只是一下午这么看

怡然自得的花花·2024-02-20 23:37

图像数据增强

#coding:utf-8importtensorflowastfimportcv2importrandomimportsysimportosimportshutil#os.environ["CUDA_VISIBLE_DEVICES

菜鸟瞎编·2024-02-20 21:34

基于Diffusion Model的数据增强方法应用——毕业设计其三

文章目录题目简介前言StableDiffusionLatentdiffusion自动编码器(VAE)U-NetText-EncoderStableDiffusion的推理过程从零开始配置实验环境IDEAnacondaCUDA

大鸟仙童·2024-02-20 21:06

渲染对硬件的要求有哪些？渲染100邀请码1a12

如果用的软件支持Nvidia的CUDA并行运算，那对CPU的性能要求就降低了。2、GPUGPU或图形处

千野竹之卫·2024-02-20 19:54

大四合院杂记(八一，紫薇花的传说)

八一，紫薇花的传说小时候，奶奶给我们这些小屁孩的讲了个故事，说是很久很久以前，有个怪兽名叫年，它专门害人吃人，弄得人间不得安宁，于是，玉帝就派紫薇星下凡，将年捉住锁进了深山老林，一年只准它下一次山。但为了管住年，紫薇星就只好化作了紫薇花在人间留下来了，她给人间带来了祥和，也带来了美丽！

高领001·2024-02-20 19:19

每日杂记开车篇

拿到驾照约莫一年了，但自从考场拿证之后的几个月里，再未碰过车。仿佛拿到驾驶证只是完成父母给的一个任务亦或是为了学校加的那一点点学分。想必很多家长都会建议我们在大学期间就拿证的吧。图片发自App好吧重点来了！想要分享一下（其实是来自新手司机的吐槽）最近终于终于在现实的逼迫下要从理论开车到实践开车了。为什么说是现实逼迫呢因为自己开个车出去玩耍还是比较拉风的另外自己想去哪就能开去哪howhappy!但是

珘潇·2024-02-20 17:28

疫中杂记（6）

一疫情之下，医务工作者义无反顾，奔赴一线。为了防止感染，也为了壮行色，示决心，不少最美逆行人剪掉秀发，剃起了光头，成为一道别样靓丽的风景。同样，咱们疫区中心，村里的老少爷们也剃起了光头。不为追时髦，不为求别致，只因黑发白发三千丈，无处断慧根。疫情严峻，全民响应，封村封路。街上商店也封了，理发店同样不准营业。可每个人的头发并不会因为病毒而停止生长，哪怕吃得并不饱，营养跟不上。复古早已不流行，一切从简

别山举水·2024-02-20 16:51

MIT-BEVFusion系列九--CUDA-BEVFusion部署1 debug代码

目录开启Debug常用数据在一起看CUDA-BEVFusion的代码前，我们把后面会常见到的变量以及他的含义写在前方，看代码的时候如果看到同名的变量，可以过来看一看数据的形状和含义。

端木的AI探索屋·2024-02-20 14:25

MIT-BEVFusion系列九--CUDA-BEVFusion部署2 create_core之参数设置

create_core图像归一化参数体素化参数稀疏卷积网络参数真实世界几何空间参数(雷达坐标系下体素网格的参数)解码后边界框的参数构建bevfusion::Core存储推理时需要的参数本章开始，我们将一起看CUDA-BEVFusion

端木的AI探索屋·2024-02-20 14:53

CUDA和cudnn安装教程

查看本机的CUDA驱动适配版本检查是否有合适的GPU,若有安装Cuda与CuDNN在桌面上右击如果能找到NVIDA控制面板，则说明该电脑有GPU。

悲伤的拾荒·2024-02-20 13:52

CUDA与CUDNN 关系

CUDA与cuDNN1、什么是CUDACUDA(ComputeUnifiedDeviceArchitecture)，是显卡厂商NVIDIA推出的运算平台。

XF鸭·2024-02-20 13:52

无需注册登录NVIDIA官网下载CUDNN

https://developer.nvidia.com/rdp/cudnn-archive点击cuDNNArchive|NVIDIADeveloper进入下图界面：找到需要的版本，点击展开下一层比如我想找CUDA

justablackacat·2024-02-20 13:49

在使用cuda12 报错Library cublas64_11.dll is not found

因为nvidia的升级基本上都是是CUDA12了,在我发表文章的时候如果去官网下载CUDA包默认安装CUDA版本就是12了.今天在调用fast-whisper的时候使用GPU报错Librarycublas64

atlasroben·2024-02-20 13:18

杂记

差点就忘了更新了，哈哈哈。。。感觉真像儿子说的这成了任务就没多大意义了。昨天晚上到今天，心里一直想看一本小说《绿墙外的安妮》，写的是一个孤儿小姑娘安妮被收养到一个兄妹俩家里的成长故事，刚看到收养之初，觉得好喜欢安妮，超级想象力，对生活充满好奇与欣赏，天天都那么快乐，但同时有性格鲜明，爱憎分明。我明天想继续看

过眼耳走心思·2024-02-20 13:32

【踩坑系列记录】Anaconda环境将torch由cpu换成gpu

condainstallpytorch==1.12.1torchvision==0.13.1torchaudio==0.12.1cudatoolkit=11.3-

RoyZz_·2024-02-20 13:37

GPU服务器安装显卡驱动、CUDA和cuDNN

GPU服务器安装cuda和cudnn1.服务器驱动安装2.cuda安装3.cudNN安装4.安装docker环境5.安装nvidia-docker25.1ubuntu系统安装5.2centos系统安装6

嘻哈记·2024-02-20 08:45

LSTM 08：超详细LSTM调参指南

本文代码运行环境：cudatoolkit=10.1.243cudnn=7.6.5tensorflow-gpu=2.1.0keras-gpu=2.3.1相关文章LSTM01：理解LSTM网络及训练方法LSTM02

datamonday·2024-02-20 08:00

2018-11-23

expectedtofindtorch.FloatTensorbutfoundtorch.cuda.FloatTensorinstead"So!!!

啊啊啊啊啊1231·2024-02-20 07:45

龙生九子系列之赑屃

——陆文量《菽园杂记》“古诸器物异名，屃赑其形似龟，性好负重，故用载石碑。”

兰陵畫生·2024-02-20 06:34

Pytorch backward报错2次访问计算图需要 retain_graph=True 的一种情况

importtorchimportnumpyasnpimporttorch.optimasoptimtorch.autograd.set_detect_anomaly(True)device=torch.device('cuda'iftorch.cuda.is_available

培之·2024-02-20 06:55

将pytorch中变量的梯度为 nan 的替换成 1 还是 0？

替换成0，则变量保持不动0:xtensor([1.0000,2.0000,3.0000,4.5000],device='cuda:0',requires_grad=True)0:xtensor([1.0000,2.0000,3.0000,4.5000

培之·2024-02-20 06:25

点点杂记(二)

凡事烦事要怎样才能克服自己的一直蠢蠢欲动的虚荣心？这该死的虚荣心就引起强烈的胜负欲，我不想有这种东西存在我的脑子里，我想简简单单的，自己做自己的，不管别人怎么看我，不在意别人怎么做的，不习惯拿自己跟他们做比较，不要有总想做得都比他们好的想法。因为我没有那么努力，够不着这虚荣心的要求，所以常常对自己失望，怀疑自己的能力，质疑自己的各种行为处事方法，一直处在不断审视自己的状态里，对自己做过的事说过的话

南一点点·2024-02-20 05:32

杂记2

今日未完成的有运动，学习中的极限数学，《围城》读后感，英语英标。觉得有点成就感的唯一一点是，我终于把《围城》看完了，大致说下自己的感觉吧，很崇拜钱钟书大大，真的，他的小说里我不仅看到了当时的社会情况，还看出了一个普通人的生活，以一个不成熟的主人公的视角展开，叙述了家长里短，人情世故。我终于知道为什么我总是说看不懂它了，因为里面每个人说的话都带有生活中的那种人物含义，怎么说好呢，很多话都不是字面上的

关伯兰在笑_6734·2024-02-20 05:26

愚夫杂记～实际（原创）

不垢不净清静无碍之心性行顺于圣凡雅俗喜恶之间如风吹日照无分对错如水性自清不惧受污喜亦随喜恶当厌恶自然而然不假是真性情做作于一切事相此心依然寂静无所从来无所去正是如来本性喜恶中不存得失不增不减是执取而生喜恶是情之惑是嗔痴之异相是因法界无边生命无尽所谓得失不就是眼前镜花水月恋恋不舍终害己心性如如不动无所来去是事相幻变错识生灭是因缘际会假有呈现是人不觉而追风逐影忘了心性是不生不灭不来不去故烦恼起图片发自

愚夫_e8a2·2024-02-20 04:08

推荐频道

CUDA杂记