CUDA杂记

厦门自由行之第一天:

厦门三人行之杂记出发前一天:12️28日下午15:00从广州粗发，来深圳集合！
大苏子在广漂·2024-09-16 08:41

【安装环境】配置MMTracking环境

condainstallnumpy=1.21.5mmtracking支持的torch版本有限，需要找到合适的condainstallpytorch==1.11.0torchvision==0.12.0cudatoolkit
xuanyu22·2024-09-15 18:53

家庭杂记 2022.03.14

1今天是孩子们居家学习的第一天，姐姐的第一次网课的第一堂课是班队课。老师在给孩子们讲了一些关于YQ当中在家学习时，如果遇到一些心理上的问题要如何去化解和处理的方法。晚上我和老马在讨论的时候就觉得现在的老师们或者说现在的教学在这一点上还是真是和我们那时候比起来进步了不少，开始更多地在关心孩子们的心理健康。我们所在片区虽然是FF区，但老马为了不给同事们造成一些心理压力，也主动提出了居家办公，可能接下来
怡然自得的花花·2024-09-15 00:04

安装torch报错 raise ReadTimeoutError(self._pool, None, “Read timed out.“) pip._vendor.urllib3.exceptions

文章目录1.配置cuda的torch环境时报错1.配置命令2.报错bug2.解决方法1.增加下载超时时间：2.尝试使用镜像源：3.检查网络连接：4.分次安装：5.重试安装：6.手动下载.whl文件安装1
待磨的钝刨·2024-09-14 17:51

SAM2跑通（Ubuntu20.04)内含安装多个cuda

参考链接：github链接安装cuda，之前借鉴的方法安装多个cuda补充cuda安装：Asymlinkalreadyexistsat/usr/local/cuda.Updatetothisinstallation
好好607·2024-09-14 17:49

使用vllIm部署大语言模型

-CUDA工具包（根据GPU型号选择合适的版本）。二、安装vllm1.创建虚拟环境（推荐）-使用Conda：c
添砖JAVA的小墨·2024-09-14 12:18

vllm在线推理踩坑记

优点就不详细介绍了，这里摘抄一段来自于Qwen2上手指南对于它的简单介绍：它易于使用，且具有最先进的服务吞吐量、高效的注意力键值内存管理（通过PagedAttention实现）、连续批处理输入请求、优化的CUDA
懂点投资的码农·2024-09-14 12:14

多版本cuda安装及灵活切换详细教程

一、首先介绍下我所使用的环境ubuntu18.04+1080ti二、下载安装包1.cudatoolkit下载①环境选择，想要多版本共存的，尽量选择runfile文件进行安装②有些cudatoolkit下载页面
Fzc_PCL·2024-09-14 07:14

Cuda 程序编译报错: fatal error: cusparse.h: No such file or directory

编译cuda程序时发现下列报错：/mnt/xxx/miniconda3/envs/xxx/lib/python3.8/site-packages/torch/include/ATen/cuda/CUDAContext.h
原野寻踪·2024-09-14 07:44

大四合院杂记(四十三，六相公的梦想就是吃饱饭)

四十三，六相公的梦想就是吃饱饭六相公是村里的五保户，一直单门独户，我们这些小屁孩的，小一点的喜欢听他讲故事，稍微大一点了，就会跟着更大一点的孩子瞎起哄：“相公相公，穿个花衣衫，娶个麻子婆，生个孩子没屁眼！”听他讲故事那时候，他很高兴，他喜欢讲他小时候受苦的故事，解放前，给财主放牛，吃不饱，穿不暖，还会挨打。他那时的梦想就是能吃饱饭。因为他是孤儿，住的地方是茅草棚子，夏天外面下大雨，里面下小雨；冬天
高领001·2024-09-14 07:22

PyTorch官方免CUDA加速推理，Triton时代要来？

在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的GPU和CUDA是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖CUDA，使用它加速的机器学习模型可以实现更大的性能提升。
诗者才子酒中仙·2024-09-14 04:56

放风筝杂记

今天，我从平台买的风筝到了。正好是星期天，正好春暖，正好有和煦的微风，儿子自己挑的风筝，收到，他自然高兴，欢喜打开，安装好，我们俩一起去东边麦田里放风筝。我长这么大，还是第一次放飞风筝。儿子小，他把放风筝的任务交给了我，在我的记忆中，风筝开始要起跑才能飞起，我试了两次，不是这样。应该是边放飞边松拉线，风筝就上飞了，我放着轮里的线，它边随着线的增长而飘摇向上，直到我将线放的很长很长，它飞得很高很高，
心和·2024-09-13 13:43

元日杂记

2019年的元旦，难得睡了个懒觉。醒来，朋友圈一片喜气洋洋迎新岁，各种群内红包漫天洒。我羡慕生活中这些无忧无虑，活色生香，离我似乎总远了一米。出门兜了一圈，天气倒随我，没有见雪为晴，而是一种逼仄的阴冷。说是白天，却有一种奇怪的亮，是老天爷一种似笑非笑，似哭非哭的表情。大概他也在尴尬着，摆不平雨雪风晴各路人马。我对这位老天爷很是无奈，因为他摆平了我。我在他面前谨小慎微，言听计从，可是他不偏爱我。自从
花委尘·2024-09-13 08:01

如何利用马桶时间？

于是我总坐在马桶上翻个几页，不管是漫话杂志，还是画册小集，亦或是小诗杂记，还真有些，身心一起清的感觉。二．写杂记。趁着如此轻松，静谧之际，写上几
琴弦X·2024-09-13 04:35

GPU版pytorch安装

由于经常重装系统，导致电脑的环境需要经常重新配置，其中尤其是cudatorch比较难以安装，因此记录一下安装GPU版本torch的过程。
普通攻击往后拉·2024-09-13 03:13

人工智能-GPU版本机器学习、深度学习模型安装

背景1、在有Nvidia-GPU的情况下模型使用cuda加速计算，但是很有多模型的GPU和CPU版本安装方式不同，如何安装lgb\cat\xgb.2、为了让代码有普适性，如何自适应环境当中的设备进行CPU
bw876720687·2024-09-13 02:06

CUDA 编程入门（2）：CUDA 调度模型

参考：CUDA编程入门（2）：CUDA编程模型-知乎(zhihu.com)CUDA调度模型Block调度Block对应的物理硬件概念是SM，也就是说SM负责block中线程的执行，SM会为每个block
知识搬运工人·2024-09-12 02:33

病中杂记

＊以前，总是认为自己喜欢运动，便可以疏忽对身体的照料。然，昨２日突染感冒，发烧。当夜甚是痛苦，整夜不得眠，欲求药而不得，只能忍着。中间起来好几回，都是弄水给自己喝。以至于两日不敢洗澡，衣物也不敢更换。白天到公司效率低下，然吾心中纵使有百般不愿，也只能独自承受，旁人亦不得见，意志消沉，天线落下。回到家中，暖气亦坏，其中心情，可想而知。但皆此种种，皆有因果，不造恶业，不得恶果。不做好事，焉得福报。回家
Aaron_Swartz·2024-09-12 00:33

Ubuntu 开机出现 recovering journal 无法进入图形界面解决流程(不通用，自用)

X11/xorg.conf.failsafe/etc/X11/xorg.confsudoservicelightdmstopsudoapt-getremovenvidia*cdjohn/qudong+cuda9.0
Artintel·2024-09-12 00:20

Yolo-v3利用GPU训练make时发生错误：/usr/bin/ld: cannot find -lcuda

一.利用GPU训练Yolov3时，首先要修改MakeFile文件，修改格式如下：GPU=1(原来为0)CUDNN=1(原来为0)NVCC=/usr/local/cuda/bin/nvcc(新建,注意自己本机的地址
徐小妞66666·2024-09-11 20:58

【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)

cuda==10.2cudnn==8.0.3onnxruntime-gpu==1.5.0or1.6.0pipinstallonnxruntime-gpu==1.6.0###2.2方法二：onnxruntime-gpu
2401_83703835·2024-09-11 13:36

pytorch计算网络参数量和Flops

batch_size=-1)输出的参数是除以一百万（/1000000）M，fromfvcore.nnimportFlopCountAnalysisinputs=torch.randn(1,3,256,256).cuda
Mr_Lowbee·2024-09-11 10:08

使用TensorRT对YOLOv8模型进行加速推理

这里使用GitHub上shouxieai的infer框架对YOLOv8模型进行加速推理，操作过程如下所示：1.配置环境，依赖项，包括：(1).CUDA:11.8(2).cuDNN:8.7.0(3).TensorRT
fengbingchun·2024-09-11 04:30

ONNX Runtime、CUDA、cuDNN、TensorRT版本对应

文章目录ONNXRuntime的安装ONNXRuntime与CUDA、cuDNN的版本对应ONNXRuntime与ONNX的版本对应ONNXRuntime、TensorRT、CUDA版本对应ONNXRuntime
可keke·2024-09-10 22:45

刘大杰《中国文学发展史》读书笔记48

六朝的作品，只是一些没有结构的残丛小语式的杂记，叙事没有布置，文笔亦极俗浅，实在还算不得小说。中国的文言短篇小说，在艺术上发生价值，在文学史上获得地位，是起于唐代的传奇。
小神仙记录薄·2024-09-10 22:10

ONNXRuntime与CUDA版本对应

通常在安装onnxruntime时，需要将其版本与pytorch版本和CUDA版本进行对应，其中ONNXRuntime与CUDA版本对应关系表如下表所示。ONNXRuntimeC
zy_destiny·2024-09-10 22:15

【已解决】onnx无法找到CUDA的路径

onnxruntime\python\onnxruntime_pybind_state.cc:857onnxruntime::python::CreateExecutionProviderInstanceCUDA_PATHissetbutCUDAwasntabletobeloaded.Pleaseinstallthecorrectvers
烟花节·2024-09-10 21:10

Window 下 Vim 环境安装踩坑问题汇总及解决方法

导航Linux下Mamba及Vim安装问题参看本人之前博客：Mamba环境安装踩坑问题汇总及解决方法Linux下Vmamba安装教程参看本人之前博客：Vmamba安装教程（无需更改base环境中的cuda
yyywxk·2024-09-10 16:32

windows11 wsl2 ubuntu20.04安装vision mamba并进行测试

windows11wsl2ubuntu20.04安装visionmamba安装流程使用cifar-100测试安装成功安装流程visionmamba安装了半天才跑通，记录一下流程在wsl上安装cudawgethttps
一剑斩蛟龙·2024-09-10 16:59

[Lora][微调] Qwen-VL/Qwen-VL-chat微调问题

模型预训练错误一“erfinv_cuda”notimplementedfor‘BFloat16’RuntimeError:"erfinv_cuda"notimplementedfor'BFloat16'
翔迅AI·2024-09-10 03:07

日常杂记

今天10月5日，日更第二天，今天的天气极其寒冷，两个字形容，那就是“真爽”！不知怎么的，大部分地区强降温，着实让许多人都受不了，关键是昨天已经和朋友约好出来游玩，怎么也没想到这么冷的天气，因为只是国庆回家，没有拿太厚的衣服，但家里的衣服又全都搬到了学校，就这样，我成了没有厚衣服穿的小孩。图片发自App骑电动车走在路上，耳边风声呼呼，大树的叶子也被吹得呼啦啦全掉了下来，给人一种好清冷的感觉，路上也有
沙雕少女最优秀·2024-09-10 01:58

【Pytorch】cumsum的实现逻辑

本文只记录cumsum的实现逻辑的CUDA部分，也即底层调用了CUDA的什么实现算子。
栏杆拍遍看吴钩·2024-09-09 20:13

百度飞桨paddle安装 包括CUDA,cuDNN,opencv的安装

conda创建新环境这部分代码均在AnacondaPrompt中写，要求已有Anaconda第一步：创建condacreate--nameyourEnvpython=3.6–name：也可以缩写为【-n】，【yourEnv】是新创建的虚拟环境的名字，创建完，可以装anaconda的目录下找到envs/yourEnv目录python=2.7：是python的版本号。也可以指定为【python=3.6
小甲学长·2024-09-09 16:13

深度学习回归任务训练代码模版

＋验证迭代使用`tensorboard`输出模型训练过程和指标可视化(可选)结果预测参考参数设置超参设置：config包含所有训练需要的超参数（便于后续的调参），以及模型需要存储的位置device='cuda'iftorch.cuda.is_av
槐月初叁·2024-09-09 13:17

cpu运行gpu上的pytorch 报错:AssertionError:torch not compiled with cuda enabled——已解决

感觉今天介绍的这种方法可以解决所有这种报错出现的问题事件发生：报错：AssertionError:torchnotcompiledwithcudaenabled解决方法：后来看到这个代码parser.add_argument
霍格沃茨电气魔法师·2024-09-09 11:35

Transiting from CUDA to HIP（三）

一、Workarounds1.memcpyToSymbol在HIP(Heterogeneous-computeInterfaceforPortability)中，hipMemcpyToSymbol函数用于将数据从主机内存复制到设备上的全局内存或常量内存中，这样可以在设备端的内核中访问这些数据。这个功能特别有用，因为它允许在主机端定义数据符号，并在设备端的内核中使用这些符号。#include#inc
青禾子的夏·2024-09-09 05:55

HALCON 错误代码 #7709

原因报7709主要的原因有如下几个原因：1、就是你选的cuda版本和cudnn的不匹配，这个原因应该大家在选择的时候注意一下版本对比的话可以避免，基本上不是这个原因造成的。
聪明不喝牛奶·2024-09-08 23:41

ERROR: No matching distribution found for torch-geometri satisfies the requirement torch-geometric

试了网上的whl下载确保虚拟环境下nvcc和cuda版本一致，还不行遂找淘宝大佬,大佬换了pytorch版本python版本都不行最后根据报错出现的setup安装了pytest-runner，然后pipsearch
zzzzz忠杰·2024-09-08 05:14

解决安装依赖项时的ERROR: No matching distribution found for torch==1.10.0+cu111问题

在这种情况下，+cu111表示你正在安装针对CUDA11.1的Torch版本。因此，你需要确保你的环境中已经安装了CUDA11.1，并且你正在使用与之兼容的Torch版本。
CAI2256·2024-09-08 05:43

ERROR: No matching distribution found for torch==1.4.0 (from torchvision)

pipinstall--no-depstorchvision==0.5.0下面是cuda版本，Torch版本，Torchvision版本以及python版本的对应关系做了一个表，仅供大家参考
迷雾总会解·2024-09-08 05:12

大模型推理框架 RTP-LLM 架构解析

RTP-LLM与当前广泛使用的多种主流模型兼容，使用高性能的CUDAkernel,包括PagedAttention、FlashAttention、FlashDecoding等，支持多模态、LoRA、P-Tuning
阿里技术·2024-09-07 23:32

2020杂记（106）万物都有自己的节奏

1我不仅入睡难，醒得早，睡眠还很浅，半夜有一丁点声音就会醒过来，半天睡不着。偏偏卧室外面的空地正在修建学校和市场，有时候通夜都是机器的轰鸣声。最近一段时间，醒得越来越早，醒后就再也睡不着。凌晨五点左右，会全身发热。白天老是犯困，身体总是僵着，像是黏着牛皮糖一样，连脑袋也不灵光了，做事效率越来越低。“我是不是早更了？”我跟朋友开玩笑。“啥早更？你现在更已经是正常时间段了。”“你找打哦！”“你的身体节
宁超群·2024-09-07 20:31

日常杂记

随着孩子一天天长大，专职宝妈的心中也因为和社会越来越脱节而心生惶恐，最近的状态就是：如果哪天看书了，心情就好点，否则就处于急躁加恐慌。这不，刚刚妈妈接了个电话，是一个从小看我长大的叔叔的，他听到我专职在家带孩子，很是诧异，居然连问了三遍确认，我听到了，心中更是无奈，看娃娃真的是占据太多时间，完全没有自己的空间，不知道什么时候能好点呢？还好，有盼头，等她上幼儿园了，我就可以重新回职场了，但是这之前真
气体_81bd·2024-09-07 12:19

深度学习框架相关-Python模块的介绍和使用---torch

；2.下面主要介绍torch模块的五个功能：数据加载和处理，GPU加速，建立网络模型，模型的保存和加载，梯度更新和参数优化；上面功能主要用到的子模块如下：torch.utils.data、torch.cuda
sccum·2024-09-07 09:22

2020杂记（102）整合资源进课堂

【摘录】制作《银汤匙》研究笔记时，先生会借助词典、百科事典等彻底查阅，但即便如此，也依然会有搞不清楚的地方。那该怎么办呢？据说，先生是直接写信向当时健在的《银汤匙》作者中勘助先生求教。《全世界都想上的课》P37【感悟】仅从桥本先生对教材的研究精神，我们也会被他折服，期待着能上他的课。借助工具书彻底查阅，我们平时在做教学准备的时候，也会用到，不算稀奇。但是桥本先生能够主动去联系作者来解答疑惑，却是我
宁超群·2024-09-07 09:04

回乡杂记|三三探幽

我知道影子没有求用，但是我要找回我的影子。我已经走了很久的路，很远很远。我记得我穿过了一片松林，厚厚的绵软的松针让双脚无比舒适。不时，在路边看到松针层凸起的小包，我轻轻地将它扒开，一朵或几朵奶黄而油滑的菌子显露出来，鲜艳而丰满，让我精神倍振。我记得我经过了一片坟堆，荒凉、破败，夕阳斜照残碑，我有时弯腰辨认碑上的字迹。生不闻名，死或留志，这或许也是人生一点安慰。我坐在一个垮落的坟旁，想起了写聊斋的蒲
之川_f6c2·2024-09-06 22:28

apex安装，解决ModuleNotFoundError: No module named ‘packaging‘ error: subprocess-exited-with-error

apexcdapexpipinstall-v--no-cache-dir--global-option="--pyprof"--global-option="--cpp_ext"--global-option="--cuda_ext
pingtaner1105·2024-09-06 20:00

PyTorch 版本与 CUDA 版本的兼容性示例

PyTorch1.9.0及以上版本支持CUDA11.1。PyTorch1.8.0支持CUDA11.0。PyTorch1.7.0支持CUDA10.2。PyTorch1.6.0支持CUDA10.1。
小赖同学啊·2024-09-06 17:36

python opencv cuda tensorrt pytorch之间的版本对应

python3.7opencv4.4cuda10.2tensorrt7xpytorch1.5DeepStream5.xOpenCV2.x：支持Python2.xOpenCV3.x：支持Python2.7
YIACA·2024-09-06 16:33

在PyTorch中使用CUDA, pytorch与cuda不同版本对应安装指南，查看CUDA版本，安装对应版本pytorch_pytorch cuda

在PyTorch中使用CUDA，根据你的具体环境和需求调整版本号，确保安装的PyTorch版本与你的CUDA版本兼容。
2401_84009626·2024-09-06 16:31
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他