CUDA杂记

cuda python

cudapythoncuda的编程模型简单的数据流：把输入数据从cpu内存拷贝到gpu的显存上；加载执行芯片上的缓存数据，加载gpu程序并执行
怎么开心怎么玩·2024-01-19 12:18

CUDA中的原子操作

CUDA中的原子操作原子函数对驻留在全局或共享内存中的一个32位或64位字执行读-修改-写原子操作。
怎么开心怎么玩·2024-01-19 12:48

大模型学习与实践笔记（八）

一、LMDeploy的优势二、核心优势说明1.量化2.持续批处理3.Blockedk/vcache4.有状态的推理5.高性能cudakernel
AllYoung_362·2024-01-19 10:55

大模型学习与实践笔记（七）

一、环境配置1.平台：Ubuntu+Anaconda+CUDA/CUDNN+8GBnvidia显卡2.安装#构建虚拟环境condacreate--namextuner0.1.9python=3.10-y
AllYoung_362·2024-01-19 10:54

linux下载cuda toolkit实现并行计算

linux下载cudatoolkit实现并行计算（1）下载安装CUDAToolkitCUDAToolkit官网：https://developer.nvidia.com/cuda-downloads里面有安装步骤教程注意
Hz、辉·2024-01-19 09:49

linux系统环境变量问题记录

linux系统环境变量问题记录遇到的问题(1)在链接cuda代码时g++-oprogmain.o-lcudart报错：usr/bin/ld：找不到-lcudart(2)其实这个问题就是链接时编译器找不到
Hz、辉·2024-01-19 09:49

CUDA Toolkit 下载，安装，验证

CUDAToolkit下载进cuda官网下载CUDAToolkit链接：https://developer.nvidia.com/cuda-downloads官网默认显示当前的最新版本，这里以安装CUDAToolkit12.2
qyhua·2024-01-19 08:33

深度学习（一）——windows深度学习环境安装（pytorch）

1.确认电脑显卡是英伟达GPUwin+R，打开运行菜单，输入命令dxdiag2.安装CUDAhttps://developer.nvidia.com/cuda-downloads下载后，一路默认安装命令行
吴禅染·2024-01-19 08:30

pytorch 合集： pytorch的函数之torch

GPU类型就是CPU类型中间加上cuda.torch.Tensor,torch.rand(),torch.randn()默认生成torch.FloatTensor类型。
JL_Jessie·2024-01-19 08:00

ImportError: cannot import name ‘get_all_providers‘ from ‘onnxruntime.capi._pybind_state‘

debug备份场景：pth转onnx遇到此问题环境：onnx1.8.0onnxruntime-gpu1.6.0cuda11.1问题：cuda版本不对尝试解决办法：condainstallcudatoolkit
Mr.Q·2024-01-18 20:30

文学杂记 · 文章分类

图片元素素材来源网络-侵删文章总的可以分为记叙文和论说文两大类。记叙文是用来记录事情和描写物品，叙述事物的变化经过，作者不发表意见也不做评论；目的在于把事物的形状或变化写出来给大家看。论说文是用来对某些事物（事理）进行说明和评论，除了把事物的情形说出来之外，作者还要附带对事物的评论和感受。目的是让大家信服和理解。更细致的区分，又可以将记叙文分为记述文和叙述文；将论说文分为说明文和议论文。记述文主要
弘毅笔记x·2024-01-18 19:58

（杂记）小家伙的新鞋子

鉴于春天已来，给小家伙准备的冬天的鞋子显然已不太合适，原本打算等哪天空闲的时候逛逛某宝，看是否合适，可因为才给小家伙报了运动课，怕网购在时间上来不及收货，便于午休时候去实体店逛了一圈。某弦工作的写字楼下正好是商场，也有母婴店。原本只是逛逛看是否合适，倒是发现优惠价格还能接受。纠结了半天尺寸后，导购表示，如果不合适，或是宝宝不喜欢，七天内可以凭小票和标签卡进行退换。这才下定决心买了不同款式的两双。原
未语轻弦·2024-01-18 16:29

杂记

今天呢，我的高中同学给我寄了耳机，收礼物最开心了！哈，高中的好兄弟！他太痴心了，喜欢一个女生，人家都恋爱了，他还要等人家分手，自己成为那个女生的站台，他说，老崔啊，我这么务实，她怎么不和我在一起呢～我只能沧海一声笑。我啊，觉得呢，每个阶段都有那个阶段的快乐，我呢，开心吗，开心！！生活就是这样啊，有痛，有乐，痛也是中感受啊，它使我成长！我要珍惜时间了，不能得过且过，有时候觉得自己怎么甘心平凡，想做出
Elsa_cbab·2024-01-18 16:02

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA2024/1/1518:05百度搜索：ubuntugtx1080mcudahttps://blog.csdn.net
南棱笑笑生·2024-01-18 16:37

【TensorRT】DeviceToHost同步与异步拷贝的区别及带来的问题

cudaMemcpy与cudaMemcpyAsync的区别与问题cudaMemcpy与cudaMemcpyAsync的区别一、认识stream流二、tensorRT推理的常规流程三、遇到的问题四、引用与参考文献
澄鑫·2024-01-18 15:55

农艺杂记（一）

学院于校区不远处承包了几亩田地，分给了学生们。虽然上级并未做出进一步指示，但我也在导师的暗示下开始了田间劳作。一来二去，从翻地施肥，到播种灌溉，再到除杂追肥，也算百天有余。临近年关岁末，诸事缠身，深觉压力甚大，做此篇札记，以舒缓内心的烦闷焦虑，也希望的未来学术生活可以真如自己期许的”舍我其谁挑重担，为观奇景上高山“。与农作物打交道，着实是一番难事，最类似的感受莫过于谈恋爱了。由于地是乡下建筑改造地
逐鸿·2024-01-18 15:36

坐车杂记

坐公交车最适合神游。开车固然不能走神，坐亲友的车也不宜旁若无人地发呆。可是坐公交车，只要你不怕坐过站，想元神出窍到哪都没关系。有人说坐公车人多，摇晃，吵杂，时间长。在我看来，只要能有方寸可转寰之地，这趟公车走一两小时都没关系。一辆移动的汽车就是一座暂时与世隔绝的荒岛。任由汽车晃悠着，这时除了这辆车，外在的一切都与你无关，这辆车也与你无关，它不需要你关心，自会走向它的终点。这段时间你完全属于自己，你
仰脸呼吸的鱼·2024-01-18 12:57

不同版本CUDA和cudnn下载安装并配置环境变量

干货满满，不要走开~目录前言一、下载或更新显卡驱动（选做）1.查看当前显卡驱动版本以及支持的最高版本的CUDA2.下载显卡驱动二、安装CUDA1.查看支持的最高版本的CUDA2.下载CUDAToolkit
爱敲代码的panda·2024-01-18 12:12

openai-whisper

增加到自己的视频里,并且显示字幕1.下载b站视频到电脑2.提取视频中的音频3.音频转文字4.自己的视频去掉音频,增加新的音频和字幕0.参数说明语音识别模型whisper的参数说明1.视频语音转文字exportCUDA_VISIBLE_DEVICES
GeekPlusA·2024-01-18 12:42

pycharm import torch

1安装我的电脑Windows11Python3.11Anaconda3-2023.09-0-Windows-x86_64.execuda_11.8.0_522.06_windows.exepytorch
东方.既白·2024-01-18 10:40

随笔杂记

这几天的课程没有仔细听，每次听都是带着耳机边听边干手中的活，听完之后也想不起到底听了啥。现在回想起来，其实是最浪费时间，既没有好好干活，也没有记下到底听了什么有用的东西，所以以后还是要好好听课，并且做笔记，记下有用的东西，根据学到的，规划好以后要改进的地方怎么做去具体执行。现在急于要进行故事和小说的写作，是由于想要尽快的开始写长篇小说，但还没有做好准备，又想起一句话，如果做万全的准备去写小说，那么
谷峤·2024-01-18 10:02

杂记

元旦过后的第三天，成都经历了历年罕见的寒潮，嘶！真的冷啊，床也不想起，早上起来玩手机也只敢露个头和一只拿手机的手，而且还要左手右手换着来，难受啊！来自百度搜索身为一个南方人，晚上睡觉就是把自己裹成一个粽子然后漏一个头，嘿嘿！图片发自App反正就是很冷了（小声bb），在这寒冷的冬天里，游戏都不想耍的我是很佩服那些热衷打麻将的大妈们，在没有空调的房间里，一张机麻，一副麻将就是他们快乐的源泉。除了佩服我
益大师LY·2024-01-18 09:51

conda install命令无法安装pytorch

由于网络问题，直接采用condainstall命令可能无法直接下载对应的cuda包。
qq_43650421·2024-01-18 09:40

杂记

感情是很虚无缥缈的东西，绝大部分的婚姻和爱情的维持靠的不是感情，而是责任。然而两个人在一起如果相互折磨，即使相爱，也是趁早分手的好。这与爱情里的责任无关，所以不要自责。长痛不如短痛，分手，遇到更合适的人，对彼此都好。图片发自App
小芋头_6048·2024-01-18 09:12

Tensorflow、CUDA、cuDNN详细的下载安装过程

文章目录前言一、Tensorflow简介二、Tensorflow版本介绍1.Tensorflow与python、CUDA、cuDNN对应关系2.NVIDIA显卡和CUDA的版本号关系三、Tensorflow
机智的小神仙儿·2024-01-18 09:15

TensorRT部署-Windows环境配置

系列文章目录文章目录系列文章目录前言一、安装VisualStudio（2019）二、下载和安装nvidia显卡驱动三、下载CUDA四、下载安装cuDNN五、安装Anaconda六、TensorRT安装七
小豆包的小朋友0217·2024-01-18 07:07

复现PointNet++（语义分割网络）：Windows + PyTorch + S3DIS语义分割 + 代码

一、平台Windows10GPURTX3090+CUDA11.1+cudnn8.9.6Python3.9Torch1.9.1+cu111所用的原始代码：https://github.com/yanx27
累了就要打游戏·2024-01-18 06:14

Tensorflow学习笔记（六）——卷积神经网络

  实现对fashion-minist分类：  （1）引包importosos.environ["CUDA_VISIBLE_DEVICES"]="-1"importmatplotlibasmplimportmatplotlib.pyplotasplt
七月七叶·2024-01-18 06:50

归乡杂记之棠梨子树

晨起，和母亲回来路过村里的池塘，真是惊喜。我既听到了蛙鸣，也看到了儿时不曾见过的水鸭子。只是满池塘的植物让人看不清池水真正的颜色？深浅不一的绿色，就像一副浑然天成的水墨画。拿起手机才发现画面里的这棵棠梨子树。是呀，就是这样一颗不起眼的野树，陪伴了我的整个童年。不记得它是什么时候出现在池塘里的，也没人告诉我们过这是哪位前辈栽种的。80后的农村果树是极少的，会开花的树更是少之又少。能记住这棵树完全因为
被风追赶的叶·2024-01-18 05:22

如果开启了8bit量化加载,项目无法启动，参考此位置，选择合适的cuda版本

部署大语言模型过程，报错如标题，并发现同时出现的报错信息：ImportError:Usingload_in_8bit=TruerequiresAccelerate:pipinstallaccelerateandthelatestversionofbitsandbytespipinstall-ihttps://test.pypi.org/simple/bitsandbytesorpipinstall
孔雀竹鱼·2024-01-18 01:36

周未杂记

东方一向是男尊女卑、重男轻女的，其实到了我们这辈依然。不过，城市里稍好些。最近，在帮姐姐校对稿子的过程中，真觉得庆幸自己生活在现代社会了。当然也庆幸自己生活在城市里。稿是清未民国时期的贵州地方志，其中的一段大量讲述了某某，夫卒，而她不过十八九岁的年龄，能不被陪葬已算幸福了，但是守寡是一定的了。这让我想起老家里的几位亲人。奶奶辈的，年轻时代还是新中国建国前，一生苦楚抚养大几个孩子；父母辈的伯母依然是
佳佳的宝瓶子·2024-01-18 01:20

【深度学习】RTX2060 2080如何安装CUDA，如何使用onnx runtime

文章目录如何在Python环境下配置RTX2060与CUDA101.安装最新的NVIDIA显卡驱动2.使用conda安装CUDAToolkit3.验证onnxruntime与CUDA版本4.验证ONNX
XD742971636·2024-01-18 01:29

nvcc -V显示command not found

出现这个问题，不仅是`nvcc-V`会显示commandnotfound,`nvidia-smi`同样也会显示解决方法如下：1）这里首先转换到CUDA所在位置，一般是在这个位置cd/usr/local2
摩卡摩卡～·2024-01-17 23:16

python检查PyTorch版本及cuda是否安装成功

__version__)print(torch.cuda.is_available())输出True就代表安装成功，反之安装失败1.7.0True
New___dream·2024-01-17 21:55

今日断，杂记

有些事当断不断，没什么好处。人不容易死心，一点萤火之光，也能生出幻想，以为靠着这就能度过寒冬。只有走投无路，才会愤起给自己创造有备无患。做个书虫也要做个玩家。及时行乐猴在大脑里荡荡悠悠，完美主义时不时出来作祟，世界还等着我去拯救。从小就有个女侠梦，从此仗剑天涯。一路上遇见各行色的人，欺负与压榨，可怜与可恨，爱慕与离恨。。。。我记得以前天蔚蓝，水清绿，阳光似鎏金。却回不去了。
巫巷·2024-01-17 19:43

shell监视gpu使用情况

--------------------------------------------------------------+|NVIDIA-SMI440.44DriverVersion:440.44CUDAVersion
HackerTom·2024-01-17 18:27

碎片杂记

碎片杂记文/郑淑芳转眼又是一年末，年味越来越浓了。早饭后，老张上班去了。我收拾好饭后残局，突然想起教室的绿萝该浇水了吧？
清泉_8ed6·2024-01-17 17:30

杂记4

陈云风29或许这又是最差劲的周末之一吧。周六，母亲早早出去医院，拿检查结果。正午时分回来，开门只象征性地开了一点，一看就知道没有好结果。然后又看着她默默进来，能观察到眼圈是红的，我也不得不放下手中的事，不过又不知道说什么，就问问具体结果。似乎不希望我知道，母亲支支吾吾地蒙混过去了，我便趁她忙时看看医院的报告。不是小事，按她说的又不算大事。问及处理问题时，说是要做一个小手术，不过有风险...其实早在
一陆同行·2024-01-17 17:03

2019杂记（102）研究儿童资格自测

凡研究儿童的人，必须具有以下资格：1.知科学的方法，具科学的精神。2.对于儿童有敬爱之心。3.曾经研究过普通心理学。4.必须有恒心和细心。5.与儿童接触的机会要多。——引自《儿童心理学之研究》载《陈鹤琴全集》儿童立场不是说出来的，而是做出来的。要想做好小学教育，首先要研究儿童。对比以上几条进行自测，每一项最满意为十分，最不满意为零分，开始自我暴露：1.知科学的方法，具科学的精神。（7分）了解过一些
宁超群·2024-01-17 17:06

字符串题目杂记

前言：主要是字符串处理的题目，有时候感觉很简单却处理不好-=这里就作为我的字符串题目笔记吧，主要来自于leetcode周赛的第一题。题目就放英文吧，也锻炼一下英文阅读能力，小陈，加油！——2021.8.8LeetCode5838.检查字符串是否为数组前缀(check-if-string-is-a-prefix-of-array)Givenastringsandanarrayofstringswor
cwtnice·2024-01-17 16:02

【cuda】四、基础概念：Cache Tiled 缓存分块技术

缓存分块是一种内存优化技术，主要用于提高数据的局部性（Locality），以减少缓存未命中（CacheMiss）的次数。在现代计算机体系结构中，处理器（CPU）的速度通常比内存快得多。因此，如果CPU在处理数据时需要频繁地等待数据从内存中加载，就会大大降低程序的执行效率。CacheTiled技术通过将数据分割成较小的块（Tiles），并确保这些小块能够完全装入CPU的高速缓存（Cache），来减少
prinTao·2024-01-17 16:44

【CUDA】五、基础概念：Coalescing合并用于内存优化

先来看之前的例子：矩阵乘法中的Coalescingwrites刚才的代码中，可以观察到两个for循环，这里可以进行优化。“coalescingwrites”（合并写操作）“coalescingwrites”（合并写操作）是一种优化内存访问模式的技术，它能显著提高内存带宽的利用效率。这种技术尤其对于全局内存访问非常重要，因为全局内存访问速度相比于核心计算速度要慢得多。底层原理内存事务：当GPU的线程
prinTao·2024-01-17 14:51

【CUDA】零基础入门教程合集

本系列用于cuda编程的基础入门，详细介绍各种相关技术。这是系列连载的入口，还可以关注我的专栏CUDA编程。
prinTao·2024-01-17 14:51

【cuda】六、基础库：cuBLAS入门

cuBLAS基础介绍CUDABasicLinearAlgebraSubprograms（BLAS）提供了高效计算线性代数的方法。
prinTao·2024-01-17 14:51

【cuda】Visual Studio中进行CUDA程序的性能评估

在VisualStudio中使用Nsight进行CUDA应用程序的性能评估可以按照以下步骤进行：步骤1:准备工作确保已经安装了以下组件：最新版本的NVIDIA驱动。
prinTao·2024-01-17 14:18

3月19日杂记

清晨一家人在18平方米的小屋，比起家里真的很紧，空调声大，小小的单人锅蒸着花卷，体验一次旅行。孩子们觉得小屋挺好，喊妈妈方便，不然房子大了，想和妈妈说一个事，找不到妈妈。清晨，一家人一起散步，岩石园林，是改善贵州到处喀斯特岩石而设定的，这里很多植被，单单海棠花就有三种，开花分别有大红色，粉色，白色，美美的，花瓣有点像桃花，但树干不像，叶子也不像。度假村里有萌宠乐园，我们一起去看羊驼，马，驴子，孔雀
eagle_d319·2024-01-17 13:45

Ubuntu部署ChatGLM2-6B踩坑记录

目录一、环境配置1、安装anaconda或者miniconda进行环境的管理2、安装CUDA3、环境安装二、配置加载模型1、建立THUDM文件夹三、遇到的问题1、pipinstall-rrequirements.txt2
XINYU W·2024-01-17 13:01

GPT实战系列-实战Qwen在Cuda 12+24G部署方案

GPT实战系列-实战Qwen在Cuda12+24G部署方案ChatGLM4进行新闻发布，但还没有开源更新，在此之际，实战部署测试Qwen大模型。
Alex_StarSky·2024-01-17 12:43

杂记

今天在当当上面买了7本书，这是我上大学以来的第一次买书，着实有点感触。当时上大学之前一直计划着在大学里面要3周读一本书，还要从事创作，考四六级，结果后来却沉迷于小说和抖音，一件事情都没有做成，让当时的所有计划都以泡汤。现代的网络和媒体发展确实是太快了，我们自己也没有什么自制力，所以经常荒废时光在无意义的事上。现在仅以此文记录一下我此刻的心情，同时督促自己好好看完买的书
旧梦旌·2024-01-17 11:08

windows环境下安装CUDA（用GPU训练Tensorflow-YOLOv3）

关键就是搭建好cuda环境NVIDIA显卡驱动（https://www.nvidia.cn/Download/inde
dvlee1024·2024-01-17 11:47
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他