CUDA学习日记第28页

安装LLaMA-Factory微调chatglm3，修改自我认知

LLaMA-Factory.gitcondacreate-nllama_factorypython=3.10condaactivatellama_factorycdLLaMA-Factorypipinstall-rrequirements.txt之后运行单卡训练，CUDA_VISIBLE_DEVICES

小草cys·2023-12-15 13:46

【C++初阶】七、内存管理（C/C++内存分布、C++内存管理方式、operator new / delete 函数、定位new表达式）

=========================================================================相关代码gitee自取：C语言学习日记:加油努力(gitee.com

高高的胖子·2023-12-15 12:39

【Python】DAY02学习日记，记一次惨绝人寰的debug

解决在启用Fiddler的环境里，爬虫报requests.exceptions.SSLError的问题错误原因image.png源自：https://www.zhihu.com/question/42104344/answer/158407685感谢知乎老哥通俗易懂又深刻的解释！解决办法：1.在requests.get()里设置参数verify=FALSE，跳过验证环节response=reque

northwest332·2023-12-15 08:11

zedbox 实现配置 yolov5

积极向上的mr.d·2023-12-15 07:51

解决报错：RuntimeError：CUDA out of memory

爆内存，屏蔽显卡，换用cpu训练importosos.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"os.environ["CUDA_VISIBLE_DEVICES"

图学习的小张·2023-12-15 05:33

LLM推理部署（六）：TogetherAI推出世界上LLM最快推理引擎，性能超过vLLM和TGI三倍

TogetherAI声称，他们在CUDA上构建了世界上最快的LLM推理引擎，该引擎运行在NVIDIATensorCoreGPU上。

wshzd·2023-12-15 05:31

win11 CUDA(12.3) + cuDNN(12.x) 卸载

win11CUDA（12.3）+cuDNN（12.x）卸载信息介绍卸载信息介绍本文是对应win11+RTX4070Ti安装CUDA+cuDNN（图文教程）的卸载卸载控制面板-->程序-->卸载程序卸载掉图中红框内的

ZChen1996·2023-12-15 04:15

win11+RTX 4070Ti+CUDA12.1+cuDNN12.x+pytorch2.1 环境配置（图文教程）

win11+RTX4070Ti+CUDA12.1+cuDNN12.x+pytorch2.1环境配置（图文教程）教程基本信息介绍卸载已安装的CUDA和cuDNN安装CUDA与cuDNN安装Anaconda

ZChen1996·2023-12-15 04:15

【工具篇】Jetson Xavier NX环境搭建

文章目录JetsonXavierNX环境搭建（ROS、PyTorch、OpenCV）1.JetPack安装2.Pip安装3.CUDA环境变量配置4.ROS2安装5.ROS2卸载6.安装pytorch7.

MJY@二进制·2023-12-15 02:41

【Pytorch API笔记8】用torch.cuda.empty_cache()释放所有未使用的缓存内存

可以使用torch.cuda.empty_cache()来释放所有未使用的缓存内存。以下是一个示例：importtorchtorch.cuda.empty_cache()

hjxu2016·2023-12-15 02:07

爬虫学习日记第九篇（爬取seebug）

目标：https://www.seebug.org/vuldb/vulnerabilities需求：爬取cve_id及影响组件单线程cookie是有时效的(过一段时间就不行了，大概半小时左右)，但是并不需要登录(直接抓包拿到的请求头)importbase64importjsonimporturllibfromconcurrent.futuresimportThreadPoolExecutorimp

开心星人·2023-12-15 01:35

多流

多流之前我们讨论的并行，都是线程级别的，即CUDA开启多个线程，并行执行核函数内的代码。GPU最多就上千个核心，同一时间只能并行执行上千个任务。

DreamColors·2023-12-14 23:42

学习日记15-长尾理论

[打卡宝宝]：于海洋[打卡日期]：2018/11/15[累计坚持]：这是我坚持学习的第15天️[学习内容]：商业篇-5大基础逻辑：04长尾理论[学习笔记]：你家有一个老款的电视机，有一天，遥控器坏掉了，你想去配一个新的遥控器。你知道，就在你家楼下有个修理铺，于是就去问。修理铺老板说，真是抱歉啊，我们只有最新款的电视机的遥控器，这款实在是太老了，我们没有的卖。为什么啊？为什么他不卖你这款电视机的遥控

洋芋g·2023-12-14 23:11

【PyTorch】计算设备

torch.device('cuda')如果有多个GPU，我们使用以下方式表示第iii块GPU（从0开始）torch.device(f'cuda:{i}')另外，cuda:

盛世隐者·2023-12-14 22:40

github代码大纲

sworsman31415926/muduo:Event-drivennetworklibraryformulti-threadedLinuxserverinC++11(github.com)sworsman31415926/cuda_testcase

感知算法工程师·2023-12-14 22:58

FFmpeg的AVcodecParser

文章目录结构体操作函数支持的AVCodecParser这个模块是AVCodec中的子模块，专门用来提前解析码流的元数据，为后面的解码做准备，这一点对cuda-NVdec非常明显，英伟达解码器的元数据解析是放在

泰勒朗斯·2023-12-14 22:54

win10-mmgen安装/cyclegan运行问题记录

mmconda环境：conda：CUDA11.3condainstallpytorch1.11.0torchvision0.12.0torchaudio==0.11.0cudatoolkit=11.3-

橙黄橘绿时_Eden·2023-12-14 19:17

Anaconda+Cuda+Cudnn+Pytorch（GPU版）+Pycharm+Win11深度学习环境配置

一、准备工作个人电脑配置：RTX4060win11个人配置版本：cuda（11.7）+pytorch(2.0.1)+python(3.9)所需工具：1、python集成开发环境：Anaconda2、CUDA

find_starshine·2023-12-14 19:45

释放深度学习的力量：使用 CUDA 和 Turing GPU 构建 AI

对于渴望进入AI开发世界的爱好者来说，本指南将为您提供知识和资源，使用CUDA和TuringGPU在Windows或Li

结构化文摘·2023-12-14 19:38

Anaconda+Pytorch（GPU版）深度学习环境配置笔记

qq_43757976/article/details/131173301配置版本略有更新，最新版本时间为2023.12.11一、准备工作个人电脑配置：laptopRTX4060win11个人配置版本：cuda

xyzAriel·2023-12-14 19:35

ubuntu22.04 安装cuda

CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种并行计算平台和编程模型。它允许开发者利用NVIDIA的GPU（图形处理单元）进行高效的计算处理。

MonkeyKing_sunyuhua·2023-12-14 19:52

如何通过Clion配置cuda编程

方法ubutu中用clion创建的cuda项目，在终端编译一般没有什么问题，但是用Clion本身在配置cmake确经常报些找不到cuda等类似的错。

梦想的理由·2023-12-14 19:12

解决pytorch训练的过程中内存一直增加的问题

部分)代码中存在累加loss，但每步的loss没加item()importtorchimporttorch.nnasnnfromcollectionsimportdefaultdictiftorch.cuda.is_available

京城王多鱼·2023-12-14 17:47

FFmpeg之AVHWAccel

这也是ffmpeg解码器中比较重要的一个模块，很多人认识它应该是通过一条命令ffmpeg-hwaccelcuda-hwaccel_output_formatcuda-iinput.mp4-c:vh264

泰勒朗斯·2023-12-14 15:41

TVM（端到端的优化栈）概述

陈天奇团队宣布推出TVM，在微博上表示，「我们今天发布了TVM，和NNVM一起组成深度学习到各种硬件的完整优化工具链，支持手机，cuda,opencl,metal,javascript以及其它各种后端。

wangbowj123·2023-12-14 14:56

了解NVIDIA显卡驱动（包括CUDA、CUDA Driver、CUDA Toolkit、CUDNN、NCVV）

背景开发过程中需要用到GPU时，通常在安装配置GPU的环境过程中遇到问题；CUDAToolkit和CUDNN版本的对应关系；CUDA和电脑显卡驱动的版本的对应关系；CUDAToolkit、CUDNN、NCVV

可keke·2023-12-14 13:09

【项目日记(二)】开胃菜--定长池的实现

博主CSDN主页:杭电码农-NEO ⏩专栏分类:项目日记-高并发内存池⏪ 代码仓库:NEO的学习日记 关注我带你学习C++ 开发环境:VisualStudio2022项目日记1.前言2.前期基础知识铺垫

杭电码农-NEO·2023-12-14 12:59

Windows 安装 flash-attention 和 bitsandbytes

首先保证cuda版本为12.1，torch版本为2.1.0及以上，python版本3.10以上从此处下载最新版的whl，https://github.com/jllllll/bitsandbytes-windows-webui

防搞活机·2023-12-07 01:59

VSCode之C++ & CUDA入门：reduce的N+1重境界

背景Reduce是几乎所有多线程技术的基础和关键，同样也是诸如深度学习等领域的核心，简单如卷积运算，复杂如梯度聚合、分布式训练等，了解CUDA实现reduce，以及优化reduce是理解CUDA软硬件连接点的很好切入点

qq_37172182·2023-12-07 00:23

UE4学习日记——什么时候使用获取玩家控制器来监听用户键盘或鼠标等输入

学习的过程中一直没想明白：既然可以直接拖拽“键盘x”事件到蓝图里了，可为什么在蓝图里偏偏还要再通过获取玩家控制器来监听键盘输入？如果不使用玩家控制器，则有的时候按键没反应，有的时候却有反应。。。究其原因其实很简单，当然这只是我的看法：蓝图类要么是actor，要么是pawn，要么是charactor，要么是…在这里按下按键，并不知道是具体哪个玩家按下，有可能有多个玩家，那么监听谁的？处理方法有两种：

暂时先用这个名字·2023-12-06 23:54

UE4学习日记——蓝图中的各种颜色代表什么

节点类型颜色：白色：执行线蓝色：调用的函数或事件暗蓝色：结构体草绿色：流程切换绿色：纯函数，通常用于获取什么青色：试着对象转换紫色：函数定义灰色：宏红色：事件的定义土黄色：时间轴数据类型颜色：白色线条：执行线（程序的执行流程）红色：event事件暗红色：Bool布尔型洋红色：String字符串型粉色：Text文本型青色：Integer整型绿色：Float浮点型暗绿色：Byte字节型黄绿色：Inte

暂时先用这个名字·2023-12-06 23:24

Paddle安装

官方指导版本，选择稳定版，根据自己的系统和cuda版本选择合适的，最后粘贴指令完成安装！:Paddle安装官方链接

阿维的博客日记·2023-12-06 22:29

实时监控gpu

Linux监控服务器GPU状态_linux监控gpu_LiQiang33的博客-CSDN博客当outofmemory时，修改环境变量：setPYTORCH_CUDA_ALLOC_CONF=max_split_size_mb

LANWENBING·2023-12-06 21:43

【Tebsorflow-gpu 1.15 安装】：Anaconda下安装

环境：python3.6激活环境：condaactivatetf15condainstallcudatoolkit=10.0查找cudnn对应版本：condasearchcudnn-chttps://mirrors.tuna.tsinghua.edu.cn

大桃子技术·2023-12-06 21:40

CUDA动态场景的光线追踪+OPENGL实现

1绕着Z轴旋转的CUDA动态场景追踪算法#include#include#include#include#defineDIM1024#definernd(x)(x*rand()/RAND_MAX)#defineINF2e10fstructSphere

布林组-？·2023-12-06 21:24

学习日记（一）Linux系统重置root密码和简单命令总结

一、重置root密码（rd.break）1.进入Linux系统此界面下，按e。2.进入此界面时，在quiet后空一格输如：rd.break，之后按Ctrl+x进入下一个界面。3.进入此界面之后输入：mount|grepsysroot进入下一个界面。4.以读写的方式挂载/sysroot，输入步骤3命令之后输入：命令1：mount-oremount,rw/sysroot/命令2：mount|greps

哈hhhh·2023-12-06 18:40

【Java学习日记】SpringCloud-Eureka搭建分布式架构

文章目录SpringCloud创建父工程1.创建Eureka服务工程（注册中心）创建一个SpringBoot工程导包相关pom文件依赖配置在SpringBoot配置文件中配置Eureka服务（这里用的是application.properties文件）在启动类中添加Eureka注解开启Eureka服务运行启动类2.创建Eureka服务提供者工程创建一个SpringBoot工程导包相关pom文件依赖

开心就好9905·2023-12-06 15:49

cuda函数的前缀作用

文章目录cuda函数的前缀作用1、前缀作用2、global3、device4、hostcuda函数的前缀作用1、前缀作用函数执行环境标识符，即表明函数在哪里被调用2、global__global__修饰的函数是核函数

这是一个图像·2023-12-06 15:43

这是一个图像·2023-12-06 15:13

异构编程和cuda程序概念

文章目录异构编程和cuda程序概念一、异构系统和异构编程模型1、什么是异构系统2、异构系统优点3、什么是异构编程模型二、cuda基本知识三、cuda工作流程1、基本流程2、并行线程组织结构3、CUDA程序异构编程和

这是一个图像·2023-12-06 15:13

Ubuntu解锁N卡VGpu记录:解锁帧数限制,降压超频等

Ubuntu解锁N卡VGpu记录以及DLC前言:把N卡解锁VGPu好处基本就是hostDockerENvCu118和KVM-Guset-windows等都可以使用Cuda而且性能基本没什么损失,大概只支持包含

cheng1999_cn1·2023-12-06 13:46

记录 | CUDA编程中使用#ifdef指令控制生成CPU和GPU代码

CUDA编程中使用#ifdef指令控制生成CPU和GPU代码比如：#include#include__host____device__voidsay_hello(){#ifdef__CUDA_ARCH_

极智视界·2023-12-06 10:59

ubuntu18.04+python3.6配置caffe全记录

Ubuntu18自带python版本为3.6.8，本文流程为系统环境配置caffe（python3.6）miniconda3的3.6虚拟环境下运行caffe不报错1.cuda+miniconda+cudnn

20b1f662b8eb·2023-12-06 09:22

【GPU】linux 安装、卸载 nvidia 显卡驱动、cuda 的官方文档、推荐方式（runfile）

文章目录1.显卡驱动1.1.各版本下载地址1.2.各版本文档地址1.3.安装、卸载方式2.CUDA2.1.各版本下载地址2.2.各版本文档地址2.3.安装、卸载方式2.4.多版本CUDA切换方式1.显卡驱动

我才是一卓·2023-12-06 06:29

vs2019，zed相机开发环境配置记录

在C/C++选项附加包含目录中添加cuda和

faris_5bing·2023-12-05 23:13

Windows10下ZED相机的安装和使用记录

下载cuda，ZED需要使用NVIDIA显卡来进行计算。在使用之前需要现在对于的cuda版本。

faris_5bing·2023-12-05 22:43

记录 | CUDA编程中用constexpr替代host&device

\n");}__global__voidkernel(){say_hello();}intmain(){kernel>>();cudaDeviceSynchronize();say_hello();ret

极智视界·2023-12-05 22:30

记录 | CUDA编程中声明内联函数的方法

\n");}__global__voidkernel(){say_hello();}intmain(){kernel>>();cudaDeviceSynchronize();return0;}需要注意的点

极智视界·2023-12-05 22:00

记录 | CUDA编程中的 host & device 双重修饰

\n");}__global__voidkernel(){say_hello();}intmain(){kernel>>();cuda