24G显存第15页

如何处理训练过程中出现OOM（显存不足）

【现象描述】GPU上网络运行过程中出现OOM（显存不足）【原因分析】出现该现象，可能原因如下：1.训练batchsize过大。2.输入数据的shape是变化的（输入数据动态shape）。

昇思MindSpore·2023-11-02 11:13

大模型训练时的内存泄漏与显存不足

内存泄漏位置位置1FaceDetection不可重复创建FaceDetection，该位置是内存泄漏的大头mediapipe.solutions.face_detection.FaceDetection(model_selection=1,min_detection_confidence=0.5)位置2tensorboardX不可重复创建tensorboardX.SummaryWriterSumm

ReadyShowShow·2023-11-02 11:10

NeRF-SLAM部署运行（3060Ti）

记录在部署运行期间遇到的一些问题，分享给大家~一、环境RTX3060Ti、8G显存（其实是不够用，只能简单跑跑demo）、Ubuntu18.04二、部署1.下载代码gitclonehttps://github.com

zllz0907·2023-11-01 21:38

单色屏幕的旋转显示算法(micropython,frameBuf)

编写墨水屏micropython板本的驱动时，需要对墨水屏进行旋转显示，由于墨水屏本身没有旋转功能，因此需要对显存进行旋转操作。

f4t0x·2023-11-01 11:58

产后三剂生化汤，保你复原乳汁畅！

原方组成：当归24g，川芎9g，桃仁14枚（去尖，研成泥），炮姜1.5g，炙甘草1.5g，黄酒一杯（兑入）、童子尿1杯（兑入）。七味药组成。功效是活血逐瘀，

郭佳东·2023-11-01 00:23

【AI绘画-stableDiffusion】图片放大；高清修复；重绘幅度调参讲解；SD upscale 放大脚本

.-1&vd_source=38d6ea3466db371e6c07c24eed03219b一、图生图（基于已有图片的高清修复）1.提升整图分辨率（优点：对原图影响较小；缺点：显存占用较大）·1.1使用自己生成出来的

MicroLindb·2023-10-31 08:54

GPU 初理解

GPU=显存+计算单元1、显存（GlobalMemory）：显存是在GPU板卡上的DRAM，类似于CPU的内存，就是那堆DDR啊，GDDR5啊之类的。

DingXiong·2023-10-31 01:49

踏上人生这条船，注定风雨和波澜

有的时候，这些都是明显存在的，有的时候，是在经历过后才明白的。但是有的时候，这些风雨和波澜，就算你明白了也是无可奈何，因为这些风雨和波澜，来自于你最亲近的人。

彳亘·2023-10-29 22:42

汇编语言实验十-《汇编语言-王爽老师》

10、实验十1、显示字符串主要需解决的问题：字符串在显存中的地址定位代码及注释如下：;LAB10-1.asmassumecs:codedatasegmentdb'Welcometomasm!'

陌兮_·2023-10-29 21:03

利旧IBM X3650m2 安装esxi5.1提供云桌面（备忘）

公司有一台旧服务器，原来的IBMX3650m2服务器，2物理CPU，24G内存，8块300G硬盘。

weixin_33730836·2023-10-29 18:41

【深度学习】Python使用指定gpu运行代码

命令行指定显卡GPU运行python脚本在大型机构分配的服务器集群中，需要使用GPU的程序默认都会在第一张卡上进行，如果第一张卡倍别人占用或者显存不够的情况下，程序就会报错说没有显存容量，所以能够合理地利用

TwcatL_tree·2023-10-29 16:38

详解MegatronLM流水线模型并行训练(Pipeline Parallel)

EfficientLarge-ScaleLanguageModelTrainingonGPUClustersUsingMegatron-LM】是2021年出的，同时GPT-3模型参数已经达到了175B参数，GPU显存占用越来越多

MLTalks·2023-10-29 08:12

GPU -- 图形处理器（显卡）

目录GPUGPU的主要信息和功能显存位宽接口v-sync散热GPU显卡（GraphicsProcessingUnit，GPU）是计算机中的一种专门用于处理图形和图像相关任务的硬件设备。

chen丶2·2023-10-29 07:53

RuntimeError: CUDA error: out of memory解决方法

1.如果这个报错后面跟了想要占用多少显存但是不够看这个2.直接报错OOM没有说申请多少显存我的是第二种情况，前一天可以运行的第二天不知道什么情况就报这个错误了解决方法，加入以下代码：importosos.environ

Keenkey6·2023-10-28 16:33

安装sharepoint订阅版过程

一、安装需求1、计算资源需求CPU4核，内存24G以上，硬盘300G2、操作系统WindowsServer2019标准或数据中心WindowsServer2022标准或数据中心3、数据库支持数据库兼容性级别

蓝色的鱼wo·2023-10-28 13:41

sharepoint2016-2019升级到sharepoint订阅版

一、升级前准备：要建立新的sharepoint订阅版环境，需求如下：1.单服务器硬件需求CPU4核，内存24G以上，硬盘300G（根据要迁移的数量来扩容大小等）；2.操作系统需要windowsserver2019

蓝色的鱼wo·2023-10-28 13:34

在Win11上部署ChatGLM2-6B详细步骤--（上）准备工作

本次开源的版本是其60亿参数的小规模版本，约60亿参数，本地部署仅需要6GB显存（INT4量化级别）。其中Ch

BBM的开源HUB·2023-10-28 06:39

VESA 编程介绍(一)标准VGA BIOS及超级VGA模式号

------------------------------------------------------------------相关章节:(1):标准VGABIOS及超级VGA模式号(2):CPU显存控制

思想黑客·2023-10-28 05:55

ChatGLM2-6b小白部署教程(windows系统，16G内存即可，对显卡无要求，CPU运行)

虽然默认程序是GPU运行且对显卡要求不高，官方也说默认需要13G的显存，使用量化模型貌似只需要6G显存，但对于我这种平民玩家，不租云服务器的话，单靠我这GTX30504G的卡怕是跑不

Life_Is_Good占用·2023-10-28 03:06

中文能力赶超GPT4模型ChatGLM2-6B最新发布，教你使用 CPU 本地安装部署运行实现

结合模型量化技术，ChatGLM-6B可以本地安装部署运行在消费级的显卡上做模型的推理和训练（全量仅需13GB显存，INT4量化级别下最低只需6GB显存）虽然智商比不过openAI的ChatGPT模型，

恒TBOSH·2023-10-28 03:35

2018-10-06清除GPU显存占用残留

发现GPU利用率为0，而且没有程序在跑，显存却占用的1/3，此不正常现象必有古怪↓查看所有在占用显存的程序，包括top不会显示的程序：fuser-v/dev/nvidia*像这样对比nvidia-smi

HellyCla·2023-10-27 11:24

Keras学习笔记（4）Resource exhausted: OOM when allocating tensor with shape

分配的显存超过GPU可用的最大显存，显存不足（OOM,OutofMemory)分析：这样的话可能有两个原因：（1）batchsize太大，这种只需要将batchsize减小就行了（2）GPU的显存太小，

谢昆明·2023-10-27 10:07

五味杂谈从日常中来……

手推车：只有内心盛满东西，才凸显存在的价值。图片发自App叉车：两只粗壮的铁胳膊，就是它最耀眼的地方，也是它最具优势的地方。房包车：无论怎么美化，都克服不掉空穴来风的现实。图片发自Ap

guowen春回大地·2023-10-27 04:04

i5 7400 黑苹果10.15.5核显630可dvi显示并有2048显存

多做尝试还是有不一样的结果，如果主板可以封vga输出就不用拔线操作了，vga要能正常显示显存就只有7M，用工具改的话只能是10.14的苹果系统和老版系统，那样

萧然冉升·2023-10-27 04:28

通义千问本地部署

Introduction）1.1要求（Requirements）1.2依赖项（Dependency）1.3快速使用（Quickstart）二、本地部署2.1安装需求package2.2量化效果评测推理速度显存使用

Dr.sky_·2023-10-27 04:31

webgl速记之如何根据用户硬件进行性能模式OR质量模式的切换的设计思路

我遇到一个问题，我写了一份shader在不同的用户的机器上，会爆显存崩溃，我合成了几张巨大的纹理，一次上传，如果我分几个批次，就不会发生这个事情，然后性能就会相对下降那么要处理这种事情，该怎么办，想了想

DBBH·2023-10-27 04:26

ChatGLM系列一：ChatGLM的介绍及代码实践

下面是官方对ChatGLM的介绍：ChatGLM-6B，结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。

永胜永胜·2023-10-26 21:57

DeepSpeed

进行切片后分布式保存ZeRO-3：对optimizer、grad和模型参数进行切片后分布式保存offload：将forward中间结果保存到内存、硬盘（NVMe）等缓存中，然后在需要时进行加载或重计算，进一步降低显存占用对应

银晗·2023-10-26 19:56

pytorch学习经验(一) detach, requires_grad和volatile

在跑CIN的代码时,将batch_size从10一路降到2,依然每执行sample就爆显存.请教师兄后,发现问题出在这一句上:在进行sample的时候,不止保存之前的变量fake,而且还保存了fake前所有的梯度

nowherespyfly·2023-10-26 18:09

从零本地部署大模型（零基础友好版）

摸索出来了一些经验，写这篇blog的目的是为了让师弟师妹在模型部署的环节少走弯路，也能快速体验到LLM的智能，减少部署环节的痛苦如果是进行只需要跑通模型当前流行的6b7b参数模型，至少要保证显卡10G显存并且

跃跃欲试88·2023-10-26 10:45

VirtualBox使用时卡顿的解决方案（亲测有效）

解决方案1.打开virtualbox，点开设置页面2.点击系统，调节处理器中的processors和运行峰值，调节硬件加速中的半虚拟化接口为KVM3.点击显示,设置显存大小，勾选启动3D加速设

zouer.·2023-10-26 06:55

小主机折腾记7

进系统后发现显卡显存只有1536，按道理HD4600应该可以有20

pp875598763·2023-10-26 05:40

YOLOv8改进：SPPF系列改进篇 | 大核分离卷积注意力模块（ Large Separable Kernel Attention）

本文改进：大核分离卷积注意力模块（LargeSeparableKernelAttention），实现涨点的目标并且降低计算复杂度和显存，引入到YOLOv8，与SPPF结合实现二次创新；LargeSeparableKernelAttention

会AI的学姐·2023-10-25 21:04

由于conda控制台没有释放显存所导致的问题set！！！

来，先来看几个错误的情况CUDAruntimeimplicitinitializationonGPU:0failed.Status:unknownerror意思是，开启隐式初始化失败，未知错误，一般是在tf.Session可能出现的错误第二个是蓝屏第三个是闪屏第四个是kenreldie这个就是元凶了，大家经常遇到，运行第一轮或者运行一个程序第一次的时候，没有问题，但在不关闭控制台的时候，第二次就，

fujindemi·2023-10-25 15:13

Training Deep Nets with Sublinear Memory Cost 笔记

由于许多最先进的模型已经达到了GPU显存的上限，我们的算法允许探索更深入更复杂的模型，并有助于推进深度学习研究的创新。我们专注于降低训练期间存储中间特征图和梯度的内存成本。计算图分析

图波列夫·2023-10-25 09:58

"Directx 10 is not supported"方法一

解决方法是更新显卡驱动（我的电脑-设备管理器-显示卡）或安装显卡驱动（根据显卡厂家去官网下载对应驱动），因为此提示是指现有的显示不能支持渲染，而DirectX的一个特点就是几何渲染，如果更新驱动没有改变，那就是显卡的显存太低

Micro_ET·2023-10-24 22:03

【CX】天才萌宝：神医财迷妃

古色古香的房间内，外厅墙壁上贴着偌大的双喜字彰显存在感，随处可见的成对的琉璃灯，缠枝花瓶等摆设，红烛，红帐，八仙桌上随意摆放的红盖头，无一不显露出主人家正在办喜事。

a布呐呐零食铺子·2023-10-22 23:00

【ChatGLM2-6B】在只有CPU的Linux服务器上进行部署

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。

太空眼睛·2023-10-21 18:09

win10实用干货

但是我承认可扩展性不够强大哈哈后面入了thinkpad）本身不是作为游戏本，平时学习、代码和编程够用就行，很少打游戏硬件发烧友基础配置8G内存+512GSSD+512G机械独立显卡英伟达QuadroM1200显存

Ezio Auditore·2023-10-20 21:21

BLIP2模型加载在不同设备上

配置加载预加载模型的device_map.device_map可以设置为auto，则根据设备的显存情况，自动加载在gpu或者cpu上。使用BLIP2模型

huahuahuahhhh·2023-10-20 19:08

torch代码运行时显存溢出问题

在使用的时候有部分攻击算法会出现显存溢出的情况。同时随着样本数增加，这种显存占用比会同比增加。而不是和预先设定的一样，仅和设置的batch_size相关。

zaozhe·2023-10-20 19:53

Pytorch训练深度强化学习时CPU内存占用一直在快速增加

最近在用MATD3算法解决多机器人任务，但是在训练过程中，CPU内存一直在增加（注意，不是GPU显存）。我很头疼，以为是算法代码出了问题，导致了内存泄漏，折腾了1天也没解决。

Coder_Jh·2023-10-20 12:25

图显系统DRM GEM完全解析

沿袭了TTM的一些设计思想，提供一套显存管理的机制。

Linux与SoC·2023-10-20 09:06

双缓冲刷新图像：避免自绘时图像闪烁

传统的绘图是单缓冲，将图形绘制在设备描述表缓冲区中，然后由gdi自动的将设备描述表中的图像拷贝到显存中。

云中飞鸿·2023-10-19 15:52

详解GPU显存和batch size的关系

最近在训练模型的时候突然被问到如下几个看似简单，实则一点也不难的问题在显存充足的情况下增加batchsize大小会加快训练吗？扩大batchsize占用的显存是如何变化的，显存是线性增加吗？

orangerfun·2023-10-19 05:56

大模型训练显存优化推理加速方案

在深度学习模型中使用fp32主要存在几个问题，第一模型尺寸大，训练的时候对显卡的显存要求高；第二模型训练速度慢；第三模型推理速度慢。其解决方案就是使用低精度计算对模型进行优化。