24G显存

看这篇就够了——ubuntu扩展屏幕及装显卡驱动后黑屏问题

1.问题说明首先说明为什么外接屏幕需要装显卡驱动，显卡由GPU和显存构成，又称为显示适配器，与数据的输出有密切关系。
桦树无泪·2023-02-04 09:47

看这个就够了——ubuntu系统中的cuda cudnn cudatookit及pytorch使用

独立显卡具备单独的显存，不占用系统内存，而且技术上领先于集成显卡，能够提供更好的显示效果和运行性能。显卡作为电脑主机里的一个重要组成部分，对于喜欢玩游戏和从事专业图形设计的人来说显得非常重要。
桦树无泪·2023-02-04 09:45

python sklearn包中的主成分分析_sklearn主成分分析 NBA球队数据PCA降维可视化

这26个特征中包含胜场数、败场数、胜率等，明显存在相互关联的属性，这就是对其进行降维处理的基础。i
阿里巴巴淘系技术·2023-02-03 20:23

最近服务器上面跑代码遇到的问题和解决办法

1、要看情况重启内核2、内存炸了（errormemory）查看内存占用程序psaux--sort-rss|head查看内存大小free查看显存大小nvidia-smi还有记住：jupyter的文件是要关闭掉才能释放内存的
LIULIU3429·2023-02-03 16:09

使用`checkpoint`进行显存优化的学习笔记

1介绍Checkpoint的主要原理是：在前向阶段传递到checkpoint中的forward函数会以torch.no_grad模式运行，并且仅仅保存输入参数和forward函数，在反向阶段重新计算其forward输出值。（引用于《拿什么拯救我的4G显卡|OpenMMLab》）2写作思路只在nn.Module的上层模块使用checkpoint，而不是在大模型的forward函数中写作；3示例代码使
songyuc·2023-02-03 08:37

【论文阅读】计算机视觉经典论文合辑

stepwise更新，且读且更新~AlexNet文章：2012-NIPS-Imagenetclassificationwithdeepconvolutionalneuralnetworks使用了分组卷积：最初是因为显存不
反科研pua所所长·2023-02-03 08:57

【MMPose】在HRNet应用SimDR（SimCC）/Part.2-流水线篇（Pipeline）

SimDR（现在已经改名叫SimCC，后文还是称SimDR）将姿态估计的Heatmap方法转换为分类方法，在HRNet上实现了涨点，并且减小了显存占用。
K.K.U·2023-02-02 13:58

【MMPose】在HRNet应用SimDR（SimCC）/Part.3-处理头篇（Head）

SimDR（现在已经改名叫SimCC，后文还是称SimDR）将姿态估计的Heatmap方法转换为分类方法，在HRNet上实现了涨点，并且减小了显存占用。
K.K.U·2023-02-02 13:58

【MMPose】在HRNet应用SimDR（SimCC）/Part.1-配置文件篇

SimDR（现在已经改名叫SimCC，后文还是称SimDR）将姿态估计的Heatmap方法转换为分类方法，在HRNet上实现了涨点，并且减小了显存占用。
K.K.U·2023-02-02 13:27

“Torch not compiled with CUDA enabled“

在Windows上调试一个混合精度模型量化工程时，出现了题目中的错误，具体报错见下面截图：使用的是我的笔记本电脑，上面配有一个低端GPU：NVIDIAGeForceMX570，2G显存。
牧羊女说·2023-02-02 13:55

torch.cuda.amp自动混合精度训练 —— 节省显存并加快推理速度

torch.cuda.amp自动混合精度训练——节省显存并加快推理速度文章目录torch.cuda.amp自动混合精度训练——节省显存并加快推理速度1、什么是amp?
Code_demon·2023-02-02 09:58

torch.cuda.amp

float类型在内存中的表示 单独使用FP16：优势：减小显存的占用，从而能支持更多的batchsize、更大模型和更大的输
Mr_wuliboy·2023-02-02 09:19

Pytorch 中的 torch.cuda.amp.autocast 和 GradScaler 联合使用实现 AMP

1amp模块的作用在pytorch中,自动混合精度可以在神经网络推理过程中，针对不同的层，采用不同的数据精度进行计算，从而实现节省显存和加快速度的目的,那么如何实现amp?
怎样才能回到过去·2023-02-02 09:47

机器学习：BATCH和BUF

1.BATCH在训练模型的过程中，由于电脑的硬件性能如内存、显存问题，我们不会将数据一次性导入训练，而是分批次，批次就是BATCH，每个批次里面的数据大小就是BATCH_SIZE。
WFForstar·2023-02-02 08:23

梯度累积（Gradient Accumulation）

随着深度学习模型参数量的增加，现有GPU加载一个深度模型（尤其是预训练模型）后，剩余显存无法容纳很多的训练数据，甚至会仅能容纳一条训练数据。
HadesZ~·2023-02-02 07:50

深度学习笔记（3）-pytorch模型训练流程&实现小GPU显存跑大Batchsize

此外，由于GPU显存有限，数据的Batchsize一般只能到2，而相关资料显示较大的Batchsize有利于提高模型训练效果，经查阅资料，找到通过梯度累加的方式来等效增大Batchsize。
高不胖·2023-02-02 07:48

梯度累加(Gradient Accumulation)

受显存限制，运行一些预训练的large模型时，batch-size往往设置的比较小1-4，否则就会‘CUDAoutofmemory’，但一般batch-size越大(一定范围内)模型收敛越稳定效果相对越好
SUN_SU3·2023-02-02 07:18

YOLO-V3-SPP 梯度累积的实现方式accumulate

前言链接至YOLO-V3-SPP详细解析在显存不够用的时候，YOLO采用了梯度累积的策略源码实现accumulate定义train.py文件中定义了该accumulate参数：accumulate=max
小哈蒙德·2023-02-02 07:45

Pytorch节省显存、加速训练的小技巧

Pytorch节省显存、加速训练的小技巧2020.7.22张文政GPU是深度学习模型的关键，对GPU来说，最重要的两个指标就是显存与算力。
ramon.zhan·2023-02-02 07:43

干货 | OC渲染器学习笔记（十二）

因为oc是在视觉上创建克隆，克隆巨大数量只占据极小显存（20万个立方体时只占据5
影视剪辑特效C4D·2023-02-02 04:45

unity 优化

进行签名(提升android安装率100%)导表工具提取相同string(策划csv有很多相同string时,把相同string提取出来可以省内存)（相关数据见图1）资源相关贴图压缩pvr、etc优化显存
fat___lin·2023-02-02 03:52

深度学习学习——解决Low volatile GPU-Util but high GPU Memory Usage

还有一个可能的原因会导致LowvolatileGPU-UtilbuthighGPUMemoryUsage这个问题：ECC应该是GPU默认打开了ECC(errorcorrectingcode,错误检查和纠正),会占用显存和降低显卡性能
量化橙同学·2023-02-01 20:10

【深度学习】使用GPU计算模型（pyTorch）

使用GPU计算模型1计算设备PyTorch可以指定用来存储和计算的设备，如使用内存的CPU或者使用显存的GPU。默认情况下，PyTorch会将数据创建在内存，然后利用CPU来计算。
一颗苹果OAOA·2023-02-01 14:24

在 PyTorch 中使用梯度检查点在GPU 上训练更大的模型

并且由于梯度下降算法的性质，通常较大的批次在大多数模型中会产生更好的结果，但在大多数情况下，由于内存限制，我们必须使用适应GPU显存的批次大小。本文将介
·2023-02-01 12:16

算力成本骤降，Stable Diffusion2.0迎来更大爆发？

话不多说，直接看结果：StableDiffusion2.0训练/微调/推理，显存消耗最多可节省5.6倍，使硬件成本直降至1/46，一行代码即可启用；1750亿参数大模型BLOOM单机推理，显存消耗节省4
机器学习与AI生成创作·2023-01-31 19:37

AIGC落地门槛被打下来了：硬件预算一口气降至1/46，低成本上手Stable Diffusion2.0，一行代码自动并行...

话不多说，直接看结果：StableDiffusion2.0训练/微调/推理，显存消耗最多可节省5.6倍，使硬件成本直降至1/46，一行代码即可启用；1750亿参数大模型BLOOM单机推理，显存消耗节省4
QbitAl·2023-01-31 19:07

jupyterlab运行tensorflow出现kernel restarting的问题解决

反复的检查表明，这个问题仍然是显存冲突造成的，可我在ipynb的前面已经加上了限制显存使用的代码。测试表明：**jupyterlab在退出的时候不会释放显存。**这应该是个bug。note
pldcat·2023-01-31 14:15

pytorch训练模型常见错误（图像）

2、CUDNN_STATUS_NOT_INITIALIZED（1）batch_size太大，显存不够。
OnTheOurWay·2023-01-31 08:06

AI硬件部署方案

计算能力GPU是为大规模的并行运算而优化；GPU上则更多的是运算单元(整数、浮点的乘加单元，特殊运算单元等等)；GPU往往拥有更大带宽的显存，因此在大吞吐量的应用中也会有很好的性能。
eq0284·2023-01-30 22:24

智源发布 | 大规模并行训练效率提升神器 TDS

然而，随着训练规模的扩大，单张GPU卡的显存与计算效率已经无法满足训练的需要，通过分布式训练框架实现多GPU并行训练成为了一种新的刚需。
智源社区·2023-01-30 20:48

DeepSpeed使用指南(简略版)

但是显卡显存大小根本无法支撑训练推理。例如，一块RTX2090的10G显存，光把模型加载上去，就会OOM，更别提后面的训练优化。
Reza.·2023-01-30 20:47

将数据从cpu发送的gpu

需要通过vertexbufferobject，将数据从cpu发送到gpu声明vbo变量GLuintvbo;调用OpenGL的驱动，申请一个vbo对象，并将vbo的地址修改为gpu内存中的某个地址，也就是显存中的某个地址
冻融·2023-01-30 12:12

游戏开发中的优化

一移动平台硬件架构移动平台无论是Android还是IOS用的都是统一内存架构，GPU和CPU共享一个物理内存，通常我们有“显存”和“内存”两种叫法，可以认为是这块物理内存的所有者不同，当这段映射到cpu
Bling_Lover·2023-01-30 11:57

【如何有效降低unet网络在训练过程中的loss/train】

batch_size=2—>batch_size=5这时出现报错，报错内容：RuntimeError:CUDAoutofmemory.Triedtoallocate320.00MiB(GPU0;11…)显示cpu显存不足
甜心少女_y·2023-01-30 08:26

lumion最全电脑配置推荐，lumion选择什么样的电脑看这里

Lumion将在显卡、显存、CPU和系统内存上对您的计算机进行基准测试。如果这些组件中的任何一个有红色分数，您可能需要升级此组件以获得更好的Lumion体验。
赞奇超高清设计师云工作站·2023-01-30 03:31

GPU多卡并行训练

02常见的多GPU训练方法1.模型并行方式：如果模型特别大，GPU显存不够，无法将一个显存放在GPU上，需要把网络的不同模块放在不同GPU上，
just do it now·2023-01-29 16:10

python的simswap库配置详细教程

注：这个库上使用cuda请确保你有3G以上的显存。环境配置第一步配置conda假定你已经安装了cuda，没安装的查阅另外的教程。
XINFINFZ·2023-01-29 11:20

Ubuntu20.04 + TensorRT8.2.5 + CUDA11.4 + cuDNN8.2.1

ubuntu20.04GPU：NVIDIA-GEFORCERTX3050TICPU：AMD5800H集显：AMDRadeonGraphics显存：4GBNvidia显卡驱动安装莫从官网下载，官网版本显卡的内核版本太高了
元让_vincent·2023-01-29 08:14

压缩纹理

纹理太大，内存吃不消，GPU显存带宽也吃不消，人们就开始琢磨减小纹理大小但又能保证效果不会有很大损失的方式，于是压缩纹理孕育而生。纹理最终是交给GPU使用，如果能
HelloWorld_5915·2023-01-27 17:49

gpu没有运行进程，但是显存一直占用

一般停止进程显存会释放，但是如果在不正常情况关闭进程，可能可能会出现显存不释放的情况：这时需要找到进程：fuser-v/dev/nvidia*可能出现bash:fuser:commandnotfound
m0_52253424·2023-01-27 16:35

Windows程序意外挂掉，但显存依然被占用

Windows程序意外挂掉，但显存依然被占用1.软件环境2.问题描述3.解决方法3.1.查找当前占用显存的程序3.2.关闭显存占用程序4.结果预览1.软件环境Windows10教育版64位Tensorflow-GPU2.3.0Keras2.4.3CUDA10.12
任博啥时候能毕业？·2023-01-27 16:05

查看linux节点gpu显存使用情况

nvidia-smi--query-gpu=memory.free,memory.used,utilization.gpu--format=csv#memory.total：显存大小#memory.total
zhl-handsome·2023-01-27 12:09

1. 系统启动

(X86)加电,重置CS为0xFFFF,IP为0x0000,对应BIOS程序0xF0000-0xFFFFF映射到BIOS程序(存储在ROM中),BIOS做以下三件事:检查硬件提供基本输入(中断)输出(显存映射
西山薄凉·2023-01-26 22:23

主干网络的输入通道数从3改为1，同时保证预训练权重输出

这就导致了我们如果要使用预训练模型参数，就得把原本(H,W,1)的灰度数据拼接为(H,W,3)，这很大地降低了显存的利用效率。我们还可以选
AbaK1r·2023-01-26 12:45

Unity Shader 基础入门

希望我的文章对你有所帮助获取更多:我的博客Shader渲染管线：渲染流程主要分为三个阶段，由CPU与GPU完成1.应用阶段（cpu部分）此阶段主要是处理数据（硬盘——>内存），设置渲染状态，DrawCall加载数据到显存设置渲染状态
Vin129_·2023-01-26 11:33

GLM国产大模型训练加速：性能最高提升3倍，显存节省1/3，低成本上手

作者｜BBuf、谢子鹏、冯文2017年，Google提出了Transformer架构，随后BERT、GPT、T5等预训练模型不断涌现，并在各项任务中都不断刷新SOTA纪录。去年，清华提出了GLM模型（https://github.com/THUDM/GLM），不同于上述预训练模型架构，它采用了一种自回归的空白填充方法，在NLP领域三种主要的任务（自然语言理解、无条件生成、有条件生成）上都取得了不错
·2023-01-25 16:38

CUDA 相关错误

CUDAError:outofmemory显存不够，调整程序显存利用方式RuntimeErr
穷目楼·2023-01-25 07:59

paddlepaddle使用多进程报错“(External) CUDA error(3), initialization error.”的解决方法

使用paddlepaddle训练模型时，存在模型训练已结束，但GPU显存依然占用，影响下一次训练的问题。
逸笔1B·2023-01-25 07:28

解决训练时显存不断增大问题

问题描述：在训练时显存不断增大，最终显存爆炸在上一篇提到，为了解决这个问题我无意间解决了另一个问题，但发现那个问题并不是根本原因，于是我又查阅了一些资料，经过一番尝试后找到了真正原因。
Jarrent Wu·2023-01-23 07:33

服务器清理显存

在/etc/apt/sources.list中添加以下源#阿里云源debhttp://mirrors.aliyun.com/ubuntu/trustymainrestricteduniversemultiversedebhttp://mirrors.aliyun.com/ubuntu/trusty-securitymainrestricteduniversemultiversedebhttp://
weixin_50862344·2023-01-21 14:09
上一页 19 20 21 22 23 24 25 26 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他