24G显存

在Ubuntu22.04上部署ComfyUI

每一个模块都有特定的的功能，我们可以通过调整模块连接达到不同的出图效果，特点如下：1.对显存要求相对较低，启动速度快，出图速度快；2.具有更高的生成自由度；3.可以和webui共享环境和模型；4.可以搭建自己的工作流程
BBM的开源HUB·2024-02-10 15:09

在ComfyUI上安装动画生成插件Stable Video Diffusion

上一章节我们介绍了Stablevideodiffusion的安装及初步使用，我们发现SVD的运行需要较大的显存，但是如果将SVD作为插件安装在ComfyUI上面，发现ComfyUI可以很好的管理显存，同时配合
BBM的开源HUB·2024-02-10 15:09

深度学习训练中的OOM

1、内存、显存的概念内存是相对于CPU来说的，而显存是相对于GPU来说的。
京漂的小程序媛儿·2024-02-10 04:45

windows下解决占用显存的残留进程

查看显卡的使用情况我们可以看到有一个进程在使用显卡，PID=10452接下来通过taskkill/PID杀死这个进程，如果杀不掉就加上/F再输入nvidia-smi查看一下可以看到没有进程占用GPU了，显存也从
73826669·2024-02-09 18:38

diffusers单机多卡推理（全网首发）

起因博主在部署InstantID项目时，显存不够，想要将模型分散在多张卡上。
半度、·2024-02-09 15:44

使用阿里云通义千问14B（Qianwen-14B）模型自建问答系统

模型参数量大，推理过程中对显存（GPU内存）的要求高，可能需要多块高端GPU，并且考虑是否支持模型并行或数据并行以充分利用硬件资源。单卡显存需求：根据之前的信息，Qianwen-14B微调
wangqiaowq·2024-02-09 12:20

LLaMA 2 和 QianWen-14B

以下是一些硬件要求摘要：LLaMA270B推理时全精度（FP32）显存占用最低要求为约280GB。对于微调和推理，Llama-13B建议使用至少10GBVRAM（显存）的
wangqiaowq·2024-02-09 12:20

在训练过程中报显存不足该怎么办呢？- PaddlePaddle 飞桨 FAQ合集 - 训练问题5

PaddlePaddle飞桨FAQ合集-训练问题5Question：在训练过程中报显存不足该怎么办呢？
GT_Zhang·2024-02-09 08:53

STM32——LCD（1）认识

液晶控制构成三、液晶面板的控制信号1.LCD接口信号分类2.控制信号（1）RGB信号线（2）同步时钟信号CLK（3）水平同步信号HSYNC（4）垂直同步信号VSYNC（5）数据使能信号DE四、液晶数据传输时序五、显存一
CXDNW·2024-02-08 22:04

计算机的构成CPU/GPU内存显存

参考：聊透GPU通信技术——GPUDirect、NVLink、RDMAhttps://zhuanlan.zhihu.com/p/654417967GPU内存(显存)的理解与基本使用：https://zhuanlan.zhihu.com
愚昧之山绝望之谷开悟之坡·2024-02-07 20:22

使用x86架构+Nvidia消费显卡12G显存，搭建智能终端，将大模型本地化部署，说不定是未来方向，开源交互机器人设计

1，大模型本地部署视频说明地址：https://www.bilibili.com/video/BV1BF4m1u769/【创新思考】（1）：使用x86架构+Nvidia消费显卡12G显存，搭建智能终端，
fly-iot·2024-02-07 14:15

virtualbox使用

下载官网地址：二、创建虚拟机win7:首先是创建一个安装了win7的虚拟机1、创建虚拟机2、分配内存、显存、硬盘空间3、网络连接方式4、下载win7镜像文件并且安装ubuntu：另
173f33e9c69b·2024-02-06 17:56

独处才是一个人最好的状态

曾经以为，生命应该是波澜壮阔，生命应该是处在繁华闹市，生命应该是在一片喧嚣沸腾的人群中才更显存在，也应该更有意义？
真诚缘伴一生·2024-02-06 14:36

llama2模型部署方案的简单调研-GPU显存占用(2023年7月25日版)

先说结论全精度llama27B最低显存要求：28GB全精度llama213B最低显存要求：52GB全精度llama270B最低显存要求：280GB16精度llama27B预测最低显存要求：14GB16精度
海皇海皇吹·2024-02-05 20:50

Tensorflow horse-or-human识别 --（1）kerastuner 调整模型参数

注：本篇内容基于tensorflow2.9.1(python3.10),数据生成器中的batch_size可根据自己计算机的性能设置，防止后续模型运行过程出现显存不足而失败“fromkerastuner.tunersimportHyperbandfromkerastuner.engine.hyperparametersimportHyperParameters
冲冲冲@chong·2024-02-05 10:44

AI算力专题：AI服务器催化HBM需求爆发，核心工艺变化带来供给端增量

（报告出品方：太平洋证券）报告共计：26页HBM即高带宽存储器，应用场景集中在服务器GPU显存•HBM（HighBandwidthMemory）即高带宽存储器，用于GPU与CPU之间的高速数据传输，主要应用场景集中在数据中心高性能服务器的
人工智能学派·2024-02-05 04:08

pytorch在加载模型时CUDA error: out of memory

CUDAerror:outofmemory，如图1所示，之后查到https://blog.csdn.net/weixin_43509263/article/details/103841657这里面是说这个错误代表的显存不够
csh_b293·2024-02-04 16:57

【具身智能】目标导航实验复现详细教程

文章目录【具身智能】目标导航实验复现详细教程1.源码测试2.训练3.验证（附）问题Pytorch与CUDA版本问题项目文件引用问题循环引用问题libstdc++库文件旧显存爆炸问题【具身智能】目标导航实验复现详细教程参考论文
Moresweet猫甜·2024-02-04 16:42

移动端GPGPU 架构

比如移动端可以说没有独立的显存只有些寄存器cache和on-chipmemory！
微小的鱼·2024-02-04 09:45

stable diffusion学习笔记——高清修复

ai画图中通常存在以下痛点：受限于本地设备的性能（主要是显卡显存），无法跑出分辨率较高的图片。生图的时候分辨率一调大就爆显存。即便显存足够。
师范大学生·2024-02-04 08:44

训练模型过程中优雅的指定GPU

在不指定GPU情况下，默认使用GPU0来训练，但是很不巧GPU0被别人占了一半显存，导致OOM错误。每次跑模型都要去看下哪张卡显存最大，然后再来修改代码，指定GPU，是不是超级烦人呢!‍️
orangerfun·2024-02-04 02:24

新手在消费级GPU上本地部署chatGLM-6B

一、硬件要求1、理论需求硬盘空间：可用空间不小于40G；显存要求：本人选用的ChatGLM-6B是FP16精度的，运行代码需要不少于1
韬小志·2024-02-02 20:34

(新手亲测有效)bug解决：在用显存24G的3090采用LoRA微调ChatGLM-6B（FP16）时报错torch.OutOfMemoryError:CUDA out of Memory.

理论上，ChatGLM-6B（FP16）模型部署运行时需要大约13G的显存空间即可。
韬小志·2024-02-02 20:34

Steam Deck 使用汇总

一、使用1.增大显存：开机按音量+号键，进入bios，进入cpu选项，里面有一个默认是1g的选项，把显存分配到4g，比默认的1g要好。游戏爆显存时易掉帧。
Deveuper·2024-02-02 11:34

30天自制操作系统 pdf_《30天自制操作系统》 04 C语言和画面显示的练习

1.显示模式和显存前一天的内容作者就将我们的操作系统的显示设置为VGA320*2008位调色板模式，8位意味着我们可以使用256种颜色，但本质上VGA还是RGB成色模式，需要3个字节表示一个完整的颜色，
weixin_39976413·2024-02-02 10:12

还有些问题没有解决

深度学习刚上手复现论文还有些问题没解决1、代码只能在显存上跑还没办法放到英伟达的GPU上2、jupyternotebook还没有配置到pycharm里去
conch0329·2024-02-02 09:52

性价比满满的大显存甜点卡，Sparkle（撼与科技）Intel Arc A770 TIT

●前言一直以来，2000元左右价位的独立显卡总是被玩家们称为“甜点级”显卡，因为这个价位段的显卡有着不俗的性能，游戏和生产力都能兼顾，而且不算太贵的定价也是能够让大众所接受，整体算下来还是很有性价比的。然而，在众多的甜点级显卡当中，除了N、A两家的甜点级显卡之外，前些年入局独显的英特尔也是有对应的产品可选，比如A770以及A750就有着优于同价位竞品的性能以及更低的售价，性价比尤为突出。作为英特尔
问界前讯·2024-02-01 14:03

K8S使用GPU

因为容器是进程级的程序所以分配GPU可以达到显存级。K8S对于GPU的资源分配有两个问题GPU无法进行拆
Cloud孙文波·2024-02-01 08:43

framebuffer驱动详解

1.framebuffer介绍1、什么是framebuffer(1)裸机中如何操作LCD(2)OS下操作LCD的难点显存放在内核中还是应用中是个问题，之前讲的应用和内核之间传递数据用的是copy_from_usr
跟 屁 虫·2024-02-01 04:57

双N卡完美运行ChatGLM3

幸好这次拿到了朋友的机器，虽然显存不高，但是双卡共16G也满足运行的最低要求，于是乎准备研究一波，尝试双卡部署一下。
银空飞羽·2024-01-31 15:08

神州mini r5调整显存大小

文章目录说明操作步骤重启进入BIOS进入AMDCBS菜单进入NBIOCommonoptions选项进入GFXConfiguration选项设置GPU显存大小保存退出说明零刻论坛教程参考经过实践，确实和论坛中的方法一致
缘友一世·2024-01-31 08:30

pytorch 优化训练显存方式

转载自（侵删）：https://www.cnblogs.com/chentiao/p/17901639.html1.显存都用在哪儿了？一般在训练神经网络时，显存主要被网络模型和中间变量占用。
图 (TU商兴)·2024-01-31 07:20

【译】在 Mac 上加速 PyTorch 训练

为什么翻译这篇文章从清华智普开源的ChatGLM3-6B模型看到说苹果电脑本地（苹果芯片或者带了AMD独立显卡的）运行大模型有MPS在后面，不用关心显存，所以准备安装
markvivv·2024-01-31 07:10

机器学习环境搭建 安装Nvidia GPU Driver

AmazonEC2G4dn实例专用于加速机器学习推理和图形密集型工作负载，它搭载的T4TensorCoreGPU有16GB的显存，非常适合中等负荷下的AI场景。本次我使用的是最经济的g4dn
AI小白龙*·2024-01-29 21:34

Ue4----渲染流程

文章目录整体流程一、应用阶段1.基本场景数据2.光源和阴影3.加速算法粗粒度剔除4.渲染设置5.输出到显存二、几何阶段1.顶点着色2.曲面细分3.投影4.裁剪5.屏幕映射三、光栅化阶段1.三角形设置2.
清鸿y·2024-01-29 21:20

汇编-----打印中断码、call&&ret指令

movah,9hint21h打印中断21h中断中的9h中断码代表打印,CPU拿到需要打印的数据,将其放到显示内存(显存)上,完成打印操作assumecs:code,ds:data,ss:stackstacksegmentdb20dup
那时J花开·2024-01-29 10:25

python 获取显存使用信息与 内存使用信息

内容python获取显存使用信息与内存使用信息使用库：pynvml，可以从pipinstallpynvml得到round()方法返回浮点数x的四舍五入值源码importosimportpsutildefget_gpu_mem_info
comedate·2024-01-28 21:52

显存不够又想用某个模型时的模型量化操作

fromtransformersimportAutoTokenizer,AutoModelForCausalLM,BitsAndBytesConfigquantization_config=BitsAndBytesConfig(load_in_8bit=True)tokenizer=AutoTokenizer.from_pretrained(path,trust_remote_code=True)
鱼鱼9901·2024-01-28 20:00

大语言模型的技术-算法原理

大模型推理优化策略7.1显存优化PagedAttentionKVcache，其具有以下特点:1.显存占用大，14b级别的模型，每个token需要约0.7M-1M的显存；2.动态变化：KV缓存的大小取决于序列长度
三更科技公社·2024-01-27 23:26

以segformer为例，CV中显存不够的处理方式

方法一：降低batchsize方法二：将opencv库改成PILHowtotrainsegmentationmodelwithlargedataset?·Issue#1775·open-mmlab/mmsegmentation(github.com)
坠金·2024-01-27 19:27

大语言模型推理优化策略

大模型推理优化策略7.1显存优化PagedAttentionKVcache，其具有以下特点:1.显存占用大，14b级别的模型，每个token需要约0.7M-1M的显存；2.动态变化：KV缓存的大小取决于序列长度
三更科技公社·2024-01-27 16:38

20240126请问在ubuntu20.04.6下让GTX1080显卡让whisper工作在large模式下？

这个问题没有完成，可能需要使用使用显存更大的显卡了！比如GTX1080Ti11GB，更猛的可以选择：RTX2080TI22GB了！以下四种large模式都异常了！
南棱笑笑生·2024-01-27 07:24

GPU无进程但显存占用

在服务器的docker里面使用显卡发现在终端ctrl+c之后，代码会停掉但是GPU资源不会释放。nvidia-smi里面还看不到PID进程号，有PID号直接kill就行了如果想要把GPU上所有程序全都杀掉可以执行下面的命令fuser-v/dev/nvidia*|awk'{for(i=1;i>pids_to_kill.txt可以替换为kill-9$pid来直接杀掉fuser-v/dev/nvidia
_cv_·2024-01-27 06:03

大模型部署手记（22）Ubuntu+TensorRT-LLM+通义千问

zhuanlan.zhihu.com/p/662406460张小白不禁打开了这个链接：GitHub-Tlntin/Qwen-7B-Chat-TensorRT-LLM看了下环境：貌似不难满足：记住：16G显存可以用
张小白TWO·2024-01-26 16:26

51单片机使用8×8点阵显示心形以及各种其他图案教程

文章目录一.硬件连接二.595的使用三.动态刷新四.取模软件的使用五.显示心形完整代码六.利用定时器实时刷新显存7.显示数字与字母8.整合后的代码一.硬件连接我使用的是普中A3的开发板，板子已经默认连接好了
@NachoNEKO·2024-01-26 16:14

#GPU|LLM|AIGC#集成显卡与独立显卡|显卡在深度学习中的选择与LLM GPU推荐

区别核心区别：显存，也被称作帧缓存。独立显卡拥有独立显存，而集成显卡通常是没有的，需要占用部分主内存来达到缓存的目的集成显卡：是集成在主板上的，与主处理器共享系统内存。
向日葵花籽儿·2024-01-26 11:45

书生·浦语大模型--第四节课笔记--XTuner大模型单卡低成本微调

计算损失时和指令微调一样LoRAQLoRA不需要太大的显存开销。增加旁路分支Adapter。比较
李日音·2024-01-25 21:02

书生·浦语大模型--第五节课笔记&作业--LMDeploy 大模型量化部署实践

作为前端Demo演示TurboMind服务作为后端TurboMind推理作为后端作业大模型部署背景部署：将训练好的模型在特定软硬件环境中启动的过程挑战：存储问题LMDeploy简介针对英伟达平台量化可以节省显存
李日音·2024-01-25 21:28

OpenGL/C++_学习笔记（三）绘制第一个图形

汇总页上一篇:OpenGL/C++_学习笔记（二）引入图形渲染相关概念OpenGL/C++_学习笔记（三）绘制第一个图形绘制图形绘制第一个三角形的代码流程回顾窗口空间/标准化设备坐标显存数据顶点缓冲对象
CJL_asLong·2024-01-25 19:14

大语言模型推理提速：TensorRT-LLM 高性能推理实践

当前LLM模型推理的主要瓶颈是GPU显存资源不足。因此，各类加速框
阿里云云原生·2024-01-25 13:00
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他