显存

virtualbox使用

下载官网地址：二、创建虚拟机win7:首先是创建一个安装了win7的虚拟机1、创建虚拟机2、分配内存、显存、硬盘空间3、网络连接方式4、下载win7镜像文件并且安装ubuntu：另
173f33e9c69b·2024-02-06 17:56

独处才是一个人最好的状态

曾经以为，生命应该是波澜壮阔，生命应该是处在繁华闹市，生命应该是在一片喧嚣沸腾的人群中才更显存在，也应该更有意义？
真诚缘伴一生·2024-02-06 14:36

llama2模型部署方案的简单调研-GPU显存占用(2023年7月25日版)

先说结论全精度llama27B最低显存要求：28GB全精度llama213B最低显存要求：52GB全精度llama270B最低显存要求：280GB16精度llama27B预测最低显存要求：14GB16精度
海皇海皇吹·2024-02-05 20:50

Tensorflow horse-or-human识别 --（1）kerastuner 调整模型参数

注：本篇内容基于tensorflow2.9.1(python3.10),数据生成器中的batch_size可根据自己计算机的性能设置，防止后续模型运行过程出现显存不足而失败“fromkerastuner.tunersimportHyperbandfromkerastuner.engine.hyperparametersimportHyperParameters
冲冲冲@chong·2024-02-05 10:44

AI算力专题：AI服务器催化HBM需求爆发，核心工艺变化带来供给端增量

（报告出品方：太平洋证券）报告共计：26页HBM即高带宽存储器，应用场景集中在服务器GPU显存•HBM（HighBandwidthMemory）即高带宽存储器，用于GPU与CPU之间的高速数据传输，主要应用场景集中在数据中心高性能服务器的
人工智能学派·2024-02-05 04:08

pytorch在加载模型时CUDA error: out of memory

CUDAerror:outofmemory，如图1所示，之后查到https://blog.csdn.net/weixin_43509263/article/details/103841657这里面是说这个错误代表的显存不够
csh_b293·2024-02-04 16:57

【具身智能】目标导航实验复现详细教程

文章目录【具身智能】目标导航实验复现详细教程1.源码测试2.训练3.验证（附）问题Pytorch与CUDA版本问题项目文件引用问题循环引用问题libstdc++库文件旧显存爆炸问题【具身智能】目标导航实验复现详细教程参考论文
Moresweet猫甜·2024-02-04 16:42

移动端GPGPU 架构

比如移动端可以说没有独立的显存只有些寄存器cache和on-chipmemory！
微小的鱼·2024-02-04 09:45

stable diffusion学习笔记——高清修复

ai画图中通常存在以下痛点：受限于本地设备的性能（主要是显卡显存），无法跑出分辨率较高的图片。生图的时候分辨率一调大就爆显存。即便显存足够。
师范大学生·2024-02-04 08:44

训练模型过程中优雅的指定GPU

在不指定GPU情况下，默认使用GPU0来训练，但是很不巧GPU0被别人占了一半显存，导致OOM错误。每次跑模型都要去看下哪张卡显存最大，然后再来修改代码，指定GPU，是不是超级烦人呢!‍️
orangerfun·2024-02-04 02:24

新手在消费级GPU上本地部署chatGLM-6B

一、硬件要求1、理论需求硬盘空间：可用空间不小于40G；显存要求：本人选用的ChatGLM-6B是FP16精度的，运行代码需要不少于1
韬小志·2024-02-02 20:34

(新手亲测有效)bug解决：在用显存24G的3090采用LoRA微调ChatGLM-6B（FP16）时报错torch.OutOfMemoryError:CUDA out of Memory.

理论上，ChatGLM-6B（FP16）模型部署运行时需要大约13G的显存空间即可。
韬小志·2024-02-02 20:34

Steam Deck 使用汇总

一、使用1.增大显存：开机按音量+号键，进入bios，进入cpu选项，里面有一个默认是1g的选项，把显存分配到4g，比默认的1g要好。游戏爆显存时易掉帧。
Deveuper·2024-02-02 11:34

30天自制操作系统 pdf_《30天自制操作系统》 04 C语言和画面显示的练习

1.显示模式和显存前一天的内容作者就将我们的操作系统的显示设置为VGA320*2008位调色板模式，8位意味着我们可以使用256种颜色，但本质上VGA还是RGB成色模式，需要3个字节表示一个完整的颜色，
weixin_39976413·2024-02-02 10:12

还有些问题没有解决

深度学习刚上手复现论文还有些问题没解决1、代码只能在显存上跑还没办法放到英伟达的GPU上2、jupyternotebook还没有配置到pycharm里去
conch0329·2024-02-02 09:52

性价比满满的大显存甜点卡，Sparkle（撼与科技）Intel Arc A770 TIT

●前言一直以来，2000元左右价位的独立显卡总是被玩家们称为“甜点级”显卡，因为这个价位段的显卡有着不俗的性能，游戏和生产力都能兼顾，而且不算太贵的定价也是能够让大众所接受，整体算下来还是很有性价比的。然而，在众多的甜点级显卡当中，除了N、A两家的甜点级显卡之外，前些年入局独显的英特尔也是有对应的产品可选，比如A770以及A750就有着优于同价位竞品的性能以及更低的售价，性价比尤为突出。作为英特尔
问界前讯·2024-02-01 14:03

K8S使用GPU

因为容器是进程级的程序所以分配GPU可以达到显存级。K8S对于GPU的资源分配有两个问题GPU无法进行拆
Cloud孙文波·2024-02-01 08:43

framebuffer驱动详解

1.framebuffer介绍1、什么是framebuffer(1)裸机中如何操作LCD(2)OS下操作LCD的难点显存放在内核中还是应用中是个问题，之前讲的应用和内核之间传递数据用的是copy_from_usr
跟 屁 虫·2024-02-01 04:57

双N卡完美运行ChatGLM3

幸好这次拿到了朋友的机器，虽然显存不高，但是双卡共16G也满足运行的最低要求，于是乎准备研究一波，尝试双卡部署一下。
银空飞羽·2024-01-31 15:08

神州mini r5调整显存大小

文章目录说明操作步骤重启进入BIOS进入AMDCBS菜单进入NBIOCommonoptions选项进入GFXConfiguration选项设置GPU显存大小保存退出说明零刻论坛教程参考经过实践，确实和论坛中的方法一致
缘友一世·2024-01-31 08:30

pytorch 优化训练显存方式

转载自（侵删）：https://www.cnblogs.com/chentiao/p/17901639.html1.显存都用在哪儿了？一般在训练神经网络时，显存主要被网络模型和中间变量占用。
图 (TU商兴)·2024-01-31 07:20

【译】在 Mac 上加速 PyTorch 训练

为什么翻译这篇文章从清华智普开源的ChatGLM3-6B模型看到说苹果电脑本地（苹果芯片或者带了AMD独立显卡的）运行大模型有MPS在后面，不用关心显存，所以准备安装
markvivv·2024-01-31 07:10

机器学习环境搭建 安装Nvidia GPU Driver

AmazonEC2G4dn实例专用于加速机器学习推理和图形密集型工作负载，它搭载的T4TensorCoreGPU有16GB的显存，非常适合中等负荷下的AI场景。本次我使用的是最经济的g4dn
AI小白龙*·2024-01-29 21:34

Ue4----渲染流程

文章目录整体流程一、应用阶段1.基本场景数据2.光源和阴影3.加速算法粗粒度剔除4.渲染设置5.输出到显存二、几何阶段1.顶点着色2.曲面细分3.投影4.裁剪5.屏幕映射三、光栅化阶段1.三角形设置2.
清鸿y·2024-01-29 21:20

汇编-----打印中断码、call&&ret指令

movah,9hint21h打印中断21h中断中的9h中断码代表打印,CPU拿到需要打印的数据,将其放到显示内存(显存)上,完成打印操作assumecs:code,ds:data,ss:stackstacksegmentdb20dup
那时J花开·2024-01-29 10:25

python 获取显存使用信息与 内存使用信息

内容python获取显存使用信息与内存使用信息使用库：pynvml，可以从pipinstallpynvml得到round()方法返回浮点数x的四舍五入值源码importosimportpsutildefget_gpu_mem_info
comedate·2024-01-28 21:52

显存不够又想用某个模型时的模型量化操作

fromtransformersimportAutoTokenizer,AutoModelForCausalLM,BitsAndBytesConfigquantization_config=BitsAndBytesConfig(load_in_8bit=True)tokenizer=AutoTokenizer.from_pretrained(path,trust_remote_code=True)
鱼鱼9901·2024-01-28 20:00

大语言模型的技术-算法原理

大模型推理优化策略7.1显存优化PagedAttentionKVcache，其具有以下特点:1.显存占用大，14b级别的模型，每个token需要约0.7M-1M的显存；2.动态变化：KV缓存的大小取决于序列长度
三更科技公社·2024-01-27 23:26

以segformer为例，CV中显存不够的处理方式

方法一：降低batchsize方法二：将opencv库改成PILHowtotrainsegmentationmodelwithlargedataset?·Issue#1775·open-mmlab/mmsegmentation(github.com)
坠金·2024-01-27 19:27

大语言模型推理优化策略

大模型推理优化策略7.1显存优化PagedAttentionKVcache，其具有以下特点:1.显存占用大，14b级别的模型，每个token需要约0.7M-1M的显存；2.动态变化：KV缓存的大小取决于序列长度
三更科技公社·2024-01-27 16:38

20240126请问在ubuntu20.04.6下让GTX1080显卡让whisper工作在large模式下？

这个问题没有完成，可能需要使用使用显存更大的显卡了！比如GTX1080Ti11GB，更猛的可以选择：RTX2080TI22GB了！以下四种large模式都异常了！
南棱笑笑生·2024-01-27 07:24

GPU无进程但显存占用

在服务器的docker里面使用显卡发现在终端ctrl+c之后，代码会停掉但是GPU资源不会释放。nvidia-smi里面还看不到PID进程号，有PID号直接kill就行了如果想要把GPU上所有程序全都杀掉可以执行下面的命令fuser-v/dev/nvidia*|awk'{for(i=1;i>pids_to_kill.txt可以替换为kill-9$pid来直接杀掉fuser-v/dev/nvidia
_cv_·2024-01-27 06:03

大模型部署手记（22）Ubuntu+TensorRT-LLM+通义千问

zhuanlan.zhihu.com/p/662406460张小白不禁打开了这个链接：GitHub-Tlntin/Qwen-7B-Chat-TensorRT-LLM看了下环境：貌似不难满足：记住：16G显存可以用
张小白TWO·2024-01-26 16:26

51单片机使用8×8点阵显示心形以及各种其他图案教程

文章目录一.硬件连接二.595的使用三.动态刷新四.取模软件的使用五.显示心形完整代码六.利用定时器实时刷新显存7.显示数字与字母8.整合后的代码一.硬件连接我使用的是普中A3的开发板，板子已经默认连接好了
@NachoNEKO·2024-01-26 16:14

#GPU|LLM|AIGC#集成显卡与独立显卡|显卡在深度学习中的选择与LLM GPU推荐

区别核心区别：显存，也被称作帧缓存。独立显卡拥有独立显存，而集成显卡通常是没有的，需要占用部分主内存来达到缓存的目的集成显卡：是集成在主板上的，与主处理器共享系统内存。
向日葵花籽儿·2024-01-26 11:45

书生·浦语大模型--第四节课笔记--XTuner大模型单卡低成本微调

计算损失时和指令微调一样LoRAQLoRA不需要太大的显存开销。增加旁路分支Adapter。比较
李日音·2024-01-25 21:02

书生·浦语大模型--第五节课笔记&作业--LMDeploy 大模型量化部署实践

作为前端Demo演示TurboMind服务作为后端TurboMind推理作为后端作业大模型部署背景部署：将训练好的模型在特定软硬件环境中启动的过程挑战：存储问题LMDeploy简介针对英伟达平台量化可以节省显存
李日音·2024-01-25 21:28

OpenGL/C++_学习笔记（三）绘制第一个图形

汇总页上一篇:OpenGL/C++_学习笔记（二）引入图形渲染相关概念OpenGL/C++_学习笔记（三）绘制第一个图形绘制图形绘制第一个三角形的代码流程回顾窗口空间/标准化设备坐标显存数据顶点缓冲对象
CJL_asLong·2024-01-25 19:14

大语言模型推理提速：TensorRT-LLM 高性能推理实践

当前LLM模型推理的主要瓶颈是GPU显存资源不足。因此，各类加速框
阿里云云原生·2024-01-25 13:00

基于 RWKV 的 AI角色扮演 WebUI

这是一个使用Gradio制作的基于RWKV的AI角色扮演对话的WebUI，7B参数int8量化下仅需要7.6GB显存即可完美运行。
冬咛·2024-01-25 12:48

《Unity Shader入门精要》笔记

稍有补充一、渲染流水管线：CPU[应用阶段（输出渲染图元）]->GPU[几何阶段（顶点坐标变换到屏幕空间，包含顶点着色器）->光栅化阶段（产生像素渲染图像，包含片元着色器，逐片元操作）]应用阶段：数据加载到显存中设置渲染状态
胡说ba道·2024-01-25 10:00

OpenGL--深度测试、多边形偏移、混合

深度缓冲区（DepthBuffer）深度缓存区是指一块专门内存区域，存储在显存中，用于存储屏幕上所绘制图形的每个像素点的深度值。深度值越大，离观察者越远；深度值
逃避不面对·2024-01-24 21:33

训练模型时 遇到速度过慢时的深思 & 速度提升 （From GPU & CPU）

训练模型时遇到速度过慢时的深思&速度提升GPU查看GPU使用情况配置单机多卡并行训练torch.nn.DataParallel平衡DataParallel带来的显存使用不平衡的问题torch.nn.parallel.DistributedDataParallel
Cmy_CTO·2024-01-24 18:39

GLM国产大模型训练加速

为了解决这一挑战，OneFlow框架提供了强大的功能和优化，为大模型训练带来了显著的加速和显存节省。OneFlow框架通过使用数据并行技术，实现了在A100PCIE40G硬件环境下的高性能训练。
百度_开发者中心·2024-01-24 16:43

炼丹学习笔记1---openPCDet训练配置参数含义介绍

作用：控制模型参数的更新频率，影响训练速度和显存占
鸿_H·2024-01-24 10:50

书生·浦语大模型实战营-学习笔记5

LMDeploy大模型量化部署实践大模型部署背景LMDeploy简介轻量化、推理引擎、服务核心功能-量化显存消耗变少了大语言模型是典型的访存密集型任务，因为它是decoder-by-decoder先把数据量化为
Kinno酱·2024-01-24 05:52

【书生·浦语大模型实战营第5课】LMDeploy大模型量化部署实践

KVCache量化是指将逐Token（Decoding）生成过程中的上下文K和V中间结果进行INT8量化（计算时再反量化），以降低生成过程中的显存占用。计算minmax。
A-Little-Boy·2024-01-24 04:17

【书生·浦语大模型实战营05】《(5)LMDeploy 大模型量化部署实践》学习笔记

7B模型仅权重就需要14+G显存采用自回归生成token
songyuc·2024-01-24 03:42

GpuMall智算云教程：ChatGLM3-6B 对话预训练模型

#大模型##GpuMall智算云##算力##租赁#1.选择ChatGLM3-6B镜像创建实例提示训练ChatGLM3-6B模型，显卡显存建议选择等于大于16GB以上的显卡，因为ChatGLM3-6B模型载入后会占用大约
GpuMall·2024-01-23 11:41

牛客竞赛算法入门题单打卡 J Keep in Line

突然，他注意到某个窗口前的队伍里明显存在插队的现象，于是他默默记录下了同学们进队和出队的变化。
晒太阳的猪咪·2024-01-23 09:48
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他