24G显存第13页

带你学习部署最新版清华第二版chatglm：ChatGLM2-6B+使用 CPU 本地安装部署运行 ChatGLM2-6B

stay_foolish12·2023-08-23 05:05

OpenGL调试时输出显存帧到图片的一些方法

1.从帧缓存读取像素boolGLUtils::saveRender(conststd::string&tag,intw,inth,constchar*func_name,intline){std

破竹15·2023-08-23 00:37

史上最全盘点：一文告诉你什么是低代码？低代码优缺点有哪些？

随着信息技术的飞速发展，传统的软件开发模式已经逐渐明显存在不足之处，例如开发周期长、成本高昂、难以执行业务变化等。在此背景下，低代码开发逐渐出现了崭露头角，成为解决传统软件开发问题的一种新模式。

·2023-08-22 09:37

（已解决）在本机跑得好好的，连上客户端之后，第二次运行报错：RuntimeError：CUDA out of memory……显存不够导致程序再次运行不成功的原因分析即解决办法

问题描述这个和之前的问题不太一样，这个是客户端请求之后，第一次可以正常运行，但是客户端第二次请求便会报错：RuntimeError:CUDAoutofmemory.Triedtoallocate2048.00MiB(GPU0;11.00GiBtotalcapacity;9.50GiBalreadyallocated;11.37MiBfree;10.52GiBcached)，而且是在执行过程中报了这

鳗小鱼·2023-08-22 01:56

当归芍药散

出自《金匮要略》方药:当归三两（9g）、芍药一斤（48g）、茯苓四两（12g）、白术四两（12g）、泽泻半斤（24g）、川芎半斤（一作三两）（10g）。

医小考·2023-08-21 22:29

迈入大模型时代的深度学习：使用 Flash Attention 技术让 Transformer 起飞

但是，标准的注意力实现具有二次时间和内存复杂度，使其在长序列任务上变慢并消耗大量显存。这限制了Transformer能够建模的上下文长度，同时使得大尺度模型的训练和推理时间延长。

·2023-08-21 17:31

Pytorch训练Resnet101，显存爆炸

最近需要把caffe上的resnet101网络模型迁移到pytorch上，caffe上显存还够使，一到pytorch上就不够用了，即使是resnet50也不够用。

逆风g·2023-08-21 16:13

区块链大有可为，但要切实把握好其发展方向

然而这种中心化记账系统却明显存在着不足之处，即当遭遇损坏篡改时，整个系统都将面临着巨大的危机。因此“去中心化”的必要性不言而喻，但是要实现这一目的却并不那么容

锁在深深的·2023-08-21 14:56

CVPiexlBuffer与纹理

两者可以相互转换，因为共享同一高速缓冲区CVPiexlBuffer可以理解为在CPU内存，纹理是GPU显存，GPU显存才需要GL环境，所以CVPiexlBuffer的创建不需要GL环境，就是可以随意传播

买买提不撸串·2023-08-21 10:51

Bottleneck Transformers for Visual Recognition

BoT整体的想法其实比较简单，针对objectdetection、instancesegmentation等对输入图像尺寸要求较高的任务，普通的transformer（ViT）计算量和显存占用都很难做到大分辨率输入

nowherespyfly·2023-08-20 11:04

电脑各配置跟不上，造成频繁花屏。

本人用的是i37350K，然而散热器是二十多块的杂牌，CPU温度经常不稳定，可以在监控软件看到比较详细的情况，然后我的显卡是gtx1080，内存加到双条24G。

科技战士·2023-08-20 07:17

DETR，YOLO模型计算量(FLOPs)参数量(Params)

前言关于计算量(FLOPs)参数量(Params)的一个直观理解，便是计算量对应时间复杂度，参数量对应空间复杂度，即计算量要看网络执行时间的长短，参数量要看占用显存的量。

彭祥.·2023-08-20 02:00

清除python TensorRT build之后常驻的显存

业务需要，需要TensorRT模型转换的进程常驻，使用中发现每次build后会占据一个显存缓存，del也无法清除，后来找到了：python-HowtorunTensorRTinmultiplethreads

qizhen816·2023-08-19 23:12

清华ChatGLM-6B本地GPU推理部署

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。Cha

木子CS·2023-08-19 16:31

ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议

主要是比如怎么防止GPU运行时爆显存，GPU运行时减少显存占用，一些常见的报错应该怎么解决，推理参数的调整方案，怎么开启局域网访问，怎么给网页加上HTTPS。

恒TBOSH·2023-08-19 16:01

ubuntu 部署 ChatGLM-6B 完整流程模型量化 Nvidia

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatG

盗理者·2023-08-19 16:30

中英双语对话大语言模型：ChatGLM-6B

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话进行了优化。

A雄·2023-08-18 15:44

GPU渲染架构-IMR & TBR & TBDR

根本原因在于x86PC机有显存。arm的移动设备没有显存，需要考虑带宽性能。

真像大白阿·2023-08-18 07:28

ZeRO Memory Optimizations Toward Training Trillion Parameter Models

保持了较小的通信量保持较高的计算粒度数据并行DP并没有减少每个device上的内存占用当模型有1.4B参数时，就会超过GPU的32GB显存通过PP,MP，CPU-offload方式解决，降低了功能性，可用性和计算效率模型并行

黄昏贩卖机·2023-08-18 01:46

进程Kill杀死后GPU显存没有释放仍然被占用(僵尸进程)

清理占用GPU显存的僵尸进程概要Talkischeap.Showmethecode概要在基于Linux(Ubuntu)系统进行开发时。

季冬一四·2023-08-17 22:40

国内小厂操刀，16G显存神卡只要599，老外急眼了

前不久国外网友整出的16G显存RTX3070、国内大佬魔改的22G显存RTX2080Ti。这些可都是官方从未发布过的船新版本。显存容量无伤翻倍，关键还能不同批次搭配组合，任谁看了不迷糊？

电手·2023-08-17 17:38

chatglm-6b_ptuning error:bash .sh，出现ModuleNotFoundError

借助模型量化技术，用户可以在消费级的显卡上进行本地部署，INT4量化级别下最低只需6GB显存。ChatGLM-6B使用了和ChatGLM相

芝士高斯·2023-08-17 15:28

史上最全盘点：一文告诉你什么是低代码？低代码优缺点有哪些？

随着信息技术的飞速发展，传统的软件开发模式已经逐渐明显存在不足之处，例如开发周期长、成本高昂、难以执行业务变化等。在此背景下，低代码开发逐渐出现了崭露头角，成为解决传统软件开发问题的一种新模式。

·2023-08-16 18:56

[NLP]LLM 训练时GPU显存耗用量估计

以LLM中最常见的Adam+fp16混合精度训练为例，分析其显存占用有以下四个部分：GPT-2含有1.5B个参数，如果用fp16格式，只需要1.5G*2Byte=3GB显存,但是模型状态实际上需要耗费1.5B

奇思闻影的舒克与贝克·2023-08-15 20:19

Ubuntu18.04下安装pytorch步骤&多cuda版本共存（啰嗦版）

显卡是由GPU、显存等等组成的。GPU：图形处理器，一般焊接在显卡上的。GPU是显卡上的一块芯片，就像CPU是主板上的一块芯片。GPU功能强大，只用于图形

九三久久·2023-08-15 16:51

计算机组成原理之刷新存储器的容量

公式：占用显存容量=水平分辨率×垂直分辨率×颜色位数/8bit。

noveto·2023-08-15 05:00

3D纹理展示方式之Slice(切片)

一般的2D纹理我们可以认为它就是一张图片(实际就是一段内存(主内存和显存)中的数据),那么3D纹理可以理解为在depth维度

含影·2023-08-14 00:07

Centos 7 离线安装Cloudera Manager6 和CDH6.3.1

一、前期准备安装环境系统配置：系统：centos764位关于内存，《Hbase权威指南》中master建议24G内存，而slave机器则建议24G及以上配置。

LY丶Smile·2023-08-13 19:59

户外游戏观察：绳索攀爬

想要登上树屋的方式有多种，一般孩子们会选择相对安全，并且在自己能力范围之内的方式，就是手扶着扶手，踩着木头连接成的梯子台阶上去，但是纵观整个树屋，很明显存在着几种针对于不同能力和年龄段的游戏难度，也就是说

张天琦高实幼·2023-08-13 10:20

增量预训练baichuan-13b-chat遇到的那些坑

文章目录前言资源deepspeed一、训练的坑二、推理的坑三、继续训练的坑总结前言资源单机两4090，如图单卡24G，baichuan-13b-chat单卡推理需要至少26G，因此仅用一张卡，我们是无法加载百川

ToTensor·2023-08-13 10:43

C4d Octane渲染器内存满、卡顿、崩溃、缓慢、updating解决办法

偶然发现在C4D界面点击octane工具栏的设置，它又会开始渲染，但渲染一些序列帧后又会卡在一张图上显示updating点击octane工具栏的设置，它又会开始渲染一、电脑硬件：显卡的选择、显存大小、电源的大小

软件资深者·2023-08-12 23:13

尘世

这世界沾满尘土树的质感叶还有鸟洁白的羽毛流动的水包括天穹城市生长的房子阡陌里茂盛的庄稼还有一些行走的爬行的物种都沾满尘所以我从不曾抖落这一身的尘土任尘在体内在体外轮回旋转发出肢体的声音我知道尘土里生长着温饱还有愉悦之后的疼痛都在土里以灰彰显存在我的灵魂最终成灰以无形沉浮在世界之中就像今生来过如果这一生错过了请相信来生请相信世界以尘

滕家敏·2023-08-12 09:07

Stable Diffusion Webui源码剖析

它可以对模型进行适当的优化来加速图片生成并降低显存占用。缺点是输出图像不稳定，有可能比不开Xformers略差。

benben044·2023-08-12 08:29

ch6_1 中断及外部设备操作

1.直接定制表1.1移位指令1.2操作显存数据1.3描述内存单元的标号1.4数据的直接定址表1.5代码的直接定址表2.内中断2.1中断及其处理2.2编写中断处理程序2.3单步中断2.4int指令引发的中断

mingqian_chu·2023-08-12 00:05

Adobe media encoder2022和2021的输出编码简单对比测试2021-10-28

mediaencoder2022渲染H265视频就目前来看，H264和H265的渲染似乎对硬件的调用没有什么不同，只是在某些不可考的地方显卡调用会稍微多一点，显存调用偶尔高

摄见未来·2023-08-11 17:39

如何处理GPU上Error Number:700 an illegal memory access was encounter

现象描述】GPU上网络运行过程中出现ErrorNumber:700anillegalmemoryaccesswasencounter【原因分析】出现该现象，在框架稳定的背景下基本上可以确定是网络中有算子踩显存

whitelc·2023-08-11 09:17

【TensorRT】TensorRT 部署Yolov5模型（C++）

TensorRT部署Yolov5模型C++源码地址：1.TensorRT部署模型基本步骤1.1onnx模型转engine1.2读取本地模型1.3创建推理引擎1.4创建推理上下文1.5创建GPU显存缓冲区

椒颜皮皮虾྅·2023-08-10 23:26

OpenGL-顶点缓冲区

最近在学习OpenGL,知识点比较多,担心自己忘记,在这里记录下.顶点缓冲区顶点是用来描述openGL中基本单元三角形的形状位置,光照,颜色,纹理坐标的.顶点数据是在内存中产生的,最终会交到显存中由GPU

丁勒个东·2023-08-10 12:01

代码模型 CodeGeeX2-6B 开源，最低6GB显存，性能优于StarCoder

点击蓝字关注我们AITIME欢迎每一位AI爱好者的加入！以下内容来源于GLM大模型我们希望每一位程序员，都能在自己机器上跑上一个自己的编程助手。为实现这一目标，我们现将「代码生成模型CodeGeeX2-6B」开源。同时我们也将对该模型持续进行迭代升级，以提供更加强大的代码辅助能力。CodeGeeX2是多语言代码生成模型CodeGeeX的第二代模型，基于ChatGLM2架构注入代码实现。得益于Cha

AITIME论道·2023-08-10 08:50

win10,win11 下部署Vicuna-7B，Vicuna-13B模型，gpu cpu运行

运行Vicuna-7B需要RAM>30GB或者14GB的显存运行Vicuna-13B需要RAM>60GB或者28GB的显存如果没有上面的硬件配置请绕行了，我笔记本有64G内存，两个都跑跑看，使用python3.9

babytiger·2023-08-09 21:11

AI绘画Stable Diffusion安装、使用教程整合包下载

安装StableDiffusionwebui效果图：1.准备工作在下载AI绘画工具前，电脑上需要提前下载一些运行的环境1.下载python、git首先本地机器最好是英伟达的N卡，并且至少需要4GB显存才能在本地运行

O丶ne丨柒夜·2023-08-09 17:48

X86汇编语言从实模式到保护模式04：编写主引导扇区代码

主引导扇区程序烧写与调试1.1创建主引导扇区程序1.2将程序写入硬盘主引导扇区1.3用调试器观察程序的执行1.3.1工具选用1.3.2调试器状态说明1.3.3常用调试命令2.在屏幕上显示文字2.1代码段与功能2.2显卡和显存

麦兜的学习笔记·2023-08-09 06:58

海思HI3516 MIPI屏幕调试笔记

实现的主要功能为将JPG图像进行解码并通过MIPI屏幕显示；3：PLL：倍频-Framebuff:帧缓冲设备，会生成一个/dev/fbx的设备，通过这个即可访问LCD-Alpha：透明度；4：通过操作显存来实现

warren@伟_·2023-08-09 01:44

GPU显存泄露/显存溢出/显存爆炸解决方案

问题描述最近在跑一个基于pytorch的强化学习代码，在训练过程中显存增大非常明显，迭代不到200个iteration就可以占据70G+的显存。

行业边缘的摸鱼怪·2023-08-08 10:40

AI一键生成短视频

一键生成短视频发布到常见的某音，某手平台，狠狠赚一笔前置知识：1.基本的python编程知识2.chatGPT使用过3.stablediffution使用过成果展示技术要点环境要求：python:3.10.6GPU:显存最低

MagicTangc·2023-08-07 19:46

pytorch 训练过程内存泄露/显存泄露debug记录：dataloader和dataset导致的泄露

背景微调mask-rcnn代码，用的是torchvision.models.detection.maskrcnn_resnet50_fpn代码，根据该代码的注释，输入应该是：images,targets=None(List[Tensor],Optional[List[Dict[str,Tensor]]])->Tuple[Dict[str,Tensor],List[Dict[str,Tensor]]

Cleo_Gao·2023-08-07 18:10

PyTorch 半精度训练踩坑

背景因为显卡显存不够，所以了解了一些PyTorch节省显存的方法：拿什么拯救我的4G显卡-OpenMMLab的文章-知乎https://zhuanlan.zhihu.com/p/430123077其中有一种方法叫做半精度训练

Jarkata·2023-08-07 17:29

【大模型】开源且可商用的大模型通义千问-7B（Qwen-7B）来了

【大模型】开源且可商用的大模型通义千问-7B（Qwen-7B）来了新闻通义千问-7B介绍评测表现快速使用环境要求安装相关的依赖库推荐安装flash-attention来提高你的运行效率以及降低显存占用使用

szZack·2023-08-06 22:44

大模型训练时，使用bitsandbytes报错的解决方法

前言在对大语言模型(LLaMa、Chat-GLM等)进行微调时，考虑到减少显存占用，会使用如下方式加载模型。

Anycall201·2023-08-06 11:49

第一课-前提-Stable Diffusion 教程

SD参考配置：建议选择台式机i5CPU,内存16GB，N卡RTX3060,8G显存以上的配置（最低配）在此基础上的配置越高越好。

蜉蝣1号·2023-08-05 19:34

推荐频道

24G显存

带你学习部署最新版清华第二版chatglm：ChatGLM2-6B+使用 CPU 本地安装部署运行 ChatGLM2-6B

OpenGL调试时输出显存帧到图片的一些方法

史上最全盘点：一文告诉你什么是低代码？低代码优缺点有哪些？

（已解决）在本机跑得好好的，连上客户端之后，第二次运行报错：RuntimeError：CUDA out of memory……显存不够导致程序再次运行不成功的原因分析即解决办法

当归芍药散

迈入大模型时代的深度学习：使用 Flash Attention 技术让 Transformer 起飞

Pytorch训练Resnet101，显存爆炸

区块链大有可为，但要切实把握好其发展方向

CVPiexlBuffer与纹理

Bottleneck Transformers for Visual Recognition

电脑各配置跟不上，造成频繁花屏。

DETR，YOLO模型计算量(FLOPs)参数量(Params)

清除python TensorRT build之后常驻的显存

清华ChatGLM-6B本地GPU推理部署

ChatGLM-6B 本地安装、部署和运行的常见问题解答及优化建议

ubuntu 部署 ChatGLM-6B 完整流程 模型量化 Nvidia

中英双语对话大语言模型：ChatGLM-6B

GPU渲染架构-IMR & TBR & TBDR

ZeRO Memory Optimizations Toward Training Trillion Parameter Models

进程Kill杀死后GPU显存没有释放仍然被占用(僵尸进程)

国内小厂操刀，16G显存神卡只要599，老外急眼了

chatglm-6b_ptuning error:bash .sh，出现ModuleNotFoundError

史上最全盘点：一文告诉你什么是低代码？低代码优缺点有哪些？

[NLP]LLM 训练时GPU显存耗用量估计

Ubuntu18.04下安装pytorch步骤&多cuda版本共存（啰嗦版）

计算机组成原理之刷新存储器的容量

3D纹理展示方式之Slice(切片)

Centos 7 离线安装Cloudera Manager6 和CDH6.3.1

户外游戏观察：绳索攀爬

增量预训练baichuan-13b-chat遇到的那些坑

C4d Octane渲染器内存满、卡顿、崩溃、缓慢、updating解决办法

尘世

Stable Diffusion Webui源码剖析

ch6_1 中断及外部设备操作

Adobe media encoder2022和2021的输出编码简单对比测试2021-10-28

如何处理GPU上Error Number:700 an illegal memory access was encounter

【TensorRT】TensorRT 部署Yolov5模型（C++）

OpenGL-顶点缓冲区

代码模型 CodeGeeX2-6B 开源，最低6GB显存，性能优于StarCoder

win10,win11 下部署Vicuna-7B，Vicuna-13B模型，gpu cpu运行

AI绘画Stable Diffusion安装、使用教程 整合包下载

X86汇编语言从实模式到保护模式04：编写主引导扇区代码

海思HI3516 MIPI屏幕调试笔记

GPU显存泄露/显存溢出/显存爆炸 解决方案

AI一键生成短视频

pytorch 训练过程内存泄露/显存泄露debug记录：dataloader和dataset导致的泄露

PyTorch 半精度训练踩坑

【大模型】开源且可商用的大模型通义千问-7B（Qwen-7B）来了

大模型训练时，使用bitsandbytes报错的解决方法

第一课-前提-Stable Diffusion 教程

ubuntu 部署 ChatGLM-6B 完整流程模型量化 Nvidia

AI绘画Stable Diffusion安装、使用教程整合包下载

GPU显存泄露/显存溢出/显存爆炸解决方案