24G显存

搭建个人深度学习工作站（捡垃圾）

大模型的显存需求比较大，魔改22GB显存的2080ti看起来很香，就先入手一块试试水，真香之后，再考虑组多卡（2080ti支持Nv
哦豁灬·2024-01-03 06:13

0、QT概述

目录一、QT概述1、关于QT的几个问题2、QT许可证和开发环境搭建3、QT关键技术和开发方式4、课程安排5、GUI与HMI主要讲什么6、GUI实现的关键是显存7、控件式GUI编程8、显示窗口与布局9、GUI
想文艺一点的程序员·2024-01-03 02:27

PyTorch 节省显存技巧：Activation Checkpointing

参考资料官方文档：https://pytorch.org/docs/2.0/checkpoint.html官方博客：https://medium.com/pytorch/how-activation-checkpointing-enables-scaling-up-training-deep-learning-models-7a93ae01ff2dActivationCheckpointing介绍
kebijuelun·2024-01-02 10:27

windows安装stable-diffusion-webui教程

准备为了保证AI绘画的效率，建议在本机安装Nvidia独立显卡，也就是俗称的N卡，并且显存要达到6G以上，6G只能出图，如果要做训练建议12G以上。
AI王师傅·2024-01-02 02:58

线上linux系统故障排查

一、通过top命令定位占用cpu高的进程执行top命令得到以下结果：top命令执行结果image通过上图可以明显看出进程PID41843占用cpu过高，明显存在问题，定位到了进程id。
不屈真实·2024-01-01 21:55

在win10电脑上搭建python环境下的本地AI绘画工具Stable Diffusion

StableDiffusion是一种可以部署在本地环境上运行的人工智能绘画工具，图形运算主要用到的是显卡的GPU性能，因此最好有至少4G显存的显卡。
老菜鸟YDZ·2024-01-01 08:50

“自私”真的是人类的“劣根”吗？！

其实也不尽然，那种只存于“梦”中的理想世界是无法创造出来的，或者说是不应该创造而显存于世的，就像不存在无物不破的矛与无物可破的盾一样，那样无私的世界唯一的价值只是“
火力全开_b8c9·2024-01-01 07:42

接纳负面情绪，凸显存在的正向意义

赵秀珍沧州焦点解决68期学习分享第7天20190809焦点之所以强调重新建构的重要性，是因为焦点认为负向情绪的持续同理共情，有时反而使当事人更加沈陷于痛苦之中，难以采取有效行动。以重新建构来辨识、认可以及肯定当事人各类情绪背后的正向意义，将能转化当事人的负面情绪，甚至使其开始采取行动。一般化与重新建构的技巧回应，往往会给当事人新的观点，当事人的负性情绪也会有所减弱。往往在当事人的情绪被理解和接纳后
赵秀珍_ca19·2023-12-31 06:05

计算机硬件 4.2显卡

②显存：存储要显示的信息的芯片，决定着分辨率、色深。③RAMDAC：
baiXiao_晓柏·2023-12-31 03:37

显存瓶颈被打破！大模型训练的黑科技来了，带宽不再制约大模型训练

对比GPT-3当年使用了10000块GPU，花了30天训练了1750亿参数，现实条件下我们一没法组织起无限算力，二来手里的计算卡硬件设备还可能差异很大，显存、带宽水平参差不齐，在卡不多条件又比较艰苦的背景下
夕小瑶·2023-12-30 11:09

ChatGLM-6B 部署与 P-Tuning 微调实战-使用Pycharm实战

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话
chengjinpei·2023-12-30 09:38

（已解决）（pytorch指定了gpu但还是占用了一点0号gpu）以及错误（cuDNN error: CUDNN_STATUS_INTERNAL_ERROR）

文章目录错误原因解决问题错误原因出现错误cuDNNerror:CUDNN_STATUS_INTERNAL_ERROR，从这个名字就可以看出，出错原因其实有可能有很多种，我这里说一种比较常见的，就是：显存不足
音程·2023-12-30 07:01

[Unity优化] unity图片mipmap

优点：会优化显存带宽，用来减少渲染，因为可以根据实际情况，会选择适合的贴图来渲染，距离摄像机越远，显示的贴图像素越低，反之，像素越高！
hcq666·2023-12-28 19:41

nvidia-smi

显存使用情况。正在运行的进程及其显存占用。这个工具主要用于性能监测、配置管理、故障诊断等，尤其是在
MonkeyKing.sun·2023-12-28 18:47

ROG 幻 16 翻转版 2023款评测 ROG 幻 16 翻转版 2023参数配置

GPU方面，ROG幻16翻转版有RTX4060和RTX4070两个版本，拥有8GBGDDR6显存，CUDA核心分别为3072个和4608个，无论是用于3A游戏
m0_50201498·2023-12-28 13:36

ChatGLM2-6B微调实践-QLora方案

推理模型合并与量化合并后的模型推理参数调优微调过程中遇到的问题参考：环境部署申请阿里云GPU服务器：CentOS7.664Anaconda3-2023.07-1-Linux-x86_64Python3.11.5GPUNVIDIAA10（显存
我在北国不背锅·2023-12-27 15:25

如何选择电脑（连载）

我们都知道一台电脑肯定有它的结构电脑组成复杂不可能在购买的时候不可能去一一了解所以我们可以看主要参数在购买电脑的时候可以参考一下以下的参数1CPU（中央处理器）2显卡3显存容量4机械硬盘容量5固态硬盘6
老腊程序猿·2023-12-27 14:20

【AI】Langchain-Chatchat搭建本地知识库-未完，先记录踩的坑

事先说一下，我本地的显卡4070只有12G显存，无法运行本地知识库，我把自己折腾的过程和遇到的坑先记录一下吧，后续如果有算力的话就再跑一遍试试。
AI柱子哥·2023-12-27 00:49

【AI】阿里云免费GPU服务资源领取方法

userCode=rnbj0c1o页面如下所示：这里的免费试用期限是3个月，给的资源点够我们试用V10016G显存服务器300个小时，对于很多测试性的任务已经足够使用了。
AI柱子哥·2023-12-27 00:16

初探大模型微调

一切的一切，都得益于LoRA、QLoRA微调方法，没有A100一样可以微调大模型（用309024G显存微调70亿参数的baichuan绰绰有余，甚至参数量小一点的模型3060也能跑）。
指间理想·2023-12-26 23:09

【本地运行AI绘画】ComfyUI的安装与使用（一）（windows+1660ti 6G显存）

官方源码：https://github.com/comfyanonymous/ComfyUI/官方环境包:https://github.com/comfyanonymous/ComfyUI/releases百度网盘下载：显卡驱动cu11+以下下载cu118。显卡驱动12以上可以下载cu121一、下载、更新、启动comfyui百度网盘链接（提取码：1225)：https://pan.baidu.co
曾小蛙·2023-12-26 07:46

2.10字符设备驱动之内存映射（mmap实现）

为什么要将内核空间的内存映射到用户空间有些驱动在使用时需要频繁的操作内核空间的某一片内存（如显示屏驱动，需要频繁的读写显存），若采用传统的read和write会存在大量的内存拷贝（因为用户空间无法直接访问内核空间的地址
lf282481431·2023-12-26 01:09

不同参数规模大语言模型在不同微调方法下所需要的显存总结

原文来自DataLearnerAI官方网站：不同参数规模大语言模型在不同微调方法下所需要的显存总结|数据学习者官方网站(Datalearner)https://www.datalearner.com/blog
数据学习（Datalearner）·2023-12-25 07:46

Window系统显存不足时利用共享内存继续运行

存在问题在进行实验过程中，时常碰到显存不足的问题，此时要么需要减小模型体积，要么减小batch-size大小，但这势必会对结果造成一定影响，此时我们可以使用GPU共享内存的方法来扩充显存。
彭祥.·2023-12-24 16:52

锯齿云服务器租赁使用教程

将数据集与模型上传到网盘后，就可以租用服务器了，一般在第一次使用时，我们会选择一个显存较大但价格
彭祥.·2023-12-24 15:49

【llm使用】ChatGLM3-6B Transformers部署调用

文章目录环境准备模型下载代码准备部署说明：本文转自国内开源组织datawhale的repo：self-llm环境准备在autodl平台中租一个3090等24G显存的显卡机器，如下图所示镜像选择PyTorch
自律版光追·2023-12-24 11:47

迅为3A5000_7A2000龙芯全国产处理器LoongArch架构核心主板

桥片：采用龙芯7A2000，支持PCIE3.0、USB3.0和SATA3.0显示接口2路、HDMI和1路VGA，可直连显示器;另外内置一个网络PHY，片内集成了自研GPU，搭配32位DDR4显存接口，支持
mucheni·2023-12-24 01:36

Python - Real-ESRGAN 提升图像、视频清晰度 - 最高可达 4 K

环形和超调伪影5.网络结构◆ESRGAN生成器◆U-Net鉴别器三.Real-ESRGAN实战1.快速体验2.环境搭建◆Package安装◆预训练模型下载◆GFP-GAN模型下载3.图像修复◆运行脚本◆显存不足
BIT_666·2023-12-23 19:38

Java 获取Prometheus监控数据

文章目录前言一、使用步骤1.封装参数类【DockerResourceMonitorVo】2.处理参数，对CPU、内存、GPU、GPU显存发送监控请求3.设置请求参数，发送请求4.解析Prometheus
要加油!·2023-12-23 14:14

STM32 OLED 显示原理的讲解以及OLED显示汉字与图片的代码

文章目录STM32OLED显示原理的讲解以及OLED显示汉字与图片的代码一、OLED简介1.1OLED的特点1.2OLED8080并行接口信号线说明1.3OLED控制器SSD13061.4程序显存原理1.5OLED
宁77吖·2023-12-23 03:17

数字人解决方案——ER-NeRF实时对话数字人模型推理部署带UI交互界面

简介这个是一个使用ER-NeRF来实现实时对话数字人、口播数字人的整体架构，其中包括了大语言回答模型、语音合成、成生视频流、背景替换等功能，项目对显存的要求很高，想要达到实时推理的效果，建议显存在24G
知来者逆·2023-12-23 02:25

基于ChatGLM-6b+Streamlit+QDrant+DuckDuckGo搭建本地问答机器人及缓解时效性问题方案

微调对显存要求较高，还没试验。可以结合LoRA进行微调。缓解时效性问题：通过本地数据库或者搜索引擎获取特有数据或
javastart·2023-12-22 14:21

基于DeepSpeed对 llama2-7b的LORA精调

DeepSpeed数据并行研究1.技术调研a.DeepSpeedDeepSpeed是一个开源深度学习训练优化库，其中包含一个新的显存优化技术——ZeRO（零冗余优化器）。
Charles_yy·2023-12-21 21:32

【MMEngine】用MMEngine自带函数get_model_complexity_info计算模型每层参数量、参数总量和计算量

计算量要看网络执行时间的长短，参数量要看占用显存的量。最重要的衡
zy_destiny·2023-12-21 12:16

7.7亿参数，超越5400亿PaLM！UW谷歌提出「分步蒸馏」，只需80%训练数据｜ACL 2023

比如运行一个1750亿参数的语言模型服务至少需要350GB的显存，而目前最先进的语言模型大多已超过5000亿参数量，很多研究团队都没有足够的资源来运行，在现实应用中也无法满足低
语音之家·2023-12-21 07:03

YOLOv5结构改进——dynamicRELU和可变形卷积(DCN)

DCNv2可变形卷积源码和原理DCNv3这个链接的DCNv2实现有着极大的计算开销，十分消耗显存。
didi5939·2023-12-21 01:33

在Ubuntu 18.04安装tensorflow 1.12 GPU版本

1.配置信息我的老电脑配置如下：CPUi5-4210M16G内存GPUGTX950M显存2G128GSSDUbuntu18.04这个配置一般，但是为了不让我的mac发
雇个城管打天下·2023-12-20 10:43

【AI进阶】Stable Diffusion安装部署

目录1.StableDiffusion简述2.sd下载安装3.sd运行使用低于3G显存4G显存低于5G显存6G显存生成图片4.C站-安装模型1.StableDiffusion简述StableDiffusion
script-pro·2023-12-19 06:54

GPT实战系列-大话LLM大模型训练

Baichuan2等大模型的计算精度与量化GPT实战系列-GPT训练的Pretraining，SFT，RewardModeling，RLHFGPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G
Alex_StarSky·2023-12-18 18:11

GPT实战系列-探究GPT等大模型的文本生成

等大模型的计算精度与量化-CSDN博客GPT实战系列-GPT训练的Pretraining，SFT，RewardModeling，RLHF-CSDN博客GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G
Alex_StarSky·2023-12-18 18:09

【linux】挖矿病毒nanominer伪装成python占用服务器GPU！本文带你分析并杀毒！

病毒表现gpustat-cpu可以看到root用户将GPU的核心跑满了每个占用都是100%，显存吃了6G多。
繁星¹⁸⁹⁵·2023-12-18 16:38

QLoRA论文概述

EfficientFinetuningofQuantizedLLMsQLoRA论文概述前言（省流版本）摘要论文十问实验实验1数据集和模型实验结论实验2数据集和模型实验结论局限性模型尺度数据集其他微调方法QLoRA论文概述前言（省流版本）微调需要大量显存资源
江小皮不皮·2023-12-18 03:06

深度学习基础篇之Batch_Size

整个数据集训练的话，损失肯定是最稳定的，但是数据太大时内存显存大小无法满足要求，计算得到的梯度差别较大，无法找到一个全局的学习率满足所有的梯度的变化3.如何选取batch_size？
qq_45692660·2023-12-18 00:59

RealBasicVSR高清处理视频

autodl做了镜像：高清RealBasicVSR首先在剪映将视频剪好导出，最多是720像素的，不然后面超分的时候会爆显存。
Vincent不是文森特·2023-12-18 00:30

PyTorch ： torch.cuda.amp: 自动混合精度详解

amp:全称为Automaticmixedprecision，自动混合精度amp总体介绍：可以在神经网络推理过程中，针对不同的层，采用不同的数据精度进行计算，从而实现节省显存和加快速度的目的。
北方骑马的萝卜·2023-12-17 18:14

[引擎开发] 深入GPU和渲染优化（基础篇）

[本文大纲]基础概念GPU架构概述带宽ALUSIMD显存流程控制像素填充率IMR
ZJU_fish1996·2023-12-17 16:48

java 获取GPU 信息（英伟达）

方案一获取已用显存，总显存，gpu名称，使用率等等命令获取gpu信息publicclassShellService{@Value("${micronaut.server.port}")privateIntegermyServerPort
没有腹肌不改名·2023-12-17 16:12

使用java获取nvidia显卡信息

现在的需求是要获取nvidia显卡的使用情况，如剩余显存。这里给出两种较简单的解决方案。基于nivdia-smi工具显卡是硬件，当然需要操作系统支持相关的驱动程序。
天使手儿·2023-12-17 16:40

深度学习踩坑记录

并且这种占显存的方式你在nvidia-smi还看不出来，得去htop里
平平平安喔·2023-12-17 04:23

[论文笔记] chatgpt系列 SparseMOE—GPT4的MOE结构

显存增加。ExpertsChoice：路由MOE：由专家选择token。这样不同的专家都选择到某个token，也可以不选择该token。
心心喵·2023-12-17 00:59
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他