24G显存

【AI绘图】二、stable diffusion环境准备与安装

显卡：N卡（英伟达Nvida独立显卡）首选，最低10系起步，体验感佳用40系，显存最低4G，6G及格，上不封顶；内存：最低8G，16G及格，上不封顶；硬盘:可用空间最好有个500G朝上，固态
z_Biner·2023-06-08 14:15

chatgpt能做本地化部署，训练私有化学科领域数据吗？-----模型只在工具之上，想法只在算力范围之内

首先介绍一下秋葉aaaki大神的本地化部署的工具，我的配置是一块是3090，目前12G显存.bat，
经常喝假酒的胡小臣·2023-06-08 14:50

大模型训练和部署的关键技术

显存占用大、算力消费大、成本高昂等瓶颈严重阻碍AIGC行业的快速发展。在此背景下，潞晨科技创始人尤洋认为，分布式训练势在必行。图：潞晨科技创始人尤洋演讲基础大模型结构为模型训练提供了基
AI研究院·2023-06-08 07:48

6G显存即可轻松使用 ！ChatGLM-6B 清华开源模型本地部署教程

目录感谢B站秋葉aaaki大佬前言部署资源部署流程实机演示ChatGML微调（人格炼成）（个人感觉蛮有趣的地方）分享有趣の微调人格实机演示（潘金莲人格）感谢B站秋葉aaaki大佬秋葉aaaki的个人空间_哔哩哔哩_bilibilihttps://space.bilibili.com/12566101前言由于ChatGLM-6B的规模较小，目前已知其具有相当多的局限性，如事实性/数学逻辑错误，可能生
timberman666·2023-06-08 03:02

自制 os 极简教程 3 ：终于把90%的人劝退了！

我们已经完成了最基本的环境搭建并实现了从零自制操作系统的helloworld程序，下面我急速过一遍主要步骤：急速回顾第一步：新建一个文件boot.s;BIOS把启动区加载到内存的该位置;所以需设置地址偏移量pmbrvstart=0x7c00;直接往显存中写数据
码农翻身·2023-06-08 00:16

ChatGLM-6B 模型介绍及训练自己数据集实战

介绍ChatGLM-6B是开源的文本生成式对话模型,基于GeneralLanguageModel(GLM)框架,具有62亿参数,结合模型蒸馏技术,实测在2080ti显卡训练中上显存占用6G左右,优点:1
dream_home8407·2023-06-08 00:02

一键安装langchain-ChatGLM

市面上，16G显存的显卡大概1w左右。24G大概1w5左右。如果不是专门做模型的人，不建议去购买，不过买来
wuexp·2023-06-07 17:25

ChatGLM实战 - 文本信息抽取

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话进行了优化。
罗杰海贼团·2023-06-07 15:05

2023.05.09-使用AI克隆孙燕姿的声音来进行唱歌

音频进行切片化处理3.2.1.3.3.数据集存放格式要求4.训练4.1.启动webUI.bat4.2.识别数据集4.3.数据预处理4.4.设置训练超参数4.4.1.选择模型分支4.5.进行训练4.5.1.关于显存的说明
我真的爱发明·2023-06-07 15:27

聊聊开源的类ChatGPT工作——ChatGLM

下面是官方对ChatGLM的介绍：ChatGLM-6B，结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。经过约1T标识符的中英双语训练，
CompHub·2023-06-07 13:14

CV-CUDA之依赖环境安装

CV-CUDA之依赖环境安装CV-CUDA是NVIDIA和字节联合开发的GPU前后端处理加速库，该库能实现将图像、视频的预处理和后处理都加载到GPU上进行处理，大幅提高模型推理能力，缺点就是需要更多一点的显存占用
IRevers·2023-06-07 10:55

【持续更新】2000-2023年英伟达历代桌面Quadro显卡列表，Quadro显卡发布日期

显卡名称发行日期核心频率(Mhz)显存频率(Mhz)QuadroAGP系列Quadro，2000-01-01，135，166Quadro2Pro，2000-07-25，250，400Quadro2MXR
凌凌1301·2023-06-07 03:17

【持续更新】1996-2023历代AMD Radeon桌面显卡列表，Radeon显卡发布日期

显卡名称发行日期工艺(nm)核心频率(Mhz)显存频率Rage系列3DRage，1996/4/1，500，40，403DRageII，1996/9/1，500，60，83RagePro，1997/3/1
凌凌1301·2023-06-07 03:17

宣布推出NVIDIA DGX GH200：首款100TB显卡显存系统

在COMPUTEX2023上，NVIDIA发布了NVIDIADGXGH200，这标志着GPU加速计算的又一次突破，为要求最严苛的巨型AI工作负载提供支持。除了描述NVIDIADGXGH200架构的关键方面外，本文还讨论了NVIDIABaseCommand如何实现快速部署、加速用户入职并简化系统管理。过去7年来，GPU的统一内存编程模型一直是复杂加速计算应用取得各种突破的基石。2016年，NVIDI
凌凌1301·2023-06-07 03:17

基于Simswap的视频换脸

最近火遍抖音的视频技术其实就是简单应用了Simswap这个框架，而且4G显存的机器就可以进行操作，简直就是普通人的福音。
Mr数据杨·2023-06-06 23:59

（2023.4.23最新有效）Stable Diffusion官网最新安装教程以及全网最详细遇坑指南

2023.4.23最新有效）StableDiffusion官网最新安装教程以及全网最详细遇坑指南以下是WebUI官方推荐的StableDiffusion的安装流程，需要注意以下几点：你需要使用N卡，并且至少需要4GB显存才能在本地运行
ASH晗·2023-06-06 22:55

Stable Diffusion最全保姆级安装教程(建议收藏)

一、优势对于Midjourney高额的会员费，SD的高性价比成为了大多数人的选择不需要魔法，想怎么玩就怎么玩SD虽然免费，但是吃显存，有条件的建议显存配置拉到最高（一次性买卖，
摸金阿良·2023-06-06 22:15

Linux下如何实时查看GPU状态

显示当前GPU使用情况2.周期性输出GPU使用情况了解一下watch的功能watch的基本用法是具体如下所示总结1.显示当前GPU使用情况Nvidia自带了一个nvidia-smi的命令行工具，会显示显存使用情况
·2023-06-06 21:14

deepstream的nvv4l2h264enc硬编码插件讲解，实现rtsp推流，且无延迟

这种格式对于使用GPU进行硬件编码非常高效，因为GPU可以直接访问显存中的数据，而不需要进行复制操作。
鼾声鼾语·2023-04-21 18:35

装机

首先是岁数变大了，人变懒了，直接上京东选组装电脑，什么英特尔i9,4G显存，16G内存，24寸曲屏显示器
xx2586·2023-04-21 06:10

基本sql语句 解析表关系

一对一关系实例假设现在有两张表，一个是妻子表，一个是丈夫表，这两张表很明显存在一对一的关系。存在两张表A和B,分别添加主键，在其中一张表当中设置外键关联另一张表当中的主键。
Goodbye ideal·2023-04-20 15:14

新版《不知不觉爱上你》电影项目看点快报！精彩抢先知！

最近在24G网冲浪的小编得知最新消息！“德云一哥”岳云鹏、综艺达人贾玲、实力喜剧演员潘斌龙要共同上演新版《不知不觉爱上你》电影！明年年初即将开拍！一档励志爆笑爱情喜剧就要来了！
米兰的小栀子·2023-04-20 12:13

浅论分布式训练中的recompute机制

作者|FesianXu导读我们在进行对比学习训练时候，经常需要设置大的batchsize，而显卡的显存大小是限制batchsize大小的最主要因素，在实践过程中我们经常采用recompute机制，通过用计算换空间的方式
·2023-04-20 10:25

本地化部署大语言模型 ChatGLM

本地化部署大语言模型ChatGLM本地化部署大语言模型ChatGLM前期筹备GitHub基础包语言模型文件基础配置显存查看方法Anaconda模块Anaconda环境创建根目录操作基础依赖加载transformers
Maddie_Mo·2023-04-20 07:24

显存不够用？一种大模型加载时节约一半显存的方法

LoadinghugePyTorchmodelswithlinearmemoryconsumption本文主要介绍了一种用于加载巨大模型权重时节约接近一半显存的方法首先，创建一个模型:importtorchfromtorchimportnnclassBoringModel
kaggle竞赛指南·2023-04-19 07:08

第七章 黔驴技穷困愁城侯琼一语明方向（21~22）

自己处在人生低谷，所谓患难见真情，日久生情也明显存在。无论将后何去何从，都无法就此了结，必须是来得清去得明方才是道理。各地人工工资不断上浮，临走之前
杨仕伦·2023-04-18 20:10

根据 cadence 设计图学习硬件知识 day02 了解飞腾 X100芯片

在图形图像处理方面，集成了图形处理加速GPU、视频解码VPU、显示控制接口DisplayPort以及显存控制器；在接口扩展方面，支持PCIe3.0、SATA3.0、USB3.1、SD/eMMC、Nandflash
_She001·2023-04-18 16:13

【解决】Python程序运行时所占内存越来越大

1.问题描述最近在用Python(Pyqt5)编写一个可以获取gpu信息（功耗、显存占用、利用率等）并将这些信息保存成csv文件的程序。
麦芽糖的贵婷·2023-04-18 05:40

模型训练可能遇到的一些问题

训练超显存问题显存可能不太够，只能降低batch_size，但是这样的话训练也就非常慢。
暗紫色的乔松(-_^)·2023-04-17 23:38

AI壁纸号一周增加上千粉丝，轻松变现的成功案例分享

不过，为了获得更好的创作效果，需要使用具有8GB显存的NVIDIA显卡一张。通过本文的案例分享，希望对那些有兴趣从事AI壁纸创作的人提供帮助。壁纸号的变现方式：抖音和小红书上的AI壁纸号可
柚米汇·2023-04-17 16:35

LCD（GEC6818）

分辨率越高，所需要的显存越大色深：每个像素点所对应的内存字节数，一般有8位、16位、24位或
sakura0908·2023-04-17 16:54

Linux 16.04.01 装机图文教程

1.机型基于MSI微星的K39机箱的ITX小型机，其中，CPU是IntelCorei5-1060,16GB内存，512G固态硬盘，NVIDIAGeForceGTX1060（6GB显存）。
一任平生cq·2023-04-17 15:35

基于ChatGLM-6b+Streamlit+QDrant+DuckDuckGo搭建本地问答机器人及缓解时效性问题方案

微调对显存要求较高，还没试验。可以结合LoRA进行微调。缓解时效性问题：通过本地数据库或者搜索引擎获取特有数据或者实时数据作为生成模型的上下文。
datamonday·2023-04-16 16:35

CPU硬解Stable-Diffusion

我显存是AMD的哎呀!
Donjuanplatinum·2023-04-16 10:17

混合精度训练

减少所需显存。减少了IO.深度学习训练使用16bit表示/运算正逐渐成为主流。低精度带来了性能、功耗优势，但需要解决量化误差（溢出、舍入）。
dingtom·2023-04-16 06:42

TensorRT 部署Yolov5模型C++

TensorRT部署Yolov5模型C++1.TensorRT部署模型基本步骤1.1onnx模型转engine1.2读取本地模型1.3创建推理引擎1.4创建推理上下文1.5创建GPU显存缓冲区1.6配置输入数据
明月醉窗台·2023-04-16 01:35

Python：清华ChatGLM-6B中文对话模型部署

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话进行了优化。
拾荒的小海螺·2023-04-15 23:43

float32转float16

float16有个优点是大部分的GPU或者部分CPU支持float16的计算，速度快于float32,此外显存或者内存也可以减少一半，基于这个特点，所以有必要彻底弄清楚float16。
s.feng·2023-04-15 13:50

大模型训练——PEFT与LORA介绍

大模型训练——PEFT与LORA介绍0.简介1.LORA原理介绍2.补充资料：低显存学习方法3.PEFT对LORA的实现0.简介朋友们好，我是练习NLP两年半的算法工程师常鸿宇，今天介绍一下大规模模型的轻量级训练技术
常鸿宇·2023-04-15 13:34

私有部署类chatGPT大语言模型的几种方案

结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话进行了优化。
沧海之巅·2023-04-15 06:46

linux amd显卡使用情况查看

一、使用工具radeontop1、安装radeontopsudoaptinstallradeontop2、运行radeontop打开终端，输入radeontop，出现如下界面，最后一行VRAM为显存大小
wenshuifuping·2023-04-14 21:07

深度学习中GPU和显存分析——gpustat

参考文章：https://www.cnblogs.com/vincent1997/p/10896299.htmlhttps://blog.csdn.net/nkhgl/article/details/83957020https://blog.csdn.net/u010412858/article/details/83110947https://blog.csdn.net/qq_18649781/a
大魂·2023-04-14 20:21

学习实践ChatGLM-6B（部署+运行+微调）

注：结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B可以实现的能力这是一个对话机器人，所以基本的问答，系统都支持。
李卓璐·2023-04-14 15:33

【官方教程】ChatGLM-6B 微调，最低只需 7GB 显存

点击蓝字关注我们AITIME欢迎每一位AI爱好者的加入！内容来自：GLM大模型自3月14日开源以来，ChatGLM-6B模型广受各位开发者关注。截止目前仅Huggingface平台已经有32w+下载，GithubStar数量超过11k。为了促进ChatGLM-6B模型在各垂直领域的应用，我们现推出基于P-Tuningv2的微调方案。P-Tuningv2将需要微调的参数量减少到原来的0.1%，再通过
AITIME论道·2023-04-14 15:03

零基础部署chatglm

目录ubuntu部署1.下载安装anaconda32.创建并虚拟环境3.下载安装chatglm4.修改代码，减少gpu使用，目前使用6G显存5.启动web服务windows部署1.下载安装anaconda32
telllong·2023-04-14 12:44

深度学习模型精度fp16和fp32

使用fp32主要存在问题：模型尺寸大，训练的时候对显卡的显存要求高；模型训练速度慢；模型推理速度慢。
香菜烤面包·2023-04-14 08:06

VESA 编程介绍（二）CPU显存控制

VESA编程介绍(2):CPU显存控制---------------------------------------------------------------------------------相关章节
思想黑客·2023-04-14 07:43

喂饭级stable_diffusion_webUI使用教程

配置要求要顺利运行stable-diffusion-webui和模型，需要足够大的显存，最低配置4GB显存，基本配置6GB显存，推荐配置12GB显存。
码上流星，洒下星辰·2023-04-14 03:19

Unity 图片资源格式的设置

前言为什么移动端需要压缩图片移动处理器带宽非常低.因此移动处理中的图片压缩就非常重要.特别是对于低端手机,其带宽尤其缺乏.移动端带宽缺乏原因有二:显存与内存共享带宽,不但GPU要访问,CPU也要访问.由于需要控制发热的原因
silekey·2023-04-13 23:14

雷达（Radar）

车载毫米波雷达当前主要以工作频率进行分类，主要集中在24G、60G、77G、79GHz。毫米波雷达也会根据工作模式分类，有脉冲类型和连续波类型。
秋水 墨色·2023-04-13 13:32
上一页 19 20 21 22 23 24 25 26 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他