4090

增量预训练baichuan-13b-chat遇到的那些坑

文章目录前言资源deepspeed一、训练的坑二、推理的坑三、继续训练的坑总结前言资源单机两4090，如图单卡24G，baichuan-13b-chat单卡推理需要至少26G，因此仅用一张卡，我们是无法加载百川
ToTensor·2023-08-13 10:43

ubuntu 安装 nvidia 驱动

驱动初环境与设备查询型号查询对应的驱动版本安装驱动验证驱动安装结果本篇文章将介绍ubuntu安装nvidia驱动初希望能写一些简单的教程和案例分享给需要的人环境与设备系统：ubuntu设备：NvidiaGeForceRTX4090
盗理者·2023-08-12 00:16

谁更适合搭配甜点显卡？i7-13700KF、锐龙7 7800X3D对比：游戏相当 生产力Intel强了50%...

此前，这种级别的处理器我们都是搭配RTX4090这种顶级显卡进行
lzhdim·2023-08-06 08:46

第一课-前提-Stable Diffusion 教程

比如，cpui7更好，显卡能有RTX4090更好，32显存要能有最好，嘿嘿嘿。如何查看自己的显卡配置？Win+R输入“dxdiag”查看显卡配置：图为N卡，RTX3060Ti,8GB显存。
蜉蝣1号·2023-08-05 19:34

chatGLM 本地部署（windows+linux）

算是个相对友好的模型，支持中英文双语的对话交流，清华出的我的教程无需特别的网络设置，不过部分情况因为国内网络速度慢，需要反复重复chatGLMgithub地址一、硬件需求N卡8G显存以上，最好16G以上，我用的是RTX4090
ziqibit·2023-08-04 12:32

2023年的深度学习入门指南(22) - 百川大模型13B的运行及量化

恰好24GB的3090和4090单卡不够用。我们先从应
Jtag特工·2023-07-31 01:05

windows下使用pytorch进行单机多卡分布式训练

首先，pytorch的版本必须是大于1.7，这里使用的环境是：pytorch==1.12+cu11.6四张4090显卡python==3.7.6使用nn.DataParallel进行分布式训练这一种方式较为简单
系统免驱动·2023-07-30 03:38

ubuntu 20.04 4090 显卡驱动安装 深度学习环境配置

1.显卡驱动安装准备工作：换源安装输入法：重启的步骤先不管（自选）sudoaptupdate&&sudoaptupgrade禁用nouveau驱动（这个驱动是ubuntu开源小组逆向破解NVIDIA的开源驱动，与英伟达的原有驱动不兼容）执行完第2.3步，先不重启。打开软件和更新,选择附加驱动，安装推荐驱动（第一个），点击应用更改。由于几次重装系统，这里选了525保险，安装535也行。open：开源
紫色银杏树·2023-07-19 21:50

【显卡】AMD和Nvidia显卡系列&相关对比（A100 vs RTX4090）

【显卡】AMD和Nvidia显卡系列&相关对比（A100vsRTX4090）文章目录【显卡】AMD和Nvidia显卡系列&相关对比（A100vsRTX4090）1.介绍2.Nvidia显卡2.1分类（不同系列
笃℃·2023-07-17 17:18

docker安装mysql并且进行连接

namemysql-p3308:3306-eMYSQL_ROOT_PASSWORD=123456mysql3、进入容器、在linux中执行命令dockerps-adockerexec-it2a85f05d4090
西瓜君的代码·2023-07-17 09:44

再战Nvidia，安装 Windows 11 和 EndeavourOS 双系统

配置intel13900knvidia4090七彩虹微星Z790吐槽PopOS只有Tryinstall，安装根本进不去就grub
DisonTangor·2023-07-17 08:24

成功解决git clone遇到的error: RPC failed； curl 16 Error in the HTTP2 framing layer fatal: expected flush af

curl16ErrorintheHTTP2framinglayerfatal:expectedflushaf问题描述解决方案问题描述用git的时候可能会遇到这个问题：(base)zhouzikang@7443-8x4090
旋转的油纸伞·2023-07-17 00:12

mmdet安装遇到问题

一、前言1、mmdet遇到的问题我分为两个模块：3090安装遇到的问题和1660s/4090安装遇到的问题。3090是上半年安装的，1660/4090这两个主机是今年刚安的。
空持千百偈，不如吃茶去·2023-07-15 14:59

深度学习显卡性能对比与选购，性能对比和性价比对比

跑大语言模型就4090，便宜点就3090或3090ti。不跑大语言模型就4070ti，因为有12g显存，再便宜点就2080ti，因为有11g显存，再便宜点就3060，因为有12g显存。以下两张图。
Vec[95]·2023-07-14 07:26

导向滤波 Guided Filter 的 CUDA GPU版本

Guided-Filter-Using-CUDA:AGPUversionimplementationofGuidedFilter,usingCUDAC/C++,calculates1080Pimagesin10mson4090
文亘习丶·2023-06-21 11:36

比后缀Ti更香的N卡全能型号回归，40显卡终于不恶心了

NVIDIARTX40系显卡上市有一段时间了，不过大家给出的一致看法是：除了4090外，其他型号暂时都不值得购买！倒不是说他们性能多拉胯，主要是核心规格与价格属实不那么匹配。
电手·2023-06-15 04:02

Win11 RTX 4090显卡深度学习环境配置（Nvidia显卡驱动、CUDA11.7.0）

Win11RTX4090显卡深度学习环境配置（Nvidia显卡驱动、CUDA11.7.0）1.简介2.安装Anaconda3.安装Pycharm4.安装CUDA11.7.04.1安装4.2测试4.3CUDA
大作家佚名·2023-06-13 18:08

使用 Docker 和 Alpaca LoRA 对 LLaMA 65B 大模型进行 Fine-Tune

这篇文章中，我们来聊聊如何使用两张显卡来进行LLaMA65B大模型的微调工作，以及如何在一张普通的4090家用显卡上，只花几个小时，就能够完成7B模型的微调。
soulteary·2023-06-13 15:20

NVIDIA发布新驱动，支持RTX 4090，性能飞起！

随着“性能王者”4090新卡上市，NVIDIA发布了新版522.25驱动程序，和首批DLSS3游戏一起亮相。
驱动小百科·2023-06-11 07:11

ubuntu20.04安装4090驱动

实验室配置了一台新主机，现在安装好了20.04，为了安装4090的驱动查找了很多资料。接下来记录一下安装4090驱动的过程，为方便未来安装其他的显卡驱动。
hex_refugeeeee·2023-06-11 07:40

（适用于所有40系显卡 4090 4080 4070）

下载安装CUDA卸载掉原有驱动：sudoapt-getremovenvidia-*删除旧内核：sudoaptautoremove安装NVIDIA显卡驱动：sudoaptinstallnvidia-driver-525官网下载：https://developer.nvidia.com/cuda-toolkit-archive下载安装CUDNN官网下载：https://developer.nvidia
DK数据工作室·2023-06-11 07:40

Ubantu从0开始配置深度学习RTX 4090+3090显卡的服务器

文章目录1.基础2.用户访问3.Pytorch环境的问题4.显卡调度问题方法一：在shell命令前强制指定显卡方法二：在代码中强制指定显卡5.各种各样的小BUG5.1Liunx创建新用户登录异常：/usr/bin/xauth:error/timeoutinlockingauthorityfile/home/user/.Xauthority5.2服务器更换了地方连不上网，只有IPV6地址，ping不
锌a·2023-06-11 07:37

【无标题】

Ubuntu22.04、RTX4090、i9安装显卡驱动显卡驱动安装推荐我在网上查找了大量资料，最终找到一篇比较好用的文章，这篇文章只要仔细看一定能安装成功，我采用的是第一种安装方式，这里一定要注意在安装过程中一定要全都选择
帅帅公子·2023-06-11 07:37

ubuntu 22.04 安装 RTX 4090 显卡驱动

1.官网下载4090：驱动程序2.关闭图形界面sudosystemctlset-defaultmulti-user.targetsudoreboot对应的打开图形界面命令为：sudosystemctlset-defaultgraphical.targetsudoreboot3
戴国进·2023-06-11 07:33

Ubuntu 20.04 RTX 4090显卡 深度学习环境配置（Nvidia显卡驱动、CUDA11.6.0、cuDNN8.5）

Ubuntu20.04RTX4090显卡深度学习环境配置（Nvidia显卡驱动、CUDA11.6.0、cuDNN8.5）一、安装Nvidia显卡1.1输入显卡型号查看支持显卡驱动的版本1.1.1英伟达中国驱动官网
IU_不错哦·2023-06-11 07:01

【暖心小贴士】4060/4070/4080/4090/A40/A400显卡不适配CUDA11.3以下的cuda版本

4060/4070/4080/4090/A40/A400显卡不适配CUDA11.3以下的cuda版本，不要再折腾了！！！（我已经气晕了）
王多头发·2023-06-10 17:42

日常学习2022-04-11

情绪、涨跌统计今天市场实际涨停53家，跌停42家；红盘558家、绿盘4090家；破板率44%；上午10:30分的时候跌3998家，趋势上升，
S的学习笔记·2023-04-19 23:48

chatGPT相关开源项目介绍

分类说明小模型：可在3090、4090等GPU上训练与部署，能力接近openAI的chatGPT大模型。小模型可以使用自己特定的数据集进行训练，打造与众不同的能力，不求能力广、而求能力专。
会写代码的孙悟空·2023-04-19 14:59

RuntimeError: cuFFT error: CUFFT_INTERNAL_ERROR错误原因以及解决方法

这里写自定义目录标题1.环境2.报错的代码3.错误原因4.解决方案4.1卸载容器中的cuda11.74.2下载对应版本的cuda4.3最后结果1.环境物理机环境：4090显卡，ubuntu20容器环境：
halo_wm·2023-04-18 22:08

5万元内最经济双卡4090深度学习方案

深度学习双卡4090攒机方案znsoft一枚快乐的炼丹师AMD7950x+双4090方案不到5万，目前最经济的双卡人工智能服务器方案主板：华硕x670EA吹雪3000元CPU:amd7950x3500元内存
znsoft·2023-04-15 22:35

开源Alpaca-LoRA+RTX 4090就能搞定

源|机器之心Alpaca-LoRA将微调类ChatGPT模型的算力需求降到了消费级，训练个自己的中文对话模型真就没那么难了。2023年，聊天机器人领域似乎只剩下两个阵营：「OpenAI的ChatGPT」和「其他」。ChatGPT功能强大，但OpenAI几乎不可能将其开源。「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间Meta开源的LLaMA。LLaMA是一系列模型的总称，参数量从
夕小瑶·2023-04-15 13:43

【stable-diffusion】4090显卡下dreambooth、lora、sd模型微调的GUI环境安装（cuda驱动、pytorch、xformer）

相关博文stable-diffusion-webui的基础功能手动安装，了解代码结构、依赖、模型出处安装成功结果主要参考cuda11.7下载-https://developer.nvidia.com/cuda-toolkit-archivecudnn8.6for11.x:https://developer.nvidia.com/rdp/cudnn-archivedreambooth\lora训练环
曾小蛙·2023-04-14 15:36

【目标检测】YOLOv5推理加速实验：TensorRT加速

测试环境测试图片分辨率：13400x9528GPU：RTX4090Cuda：11.7YOLOv5版本：最新版(v7.0+)检测策略：将整张图片直接设置img_size为(1280x1280)进行检测(忽略精度
zstar-_·2023-04-11 21:32

训练个中文版ChatGPT没那么难：不用A100，开源Alpaca-LoRA+RTX 4090就能搞定

©作者|机器之心编辑部来源|机器之心Alpaca-LoRA将微调类ChatGPT模型的算力需求降到了消费级，训练个自己的中文对话模型真就没那么难了。2023年，聊天机器人领域似乎只剩下两个阵营：「OpenAI的ChatGPT」和「其他」。ChatGPT功能强大，但OpenAI几乎不可能将其开源。「其他」阵营表现欠佳，但不少人都在做开源方面的努力，比如前段时间Meta开源的LLaMA。LLaMA是一
PaperWeekly·2023-04-04 08:37

模型杂谈：1.5G 显存就能运行的 RNN 14B 的开源模型（ChatRWKV）

本文将介绍如何快手上手，包含使用一张24显存的4090高速推理生成内容，以及如何只使用1.5G显存就能运行这个模型。
soulteary·2023-04-03 09:02

2022年度回顾之显卡篇 （国产显卡迎来春天，RTX 4090大杀四方）

2022年对于业界来说，上半年和下半年是完全不同的两种市况，一半是海水，一半是火焰。上半年继续受到新冠疫情的影响，以及2020年就已出现的供应短缺问题，PC市场基本延续了去年的态势。不过到了下半年，形势急转直下，行情出现大反转，全球经济衰退危机加剧、加密货币热潮退却、世界大范围出现的通货膨胀，加上地缘政治等因素影响，消费端设备销量出现大滑坡，几乎波及到每一个细分市场。同时库存水平高涨，让不少厂商举
昊源诺信·2023-03-29 02:10

7199元起，英伟达RTX 40系显卡终于来了：基础性能翻倍，光追翻4倍

最高端的RTX4090性价比最高，你没想到吧？虽然因为产品太贵而被吐槽，但提起最强AI芯片、高端游戏GPU，人们还是首先要看英伟达。
OpenCV中文网公众号·2023-03-29 01:51

最新NVIDIA Ada Lovelace架构 和 RTX 40系列详解

最新NVIDIAAdaLovelace架构和RTX40系列详解Nvidia的Ada架构和GeForceRTX40系列显卡计划于10月12日开始到货，从GeForceRTX4090和RTX4080开始。
扫地的小何尚·2023-03-29 01:52

送RTX 4090！黄仁勋对话ChatGPT背后的英雄，GTC 2023 AI大会来了！

因为不仅能了解到AI前沿技术、产品和解决方案，还能有机会赢取黄仁勋亲笔签名的NVIDIAGeForceRTX4090显卡（顶
Amusi（CVer）·2023-03-23 07:39

RTX 4090Ti和RTX 3090Ti差距 RTX 4090Ti和3090Ti参数对比

RTX4090Ti将拥有18176个CUDA核心，96MB二级缓存，搭载24GbpsGDDR6X显存，带宽也从1TB/s增加到1.1TB/s，综合性能相比RTX4090提升10%到20%。
m0_50201498·2023-02-16 20:03

世上最全NVDIA GPU参数列表： 3090，4090， A40， A30，V100， A100， A800性能参数

-1）GeForceRTX4090GeForceRTX4090GPU引擎规格：NVIDIACUDA®核心数量16384加速频率(GHz)2.52基础频率(GHz)2.23显存规格：标准显存配置24GBGDDR6X
好好学习啊天天向上·2023-02-04 10:24

RTX4090和RTX4080哪个好？RTX4090与RTX4080区别

RTX4090和RTX4080均采用了全新NVIDIAAda架构核心，4nm工艺制造，支持DLSS3.0，ATX3.0/PCIE-5.0等等，均采用了优化办的“双轴流”散热系统，将风扇大小和鳍片体积增大了
m0_53363740·2023-01-17 18:32

RTX 4090什么水平 rtx4090显卡什么级别 RTX 4090显卡怎么样

TX4090基于AD102-300核心打造，打开了144组完整SM单元中的128组，也就是对应16384个CUDA，集成96MBL2、384个ROP、24GBGDDR6X显存（21Gbps、384bit
sdsadwe·2023-01-11 21:18

【深度学习】RTX40系列显卡要来了！更贵更强大！

据悉，旗舰级显卡RTX4090可能拥有多达18432个CUDA核心，而目前RTX309
风度78·2023-01-11 21:48

4090 深度学习性能实测

测试结果测试平台：显卡：影驰金属大师4090cpu：i712700k测试方法李沐老师micro-benchmarkingsB站视频测试1.矩阵计算速度transformer的核心操作是矩阵乘法，通过测试矩阵计算的
大聪聪聪·2023-01-11 21:16

最新RTX4090深度学习GPU服务器配置大选

英伟达RTX4090上市有一段时间了，奈何市场缺货，受大功率和槽位限制，以及产品本身稳定性和适应性问题都有待测试。
Ai17316391579·2023-01-11 21:46

AutoDL上可以用RTX 4090显卡了

AutoDL.com太速度了，RTX40系列驱动刚解禁就上线出租了，奈何自己手慢还没有抢到体验。看AutoDL的实测数据，简直太香了。几乎比3090快一倍，逼近A100的性能！！！数据来源：AutoDL帮助文档想抢先体验的xd可以关注AutoDL.com，现在注册还能领10元优惠券。可以用小弟的邀请链接进行注册：AutoDL-品质GPU租用平台-租GPU就上AutoDL
FocusAI·2023-01-11 21:46

pytorch解决cuda显存问题的方法

使用jupyternotebook之前前面几百次迭代都没问题，但显存越来越大，最后炸了，这还亏着是4090我觉得是cuda自动清理显存机制有问题，一直不自动清理方法尝试：每轮迭代之后使用一次：torch.cuda.empty_cache
飞翔の荷兰人·2023-01-08 09:37

自行装机配置

2022年CPU天梯图（更新13代酷睿、锐龙7000）-知乎2022年显卡天梯图（更新4090、A770/A750）-知乎显卡：华硕显卡分级：华硕显卡系列定位价格DUAL雪豹丐版便宜实惠ATS巨齿鲨中端比
清风拂杨柳#·2022-12-14 15:06

#科技 #资讯 #生活 RTX 4080显卡在欧跌破建议零售价, 小鹏回应自研电池, Meta因泄漏超5亿用户资料被罚款 ，黑猫投诉开启2022“你我同心 反诈同行”系列活动，这就是今天的其它大新闻

神评妙论：能买得起4080的都在等满血的4090Ti吧..
彭_Yu·2022-11-30 13:12
上一页 1 2 3 4 5 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他