RTX4090

使用 Ollama 对 LLaMA-2 模型进行微调的详细指南

如果条件允许，使用多卡GPU（如RTX4090或A100）可以显著加快训练速度。对于更大的模型（如LLaMA-213B或33B），
软件职业规划·2025-03-15 15:08

RTX4090性能释放与优化全攻略

内容概要作为NVIDIAAdaLovelace架构的巅峰之作，RTX4090凭借24GBGDDR6X显存与16384个CUDA核心，重新定义了4K光追游戏的性能边界。
智能计算研究中心·2025-03-14 22:13

vLLM框架：使用大模型推理框架

1.环境安装与配置1.1硬件要求GPU:支持CUDA11.8及以上（推荐NVIDIAA100/H100，RTX4090等消费级卡需注意显存限制）显存:至少20GB（运行7B模型），推荐40GB+（运行13B
CITY_OF_MO_GY·2025-03-12 17:12

Llama.cpp 服务器安装指南（使用 Docker，GPU 专用）

硬件：NVIDIAGPU（例如RTX4090）。内存：16GB+系统内存，GPU需12GB+显存（RTX4090有24GB）。存储：15GB+可用空间（用于源码、镜像和模型文件）。
田猿笔记·2025-02-28 09:37

RTX 4090图形架构性能突破实测

内容概要作为NVIDIA新一代旗舰显卡，RTX4090基于AdaLovelace架构实现了硬件设计与软件优化的双重突破。本文将从核心架构革新、多分辨率场景性能表现及能效管理技术三大维度展开分析。
智能计算研究中心·2025-02-25 03:55

windows server独立部署Qwen2.5-vl-7B

服务器配置信息CPU：64GGPU：48G（RTX4090）一、使用conda下载模型Qwen2.5-VL-7B-Instructconda下载condacreate--nameqwenpython=3.11condaactivateqwen
hello_world_Q·2025-02-11 10:38

花费上万元的 RTX4090，普通人真的需要它的性能吗？

众所周知，RTX4090是当之无愧的显卡界卡皇。但对于普通人来说，花费上万元甚至更多去拥有它，真的值得吗？01RTX4090的性能规格它拥有超多的CUDA核心，数量高达16384个。
·2025-01-24 16:32

叮！OpenBayes 半价礼包已送达，算力资源低至 1.15 元/小时

即日起-2025年2月10日12:00(UTC+8)，OpenBayes平台单卡RTX4090、单卡A6000包日、包周限时半价，价格低至1.15元/小时。
·2025-01-20 22:08

RTX 4090深度学习性能实测奉上！模型训练可提升60~80%

近期，我们对RTX4090涡轮版进行了完整的整机测试，本篇文章将分别围绕单卡，4卡，8卡RTX4090性能测试结果展开分享，以全面评估其相比上代RTX30系列的性能优势。
赋创小助手·2024-09-13 14:26

英伟达A100、A800、H100、H800、V100以及RTX 4090的详细性能参数对比

英伟达A100、A800、H100、H800、V100以及RTX4090的详细性能参数对比：英伟达A100架构与制程：架构：Ampere制程：7纳米核心与频率：CUDA核心数：6912个Tensor核心数
算力资源比较多·2024-08-26 00:48

“幕僚智算”重磅上线，打造AI算力新平台

在2023年，桌面级显卡RTX4090曾因为短
·2024-02-20 19:05

autoDL云部署stable diffusion教程

官网没注册的先注册，注册后点击登录充值第一次玩的话，可以先充几块钱试一下，选择其它金额，输入充值金额，选择付款方式，点击充值购买服务器最上面一排点击算力市场，建议选择内蒙A区RTXA5000、RTX3090、西北B区RTX4090
weixin_45597589·2024-02-14 22:03

浅淡A100-4090-性价比

游戏显卡（如RTX4090）通常在这一点上性能较
天池小天·2024-01-12 21:37

MTT S80相当于什么显卡 mtt s80评测 mtts80显卡性能

和RTX4090、RX7950相比的话，MTTS80显然还是不行的，但是和RTX3060、3070的差距是不大的，价位也差的不多。
m0_53363740·2024-01-02 00:46

起猛了！4090显卡对华禁售出现反转，国产显卡发展现状到底如何？

10月18号，英伟达向美国证券交易委员会，提交的最新公开文件显示：除了H100/A100/H800/A800这类高性能计算卡，消费级旗舰显卡RTX4090也被列入到出口管制范围内，对华禁售。
LhcyyVSO·2024-01-02 00:15

基于趋动云部署秋葉aaaki的Stable Diffusion整合包v4--linux版

但是笔人没有RTX4090这样级别的显卡，又希望有个高速运行的效果。所以索性到云GPU主机上来用秋叶aaaki的StableDiffusionwebui，一番研究后，在趋动云部署成功。
夜魔009·2024-01-01 02:12

Pytorch 安装经历（基于Nvidia RTX4090）

一、安装已经下载的Andconda系统；Anaconda3-2019.03-Windows-x86_64.exe已经下载Andaconda系统，进行安装。此Anaconda会自己安装Python3.7系统；打开windows中的AnacondapowershellPrompt，可以看到前面有（base），就说明Anaconda已经安装成功。2.搭建pytorchcondacreate-npytor
vindicater·2023-11-12 03:53

英伟达禁售？FlashAttention助力LLM推理速度提8倍

英伟达限制细则披露，A/H800、A/H100、L40、L40S以及游戏卡RTX4090全部禁售！这也倒逼中国企业通过大模型优化提高推理速度，减少对芯片数量的依赖。我们知道处理小说、法律文件等
AI 研习所·2023-10-26 14:01

第二证券：RTX 4090显卡全面下架，芯片巨头连续两日大跌！

英伟达RTX4090显卡全面下架在拜登政府更新针对人工智能（AI）芯片的出口控制规矩后的次日，英伟达RTX4090显卡已在各大购物网站下架。
CAKDJF·2023-10-20 16:56

B 站广州研发工作室宣布解散；OpenAI 廉价版 GPT-4 夭折；微软推出云原生应用程序平台 Radius|极客头条

微博CEO率先测试前台实名制京东副总裁、京东科技解决方案中心负责人高礼强已离职英伟达RTX4090显卡全网断货，库存几近被扫光，最高涨至5万元代工小米汽车？北汽蓝谷：公司未有相关信息传AMD上海将无
极客日报·2023-10-20 10:52

再战三年！锐龙2700x的百元散热新伴侣，超频三K4挑战者风冷实测

所谓40死贵30矿，想败家就往新平台上撞，老黄的RTX4090？苏妈的7700XT？爬，都给爷爬。不买立省一两万，谁给你惯的。除了备用的锐龙5600G，我的主力机的C
笔点酷玩·2023-09-28 00:54

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT；RTX4090
·2023-09-19 17:01

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT；RTX4090
高性能服务器·2023-09-18 12:32

英伟达 H100 vs. 苹果M2，大模型训练，哪款性价比更高？

M1芯片|Uitra|AMD|A100M2芯片|ARM|A800|H100关键词：M2芯片；Ultra；M1芯片；UltraFusion；ULTRAMAN；RTX4090、A800;A100；H100；
高性能服务器·2023-09-18 12:01

如何在SAM时代下打造高效的高性能计算大模型训练平台

CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT、RTX4090
高性能服务器·2023-09-18 12:01

如何在SAM时代下打造高效的高性能计算大模型训练平台

CV；NLP；PLM；BERT；ZSL；task；zero-shot；data；H100、H800、A100、A800、LLaMA、Transformer、OpenAI、GQA、RMSNorm、SFT、RTX4090
·2023-09-10 01:45

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

Galactica；OPT；OPT-IML；BLOOM；BLOOMZ；GLM；Reddit；H100；H800；A100；A800；MI200；MI250；LaMA；OpenAI；GQA；RMSNorm；SFT；RTX4090
·2023-09-10 01:44

谁更适合搭配甜点显卡？i7-13700KF、锐龙7 7800X3D对比：游戏相当 生产力Intel强了50%...

此前，这种级别的处理器我们都是搭配RTX4090这种顶级显卡进行
lzhdim·2023-08-06 08:46

第一课-前提-Stable Diffusion 教程

比如，cpui7更好，显卡能有RTX4090更好，32显存要能有最好，嘿嘿嘿。如何查看自己的显卡配置？Win+R输入“dxdiag”查看显卡配置：图为N卡，RTX3060Ti,8GB显存。
蜉蝣1号·2023-08-05 19:34

chatGLM 本地部署（windows+linux）

算是个相对友好的模型，支持中英文双语的对话交流，清华出的我的教程无需特别的网络设置，不过部分情况因为国内网络速度慢，需要反复重复chatGLMgithub地址一、硬件需求N卡8G显存以上，最好16G以上，我用的是RTX4090
ziqibit·2023-08-04 12:32

【显卡】AMD和Nvidia显卡系列&相关对比（A100 vs RTX4090）

【显卡】AMD和Nvidia显卡系列&相关对比（A100vsRTX4090）文章目录【显卡】AMD和Nvidia显卡系列&相关对比（A100vsRTX4090）1.介绍2.Nvidia显卡2.1分类（不同系列）2.2相关对比2.2.1A100和RTX3090（4090）2.2.2对比网站3.AMD显卡3.1分类4.对比4.1AMD和Nvidia显卡对比4.2建议参考1.介绍在【显卡】一文搞懂显卡详
笃℃·2023-07-17 17:18

导向滤波 Guided Filter 的 CUDA GPU版本

AGPUversionimplementationofGuidedFilter,usingCUDAC/C++,calculates1080Pimagesin10mson4090(github.com)这是导向滤波/引导滤波的一种GPU实现，经测试，在i9,RTX4090
文亘习丶·2023-06-21 11:36

NVIDIA发布新驱动，支持RTX 4090，性能飞起！

和RTX3090Ti相比，RTX4090实现了速度和性能的飞跃，游戏性能提高了2倍；在光线追踪游戏中，性能提高了4倍。
驱动小百科·2023-06-11 07:11

【无标题】

Ubuntu22.04、RTX4090、i9安装显卡驱动显卡驱动安装推荐我在网上查找了大量资料，最终找到一篇比较好用的文章，这篇文章只要仔细看一定能安装成功，我采用的是第一种安装方式，这里一定要注意在安装过程中一定要全都选择
帅帅公子·2023-06-11 07:37

7199元起，英伟达RTX 40系显卡终于来了：基础性能翻倍，光追翻4倍

最高端的RTX4090性价比最高，你没想到吧？虽然因为产品太贵而被吐槽，但提起最强AI芯片、高端游戏GPU，人们还是首先要看英伟达。
OpenCV中文网公众号·2023-03-29 01:51

最新NVIDIA Ada Lovelace架构 和 RTX 40系列详解

我们知道RTX4090何时发布。如果Nvidia遵循与过去类似的发布时间表，我们可以
扫地的小何尚·2023-03-29 01:52

RTX 4090Ti和RTX 3090Ti差距 RTX 4090Ti和3090Ti参数对比

RTX4090Ti将拥有18176个CUDA核心，96MB二级缓存，搭载24GbpsGDDR6X显存，带宽也从1TB/s增加到1.1TB/s，综合性能相比RTX4090提升10%到20%。
m0_50201498·2023-02-16 20:03

RTX4090和RTX4080哪个好？RTX4090与RTX4080区别

RTX4090和RTX4080均采用了全新NVIDIAAda架构核心，4nm工艺制造，支持DLSS3.0，ATX3.0/PCIE-5.0等等，均采用了优化办的“双轴流”散热系统，将风扇大小和鳍片体积增大了
m0_53363740·2023-01-17 18:32

RTX 4090什么水平 rtx4090显卡什么级别 RTX 4090显卡怎么样

TX4090基于AD102-300核心打造，打开了144组完整SM单元中的128组，也就是对应16384个CUDA，集成96MBL2、384个ROP、24GBGDDR6X显存（21Gbps、384bit）。核心采用台积电4nm工艺制造，频率2~3GHz，整卡功耗450W，单16Pin外接供电。我用的显卡就是活动时8折抢购的点击开抢http://www.adiannao.cn/dq性能方面，传言单精
sdsadwe·2023-01-11 21:18

【深度学习】RTX40系列显卡要来了！更贵更强大！

据悉，旗舰级显卡RTX4090可能拥有多达18432个CUDA核心，而目前RTX309
风度78·2023-01-11 21:48

最新RTX4090深度学习GPU服务器配置大选

英伟达RTX4090上市有一段时间了，奈何市场缺货，受大功率和槽位限制，以及产品本身稳定性和适应性问题都有待测试。
Ai17316391579·2023-01-11 21:46

适用于深度学习的GPU服务器选RTX4090与RTX3090哪个更合适、更划算？

一、弄清基本参数对比RTX4090具有760亿个晶体管、16384个CUDA核心和24GB高速美光GDDR6X显存，4090单精度浮点73TFLOPsRTX3090，搭载了10496个流处理器与24GGDDR6X
Ai17316391579·2022-11-21 09:29

英伟达RTX4090又火了？这次是真的着火了

你的RTX4090还好吗？RTX4090虽然价格昂贵，但能抢到第一批也是件高兴事儿。
驱动小百科·2022-11-20 01:37

英伟达RTX 4080正式发布！这一波是谁赢麻了？

距离英伟达RTX4090显卡的发布已经过去了一个月，40系列家族又出一员大将——英伟达RTX4080，公版定价9499在上市后直接售罄，但大家对它的评价两极分化却很严重，这波4080赢了吗？
驱动小百科·2022-11-20 01:37

曝RTX4090电源接口过热烧毁，用户称烧到冒烟有焦味，网友：战术核显卡回来了...

明敏发自凹非寺量子位|公众号QbitAI定价1w+的RTX4090，到手才一个来月，电源接口直接烧化了？？？而且还不是个例！多位用户都表示自己遇到了类似情况，并附上了接口融化的图片。
QbitAl·2022-10-30 07:03

性能评测|影驰RTX4090金属大师系列显卡正式发售!

未来已至,影驰RTX4090金属大师系列显卡正式上线!前不久,影驰RTX4090星曜/金属大师系列显卡跨时代亮相,见证新一次历史变革,如今,它来了。
m0_64720335·2022-10-19 07:18
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他