3090

LLM大模型4位量化实战【GPTQ】

权重量化方面的最新进展使我们能够在消费类硬件上运行大量大型语言模型，例如RTX3090GPU上的LLaMA-30B模型。这要归功于性能下降最小的新型4位量化技术，例如GPTQ、GGML和NF4。
新缸中之脑·2023-11-20 02:52

GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation

anaconda3/envs/particlesfm/lib/python3.7/site-packages/torch/cuda/init.py:104:UserWarning:GeForceRTX3090withCUDAcapabilitysm
crasyter·2023-11-16 18:14

解决RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch installation.

翻译过来，大意是目前所使用的RTX3090的显卡的算力是8.6，而当前Pytorch所依赖的CUDA版本支持的算力只有3.7、5.0、6.0、6.1、7.0、7.5。
信小海·2023-11-16 17:55

centos 7 显卡更新以及cuda升级

成功安装显卡驱动（超详细）_centos7安装显卡驱动详细教程_嗨，紫玉灵神熊的博客-CSDN博客2、cuda更新升级https://huaweicloud.csdn.net/6356437ed3efff3090b5cbf3
逍遥豚·2023-11-16 05:48

Ubuntu18.04 + RTX3090安装tensorflow-GPU1.15.4

因为RTX3090只支持cuda11.0+的版本，无法配置tensorflow1.×环境。好在NVIDIA一直在维护一个1.15版本的nvidia-tensorflow可以使用在30系显卡上。
人生如梦NO.1·2023-11-15 05:13

这个云平台直接送3090、A100免费无门槛代金券！

点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达一、废话不多说：本次读者福利由AutoDL.com赞助，活动规则：前100名向[email protected]发送邮件的读者，AutoDL会直接用邮件回复100元代金券激活码，访问AutoDL官网（www.autodl.com或www.gpuhub.com）注册后可无门槛使用代金券。邮件标题可自拟，为防挖矿黑产，邮件内容必
Amusi（CVer）·2023-11-14 04:33

mv150us无线网卡驱动linux,水星MW150US的正确驱动方式 适用于笔记本无线网卡驱动无解的情况...

我的大部分驱动都完美了，但是无线网卡是坑爹的RalinkRT3090，这个无线网卡目前无解(10.6及以上，国外论坛据说有人成功，方法我也试过，但依然没有反应，要不就是国外的那些人忽悠，要不就是我太过愚顿了
weixin_39531229·2023-11-11 17:39

GTX3090

首先介绍环境：保证Cuda与Pytorch的版本对齐就可以了。nvcc-V查看原来装的是cuda11.3版本去Pytorch官网找到相应指令下载即可：Ctrl+F：cuda11.3就在诸多版本中找到啦,一定找torch的版本+cuda版本。我之前错误安装的torch，只会显示torch的版本，没有后面的+。#CUDA11.3pipinstalltorch==1.12.1+cu113torchvis
思考实践·2023-11-09 05:38

llava1.5模型安装、预测、训练详细教程

源码链接:点击这里demo链接:点击这里论文链接:点击这里一、系统环境ubuntu20.04gpu:2*3090cuda:11.6二、LLava环境安装1、代码下载gitclonehttps://github.com
tangjunjun-owen·2023-11-06 22:11

微软开源贾维斯(J.A.R.V.I.S.)人工智能AI助理系统

贾维斯(Jarvis)的环境配置一般情况下，深度学习领域相对主流的入门级别显卡是2070或者3070，而3090可以算是消费级深度学习显卡的天花板了：再往上走就是工业级别的A系列和V系列显卡，显存是一个硬指标
2301_77342543·2023-11-05 08:58

Ubuntu20.04安装CUDA、cuDNN、tensorflow2可行流程（症状：tensorflow2在RTX3090上运行卡住）

最近发现我之前在2080ti上运行好好的代码，结果在3090上运行会卡住很久，而且模型预测结果完全乱掉，于是被迫研究了一天怎么在Ubuntu20.04安装CUDA、cuDNN、tensorflow2。
专心致志写BUG·2023-11-03 07:02

第八周实验记录

10月20日-10月22日工作：复现S-NeRF代码，按照github的步骤进行，首先使用一个RTX3090显卡，在下图步骤中：运行最后一步pythonscripts/run.py出现问题继续使用两张RTX3090
川河w·2023-10-29 19:58

第6章 灭门惨案

公元3090年，春月，21日，天气多云。姐姐的内功突破10战大关时，年纪未到二十，可谓是修炼天才。圣化后，她的公民资料上添上浓重的一笔——19岁圣化！
泽o敏·2023-10-28 19:19

2021-05-06

各位朋友沥青2106：沥青我准备在3090-3100区间空目标止损目标30-50焦炭我准备在2770-2760区间多止损30目标30-40焦煤我准备在1910-1920区间做空止损30目标30-50棕榈油我准备在
海纳生财99·2023-10-24 16:16

【环境】Linux下Anaconda/ Miniconda安装+百度Paddle环境搭建+Cudnn（3090显卡+CUDA11.8+cudnn8.6.0）

清华源帮助链接：https://mirror.tuna.tsinghua.edu.cn/help/anaconda/下载链接：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/其他深度学习环境相关博文：【stable-diffusion】4090显卡下dreambooth、lora、sd模型微调的GUI环境安装（cuda驱动、pytor
曾小蛙·2023-10-24 15:17

制定适合自己的健康生活方式

之前睡觉，最佳时间10:30，确保11:00的排毒时间，不熬夜，晚上临睡前不刷视频不刷剧，减少看手机，多看纸质版的书籍二、早起秋冬季工作日时间6:30起床周末7:00春夏季工作日时间6:00起床周末6:3090
孙煦雅·2023-10-23 02:58

3090

杜甫《登楼》#3090#
仇志飞·2023-10-20 07:20

Detectron2 安装踩坑

在服务器上安装Detectron2：设备：NVIDIAGeForceRTX3090显卡驱动和cuda：安装detectron2时，报错为：Installingcollectedpackages:detectron2Runningsetup.pydevelopfordetectron2error
Immortal stars·2023-10-19 06:58

30系显卡浅析(后)

【嵌牛鼻子】RTX3070RTX3080RTX3090【嵌牛正文】安培GPU架构详解之：第三代TensorCore、8K游戏成为可能TensorCore是伏特GPU引入的一种新核心，现在也是SM单元的三
生来渴酒v_v·2023-10-19 04:54

xgboost配置GPU

说明：博主的显卡为3090，驱动为470.94，CUDA版本为11.4，cmake3.3.2，gcc7.3.1以上版本配置xgboost（2.0.0）GPU可以直接调用直接安装即可pipinstallxgboost
平原2018·2023-10-19 00:28

AI开发框架主流之争与百度人工智能开发策略的思考

nvidia的RTX-30系列GPU是去年十月初发布的，特别是其中的3090，有24G的显存，可以用来跑通目前几乎所有的深度学习模型。这个是深度学习爱好者，个人能够承担范围内的设备。
老牛实验室·2023-10-17 18:25

RTX3090(4090) 与pytorch版本对应关系

在RTX3090上判断，当前版本的的torch版本是否可以用，一般需要通过如下方式：condaactivatetorch1.8.1(激活相关的虚拟环境)python进入python环境，importtorch
mingqian_chu·2023-10-17 05:32

深度学习之使用CSDN的InsCode的服务器

CSDN开启了一个InsCode的栏目，在里面可以部署自己的项目，同时可以租赁GPU服务器：由于博主在CSDN有些积蓄，因此便来测评一下，博主购买了3090这个型号接下来便是登录使用了，博主使用的是Mobaxterm
彭祥.·2023-10-16 14:27

2019-3-22晨间日记 - 草稿

今天是周四图片发自App图片发自App图片发自App起床：5:12就寝：23:30天气：晴0~14心情：平静纪念日：更早打卡D54公婆出院D5妈妈出院D10姥姥住院D34易效能践行D391096天倒计时D3090
lf720413·2023-10-16 10:34

【在家也能连组内GPU】Vscode等各类客户端使用公网云跳板Linux内网穿透实验室Win10主机实现SSH远程开发

目录前言梳理正文前言【本文也适用Linux穿Linux】我配置是这样，有台阿里云，Linux系统，然后实验室有台3090的服务器，装的是win10系统，但接的是教育网宽带，相当于被NAT了，没有自己的公网
青春依旧_·2023-10-15 20:20

[科研琐事] 安装服务器到机柜的二三事

1U=4.45cm2U=4.45cm*23U=4.45cm*34U=4.45cm*4我们的2080/3090/4090服务器都是4U的2.装机准备检查下面几个内容是否备齐：电源线：电源线一头是连接服务器的
吃熊的鱼·2023-10-15 04:15

tensorflow1迁移到tensorflow2

早期的tf1代码在3090上跑不了了，因此复现基于tensorflow1的代码只能1.创建一个还在维护的tf1.x环境2.将tf1.x代码迁移到tf2上。
kushr·2023-10-14 02:34

tensorflow1.x版本代码迁移到2.0

由于3090显卡只支持tf2.0以后的版本，而且随着显卡的更新换代，tf1.x版本也不支持更高级的显卡，所以有必要将1.x版本的代码转成2.0后的版本。
donruo·2023-10-14 02:31

手把手教学-本地部署minigpt-4

虽然最新版本的minigpt-4需要的显存已经大大减少，但依旧至少需要12GB的显存，我所使用的是3090ti,可以部署，以下就介绍如何在Linux系统下本地部署minigpt-4minigpt-4本地部署的官方教程请见
奶龙fans·2023-10-13 21:09

ChatGLM-6B微调p tuning v2和lora对比

THUDM/ChatGLM-6B参考本人之前的博客下载ChatGLM-6B模型：https://blog.csdn.net/Acecai01/article/details/131221676设备一张3090Ti
Acecai01·2023-10-09 04:28

centos7安装显卡驱动、cuda以及cudnn

NvidiaGPU，查看支持CUDA的GPU列表:https://developer.nvidia.com/cuda-gpus```shlspci|grep-invidia```服务器使用的是2204,2204指的是3090
yingchenwy·2023-10-05 08:07

AutoDL快速上手使用

这里我选择的是RTX3090，不同的GPU需要的配
滑稽的猴子·2023-10-04 02:49

使用ExLlamaV2在消费级GPU上运行Llama2 70B

能否在高端消费级GPU，如NVIDIARTX3090或4090，上运行呢，如果我们将Llama270b量化到4位精度，仍
deephub·2023-10-02 17:57

聊聊2020年3D渲染装机和新显卡评测

根据统一的评测文件，社区用户进行了30系的渲染速度评测，除掉之前的老显卡，目前新显卡30系列已经包含3070，3080，3090，以下是评测的图片说明。
张大妈keyshot·2023-10-01 21:11

YOLOv8+swin_transfomer

测试环境：cuda11.3pytorch1.11rtx3090wsl2ubuntu20.04本科在读，中九以上老师或者课题组捞捞我，孩子想读书，求课题组师兄内推qaq踩了很多坑，网上很多博主的代码根本跑不通
不会写代码！！·2023-10-01 02:00

YOLOv8+swin_transfomerv2

测试环境：cuda11.3pytorch1.11rtx3090wsl2ubuntu20.04踩了很多坑，网上很多博主的代码根本跑不通，自己去github仓库复现修改的网上博主的代码日常出现cpu,gpu
不会写代码！！·2023-10-01 02:56

【实验记录】AGW | Visible-Infrared Re-ID

VisibleThermalRe-IDDeepLearningforPersonRe-identification:ASurveyandOutlook中提出了一个针对单/跨模态行人重识别的baseline：AGW做过两次，在测试阶段有问题，现在再重做一次CodeRTX3090
ca1m4n·2023-09-27 11:41

Stable Diffusion WebUI 使用

想要正常运行StableDiffusionWebUI需要机器上有Nvidia显卡才行,简单体验可以RTX3070起步,正常玩需要RTX3080起步,要训练模型就要RTX3090起步。
何小有·2023-09-24 01:20

查看显存和内存大小

查看显存和内存大小查看显存查看内存大小内存不是磁盘查看显存nvidia-smi下图中的，“24576MiB”就是GeForceRTX3090的显存大小，换算成GB大约是24GB。
为啥不能修改昵称啊·2023-09-23 12:48

英伟达、AMD显卡纷纷告急，PC DIY市场的落日黄昏

为了轻松阅读本文，诸位看官可能需要简单了解以下概念：算力：显卡或矿机获得加密货币的速度或者能力，单位是MH/s，目前性能最强的RTX3090显卡算力约为121MH/s。
智能相对论·2023-09-21 14:44

Nvidia深度学习环境安装

深度学习大型模型训练和部署，需要使用GPU，使用Pytorch、Tensorflow等深度学习框架之前需要安装驱动环境,本文系统环境：ubuntu22.04系统，四张3090显卡安装显卡驱动下载：选择显卡类型
一步一步HH·2023-09-21 02:34

GPU检测显卡是否空闲排队程序

GPU检测显卡是否空闲排队程序本程序特有地加入了检测部分显卡空闲时，可以使用部分显卡直接运行程序，更加实用测试GPU为3090，不同型号可能略有差别importosimportsysimporttimefromIPythonimportembedCUDA_cmd
bj_zhb·2023-09-18 14:14

省显存（内存？）的大语言模型（LLMs）训练/微调/推理方法

即使RTX3090有着24GB的RAM，使用一块RTX3090依然无法fp32精度训练最小号的LLaMA-6B。
桂花很香,旭很美·2023-09-16 22:24

transformer大语言模型(LLM)部署方案整理

毕竟不是谁都有H100/A100,能有个3090就不错了。目前已经有不少框架支持了大模型的分布式部署，可以并行的提高推理速度。不光可以单机多卡，还可以多机多卡。
yuanlulu·2023-09-14 10:52

幸福的烦恼：显卡算力太高而pytorch版本太低不支持

NVIDIAGeForceRTX3090withCUDAcapabilitysm_86isnotcompatiblewiththecurrentPyTorchinstallation.ThecurrentPyTorchinstallsupportsCUDAcapabilitiessm
是Yu欸·2023-09-13 11:29

NVIDIA GeForce RTX 3090 with CUDA capability sm_86 is not compatible with the current PyTorch

问题描述：NVIDIAGeForceRTX3090withCUDAcapabilitysm_86isnotcompatiblewiththecurrentPyTorchinstallation.ThecurrentPyTorchinstallsupportsCUDAcapabilitiessm
power_kaikaige·2023-09-13 11:55

3090安装tensorflow1时，报错CUDA driver version is insufficient for CUDA runtime version

SuiteSparse安装的问题环境解决方案环境系统：Ubuntu时间：2023.5.29解决方案首先通过nvidia-smi查看自己的cuda驱动版本，如果是11.x，则重新安装nvidia-tensorflow：pipinstallnvidia-pyindexpipinstallnvidia-tensorflow==1.15.4+nv20.10原因是默认安装的nvidia-tensorflow
TommySte·2023-09-10 16:33

基于docker快速搭建facechain环境

这两天刚拿到一台RTX3090的服务器，在本地部署也遇到了两个问题，给大家分享一下。一、facechain是什么？官方是这样说的：FaceChain是一个可以用来打造个人数字形象的深度学习模型工具。
joimson·2023-09-10 01:56

新的Ubuntu服务器上如何安装深度学习环境的docker

背景：硬件：联想的双3090显卡总共48GB显存4TB刀片式服务器。软件：只安装了nvidia的驱动，能用nvidia-smi查看显卡信息，但是nvcc-V看不到东西。
往事如yan·2023-09-09 18:50

无脑014——linux系统，制作coco（json）格式数据集，使用mmdetection训练自己的数据集

电脑，linux，RTX3090cuda11.21.制作coco（json）格式数据集这里我们使用的标注软件是：labelimg选择voc格式进行标注，标注之后使用以下代码，把voc格式转换成coco格式
吃肉不能购·2023-09-09 00:43
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他