NVIDIA硬编码第8页

deepspeed 报错 up NCCL communicator and retreiving ncclUniqueId from [0] via c10d key-value store 解决

参考https://github.com/NVIDIA/nccl/issues/708问题使用deepspeed的时候报错RuntimeError:[1]issettingupNCCLcommunicatorandretreivingncclUniqueIdfrom

B站：阿里武·2024-08-24 15:24

https://developer.nvidia.com/cuda-toolkit-archive

CUDAToolkitArchive|NVIDIADeveloperhttps://developer.nvidia.com/cuda-toolkit-archive

aiotud·2024-08-24 14:17

Ubuntu20.04部署Ollama

在Ubuntu20.04上面安装完RTX4060的NvidiaCuda和TensorRT环境后，就开始跑些大模型看看。

stxinu·2024-08-24 05:22

【AIGC半月报】AIGC大模型启元：2024.08（下）

【AIGC半月报】AIGC大模型启元：2024.08（下））(1)Nemotron-4-Minitron（NvidiaLLM）(2)VITA（腾讯优图多模态大模型）(3)mPLUG-Owl3（阿里巴巴多模态大模型

LeeZhao@·2024-08-23 10:19

【网络】 arp 命令得到网段内所有物理设备ip

我的笔记本和NVIDIAJetsonOrin都位于同一个192.168.1.x的网段内，我想远程访问Orin，但我不知道orin的ip方法1:使用arp命令打开命令提示符：按下Win+R键，打开“运行”

DFminer·2024-08-23 02:02

安装cuml和cupy

和cupy命令：（假设你的cuda安装的是12.x版本）pipinstallcupy-cuda12xpipinstallcuml-cu12--extra-index-url=https://pypi.nvidia.com

luofengxxs·2024-08-23 02:01

CentOS7安装NVIDIA GPU驱动程序和CUDA工具包

1.查看本地环境检查GPU型号lspci|grep-invidia查看linux系统版本uname-m&&cat/etc/redhat-release禁用nouveaulsmod|grepnouveau

2级选手·2024-08-23 02:30

GPU 架构概述费米（Feimi）、开普勒（Kepler）、麦克斯韦（Maxwell）、帕斯卡（Pashcal）和伏特（Volt）架构

GPU架构概述本文主要介绍NVIDIAGPU每一代架构的技术发展和架构之间的区别和联系，时间跨度从2010年至2017年，包括费米（Feimi）、开普勒（Kepler）、麦克斯韦（Maxwell）、帕斯卡

EwenWanW·2024-08-22 19:49

DeepSpeed与Megatron的区别和联系

DeepSeedDeepSeed代表性功能MegatronMegatron代表性功能备注GPU底层优化有开创性的全栈GPU内核设计FP6量化更牛逼FusedCUDAKernels毕竟Megatron是Nvidia

爱串门的小马驹·2024-08-22 04:16

Linux命令：Nvidia显卡状态监控命令

因此使用Nvidia显卡状态监控命令：#使用watch命令watch-n0nvidia-smi0是几秒刷新一下

Bean_zx·2024-03-25 00:43

tang-0203·2024-03-16 22:30

RuntimeError: (PreconditionNotMet) The third-party dynamic library (cublas64_102.dll；cublas64_10.dll

Thethird-partydynamiclibrary(cublas64_102.dll;cublas64_10.dll)thatPaddledependsonisnotconfiguredcorrectly.C:\ProgramFiles\NVIDIAGPUComputingToolkit

xxxggany·2024-03-12 21:13

大模型加速与性能对比

本人环境torch2.0.1+cu118cuda11.8nvidia-driver535.98gcc9

__如风__·2024-03-12 11:58

在Linux中使用docker【下】（常见命令下）

轻量级与资源高效2.2快速部署与版本控制2.3隔离与安全2.4简化运维2.5跨平台兼容2.6持续集成与持续部署（CI/CD）三、Docker的安装3.1ubuntu下安装docker3.2ubuntu下安装nvidia-docker3.3centos

长孤秋落·2024-03-06 10:35

华为昇腾系列——入门学习

从事AI开发的小伙伴，应该明白这个替代，不仅仅是Ascend-910加速卡的算力达到了Nvidia-A100的算力，而是需要整个AI开发生态的替代。下面简单列一下，昇腾生态与英伟达生态的一些对标项。

chenxy02·2024-03-06 08:00

Unity双屏全屏方法

项目中遇到了需要双屏全屏的需求，向大神请教了，方法如下：Nvida显卡的情况下(没有A卡，也不太清楚怎么设置，应该也不麻烦）：打开nvidia控制面板，打开”3D设置>配置Surround、PhysX”

inlet511·2024-03-06 00:21

Made In Heaven，LLM要加速了

这些都离不开Nvidia的Cuda计算，而目前适配这一驱动的只有Windows和Linux。

DisonTangor·2024-03-03 12:31

Nvidia 的迅速崛起同时也让它成为众矢之的

在AI热潮中，连Nvidia自己的客户也想分一杯羹黄仁勋常说，他不做长远打算。他之所以不戴手表，是因为他认为“当下最为重要”。对NvidiaCEO黄仁勋来说，这是一个充满巨大成就与不小挑战的时刻。

Hcoco_me·2024-03-02 15:04

Ubuntu 22.04.4 LTS 安装cuda和cudnn

Ubuntu22.04.4LTS安装cuda和cudnn最简单最直接最快速的方法直接在命令行输入下面两行代码安装cudasudoaptinstallnvidia-cuda-toolkit安装cudnnsudoaptinstallnvidia-cudnn

鹤蓝桉·2024-03-01 14:56

[C++]使用C++部署yolov9的tensorrt模型进行目标检测

首先，确保你的开发环境已安装了NVIDIA的TensorRT。

FL1623863129·2024-02-26 22:35

unknown flag: --gpus See ‘docker run --help‘

这是docker的版本过低导致的解决办法2种升级docker版本nvidia-dockerrun(后面不用加–gpus=all)

开心的宇大帅·2024-02-26 04:15

[NVIDIA]-6 入手 Jetson Xavier NX USB摄像头图像采集+显示（opencv）示例

[NVIDIA]-6入手JetsonXavierNXUSB摄像头图像采集+显示（基于opencv）示例本文主要讲述，基于JetsonXavierNX开发者套件及安装opencv3.3.1，进行USB摄像头图像采集

钟学森·2024-02-26 01:09

在 k8s 中配置域名解析

在应用开发中，我们不应把远程服务的ip硬编码到应用中。有些同学习惯使用域名来标定远程服务，通过修改解析，来区分开发测试和生产环境，这是一个挺好的习惯。

运维那些事~·2024-02-25 01:09

VR游戏开发干货教程：如何创建一个VR项目

简单来说，显卡要NVIDIAGTX970或AMD290以上，CPU要Inteli5-459以上，内存8GB以上，要有两个USB3.0接口，一个USB2.0接口，一个HDMI1.3接口。

wust小吴·2024-02-23 03:19

ubuntu20修改xorg.conf实现双屏幕输出

比如我的ROG想设置内屏用intel驱动（集显），外屏用nvidia独显驱动，那么可以这么写（虽然因为显卡驱动的bug目前不支持这种搭配，我的xorg.conf没有发挥应有的作用，但还是记录一下）：#没有

集智飞行·2024-02-20 23:02

GPU独显下ubuntu屏幕亮度不能调节解决方法

GPU独显下屏幕亮度不能调节（假设你已经安装了合适的nvidia显卡驱动），我试过修改/etc/default/grub的GRUB_CMDLINE_LINUX_DEFAULT="quietsplashacpi_backlight

集智飞行·2024-02-20 23:01

渲染对硬件的要求有哪些？渲染100邀请码1a12

如果用的软件支持Nvidia的CUDA并行运算，那对CPU的性能要求就降低了。2、GPUGPU或图形处

千野竹之卫·2024-02-20 19:54

AI新工具(20240219) Ollama Windows预览版；谷歌开源的人工智能文件类型识别系统； PopAi是您的个人人工智能工作空间

OllamaWindowspreview-OllamaWindows预览版用户可以在本地创建和运行大语言模型，并且支持NVIDIAGPU和现代CPU指令集的硬件加速Ollama发布了Windows预览版

go2coding·2024-02-20 17:35

本地个性化聊天机器人CHAT WITH RTX

英伟达推出了自家版本的ChatGPTChatwithRTX是一个技术演示，现已免费>>>下载<<<，可让用户使用自己的内容个性化聊天机器人，并由本地NVIDIAGeForceRTX30系列GPU或更高版本

崎山小鹿·2024-02-20 17:00

jetson agx orin 实时内核调度延时测试

jetsonagxorin是nvidia推出的计算平台，在自动驾驶领域得到广泛应用。确定性执行是自动驾驶系统的基本要求，而任务调度的确定性是影响确定性执行的重要因素。

王燕龙(大卫)·2024-02-20 15:33

题目 1035: [编程入门]自定义函数之字符类型统计

@#$%^QWERT1234567样例输出：5746注意问题：1.字符类型的判断在depart函数中，字符类型的判断使用了硬编码的方式，即直接比较字符的ASCII值。这种方式可能不够直观，且不易维护。

进击的小童·2024-02-20 14:56

MIT-BEVFusion系列九--CUDA-BEVFusion部署2 create_core之参数设置

图像归一化参数体素化参数稀疏卷积网络参数真实世界几何空间参数(雷达坐标系下体素网格的参数)解码后边界框的参数构建bevfusion::Core存储推理时需要的参数本章开始，我们将一起看CUDA-BEVFusion的代码流程，看看NVIDIA

端木的AI探索屋·2024-02-20 14:53

CUDA和cudnn安装教程

查询电脑的显卡安装的版本：https://docs.nvidia.com/cuda/cuda-toolki

悲伤的拾荒·2024-02-20 13:52

CUDA与CUDNN 关系

CUDA与cuDNN1、什么是CUDACUDA(ComputeUnifiedDeviceArchitecture)，是显卡厂商NVIDIA推出的运算平台。

XF鸭·2024-02-20 13:52

绕过Nvidia登陆步骤直接下载cuDNN的方法亲测有效

绕过Nvidia登陆步骤直接下载cuDNN的方法亲测有效现在要下载cuDNN，点击下载的页面后都是出现要求先加入Nvidiadevelopers会员才能进行下载，这里笔者根据亲身的经验介绍一个可以绕过这个注册或登陆步骤的方式直接下载

ian_41732417·2024-02-20 13:51

绕过Nvidia官方要求的注册或登陆步骤直接下载cuDNN的方法

参考：https://blog.csdn.net/jiao_mrswang/article/details/95309247

是阳阳呀·2024-02-20 13:21

无需注册登录NVIDIA官网下载CUDNN

打开cuDNN下载网址https://developer.nvidia.com/rdp/cudnn-archive点击cuDNNArchive|NVIDIADeveloper进入下图界面：找到需要的版本

justablackacat·2024-02-20 13:49

在使用cuda12 报错Library cublas64_11.dll is not found

因为nvidia的升级基本上都是是CUDA12了,在我发表文章的时候如果去官网下载CUDA包默认安装CUDA版本就是12了.今天在调用fast-whisper的时候使用GPU报错Librarycublas64

atlasroben·2024-02-20 13:18

[技术杂谈]Chat With RTX 介绍

英伟达（Nvidia）已于近日发布了名为“ChatwithRTX”的Demo版个性化AI聊天机器人，并在其海外官网渠道中提供了下载链接。

FL1623863129·2024-02-20 13:46

cudnn免登录下载

现在要下载cuDNN，点击下载的页面后都是出现要求先加入Nvidiadevelopers才能进行下载，但这个注册的过程非常慢，常常卡在第二个步骤，这里根据亲身的经验介绍一个可以绕过这个注册或登陆步骤的方式直接下载

FL1623863129·2024-02-20 13:13

GPU服务器安装显卡驱动、CUDA和cuDNN

GPU服务器安装cuda和cudnn1.服务器驱动安装2.cuda安装3.cudNN安装4.安装docker环境5.安装nvidia-docker25.1ubuntu系统安装5.2centos系统安装6

嘻哈记·2024-02-20 08:45

AI芯片技术架构有哪些？FPGA芯片定义及结构分析

NVIDIA的Tens

Hack电子·2024-02-20 00:43

关于RISC-V与Arm的对比分析和各自的应用

随着西部数据、Nvidia等业界巨头以及大量初创公司宣布开始使用RISC-V，A

jacksong2021·2024-02-19 20:29

英伟达（NVIDIA）和CUDA

英伟达（NVIDIA）是一家知名的图形处理器（GPU）制造公司，而CUDA则是NVIDIA推出的一种并行计算架构和编程模型。

小米人er·2024-02-19 20:57

OlMo--doc文件阅读

condacreate-y-nLLMpython=3.10ipythoncondaactivateLLMcondainstall-ypytorchtorchvisiontorchaudiopytorch-cuda=11.8-cpytorch-cnvidiagitcloneht

瓶子好亮·2024-02-19 15:47

Windows11(非WSL)安装Installing llama-cpp-python with GPU Support

1.安装CUDAToolkit(NVIDIACUDAToolkit(availableathttps://developer.nvidia.com/cuda-downloads)2.安装如下物件：gitpythoncmakeVisualStudioCommunity

aiXpert·2024-02-19 14:30

极狐GitLab CI/CD 变量黑魔法之预定义变量

极狐GitLabCI/CD变量是指一系列的环境变量，用来帮助我们控制CI/CDJob或Pipeline的行为，存储一些可以复用的信息，避免在.gitlab-ci.yml中形成硬编码。

·2024-02-19 13:11

CES 2024：NVIDIA 通过新的笔记本电脑、GPU 和工具提供生成式 AI

在CES2024上，NVIDIA推出了一系列硬件和软件，旨在释放Windows11PC上生成式AI的全部潜力。在PC上本地运行生成式AI对于隐私、延迟和成本敏感型应用程序至关重要。

少年黑客·2024-02-19 10:31

paddlepaddle 2.6版本在WSL2环境中如何使用NVIDIA显卡运行神经网络

paddlepaddle2.6版本发布后，官网上可以使用NVIDIAcuda12.x进行机器学习了，训练神经网络的效率大为提升。

kampoo·2024-02-15 09:47

cuBLAS Level-1 Function

仅为学习记录，具体内容请以nvidia官方文档为准：https://docs.nvidia.com/cuda/cublas/index.html#cublas-level-1-function-reference

Junr_0926·2024-02-15 04:17

推荐频道

NVIDIA硬编码