高性能计算机cuda环境安装第5页

vllm安装及总结

vllm的安装和使用，对torch、cuda、xformers等有较多的版本依赖，过程中有一些曲折，故整理记录如下。

赫连达·2025-02-23 04:19

在 Mac 上部署 Dify + DeepSeek 的操作指南

（二）工具与环境安装Homebrew安装（若未安装）Homebrew是Mac强大的包管

hwz.·2025-02-23 02:03

用示例提升大语言模型的查询分析能力！

主要内容设置环境安装依赖项我们需要安装langchain-core和langchain-openai库。#%pipins

llzwxh888·2025-02-22 19:31

深入解析C++26 Execution Domain：设计原理与实战应用

一、Domain设计目标与核心价值Domain是C++26执行模型的策略载体，其核心解决两个问题：执行策略泛化：将线程池、CUDA流等异构调度逻辑抽象为统一接口策略组合安全：通过类型隔离避免不同执行域的策略污染

C语言小火车·2025-02-22 15:00

【2024 Dec 超实时】编辑安装llama.cpp并运行llama

以下是可以完美编译llama.cpp的测试工具版本号：gcc9g++9#只要大于等于9版本都集成了cmake是要的c++17指令集，gcc8测试了要手动软链麻烦反正凉cuda11.

AI．愚人自愈·2025-02-22 13:45

机器学习库

Scikit-Opt-Python中的群智能（Python中的遗传算法、粒子群优化、模拟退火、蚁群算法、免疫算法、人工鱼群算法）SimpleCV-一个开源计算机视觉框架，可以访问多个高性能计算机视觉库，

Welosthesightof·2025-02-22 12:11

YOLOv11快速上手：如何在本地使用TorchServe部署目标检测模型

环境准备在开始之前，确保你的开发环境满足以下要求：Python版本：3.8或以上PyTorch：1.9或以上CUDA：如果使用GPU，加速训练和推理TorchServe：用于模型

SYC_MORE·2025-02-22 07:57

使用poetry+conda配置虚拟环境

chinaherolts2008·2025-02-22 01:00

Ubuntu 20.04 安装英伟达显卡驱动 cuda cudnn

1.禁用nouveaulsmod|grepnouveausudogedit/etc/modprobe.d/blacklist.conf添加语句：blacklistnouveauoptionsnouveaumodeset=0sudoupdate-initramfs-usudorebootlsmod|grepnouveau没有任何信息显示，说明nouveau已被禁用，接下来可以安装nvidia的显卡驱

weixin_38679037·2025-02-21 01:19

深度学习工厂的蓝图：拆解CUDA驱动、PyTorch与OpenCV的依赖关系

想象一下，你正在建造一座深度学习工厂，这座工厂专门用于高效处理深度学习任务（如训练神经网络）和计算机视觉任务（如图像处理）。为了让工厂顺利运转，你需要搭建基础设施、安装设备、设置生产线，并配备控制台来管理整个生产过程。以下是这座工厂的详细构建过程：1.工厂的基础设施：Ubuntu比喻：Ubuntu是工厂所在的土地和建筑，提供了基础设施和运行环境。作用：提供操作系统环境，支持安装和运行各种工具和框架

时光旅人01号·2025-02-20 17:46

【CUDA】Pytorch_Extensions

【CUDA】Pytorch_Extensions为什么要开发CUDA扩展？

joker D888·2025-02-20 15:28

本地搭建小型 DeepSeek 并进行微调

1.环境准备Python3.7或更高版本PyTorch1.8或更高版本CUDA(可选，用于GPU加速)Git2.克隆DeepSeek仓库bash复制gitclonehttps://github.com/

非著名架构师·2025-02-20 15:55

auto-gptq安装以及不适配软硬件环境可能出现的问题及解决方式

2、auto-gptq安装3、auto-gptq不正确安装可能会出现的问题（1）爆出：`CUDAextensionnotinstalled.`（2）没有报错但是推理速度超级慢1、auto-gptq是什么

IT修炼家·2025-02-20 12:00

【k8s应用管理】kubernetes HPA+rancher

文章目录KubernetesHPA部署指南概述部署metrics-server部署HPARancher管理Kubernetes集群指南实验环境安装及配置RancherKubernetesHPA部署指南概述

Karoku066·2025-02-20 12:22

深入浅出：CUDA是什么，如何利用它进行高效并行计算

为了满足这些需求，NVIDIA推出了CUDA（ComputeUnifiedDeviceArchitecture），这是一种并行计算平台和编程模型。

码上飞扬·2025-02-20 03:38

语音识别使用SenseVoiceSmall模型实现源码

本项目提供SenseVoice模型的介绍以及在多个任务测试集上的benchmark，以及体验模型所需的环境安装的与推理方式。

丢了个猪·2025-02-19 23:09

flash_atten库安装失败

1.查询对应版本（cuda，python等），直接下载对应whl文件。地址：https://github.com/Dao-AILab/flash-attention/releases?

心平气和不要慌·2025-02-19 18:02

flash-attention安装教程

安装方法如下：首先搞清楚你的python什么版本，torch什么版本，cuda什么版本，操作系统是什么。

深度求索者·2025-02-19 18:00

【网络安全 | 开发】全网最详细Go笔记（3w字总结）

文章目录写在前面Go语言概念语言特色Go语言用途Go语言环境安装Go语言基础组成GO语言基础语法Go标记行分隔符字符串连接空格格式化字符串Go语言数据类型Go语言变量局部变量和全局变量Go语言常量Go语言运算符

秋说·2025-02-19 17:24

QT+FFmpeg如何使用GPU加速解码？

全文目录：问题描述解决方案1.确保FFmpeg和CUDA的支持2.正确选择硬件解码器设置硬件解码器3.初始化CUDA硬件设备4.硬件解码流程解码帧并处理硬件帧5.检查FF

bug菌¹·2025-02-19 17:22

快速在Ubuntu18.04系统中离线部署深度学习环境

一、服务器部署流程1、安装显卡驱动cuda、cudnn#安装gcc和makecd~/dockerDeploy/pool&&sudo./ins

高次超静定的人·2025-02-19 13:46

anaconda，Python，cuda,pytorch 下载安装

以下是Anaconda、Python、CUDA和PyTorch的下载安装步骤：一、Anaconda下载访问Anaconda官方网站：DownloadAnacondaDistribution|Anaconda

三希·2025-02-19 11:29

CUDA学习——Chapter 3（1）流式多处理器（SM）介绍

第三章上一章我们讨论了不同内存布局对核函数性能的影响，这一章我们就从硬件的角度，去探究为什么布局会导致核函数运行的不同。SM简介上一节我们说到deviceProp的时候，不知道会不会有读者有疑惑，为什么突然会提到multiprocessor（多处理器）这个概念，这个概念又是什么？其实这个multiprocessor，就是我们这一篇推文要介绍的SM。先来给大家看看SM的结构：这是Fermi架构下的S

KarK_Li·2025-02-19 08:03

cuda编程入门——并行归约(五)

CUDA编程入门—并行归约（数组求和为例）在并行计算中，归约（Reduction）是一种将多个数据通过特定操作（如求和、求最大值等）合并为单一结果的并行算法。

我不会打代码啊啊·2025-02-19 07:02

利用cuda加速图像处理—实现sobel边缘检测

利用cuda加速图像处理—实现sobel边缘检测#include#include#includeusingnamespacecv;/***@brief对图像进行Sobel滤波*@paraminput输入图像

我不会打代码啊啊·2025-02-19 07:02

cuda编程入门——并行性与异构性概念

CUDA编程入门一基于cuda的异构并行计算并行性一、并行性的概念与分类概念并行性旨在通过同时处理多个任务或数据元素来提高计算速度和效率。

我不会打代码啊啊·2025-02-19 07:32

conda更换环境版本（比如torch版本）

找到想要的torch版本pytorch官网torch过往的版本创建新环境condacreate--namemyenvpython=3.8condaactivatemyenvconda虚拟环境中安装CUDA

挨打且不服66·2025-02-19 03:57

【Linux&Python】linux中通过源码方式安装python环境

python环境安装直接看第二部分即可。

atwdy·2025-02-18 13:54

Docker安装分布式vLLM

CUDAVersion：12.4

MasonYyp·2025-02-18 13:49

判断是否安装了cuda和cuDNN

#判断是否安装了cudaimporttorchprint(torch.cuda.is_available())#返回True则说明已经安装了cuda#判断是否安装了cuDNNfromtorch.backendsimportcudnnprint

幽殇默·2025-02-17 23:25

[C#]C#使用yolov8的目标检测tensorrt模型+bytetrack实现目标追踪

【测试通过环境】win10x64vs2019cuda11.7+cudnn8.8.0TensorRT-8.6.1.6opencvsharp==4.9.0.NETFramework4.7.2NVIDIAGeForceRTX2070Super

FL1623863129·2025-02-17 23:55

Docker-快速入门

如果是利用传统方式部署MySQL，大概的步骤有：搜索并下载MySQL安装包上传至Linux环境编译和配置环境安装而使用Docker安装，仅仅需要一步即可，在命令行输入下面的命令（建议采用CV大法）：dockerrun-d

学习两年半的Javaer·2025-02-17 22:13

linux 搭建kafka集群

文件配置三、集群启动一、环境准备1、我这里是准备三台服务器节点ipnode1192.168.72.132node2192.168.72.133node3192.168.72.1342、安装jdklinux环境安装

节点。csn·2025-02-17 21:04

第N5周：Pytorch文本分类入门

文章目录一、前期准备1.环境安装2.加载数据3.构建词典4.生成数据批次和迭代器二、准备模型1.定义模型2.定义实例三、训练模型1.拆分数据集并运行模型2.使用测试数据集评估模型本文为365天深度学习训练营中的学习记录博客原作者

计算机真好丸·2025-02-17 07:57

第TR5周：Transformer实战：文本分类

文章目录1.准备环境1.1环境安装1.2加载数据2.数据预处理2.1构建词典2.2生成数据批次和迭代器2.3构建数据集3.模型构建3.1定义位置编码函数3.2定义Transformer模型3.3初始化模型

计算机真好丸·2025-02-17 07:56

Java 环境安装和第一个程序：使用 VSCode 轻松上手

一、Java环境安装1.下载并安装JDKJDK（JavaDevelopmentKit）是Java开发的核心工具包

极梦网络无忧·2025-02-17 07:55

Linux上Scapy完全指南：从入门到实战攻防

Linux上Scapy完全指南：从入门到实战攻防目录Scapy简介与核心优势Linux环境安装与配置Scapy基础操作高级功能与协议分析实战案例：网络诊断与安全审计性能优化与调试技巧常见问题解答一、Scapy

和舒貌·2025-02-17 04:31

【MySQL】在 Centos7 环境安装 MySQL -- 详细完整教程

说明：安装与卸载中，用户全部切换成为root，一旦安装，普通用户就能使用。一、卸载内置环境1、卸载不要的环境[root@VM-8-5-centos~]$psajx|grepmariadb#先检查是否有mariadb存在13134148441484313134pts/014843S+10050:00grep--color=automariadb19010191871901019010?-1Sl271

m0_74823842·2025-02-17 01:09

【Stable Diffusion部署至GNU/Linux】安装流程

显卡与计算架构介绍CUDA是NVIDIAGPU的专用并行计算架构技术层级说明CUDAToolkit提供GPU编译器(nvcc)、数学库(cuBLAS)等开发工具cuDNN深度神经网络加速库（需单独下载）

星星点点洲·2025-02-17 00:34

Lua 从基础入门到精通（非常详细）

Lua环境安装Lua基本语法注释数据类型nil（空）Booleannumber（数字）string（字符串）function（函数）userdatathreadtable（表）流程控制运算符循环详解string

gorgor在码农·2025-02-16 23:55

【vLLM 学习】安装

·2025-02-16 23:25

ubuntu完全卸载cuda(备忘)

cuda的卸载方法网上都有很多，这些方法大同小异，几乎都是错的，我在卸载cuda时基本试了个遍，各种踩坑。

fengsongdehappy·2025-02-16 10:49

DeepSeek 大模型离线 Docker 部署技术指南

DeepSeek离线部署采用容器化微服务架构，核心组件包括：模型服务层：基于TritonInferenceServer的模型推理容器API网关层：FastAPI实现的REST/gRPC接口服务资源管理层：CUDA-awareDocker

容器的搬运工·2025-02-16 04:32

30：部署LNMP 、 Nginx+FastCGI 、 Nginx高级技术、总结和答疑

TopNSDOPERATIONDAY02案例1：部署LNMP环境案例2：构建LNMP平台案例3：地址重写1案例1：部署LNMP环境1.1问题安装部署Nginx、MariaDB、PHP环境安装部署Nginx

河北王承志·2025-02-16 02:49

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）

【服务器】ubuntu20.04安装cuda12.01（使用runfile安装）包教包会【创作不易，求关注收藏点赞】商业合作请私聊，有问题可以评论或者私聊！

弹伦琴的雷登·2025-02-15 15:57

深度学习基础知识

cuda简介：CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一种并行计算平台和应用程序编程接口（API）。

namelijink·2025-02-15 15:22

如何在我的电脑上查看是否安装cuda12？我现在在我的VS中新建项目时，里面多出来一个CUDA12.4 runtime，这是什么？是不是使用CUDA cpp进行编程？

在你的电脑上检查是否安装了CUDA12，可以通过以下几种方法：1.检查CUDAToolkit安装目录查看CUDA安装目录：-默认情况下，CUDAToolkit安装在C:\ProgramFiles\NVIDIAGPUComputingToolkit

吃榴莲的小鳄鱼·2025-02-15 15:21

windows 安装nvidaia驱动和cuda

安装nvidaia驱动和cuda官网搜索下载驱动https://www.nvidia.cn/drivers/lookup/这里查出来的都是最高支持什么版本的cuda安装时候都默认精简就行官网下载所需版本的

njl_0114·2025-02-15 14:14

c++加载TensorRT调用深度学习模型方法

步骤1：准备环境安装TensorRT：确保你已经安装了NVIDIATensorRT库。准备模型：确保你的训练好的模型已经转换为TensorRT支持的格式，通常是一个.engine文件。

feibaoqq·2025-02-15 13:35

python爬虫——request模块讲解，从零开始学数据结构和算法

二、安装和基本步骤使用===========环境安装：pipinstallrequests基本步骤：.**1.导入模块:importrequests2.指定url:url=“…”3.基于requests

2301_82242296·2025-02-15 12:00

推荐频道

高性能计算机cuda环境安装