CUDA编程入门

RuntimeError: CUDA is required but not available for bitsandbytes.

今天想配置大模型的环境，需要用到bitsandbytes这个包，但是遇到报错：RuntimeError:CUDAisrequiredbutnotavailableforbitsandbytes.Pleaseconsiderinstallingthemulti-platformenabledversionofbitsandbytes
九思Atopos·2025-02-01 01:42

使用Ollama部署deepseek大模型

使用Ollama部署deepseek大模型前置条件使用英伟达显卡下载cuda驱动https://developer.nvidia.com/cuda-downloadsOllamaOllama官方版:https
·2025-01-31 21:04

Paddle和pytorch不可以同时引用

importpaddleprint(paddle.utils.run_check())importtorchprint(torch.version.cuda)print(torch.backends.cudnn.version
饮马长城窟·2025-01-31 21:03

21. Ubuntu 交叉编译工具链安装

交叉编译器安装ARM裸机、Uboot移植、Linux移植这些都需要在Ubuntu下进行编译，编译就需要编译器，我们在第三章“LinuxC编程入门”里面已经讲解了如何在Liux进行C语言开发，里面使用GCC
lljss2020·2025-01-31 14:11

C、C++、Java到Python，编程入门学习什么语言好?

最近，TIOBE更新了7月的编程语言榜单，常年霸榜的C、Java和Python依然蝉联前三位。万万没想到的是，R语言居然冲到了第八位，创下了史上最佳记录。而且后续随着业内对数据统计和挖掘需求的上涨，R语言热度颇有些势不可挡的架势。然而作为程序员吃饭的工具，编程语言之间也形成了某种鄙视链，各大论坛里弥漫着剑拔弩张的气氛，众口难调。也难怪有很多初学者会有疑惑，为什么会有这么多编程语言，我到底应该学什么
明天会比今天更好·2025-01-30 22:53

VS2019+QT4.15+openCV4.5.1+CUDA加速

文章目录前言一、软件安转以及注意事项二、CMake编译总结前言`最近公司有一个关于使用海康威视网络摄像头的目标检测的项目，发现使用openCV显示时，出现很大的延时，因此，只能使用cuda进行加速才能使显示达到实时
小小秀峰哥·2025-01-30 21:47

CUDA编程（一）：GPU计算与CUDA编程简介

CUDA编程（一）：GPU计算与CUDA编程简介GPU计算GPU硬件资源GPU软件资源GPU存储资源CUDA编程GPU计算NVIDIA公司发布的CUDA是建立在GPU上的一个通用并行计算平台和编程模型，
AI Player·2025-01-30 21:17

GPU编程与CUDA

CUDA编程并行计算整体流程从主机端申请内存，把内存部分的内容拷贝到设备端在设备端的核函数计算从设备端拷贝到主机端，并且释放内存显存主机端：cpu设备端：gpu核函数：在gpu上运行的函数CUDA内存模型
Nice_cool.·2025-01-30 21:17

GPU-CUDA编程学习(一)

Hello,CUDA最近在学习GUP编程，故此记录下学习进度。
☞北海北☜·2025-01-30 21:45

多版本cuda+多版本cudnn+gcc+cmake+opencv+darknet爬坑记录

本次针对darknet框架部署—centos7.x一、CUDA多版本安装1、很早前安装了很多cuda现在忘了步骤了，这里不再安装，下次再补上，可以看其他贴安装，记清楚自己的安装目录，一般默认在/usr/
LMM_AI·2025-01-30 21:41

RTX4060+ubuntu22.04+cuda11.8.0+cuDNN8.6.0 & 如何根据显卡型号和系统配置cuda和cuDNN所需的安装环境

文章目录电脑原配置安装cuda和cuDNN前的环境选择cuDNN与CUDAtookit和nvidiadriver的对应关系cuda版本选择⭐查看自己的nvidiadriver版本和最大支持的CUDA版本
computer_vision_chen·2025-01-30 20:05

ubuntu22.04 + isaac gym环境配置流程

1.CUDA安装1.看系统架构：uname-m2.去官网下载适配你显卡驱动的最新cuda，可以通过nvidia-smi查看https://developer.nvidia.com/cuda-toolkit-archive3
Yakusha·2025-01-30 20:02

cuda 线程调度

比如RTX2070有36个StreamingMultiprocessors，而每个SM有64个CUDACores，RTX2070具有36*64=2304个CUDACores。
weiwei0319·2025-01-30 05:31

Window 下Mamba 环境安装踩坑问题汇总及解决方法 （无需绕过selective_scan_cuda）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-30 03:45

vmamba 尝试安装记录

安装虚拟环境condacreate-nvmambapython==3.102、激活环境condaactivatevmamba3、安装附加环境pipinstall-rrequirements.txt4、确保cuda
青雉007·2025-01-30 02:41

Window Mamba 环境安装【CUDA】

直接安装Mamba及其依赖3.手动编译Mamba及其依赖1.安装PyTorch环境condacreate-nmambapython=3.10condaactivatemambacondainstallcudatoolkit
红豆布丁·2025-01-30 02:11

Python编程入门指南：从基础到高级

如果你正在学习Python，那么你需要的话可以，点击这里Python重磅福利：入门&进阶全套学习资料、电子书、软件包、项目源码等等免费分享！一、引言1.1Python编程语言简介Python是一种高级编程语言，它具有简单易学、代码简洁、易维护等特点，因此被广泛应用于科学计算、数据分析、人工智能等领域。Python的语法简洁，代码易于阅读和编写，因此它被广大开发者所喜爱。同时，Python还拥有庞大
编程咕咕gu-·2025-01-30 02:38

【人工智能】Python常用库-PyTorch常用方法教程

1.安装与导入1.1安装PyTorch访问PyTorch官方网站，根据系统、Python版本和CUDA支持选择安装命令。
IT古董·2025-01-29 15:08

Oracle PL/SQL 编程入门：第九章 异常 高级主题

欢迎来到OraclePL/SQL编程入门的第九章！在这一章中，我们将深入探讨PL/SQL中的异常处理高级主题。
caifox菜狐狸·2025-01-29 14:00

Ubuntu22.04安装CUDA10.1

Ubuntu22.04安装CUDA10.1前言gcc降级添加软件源更新软件源安装gcc-7更换gcc版本安装CUDA10.1前言ubuntu22.04支持cuda10.7以上的版本，而在一些情况下我们需要用到低级的
想夹逼但不收敛·2025-01-29 11:00

docker镜像报错ERROR: failed to solve: DeadlineExceeded:

--------------------1|#基于NVIDIACUDA镜像，确保GPU支持2|>>>FROMnvidia/cuda:12.6.2-cudnn-devel-ubuntu20.043|4|#
柠檬编程工作室·2025-01-28 11:05

Oracle PL/SQL 编程入门：第八章 异常

欢迎来到OraclePL/SQL编程入门的第八章！在这一章中，我们将深入探讨PL/SQL中的异常处理机制。通过学习如何定义和使用自定义异常、内置异常以及异常链，你将能够编写更加健壮和可靠的程序。
caifox菜狐狸·2025-01-28 10:32

实验踩坑 flash_attn_2_cuda undifiend symol

Failedtoimporttransformers.models.llama.modeling_llamabecauseofthefollowingerror(lookuptoseeitstraceback):…/lib/python3.10/site-packages/flash_attn_2_cuda.cpython
崩溃李·2025-01-28 00:51

LLaVA微调debug：ImportError: xxx/flash_attn_2_cuda.cpython-310-x86_64-linux-gnu.so: undefined symbol:

完整报错信息：ImportError:/home/linjl/anaconda3/envs/sd/lib/python3.10/site-packages/flash_attn_2_cuda.cpython
同屿Firmirin·2025-01-28 00:46

从Nvidia切换到华为云昇腾芯片的入门技巧

等价命令Nvidia昇腾说明nvidia-sminpu-smiinfo查看机器上显卡信息npu-smiinfo-tusages-i查看显卡使用率CUDA_VISIBLE_DEVICESASCEND_RT_VISIBLE_DEVICES
sunrise_ccx·2025-01-27 23:40

Python&aconda系列：CUDA+Anaconda的安装以及 Conda实用命令

这里写目录标题一.深度学习环境配置：CUDA+Anaconda的安装3.1.1CUDA简介3.1.2查看电脑显卡型号是否支持CUDA的安装3.1.3查看电脑显卡的驱动版本3.1.4根据显卡驱动版本下载支持的
坦笑&&life·2025-01-27 20:54

pytorch单机多卡训练_数据并行DataParallel

模型并行是指，多张GPUs使用同一batch的数据，分别训练模型的不同部分.2.DataParallel源码2.1需要传入的参数module(Module):被并行运算的模型device_ids=None:CUDAdevicesoutput
Major Tom _·2025-01-27 13:03

Tesla V100驱动安装

确认操作系统kernel版本，参考链接：https://docs.nvidia.com/cuda/archive/12.2.0/cuda-installation-guide-linux/index.html
郭宝才·2025-01-26 17:17

python编程入门电子书-Python编程从入门到实践PDF电子书

本书的第一部分介绍编写Python程序所需要熟悉的基本概念，其中很多都适用于所有编程语言，因此它们在你的整个程序员生涯中都很有用。第1章介绍在计算机中安装Python，并运行第一个程序——它在屏幕上打印消息"Helloworld！”。第2章论述如何在变量中存储信息以及如何使用文本和数字。第3章和第4章介绍列表。使用列表能够在一个变量中存储任意数量的信息，从而高效地处理数据：只需几行代码，你就能够处
编程大乐趣·2025-01-26 12:11

Oracle PL/SQL 编程入门：第五章 条件控制：CASE 语句的使用

欢迎来到OraclePL/SQL编程入门的第五章！在这一章中，我们将深入探讨PL/SQL中的另一种条件控制结构——CASE语句。
caifox·2025-01-26 12:37

训练入口+保存模型

frommodels.model_coupled_v1importUnetfromdata.data_loadimport*importglobfromcollectionsimportOrderedDictdevice="cuda
如若123·2025-01-26 04:30

花费上万元的 RTX4090，普通人真的需要它的性能吗？

01RTX4090的性能规格它拥有超多的CUDA核心，数量高达16384个。这就好比有一支庞大的计算大军，能够快速处理各种复杂的图形计算任务。
·2025-01-24 16:32

Windows 下Mamba2 环境安装问题记录及解决方法（causal_conv1d=1.4.0，mamba_ssm=2.2.2）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-24 14:38

Linux 下 Vim 环境安装踩坑问题汇总及解决方法（重置版）

安装问题参看本人博客：Mamba环境安装踩坑问题汇总及解决方法（重置版）Windows下Mamba的安装参看本人博客：Window下Mamba环境安装踩坑问题汇总及解决方法（无需绕过selective_scan_cuda
yyywxk·2025-01-24 14:38

嵌入式基础篇--了解和搭建开发环境

文章目录1.开发环境搭建2.LinuxC编程入门3.ARMV7和ARMV8架构4.ARM汇编5.BSP工程管理1.开发环境搭建1.虚拟机Vmware的安装：在PC主机下安装Linux系统，方便切换windows
雯宝·2025-01-24 01:26

GPU 集群和分布式计算

《GPU集群和分布式计算》关键词：GPU集群、分布式计算、CUDA、OpenACC、OpenMP、性能优化、故障处理、案例分析摘要：本文详细探讨了GPU集群和分布式计算的基本概念、架构、编程模型以及应用场景
AI天才研究院·2025-01-23 21:28

error: [Errno 2] No such file or directory: ‘:/usr/local/cuda-12.1/bin/nvcc‘: ‘:/usr/local/cuda-12.1

一背景最近在服务器使用cuda报错，昨天使用还可以，今日就出问题，在此记录解决方案。
鲤鱼不懂·2025-01-23 19:46

【CUDA-BEVFusion】tool/build_trt_engine.sh 文件解读

build_trt_engine.sh#configuretheenvironment.tool/environment.shif["$ConfigurationStatus"!="Success"];thenecho"Exitduetoconfigurefailure."exitfi#tensorrtversion#version=`trtexec|grep-m1TensorRT|sed-n"s
old_power·2025-01-23 18:37

小土堆学习笔记10（利用GPU训练于模型验证）

1.利用GPU训练GPU可优化操作如下操作方法1方法2数据获取判断是否可以使用GPU，如果可以直接model.cuda()先设定device，用的时候直接model.to（“device”）损失函数1.1
干啥都是小小白·2025-01-22 11:03

安装CUDA Cudnn Pytorch(GPU版本）步骤

一.先看自己的电脑NVIDIA支持CUDA版本是多少？
学乐乐·2025-01-22 08:43

【环境安装】安装LLaMA-Factory

Linux-Centos7；显卡驱动：DriverVersion:460.106.00；TeslaP40*2【目标环境说明】torch==1.13.1+cu116llamafactory==0.9.2.dev01.CUDA11.6
BoostingIsm·2025-01-22 05:47

linux下jax-GPU安装

安装命令详细内容可查看jax官方文档在已有cuda的情况下，先使用命令1，再使用命令2，即可完成安装命令1：linux下jax安装命令pipinstalljax[cpu]==0.3.25-fhttps:
liu_zhaoda·2025-01-21 13:00

jax 和 jaxlib 的 cuda 版本安装

笔者花费时间才在Ubuntu20.04适配上jax和jaxlib的cuda版本安装，以及chex版本。
正经市民·2025-01-21 12:20

我的编程入门成长之路

接触说起我的编程入门，其实惨不忍睹。我是2001年上的大学，只是觉得计算机是个高科技，就稀里糊涂的报了个计算机专业。
ocean2103·2025-01-21 10:10

全面解析NVIDIA显卡：从入门级到旗舰级显卡详解

入门级显卡NVIDIAGeForceGT1030CUDA核心数:384基础频率:1227MHz加速频率:1468MHz显存:2GB
花千树-010·2025-01-20 18:05

从零开始的 AI Infra 学习之路

概述二、AI算法应用2.1机器学习2.2深度学习2.3LLM三、AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM五、AI编译&计算架构5.1CUDA5.2CANN
SSS不知-道·2025-01-19 15:15

ImportError: libnvinfer.so.8: cannot open shared object file: No such file or directory

Nosuchfileordirectory上面报错信息的意思主要是liblibcudnn.so.8这个文件找不到在网上查资料后知道了这个文件是在cudnn的安装包里的，那需要先安装cudnnNVIDIA官网下载cuDNN8.2.1CUDA11
kyle-fang·2025-01-19 14:37

2-6-1-1 QNX编程入门之进程和线程（四）

阅读前言本文以QNX系统官方的文档英文原版资料“GettingStartedwithQNXNeutrino:AGuideforRealtimeProgrammers”为参考，翻译和逐句校对后，对在QNX操作系统下进行应用程序开发及进行资源管理器编写开发等方面，进行了深度整理，旨在帮助想要了解QNX的读者及开发者可以快速阅读，而不必查看晦涩难懂的英文原文，这些文章将会作为一个或多个系列进行发布，从遵
星原飞火·2025-01-19 06:27

Jetson显卡上运行Qwen2-1.5b模型时报错“RuntimeError triu_tril_cuda_template not implemented for ‘BFloat16‘”

Jetson显卡上运行Qwen2-1.5b模型时报错“RuntimeErrortriu_tril_cuda_templatenotimplementedfor‘BFloat16’”问题描述：CUDA_DEVICE
wang151038606·2025-01-19 00:31

深度学习(1)

一、torch的安装基于直接设备情况，选择合适的torch版本，有显卡的建议安装GPU版本，可以通过nvidia-smi命令来查看显卡驱动的版本，在官网中根据cuda版本，选择合适的版本号，下面是安装示例代码
浅忆へ梦微凉·2025-01-18 18:57
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他