CUDA内存模型

更加适合CUDA11.2的pytorch显卡版本

更加适合CUDA11.2的pytorch显卡版本pip版本pipinstalltorch==1.12.0+cu113torchvision==0.13.0+cu113torchaudio==0.12.0
Sout xza·2024-01-11 00:46

RISC Zero各功能模块代码解析

所谓kernels，包括CPU、CUDA、Metal。代码见：risc0/build_kernel。依赖库有：cc：用于将C/C++/汇编代码，编译进Rust库或Rust应用中。dir
mutourend·2024-01-10 21:16

java内存溢出初步排查

java内存模型java内存空间主要包括以下几个部分：方法区、堆内存、虚拟机栈、本地方法栈方法区：主要存放已被加载的类信息，常量，静态变量等。
即将头秃的程序媛·2024-01-10 19:18

跑代码相关 初始环境配置

环境配置_哔哩哔哩_bilibili总结的个人笔记这个是从零开始配python环境的比较好的经验教程：深度学习python的配置（Windows）-m1racle-博客园(cnblogs.com)然后关于CUDA
芒果香菠菠·2024-01-10 19:14

jvm与jmm

jmm：内存模型，共享内存中多线程程序读写操作cas乐观锁，比较再交换volatile禁止指令重排序/编译优化器，写变量volatile加代码最后，读变量则写开始位置jcstress多线程测试工具aqs
星辰_mya·2024-01-10 19:00

2.5 KERNEL FUNCTIONS AND THREADING

我们现在准备讨论更多关于CUDA内核功能以及启动这些内核功能的效果。在CUDA中，内核函数指定所有线程在并行阶段执行的代码。
王莽v2·2024-01-10 18:34

【读源码】Synchronized原理分析-Java线程互斥同步

文章目录一、Synchronized的使用1.1对象锁1.2类锁二、Synchronized原理分析2.1加锁和释放锁的原理2.2可重入原理：加锁次数计数器2.3保证可见性的原理：内存模型和happens-before
佩洛君·2024-01-10 15:11

一篇文章讲清楚Java并发理论基础

文章目录前言一、计算机操作系统的木桶效应二、CPU、内存和I/O设备之间的速度不匹配的问题解决三、并发出现线程不安全的根源：可见性、原子性和有序性问题四、JAVA是怎么解决并发问题的:JMM(Java内存模型
佩洛君·2024-01-10 15:10

nvidia相关

参考nvidia-jetson-agx-orinjetson-linuxReal-TimeRenderingResourcesnvidiavulkancudaglvndStatusReport2016
qq_16740151·2024-01-10 13:57

conda新建、配置python3.8虚拟环境，torch-cuda1.8，torchtext0.9.0，huggingface安装transformers库

起因是我在用bert的时候，导包报错Python环境缺少importlib.metadata模块。importlib.metadata是Python3.8引入的模块，而我的环境中使用的Python版本为3.7。所以我得重新配置一个python3.8的环境准备工作在开始菜单找到anacondaprompt(anaconda3)，进入查看已有的虚拟环境命令：condaenvlist1.conda创建虚
LinlyZhai·2024-01-10 12:06

CUDA与cuDNN

姓名：王咫毅学号：19021211150【嵌牛导读】CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。NVIDIAcuDNN是用于深度神经网络的GPU加速库。
13d813107eae·2024-01-10 12:06

Failed to create CUDAExecutionProvider 使用onnxruntime-gpu未成功调用gpu

，遇到了点问题：就是明明在安装了合适版本的显卡驱动和CUDA后，onnx还是不能够成功调用GPU，并且还出现了先导入torch，再导入onnxruntime就可以成功调用的奇怪现象。
大雾的小屋·2024-01-10 10:38

ubuntu 20.04下 Tesla P100加速卡使用

1.系统环境：系统ubuntu20.04,python3.82.查看cuDNN/CUDA与tensorflow的版本关系如下：Buildfromsource|TensorFlow从上图可以看出，python3.8
zimu-zimu·2024-01-10 10:58

JVM内存模型(JMM)

image.pngjava内存模型如上图所示，每个线程都有自己独立的工作内存，当线程要访问内存中的变量时，会先将内存中的变量值复制到自己的工作内存，然后再访问；当线程要改变内存中的变量值时，也是先改变自己工作内存中副本的变量值
币来币往·2024-01-10 08:57

nvidia-docker：未找到命令

最近发现是nvidia-docker指令已经被弃用了改用如下命令sudodockerrun--rm--runtime=nvidia--gpusallnvidia/cuda:12.3.103-base-ubuntu20.04nvidia-smi
深度学习界扛把子·2024-01-10 07:44

通过设置CUDA_VISIBLE_DEVICES环境变量来指定使用哪些GPU设备

指定单个GPU设备：CUDA_VISIBLE_DEVICES=0os.environ["CUDA_VISIBLE_DEVICES"]="0"指定多个GPU设备：CUDA_VISIBLE_DEVICES=
深度学习界扛把子·2024-01-10 07:44

paddle指定运行gpu

首先，确保你的机器上已经安装了CUDA和cuDNN，并且正确配置了GPU环境。
深度学习界扛把子·2024-01-10 07:44

Ubuntu18.04安装cudnn v8

cuDNNLibarayforLinux和下面的三个Runtime、Developer和CodeSamples然后开始安装解压cuDNN代码tar-xzvfcudnn-x.x-linux-x64-v8.x.x.x.tgz将文件复制到CUDA
chch2010523·2024-01-10 07:57

CUDA out of memory.

torch.cuda.OutOfMemoryError:CUDAoutofmemory.Triedtoallocate20.00MiB(GPU0;31.75GiBtotalcapacity;24.79GiBalreadyallocated
Wwwilling·2024-01-10 06:07

libtorch 中Scalar 歧义性

libtorch构建c++推理程序中，因为使用opencv的Scalar类型，导致和libtorch命名空间的Scalar冲突：image.pngimage.png相关版本：libtorch:1.5.1cuda
熙熙江湖·2024-01-10 06:36

深度学习 手势识别学习

深度学习代码学习os.environ[]使用os.environ["CUDA_VISIBLE_DEVICES"]="0"##设置当前使用的GPU设备仅为0号设备2.argparse.ArgumentParser
33的史努比·2024-01-10 05:23

ubuntu20.04安装cuda11.7和显卡驱动

nouveau.conf在最下面加入blacklistnouveausudoupdate-initramfs-usudoreboot输入命令，如果没有任何输出，证明禁用成功lsmod|grepnouveau2、安装cuda11.7CUDAToolkitArchive
莫克_Cheney·2024-01-10 04:25

nerfstudio复现___踩坑坑坑坑坑指南

nerfstudio官方网站：Dataconventions-nerfstudio环境搭建nerfstudio需要python>=3.8pytorchtiny-cuda-nn如果想要训练自己的数据集，那么还需要
但行此事1222·2024-01-10 02:23

vs2017+cuda10..02+cudnn7.6.5+opencv4.4+opencv_contribute编译

vs2017+cuda10..02+cudnn7.6.5+opencv4.4+opencv_contribute参考：https://blog.csdn.net/qq_23149979/article/
caojinpei123·2024-01-10 02:07

了解一下InternLM3

在InternStudio平台中选择A100(1/4)的配置，如下图所示镜像选择Cuda11.7-conda，接下来打开刚刚租用服务器的进入开发机，并且打开其中的终端开始环境配置、模型下载和运行demo
羞儿·2024-01-09 23:24

在anaconda中安装pytorch的GPU版本

本文前提：1.你已经下载好了anaconda,最好是新建一个虚拟环境来安装pytorch的GPU版本，并且设置了国内镜像源；2.了解自己电脑对应的cuda版本，可通过nvidia-smi，并下载好了cuda
月落霜满天·2024-01-09 23:20

ubuntu安装和卸载软件包

以cuda-keyring_1.1-1_all.deb为例。
Charlene Fung·2024-01-09 22:21

CUDA安装一直卡在检查系统兼容性，或花费极长的时间检查兼容性，但最后显示NVIDIA安装程序失败

CUDA安装一直卡在检查系统兼容性，或花费极长的时间检查兼容性，但最后显示NVIDIA安装程序失败⚙️1.软件环境⚙️2.问题描述3.解决方法4.结果预览⚙️1.软件环境⚙️Windows10教育版64
任博啥时候能毕业？·2024-01-09 20:00

GPT实战系列-ChatGLM3管理外部借力工具

LLM大模型相关文章：GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案GPT实战系列-LangChain+ChatGLM3构建天气查询助手大模型查
Alex_StarSky·2024-01-09 16:59

报错RuntimeError: no valid convolution algorithms available in CuDNN

报错信息如下RuntimeError:novalidconvolutionalgorithmsavailableinCuDNN出现这个问题既不是cuda与cudnn版本不匹配，也不是英伟达显卡驱动需要更新
虽然什么都没做，但我还是辛苦了·2024-01-09 15:26

Java - JVM内存模型 3分钟教你成为JVM的尖子生

在很久很久以前，也就是1992年3月份，有一所NB轰轰的咖啡学校诞生了，它的名字叫JAVA，学校的校规极其的厉害，普通学生闻风丧胆，唯一尖子生般的人才能留下来，别猜了那人就是"你"。本色出演名单姓名别名简称学校JavaVirtualMachineJVM教室堆空间Heap老师垃圾回收器MinorGC/MajorGC学生数据Object学校平面图俗名使用权限简称Metaspace教室学生会,校长专用M
大猪大猪·2024-01-09 15:57

Dora-rs 机器人框架学习教程（3）——利用yolo实现目标检测

文章目录1安装pytroch环境1.1nvidia驱动1.2安装cuda1.3在conda中安装pytorchGPU版本1.4检验pytroch是否安装正确2编写程序代码2.1object_detection.py
熊猫飞天·2024-01-09 13:30

nccl cudaLaunch kernel

这次希望看一下，ncclAllReduce()中的ncclSum是如何转换成对应的cudaKernel来被执行到的。
Eloudy·2024-01-09 12:34

深度学习常用的下载链接/下载地址（CUDA/cuDNN）

1.CUDA各个版本的下载链接https://developer.nvidia.com/cuda-toolkit-archive2.cuDNN各个版本的下载链接https://developer.nvidia.com
Mobius8086·2024-01-09 12:56

深入浅出java虚拟机

Java虚拟机：内存模型详解我们都知道，当虚拟机执行Java代码的时候，首先要把字节码文件加载到内存，那么这些类的信息都存放在内存中的哪个区域呢？
AI乔治·2024-01-09 11:40

vLLM皇冠上的明珠：深入浅出理解PagedAttention CUDA实现

©作者|方佳瑞单位|腾讯研究方向|机器学习系统当前，在大模型推理框架领域，vLLM以其卓越的高吞吐性能和简洁易读的代码而备受瞩目，已经成为许多团队二次开发的首选。其优雅的设计和高效的实现不仅使其在实际应用中表现出色，也使其成为学习和理解推理框架的理想典范。PagedAttention（PA）技术是vLLM的基石，以它为创新点的论文发表在系统顶会SOSP2023上。论文题目：EfficientMem
PaperWeekly·2024-01-09 11:17

ubuntu20.04安装12.2版本的cuda

访问如下网址https://developer.nvidia.com/cuda-downloads?
computer_vision_chen·2024-01-09 10:05

学校服务器安装anaconda并配置pytorch环境

学校服务器安装anaconda并配置pytorch环境1.下载Anaconda2.传到xftp中3.在终端运行脚本命令4.安装pytorch4.1查看cuda版本4.2创建自己的环境4.3下载pytorch4.4
失舵之舟-·2024-01-09 09:04

【0基础可看】PyTorch-Geometric安装教程

nercondainfo-econdaactivatenamecondainstallpython==3.8.16condainstallpytorch==1.12.0torchvision==0.13.0torchaudio==0.12.0cudatoolkit
@小蜗牛·2024-01-09 08:00

python 人脸检测与人脸识别

importdlibimportface_recognitionimportcv2fromPILimportImage,ImageDraw#判断运行环境cpuorgpudefcheck_env():print(dlib.DLIB_USE_CUDA
Ternence_Hsu·2024-01-09 07:39

【书生·浦语大模型实战营02】《轻松玩转书生·浦语大模型趣味Demo》学习笔记

1.1环境准备在InternStudio平台中选择A100(1/4)的配置，镜像选择Cuda11.7-conda，选择的配置如下
songyuc·2024-01-09 05:14

一文搞定JMM核心原理

公众号《鲁大猿》，寻精品资料，帮你构建Java全栈知识体系www.jiagoujishu.cn（架构技术.cn）JMM引入从堆栈说起JVM内部使用的Java内存模型在线程栈和堆之间划分内存。
架构技术专栏·2024-01-09 04:45

Nougat：科学文档的OCR 使用记录

pipinstallnougat-ocr模型默认下载地址：/home/****/.cache/torch/hub/nougat-0.1.0-small环境安装好之后默认使用cpuUserWarning:CUDAinitialization
TYUT_xiaoming·2024-01-09 02:20

GPU测试-GPUburn

很早就使用过GPUburn做个类似稳定性压力性得对GPU进行相应得测试这里再回顾一下开源链接如下https://github.com/wilicc/gpu-burn简单得步骤主要是先安装gpu得drivercuda
frank0060071·2024-01-09 01:14

4.7 MEMORY AS A LIMITING FACTOR TO PARALLELISM

虽然CUDA寄存器和共享内存在减少对全局内存的访问次数方面非常有效，但必须注意保持在这些内存的容量范围内。这些内存是线程执行所需的资源形式。
王莽v2·2024-01-09 01:16

4.8 SUMMARY && 4.9 EXERCISES

为了很好地利用CUDA设备的执行吞吐量，应该在内核代码中获得高计算与全局内存访问率。如果获得的比率很低，则内核受内存约束；即其执行速度受从内存访问其操作数的速度的限制。
王莽v2·2024-01-09 01:16

书生·浦语大模型Lagent 智能体工具调用 Demo

如果我们完成了书生·浦语大模型InternLM-Chat-7B智能对话Demo的环境配置，就可以直接进入Lagent的安装环境准备在InternStudio平台中选择A100(1/4)的配置，如下图所示镜像选择Cuda11.7
爱科研的瞌睡虫·2024-01-09 00:29

书生·浦语大模型InternLM-Chat-7B 智能对话 Demo

文章目录环境准备下载模型准备代码终端运行web运行demo环境准备在InternStudio平台中选择A100(1/4)的配置，如下图所示镜像选择Cuda11.7-conda，如下图所示：打开刚刚租用服务器的进入开发机
爱科研的瞌睡虫·2024-01-09 00:58

PyCharm查看服务器CUDA及CUDNN的版本号

PyCharm查看服务器CUDA及CUDNN的版本号1.进入命令界面2.查看CUDA版本3.查看CUDNN版本1.进入命令界面通过PyCharm打开项目工程，连接好服务器后，在导航栏找到Tools下的StartSSHsession
爱科研的瞌睡虫·2024-01-09 00:28

使用官方版RT-DETR训练自己的数据集(Pytorch)

with-glibc2.31CPUIntel(R)Xeon(R)Gold5318YCPU@2.10GHzGPUNVIDIARTXA4000Pythonversion3.11.5DeeplearningframeworkPyTorch2.0.1CUDAversion11.8M
masterMono·2024-01-08 23:59
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他