CUDA内存模型

Jetson AGX Orin安装Anaconda、Cuda、Cudnn

目录一、安装Anaconda二、conda换源三、Cuda、Cudnn安装四、jtop安装五、查看安装情况六、cuDNN环境配置七、pytorch安装八、安装torchvision九：Tensorrt安装拿到一台
盛世芳华·2024-01-20 07:28

CentOS7 下A10 GPU安装nvdia545驱动和cuda12.3和docker

wgethttps://developer.download.nvidia.com/compute/cuda/12.3.0/local_installers/cuda-repo-rhel7-12-3-local
nudt_qxx·2024-01-20 07:15

pytorch GPU版本安装 python windows

annanconda环境创建虚拟环境pytorch19_gpucreate-npytorch19_gpupython=3.9激活环境condaactivatepytorch19_gpu查找CUDA版本是
wxxka·2024-01-20 06:59

YOLOv8-TensorRT C++ ubuntu部署

YOLOv8-TensorRTC++ubuntu20.04部署先要安装好显卡驱动、CUDA、CUDNN以ubuntu20.04、显卡1650安装470版本的显卡驱动、11.3版本的CUDA及8.2版本的
笨小古·2024-01-20 03:38

opencv(C++)GPU、CPU 模板匹配

摘要：本文主要关注opencv常规版和cuda版的模板匹配算法，网上cuda版的资料不多，这里做个记录，以后用到也好有个参考。
1037号森林里一段干木头·2024-01-19 21:13

AI 内容分享(七)：加速计算，为何会成为 AI 时代的计算力“新宠”

目录什么是加速计算加速计算解决方案硬件GPU应用型专用集成电路ASIC现场可编程逻辑门阵列FPGA软件CUDAOpenCL网络加速计算应用场景生成式AI加快训练时间处理大型数据集创建复杂模型实时功能高效的计算梯度
之乎者也··2024-01-19 17:51

并发编程之三大特性及JMM内存模型

目录原子性如何保证原子性可见性如何保证可见性有序性如何保证有序性Java内存模型(JMM内存模型)Java内存模型的一些关键概念：主内存与工作内存交互协议Java内存模型通过以下手段来确保多线程程序的正确性
山鸟与鱼！·2024-01-19 16:21

安装nVidia的CUDA

工作业务需要安装nVidia的CUDAwgethttps://developer.download.nvidia.com/compute/cuda/repos/ubuntu1604/x86_64/cuda-ubuntu1604
饭醉团伙的表弟·2024-01-19 16:42

Windows安装yolov8无法使用cuda问题解决办法

但是yolov8的pip安装指令会自动安装一个pytorch版本，就又导致和cuda版本对不上号一直用不起来gpu。所以必要条件：pytorch和
ShawnWeasley·2024-01-19 12:40

cuda python

cudapythoncuda的编程模型简单的数据流：把输入数据从cpu内存拷贝到gpu的显存上；加载执行芯片上的缓存数据，加载gpu程序并执行
怎么开心怎么玩·2024-01-19 12:18

CUDA中的原子操作

CUDA中的原子操作原子函数对驻留在全局或共享内存中的一个32位或64位字执行读-修改-写原子操作。
怎么开心怎么玩·2024-01-19 12:48

2021-05-14 JVM内存模型

下图总体概括了JAVA源码编译过程>类加载过程>JVM内存模型>执行引擎的全过程JAVA代码编译过程图下图是JVM内存模型的概括图：JVM内存模型图1.程序计数器（ProgramCounterRegister
小简书·2024-01-19 12:09

大模型学习与实践笔记（八）

一、LMDeploy的优势二、核心优势说明1.量化2.持续批处理3.Blockedk/vcache4.有状态的推理5.高性能cudakernel
AllYoung_362·2024-01-19 10:55

大模型学习与实践笔记（七）

一、环境配置1.平台：Ubuntu+Anaconda+CUDA/CUDNN+8GBnvidia显卡2.安装#构建虚拟环境condacreate--namextuner0.1.9python=3.10-y
AllYoung_362·2024-01-19 10:54

linux下载cuda toolkit实现并行计算

linux下载cudatoolkit实现并行计算（1）下载安装CUDAToolkitCUDAToolkit官网：https://developer.nvidia.com/cuda-downloads里面有安装步骤教程注意
Hz、辉·2024-01-19 09:49

linux系统环境变量问题记录

linux系统环境变量问题记录遇到的问题(1)在链接cuda代码时g++-oprogmain.o-lcudart报错：usr/bin/ld：找不到-lcudart(2)其实这个问题就是链接时编译器找不到
Hz、辉·2024-01-19 09:49

CUDA Toolkit 下载，安装，验证

CUDAToolkit下载进cuda官网下载CUDAToolkit链接：https://developer.nvidia.com/cuda-downloads官网默认显示当前的最新版本，这里以安装CUDAToolkit12.2
qyhua·2024-01-19 08:33

Flink TaskManager内存管理机制介绍与调优总结

内存模型因为TaskManager是负责执行用户代码的角色，一般配置TaskManager内存的情况会比较多，所以本文当作重点讲解。
暴走的贼宇·2024-01-19 08:25

深度学习（一）——windows深度学习环境安装（pytorch）

1.确认电脑显卡是英伟达GPUwin+R，打开运行菜单，输入命令dxdiag2.安装CUDAhttps://developer.nvidia.com/cuda-downloads下载后，一路默认安装命令行
吴禅染·2024-01-19 08:30

pytorch 合集： pytorch的函数之torch

GPU类型就是CPU类型中间加上cuda.torch.Tensor,torch.rand(),torch.randn()默认生成torch.FloatTensor类型。
JL_Jessie·2024-01-19 08:00

jvm初入门

下面是一份学习JVM的提纲，帮助您系统地学习和理解JVM：Java虚拟机概述什么是Java虚拟机Java虚拟机的组成部分Java虚拟机的作用Java内存模型Java内存模型的概念Java内存模型的组成部分
一个好汉·2024-01-19 03:42

【性能调优】local模式下flink处理离线任务能力分析

文章目录一.flink的内存管理1.Jobmanager的内存模型2.TaskManager的内存模型2.1.模型说明2.2.通讯、数据传输方面2.3.框架、任务堆外内存2.4.托管内存3.任务分析二.
roman_日积跬步-终至千里·2024-01-18 23:18

记一次解决生产环境内存泄漏问题

image解决步骤jdk1.8内存模型分析。JVM内存总共分为：虚拟机栈、本地方法栈、pc寄存器（程序计数器）方法区、堆五个部分。虚拟栈：每个线程独有的栈。
机方尼·2024-01-18 23:35

ImportError: cannot import name ‘get_all_providers‘ from ‘onnxruntime.capi._pybind_state‘

debug备份场景：pth转onnx遇到此问题环境：onnx1.8.0onnxruntime-gpu1.6.0cuda11.1问题：cuda版本不对尝试解决办法：condainstallcudatoolkit
Mr.Q·2024-01-18 20:30

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA2024/1/1518:05百度搜索：ubuntugtx1080mcudahttps://blog.csdn.net
南棱笑笑生·2024-01-18 16:37

【TensorRT】DeviceToHost同步与异步拷贝的区别及带来的问题

cudaMemcpy与cudaMemcpyAsync的区别与问题cudaMemcpy与cudaMemcpyAsync的区别一、认识stream流二、tensorRT推理的常规流程三、遇到的问题四、引用与参考文献
澄鑫·2024-01-18 15:55

不同版本CUDA和cudnn下载安装并配置环境变量

干货满满，不要走开~目录前言一、下载或更新显卡驱动（选做）1.查看当前显卡驱动版本以及支持的最高版本的CUDA2.下载显卡驱动二、安装CUDA1.查看支持的最高版本的CUDA2.下载CUDAToolkit
爱敲代码的panda·2024-01-18 12:12

openai-whisper

增加到自己的视频里,并且显示字幕1.下载b站视频到电脑2.提取视频中的音频3.音频转文字4.自己的视频去掉音频,增加新的音频和字幕0.参数说明语音识别模型whisper的参数说明1.视频语音转文字exportCUDA_VISIBLE_DEVICES
GeekPlusA·2024-01-18 12:42

pycharm import torch

1安装我的电脑Windows11Python3.11Anaconda3-2023.09-0-Windows-x86_64.execuda_11.8.0_522.06_windows.exepytorch
东方.既白·2024-01-18 10:40

conda install命令无法安装pytorch

由于网络问题，直接采用condainstall命令可能无法直接下载对应的cuda包。
qq_43650421·2024-01-18 09:40

Tensorflow、CUDA、cuDNN详细的下载安装过程

文章目录前言一、Tensorflow简介二、Tensorflow版本介绍1.Tensorflow与python、CUDA、cuDNN对应关系2.NVIDIA显卡和CUDA的版本号关系三、Tensorflow
机智的小神仙儿·2024-01-18 09:15

TensorRT部署-Windows环境配置

系列文章目录文章目录系列文章目录前言一、安装VisualStudio（2019）二、下载和安装nvidia显卡驱动三、下载CUDA四、下载安装cuDNN五、安装Anaconda六、TensorRT安装七
小豆包的小朋友0217·2024-01-18 07:07

复现PointNet++（语义分割网络）：Windows + PyTorch + S3DIS语义分割 + 代码

一、平台Windows10GPURTX3090+CUDA11.1+cudnn8.9.6Python3.9Torch1.9.1+cu111所用的原始代码：https://github.com/yanx27
累了就要打游戏·2024-01-18 06:14

大白话C++之：一文搞懂C++多线程内存模型(Memory Order)

在多线程编程中,有两个需要注意的问题,一个是数据竞争,另一个是内存执行顺序.什么是数据竞争(DataRacing)我们先来看什么是数据竞争(DataRacing),数据竞争会导致什么问题.#include#includeintcounter=0;voidincrement(){for(inti=0;i,将某个变量声明为std::atomic后,通过std::atomic的相关接口即可实现原子性的读
Howard0o0·2024-01-18 06:05

Tensorflow学习笔记（六）——卷积神经网络

  实现对fashion-minist分类：  （1）引包importosos.environ["CUDA_VISIBLE_DEVICES"]="-1"importmatplotlibasmplimportmatplotlib.pyplotasplt
七月七叶·2024-01-18 06:50

Java 内存模型（JMM）

2.JVM内存结构&Java内存模型&Java对象模型这是三个截然不同的概
zengk562·2024-01-18 05:51

【程序员的自我修养—内存模型】

程序的内存布局kernelspace内核空间：程序无法直接访问stack栈：1.用于维护函数调用的上下文；2.通常有几M的容量向下生长dynamiclibraries动态链接库映射区：用于映射装载的动态链接库向上生长heap堆：1.用来容纳应用程序动态分配的内存区域；2.使用malloc或者new分配内存；3.一般比栈大，几十到几百M的容量read/wirtessections（.data/.bs
杨主任o_o·2024-01-18 05:20

如果开启了8bit量化加载,项目无法启动，参考此位置，选择合适的cuda版本

部署大语言模型过程，报错如标题，并发现同时出现的报错信息：ImportError:Usingload_in_8bit=TruerequiresAccelerate:pipinstallaccelerateandthelatestversionofbitsandbytespipinstall-ihttps://test.pypi.org/simple/bitsandbytesorpipinstall
孔雀竹鱼·2024-01-18 01:36

【深度学习】RTX2060 2080如何安装CUDA，如何使用onnx runtime

文章目录如何在Python环境下配置RTX2060与CUDA101.安装最新的NVIDIA显卡驱动2.使用conda安装CUDAToolkit3.验证onnxruntime与CUDA版本4.验证ONNX
XD742971636·2024-01-18 01:29

nvcc -V显示command not found

出现这个问题，不仅是`nvcc-V`会显示commandnotfound,`nvidia-smi`同样也会显示解决方法如下：1）这里首先转换到CUDA所在位置，一般是在这个位置cd/usr/local2
摩卡摩卡～·2024-01-17 23:16

python检查PyTorch版本及cuda是否安装成功

__version__)print(torch.cuda.is_available())输出True就代表安装成功，反之安装失败1.7.0True
New___dream·2024-01-17 21:55

c语言二维数组

系列文章目录c语言二维数组c语言二维数组系列文章目录一、二维数组的定义一、二维数组的内存模型一、二维数组的定义intmain(){//二维数组的定义intarr[3][4];arr[0][0];arr[
redhat_yan·2024-01-17 21:39

线程共享和协作（二）：Synchronized、ThreadLocal、Volatile如何实现线程共享

谈到线程的边界问题，随之而来的是Java内存模型另外的一个重要的含义，可见性。Java对可见性提供的原生支持是volatile关键字。
bug音音·2024-01-17 19:33

shell监视gpu使用情况

--------------------------------------------------------------+|NVIDIA-SMI440.44DriverVersion:440.44CUDAVersion
HackerTom·2024-01-17 18:27

【cuda】四、基础概念：Cache Tiled 缓存分块技术

缓存分块是一种内存优化技术，主要用于提高数据的局部性（Locality），以减少缓存未命中（CacheMiss）的次数。在现代计算机体系结构中，处理器（CPU）的速度通常比内存快得多。因此，如果CPU在处理数据时需要频繁地等待数据从内存中加载，就会大大降低程序的执行效率。CacheTiled技术通过将数据分割成较小的块（Tiles），并确保这些小块能够完全装入CPU的高速缓存（Cache），来减少
prinTao·2024-01-17 16:44

后端开发工程师需要掌握的内容

1.语言相关1.1Java核心知识点Java的类加载机制JVM相关：JVM内存模型和结构,GC原理,性能调优泛型集合体系异常体系IO体系多线程编程反射Servlet推荐数据《Java编程思想》《EffectiveJava
Programmer boy·2024-01-17 15:01

【CUDA】五、基础概念：Coalescing合并用于内存优化

先来看之前的例子：矩阵乘法中的Coalescingwrites刚才的代码中，可以观察到两个for循环，这里可以进行优化。“coalescingwrites”（合并写操作）“coalescingwrites”（合并写操作）是一种优化内存访问模式的技术，它能显著提高内存带宽的利用效率。这种技术尤其对于全局内存访问非常重要，因为全局内存访问速度相比于核心计算速度要慢得多。底层原理内存事务：当GPU的线程
prinTao·2024-01-17 14:51

【CUDA】零基础入门教程合集

本系列用于cuda编程的基础入门，详细介绍各种相关技术。这是系列连载的入口，还可以关注我的专栏CUDA编程。
prinTao·2024-01-17 14:51

【cuda】六、基础库：cuBLAS入门

cuBLAS基础介绍CUDABasicLinearAlgebraSubprograms（BLAS）提供了高效计算线性代数的方法。
prinTao·2024-01-17 14:51

【cuda】Visual Studio中进行CUDA程序的性能评估

在VisualStudio中使用Nsight进行CUDA应用程序的性能评估可以按照以下步骤进行：步骤1:准备工作确保已经安装了以下组件：最新版本的NVIDIA驱动。
prinTao·2024-01-17 14:18
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他