CUDA内存模型

CUDA中的原子操作

CUDA中的原子操作原子函数对驻留在全局或共享内存中的一个32位或64位字执行读-修改-写原子操作。
怎么开心怎么玩·2024-01-19 12:48

2021-05-14 JVM内存模型

下图总体概括了JAVA源码编译过程>类加载过程>JVM内存模型>执行引擎的全过程JAVA代码编译过程图下图是JVM内存模型的概括图：JVM内存模型图1.程序计数器（ProgramCounterRegister
小简书·2024-01-19 12:09

大模型学习与实践笔记（八）

一、LMDeploy的优势二、核心优势说明1.量化2.持续批处理3.Blockedk/vcache4.有状态的推理5.高性能cudakernel
AllYoung_362·2024-01-19 10:55

大模型学习与实践笔记（七）

一、环境配置1.平台：Ubuntu+Anaconda+CUDA/CUDNN+8GBnvidia显卡2.安装#构建虚拟环境condacreate--namextuner0.1.9python=3.10-y
AllYoung_362·2024-01-19 10:54

linux下载cuda toolkit实现并行计算

linux下载cudatoolkit实现并行计算（1）下载安装CUDAToolkitCUDAToolkit官网：https://developer.nvidia.com/cuda-downloads里面有安装步骤教程注意
Hz、辉·2024-01-19 09:49

linux系统环境变量问题记录

linux系统环境变量问题记录遇到的问题(1)在链接cuda代码时g++-oprogmain.o-lcudart报错：usr/bin/ld：找不到-lcudart(2)其实这个问题就是链接时编译器找不到
Hz、辉·2024-01-19 09:49

CUDA Toolkit 下载，安装，验证

CUDAToolkit下载进cuda官网下载CUDAToolkit链接：https://developer.nvidia.com/cuda-downloads官网默认显示当前的最新版本，这里以安装CUDAToolkit12.2
qyhua·2024-01-19 08:33

Flink TaskManager内存管理机制介绍与调优总结

内存模型因为TaskManager是负责执行用户代码的角色，一般配置TaskManager内存的情况会比较多，所以本文当作重点讲解。
暴走的贼宇·2024-01-19 08:25

深度学习（一）——windows深度学习环境安装（pytorch）

1.确认电脑显卡是英伟达GPUwin+R，打开运行菜单，输入命令dxdiag2.安装CUDAhttps://developer.nvidia.com/cuda-downloads下载后，一路默认安装命令行
吴禅染·2024-01-19 08:30

pytorch 合集： pytorch的函数之torch

GPU类型就是CPU类型中间加上cuda.torch.Tensor,torch.rand(),torch.randn()默认生成torch.FloatTensor类型。
JL_Jessie·2024-01-19 08:00

jvm初入门

下面是一份学习JVM的提纲，帮助您系统地学习和理解JVM：Java虚拟机概述什么是Java虚拟机Java虚拟机的组成部分Java虚拟机的作用Java内存模型Java内存模型的概念Java内存模型的组成部分
一个好汉·2024-01-19 03:42

【性能调优】local模式下flink处理离线任务能力分析

文章目录一.flink的内存管理1.Jobmanager的内存模型2.TaskManager的内存模型2.1.模型说明2.2.通讯、数据传输方面2.3.框架、任务堆外内存2.4.托管内存3.任务分析二.
roman_日积跬步-终至千里·2024-01-18 23:18

记一次解决生产环境内存泄漏问题

image解决步骤jdk1.8内存模型分析。JVM内存总共分为：虚拟机栈、本地方法栈、pc寄存器（程序计数器）方法区、堆五个部分。虚拟栈：每个线程独有的栈。
机方尼·2024-01-18 23:35

ImportError: cannot import name ‘get_all_providers‘ from ‘onnxruntime.capi._pybind_state‘

debug备份场景：pth转onnx遇到此问题环境：onnx1.8.0onnxruntime-gpu1.6.0cuda11.1问题：cuda版本不对尝试解决办法：condainstallcudatoolkit
Mr.Q·2024-01-18 20:30

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA

20240115在ubuntu20.04.6下给GTX1080M显卡安装驱动程序和CUDA2024/1/1518:05百度搜索：ubuntugtx1080mcudahttps://blog.csdn.net
南棱笑笑生·2024-01-18 16:37

【TensorRT】DeviceToHost同步与异步拷贝的区别及带来的问题

cudaMemcpy与cudaMemcpyAsync的区别与问题cudaMemcpy与cudaMemcpyAsync的区别一、认识stream流二、tensorRT推理的常规流程三、遇到的问题四、引用与参考文献
澄鑫·2024-01-18 15:55

不同版本CUDA和cudnn下载安装并配置环境变量

干货满满，不要走开~目录前言一、下载或更新显卡驱动（选做）1.查看当前显卡驱动版本以及支持的最高版本的CUDA2.下载显卡驱动二、安装CUDA1.查看支持的最高版本的CUDA2.下载CUDAToolkit
爱敲代码的panda·2024-01-18 12:12

openai-whisper

增加到自己的视频里,并且显示字幕1.下载b站视频到电脑2.提取视频中的音频3.音频转文字4.自己的视频去掉音频,增加新的音频和字幕0.参数说明语音识别模型whisper的参数说明1.视频语音转文字exportCUDA_VISIBLE_DEVICES
GeekPlusA·2024-01-18 12:42

pycharm import torch

1安装我的电脑Windows11Python3.11Anaconda3-2023.09-0-Windows-x86_64.execuda_11.8.0_522.06_windows.exepytorch
东方.既白·2024-01-18 10:40

conda install命令无法安装pytorch

由于网络问题，直接采用condainstall命令可能无法直接下载对应的cuda包。
qq_43650421·2024-01-18 09:40

Tensorflow、CUDA、cuDNN详细的下载安装过程

文章目录前言一、Tensorflow简介二、Tensorflow版本介绍1.Tensorflow与python、CUDA、cuDNN对应关系2.NVIDIA显卡和CUDA的版本号关系三、Tensorflow
机智的小神仙儿·2024-01-18 09:15

TensorRT部署-Windows环境配置

系列文章目录文章目录系列文章目录前言一、安装VisualStudio（2019）二、下载和安装nvidia显卡驱动三、下载CUDA四、下载安装cuDNN五、安装Anaconda六、TensorRT安装七
小豆包的小朋友0217·2024-01-18 07:07

复现PointNet++（语义分割网络）：Windows + PyTorch + S3DIS语义分割 + 代码

一、平台Windows10GPURTX3090+CUDA11.1+cudnn8.9.6Python3.9Torch1.9.1+cu111所用的原始代码：https://github.com/yanx27
累了就要打游戏·2024-01-18 06:14

大白话C++之：一文搞懂C++多线程内存模型(Memory Order)

在多线程编程中,有两个需要注意的问题,一个是数据竞争,另一个是内存执行顺序.什么是数据竞争(DataRacing)我们先来看什么是数据竞争(DataRacing),数据竞争会导致什么问题.#include#includeintcounter=0;voidincrement(){for(inti=0;i,将某个变量声明为std::atomic后,通过std::atomic的相关接口即可实现原子性的读
Howard0o0·2024-01-18 06:05

Tensorflow学习笔记（六）——卷积神经网络

  实现对fashion-minist分类：  （1）引包importosos.environ["CUDA_VISIBLE_DEVICES"]="-1"importmatplotlibasmplimportmatplotlib.pyplotasplt
七月七叶·2024-01-18 06:50

Java 内存模型（JMM）

2.JVM内存结构&Java内存模型&Java对象模型这是三个截然不同的概
zengk562·2024-01-18 05:51

【程序员的自我修养—内存模型】

程序的内存布局kernelspace内核空间：程序无法直接访问stack栈：1.用于维护函数调用的上下文；2.通常有几M的容量向下生长dynamiclibraries动态链接库映射区：用于映射装载的动态链接库向上生长heap堆：1.用来容纳应用程序动态分配的内存区域；2.使用malloc或者new分配内存；3.一般比栈大，几十到几百M的容量read/wirtessections（.data/.bs
杨主任o_o·2024-01-18 05:20

如果开启了8bit量化加载,项目无法启动，参考此位置，选择合适的cuda版本

部署大语言模型过程，报错如标题，并发现同时出现的报错信息：ImportError:Usingload_in_8bit=TruerequiresAccelerate:pipinstallaccelerateandthelatestversionofbitsandbytespipinstall-ihttps://test.pypi.org/simple/bitsandbytesorpipinstall
孔雀竹鱼·2024-01-18 01:36

【深度学习】RTX2060 2080如何安装CUDA，如何使用onnx runtime

文章目录如何在Python环境下配置RTX2060与CUDA101.安装最新的NVIDIA显卡驱动2.使用conda安装CUDAToolkit3.验证onnxruntime与CUDA版本4.验证ONNX
XD742971636·2024-01-18 01:29

nvcc -V显示command not found

出现这个问题，不仅是`nvcc-V`会显示commandnotfound,`nvidia-smi`同样也会显示解决方法如下：1）这里首先转换到CUDA所在位置，一般是在这个位置cd/usr/local2
摩卡摩卡～·2024-01-17 23:16

python检查PyTorch版本及cuda是否安装成功

__version__)print(torch.cuda.is_available())输出True就代表安装成功，反之安装失败1.7.0True
New___dream·2024-01-17 21:55

c语言二维数组

系列文章目录c语言二维数组c语言二维数组系列文章目录一、二维数组的定义一、二维数组的内存模型一、二维数组的定义intmain(){//二维数组的定义intarr[3][4];arr[0][0];arr[
redhat_yan·2024-01-17 21:39

线程共享和协作（二）：Synchronized、ThreadLocal、Volatile如何实现线程共享

谈到线程的边界问题，随之而来的是Java内存模型另外的一个重要的含义，可见性。Java对可见性提供的原生支持是volatile关键字。
bug音音·2024-01-17 19:33

shell监视gpu使用情况

--------------------------------------------------------------+|NVIDIA-SMI440.44DriverVersion:440.44CUDAVersion
HackerTom·2024-01-17 18:27

【cuda】四、基础概念：Cache Tiled 缓存分块技术

缓存分块是一种内存优化技术，主要用于提高数据的局部性（Locality），以减少缓存未命中（CacheMiss）的次数。在现代计算机体系结构中，处理器（CPU）的速度通常比内存快得多。因此，如果CPU在处理数据时需要频繁地等待数据从内存中加载，就会大大降低程序的执行效率。CacheTiled技术通过将数据分割成较小的块（Tiles），并确保这些小块能够完全装入CPU的高速缓存（Cache），来减少
prinTao·2024-01-17 16:44

后端开发工程师需要掌握的内容

1.语言相关1.1Java核心知识点Java的类加载机制JVM相关：JVM内存模型和结构,GC原理,性能调优泛型集合体系异常体系IO体系多线程编程反射Servlet推荐数据《Java编程思想》《EffectiveJava
Programmer boy·2024-01-17 15:01

【CUDA】五、基础概念：Coalescing合并用于内存优化

先来看之前的例子：矩阵乘法中的Coalescingwrites刚才的代码中，可以观察到两个for循环，这里可以进行优化。“coalescingwrites”（合并写操作）“coalescingwrites”（合并写操作）是一种优化内存访问模式的技术，它能显著提高内存带宽的利用效率。这种技术尤其对于全局内存访问非常重要，因为全局内存访问速度相比于核心计算速度要慢得多。底层原理内存事务：当GPU的线程
prinTao·2024-01-17 14:51

【CUDA】零基础入门教程合集

本系列用于cuda编程的基础入门，详细介绍各种相关技术。这是系列连载的入口，还可以关注我的专栏CUDA编程。
prinTao·2024-01-17 14:51

【cuda】六、基础库：cuBLAS入门

cuBLAS基础介绍CUDABasicLinearAlgebraSubprograms（BLAS）提供了高效计算线性代数的方法。
prinTao·2024-01-17 14:51

【cuda】Visual Studio中进行CUDA程序的性能评估

在VisualStudio中使用Nsight进行CUDA应用程序的性能评估可以按照以下步骤进行：步骤1:准备工作确保已经安装了以下组件：最新版本的NVIDIA驱动。
prinTao·2024-01-17 14:18

Ubuntu部署ChatGLM2-6B踩坑记录

目录一、环境配置1、安装anaconda或者miniconda进行环境的管理2、安装CUDA3、环境安装二、配置加载模型1、建立THUDM文件夹三、遇到的问题1、pipinstall-rrequirements.txt2
XINYU W·2024-01-17 13:01

GPT实战系列-实战Qwen在Cuda 12+24G部署方案

GPT实战系列-实战Qwen在Cuda12+24G部署方案ChatGLM4进行新闻发布，但还没有开源更新，在此之际，实战部署测试Qwen大模型。
Alex_StarSky·2024-01-17 12:43

windows环境下安装CUDA（用GPU训练Tensorflow-YOLOv3）

关键就是搭建好cuda环境NVIDIA显卡驱动（https://www.nvidia.cn/Download/inde
dvlee1024·2024-01-17 11:47

后端除了增删改查还有什么？

Java虚拟机JVM，Java内存模型JMM，垃圾回收算法，垃圾回收器，
Dashesand·2024-01-17 09:47

win11 + insightface + pytorch + CUDA + cuDNN 实战安装

安装攻关秘籍，步骤如下:第一步.下载pycharm社区版官网在这里：https://www.jetbrains.com/pycharm/download/?section=windows第二步.下载anaconda(最新版)//参考下面文章来执行安装anacondaWindows下Miniconda+Pytorch+Pycharm开发环境搭建指南第三步.配置anaconda的path和加速下载源加
大树叶·2024-01-17 09:06

【报错】NVIDIA 驱动版本不兼容 — NVIDIA driver on your system is too old

【报错】NVIDIA驱动版本不兼容—NVIDIAdriveronyoursystemistooold报错信息查看torch版本查看nvidia驱动版本报错信息CUDAinitialization:TheNVIDIAdriveronyoursystemistooold
之墨_·2024-01-17 09:54

ChatGLM3-6B的本地api调用

openai_api_demo路径下的openai_api.py启动后界面：注意：本地api调到的前提是——本地部署了ChatGLM3-6B,本地部署的教程可参考：20分钟部署ChatGLM3-6B部署了若CUDA
落叶阳光·2024-01-17 08:09

Coding and Paper Letter（六十）

vtki4.多GPUCUDA压力测试。gpuburn5.用于构建由PangeoNASAACCESS项目管理的kubernetes集群的配置和脚本。ACCESSK8S
G小调的Qing歌·2024-01-17 06:15

Java并发编程 （一）—— 内存模型(JMM)

2、计算机内存架构3、缓存一致性问题4、指令重排序5、JMM内存模型5.1、JMM主内存和工作内存关系5.2、8个原子操作和8个执行规则5.2.1、8个原子操作5.2.2、8个执行规则5.3、JMM模型的线程间通信
有你的星空·2024-01-17 04:48

金三银四-解锁Java并发编程的艺术：掌握多线程、同步和并发控制的精髓

六、Java内存模型中的happens-before原则是
小贤java·2024-01-17 04:43
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他