Cuda编程

cuda编程学习笔记 第二章 cuda memory management

应用的性能可能有75%都花费在内存相关问题上。NVPROFandNVVP这俩是调试工具，不知道是不是基于CUPTI(CUDAProfilerToolsInterface)。NVPROF是命令行工具，nvvp是可视化工具。nvvp有四个模块：Timeline，Summary，Guide，Analysisresults其中Guide适合新手，新手应该多注意。为了分析出应用的性能瓶颈，我们需要timel
叶子心情你不懂·2022-11-20 04:56

nvcc(CUDA)编译器（chapter 1)

目录1.简介1.1概览1.2支持的主机侧编译器1.简介1.1概览1.1.1cuda编程模型Cuda开发工具套件主要为那类控制部分运行在通用计算设备（CPU等）上进程的应用程序使用，使用单个或多个NVIDIAGPU
敩科炼技堂·2022-11-20 04:51

派福利!通过 Azure 零成本进入 CUDA 编程

CUDA编程介绍什么是CUDA？
kinfey·2022-11-09 08:01

从头开始进行CUDA编程：Numba并行编程的基本概念

GPU（图形处理单元）最初是为计算机图形开发的，但是现在它们几乎在所有需要高计算吞吐量的领域无处不在。这一发展是由GPGPU(通用GPU)接口的开发实现的，它允许我们使用GPU进行通用计算编程。这些接口中最常见的是CUDA，其次是OpenCL和最近刚出现的HIP。Python中使用CUDACUDA最初被设计为与C兼容后来的版本将其扩展到c++和Fortran。在Python中使用CUDA的一种方法
deephub·2022-11-04 14:38

TensorRT+CUDA加速人体关键点检测

TensorRT+CUDA加速人体关键点检测目录TensorRT+CUDA加速人体关键点检测1、人体关键点检测简介2、CPU和GPU的异同3、TensorRT推理加速4、CUDA编程加速后处理1、人体关键点检测简介在影视游戏领域中
风是清歌·2022-10-25 16:51

派福利！通过 Azure 零成本进入 CUDA 编程

CUDA编程介绍什么是CUDA？
·2022-10-10 12:14

CUDA编程-04：CUDA内存模型

CUDA内存模型在CUDA中可编程内存的类型有：寄存器(Registers)本地内存(LocalMemory)共享内存(SharedMemory)常量内存(ConstantMemory)纹理内存(TextureMemory)全局内存(GlobalMemory)这些内存空间的层次结构如下图所示，每种不同类型的内存空间都有不同的作用域、生命周期和缓存行为。在一个内核函数中，每个线程都有自己的本地内存，
DeepDriving·2022-10-06 07:43

VS2017 CUDA编程学习10：纹理内存

文章目录前言1.纹理内存的理解2.C++CUDA实现常量内存使用3.执行结果总结学习资料VS2017CUDA编程学习1：CUDA编程两变量加法运算VS2017CUDA编程学习2：在GPU上执行线程VS2017CUDA
DU_YULIN·2022-10-06 07:35

VS2017 CUDA编程学习9：常量内存

文章目录前言1.常量内存的理解2.C++CUDA实现常量内存使用3.执行结果总结学习资料VS2017CUDA编程学习1：CUDA编程两变量加法运算VS2017CUDA编程学习2：在GPU上执行线程VS2017CUDA
DU_YULIN·2022-10-06 07:31

CUDA 矩阵乘法优化

笔者面试过不少具有CUDA编程经验的校招同学，当提问使用CUDA编写一个SGEMMKernel的时候，通常会获得这么一个答案：__global__ void matrixMul(const float 
tt姐whaosoft·2022-09-26 15:30

C++中的经验记录

在C/C++的常规中，设置附加包含目录连接器输入-------附加依赖项如果包含cuda编程，需要右键项目属性，生成依赖项—自定义勾选cuda文章目录1、指针2、引用&3、结构体4、宏定义5、字节对齐6
桂花年糕仔·2022-09-15 07:41

MindSpore:CUDA编程（一）在WSL ubuntu 20.04上安装CUDA环境

在Windows11下搜索MicrosoftStore：在Store中搜索ubuntu20.04:点击获取：耐心等待下载完毕：下载完毕后：点击打开：输入用户名:zhanghui输入两次密码：zhanghui就进入了ubuntu20.04的环境。使用nvidia-smi可以看到Nvidia的显卡信息：我们可以按照提示按照nvidia的cudatoolkit：但是他不一定听你的话。那我们还是去nvid
·2022-08-11 19:15

MindSpore:CUDA编程（三）线程层次

线程层次的概念：简单说，就是一个grid有多个block,一个block有多个thread.grid有多大，用gridDim表示它有多少个block，具体分为gridDim.x,gridDim.y，gridDim.z。block有多大，用blockDim表示它有多少个thread，具体分为blockDim.x，blockDim.y，blockDim.z。怎么表示thread在block中的相对位置
·2022-08-11 19:14

MindSpore：CUDA编程（四）Global Memory

在GPU上，on-boardmemory包含以下类型：localmemory每个thread一个。线程私有。globalmemory每个grid一个。每个thread都可以读。constantmemory每个grid一个。只读。每个thread都可以读。texturememory每个grid一个。只读。每个thread都可以读。on-chipmemory包含以下类型：registers每个thre
·2022-08-11 19:14

MindSpore:CUDA编程（二）CUDA代码执行原理

我们把CPU,内存这块区域叫做“主机（HOST）”，把GPU，显存这块区域叫做“设备（DEVICE）”。（是不是跟昇腾有点类似？）CUDA的代码执行包含以下几步：简述一下，就是host_to_device-》在device上并行计算-》device_to_host。cuda程序其实是一个对C的扩展程序。其后缀名为.cu，如果头文件则为.cuh。这个.cu程序除了C程序的语法外，还有一些cuda的特
·2022-08-11 19:14

MindSpore:CUDA编程（五）Event

Event是CUDA中的事件，用于分析、检测CUDA程序中的错误。一般我们会定义一个宏：#pragmaonceincludedefineCHECK(call)\do\{\constcudaError_terror_code=call;\if(error_code!=cudaSuccess)\{\printf("CUDAError:\n");\printf("File:%s\n",__FILE__)
·2022-08-11 19:13

MindSpore：CUDA编程（六）存储单元

CUDA的存储单元包含以下类型：如下表所示：名称位置用途使用方法限制备注Register寄存器GPU的SM上存储局部变量每个SM上有成千上万个一个线程最大数量为256个需要省着用线程私有，最快线程退出则失效SharedmemoryGPU芯片上实现Block内的线程通信，目前最快的多Thread沟通的地方__shared__修饰符需要__syncThreads()同步分为32个banks需要省着用，
·2022-08-11 19:13

基于Visual Studio 2015的CUDA编程(一)：基本配置

目录一、CUDA简介二、CUDA的下载和安装三、创建CUDA项目四、CUDA的C代码一、CUDA简介CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。开发人员可以使用C语言来为CUDA架构编写程序，所编写出的程序可以在支持CUDA的处理器上以超高性能运行。目前为止，基于CUDA的GPU销量已达
Zhi Zhao·2022-08-01 10:53

CUDA编程1--GPU内存模型

GPU架构GPU内存类型及生命周期GPU内存类型及生命周期Localmemory:每个线程都有自己的私有本地内存及寄存器Sharedmemory：可以被线程块中所有线程共享，周期与线程块一致；Globalmemory：所有的线程都可以访问。平时所说的“显存”，相对来说，速度最慢Constantmemory常量内存和texturememory纹理内存：只读内存块。所有线程均可访问。对于一个应用来说，
龙俊杰的读书笔记·2022-07-26 10:12

CUDA实现focal_loss

参考自：mmdetection源码阅读：cuda拓展之focalloss-知乎读者需要大致了解CUDA编程及损失函数原理；本文不做详细介绍CUDA实现加速的写法（套路）图片来自上述参考文献（侵删），红色文字是我加的注释
cyz0202·2022-06-10 22:16

并行算法与GPU编程备忘录

文章目录Pthread多线程图像翻转生产者消费者信号量条件变量计算圆周率计算框架3种计算方法计算e值CUDA编程矢量求和基本框架核函数矩阵转置基本框架核函数规约计算基本框架核函数矩阵相乘基本框架核函数Pthread
阿腾木·2022-06-06 07:44

2、Jetson平台软件资源功能测试

CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题,cuda编程模型是一个异构模型，需要GPU和CPU协同工作，因为GPU有更多的运算核心，所以适合于数据并行的计算密集型任务
Stay hungry. Stay foolish.·2022-05-30 07:41

CUDA编程手册中文版---CUDA简介

1.CUDA简介1.1我们为什么要使用GPUGPU（GraphicsProcessingUnit）在相同的价格和功率范围内，比CPU提供更高的指令吞吐量和内存带宽。许多应用程序利用这些更高的能力，在GPU上比在CPU上运行得更快(参见GPU应用程序)。其他计算设备，如FPGA，也非常节能，但提供的编程灵活性要比GPU少得多。GPU和CPU在功能上的差异是因为它们的设计目标不同。虽然CPU旨在以尽可
扫地的小何尚·2022-05-14 07:25

CUDA编程手册中文版---硬件实现

第四章硬件实现NVIDIAGPU架构围绕可扩展的多线程流式多处理器(SM:StreamingMultiprocessors)阵列构建。当主机CPU上的CUDA程序调用内核网格时，网格的块被枚举并分发到具有可用执行能力的多处理器。一个线程块的线程在一个SM上并发执行，多个线程块可以在一个SM上并发执行。当线程块终止时，新块在空出的SM上启动。SM旨在同时执行数百个线程。为了管理如此大量的线程，它采用
扫地的小何尚·2022-05-14 07:25

GPU CUDA编程2 opencv GPU 图像叠加 空间转换 阈值处理 直方图均衡化 变形 仿射变换 滤波器 腐蚀膨胀 边缘 特征 匹配 人脸检测 背景去除

opencv图像读取、显示、视频播放等opencvGPU接口图像add、sub、颜色空间转换、阈值操作等1opencv图像读取#include#includeusingnamespacecv;usingnamespacestd;intmain(intargc,char**argv){//ReadtheimageMatimg=imread("images/cameraman.tif",0);//Ch
EwenWanW·2022-05-11 07:46

我又一次跳进GPU并行的坑：Cuda编程的经验分享

之前做点云简化的时候尝试过Cuda编程，由于数据量较大时，从内存往显存做数据传输比较费时，后来就放弃了。
程序猿老甘·2022-05-11 07:37

OpenCV CUDA编程Issue: GpuMat::upload()第一次调用速度很慢问题

文章目录Issue描述Issue分析实验结果总结Issue描述之前一直在学习OpenCVCUDA编程，遇到一问题：第一次调用GpuMat::upload()函数时，速度出奇的慢，大约要2-4分钟才能继续运行
DU_YULIN·2022-05-11 07:01

深度学习框架对应的CUDA版本

基于CUDA编程可以利用GPUs的并行计算引擎来更加高效地解决计算量大的难题。近年来，GPU最成功的一个应用就是深度学习领域，基于GPU的并行计算已经成为训练深度学习模型的标配。
chenxy02·2022-04-15 07:56

在不勾选生成依赖项的前提下用C++编译CUDA

如果选用QtCreator或者其他IDE环境，那么还得熟悉CUDA编程那一套，整个过程是很繁琐的。那么如何快速导入算法模块呢？首先需
@会飞的毛毛虫·2022-02-27 11:05

嵌入式算法移植优化学习笔记6——CUDA编程

嵌入式算法移植优化学习笔记6——CUDA编程1.GPU架构特点2.CUDA线程模型3.CUDA内存模型4.CUDA编程模型第一个要掌握的编程要点：关键字第二个编程要点：数据传输参考：CUDA编程之快速入门英伟达官方
翟羽嚄·2022-02-15 07:06

CUDA，多线程，单线程比较（密集恐惧症慎入）

对GPU编程不了解的同学，这篇文章可能不会有特别大的帮助，因为我不打算对CUDA编程有很详细的讲解，我浏览了一下网上，无论所英文还是中文都有了很详细的入门讲解，比我目前能写出的好，就不重新造轮子了。
陈瓜瓜_ARPG·2022-02-11 08:29

在C#中的GPU加速——AleaGPU学习笔记（一）

因此笔者就在寻找支持C#的GPU加速库，结果最终找到了AleaGPU，这个库看上去已经做的非常完善了，基于.Net，安装配置十分方便，并且也支持CUDA编程。
AlbertLiDesign·2022-02-08 12:17

CUDA编程入门

参考：CUDA编程原理1CUDA编程原理2矩阵乘法我们用host指代CPU及其内存，而用device指代GPU及其内存。
qq_42775938·2021-12-01 16:35

CUDA 编程入门

CUDA编程入门更好的阅读体验CUDA概述CUDA是NVIDIA推出的用于其发布的GPU的并行计算架构，使用CUDA可以利用GPU的并行计算引擎更加高效的完成复杂的计算难题。
A-Egoist·2021-11-20 19:31

CUDA编程初探

CUDA的全称是ComputeUnifiedDeviceArchitecture,是显卡厂商NVIDIA推出的运算平台，开发者可以使用C语言来编写CUDA代码，使用NVCC编译器可以在支持CUDA的GPU处理器上以高速运行。虽然AMD也做显卡，但是CUDA是老黄自家提出的标准，没带AMD一起玩儿，所以，提到基于CUDA的高性能计算，使用的都是Nvidia的显卡。首先安装CUDA环境，具体方式参考博
papaofdoudou·2021-11-12 19:56

[源码解析] PyTorch 如何使用GPU

如何使用GPU0x00摘要0x01问题0x02移动模型到GPU2.1cuda操作2.2Module2.3移动2.3.1示例2.3.2操作2.3.3_apply方法2.4小结0x03在GPU之上调用函数3.1CUDA
罗西的思考·2021-11-07 09:00

Gprmax 3.0 使用GPU加速方法

Gprmax3.0提供了GPU加速的功能，可以选择使用图形处理器（GPGPU）来执行，这是通过NVIDIACUDA编程环境实现的，因此需要一个启用NVIDIACUDA的GPU来利用基于GPU的求解器。
mica fish·2021-05-14 14:01

《Better Performance at Lower Occupancy》解读

但是作者提出这种方式可能不是完全正确的这种方式可能不是完全正确的这种方式可能不是完全正确的作者列举了两个实验数据来说明这件事情，结果一目了然：作者提出使用CUDA编程时的两点谬论：多线程是隐藏时延仅有的一种方式
Lixian ma·2021-05-06 10:44

Ubuntu16.04进入不了桌面

有一种作死叫做智商不在线，还手贱——依米兒最近在学习cuda编程，于是想给实验室台式机配置一个cuda编程环境，然后装了cuda以后重启就出现三个“美丽”的错误：1、系统正在运行低画质模式【根本进入不了图形界面
依米兒·2021-05-04 06:36

CUDA卷积计算及其优化——以一维卷积为例

友情链接：第三章CUDA简介-CUDAC编程向量加法第四章CUDA数据并行执行模型第五章CUDA存储器第六章CUDA性能优化（内附原书链接）建议阅读：在卷积优化前，熟悉核函数的组织形式有利于更好的位置映射-CUDA
RememberUrHeart·2021-04-28 16:36

第六章 CUDA性能优化

大规模并行处理器编程实战》学习，其他章节关注专栏CUDACCUDAC编程友情链接：第三章CUDA简介-CUDAC编程向量加法第四章CUDA数据并行执行模型第五章CUDA存储器第六章CUDA性能优化（内附原书链接）核函数：CUDA
RememberUrHeart·2021-04-28 16:13

第5章 CUDA存储器

大规模并行处理器编程实战》学习，其他章节关注专栏CUDACCUDAC编程友情链接：第三章CUDA简介-CUDAC编程向量加法第四章CUDA数据并行执行模型第五章CUDA存储器第六章CUDA性能优化（内附原书链接）核函数：CUDA
qq_40491305·2021-04-28 16:25

大规模并行处理器编程实战 - 第4章 CUDA数据并行执行模型

大规模并行处理器编程实战》学习，其他章节关注专栏CUDACCUDAC编程友情链接：第三章CUDA简介-CUDAC编程向量加法第四章CUDA数据并行执行模型第五章CUDA存储器第六章CUDA性能优化（内附原书链接）核函数：CUDA
RememberUrHeart·2021-04-28 16:08

CUDA编程入门（一）：以图片运算看线程的组织和核函数的使用

CUDA编程入门（一）：以图片运算看线程的组织和核函数的使用《大规模并行处理器编程实战》学习，其他章节关注专栏CUDAC初次接触CUDAC编程不建议直接阅读，友情链接：第三章CUDA简介-CUDAC编程向量加法第四章
RememberUrHeart·2021-04-28 15:21

CUDA C编程向量加法-第3章 CUDA 简介

大规模并行处理器编程实战》学习，其他章节关注专栏CUDACCUDAC编程友情链接：第三章CUDA简介-CUDAC编程向量加法第四章CUDA数据并行执行模型第五章CUDA存储器第六章CUDA性能优化（内附原书链接）核函数：CUDA
RememberUrHeart·2021-03-08 13:41

CUDA编程第六章: 流和并发

本章内容：理解流和事件的本质理解网格级并发重叠内核执行和数据传输重叠CPU和GPU执行理解同步机制避免不必要的同步调整流的优先级注册设备回调函数通过NVIDIA可视化性能分析器显示应用程序执行的时间轴一般来说，在CUDAC编程中有两个级别的并发：内核级并发网格级并发到目前为止，你的关注点可能仅限于内核级的并发，在此级别的并发中，单一的任务或内核被GPU的多个线程并行执行。前面几章已经介绍了提升内核
Janus_V·2021-02-16 22:49

CUDA计算

CUDA计算一、GPU硬件架构综述二、CUDA编程模型（1）逻辑层次上的执行流程（2）一些基础CUDA代码的认知三、GPU内存四、在GPU的计算部分如何运作？
燕郊码怪·2021-02-14 18:24

cuda编程入门

文章目录P2CUDA编程入门01-GPU硬件架构综述bank的访问冲突规约的一个有效的算法p3CUDA编程模型CUDA程序执行流程CUDA程序层次结构CUDAkernel函数的grid,block调用情况
ryontang·2021-01-13 16:10

cuda编程与gpu并行计算（六）：图稀疏矩阵转为CSR结构并传入gpu

虽然sepgraph有这部分代码，还是自己先试着实现一下，这样读起来也方便行压缩格式CompressedSparseRow(CSR)CSR需要三种数据来表达：数值、列号、行转移。CSR不是三元组，而是整体的编码方式。CSR编码：行优先遍历矩阵Matrixvalues数组中保存矩阵中非零元素。columnindices数组保存values数组中对应位置非零元素的列索引。rowoffsets数组的下标
好想成为wqg啊·2021-01-04 21:18

cuda编程与gpu并行计算（四）：cuda编程模型

CUDA最大的特点:对线程块将在何处、何时运行不作保证优点:1.硬件真正有效的运行，灵活。2.无需要线程间互相等待3.可扩展性强后果:1.对于那个块在哪个SM上运行无法进行任何假设2.无法获取块之间的明确通讯(hardtogetcommunicationsbetweenblocks)deadlock(并行死锁)线程退出当然有无法保证的，肯定也有能保证的。1.所有在同一个线程块上的线程必然会在同一时
好想成为wqg啊·2020-12-31 17:01
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他