Cuda编程

笔记03：CUDA执行模型

通过配置文件驱动的方法优化内核理解线程束执行的本质增大GPU的并行性掌握网格和线程块的启发式配置学习多种CUDA的性能指标和事件了解动态并行与嵌套执行一、CUDA执行模型概述CUDA编程模型中两个主要的抽象概念
m0_46521579·2023-08-04 15:29

cuda入门demo（1）——矩阵相乘

最近定一个小目标，把今年学习的cuda编程知识从零碎化掌握转化到系统化掌握，所以开一个cuda入门demo系列，记录一些经典demo。
umbrellalalalala·2023-08-03 13:41

2019-03-07 CPU和GPU的CMakeLists的

文件结构如下：主文件中的文件cuda文件夹中的文件将cuda编程的文件和头文件都放在cuda文件夹中，使条目清晰一些。
韦德爱老詹·2023-08-02 21:00

关于VS2017 +CUDA9.1编译出现MSB3721error。

1.检查电脑GPU配置（1）首先建议下一个GPU-Z查询电脑是否有CUDA编程能力。
weixin_42370246·2023-08-02 11:20

笔记02：CUDA编程模型

一、CUDA编程模型概述1.CUDA编程结构在一个异构环境中包含多个CPU和GPU，每个GPU和CPU的内存都由一条PCI-e总线分隔开，需要注意区分（1）主机：CPU及其内存（主机内存）（2）设备：GPU
m0_46521579·2023-08-01 20:17

《cuda c编程权威指南》02 - 内存管理和线程管理

一个典型的CUDA编程结构包括5个主要步骤。分配GPU内存。从CPU内存中拷贝数据到GPU内存。调用CUDA内核函数来完成程序指定的运算。将数据从GPU拷回CPU内存。释放GPU内存空间。
Mr.Q·2023-08-01 03:58

《cuda c编程权威指南》01- 用gpu输出hello world

目录1.使用cpu输出helloworld2.使用gpu输出helloworld3.CUDA编程结构1.使用cpu输出helloworldhello.cu#includevoidhelloFromCPU
Mr.Q·2023-08-01 03:57

CUDA编程教学 | CUDA内存模型（寄存器/本地内存/共享内存等）

点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群后台回复【CUDA】获取CUDA实战书籍！CUDA内存模型在CUDA中可编程内存的类型有：寄存器(Registers)本地内存(LocalMemory)共享内存(SharedMemory)常量内存(ConstantMemory)纹理内存(TextureMemory)全局内存(GlobalM
自动驾驶之心·2023-08-01 03:27

CUDA C编程及GPU基本知识【二】

2、CPUs:延迟导向设计和GPUs:吞吐导向设计2.1CPUs:延迟导向设计2.2GPUs:吞吐导向设计2.3GPU&CPU特点2.4GPU编程：什么样的问题适合GPU3、GPU编程与CUDA3.1CUDA
全息数据·2023-07-27 02:39

CUDA编程入门之__c/c++的指针与二级指针

CUDA编程入门之__指针与二级指针c、c++指针的作用指针作为c的灵魂，相信已经困扰了大家很久，希望我可以带给大家一篇用人话来解说：在C语言中，访问变量的方式有两种：1、通过变量名访问（例如说去什么花店
南陵花神·2023-07-25 15:01

CUDA之指针篇

同时，面对市场诸多教程与诸多博客岑子不起的教程或高昂教程费用，使读者(特别是小白)容易迷糊，无法快速入手CUDA编程，实现工程化。因此，我将结合我的
tangjunjun-owen·2023-07-25 15:59

intel 显卡使用cuda吗

Intel和AMD的显示芯片都不能进行CUDA编程。想要让cuda环境搭建在Windows8.1下搭建能利用GPU并行运算，必须有支持GPU并行运算的Nvidia显
lyc0424·2023-07-21 04:42

在没有nvidia显卡的环境下学些cuda编程

https://developer.nvidia.com/cuda-toolkit-archive在没有nvidia显卡的环境下学些cuda编程：1）下载cudatoolkit2.3，新版本已经不支持cuda
ljh081231·2023-07-21 04:12

[cuda 技术总结1] 第一次调用 cuda 库函数 耗时很长

在cuda编程中，发现调用cuda文件总耗时一百多ms，而纯kernel计算时间才3ms。时间都去哪了？
L1_Zhang·2023-07-15 14:33

CPU与GPU统一虚拟内存(CUDA UM)原理

CPU与GPU的统一内存(CUDAUnifiedMemory)原理文章目录CPU与GPU的统一内存(CUDAUnifiedMemory)原理一、UM下的CUDA编程二、UM的实现原理1.cudaMallocManaged
海育大厦·2023-06-22 17:41

linux用cpu模拟cuda,GPU模拟器,用于CUDA编程,无需硬件

对于那些谁正在寻找答案在2016年…免责声明>我毕竟没有效仿GPU。>如果你满足其列表，可能可以使用gpuocelot依赖性。我试图得到一个模拟器的BunsenLabs(Linux3.16.0-4-686-pae#1SMPDebian3.16.7-ckt20-1deb8u4(2016-02-29)i686GNU/Linux)。我会告诉你我学到了什么。>nvcc以前在CUDAToolkit3.0中有
有所不知·2023-06-22 17:40

GPU并行计算

ReferenceCUDA编程入门GPU编程|并行计算的helloworld！
Gavynlee·2023-06-15 09:36

CUDA编程中的HANDLE_ERROR( )和book.h-2023

最近个人正在学习cuda编程，这个帖子作为一个经验记录。第一呢，这本书里面很明显面对的是一些有编程基础的同学准备的，因此他很多细节都是跳过，这就给我们一些初学者带来了困扰。
PoomHey·2023-06-14 00:20

cuda编程入门07

程序优化技巧程序解读降低256倍，但是后面数组长度还是不知道的对1万的元素在此降低一定倍数初始加速比为9.58左右这里没有volatieif(tid<32)sdata[tid]+=sdata[tid+32];__syncthreads();在一个wrap内进行合并sdata[tid]+=sdata[tid+32];sdata[tid]+=sdata[tid+16];sdata[tid]+=sdat
AI与机器人Cony·2023-06-13 01:17

CUDA 入门教程

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
sg-expert·2023-06-11 06:00

cuda编程学习——原子函数（十）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭
出门吃三碗饭·2023-06-09 14:25

cuda编程学习——CUDA全局内存性能优化（八）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭在各种设备内存中
出门吃三碗饭·2023-06-09 14:24

cuda编程学习——CUDA共享内存性能优化（九）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭
出门吃三碗饭·2023-06-09 14:24

CUDA02_03CUDA编程入门与GPU模式

  CUDA的核心就是扩展了C/C++语法，提出了核函数的语法，使得单一在CPU上运算的函数，可以指定在GPU上计算。同时提供辅助的API完成一些计算相关的操作。  CUDA的扩展语法还是采用PRO*C/C++等类似的思想，就是预编译，CUDA提供了一个nvcc的预编译工具，该工具可以自动调用本地编译器，实现完整的编译过程。工具根据扩展名来识别，cuda的扩展语法源代码扩展名是.cu。  因为Vi
杨强AT南京·2023-06-07 13:21

CUDA编程接口详解

CUDA编程接口详解本文将详细介绍NVIDIACUDA编程指南第3章（编程接口）中的核心概念，例如NVCC编译器、CUDA运行时、版本管理和兼容性、计算模式、模式切换以及Windows下的Tesla计算集群模式
扫地的小何尚·2023-06-06 23:13

CUDA编程2——共享内存的优势

这里解决一个问题。通过两个程序，讨论共享内存的优势。共享内存预计比全局内存快得多。它可以用作暂存器内存（或软件托管的高速缓存），以最大程度地减少来自CUDA块的全局内存访问.一全局内存//Matricesarestoredinrow-majororder://M(row,col)=*(M.elements+row*M.width+col)typedefstruct{intwidth;intheig
屡空·2023-04-21 08:34

windows下nvvp的基础使用1

windows下nvvp的基础使用1cuda编程的重要帮手可视化工具nvvp本来先写nsignt的使用方式,不过折腾了一会发现没弄得那么明白.先用着nvvp好了,毕竟只是先看书配合着写点简单的cuda代码而已安装建议在
u011822516·2023-04-21 01:26

CUDA编程基础与Triton模型部署实践

作者：王辉阿里智能互联工程技术团队近年来人工智能发展迅速，模型参数量随着模型功能的增长而快速增加，对模型推理的计算性能提出了更高的要求，GPU作为一种可以执行高度并行任务的处理器，非常适用于神经网络的推理计算，因此近年来在人工智能领域得到广泛关注与应用。本文将结合我在阿里智能互联云端模型推理部署方面半年以来的工作学习，对相关的GPU编程与云端模型部署的知识与经验进行总结分享，下文内容为个人学习总结
阿里技术·2023-04-18 22:32

面经：百度视觉技术部--视觉架构及终端研发工程师

C++（后端开发）和python（深度），之后可能还会用GO，偏工程，上图圈的都是部门设计的开发产品1.视觉软件后端研发如视频流式计算架构、图像视频检索架构等2.视觉算法实现3.深度学习训练优化设计（CUDA
末一哟·2023-04-15 03:58

【NVIDIA GPU 入门】综述

系列文章目录  文章目录系列文章目录前言一、概述二、GPU架构基础2.1GPU概述2.2GPU的架构2.3自主查询GPU相关信息三、CUDA编程概念3.1CUDA线程模型3.1线程层次结构1.引入库2.
Mr.Idleman·2023-04-15 03:44

2020-10-21CUDA从入门到精通

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
Loreen368·2023-04-14 15:02

CUDA从入门到精通

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
hxpjava1·2023-04-14 14:21

CUDA从入门到精通（转载）

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
bodybo·2023-04-14 14:19

【ubuntu查看显卡、配置显卡、cuda、cudnn】

首先检查系统是否有支持CUDA编程的GPU。
compute爱好者·2023-04-14 04:52

【CUDA】《CUDA编程：基础与实践》CUDA加速的关键因素

CUDA事件计时CUDA提供了一种基于CUDA事件(CUDAevent)的计时方式，可用来给一段CUDA代码(可能包含主机代码和设备代码)计时。对计时器的封装：classCUDATimeCost{public:voidstart(){elapsed_time_=0.0;//初始化cudaEventcheckCudaRuntime(cudaEventCreate(&start_));checkCud
Dovake·2023-04-13 09:25

CUDA编程-05：流和事件

CUDA流在CUDA中有两个级别的并发：内核级并发和网格级并发。前面的文章介绍的是内核级并发，这种并发方式是通过数据并行的方式用多个GPU线程去并发地完成一个内核任务，而网格级并发则是把一个任务分解为多个内核任务，通过在一个设备上并发地运行多个内核任务来实现任务的并发执行，这种方式使得设备的利用率更高。CUDA流是一系列异步操作的集合，同一个CUDA流中的操作严格按照顺序在GPU上运行，使用多个流
DeepDriving·2023-04-09 23:28

CUDA编程之：cudaMemcpy()函数

cudaMemcpy用于在主机（Host）和设备（Device）之间往返的传递数据，用法如下：主机到设备：cudaMemcpy(d_A,h_A,nBytes,cudaMemcpyHostToDevice)设备到主机：cudaMemcpy(h_A,d_A,nBytes,cudaMemcpyDeviceToHost)注意：该函数是同步执行函数，在未完成数据的转移操作之前会锁死并一直占有CPU进程的控制
Coder802·2023-04-09 23:25

CUDA编程之：Stream（流）

CUDAStream（流）：指在设备(Device)上按主机(Host)代码发出的顺序执行的一系列异步的CUDA操作。Stream封装这些操作，管理它们的顺序，允许在所有先前操作之后在流中排队执行操作，并允许查询排队操作的状态。这些操作可以包括主机设备数据传输、内核启动以及由主机发出但由设备处理的大多数其他命令。流中操作的执行对于主机总是异步的。CUDA运行时将确定该操作何时适合在设备上执行。在使
Coder802·2023-04-09 23:25

CUDA编程：概述

CUDA编程GPU的架构每个GPU由N个SM组成，1个SM分为2个SMP，1个SMP有16个DPUnit和32个CudaCore以及一些特殊函数处理模块比如说，RTX2080Ti，具有68个SM，总共有
u013250861·2023-04-09 23:25

CUDA编程：stream和Concurrency初探

总是在讲概念和写一些简单的helloworld似乎有些无聊，为了更好的去理解，咱们下一篇将以实战为主，使用tensorrt编写自己的plugin（其实是一直在介绍概念，我都有些困了，咱们一起写个项目玩玩），但是在实操之前我们还需要介绍几个重要的概念，在写项目时我们会用到。CUDA程序并发性可分为两种：1、kernellevelconcurrency：一个task由GPU上多个thread并行执行的
Mokingjay雨·2023-04-09 23:19

VS2017 CUDA编程学习12：CUDA流

文章目录前言1.CUDA流的理解2.C++实现CUDA流3.执行结果总结学习资料VS2017CUDA编程学习1：CUDA编程两变量加法运算VS2017CUDA编程学习2：在GPU上执行线程VS2017CUDA
DU_YULIN·2023-04-09 23:47

CUDA编程（五）：流stream

CUDA编程（五）：流streamCUDA流stream定义CUDA流stream管理相关API函数定义流创建流销毁流流同步代码示例参考文献CUDA流stream定义CUDA流：一系列将在GPU上按照顺序执行的操作
cv-player·2023-04-09 23:46

CUDA流：利用并行执行提高性能

引言CUDA流是CUDA编程中一个非常重要的概念。流（Stream）是异步执行CUDA命令序列的一种机制，它允许利用设备并行性，从而提高应用程序的性能。
Algabeno·2023-04-09 23:46

CUDA编程学习笔记

CUDA：ComputeUnifiedDeviceArchitecture，是由NVIDIA所推出的一种集成技术，允许使用标准C来进行GPU代码编程，最终转为PTX汇编代码。CPU与GPUGPU可以看作是CPU的协助处理器，使用GPU实际指的是基于CPU+GPU的异构计算架构。通过PCle总线连接，CPU端成为Host端，GPU端称为Device端。基于CPU+GPU的异构计算架构GPU适合数据并
Mr_Stark的小提莫·2023-04-07 23:21

CUDA编程-02： 初识CUDA编程

上一篇文章介绍了如何搭建CUDA编程环境，从这篇文章开始正式开始介绍如何使用CUDA进行编程。
DeepDriving·2023-04-06 15:21

CUDA编程（四）：内存管理

CUDA编程（四）：内存管理内存内存的基础知识GPU内存结构寄存器resigters本地内存localmemory共享内存sharedmemory常量内存constantmemory全局内存globalmemory
cv-player·2023-04-06 15:19

CUDA编程（二）：核函数与线程层级

核函数与线程层级函数限定CUDA核函数线程层级线程排布blockId和threadId的计算函数限定GPU是异构模型，所以需要区分host和device上的代码，在CUDA中是通过函数类型限定词来区分host和device上的函数，主要的三个函数类型限定词如下：__global__：声明的核函数是在CPU端调用，在GPU里执行。__device__：声明的函数调用和执行都在GPU中。__host_
cv-player·2023-04-06 15:49

CUDA【1】HelloWorld

文章目录HelloWorld关于Kernel函数首先你得有一个CUDA编程环境，此处略，简单点就nvidia-docker走起HelloWorld#includevoidc_hello(){printf
椰子奶糖·2023-04-06 15:42

【CUDA编程】一：从简单的实例入门

前提拥有NVIDIA的显卡-配置好cuda有C/C++基础Linux系统基础知识看看这篇吧CUDA基础知识以后有空再自己写。了解以下几个概念：线程thread线程块threadblock线程格threadgrid代码1：简单加法了解如何创建GPU调用的函数了解一些基础函数/**文件名helloworld.cu*编译：nvcc-ohelloworldhelloworld.cu*/#include#i
陈生~·2023-04-06 15:37

实战:Hello World——CUDA

写在前面的话：本人刚入坑CUDA编程，大家一起相互交流学习众所周知，学习编程的第一个demo是啥，那就是"HelloWorld"。没错本文是我第一个CUDA程序，仅以此文开始入门。
MacalDan·2023-04-06 15:33
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他