Cuda编程

【CUDA】《CUDA编程：基础与实践》Hello CUDA

CUDAHelloWorld!简介本文主要实现CUDA的HelloWorld。介绍了nvccCUDA编译时虚拟架构算力指定和真实架构算力指定，最后使用xmake编译CUDA程序。CUDA代码一个真正利用GPU的CUDA程序既有主机Host（CPU）代码，也有设备Devie(GPU)代码。主机对设备的调用时通过核函数来实现。核函数可以使用global修饰核函数必须是void//src/main.cu
Dovake·2023-04-06 15:32

CUDA编程实战：初入江湖

CUDA编程实战：初入江湖本文由小肉包老师原创，版权所有，欢迎转载，本文首发地址https://jinfagang.github.io。
小肉包老师·2023-04-06 15:55

CUDA编程（三）：Hello world

CUDA编程（三）：HelloworldCUDA编程HelloworldCUDA编程CUDA是ComputeUnifiedDeviceArchitecture的缩写，由英伟达公司2007年开始推出，初衷是为
cv-player·2023-04-06 14:12

CUDA on Platform 学习笔记1--GPU硬件架构

CUDA参考学习资料：CUDA编程-基础与实践樊哲勇https://github.com/brucefan1983/CUDA-ProgrammingCUDABestPracticeGuide,NVIDIACorp.CUDACProgrammingGuide
lansebingxuan·2023-04-05 15:38

Nsight Eclipse 连接TX2进行CUDA编程

一开始非常纠结在TX2上怎么写CUDA和opencv的程序，总不能在VIM里敲吧，也许是个神器，但现在可能真的没有时间学习，好在发现了NsightEclipse这个好东西，这个IDE可以提供编辑器及调试器的功能，不仅可以写程序，还可以远程直接连接到TX2上进行编译。要说的是，这个在主机上安装Jetpack的时候就已经默认安装了，并且安装了cuda和CUDNN，以及OPENCV。首先做一些准备工作：
和蔼的zhxing·2023-04-05 09:38

GPU-cuda编程葵花宝典

GPU编程葵花宝典GPU编程模板(理解意思就好，呵呵~~)：voidmain（）{1在GPU上分配内存即cudaMalloc（第一参数地址指针，第二参数分配大小）2将主机host的数据传送到设备上cudaMemcpy（第一参数给GPU，第二参数给主机，第三参数给大小，cudaMemHostToDevice）3调用Kernel函数并行计算（模板为：_global_>>void函数名（参数，...,参
Tsingke·2023-04-03 01:00

CUDA编程中线程分配的数组在register中还是local memory中？

问题很简单，当我们在编写KERNEL的时候，分配了一个数组，那么这段数组空间是在register中，还是localmemory中呢？通过几个测试，我们可以来看一下：首先一些定义：#defineBLOCK_SIZE32#defineGRID_SIZE1#defineARRAY_SIZE32第一个kernel测试，静态索引staticindexing，代码：__global__voidkernel1(
xiewen_bupt·2023-04-02 09:13

NVIDIA GPU SM和CUDA编程理解

SM硬件架构基础不同架构的变化可以参考：从AI系统角度回顾GPU架构变迁--从Fermi到Ampere(V1.2)-知乎英伟达GPU架构演进近十年，从费米到安培-知乎VoltaGV100StreamingMultiprocessor(SM)GA100StreamingMultiprocessor(SM)GA102StreamingMultiprocessor(SM)上面展示了几个不同架构SM的区别
Luchang-Li·2023-04-02 08:55

CUDA学习笔记(二)

CUDA学习笔记(二)参考教程：1.QINZHAOYU/CudaSteps2.cuda编程（一）基础3.CUDAC/C++教程一：加速应用程序四.CUDA程序的错误检测1.运行CUDAapi时候添加如下宏
Darchan·2023-04-01 02:51

CUDA编程与硬件架构理解

NvidiaGPU的CUDA编程模型预览版，内容有待完善。1.Kernelkernel函数是CUDA单个线程所执行的函数。
simple_whu·2023-03-31 20:57

CUDA协作组详解

CUDA中的协作组1.协作组简介CooperativeGroups是CUDA9中引入的CUDA编程模型的扩展，用于组织通信线程组。
扫地的小何尚·2023-03-31 18:35

【笔记】CUDA（二） - （异步）SIMT 架构

（异步）SIMT架构在CUDA编程模型中，线程是进行计算或内存操作的最低抽象级别。从基于NVIDIAAmpereGPU架构的设备开始，CUDA编程模型通过异步编程模型为内存操作提供加速。
骆言·2023-03-31 18:32

cuda编程的规约策略-MINRES算法的进阶优化

详细内容可以先参考本人知乎了解细节添加链接描述CUDA编程的常见问题1：Error:CUDAdriverversionisinsufficientforCUDAruntimeversion，这个问题一般是任务在登录节点运行出现的
Galerkin码农选手·2023-03-31 07:04

GPU-CUDA编程学习（四）-共享内存

Sharedmemory共享内存在芯片上可用，因此它比全局内存快得多。共享内存延迟大约比未调用的全局内存延迟低100倍。来自同一块的所有线程都可以访问共享内存。这在许多需要与其他线程共享结果的应用程序中非常有用。但是，如果没有同步，也会产生混乱或错误的结果。如果一个线程在其他线程写入数据之前从内存中读取数据，那么可能会导致错误的结果。因此，应该适当地控制或管理内存访问。这是由剩余的**syncth
☞北海北☜·2023-03-30 21:00

CUDA编程基础——Grid、Block、Thread

本文主要介绍三者之间的关系。三者之间关系如图所示，从中可以看出，三者存在包含关系。每个grid分为多个block，每个block分为多个Thread，grid和block最多可以是三维的。dim3gridsize(2,2)2*2*1dim3blocksize(2,2)2*2*11.jpg
ThalesW·2023-03-30 05:39

CUDA编程：操作PTX文件

1、编译CUDA文件，得到PTX文件。nvcc-arch=sm_20-keep-ot266t266.cu2、修改PTX文件3、nvcc-dryrun-arch=sm_20-ot266t266.cu--keep2>dryrun.out4、把-o"t266.ptx"之后的命令分步执行5、执行
Mr_Stark的小提莫·2023-03-16 23:07

8.CUDA编程手册中文版---附录D动态并行

developer.nvidia.com/zh-cn/developer-program来加入NVIDIA开发者计划D.1.IntroductionD.1.1.OverviewDynamicParallelism是CUDA
扫地的小何尚·2023-03-14 07:34

深度学习部署(十一): CUDA RunTime API 核函数

1.核函数的核函数是cuda编程的关键通过xxx.cu创建一个cudac程序文件，并把cu交给nvcc编译，才能识别cuda语法__global__表示为核函数，由host调用。
智障学AI·2023-03-14 07:03

VScode+cuda编程常见环境问题的解决

目录1、VScode终端问题(PS)2、编译问题(CUDA版本过低)3、nvcc编译问题(arch架构)1、VScode终端问题(PS)问题描述：在VScode下打开终端执行nvcc指令，发现执行不了，但是在外部终端powershell和cmd都可以。发现PS问题问题现象：PSD:\CUDA_test>nvcc-arch=sm_80-ohello-gpuhello-gpu.cu-runnvcc:无
·2023-03-13 00:01

cuda linux 算力_CUDA 3.0 编程接口

CUDAC将CUDA编程模型作为C的最小扩展集展示出来。任何包含某些扩展的源文件必须使用nvcc编译，nvcc的概要在3.1节。
机智的娜娜·2023-02-22 09:00

cuda编程python接口_Python环境下使用OpenCV Cuda编程

1、构建opencv_contrib模块，目录结构如下：1.1cuda2.hpp内容如下：#ifndef__OPENCV_CUDA2_HPP__#define__OPENCV_CUDA2_HPP__#include"opencv2/core.hpp"#include"opencv2/imgproc.hpp"#includenamespacecv{namespacecuda2{CV_EXPORTS_
weixin_39945816·2023-02-22 09:30

【CUDA开发】CUDA编程接口（一）------一十八般武器

子曰：工欲善其事，必先利其器。我们要把显卡作为通用并行处理器来做并行算法处理，就得知道CUDA给我提供了什么样的接口，就得了解CUDA作为通用高性能计算平台上的一十八般武器。(如果你想自己开发驱动，自己写开发库--那我不得不佩服你很有时间，想必也不会有很多人想自己在去实现一个CUDA吧，呵呵，虽然实现一个也不是太难)。前面我们讲到了一些简单的CUDA的C语言扩展的规则，下面就具体来讲解CUDA给我
weixin_30663471·2023-02-22 09:59

CUDA编程接口：使用nvcc编译器的兼容性

相关阅读：CUDA编程接口：如何用nvcc编译CUDA程序CUDA编程模型：存储器层次和异构编程CUDA编程模型：内核与线程层次概述CUDA初探：从图形处理到通用并行计算CUDA初探：通用并行
weixin_34080903·2023-02-22 09:28

CUDA编程接口：共享存储器实现矩阵相乘

转自http://cuda.it168.com/a2011/1207/1285/000001285186.shtml正如在前面的文章提到的，共享存储器应当比全局存储器更快，详细内容将在后续文章中介绍。任何用访问共享存储器取代访问全局存储器的机会应当被发掘，如下面的矩阵相乘例子展示的那样。下面的代码是矩阵相乘的一个直接的实现，没有利用到共享存储器。每个线程读入A的一行和B的一列，然后计算C中对应的元
zbxzc·2023-02-22 09:27

CUDA编程接口:异步并发执行的概念和API

相关阅读：CUDA编程接口：分页锁定主机存储器CUDA编程接口：共享存储器实现矩阵相乘CUDA编程接口：运行初始化与设备存储器CUDA编程接口：使用nvcc编译器的兼容性CUDA编程接口：如
niefeng111·2023-02-22 09:49

(CUDA 编程5).CUDA编程接口（一）------一十八般武器

(CUDA编程5).CUDA编程接口（一）------一十八般武器作者：赵开勇来源:http://www.hpctech.com/2009/0818/203.html子曰：工欲善其事，必先利其器。
dmjlzygx·2023-02-22 09:42

CUDA编程接口

编程接口文章目录编程接口3.1利用NVCC编译3.1.1编译流程3.1.1.1离线编译3.1.1.2即时编译3.1.2Binary兼容性注意：仅桌面支持二进制兼容性。Tegra不支持它。此外，不支持桌面和Tegra之间的二进制兼容性。3.1.3PTX兼容性3.1.4应用程序兼容性3.1.5C++兼容性3.1.664位支持3.2CUDA运行时3.2.1初始化注意：CUDA接口使用全局状态，在主机程序
扫地的小何尚·2023-02-22 09:37

CUDA编程之CUDA流

文章目录前言CUDA流在默认流中重叠主机与设备用非默认CUDA流重叠多个核函数的执行重叠多个核函数的例子用非默认CUDA流重叠核函数的执行与数据传递不可分页主机内存与异步的数据传输函数总结参考前言    CUDA程序的并行层次主要有两个，一个是核函数内部的并行，一个是核函数外部的。合理使用CUDA流能实现核函数外部的并行。CUDA流核函数外部并行：（1）核函数计算与数据传输之间的并行（2）主机计算
AI、明察秋毫·2023-02-04 12:16

CUDA编程笔记（8）

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言原子函数完全在GPU中归约性能比较总结前言原子函数的合理使用原子函数    在cuda里，一个线程的原子操作可以在不受其他线程的任何操作的影响下完成对某个（全局或共享内存中）数据的一套“读-改-写”操作，该操作是不可分的。原子函数是对它的第一个参数指向的数据进行一次“读-改-写”的一类原子操作的函数，一气呵成，不可分割。如
AI、明察秋毫·2023-02-04 12:46

CUDA编程笔记（9）

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言单指令-多线程执行模式线程束内的线程同步函数使用线程束同步函数进行数组归约线程束的基本函数使用线程束洗牌函数进行数组归约协作组线程块级别的协作组进一步优化总结参考前言线程数基本函数与协助组单指令-多线程执行模式    在伏特架构之前，一个线程束中的线程拥有同一个程序计算器，但各自有不同的寄存器状态，从而可以根据程序的逻辑判
AI、明察秋毫·2023-02-04 12:15

CUDA编程第四章: 全局内存

前言:本章内容：学习CUDA内存模型CUDA内存管理全局内存编程探索全局内存访问模式研究全局内存数据布局统一内存编程最大限度地提高全局内存吞吐量在上一章中，你已经了解了线程是如何在GPU中执行的，以及如何通过操作线程束来优化核函数性能。但是，核函数性能并不是只和线程束的执行有关。回忆一下第3章的内容，在3.3.2节中，把一个线程块最里面一层的维度设为线程束大小的一半，这导致内存负载效率的大幅下降。
Janus_V·2023-01-31 10:04

CUDA编程：矩阵乘运算从CPU到GPU

作者丨kaiyuan@知乎来源丨https://zhuanlan.zhihu.com/p/573271688本文主要介绍用CUDA实现矩阵乘法运算（C=AxB）的几个基本方法，帮助大家理解矩阵在GPU上面的运算与CPU上的有何异同，通过实践上手CUDA的优化计算，相比基础方法，能提速10倍以上。本文内容涉及到CUDA矩阵1D运算、2D运算、共享内存、CUBLAS的使用。文中的全部code：http
深度学习技术前沿·2023-01-30 12:41

【CUDA编程笔记】（2）CPU与GPU之间的参数传递

利用GPU并行计算的的总体思路是：在CPU（Host）中创建数据，将数据传到GPU（Device）中进行计算，再将计算结果传回到CPU中。最简单的例子：将CPU中的两个数字在GPU中进行相加，并在CPU中输出：#include"cuda_runtime.h"#include"device_launch_parameters.h"#include#include__device__intadd_gp
ctrl A_ctrl C_ctrl V·2023-01-30 12:40

CUDA编程（二）

CUDA编程给我的感觉是1.入门很容易，我大概用了一周的时间
zhanglehes·2023-01-29 16:11

CUDA C Programming Guide

CUDACProgrammingGuide1.ProgrammingModel本章介绍了CUDA编程模型背后的主要概念。
凉凉zz·2023-01-27 13:36

CUDA编程 基础与实践 学习笔记（一）

开个坑…用pytorch太不灵活了，学习一下CUDA编程。研究生都第二年了，坚持不下去就有点丢人了奥。书名见标题，樊哲勇老师的著作，清华大学出版社出版。重点看前面十二章。
zkxhlbt·2023-01-21 21:32

CUDA编程笔记（1）

文章目录前言只有主机代码的cuda程序使用核函数的cuda程序cuda里的核函数cuda中的线程组织多个线程的核函数线程索引扩展至多维线程总结参考：前言CUDA编程的学习，需要熟练的掌握C/C++编程的基础及操作系统方面的知识
AI、明察秋毫·2023-01-21 21:29

CUDA编程笔记（2）

文章目录前言1.CUDA的基本框架直接使用c++编写的数组相加的程序使用cuda核函数的数组相加的程序函数执行空间标识符总结参考：前言cuda程序的基本框架1.CUDA的基本框架头文件常量定义（或者宏定义）C++自定义函数和cuda核函数的声明intmain(){a分配主机与设备内存初始化主机中的数据将某些数据从主机复制到设备调用核函数在设备中进行计算将某些数据从设备复制到主机释放主机与设备内存}
AI、明察秋毫·2023-01-21 21:29

CUDA编程笔记（3）

文章目录前言1.CUDA程序运行时的错误检测检测运行错误的头文件检查运行时的CUDA的api函数检查运行时的CUDA的核函数CUDA-MEMCHECK工具总结前言CUDA程序运行时的错误检测1.CUDA程序运行时的错误检测检测运行错误的头文件像一些日志文件，一般检测错误都会编写一个头文件来包含要检测错误api运行的代码。在基础的cuda程序api的运行检错中，前面已经了解了基本所有的cuda的ap
AI、明察秋毫·2023-01-21 21:29

linux cuda 编程指南,CUDA编程指南阅读笔记

3.3内存层次(MemoryHierarchy)在GPU上CUDA线程可以访问到的存储资源有很多，每个CUDA线程拥有独立的本地内存(localMemory)；每一个线程块(block)都有其独立的共享内存(sharedmemory)，共享内存对于线程块中的每个线程都是可见的，它与线程块具有相同的生存时间；同时，还有一片称为全局内存(globalmemory)的区域对所有的CUDA线程都是可访问的
weixin_39575047·2023-01-21 21:59

cuda编程入门笔记

1.HelloCuda一个基本的hellocuda程序包含以下三个部分：GPU函数前加__global__前缀，且核函数必须为void类型调用GPU函数时指定资源:>>使用同步函数#includevoidcpu(){printf("hellocpu\n");}//1.加上__global__前缀__global__voidgpu(){printf("hellogpu\n");}intmain(){
CV科研随想录·2023-01-21 21:59

CUDA编程笔记

前言此前似乎有写过CUDA的demo，不过后来就放弃了，现在打算重新捡回来，在此记录一下hhh序号名称备注0GPU计算DEMO远古笔记Demo1CUDA【1】HelloWorldDemo2CUDA【2】Addcuda的基本函数以及设备函数的概念3CUDA【3】ErrorCheckErrCheck4CUDA【4】获得GPU加速的关键GPU加速
椰子奶糖·2023-01-21 21:28

【CUDA编程笔记】（1）CUDA C 编程入门

参考资料：《CUDA编程基础与实践》樊哲勇清华大学出版社一、上机环境学校机房，windows，VS2019，CUDA10.2，1080Ti二、核函数的概念GPU只是一个设备，想要工作的话就需要CPU主机给它下达命令
ctrl A_ctrl C_ctrl V·2023-01-21 21:26

CUDA编程学习笔记

重要概念在CUDA中，host和device是两个重要概念，用host指代CPU及其内存，用device指代GPU及其内存。典型CUDA程序的执行流程如下：1.分配host内存，并进行数据初始化；2.分配device内存，并从host将数据copy到device上；3.调用CUDA的核函数在device上完成指定的运算；4.将device上的运算结果copy到host上；上面流程中最重要的部分是调
yukaiwen0102·2023-01-21 21:25

cuda编程笔记

####################################################################cuda环境配置第四课####################################################################https://www.bilibili.com/video/BV1kx411m7Fk?p=4&spm_i
qq_29707567·2023-01-21 21:25

cuda编程学习笔记

pycuda环境配置使用pycuda实现cuda编程，首先需要安装pycuda,conda环境下的具体安装代码如下condainstall-cconda-forgepycudacudaMemcpy的用法
mathematican·2023-01-21 21:54

CUDA编程系统性学习笔记(三)：存储优化

对于GPU并行编程稍有了解的同学，应该知道存储优化是多么重要。减少主机端到设备端的数据传输次数，调用具有合适权限的不同种类的存储，优化数据结构与算法在存储中执行，直接决定了并行的效率。本章我们就来谈下如何针对存储的使用进行优化，来提升并行编程的效率。1.端到端的数据传输最小化Host-Device之间的数据传输速度远低于globalmemory，因此需要减少数据传输的频率。一些基本的优化原则包括：
程序猿老甘·2023-01-21 21:53

cuda编程笔记4（记录gpu耗时）

目录记录GPU运行时常记录GPU运行时常#include"stdio.h"#include#include#include#include"device_launch_parameters.h"intmain(void){//-----------------------------------------------记录时间------------------------------------
LEDyexu·2023-01-21 21:52

CUDA编程笔记（4）

文章目录前言1.CUDA的计时程序2.CUDA程序的计时影响GPU加速的关键总结前言怎么才能看出使用cuda编程，提高了程序的性能，一般都是通过比较程序运行的时间来验证。
AI、明察秋毫·2023-01-21 21:50

使用Visual Studio编写CUDA程序时提示Error（E0029）:应输入表达式的解决方案

先说一下环境：VisualStudio2017+CUDA10.1最近在学CUDA编程，有个程序老是提示这个错误：搜索了很久，网上众说纷纭，有的说是驱动版本有问题，有的说是CUDA跟vs2017的兼容性不好等等
lengmo1996·2023-01-19 04:54
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他