Cuda编程

CUDA编程入门系列（八） 内存管理示例代码

#include#includetypedefdoubleFLOAT;__global__voidsum(FLOAT*x){inttid=threadIdx.x;x[tid]+=1;}intmain(){intN=32;intnbytes=N*sizeof(FLOAT);FLOAT*dx=NULL,*hx=NULL;inti;/*allocateGPUmem*/cudaMalloc((void**
我来了！！！·2023-10-20 04:16

CUDA编程入门系列（二） GPU硬件架构综述

一、FermiGPUFermiGPU如下图所示，由16个SM（streammultiprocessor）组成，不同的SM之间通过L2Cache和全局内存进行相连。整个架构大致分为两个层次，①总体架构由多个SM组成②每个SM由多个SPcore（streamprocessor）组成。SP之间通过互连的网络和L1Cache和WarpScheduler等结构进行相连。二、GT200体系架构下图为GT200
我来了！！！·2023-10-20 04:14

CUDA编程模型- 层次结构

当我们谈到CUDA编程模型时，我们首先要考虑的是其线程执行层次结构。这种层次结构起始于一个被称为kernel的函数，当它在GPU上执行时，会以大量并行线程的形式被实例化。
青衫客36·2023-10-19 18:49

CUDA从入门到精通 - Augusdi的专栏 - 博客频道 - CSDN.NET

article/details/12833235CUDA从入门到精通-Augusdi的专栏-博客频道-CSDN.NETCUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA
weixin_30906671·2023-10-17 19:17

VScode+cuda编程：常见环境问题

VScode+cuda：常见环境配置问题1、VScode终端问题(PS)2、编译问题(CUDA版本过低)3、nvcc编译问题(arch架构)1、VScode终端问题(PS)问题描述：在VScode下打开终端执行nvcc指令，发现执行不了，但是在外部终端powershell和cmd都可以。发现PS问题问题现象：PSD:\CUDA_test>nvcc-arch=sm_80-ohello-gpuhell
北北鸿·2023-10-17 02:46

Cuda配置-02 VS环境配置

说明要进行CUDA编程开发就必须安装CUDA驱动，CUDA驱动的硬件条件为英伟达显卡以及对应的驱动软件。一般进行CUDA编程开发的操作系统主要是两种：Windows操作系统和Linux操作系统。
梦星辰.·2023-10-17 02:16

Ubuntu20.04（arm架构）系统在vscode中配置cuda+c/c++编程环境

1、环境介绍在linux系统中安装vscode后配置cuda+c/c++编程环境进行学习cuda编程，笔者使用的arm架构的jetsonagxorin开发套件，其中已经安装好的cuda11，cudnn,
m0_61133217·2023-10-17 02:12

CUDA编程学习2——IDE配置（VSCode版_远程SSH）

目录背景实际配置步骤后续IDE配置参考：背景VSCode远程SSH协议操作Linux服务器的使用关系如下图：下载vscode，安装插件下载VSCode有个小插曲，原网址VSCode的官方网址下载很慢，于是使用国内镜像源下载；首先进入vscode官方网站然后选择对应版本下载；然后进入浏览器下载页面；复制下载链接粘贴到地址栏；将地址中的/stable前换成vscode.cdn.azure.cn；即可实
Mr_yangsc·2023-10-17 02:41

配置VScode开发环境-CUDA编程

如果觉得本篇文章对您的学习起到帮助作用，请点赞+关注+评论，留下您的足迹本文主要介绍VScode下的CUDA编程配置，因此记录以备日后查看，同时，如果能够帮助到更多人，也不胜荣幸。
权双·2023-10-17 02:09

深度学习部署笔记(三): GPU架构解析 + CUDA编程基础

1.GPU架构这篇博客讲的很好了https://blog.csdn.net/asasasaababab/article/details/80447254CUDACore:表示在GPU设备上执行的核心数量,表示在GPU设备上执行的核心数量CUDASM:StreamingMultiprocessor,SM是一个独立的处理器单元，具有自己的流处理器和寄存器文件，可以同时执行多个线程。在一个GPU中可能会
智障学AI·2023-10-16 15:15

CUDA在VS下编程出现MSB3721错误

CUDA在VS下编程出现MSB3721错误一、错误示范二、解决方式一、错误示范我们在VS环境下进行CUDA编程的时候可能会出现如下MSB1721的错误二、解决方式首先确保好是在x64平台下运行：确定无误然后如果还有问题的话
weixin_45566134·2023-10-15 18:18

CUDA编程模型系列九( topK 问题/规约/2_Pass核函数)

CUDA编程模型系列九(topK问题/规约/2_Pass核函数)CUDA编程模型系列九(topK问题/规约/2本系列视频目的是帮助开发者们一步步地学会利用CUDA编程模型加速GPU应用,我们的口号是:让
扫地的小何尚·2023-10-14 10:39

CUDA编程模型系列十( CUDA Stream / CUDA 流 / 多流执行)

CUDA编程模型系列十(CUDAStream/CUDA流/多流执行)本系列视频目的是帮助开发者们一步步地学会利用CUDA编程模型加速GPU应用,我们的口号是:让GPU飞起来本期我介绍了CUDA中Stream
扫地的小何尚·2023-10-14 10:39

cuda编程 常见面试题

cuda文件编译的流程：CUDA（ComputeUnifiedDeviceArchitecture）文件的编译过程涉及到将CUDAC/C++代码转化为可在NVIDIAGPU上执行的可执行代码。以下是CUDA文件编译的基本流程：源代码编写：首先，您需要编写包含CUDA核函数的源代码文件。CUDA核函数是在GPU上执行的函数，通常在代码中以__global__修饰符来声明。选择目标架构：您需要确定要针
运气好到爆·2023-10-12 21:02

宏定义中的反斜杠"\"和宏定义的细节说明

最近在学习CUDA编程，于是写了如下代码：#defineCHECK(call)\{\constcudaError_terror=call;\if(error!
Wonshington·2023-10-10 15:56

【高性能计算】CUDA编程之OpenCV的应用（教程与代码-4）//test error

imread命令将返回以蓝色、绿色和红色（BGR格式）开头的三个通道处理视频的main函数中需要做的第一件事是创建VideoCapture对象。GPUCUDA模块中的函数都定义在cv::cuda命名空间中，将设备上配置给图像数据用的显存块作为其参数。gettickcount函数返回启动系统后经过的时间（以毫秒为单位）使用具有CUDA的opencv进行阈值滤波#include#include"ope
感知算法工程师·2023-10-07 08:51

CUDA编程——设备属性的使用

根据cudaGetDeviceCount()和cudaGetDeviceProperties()中返回的结果，我们可以对每个设备进行操作。代码如下:intmain(void){cudaDevicePropprop;intdev;cudaGetDevice(&dev);printf("IDofcurrentCUDAdevice:%d\n",dev);memset(&prop,0,sizeof(cud
学而思勉·2023-10-06 15:11

CUDA C编程权威指南：1.1-CUDA基础知识点梳理

  主要整理了N多年前（2013年）学习CUDA的时候开始总结的知识点，好长时间不写CUDA代码了，现在LLM推理需要重新学习CUDA编程，看来出来混迟早要还的。
NLP工程化·2023-10-05 05:06

CUDA C编程权威指南：1-基于CUDA的异构并行计算

CUDA编程难吗？干就是了。一.异构架构编程思维1.异构架构  一个典型的
NLP工程化·2023-10-05 04:54

CUDA编程-01： 搭建CUDA编程环境

CUDA简介CUDA是英伟达开发的一种并行计算平台和编程模型，使用它可以让编程人员非常方便地利用GPU强大的算力。支持CUDA的GPU有数百个内核，可以同时运行数千个计算线程，这些内核拥有共享的资源，包括寄存器文件和共享内存，片上共享内存允许在这些内核上运行的并行任务共享数据而无需通过系统内存总线发送数据。CUDA基于以下设计目的进行开发：为标准编程语言（C/C++）提供一小组扩展支持并行算法的直
DeepDriving·2023-10-04 10:26

centos7 cuda测试_cuda编程学习之路（1）：centos7下cuda7.5环境搭建

一、PRE-installation-action工欲善其事必先利其器，在安装显卡驱动及cuda环境搭建之前，必须先走完以下步骤：*计算机是否有Nvidia出厂的GPU。(cuda是Nvidia自己推出的，各硬件厂商专为自家产品打造)*计算机所运行的Linux版本是否被CUDA所支持。*计算机是否安装gcc和GNUtoolchain开发包。*检查是否有正确的kernelheaders。*下载NVI
weixin_39697660·2023-10-04 10:26

GPU编程(一): Ubuntu下的CUDA8.0环境搭建

nouveau安装驱动安装CUDA8.0第一个CUDA程序向世界问好最后前言在Linux下安装驱动真的不是一件简单的事情,尤其是显卡驱动,一失败直接进不去系统都是很可能的.我在经历了无数折磨之后终于搭起了CUDA
seandepp·2023-10-04 10:54

ubunt 上进行c++ cuda编程

目录概述cmake代码：头文件代码：头文件对应的cuda代码实现：c++的代码：运行结果参考资料概述首先先通过一个简单的demo来演示cuda编程是怎么进行的。
谢大旭·2023-10-04 10:23

[人工智能-深度学习-41]：开发环境 - GPU进行训练安装与搭建（Pytroch、TensorFlow、Nvidia CUDA）详细过程

的博客_文火冰糖的硅基工坊_CSDN博客本文网址：https://blog.csdn.net/HiWangWenBing/article/details/121241620目录第1章英伟达NvidiaCUDA
文火冰糖的硅基工坊·2023-10-04 10:22

CUDA编程(二): Ubuntu18.04LTS下的CUDA10.0环境搭建

nouveau安装驱动安装CUDA8.0第一个CUDA程序向世界问好最后前言在Linux下安装驱动真的不是一件简单的事情,尤其是显卡驱动,一失败直接进不去系统都是很可能的.我在经历了无数折磨之后终于搭起了CUDA
Damon_X·2023-10-04 10:52

【CUDA编程概念】一、什么是bank conflict？

前言搜了不少答案，大多是在避免BankConflict，很难找到一个关于BankConflict的详细定义，这里找了些资料来尝试解释下；一、基础概念先简单复习下相关概念GPU调度执行流程：SM调度单位为一个warp（一个warp内32个Thread）GPU存储层次：shared_memory可以被一个warp中的所有（32个）线程进行访问sharedmemory内部划分成Bank，一个Bank大小
likewind1993·2023-10-01 09:18

flash attention的CUDA编程和二维线程块实现softmax

本文参考了链接添加链接描述flashattention介绍flashattention的介绍可以参考论文：FlashAttention:FastandMemory-EfficientExactAttentionwithIO-Awareness，具体的数学公式参考下面这个图片：其中注意关于矩阵S有两个维度，softmax的操作维度是dim=1，用pytorch表示就是torch.softmax(S,
Galerkin码农选手·2023-09-20 20:57

expand，where和softmax算子的cuda编程

expand和where介绍当谈到Torch中的expand函数时，我们实际上是指PyTorch（Torch的Python接口）中的expand方法。下面是对expand方法和where函数的介绍，包括它们的输入和输出：expand方法：torch.Tensor.expand()是PyTorch中Tensor类的一个方法，用于扩展张量的维度。输入：input是要扩展的张量，size是一个元组，指定
Galerkin码农选手·2023-09-20 20:57

softmax的cuda编程详细解读——算子融合

softmax介绍在上一篇博客我们介绍了softmax的内容以及相关的编程实现，总结一下softmax的特点如下：（没有特殊说明的情况下，考虑的仍然只是1D向量xxx）1：获得向量的全局最大值M2：针对向量x^={exp⁡(xi−
Galerkin码农选手·2023-09-20 20:57

C++学习|CUDA内存管理代码实例

前言：之前介绍了CUDA入门知识，对CUDA编程有了一个基本了解，但是实际写起来还是遇到很多问题，例如cpp文件该怎么调用cuda文件、cpu和gpu之间内存数据怎么交换、如何编写.cu和.cuh文件之类的
魔法自动机·2023-09-19 18:21

C++学习|CUDA编程入门

CUDA编程入门GPU介绍CUDA介绍NVCC——CUDA编译器cu/cuh文件——CUDA文件核函数——操作GPU线程模型——CUDA逻辑结构CUDA程序运行流程CUDA内存管理GPU介绍GPU（GraphicsProcessingUnit
魔法自动机·2023-09-19 18:21

3. Error Handle和获取硬件信息

3.CUDAErrorHandle一个良好的cuda编程习惯里，我们习惯在调用一个cudaruntimeapi时，例如cudaMalloc()cudaMemcpy()我们就用errorhandler进行包装
智障学AI·2023-09-14 07:37

VSCode之C++ & CUDA极简环境配置

背景想要了解CUDA并行计算原理，同时针对深度学习中出现一些“不支持算子”可能需要手写的需要，配置一个简单的CUDA编译环境，探索CUDA编程的范式【注：CUDA环境配置略】。
qq_37172182·2023-09-03 06:13

cuda编程常见问题

cuda环境配置参考链接https://blog.csdn.net/weixin_43788327/article/details/125823507?spm=1001.2014.3001.5506疑难问题在学习《GPU高性能编程CUDA实战》这本书时，发现书里面的代码很多变量都没定义过，经过搜索发现这都是书上自带的代码。代码相关文件的下载连接如下：https://github.com/Coded
叫我Zane·2023-09-02 21:24

【NVIDIA CUDA】2023 CUDA夏令营编程模型（二）

博客内容主要围绕：5G/6G协议讲解算力网络讲解（云计算，边缘计算，端计算）高级C语言讲解Rust语言讲解文章目录CUDA编程模型——共享内存一、多种CUDA存储单元介绍1.1共享内容
从善若水·2023-09-02 12:51

CUDA编程实战(使用Sobel算子对rgb图片进行边缘检测)

写在前面，本篇文章为一个CUDA实例，使用GPU并行计算对程序进行加速。如果不需要看环境如何配置，可以直接到看代码部分:点击直达关于如何更改代码和理解代码写在这个地方:点击直达运行环境：系统:windows10专业版显卡:NVIDIA1050Ti软件环境:VS2019,NVIDIACUDA,Opencv写在前面:因为本篇文章记录的是CUDA的实例，所以默认已经安装了CUDA和OpenCV的环境，所
SpongeBob@Hefei·2023-08-26 21:11

使用Visual Studio进行cuda编程配置环境四大坑(附解决方案)

写在前面，用于没有使用过VisualStudio进行cuda编程的同学看，以免在安装环境的时候踩到坑第一坑：CUDA版本与NVIDIA显卡版本不匹配问题:安装cuda版本坑，强烈建议看下自己的显卡支持什么版本的
SpongeBob@Hefei·2023-08-26 21:40

cuda编程002—流

没有使用同步的情况：#include#include__global__voidtest_kernel(){printf("MessagefromDevice.\n");}voidtest(){test_kernel>>();}#include#includevoidtest();intmain(){test();printf("MessagefromHost.\n");getchar();ret
Little__Black·2023-08-25 07:03

python编程中fft的优缺点，以及如何使用cuda编程，cuda并行运算，信号处理（推荐）

A.python中cuda编程的库主要有：cupy、pycuda1，区别如下：支持的GPU平台：PyCUDA：PyCUDA是一个用于在Python中编写CUDA代码的库。
鼾声鼾语·2023-08-23 11:40

cuda编程day001

一、环境：①、linuxcuda-11.3opecv4.8.0不知道头文件和库文件路径，用命令查找：#find/usr/local-namecuda.h2>/dev/null#查询cuda头文件路径/usr/local/cuda-11.3/targets/x86_64-linux/include/cuda.h#find/usr/local-namelibcudart.so2>/dev/null#查
Little__Black·2023-08-23 07:17

CUDA编程之GPU图像数据结构的设计

第1章GPU图像数据结构参考OpenCV中Mat和GpuMat的设计，对当前Image类设计了GPU版本，即GPUImage。1.1.GPU图像头设计图像头。structGPUImageHeader{int32_tnWidth=0;//宽度int32_tnHeight=0;//高度int16_tnChannel=0;//通道数int32_tnRefCount=0;//引用计数void*pImage
仟人斩·2023-08-20 18:25

cuda学习

cuda是用于在英伟达gpu上编程的编译器和工具支持gpu的异构计算cudaAPI扩展了c/c++编程语言快速SIMD并行性从硬件上提供了高级别的抽象cuda编程流程从host端将数据拷贝到device
摆渡人001124·2023-08-12 00:36

CUDA编程

银河系CUDA编程指南(3)——矩阵乘法的分块实现银河系CUDA编程指南(3)——矩阵乘法的分块实现-知乎0写在前面前面一节实现了一个朴素的GPU矩阵乘法，效果和使用cublas库差距极大。
a flying bird·2023-08-10 09:18

推荐几个不错的CUDA入门教程

推荐几个不错的CUDA入门教程（非广告）-阿里云开发者社区推荐几个不错的CUDA入门教程（非广告）https://new-developer.aliyun.com/article/1235987CUDA
a flying bird·2023-08-10 09:18

CUDA C++ Programming Guide(Version 10.0) —— 2. Programming Model

CUDA编程-ProgrammingModelKernelsThreadHierarchy（线程层次结构）MemoryHierarchy（内存层次结构）HeterogeneousProgramming(
Axiiiz·2023-08-10 03:42

CUDA C++ PROGRAMMING GUIDE CH2 PROGRAMMING MODEL

这一章主要介绍CUDA编程模型的主要概念，详细描述在第三章：programminginterface里。
wineandchord·2023-08-10 03:12

CUDA C++ Programming Guide(Version 10.0) —— 1. Introduction

CUDA编程-Introduction从图像处理到通用并行计算CUDA是NVIDIA提出的一个通用并行编程平台可扩展的编程模型从图像处理到通用并行计算图1.CPU和GPU的每秒浮点运算图2.CPU和GPU
Axiiiz·2023-08-10 03:12

《CUDA C++ Programming Guide》阅读笔记（每页要点总结）

学习CUDA编程。最终要达到啥效果呢，希望可以读懂cudasift的源码。
Jiangnan_Cai·2023-08-10 03:12

cuda系列详细教程

同时，面对市场诸多教程与诸多博客岑子不起的教程或高昂教程费用，使读者(特别是小白)容易迷糊，无法快速入手CUDA编程，实现工程化。因此，我将结合我的工程实战经验，我将在本专栏实现CUDA系列教程，帮
tangjunjun-owen·2023-08-09 01:39

浅析GPU计算——CPU和GPU的选择

所以我希望能写出一篇可以体现技术脉络感的文章，让读者可以比较容易理解该技术，并可以感悟到cuda编程设计及优化的原理。（
笑火云天·2023-08-08 14:25
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他