Gpu

CUDA学习笔记（七）Kernel性能调节

代码准备下面是我们的kernel函数sumMatrixOnGPUD：__global__voidsumMatrixOnGPU2D(fl
我来了！！！·2023-10-22 15:22

影响stable diffusion的embedding训练效率的部分问题和拟解决办法

（小细节）关于图片大小影响未知，电脑配置不够，试过云环境：配置是13RAM，15GPU，78G磁盘以微量关键词，使用一个训练的model做正向，没有反向关键词，面部以及高清修复，39采样，8.5相关
羽墨link·2023-10-22 14:44

flash attention 2论文学习

优化点主要如下：一、减少non-matmulFLOPsA00中由于tensorcore的存在，使得gpu对于浮点矩阵运算吞吐很高，如FP16/BF16可以达到312TFLOPs/s，而对于非矩阵乘的浮点运算吞吐较低
KIDGINBROOK·2023-10-22 13:13

NVIDIA NCCL 源码学习（一）- 初始化及ncclUniqueId的产生

NCCL是英伟达开源的GPU通信库，支持集合通信和点对点通信看下官方给的一个demo#include#include"cuda_runtime.h"#include"nccl.h"#include"mpi.h
KIDGINBROOK·2023-10-22 13:42

NVIDIA NCCL 源码学习（十一）- ring allreduce

单机搜索ring在nccl初始化的过程中会分析机内拓扑，建立CPU，GPU，网卡等PCI节点的拓扑图，并基于这个图搜索一系列的channel，假设单机内执行ncc
KIDGINBROOK·2023-10-22 13:41

机器学习——利用jupyter-notebook实现工资预测

本文开发环境tensorflow-gpu-2.6.0miniconda但其实大家一般都在pycharm里面写，这个只是为了了解一下这种写法
重邮研究森·2023-10-22 13:35

自然语言处理---Transformer模型

Transformer概述相比LSTM和GRU模型，Transformer模型有两个显著的优势：Transformer能够利用分布式GPU进行并行训练，提升模型训练效率。
lichunericli·2023-10-22 13:28

如何将PyTorch模型迁移到昇腾平台

PyTorch是业界流行的深度学习框架，用于开发深度学习训练脚本，默认运行在CPU/GPU上。为了使这些脚本能够利用昇腾AI处理器的强大算力执行训练，需要对PyTorch的训练脚本进行迁移。
昇腾CANN·2023-10-22 13:51

『ARM』和『x86』处理器架构解析指南

但是如果继续问大家是否了解ARM和X86架构，他们的区别又是什么，相信可能部分人就会哑口无言了目前随着深度学习、高性能计算、NLP、AIGC、GLM、AGI的技术迭代，助力大模型快速发展，对于多元算力结合（CPU+GPU
ReturnTmp·2023-10-22 13:04

1 - 进程 - Windows 10 - Python - multiprocessing - 简单多进程切换、进程传参、异步进程、守护进程(进程睡眠/堵塞和线程堵塞的区别)、主/子进程区分

七、关于多进程必须加上`if__name__=="__main__"`的理由(进程区分)：八、JupyterNotebook与进程区分的关联九、关于多进程与GPU的关系参考链接测试环境：操作系统：Window10
沐 修·2023-10-22 12:18

使用恒源云GPU进行远程训练

最近同学参加比赛需要使用云GPU，经过比对多个云GPU平台，从价格和GPU可用稳定性上，最终选择了恒源云，我购买使用了一下，可以支持一场Kaggle比赛或者实验论文没有问题，大家可以按照步骤进行操作，记录下来
cskywit·2023-10-22 12:54

nvcc -V和nvidia-smi的关系

nvcc-V和nvidia-smi都与NVIDIAGPU相关，但它们提供的信息和功能有所不同。nvcc-V:nvcc是NVIDIACUDA编译器的命令，用于获取CUDA工具包的版本信息。
重剑DS·2023-10-22 12:36

拨开算力的迷雾：聊聊不同 GPU 计算能力的上限

文|卜居@知乎编|兔子酱通过深入了解自己手头GPU的计算能力上限，能够在买新卡时做出更理性判断。本文深入GPU架构，重点介绍了其中的ampere架构。
夕小瑶·2023-10-22 10:22

java 异构类型_TornadoVM：在异构硬件上运行Java程序

java异构类型几乎所有计算系统中都存在异构硬件：我们的智能手机包含中央处理器（CPU）和具有多个内核的图形处理单元（GPU）；我们的笔记本电脑很可能包含带有集成GPU和专用GPU的多核CPU；数据中心正在向其系统添加附加的现场可编程门阵列
diluan6799·2023-10-22 10:16

Linux & Windows 的Tensorflow 配置: Nvidia 老显卡运算能力低于3.0

实测成功配置信息1：Windows10，GT755m,Capability3.0Ana(Mini)conda管理，环境Python3.6(.13)Cuda=9.0Cudnn=7.0Tensorflow_gpu
Zhenghaowencsdn·2023-10-22 10:14

问题记录：GPU显卡提高后，代码总体运行效率没有提高

问题：GPU显卡提高后，代码总体运行效率没有提高原先显卡NIVIDAT400换成NVIDIARTXA4000，CUDA核心（物理GPU线程单位）从三百多提升到了六千多，但是程序总体运行的时间没有变化。
魔法自动机·2023-10-22 10:43

GitHub 上排名前 100 的 IOS 开源库简介

这个便是其中之一,AFNetworking采用NSURLConnection+NSOperation,主要方便与服务端API进行数据交换,操作简单,功能强大,现在许多人都用它取代ASIHTTPRequestGPUImage
孙卓卓·2023-10-22 08:07

UserWarning: Failed to load image Python extension: warn(f“Failed to load image Python extension: {e

EmbeddedSystems/JetsonAGXOrin-NVIDIADeveloperForums原因可能是从yolo5内文件requirements.txt下载的下载的并且无法支持nvidia定制的gpupip3install-rrequirements.txtWARNING
无证驾驶梁嗖嗖·2023-10-22 06:27

CUDA学习笔记（LESSON5）——GPU优化

CUDA系列笔记CUDA学习笔记（LESSON1/2）——架构、通信模式与GPU硬件CUDA学习笔记（LESSON3）——GPU基本算法（PartI）CUDA学习笔记（LESSON4）——GPU基本算法
Veropatrinica·2023-10-22 06:25

CUDA学习笔记（LESSON1/2）——架构、通信模式与GPU硬件

最近在看视频拼接的代码，师兄说要用CUDA加速，于是开始学习CUDA编程，课程链接：UdacityCS344CUDA系列笔记CUDA学习笔记（LESSON1/2）——架构、通信模式与GPU硬件CUDA学习笔记
Veropatrinica·2023-10-22 06:24

CUDA学习笔记（四）device管理

device管理NVIDIA提供了集中凡是来查询和管理GPUdevice，掌握GPU信息查询很重要，因为这可以帮助你设置kernel的执行配置。
我来了！！！·2023-10-22 06:24

cuda学习笔记

一、cuda的替代选择OpenCL：允许使用多种计算设备的开放标准，计算设备可以是GPU，CPU或者其他存在OpenCL驱动程序的专业设备DirectCompute：微软开发的可替代Cuda和OpenCl
renlubo-qingdao·2023-10-22 06:24

【CUDA编程】学习笔记（二） GPU硬件架构

一、CPU与GPU的链接模型在计算机的硬件架构中，CPU与GPU有多种链接模式，下面介绍几种典型的架构北桥多CPU（SMP）多CPU（NUMA）多CPU（NUMA）多总线具有集成PCIExpress的多
Swocky·2023-10-22 06:21

CUDA编程模型与GPU硬件结构关系

目录一、CUDA编程模型1、线程管理2、内存管理二、GPU硬件结构1、SM硬件2、硬件逻辑抽象2.1共享内存的逻辑划分2.2寄存器的逻辑划分2.3GPU内存分级3、CUDA程序的一些优化点3.1一个core
Hunter_pcx·2023-10-22 06:50

CUDA并行程序设计 GPU硬件架构与线程 学习笔记

GPU硬件架构GPU实际上是一个SM的阵列，每个SM包含若干个SP。一个SP可以执行一个thread，但是实际上并不是所有的thread能够在同一时刻执行。
Morizen·2023-10-22 06:50

CUDA学习笔记（五）GPU架构

GPU架构SM（StreamingMultiprocessors）是GPU架构中非常重要的部分，GPU硬件的并行性就是由SM决定的。
我来了！！！·2023-10-22 06:17

小土堆-pytorch-神经网络-完整的验证套路16_笔记

模型的保存:当你在cpu上使用gpu训练的模型时model=torch.load(r"E:\pycharm\Py_Projects\logs\tudui_2.pth")改为(就是把gpu训练完的东西映射到
Beginner x_u·2023-10-22 06:46

Spring Boot使用@Scheduled定时器任务

importorg.springframework.scheduling.annotation.EnableScheduling;@SpringBootApplication@EnableSchedulingpublicclassApplication
尔卿·2023-10-22 05:45

SpringBoot中@Scheduled定时器的时间

一启动类中@EnableScheduling开启定时器@SpringBootApplication@EnableCaching@EnableSchedulingpublicclassRedisApplication
啦啦啦咯咯咯·2023-10-22 05:15

Linux下安装LightGBM-GPU版本

no-install-recommendsgitcmakebuild-essentiallibboost-devlibboost-system-devlibboost-filesystem-dev安装库pipinstallsetuptoolswheelnumpyscipyscikit-learn-U安装GPU
loserChen.·2023-10-22 05:34

今日思考（2） — 训练机器学习模型用GPU还是NUP更有优势（基于文心一言的回答）

前言深度学习用GPU，强化学习用NPU。1.训练深度学习模型，强化学习模型用NPU还是GPU更有优势在训练深度学习模型时，GPU相比NPU有优势。
笑傲江湖2023·2023-10-22 04:24

浏览器的渲染机制

调用GPU绘制，合成图层，显示在屏幕上。在构建CSSOM树时，会阻塞渲染，直至CSSOM树构建完成。
嚣张农民·2023-10-22 00:28

pytorch一机多卡训练

1.一机多卡（onematchinemulti-GPU）1.1DataParallelDataParallel（DP）：ParameterServer模式，一张卡位reducer，实现也超级简单，一行代码
绛洞花主敏明·2023-10-22 00:46

Pytorch 实现 DistributedDataParallel 操作

一、DataParalle缺点Pytorch单机多卡（GPU）运行的基本方法是使用torch.DataParlle（）函数，具体操作参考：其主要原理：假设有四个GPU，batch_size=64，input_dim
Cosmos Tan·2023-10-22 00:44

DistributedDataParallel数据不均衡

问题在进行模型训练时，由于数据不均衡，导致不同GPU
weixin_43870390·2023-10-22 00:44

CUDA编程- 瓦片（Tiling）技术

这些小块的大小通常与GPU的共享内存大小相匹配，以便可以完全加载到共享内存中。2.为什么使用瓦片技术？共享内存比全局内存访问速度要快得多，但它是有限的和宝贵的资源。利用共享内存可以减少全局内存的访
青衫客36·2023-10-21 22:27

Unity3D 在做性能优化时怎么准确判断是内存、CPU、GPU瓶颈详解

Unity3D是一款广泛应用于游戏开发的跨平台游戏引擎，但在开发过程中，我们经常会遇到性能瓶颈问题，如内存、CPU和GPU瓶颈。
Clank的游戏栈·2023-10-21 19:22

【CUDA】nvcc和nvidia-smi显示的版本不一致？

CWForeword:CW近日在自己的机子上发现，nvcc--version和nvidia-smi显示出来的CUDA版本不一致，其中前者显示的版本是10.2，而后者是11.0，但是深度学习相关的程序是能正常跑的，期间GPU
CW不要无聊的风格·2023-10-21 19:32

大模型必备算力：CPU&GPU天梯图（2023年最新版）

在当今计算机世界，CPU、GPU和显卡的性能成为了衡量计算机性能的重要指标。今天深入了解CPU、GPU和显卡天梯图。首先，CPU作为计算机的大脑，负责处理各种任务。
机器学习社区·2023-10-21 18:35

基于Pytorch的CNN手写数字识别

首先导入必要的库，设置训练的设备（gpu或cpu），设置训练的轮次（epoch），然后设置数据集train_data、test_data，并使用torchvisi
nice-wyh·2023-10-21 17:29

2018-08-23

摇啊摇，摇到外婆桥5、沪上著名作家畸笔叟（微信号：bigpumpkins）做客《筷樂書房》，趣谈上海名堂经6、来宾欢快互动，筷樂一刻，畸笔叟应邀签售他的新作《
筷樂書房·2023-10-21 15:23

【技术分享】RK356X Ubuntu 推流USB摄像头

研发的一款高性能低功耗的智能主板，采用四核A55,主频高达1.8GHz，专为个人移动互联网设备和AIOT设备而设计，内置了多种功能强大的嵌入式硬件引擎，为高端应用提供了优异的性能，支持几乎全格式的4K编解码，内置3DGPU
Industio_触觉智能·2023-10-21 14:28

pytorch 入门 （三）案例一：mnist手写数字识别

本文为小白入门Pytorch内部限免文章本文为小白入门Pytorch中的学习记录博客参考文章：【小白入门Pytorch】mnist手写数字识别原作者：K同学啊目录一、前期准备1.设置GPU2.导入数据3
大地之灯·2023-10-21 12:08

lombok 基础注解之 @CustomLog

默认值为“”，方法默认参数为当前类的全限定名三、实战演练@CustomLogpublicclass陈钰琪{publicstaticvoidmain(String[]args){log.inf
笑看烟雨红尘·2023-10-21 12:33

深度学习 Day26——利用Pytorch实现天气识别

深度学习Day26——利用Pytorch实现天气识别文章目录深度学习Day26——利用Pytorch实现天气识别一、前言二、我的环境三、前期工作1、导入依赖项和设置GPU2、导入数据3、划分数据集四、构建
-北天-·2023-10-21 12:49

python联邦学习syft实现线性回归

16001615:17@Auth：yeqc"""'''基于信任的联邦线性回归案例'''importtorchimportsyftassyfromtorchimportnn#TODO:目前是CPU模式，等以后会用到GPU
安心不心安·2023-10-21 10:38

提示：The size of tensor a (3) must match the size of tensor b (9) at non-singleton dimension 0 #165

一、背景：执行BLIPblip_model.generate(gpu_image,sample=True,num_beams=3,max_length=20,min_length=5)生成提示时候产生错误提示如上二
君臣Andy·2023-10-21 09:05

cuda PyTorch

1.GPU对应的CUDA版本nvidia-smiCUDAVersion:12.2GPUdiver大于cudatoolkit，pytorch版本根据cudatoolkit2.查看nvcc的版本（即cudatoolkit
破壁者-燕·2023-10-21 07:24

解决报错：RuntimeError: “LayerNormKernelImpl“ not implemented for ‘Half‘

2.解决办法2.1方法1使用更高精度的数据类型：如果可能的话，尝试使用更高精度的数据类型，如’Float’（32位浮点数）或’Double’（64位浮点数）2.2方法2将模型迁移到GPU上进行。mod
莫余·2023-10-21 06:09

解决chrome浏览器不能播放H265视频播放问题（1是windows系统显卡不支持H265硬件解码，2是浏览器和操作系统之间可能存在兼容性问题（浏览器版本太旧））DXVA Checker、GPU-Z

**GPU-Z**3.
Dontla·2023-10-21 05:56
上一页 67 68 69 70 71 72 73 74 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他