GPU高性能编程第4页

计算机四个方面：计算、存储、通信与程序；操作系统

CPU和GPU信息：lscpu：显示CPU的架构信息。cat/proc/

loong_XL·2024-08-22 07:06

java与python-java和python的比较

python干活，需求再学习python各种库，pyhton的强壮在于库，为什么python的库强壮，原因是python的库能够用python，c言语,c++等规划，再提供给python运用，所以无论gpu

weixin_37988176·2024-08-22 05:52

DeepSpeed与Megatron的区别和联系

DeepSeedDeepSeed代表性功能MegatronMegatron代表性功能备注GPU底层优化有开创性的全栈GPU内核设计FP6量化更牛逼FusedCUDAKernels毕竟Megatron是Nvidia

爱串门的小马驹·2024-08-22 04:16

bigbig猩猩·2024-08-21 23:15

大模型的学习 LLaMa和ChatGLM，minichatgpt4

NLU（自然语言理解）任务效果很好，单卡GPU可以部署，速度快，V100GPU下1秒能处理2千条以上。ChatGLM-6B,

贝猫说python·2024-03-27 07:55

@llvm.amdgcn.workitem.id.x()引发的一些前后端的调研

记录资料：UserGuideforAMDGPUBackend—LLVM5documentationintrinsic函数会执行lowerintrinsicspassllvm-project-main/llvm

jc小小川+幻幻融hr·2024-03-25 05:50

CUDA——内存

内存形式静态全局内存#include#include__device__floatdevData;//-GPU静态变量（所有设备代码均可见，主机代码不允许直接访问）__global__voidcheckGlobalVariable

UCAS_HMM·2024-03-25 04:19

2024最新华为OD机试试题库全 -【执行时长】- C卷

1.题目详情1.1⚠️题目为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1秒内新增的任务个数且每秒都有新增任务。

算法小叮当·2024-03-20 19:32

MATLAB使用OMP实现图像的压缩感知实例

OMP（OrthogonalMatchingPursuit）是一种用于稀疏信号恢复的迭代算法。它的目标是从一组测量值中重建具有少量非零元素的信号。

superdont·2024-03-18 09:16

加速 PyTorch 模型预测常见方法梳理

目录1.使用GPU加速2.批量推理3.使用半精度浮点数(FP16)4.禁用梯度计算5.模型简化与量化6.使用TorchScript7.模型并行和数据并行结论在使用PyTorch进行模型预测时，可以通过多种方法来加快推理速度

samoyan·2024-03-17 16:54

数据科学简讯 2023-04-14

他购买了大约10,000个GPU，并且一直在聘请AI专家，同时探索与ChatGPT竞争的可能性。Twitter的这种生成式AI的确切用途尚不清楚，但它有可能用于增强搜索功能或广告。

数科每日·2024-03-17 09:53

tang-0203·2024-03-16 22:30

【深度学习笔记】1 数据操作

然而，Tensor提供GPU计算和自动求梯度等更多功能，这些使

RIKI_1·2024-03-16 02:02

阿里云分布式深度学习训练架构Whale

阿里云分布式深度学习训练架构Whale参考文献Whale基于Tensorflow深度学习分布式训练框架|学习笔记Whale:EfficientGiantModelTrainingoverHeterogeneousGPUs

qwfys200·2024-03-14 07:30

深度学习踩坑记录（持续更新）

TrainingArguments时output_dir指定问题4060显卡cuda版本异常环境：torch1.11.0+cu113程序报错RuntimeError:nvrtc:error:invalidvaluefor--gpu-architecture

芒果不茫QAQ·2024-03-13 15:39

RuntimeError: (PreconditionNotMet) The third-party dynamic library (cublas64_102.dll；cublas64_10.dll

(cublas64_102.dll;cublas64_10.dll)thatPaddledependsonisnotconfiguredcorrectly.C:\ProgramFiles\NVIDIAGPUComputingToolkit

xxxggany·2024-03-12 21:13

c#截取两个指定字符串中间的字符串列表

localization:50-50},jdjsi{emoj,{localization:12-58}}"截取中间的坐标，根据"{localization:"和"}"进行匹配，得到结果如下打印image.pngpubliccl

好怕怕·2024-03-12 08:01

ARM系统控制和管理接口System Control and Management Interface

•性能管理，即控制由计算引擎组成的域（例如应用处理器（AP）、GPU或其他加速

安全二次方·2024-03-09 16:15

深入了解OpenCVSharp中常见的图像处理功能

4.边缘检测5.图像分割6.特征检测与描述子7.目标识别与跟踪8.图像融合与拼接9.形状匹配与模板匹配10.颜色空间转换与直方图11.图像转换与绘制12.图像分类与机器学习13.高级图像处理算法14.GPU

仰望大佬007·2024-03-06 21:48

华为昇腾系列——入门学习

生态情况众所周知，华为昇腾存在的意义就是替代英伟达的GPU。

chenxy02·2024-03-06 08:00

一张照片一键换脸：无需数据集和训练 | 开源日报 No.186

其主要功能、关键特性和核心优势包括：可以在计算机上运行，并支持CPU和GPU加速提供多种参数选项来控制程序行为旨在为艺术家提供辅助工具，如角色动画和服装模型设计实施了措施以防止软件被用于不当内容，并鼓励用户遵守当地法

开源服务指南·2024-03-05 21:17

【GPU驱动开发】-GPU架构简介

GPU（GraphicsProcessingUnit，图形处理单元）是一种专门用于处理图形和并行计算的处理器。GPU系统架构通常包括硬件和软件层面的组件。

怪怪王·2024-03-04 01:19

Ubuntu 20系统出现断网重连，或者是间歇性断网

此次断网解决办法：将电脑机箱放到了工位下面，加上电脑需要跑GPU相关的程序，高温导致网络老是断网重启。将主机移动到通风处，断网问题不再出现。

时光末路·2024-03-01 14:27

全面了解网络性能监测：从哪些方面进行监测？

目录摘要引言CPU内存监控磁盘监控网络监控GPU监控帧率监控总结摘要本文介绍了网络性能监测的重要性，并详细介绍了一款名为克魔助手的应用开发工具，该工具提供了丰富的性能监控功能，包括CPU、内存、磁盘、网络等指标的实时监测和分析

技术博主狂热者·2024-03-01 12:24

千卡利用率超98%，详解JuiceFS在权威AI测试中的实现策略

该基准测试通过模拟机器学习I/O负载的方法，在不需要GPU的情况下就能进行大规模的性能压测，用以评估存储系统的在AI模型训练场景的适用性。

·2024-02-28 15:34

软件报价

硬件分开报价(偏向于项目)软件：需求分析，软件设计，前端、后台、开发工作量，测试，部署上线3w人／月引擎：10-20万一种（私有化部署）第3方服务费：比如国税总局（2w,5w次数）硬件：扫描枪、扫描仪、服务器、GPU

楼船夜雪_WL·2024-02-27 19:48

[C++]使用C++部署yolov9的tensorrt模型进行目标检测

TensorRT是一个用于高效推理的SDK，它能对TensorFlow、PyTorch等框架训练的模型进行优化，从而加速模型在NVIDIAGPU上的运行速度。

FL1623863129·2024-02-26 22:35

unknown flag: --gpus See ‘docker run --help‘

这是docker的版本过低导致的解决办法2种升级docker版本nvidia-dockerrun(后面不用加–gpus=all)

开心的宇大帅·2024-02-26 04:15

db-gpt docker部署进坑

1.docker不支持gpu，参考之前文章2.docker容器启动就关闭，dockerps-a查看容器状态为exited停止定位问题：（1）查看日志dockerlogsdbgpt-f（2）日志错误最后一行

gaohongfeng1·2024-02-22 13:01

ubuntu双系统无法调节屏幕亮度

因为键盘和滑动条指向的是独显亮度调节，需要手动修改核显的亮度文件)其他方法调节亮度：step1、打开/sys/class/backlight文件夹(不同CPU显示的不一样，我这AMD处理器所以是amdgpu_bl1

NYA_·2024-02-20 23:02

GPU独显下ubuntu屏幕亮度不能调节解决方法

GPU独显下屏幕亮度不能调节（假设你已经安装了合适的nvidia显卡驱动），我试过修改/etc/default/grub的GRUB_CMDLINE_LINUX_DEFAULT="quietsplashacpi_backlight

集智飞行·2024-02-20 23:01

核显的显存是怎样设置的？是否需要自行修改核显显存大小？

CPU核显，即集成在CPU内部的图形处理单元（GPU），通常使用系统内存（RAM）作为其显存。这部分显存不是物理上独立出来的，而是通过软件动态分配的。

sagima_sdu·2024-02-20 22:47

资讯｜WebGPU必将成为Web生态的新未来！

1WebGPU简介经过六年的开发和测试，今年5月2日谷歌正式宣布Chrome将从版本113开始提供WebGPU支持，从而在ChromeOS、Windows和macOS设备上实现逼真的渲染视觉效果和复杂的计算

·2024-02-20 21:40

Datawhale用免费GPU线上跑AI项目实践课程任务一学习笔记。部署ChatGLM3-6B模型

前言本篇文章为学习笔记，流程参照Datawhale用免费GPU线上跑AI项目实践课程任务，个人写此文章为记录学习历程和补充概念，并希望为后续的学习者开辟道路，没有侵权的意思。

Hoogte-oile·2024-02-20 21:04

人工智能_普通服务器CPU_安装清华开源人工智能AI大模型ChatGlm-6B_001---人工智能工作笔记0096

20240219_150031这里我们使用centos系统吧,使用习惯了.ChatGlm首先需要一台个人计算机,或者服务器,要的算力,训练最多,微调次之,推理需要算力最少其实很多都支持CPU,但为什么要用GPU

脑瓜凉·2024-02-20 21:01

扫盲：什么是webGPU，和webGL对比哪些优点？

web端的3D图像渲染，大都采用webGL，不过其性能让大家很崩溃，webGPU的出现，让大家看到了访问加速的可能，本文通过对比webGPU与webGL，给老铁们普及一下。

贝格前端工场·2024-02-20 20:08

影响效果图渲染的因素有哪些？渲染100邀请码1a12

2、硬件性能硬件性能也是影响渲染的关键因素，性能越好渲染也快，与渲染相关的硬件有CPU、GPU、内存和网络等。3、场景设置场景

千野竹之卫·2024-02-20 19:24

渲染对硬件的要求有哪些？渲染100邀请码1a12

2、GPUGPU或图形处

千野竹之卫·2024-02-20 19:54

OpenAI发布Sora可生成60秒视频现实不存在了

KK_crazy·2024-02-20 18:53

机械革命混合模式和独显直连互相切换

p=13773默认状态是混合输出，在任务管理器中可以看到两个GPU，分别是核显和独显从混合模式切换到独显直连可以通过机械革命电竞控制台（重装过系统的需要去官网下载安装驱动）打开后要重启才生效，切换到独显直连后

astuv·2024-02-20 18:44

AI新工具(20240219) Ollama Windows预览版；谷歌开源的人工智能文件类型识别系统； PopAi是您的个人人工智能工作空间

OllamaWindowspreview-OllamaWindows预览版用户可以在本地创建和运行大语言模型，并且支持NVIDIAGPU和现代CPU指令集的硬件加速Ollama发布了Windows预览版

go2coding·2024-02-20 17:35

本地个性化聊天机器人CHAT WITH RTX

英伟达推出了自家版本的ChatGPTChatwithRTX是一个技术演示，现已免费>>>下载<<<，可让用户使用自己的内容个性化聊天机器人，并由本地NVIDIAGeForceRTX30系列GPU或更高版本

崎山小鹿·2024-02-20 17:00

【深度学习】Pytorch 系列教程（三）：PyTorch数据结构：2、张量的数学运算（1）：向量运算（加减乘除、数乘、内积、外积、范数、广播机制）

文章目录一、前言二、实验环境三、PyTorch数据结构0、分类1、Tensor（张量）1.维度（Dimensions）2.数据类型（DataTypes）3.GPU加速（GPUAcceleration）2

QomolangmaH·2024-02-20 16:47

再聊阴影裁剪与高性能视锥剔除

一、实际需求因为项目的树与草都采用ComputeShader剔除的GPUInstance绘制，所以需要自己实现阴影投递物的裁剪方法。也就是每一帧具体让哪些物体绘制ShadowMap。

·2024-02-20 16:50

UE问题盘点

打包后运行时应用程序崩溃GPU崩溃（TimedoutwaitingforRenderTreadafter120.00secs）分析解决：像素流送模式，部署机无显示器无分辨率所致（接显示器或显卡欺骗器）项目设置

井底一蛤蟆·2024-02-20 14:15

CUDA和cudnn安装教程

查看本机的CUDA驱动适配版本检查是否有合适的GPU,若有安装Cuda与CuDNN在桌面上右击如果能找到NVIDA控制面板，则说明该电脑有GPU。

悲伤的拾荒·2024-02-20 13:52

CUDA与CUDNN 关系

CUDA是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。2、什么是CUDNNNVIDIAcuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。

XF鸭·2024-02-20 13:52

在使用cuda12 报错Library cublas64_11.dll is not found

因为nvidia的升级基本上都是是CUDA12了,在我发表文章的时候如果去官网下载CUDA包默认安装CUDA版本就是12了.今天在调用fast-whisper的时候使用GPU报错Librarycublas64

atlasroben·2024-02-20 13:18

Unity中的Compute Shader

Unity中的ComputeShader前言一、定义二、创建三、computer代码解析四、c#调用方式五、计算关系六、平台支持七、引用前言游戏开发中，dot编程在处理大数量级的运算应用已经越来越广泛了，而GPU

popcorn丶·2024-02-20 13:13

【踩坑系列记录】Anaconda环境将torch由cpu换成gpu

概要很早前做过深度学习，配环境之类的坑由于没记录都记不清了。这段时间开始做深度学习的项目，于是用Anaconda给项目创建了一个环境，其他的环境配置很顺利，就是到了安装pytorch时，我用pytorch官网的代码一直下载的是cpu版本。condainstallpytorch==1.12.1torchvision==0.13.1torchaudio==0.12.1cudatoolkit=11.3-

RoyZz_·2024-02-20 13:37

推荐频道

GPU高性能编程