GPu 第3页

大模型训练优化方法

本文主要参考HF上的一篇文章：https://huggingface.co/docs/transformers/perf_train_gpu_one，以及笔者在实际训练中的一些经验，给出一些比较实用的方法

少喝冰美式·2024-08-30 05:28

查看 linux 系统信息

文章目录查看系统信息查看GPU信息查看系统信息在Linux系统中，查看系统信息是一项基本而重要的操作。这可以提供关键的系统配置和状态信息，帮助用户和管理员对系统进行监控、诊断和优化。

彷徨而立·2024-08-30 05:57

【学习笔记】：Ubuntu 22 使用模型量化工具llama.cpp部署大模型 CPU+GPU

学习笔记：Ubuntu22使用模型量化工具llama.cpp部署大模型CPU+GPU前言1下载并编译llama.cpp1.1git下载llama.cpp仓库源码1.2编译源码（make）1.2.1选择一

淮序_·2024-08-30 02:00

免费部署Flux.1模型，搭载ComfyUI配置与评测

每天签到最少可获得5小时免费GPU时长，如果每一次机器运行时长不超过30分钟，就不计算时长。

fysuccess·2024-08-29 19:14

2019-05-16

TensorFlow安装CPU版本pipinstalltensorflowGPU版本pipinstalltensorflow-gpu(显卡必须支持)259.7MB如果装完不支持1.是否显卡不支持删除gpu

微软czw·2024-08-29 17:12

TensorFlow和它的弟弟们

以下是它们之间的主要区别：1.TensorFlow(PC\GPU)设计目标：TensorFlow是一个开源的机器学习框架，由GoogleBrain团队开发，旨在帮助开发者构建和训练深度学习模型。

活蹦乱跳酸菜鱼·2024-08-29 08:31

买电脑如何选择显卡？

了解显卡性能：GPU型号：NVIDIA和AMD是市场上的两大主流品牌，NVIDI

是毛毛吧·2024-08-29 07:57

RK3568笔记二十二：基于TACO的垃圾检测和识别

一、环境1、测试训练环境：AutoDL.2、平台：rk35683、开发板:ATK-RK3568正点原子板子4、环境：buildroot5、虚拟机：正点原子提供的ubuntu20二、测试个人电脑没有GPU

殷忆枫·2024-08-29 06:52

释放GPU潜能：PyTorch中torch.nn.DataParallel的数据并行实践

释放GPU潜能：PyTorch中torch.nn.DataParallel的数据并行实践在深度学习模型的训练过程中，计算资源的需求往往随着模型复杂度的提升而增加。

2401_85762266·2024-08-29 05:45

OpenGL学习笔记（十六）缓冲区（一）像素缓冲区

缓冲区保存在GPU内存中，它

龙行天下01·2024-08-29 02:24

CUDA C++ 编程指南

目录1.Introduction1.1.TheBenefitsofUsingGPUs1.2.CUDA®:AGeneral-PurposeParallelComputing1.3.AScalableProgrammingModelCUDAC

疯狂的码泰君·2024-08-29 02:51

向量数据库Faiss的详细介绍和搭建使用教程

它通过将候选向量集封装成一个index数据库，加速检索相似向量的过程，尤其在一些最有用的算法上实现了GPU加速。二、Faiss的安装Faiss支持多种操作系统，包

大白菜程序猿·2024-08-29 01:14

hong161688·2024-08-29 00:07

高通骁龙800系列处理器规格型号及代表机型大全

高通骁龙800系列处理器规格型号及代表机型大全：处理器型号制造工艺CPU架构核心频率GPU内存基带出货时间代表机型骁龙800(MSM8x74)28nmHPM四核Krait4002.26GHzAdreno330450MHz

szx940213·2024-08-28 20:10

[论文笔记] eval-big-refactor lm_eval 每两个任务使用一个gpu，并保证端口未被使用

1.5B在eval时候两个任务一个gpu是可以的。7B+在evalbelebele时会OOM，所以分配时脚本不同。

心心喵·2024-08-28 19:00

docker: Error response from daemon: could not select device driver with capabilities: [[gpu]]问题记录解决

具体参考：docker:Errorresponsefromdaemon:couldnotselectdevicedriverwithcapabilities:[[gpu]]问题记录解决_奶茶不加冰的博客

爱科技Ai·2024-08-28 12:47

yolo v8 + flask部署到云服务器，以及问题记录

环境安装1、运行项目报错：nopythonapplicationfound,checkyourstartuplogsforerrors在云服务器pytorch版本安装错了，安装了GPU版本，需要安装CPU

智商不够_熬夜来凑·2024-08-28 11:07

并行计算的艺术：PyTorch中torch.cuda.nccl的多GPU通信精粹

并行计算的艺术：PyTorch中torch.cuda.nccl的多GPU通信精粹在深度学习领域，模型的规模和复杂性不断增长，单GPU的计算能力已难以满足需求。多GPU并行计算成为提升训练效率的关键。

2401_85763639·2024-08-28 09:56

苹果M4芯片Mac全面曝光或10月发布

其中三台Mac配备了10核CPU和10核GPU；第四台机器配备了8核CPU和8核GPU（首次亮相），所有四台M4Mac都有16GB

一一一一一一__1·2024-08-28 08:22

精准掌控GPU：深度学习中PyTorch的torch.cuda.device应用指南

精准掌控GPU：深度学习中PyTorch的torch.cuda.device应用指南在深度学习的世界里，GPU加速已成为提升模型训练和推理速度的关键。

2401_85760095·2024-08-28 06:41

编译运行 llama.cpp (vulkan, Intel GPU SYCL)

llama.cpp是一个运行AI(神经网络)语言大模型的推理程序,支持多种后端(backend),也就是不同的具体的运行方式,比如CPU运行,GPU运行等.但是编译运行llama.cpp并不是那么容易的

穷人小水滴·2024-08-28 05:27

大模型推理测速 (llama.cpp, Intel GPU A770)

由于本文太长,分开发布,方便阅读.3.1CPU(i5-6200U,2C/4T/2.8GHz)x86_64AVX2在4号PC(物理机)上运行.版本:>./llama-b3617-bin-ubuntu-x64/build/bin/llama-cli--versionversion:3617(a07c32ea)builtwithcc(Ubuntu11.4.0-1ubuntu1~22.04)11.4.0f

穷人小水滴·2024-08-28 05:57

Windows下编译libevent 64位静态库总结

参照：https://my.oschina.net/jacobin/blog/146567http://blog.csdn.net/qingfengpu99/article/details/45113841http

岩屿·2024-08-28 01:09

详细说明：向量数据库Faiss的搭建与使用

它能够处理大型数据集，并且在GPU上的性能表现尤为出色。下面详细介绍Faiss的搭建与使用。1.搭建Faiss1.1安装依赖包首先，需要安装Faiss及其依赖包。

AI逍遥子·2024-08-28 01:09

PYTORCH 官方文档，开发文档，Python编程人工智能深度机器学习

PYTORCH文档PyTorchdocumentation—PyTorchmasterdocumentationPyTorch是一个使用GPU和CPU进行深度学习的优化张量库。

zhangfeng1133·2024-08-27 13:21

HPC&AI并行计算集群Slurm作业调度系统对通用资源（GRES）的调度

为特定GRES类型启用了其他内置功能，包括图形处理单元（GPU）、CUDA多进程服务（MPS）设备，并通过可扩展的插件机制进行分片。二、配置默认情况下，群集的配置中未启用任何GRES。

技术瘾君子1573·2024-08-27 09:25

运维系列&AI系列&Lenovo-G双系统系列（前传-装之前搜索的）：pytorch cuda安装报错的解决方法

pytorchcuda安装报错的解决方法pytorchcuda安装报错的解决方法前言2022.12.8在win+cuda11.8下安装最新PytorchGPU版时遇到包不兼容的问题，该文记录安装的整个流程一

坦笑&&life·2024-08-27 06:33

【CUDA编程笔记】如何使用CUDA统一内存来优化多进程多线程程序的性能？

理解统一内存统一内存是CUDA编程模型的一个组件，它定义了一个所有处理器都可访问的单一连贯内存映像，允许数据在CPU和GPU之间透明迁移，无需显式复制。

qq2108462953·2024-08-26 23:26

CUDA指南-CUDA简介与开发环境搭建

CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的并行计算平台和编程模型，它允许开发者利用NVIDIAGPU进行高效的通用计算任务。

小虾米欸·2024-08-26 21:41

关于苹果M1和Intel等芯片的区别

这颗芯片采用5纳米制程工艺，CPU、GPU、缓存集成在一起，其中包含160亿个晶体管。虽然股价没涨，市场反应也不温不火，但是，苹果变革的暗流，已经汹涌袭来。

丿星纟彖彳亍·2024-08-26 19:15

[服务器运维] gpu幽灵进程处理

僵尸进程是指那些已经完成任务但没有正确关闭的进程，它们可能因为各种原因未能释放占用的GPU资源。这会导致资源浪费，并且阻碍其他任务的执行。

PigeonGuan·2024-08-26 18:38

Python(PyTorch)多语言图像感知质量指标算法

LabVIEW单尺度质量指标算法|MATLAB单尺度质量指标算法|PyTorch完整参考图像质量测量指标、和分布式图像特征质量测量指标|多尺度质量模型应用：图像压缩，视频压缩、端到端优化图像压缩、神经图像压缩、GPU

亚图跨际·2024-08-26 16:57

人工智能开源库有哪些

TensorFlow：由Google开发的深度学习库，提供了丰富的工具和API，支持CPU和GPU计算。PyTorch：由Facebook开发的深度学习框架，提供动态图和静态图两种模式，并且易于使用。

openwin_top·2024-08-26 02:59

深度学习多GPU训练原理

详细参考《动手学深度学习》P233，8.4节多GPU计算。数据并行的方法把一个batch的所有数据平均分配到每块GPU的显存里，把模型参数在每个GPU显存上拷贝一份。

浦东新村轱天乐·2024-08-25 22:31

TensorFlow库详解：Python中的深度学习框架

它能够处理大规模的多维数据，并支持在多种硬件平台上运行，如CPU、GPU和TPU（TensorProcessingUnit）。

Ambition_LAO·2024-08-25 21:28

OpenCL在移动端GPU计算中的应用与实践

在Android设备上，GPU，尤其是高通Adreno和华为Mali，因其卓越的浮点运算能力，成为了异构计算中的重要组成部分。百度APP已经利用GPU计算加速深度模型推理和计算密集型业务。

m0_67544708·2024-08-25 10:51

向量数据库Faiss的搭建与使用｜Faiss｜向量数据库｜高效检索｜机器学习｜大规模数据

Faiss的安装与环境配置2.1环境要求2.2Faiss的安装2.3验证安装3.Faiss的基本使用3.1创建索引与添加向量3.2执行查询3.3向量的压缩与内存优化4.Faiss的高级功能与优化4.1GPU

concisedistinct·2024-08-25 09:10

pytorch实现模型搭建

通常是在你有GPU的情况下需要这样显式进行设备的设置，从而在需要时，你可以将变量从主存迁移到显存中。如果没有GPU，不获取也没事，pytorch会默认将参数都保存在主存中。

Fiona.y·2024-08-24 21:30

关于离屏渲染

1、当前屏幕渲染一般情况下界面的呈现是在当前屏幕渲染，首先CPU计算好frame等属性，将计算好的内容提交给GPU去渲染，GPU渲染完成之后就会放入屏幕帧缓冲区，然后控制器每隔一段时间会去屏幕缓存区读取渲染好的内容

晨枫阳·2024-08-24 16:29

启用Microsoft Edge浏览器的“硬件加速”功能

MicrosoftEdge浏览器提供了“硬件加速”选项，允许浏览器利用计算机的GPU来提升渲染性能，从而加快页面加载速度和改善用户体验。本文将详细介绍如何在Edge浏览器中启用“硬件加速”功能。

哎呦没·2024-08-24 16:28

K8S集群中驱逐节点

K8S集群中驱逐node节点下面以驱逐节点上的GPU节点为例：1.驱逐节点上的资源使用以下命令从节点上驱逐GPU资源：kubectldrain--delete-local-data--force--ignore-daemonsets

听说唐僧不吃肉·2024-08-24 02:32

C# 获取当前电脑的mac地址

一个方法GetMacByIpConfigpublicstringGetMacByIpConfig(){Listmacs=newList();varrunCmd=ExecuteInCmd("chcp437&

Net蚂蚁代码·2024-08-23 21:59

GPGPU

1、GPGPU(general-purposegraphicsprocessorunitsarchitecture，通用图像处理器）:是一种利用处理图形任务的图形处理器来计算原本由中央处理器处理的通用计算任务

朝朝暮暮Quake·2024-08-23 10:19

【Story】《现代芯片架构全景图：架构、内存系统与外设接口》

目录芯片架构详解1.处理器核心（CPUCore）1.1RISC（精简指令集计算）1.2CISC（复杂指令集计算）1.3VLIW（超长指令字）1.4SIMD（单指令流多数据流）1.5MIMD（多指令流多数据流）1.6GPU

LuckiBit·2024-08-23 05:21

CentOS7安装NVIDIA GPU驱动程序和CUDA工具包

1.查看本地环境检查GPU型号lspci|grep-invidia查看linux系统版本uname-m&&cat/etc/redhat-release禁用nouveaulsmod|grepnouveau

2级选手·2024-08-23 02:30

cuML installation guidence

Mycomputer’sgpuisgtx3060ti,cudaversionis11.4.FirstChecktheversionofyourgcc,type“gcc-v”,ensuringthatyourgccversionis9orhigher

clancy_wu·2024-08-23 02:29

GPU 架构概述费米（Feimi）、开普勒（Kepler）、麦克斯韦（Maxwell）、帕斯卡（Pashcal）和伏特（Volt）架构

GPU架构概述本文主要介绍NVIDIAGPU每一代架构的技术发展和架构之间的区别和联系，时间跨度从2010年至2017年，包括费米（Feimi）、开普勒（Kepler）、麦克斯韦（Maxwell）、帕斯卡

EwenWanW·2024-08-22 19:49

阿里云服务器X86计算、Arm计算、GPU/FPGA/ASIC、弹性裸金属服务器、高性能计算架构区别

在我们选购阿里云服务器的时候，云服务器架构有X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、高性能计算可选，有的用户并不清楚他们之间有何区别，本文主要简单介绍下不同类型的云服务器有何不同

阿里云最新优惠和活动汇总·2024-08-22 16:13

pyinstaller打包onnxruntime-gpu报错找不到CUDA的解决方案

问题说明：使用onnxruntime-gpu完成了深度学习模型部署，但在打包时发生了报错：找不到CUDA具体问题描述：RuntimeError:D:\a\_work\1\s\onnxruntime\python

布呐呐na·2024-08-22 15:56

opencv | cv::cuda::GpuMat upload函数用法

cv::cuda::GpuMat是OpenCV中用于表示GPU上的图像数据的类，它继承自cv::cuda::GpuMatBase类，提供了一些常用的操作函数，例如upload、download、copyTo

Ddddddd_158·2024-08-22 08:40

推荐频道

GPu