gpu利用率

DeepSeek高效AI创作成本革新endofsentence

其混合专家架构采用动态路由机制，实现参数利用率提升40%以上，在保持模型容量的同时将推理成本降低68%。在代码生成任务中，DeepSeekCoder在HumanEval基准测试中达到83.1%的准确
智能计算研究中心·2025-03-11 22:12

H100架构解析与性能优化策略

内容概要NVIDIAH100GPU作为面向高性能计算与人工智能领域的旗舰级产品，其架构设计与优化策略在计算效率、显存带宽及并行任务处理等方面实现了显著突破。
智能计算研究中心·2025-03-11 21:36

【TVM教程】为 Mobile GPU 自动调优卷积网络

ApacheTVM是一个深度的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2025-03-11 19:35

深度学习训练中GPU内存管理

文章目录概述常见问题1、设备选择和数据迁移2、显存监控函数3、显存释放函数4、自适应batchsize调节5、梯度累积概述在深度学习模型训练中，主流GPU显存通常为8GB~80GB，内存不足会导致训练中断或
@Mr_LiuYang·2025-03-11 19:24

C#实现高性能异步文件下载器（支持进度显示/断点续传）

一、应用场景分析异步文件下载器用处很大，当我们需要实现以下功能时可以用的上：大文件下载（如4K视频/安装包）避免UI线程阻塞，保证界面流畅响应多任务并行下载支持同时下载多个文件，提升带宽利用率后台静默下载结合
WangMing_X·2025-03-11 19:51

大数据面试之路 (一) 数据倾斜

资源利用率不均衡（如CPU、内存集中在某些节点）。常见场景Key分布不均：如某些Key对应的数据量极大（如用户ID为空的记录、热点事件）。数据分区
愿与狸花过一生·2025-03-11 17:34

深度学习：CPU和GPU算力

GPU算力：图形处理单元用于并行处理的能力，尤其是在深度学习
壹十壹·2025-03-11 16:55

如何在DigitalOcean的H100 GPU服务器上运行DeepSeek R1 模型

在DigitalOcean，我们一直在关注开源大语言模型（LLMs）和商业封闭模型之间差距的不断缩小。其中一个最关键的能力就是“推理”，也就是用合乎逻辑、讲得通的方式思考问题。以前，大语言模型的表现比较单一。只要给它们一个提示，它们就会直接给出答案，根本没有什么“二次思考”的过程，也没有什么机制能让模型在出错时自己纠正。这就让它们在遇到那些指令本身就可能有问题的情况时，很难进行深入推理、提出疑问或
DO_Community·2025-03-11 10:44

基于llama_cpp 调用本地模型（llama）实现基本推理

背景llama_cpp是一个基于C++的高性能库（llama.cpp）的Python绑定，支持在CPU或GPU上高效运行LLaMA及其衍生模型（如LLaMA2），并通过量化技术（如GGUF格式）优化内存使用
月光技术杂谈·2025-03-11 10:40

气膜科技赋能冰雪产业，开启可持续发展新路径—轻空间

智能气膜冰雪场馆凭借建设周期短、空间利用率高、运维成本低的独特优势，成为破解冰雪运动场地短缺的关键方案，为冰雪产业的可持续发展提供了全新思路。
Qspace丨轻空间·2025-03-11 05:32

C# Winform做动画卡顿怎么办？

Winform用的GDI+，像全屏动画这种卡的稀巴烂，任务管理器看进程如果GPU没动静那就是渣，没加速。可以使用OpenGL或者DirectX这样有GPU加速就不卡了。
肖无疾·2025-03-11 02:05

Windows 图形显示驱动开发-WDDM 3.2-用户模式工作提交（一）

UM工作提交使应用程序能够直接从用户模式将工作提交到GPU，且延迟非常低。目标是提高经常向GPU提交小工作负载的应用程序的性能。
程序员王马·2025-03-10 20:52

Windows 图形显示驱动开发-WDDM 3.2-自动显示切换(九)

由于EDID保持不变，当任何一个GPU控制内部面板时，都会加载面板驱动程序。这两个驱动程序将显示相同的亮度功能。因此，加载应该不会造成任何问题，面板驱动程序也不需要知道哪个GPU在控制多路复用器。
程序员王马·2025-03-10 20:22

Windows 图形显示驱动开发-WDDM 3.2-自动显示切换(十)

系统配置为连接dGPU的多路复用器。系统进入休眠状态。iGPU和dGPU都切换到了D3电源状态。系统关闭电源。用户开启系统电源。固件配置iGPU的多路复用器和iGPU在内部面板上的显示启动序列。
程序员王马·2025-03-10 20:22

解密DeepSeek-R1模型微调实战：VIP专属技巧助你轻松掌握行业核心技术

但90%的学习者卡在以下痛点：❌开源数据集质量参差不齐❌实验环境搭建耗时易出错❌行业级调优方案闭源难获取CSDN大模型VIP专项计划针对上述问题，提供：✅金融/医疗/法律三大领域高质量微调数据集✅云端GPU
竹木有心·2025-03-10 19:16

【大模型】DeepSeek-R1-Distill-Qwen部署及API调用

当前模型开源后，我们可以将其部署，使用API方式进行本地调用1.部署环境本文中的部署基础环境如下所示：PyTorch2.5.1Python3.12(ubuntu22.04)Cuda12.4GPURTX3090
油泼辣子多加·2025-03-10 17:29

opencv cuda例程 OpenCV和Cuda结合编程

本文转载自：https://www.fuwuqizhijia.com/linux/201704/70863.html此网页，仅保存下来供随时查看一、利用OpenCV中提供的GPU模块目前，OpenCV中已提供了许多
weixin_44602056·2025-03-10 16:27

利用CUDA与OpenCV实现高效图像处理：全面指南

本篇文章将详细介绍如何结合CUDA与OpenCV，利用GPU的强大计算能
快撑死的鱼·2025-03-10 16:25

linux 下 CUDA + Opencv 编程 之 CMakeLists.txt

CMAKE_MINIMUM_REQUIRED(VERSION2.8)PROJECT(medianFilterGPU)#CUDApackageFIND_PACKAGE(CUDAREQUIRED)INCLUDE
maxruan·2025-03-10 16:23

UE发生GPU崩溃D3D丢失，真的跟硬件有关系。

===但是BUT===UE5每天GPU崩溃几十次，UE4比较少见。按说我这配置还可以吧，鲁大师全国排名六百多（4月8日），二百三十多万分，也算够用。但我没说运行哪个UE程序导致的GPU崩溃。
虚幻叫兽·2025-03-10 11:20

ue5.5崩溃报gpu错误快速修复注册表命令方法

网上已经有很多方法了，自己写了个regedit比处理dos批处理命令，启动时需要win管理员身份拷贝后，将以下代码，保存为run.bat格式批处理文件，右键鼠标，在弹出菜单中，选择用管理员身份运行。即可。南无阿弥陀佛。命令如下：::如果存在先删除原来变量，如下：regdeleteHKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Graphics
Maya和blender动画技术·2025-03-10 11:19

AWS AppStream 2.0：开启云端应用交付新范式（实战解决方案剖析）

1.1技术架构革命（对比传统VDI）去终端化部署：3D渲染/CAD等GPU应用在
AWS官方合作商·2025-03-10 09:06

python 程序一次启动有两个进程的问题（flask）

此外，这个程序占用了GPU资源，我发现有两个python进程，分别占用了完全相同的GPU显存1.原因问题出在flask的启动方式上，我启动的时候，是这样启动的app.run(debug=True,host
小郎碎碎念·2025-03-10 08:25

服务器虚拟化：技术原理、实践与未来趋势

通过将物理服务器资源抽象为多个独立虚拟环境，企业显著提升了资源利用率、灵活性和运维效率。本文将从技术原理、核心组件、实践场景及未来趋势展开分析。
encoding-console·2025-03-10 07:50

家庭组装台式电脑配置推荐（2024版）

2、显卡（GPU）：RTX4060Ti是推荐的选择，其性能略高于RTX3070，但功耗更低，适合预算在6000元左右的配置。3、内存（RAM）：16GB内存是推荐的配置，能够提供足够的多任务处理能力。
encoding-console·2025-03-10 07:19

Spring Event实例

privateStringequipmentId;privateStringfailureDescription;privateFailureLevellevel;//枚举：CRITICAL,WARNINGpublicEq
五块钱三个·2025-03-10 04:59

如何做性能测试

**明确性能需求与目标**-**关键指标**：确定响应时间、吞吐量（TPS/QPS）、并发用户数、资源利用率（CPU、内存、磁盘、网络）、错误率等目标。
海姐软件测试·2025-03-10 03:53

【NPU 系列专栏 2.7 -- - NVIDIA GPU 架构介绍】

请阅读【嵌入式及芯片开发学必备专栏】文章目录NVIDIAGPU架构介绍Tesla架构简介Tesla架构主要特点Tesla架构应用场景Fermi架构简介Fermi架构主要特点Fermi架构应用场景Kepler
主公讲 ARM·2025-03-10 03:52

java 自定义协议_Netty实现自定义协议

关于协议，使用最为广泛的是HTTP协议，但是在一些服务交互领域，其使用则相对较少，主要原因有三方面：HTTP协议会携带诸如header和cookie等信息，其本身对字节的利用率也较低，这使得HTTP协议比较臃肿
林John·2025-03-10 02:15

io.net 是什么，DePIN（去中心化物理基础设施网络）

去中心化物理基础设施网络）1.资源整合与去中心化2.区块链技术与智能合约3.弹性伸缩与负载均衡4.安全性与隐私保护5.用户体验与易用性io.net是什么io.net是一个基于Solana网络的去中心化GPU
ZhangJiQun&MXP·2025-03-10 02:44

jupyter notebook参数化运行python

Updates（2019.8.1419:53）吃饭前用这个方法实战了一下，吃完回来一看好像不太行：跑完一组参数之后，到跑下一组参数时好像没有释放之占用的GPU，于是notebook上的结果，后面好几条都报错说
HackerTom·2025-03-10 02:11

云原生边缘智能：构建分布式IoT设备的自主决策引擎

/bin/bashcheck_gpu_utilization(){util=$(nvidia-smi--query-gpu=utilization.gpu--format=csv,nohea
桂月二二·2025-03-09 23:47

操作系统试题二

(单选题,2.0分)批处理系统的主要缺点是()A.系统吞吐量小B.CPU利用率不高C.资源利用率低D.无交互能力正确答案:D3.(单选题,2.0分)从用户的观点看,操作系统是()。
minaMoonGirl·2025-03-09 20:23

分布式计算入门（PySpark处理NASA服务器日志）

PySpark3.NASA服务器日志数据集介绍3.1数据背景3.2数据格式与挑战4.PySpark基础与分布式日志处理4.1PySpark基本架构4.2日志数据加载与解析4.3数据清洗与内存优化4.4GPU
闲人编程·2025-03-09 19:16

POJ-2227 The Wedding Juicer(NYOJ-547 Interesting Punch-Bowl)

65536KTotalSubmissions:2803Accepted:1225DescriptionFarmerJohn'scowshavetakenasidejobdesigninginterestingpunch-bowldesigns.Thedesignsarecreatedasfollows
weixin_30802171·2025-03-09 18:37

GPU编程实战指南03：CUDA开发快速上手示例，GPU性能碾压实测

上一节《GPU编程指南02：CUDA开发快速上手示例》中我们完成了一个使用GPU进行加减乘除四则运算的例子。
anda0109·2025-03-09 15:34

Python函数

函数是组织好的，可重复使用的，用来实现单一或相关联功能的代码段，函数能提高应用的模块性，和代码的重复利用率。我们已经知道Python提供了许多内置函数，比如print()。
Gao_xu_sheng·2025-03-09 15:03

【深度学习】PyTorch v2.6 Overview

PyTorchv2.6OverviewPythonAPILibrariesPyTorch是一个优化的张量库，用于使用GPU和CPU进行深度学习。
OpenSeek·2025-03-09 11:37

PyTorch 显存分配不均匀

在使用PyTorch进行深度学习训练时，可能会遇到GPU0的显存占用明显高于其他GPU的情况。这可能导致显存不足，影响训练效率。
LutingWang·2025-03-09 11:36

GPU编程实战指南01：CUDA编程极简手册

目录1.CUDA基础概念1.1线程层次结构1.2内存层次结构2.CUDA编程核心要素2.1核函数2.2内存管理2.3同步机制3.CUDA优化技巧3.1内存访问优化3.2共享内存使用3.3线程分配优化4.常见问题和解决方案5.实际案例分析1.CUDA基础概念1.1线程层次结构CUDA采用层次化的线程组织结构，从小到大依次为：线程（Thread）：最基本的执行单元每个线程执行相同的核函数代码通过thr
anda0109·2025-03-09 09:20

\torch\lib\caffe2_detectron_ops_gpu.dll“

目录报错原因解决方法报错原因这个是conda环境里面的包出问题了，必须对相关依赖包进行更新解决方法使用win+R启动命令行或者终端，输入condaactivateenv_name(环境名称)进入环境后，再输入以下命令condaupdate-nbaseconda对环境下的所有包进行更新后就不会再报错
研志必有功·2025-03-09 06:27

AI芯片概述-分类、应用、技术（APU、CPU、DPU、GPU、NPU和TPU）及厂家

写这篇文章的起因是老板想了解下AI芯片（NPU/GPU区别等），他不是搞技术那一挂的，所以就简单整理下，留作记录，顺便分享给各位。文章目录一、AI芯片是什么？
一码当前·2025-03-09 00:27

Windows 图形显示驱动开发-WDDM 3.2-本机 GPU 围栏对象(七)

围栏排队操作的CPU时间戳鉴于以下情况，让UMD记录这些CPU时间戳没有什么好处：可以在GPU执行包括命令列表的命令缓冲区之前几分钟记录命令列表。这几分钟可能与同一命令缓冲区中的其他同步对象不同步。
程序员王马·2025-03-08 23:22

可视化学习：如何使用后期处理通道增强图像效果

因为GPU是并行渲染的，每个像素的着色器程序是并行执行的，这样的渲染很高效。但是在实际需求中，有时我们计算片元色值时，需要依赖周围像素点或者
·2025-03-08 19:12

【深度学习模型高效部署】tensorRT_Pro深度解读：部署深度学习模型的高效方案

以下内容将对tensorRT_Pro项目做一个系统的介绍，包括其核心价值、主要功能、应用案例以及关键的示例代码（附详细解释），帮助你快速了解并上手如何基于TensorRT在NVIDIAGPU上实现高性能推理
云博士的AI课堂·2025-03-08 18:50

如何选择适合你的AWS EC2实例？场景化分析助你精准决策

本文将从实际业务场景出发，分析不同需求下的EC2选型策略，帮你避开配置陷阱，提升资源利用率。
AWS官方合作商·2025-03-08 18:49

【PerfDog】性能测试工具【功能模块一览表】

简要介绍官网是一款全平台性能测试工具性能狗一、常规测试无需修改硬件：例如设备ROOT/越狱等无需代码嵌入：可结合分析竞争对手表现极简化使用，在任意场景上测试开发和生成精准捕获系统级专业数据：如FPS、功耗\GPUCounter
行者无疆xcc·2025-03-08 18:19

Ollama在AutoDL部署，CPU服务器做代理，实践中

##我有两台服务器，一台是GPU服务器，另一台是CPU服务器；##我在GPU服务器上安装了Ollama，然后通过命令映射端口到CPU服务器：ssh-CNg-L0.0.0.0:11434:127.0.0.1
张3蜂·2025-03-08 14:29

DeepSeek掘金——vLLM和ollama综合对比

我们将重点关注：资源利用率和效率、部署和维护的简易性、具体用例和建议、安全和生产准备、文档。欢迎来到我们深入研究LLM推理框架的最后一部分！
不二人生·2025-03-08 10:12

【TVM 教程】使用元组输入（Tuple Inputs）进行计算和归约

ApacheTVM是一个端到端的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2025-03-08 06:21
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他