GPU运算

Sglang部署大模型常用参数详解

部署大模型常用参数详解常用启动命令HTTP服务器配置API配置并行处理张量并行数据并行专家并行内存和调度其他运行时选项日志记录多节点分布式服务LoRA内核后端约束解码推测解码双稀疏性调试选项优化选项参数概览常用启动命令要启用多GPU
小树苗m·2025-03-12 16:36

GPU(图形处理器) ARCHITECTURE的变迁史

上面我们已经了解了CPU和GPU之间的中转是由graphicsdriversoftware来承担的，接下来我们来了解一下GPU硬件本身的构造。
qq_39812022·2025-03-12 15:56

C++位运算：数据底层的二进制魔法

一、位运算的核心价值极速运算位运算直接操作内存中的二进制位，无需转换为十进制，执行效率比常规算术运算高10倍以上//传统方式if(n%2==0)//位运算优化if((n&1)==0)空间优化通过位掩码技术
卫青~护驾！·2025-03-12 14:26

DeepSeek开源第一弹！突破H800性能上限，FlashMLA重磅开源

FlashMLA是一个针对HopperGPU优化的高效MLA（Multi-HeadLatentAttention）解码内核，支持变长序列处理，现在已经投入生产使用。
开源项目精选·2025-03-12 14:54

Vue2-状态管理Vuex介绍与使用

VueX状态管理简单状态管理最简单的StoreState在Vue组件中获得Vuex状态对象展开运算符组件仍然保有局部状态Getter通过属性访问通过方法访问Mutation提交载荷（Payload）对象风格的提交方式使用常量替代
来一杯龙舌兰·2025-03-12 14:23

C++ 指针详解

正如您所知道的，每一个变量都有一个内存位置，每一个内存位置都定义了可使用连字号（&）运算符访问的地址，它表示了在内存中的一个地址。
阳光向日葵向阳·2025-03-12 13:16

Windows 图形显示驱动开发-WDDM 3.2-脏位跟踪

支持GPU并行化设备上的实时迁移的驱动程序还必须支持脏位跟踪。介绍随着云方案中的GPU越来越受欢迎，越来越需要确保将虚拟机从一个物理主机迁移到另一个物理主机保持合理的性能。
程序员王马·2025-03-12 13:15

深入理解Mesa：Linux图形渲染背后的开源力量

简单来说，它是图形应用程序和GPU之间沟通的重要桥梁，让开发者可以借助标准的图形接口轻松进行图形渲染和3D处理。
嵌入式Jerry·2025-03-12 10:00

AI系统架构

关键组成计算硬件GPU（如NVIDIAA100、H100）TPU（GoogleTensorProcessingUnit）NPU（如华为昇腾、寒武纪等）CPU（用于轻量级推理任务）
flying robot·2025-03-12 07:32

系统架构设计师-第6章 系统配置与性能评价

6.1性能指标1.计算机的性能指标对计算机评价的主要性能指标有：时钟频率(主频)；运算速度；运算精度；内存的存储容量；存储器的存取周期；数据处理速率(ProcessingDataRate，PDR)；吞吐率
软考诸葛老师·2025-03-12 07:01

数字信号处理之 快速傅里叶变换（FFT）

文章目录快速傅里叶变换（FFT）一、直接计算DFT的问题和改善DFT运算效率的基本途径直接计算DFT的问题改善DFT运算效率的基本途径二、按时间抽取（DIT）的FFT算法（库利-图基算法）算法原理按时间抽取的
墨痕_777·2025-03-12 06:58

C++中的&(引用与地址)

比如inta=3；int&b=a；//引用；int*p=&a;//取地址引用b,它是变量a的引用，即别名，&在此不是求地址运算，而是起标识作用，引用声明完毕后，相当于目标变量名有两个名称,操作
南陵花神·2025-03-12 06:26

量子计算基础数学

文章目录前言一、向量表示和向量运算向量的表示向量的运算二、线性算子和矩阵线性算子几个简单的常用算子三、特征值和特征向量谱分解（SpecialDecomposition）谱分解的作用四、张量积与迹向量的张量积矩阵的张量积张量积操作规则迹
诸葛思颖·2025-03-12 05:48

Python精进系列：divmod 函数

目录一、引言二、基本语法与原理2.1语法格式2.2返回值2.3原理理解三、使用示例3.1整数运算示例3.2浮点数运算示例四、应用场景4.1时间单位转换4.2数据分组4.3循环计数与位置计算五、注意事项5.1
进一步有进一步的欢喜·2025-03-12 05:14

使用AINetwork进行AI模型管理

它利用去中心化的GPU网络，由$AIN代币驱动，并助力AI驱动的NFTs(AINFTs)。其目标是为开发者提供一个安全且高效的平台，来部署和管理AI模型。
qahaj·2025-03-12 05:44

Python精进系列：Counter 函数

字符串字符计数（三）元组计数三、Counter对象的常用方法（一）most_common()方法（二）update()方法（三）subtract()方法（四）elements()方法四、Counter对象的数学运算
进一步有进一步的欢喜·2025-03-12 04:10

人工智能学习

多层隐藏层神经网络)tf1.14python3.5keras2.1.5//-----数学基础&&数字图像-----//向量大小/方向矢量(有大小和方向)标量(只有大小没有方向(长度))单位向量线性变换(矩阵运算
星月IWJ·2025-03-12 03:59

k8s集群中部署dcgm-exporter收集GPU指标

总体步骤：部署dcgm-exporter的DaemonSet和Service，确保Service有正确的标签和端口。创建ServiceMonitor，选择dcgm-exporter的Service，并指定端口。检查Prometheus的targets页面，确认dcgm-exporter是否被正确发现和抓取。可能需要调整Prometheus的RBAC或网络策略，确保访问权限。1，部署dcgm-exp
thinkerCoder·2025-03-12 03:28

N卡 英伟达Nvidia 显卡及其计算能力（Compute Capability）表

比如：AWQ量化模型不支持算力小于7.5的显卡V100：ValueError:ThequantizationmethodawqisnotsupportedforthecurrentGPU.Minimumcapability
Panesle·2025-03-12 01:45

基于PyTorch的深度学习5—神经网络工具箱

nn中已实现了绝大多数层，包括全连接层、损失层、激活层、卷积层、循环层等，这些层都是nn.Module的子类，能够自动检测到自己的Parameter，并将其作为学习参数，且针对GPU运行进行了cuDNN
Wis4e·2025-03-12 00:09

实现计算器计算功能鸿蒙示例代码

介绍本示例实现了计算器的计算功能，包括加减乘除四个基本运算，小数计算、百分数计算以及清除结果功能。
·2025-03-12 00:12

C#初级——条件判断语句、循环语句和运算符

if(条件判断){语句块1}else{语句块2}intage=18;if(age：大于=：大于等于逻辑运算符逻辑运算符有三种：与&&，或||，非!与：如果两边为真，则为真，有假为假。
Wacanda·2025-03-11 22:43

绿色算力网络构建与智能调度实践

当前架构设计包含三大核心模块：异构计算集群（涵盖GPU、FPGA及量子计算单元）、跨区域网络互联协议（适配东数西算的传输需求）以及能耗监测平台（基于实时数据建模的碳足迹追踪）。
智能计算研究中心·2025-03-11 22:13

跨领域算法安全优化与可解释实践

通过整合联邦学习的分布式架构与量子计算的高效特性，构建兼顾隐私保护与运算效率的算法优化范式，同时引入动态可解释性分析技术，为医疗影像诊断、金融风险预测等高敏感场景提供决策透明度保障。
智能计算研究中心·2025-03-11 22:43

算力安全创新驱动未来趋势endofsentence

例如，异构计算通过CPU、GPU、FPGA的协同加速，使复杂模型训练效率提升40%以上。关键数据：根据IDC预测，到2025年全球智能算力需求将增长30倍，
智能计算研究中心·2025-03-11 22:42

RTX4070Ti巅峰性能与温控揭秘

内容概要作为NVIDIAAdaLovelace架构的旗舰产品之一，RTX4070Ti通过全新的流式多处理器与第三代RTCore实现了运算效能的跃升。
智能计算研究中心·2025-03-11 22:12

C#基础教程07 判断

文章目录C#条件判断入门教程条件判断的基本语法常用运算符逻辑运算符if语句总结C#条件判断入门教程在C#编程语言中，条件判断是一种非常重要的控制语句。
超级无敌暴龙战士塔塔开·2025-03-11 21:11

C#运算符详解

一、运算符分类与功能‌1‌.算术运算符‌基本运算‌：+（加）、-（减）、*（乘）、/（除）、%（取模）inta=10/3;//结果为3（整数除法）doubleb=10.0/3;//结果为3.333...‌
PfCoder·2025-03-11 21:40

H100架构解析与性能优化策略

内容概要NVIDIAH100GPU作为面向高性能计算与人工智能领域的旗舰级产品，其架构设计与优化策略在计算效率、显存带宽及并行任务处理等方面实现了显著突破。
智能计算研究中心·2025-03-11 21:36

JAVA面试_进阶部分_MySQL索引失效的几种情况

Null值的特殊性就在于参与的运算大多取值为null。这样的话，null值实际上是不能参与进建索引的过程。也就是
茂茂在长安·2025-03-11 20:05

【TVM教程】为 Mobile GPU 自动调优卷积网络

ApacheTVM是一个深度的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2025-03-11 19:35

微信小程序云开发的sql语法 where `$and` 运算符怎么用？踩坑总结！

微信小程序云开发$and组合查询时间戳转换**最近在小程序云开发里用$and组合查询，结果直接翻车，明明条件写对了，却总是查不出数据，要么就是报错，真是要被折腾疯了，官方文档也没给完整示例，最终折腾了半天，终于找到正确用法，现在分享出来，避免大家踩坑1.$and查询失败的真正原因在云开发数据库查询时，如果你的$and组合条件查不出数据，大概率是因为数据类型不匹配，特别是在时间筛选时，很多人会写成这
代码简单说·2025-03-11 19:55

深度学习训练中GPU内存管理

文章目录概述常见问题1、设备选择和数据迁移2、显存监控函数3、显存释放函数4、自适应batchsize调节5、梯度累积概述在深度学习模型训练中，主流GPU显存通常为8GB~80GB，内存不足会导致训练中断或
@Mr_LiuYang·2025-03-11 19:24

JS: 类型转换 + 运算符 + 循环

坑：使用表单、prompt获取过来的数据默认是字符串类型的，此时就不能直接简单的进行加法运算。
..儒·2025-03-11 19:19

深度学习：CPU和GPU算力

根据上下文，算力可以在以下几种场景中具体化：1.单机算力CPU算力：中央处理器的计算能力，通常用核心数量（cores）、时钟频率（GHz）、以及每秒浮点运算次数（FLOPS）等指标衡量。
壹十壹·2025-03-11 16:55

递推算法

这种处理问题的方法能使复杂运算化为
aab__·2025-03-11 16:53

机器学习之线性代数

文章目录一、引言：线性代数为何是AI的基石二、向量：AI世界的基本构建块（一）向量的定义（二）向量基础操作（三）重要概念三、矩阵：AI数据的强大容器（一）矩阵的定义（二）矩阵运算（三）矩阵特性（四）矩阵分解
珠峰日记·2025-03-11 15:20

CCF-GESP Python一级考点全解析：运算符这样学就对了

第一章编程世界的基础工具：运算符三剑客在Python编程语言中，运算符如同魔法咒语般神奇。
奕澄羽邦·2025-03-11 14:12

ES6解构赋值详解

1.基本概念解构赋值是对赋值运算符的扩展。它允许按照一定的模式，从数组或对象中提取值，并赋值给变量。这种语法使得从复杂数据结构中提取数据变得更加简
漫天转悠·2025-03-11 14:41

如何在DigitalOcean的H100 GPU服务器上运行DeepSeek R1 模型

在DigitalOcean，我们一直在关注开源大语言模型（LLMs）和商业封闭模型之间差距的不断缩小。其中一个最关键的能力就是“推理”，也就是用合乎逻辑、讲得通的方式思考问题。以前，大语言模型的表现比较单一。只要给它们一个提示，它们就会直接给出答案，根本没有什么“二次思考”的过程，也没有什么机制能让模型在出错时自己纠正。这就让它们在遇到那些指令本身就可能有问题的情况时，很难进行深入推理、提出疑问或
DO_Community·2025-03-11 10:44

基于llama_cpp 调用本地模型（llama）实现基本推理

背景llama_cpp是一个基于C++的高性能库（llama.cpp）的Python绑定，支持在CPU或GPU上高效运行LLaMA及其衍生模型（如LLaMA2），并通过量化技术（如GGUF格式）优化内存使用
月光技术杂谈·2025-03-11 10:40

PAT乙级真题（2014·冬）

这才是重点(┬┬﹏┬┬)，让我多瞧了20分钟1034、有理数四则运算-（解析）-该死的，longlong，坏我青春(┬┬﹏┬┬)1035、插入与归并-（解析）-插入排序与归并排序方法继续学习喽::传送门
ん贤·2025-03-11 08:54

C语言_数据结构总结7:顺序队列（循环队列）

当队首指针Q->front=MaxSize-1后，再前进一个位置就自动到0，这可以利用除法取余运算（%）来实现。循环队列中的判空和判满条件分析：显
*.✧屠苏隐遥(ﾉ◕ヮ◕)ﾉ*.✧·2025-03-11 08:24

（六）Java-BigDecimal

一、概述BigDecimal类用于高精度计算，特别适用于需要进行精确浮点数运算的场合，例如货币计算、金融应用或科学计算。
Kyrie_Li·2025-03-11 07:21

oracle date类型如何比较

当你需要比较两个DATE类型的值时，可以使用标准的SQL比较运算符，如=、和>=。
&loopy&·2025-03-11 05:36

函数式编程

面向对象编程的思维方式：把现实世界中的事物抽象成程序世界中的类和对象，通过封装、继承和多态来演示事物事件的联系函数式编程的思维方式：把现实世界的事物和事物之间的联系抽象到程序世界（对运算过程进行抽象）程序的本质
猫哥不给力·2025-03-11 05:36

Python基础之字符串、数字类型和列表（二）

基础之字符串、数字类型和列表（二）1、常见的字符串API2、数字类型2.1整数(int)2.2浮点数(float)2.3布尔类型(bool)2.4复数类型(complex)3、列表3.1、列表创建3.2、列表运算
Hao想睡觉·2025-03-11 02:38

C# Winform做动画卡顿怎么办？

Winform用的GDI+，像全屏动画这种卡的稀巴烂，任务管理器看进程如果GPU没动静那就是渣，没加速。可以使用OpenGL或者DirectX这样有GPU加速就不卡了。
肖无疾·2025-03-11 02:05

R 基础运算

R基础运算引言R是一种广泛用于统计分析和图形表示的编程语言和软件环境。R的基础运算功能是其核心组成部分，它为用户提供了强大的数据处理和分析能力。
froginwe11·2025-03-11 00:21

C# backgroundworker类

概念在C#程序中，经常会有一些耗时较长的CPU密集型运算，如果直接在UI线程执行这样的运算就会出现UI不响应的问题。
_Csharp·2025-03-10 23:44
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他