深度学习模型推理加速

MediaPipe：实时多媒体处理框架

通过充分利用硬件加速和并行
KsClang·2025-03-25 05:16

Momentum优化器的超参数调优方法

Momentum优化器是一种常用的优化算法，它通过引入动量的概念来加速梯度下降过程，特别是在处理高维数据和复杂模型时表现尤为出色。然而，Momentum优化器的性能高度依赖于其超参数的设置。
AI天才研究院·2025-03-25 03:34

Prompt Engineering：如何写出更高效的提示词？

良好的Prompt设计可以显著提高大模型在文本生成、代码编写、逻辑推理等任务中的表现。1.1为什么需要PromptEngineering？提高准确性：减少AI生成的错误信息。
晴天彩虹雨·2025-03-25 03:34

金融级安全加速：群联SD-WAN如何兼顾防御与低延迟？

一、SD-WAN的核心价值1.传统回源痛点暴露风险：公网回源可能泄露源站IP，易遭针对性攻击。延迟抖动：跨国业务因网络拥堵导致延迟波动（如金融交易超时）。2.群联方案优势加密专线：通过IPSec/SSLVPN建立私有隧道，隐藏源站拓扑。智能选路：基于实时网络质量动态选择最优路径（文档提及“秒级切换备用线路”）。二、技术实现与配置1.专线隧道配置（Linux示例）#配置IPSec隧道ipseccon
群联云防护小杜·2025-03-25 02:53

加速还是安全？CDN与群联云防护的本质差异与适用场景

一、核心功能定位对比维度传统CDN群联云防护核心目标内容加速（降低延迟、提升访问速度）安全防护（抵御DDoS/CC攻击、隐藏源站）技术重心缓存优化、边缘节点分发流量清洗、AI行为分析、加密隧道主要能力静态资源缓存
群联云防护小杜·2025-03-25 02:53

【后端】【django】【models】【进阶】索引和约束全解

（一）索引(indexes)索引的作用是加速查询，特别是在WHERE条件中经常被筛选的字段上添加索引，可以提高查询效率。
患得患失949·2025-03-25 01:20

NPU上如何使能pytorch图模式

它通过将PyTorch的动态图转换为静态图，并利用Just-In-Time（JIT）编译技术，显著提高模型的推理速度和训练效率。
·2025-03-25 00:34

FlinkCDC实战：将 MySQL 数据同步至 ES

当前需要处理的业务场景:将订单表和相关联的表(比如:商品表、子订单表、物流信息表)组织成宽表,放入到ES中,加速订单数据的查询.同步数据到es.概述1.什么是CDC2.什么是FlinkCDC3.FlinkCDCConnectors
java15655057970·2025-03-25 00:41

Python,Java开发生成式智能识别与鉴定APP

开发一个生成式智能体识别与鉴定APP是一个复杂的任务，涉及多个模块的设计与实现，包括用户界面、数据处理、模型推理等。以下是一个高层次的开发思路，并提供每种语言的简单示例代码。
Geeker-2025·2025-03-25 00:10

机器学习之条件概率

1.引言概率模型在机器学习中广泛应用于数据分析、模式识别和推理任务。
贾斯汀玛尔斯·2025-03-24 21:49

过程奖励模型PRM的定义和特点；过程奖励模型prm和orm结果奖励模型的区别和优劣是什么

过程奖励模型PRM的定义和特点过程奖励模型（ProcessRewardModel，简称PRM）是一种专注于对推理链中每一步进行评估和反馈的机制，旨在提高模型在复杂任务中的表现。
强化学习曾小健·2025-03-24 21:18

大模型的应用与微调：如何调用 LLM？从 OpenAI API 到本地部署

本篇文章将详细介绍如何调用大语言模型（LLM），涵盖OpenAIAPI、DeepSeek、Manus、通义千问等模型的调用方式，并探讨如何在本地部署LLM进行推理。
晴天彩虹雨·2025-03-24 19:02

基于推理的强化学习智能体设计与开发

1.理论基础与核心概念1.1推理强化学习（Reasoning-EnhancedRL）定义核心思想：在传统强化学习的马尔可夫决策过程（MDP）基础上，引入符号推理、因果推断和知识引导机制，解决复杂环境中的长程依赖和稀疏奖励问题
由数入道·2025-03-24 17:45

0 Token 间间隔 100% GPU 利用率，百度百舸 AIAK 大模型推理引擎极限优化 TPS

01什么是大模型推理引擎大模型推理引擎是生成式语言模型运转的发动机，是接受客户输入prompt和生成返回response的枢纽，也是拉起异构硬件，将物理电能转换为人类知识的变形金刚。
·2025-03-24 15:38

卫星网络仿真平台：IPLOOK赋能空天地一体化通信新生态

卫星仿真平台在6G技术加速演进与天地一体化网络建设的大背景下，卫星通信作为地面网络的重要补充，正成为全球通信覆盖的关键支撑。
爱浦路 IPLOOK·2025-03-24 13:13

基于WebAssembly的浏览器密码套件

2.1WebAssembly技术概述2.2浏览器密码套件的需求三、系统设计思路与架构3.1核心模块3.2系统整体架构图四、核心数学公式与算法证明4.1AES-GCM加解密公式4.2SHA-256哈希函数五、异步任务调度与GPU加速设计
闲人编程·2025-03-24 09:13

LLMOps 是什么？

这些操作可以涵盖多个领域，例如模型的训练、推理优化、部署、监控、故障排除等。在实际应用中，LLMOps的目标是提高语言模型的效率和效果，确保模型能够在各种实际场景中顺利运行。
AI Agent首席体验官·2025-03-24 08:35

万字深度解析：DeepSeek-V3为何成为大模型时代的“速度之王“？

引言在AI军备竞赛白热化的2024年，DeepSeek-V3以惊人的推理速度震撼业界：相比前代模型推理速度提升3倍，训练成本降低70%。
羊不白丶·2025-03-24 07:55

深度学习框架PyTorch——从入门到精通（6.2）自动微分机制

本节自动微分机制是上一节自动微分的扩展内容自动微分是如何记录运算历史的保存张量非可微函数的梯度在本地设置禁用梯度计算设置requires_grad梯度模式（GradModes）默认模式（梯度模式）无梯度模式推理模式评估模式
Fansv587·2025-03-24 06:17

Deepseek和豆包在技术创新方面有哪些相同点与不同点？

该架构将模型拆分为多个“专家”，训练和推理时让不同“专家”负责不同任务或数据子集，提高模型表达能力和效率，降低训练成本。模型优化以提升性能：都通过
alankuo·2025-03-24 06:16

使用Titan Takeoff进行高效的自然语言处理模型推理

在自然语言处理(NLP)领域，每一家企业都在寻求更高效的模型训练和推理解决方案。TitanML的平台通过训练、压缩和推理优化帮助企业构建和部署更佳、更小、更便宜、更快速的NLP模型。
scaFHIO·2025-03-24 04:54

从边缘到核心：群联云防护如何重新定义安全加速边界？

一、安全能力的全方位碾压1.协议层深度防护四层防御：动态过滤畸形TCP/UDP包（如SYNFlood），传统CDN仅限速率控制。技术示例：基于AI的协议指纹分析，拦截异常连接模式。七层防御：精准识别业务逻辑攻击（如薅羊毛API调用），CDN仅支持基础URL黑名单。文档引用：“支持基于HTTP头部字段的多条件组合精准访问控制”（产品文档）。2.资源调度与成本优势节点复用：群联共享节点池降低单客户成本
群联云防护小杜·2025-03-24 04:48

多级缓存设计实践

缓存技术是一种用于加速数据访问的优化策略。它通过将频繁访问的数据存储在高速存储介质（如内存）中，减少对慢速存储设备（如硬盘或远程服务器）的访问次数，从而提升系统的响应速度和性能。
MClink·2025-03-24 03:46

基于NanoDet的无人机交通违规监控系统设计与实现

本博客详细介绍了数据集的构建、模型的训练与推理、碰撞检测算法的实
深度学习&目标检测实战项目·2025-03-24 02:09

深入了解 ArangoDB 的图数据库应用与 Python 实践

ArangoDB作为一个可扩展的图数据库系统，能够加速从连接数据中获取价值。本文将介绍如何使用Python连接和操作ArangoDB，并展示如何结合图问答链来获取数据洞察。
eahba·2025-03-24 01:54

sqlmap笔记

：bythonsqlmap.py-r注入点地址--参数-rpost请求-uget请求--level=测试等级--risk=测试风险-v显示详细信息级别-p针对某个注入点注入-threads更改线程数，加速
君如尘·2025-03-24 00:49

【Spark】查询优化中分区（Partitioning）和分桶（Bucketing）是什么关系？什么时候应当分区，什么时候应当分桶？

在学习Spark的过程中，分区和分桶乍一看很像，都能为了计算加速，但是仔细一想，一查还是有些差异的，甚至说差异很大。那么具体有什么差异点，有什么相同点。我做出了如下的整理，供大家参考，欢迎指正。
petrel2015·2025-03-23 23:37

Windows10本地部署Dify+Xinference

1m是否部署完成5.安装Dify三、Dify中配置大模型1.浏览器输入http://localhost:80启动Dify页面2.随便注册账户登录3.配置Xinference四、运行Dify1.设置系统推理模型
橘长长长·2025-03-23 22:04

Docker之安装与配置

Docker之安装与配置一、Docker环境配置1.基本配置2.镜像加速3.网络配置4.数据持久化5.优化建议6.常见问题与解决方案7.补充工具二、Docker配置本地仓库指南1.拉取Registry镜像
雨五夜·2025-03-23 22:34

性能优化中如何“避免链接关键请求”

在性能优化中，“避免链接关键请求”是指通过优化资源加载顺序和依赖关系，减少关键渲染路径中的链式请求（CriticalRequestChains），从而加速页面加载。
混血哲谈·2025-03-23 21:24

哈尔滨工业大学DeepSeek公开课人工智能：大模型原理 技术与应用-从GPT到DeepSeek｜附视频下载方法

强调了语言模型不仅辅助其他NLP任务，本身也蕴含大量知识，如地理信息、语义理解和推理能力。随着技术的发展，尤其是trans
你觉得205·2025-03-23 19:39

A800核心加速技术深度剖析

内容概要作为第三代异构计算架构的典型代表，A800通过深度融合通用计算单元与专用加速模块，构建了高度灵活的资源调度体系。
智能计算研究中心·2025-03-23 15:56

H200架构升级与实战解析

本文将从芯片级设计革新出发，剖析其多维度升级路径：首先解读计算单元拓扑重组带来的并行效率提升，阐释内存子系统的带宽优化策略；继而拆解面向AI训练场景的混合精度加速机制，以及科学计算工作负载的动态资源调度方案
智能计算研究中心·2025-03-23 15:56

H800能效架构实战解析

在架构设计中，异构资源调度算法通过实时分析任务特征与硬件状态，动态分配CPU、GPU及专用加速器资源，最大化硬件利用率；动态功耗模块则基于负载波动自适应调整供电策略，结合多级电压频率
智能计算研究中心·2025-03-23 15:56

算力技术创新与多场景应用突破

与此同时，全国一体化算力网络建设加速芯片制程迭代、数据中
智能计算研究中心·2025-03-23 15:26

多模态大模型常见问题

Q-Former（BLIP2）：优点：Q-Former通过查询机制有效融合了视觉和语言特征，使得模型能够更好地处理视觉-语言任务，尤其是在多模态推理任务中表现优秀。
cv2016_DL·2025-03-23 12:06

【零基础入门】一篇弄懂nn.Sequential以及ModuleList的使用（呕心沥血版）

个人主页：十二月的猫-CSDN博客系列专栏：《PyTorch科研加速指南：即插即用式模块开发》CSDN博客十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光目录1.前言2.Sequential
十二月的猫·2025-03-23 10:24

景联文科技提供高质量文本标注服务，驱动AI技术发展

文本标注是自然语言处理（NLP）领域的一个重要环节，它通过为文本的不同部分提供具体的含义和上下文信息，增强机器学习和深度学习模型对文本内容的理解能力。
景联文科技·2025-03-23 10:52

打造金融数据新引擎，看永洪科技助力头部农信社搭建一站式分析平台

在数字化转型的浪潮中，金融行业作为经济发展的核心引擎，正加速探索数字化、智能化的新路径。
永洪科技·2025-03-23 09:48

C# 调用 VITS，推理模型 将文字转wav音频调试 -数字人分支

Microsoft.ML.OnnxRuntime.OnnxRuntimeException:[ErrorCode:InvalidArgument]Inputname:'input_name'isnotinthemetadata在Microsoft.ML.OnnxRuntime.InferenceSession.LookupInputMetadata(StringnodeName)位置D:\a\_w
未来之窗软件服务·2025-03-23 08:40

统一的视频动作模型

然而，有效地结合视频生成和动作预测仍然具有挑战性，当前基于视频生成的方法在动作准确性和推理速度方面难以与直接策略学习的性能相匹配。
三谷秋水·2025-03-23 08:36

OpenCV 4.2.0与扩展模块安装与应用指南

该版本引入了性能增强、API优化以及对深度学习框架和硬件加速技术的更新支持。扩展模块提供了额外的实验性算法和功能，有助于研究和开发新算法。指南详细介绍了如何安装和配置这些库，并提
土城三富·2025-03-23 08:35

从注册到落地：Temu中亚首站瞄准乌兹别克斯坦消费潜力

从注册到落地：Temu中亚首站瞄准乌兹别克斯坦消费潜力近年来，全球跨境电商市场格局加速演变，中国跨境电商平台正积极拓展海外市场。
香菜9527·2025-03-23 07:58

知识图谱系列文章——文物知识图谱

明确领域和目的——文物知识图谱&设计创意2、领域信息采集与分析——文物信息，３４０件文物实例，3、定义文物本体概念和结构层次4、定义概念属性和属性约束5、本体编码（建模语言和工具）6、本体评估——Jena的内嵌推理机
weixin_43407382·2025-03-23 07:56

Deepseek API 调用

1获取APIKey目前比较知名的提供了DeepSeek的推理服务商包括硅基流动、阿里云、腾讯云等等。这些推理服务商一般是提供API接口，需要安装大模型客户端并配置API。
哦豁灬·2025-03-23 05:08

vLLM 部署大模型

1介绍vLLM是来自UCBerkeley的LMSYS在LLM推理方面的最新工作（没错就是搞出Vicuna的那个group），最大亮点是采用PagedAttention技术，结合ContinuousBatching
哦豁灬·2025-03-23 05:07

芯片的未来发展趋势

量子计算、6G、智能基础设施等新市场领域专用处理正在加速对更快、更高效、更多数据的需求。与每隔几年等待下一个工艺节点的日子相比，未来几年的事件将与电话或汽车的引入一样重要。
iccnewer·2025-03-23 04:28

多阶段构建实现 Docker 加速与体积减小：含文件查看、上传及拷贝功能的 FastAPI 应用镜像构建

借助多阶段构建，不仅实现了Docker构建的加速，还有效减小了镜像体积。
九不多·2025-03-23 04:23

【人工智能之大模型】阐述生成式语言模型的工作机理...（二）

（二）前言4.代码逐行解释TransformerBlock类初始化前向传播GenerativeLM类初始化前向传播推理示例测试生成5.总结欢迎宝子们点赞、关注、收藏！欢迎宝子们批评指正！
985小水博一枚呀·2025-03-23 02:09

一切皆是映射：实现神经网络的硬件加速技术：GPU、ASIC（专用集成电路）和FPGA（现场可编程门阵列）

文章目录一切皆是映射：实现神经网络的硬件加速技术：GPU、ASIC（专用集成电路）和FPGA（现场可编程门阵列）1.背景介绍2.核心概念与联系3.核心算法原理&具体操作步骤3.1算法原理概述3.2算法步骤详解
AI天才研究院·2025-03-23 02:36
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他