加速推理

深入理解 GPU 渲染加速与合成层（Composite Layers）

一、前端视角下的GPU加速1.CPU与GPU的协作模式在前端渲染流程中，GPU加速通过硬件并行计算能力显著提升图形处理效率。
·2025-03-16 00:16

模型可解释性：基于因果推理的反事实生成与决策可视化

1.技术原理与数学公式1.1因果推理基础结构方程模型（SEM）：X=fX(PaX,UX)X=f_X(Pa_X,U_X)X=fX(PaX,UX)其中PaXPa_XPaX为父节点集合，UXU_XUX为外生变量反事实定义
燃灯工作室·2025-03-15 23:43

推理流水线DAG调度：多模型组合执行优化方案

一、技术原理与数学模型1.1DAG调度核心公式设推理流水线由n个模型节点组成，定义：V={v1,v2,...,vn}V=\{v_1,v_2,...,v_n\}V={v1,v2,...,vn}为节点集合E
燃灯工作室·2025-03-15 23:12

Crawl4AI 与 BrowserUseTool 的详细对比

技术实现、适用场景等核心维度：1.核心定位对比工具Crawl4AIBrowserUseTool类型专为AI优化的网络爬虫框架浏览器自动化工具（模拟人类操作浏览器）核心目标高效获取结构化数据供AI训练/推理处理需要浏览器交互的动态网页任务典型应用大规模数据抓取
燃灯工作室·2025-03-15 23:42

基于时间序列预测的推理服务弹性扩缩容实战指南：（行业案例+数学推导+源码解析）

技术原理（数学公式）整体架构请求量预测→扩缩容决策→资源配置动态调整三阶段闭环，周期为5-30分钟核心预测模型（时间序列预测）LSTM预测公式（CSDN兼容格式）：$$h_t=\text{LSTM}(x_t,h_{t-1})\\\hat{y}_{t+1}=W_h\cdoth_t+b_h$$其中Wh∈Rd×1W_h\in\mathbb{R}^{d\times1}Wh∈Rd×1为权重矩阵，ddd为隐藏
燃灯工作室·2025-03-15 23:12

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来！

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来在数字化转型加速的今天，企业新质生产力的核心已从传统资源投入转向技术驱动的效率革命。
·2025-03-15 23:44

向量存储与检索器

它们对于应用程序来说非常重要，这些应用程序需要获取数据以作为模型推理的一部分进行推理，就像检索增强生成（
小码农0912·2025-03-15 22:05

《今日AI-人工智能-编程日报》-源自2025年2月28日

技术突破OpenAI发布GPT-4.5：OpenAI正式推出新一代大模型GPT-4.5，语言理解、情商及逻辑推理能力显著增强，幻觉问题大幅减少，计算效率较GPT-4提升超10倍，已逐步向用户开放试用。
小亦编辑部·2025-03-15 22:59

OpenCV 深度学习模块 cv2.dnn 与其他深度学习框架的优缺点对比及适用场景

OpenCV提供了一个深度学习模块cv2.dnn，让开发者能够在计算机视觉项目中轻松加载和推理深度学习模型。
白.夜·2025-03-15 21:26

深度学习中的 blob 格式：与普通 image 的区别及转换原因

在深度学习模型推理过程中，我们经常会用到cv2.dnn.blobFromImage函数将普通图像转换为blob格式。那么，blob格式到底是什么？它和普通image有什么区别？
白.夜·2025-03-15 21:25

DeepSeek多语言智能创作引擎解析

内容概要在人工智能技术加速演进的背景下，DeepSeek系列产品通过混合专家架构（MoE）与670亿参数的协同设计，构建了多模态智能创作引擎的核心竞争力。
智能计算研究中心·2025-03-15 20:22

LLMs之Colossal-LLaMA-2：源码解读(train.py文件)基于给定数据集实现持续预训练LLaMA-2—解析命令行参数→初始化配置(分布式训练环境colossalai+训练日志+加速插

LLMs之Colossal-LLaMA-2：源码解读(train.py文件)基于给定数据集实现持续预训练LLaMA-2—解析命令行参数→初始化配置(分布式训练环境colossalai+训练日志+加速插件
一个处女座的程序猿·2025-03-15 18:38

模型的秘密武器：利用注意力改善长上下文推理能力

【导语】在大语言模型（LLM）不断刷新各项任务记录的今天，很多模型宣称能处理超长上下文内容，但在实际推理过程中，复杂问题往往因隐性事实的遗漏而败下阵来。
步子哥·2025-03-15 16:51

Android Jetpack

特点加速开发组件可以单
qq_39892855·2025-03-15 16:19

大型语言模型与强化学习的融合：迈向通用人工智能的新范式——基于基础复现的实验平台构建

1.引言大型语言模型（LLM）在自然语言处理领域的突破，展现了强大的知识存储、推理和生成能力，为人工智能带来了新的可能性。
（initial）·2025-03-15 16:17

我与DeepSeek读《大型网站技术架构》- 大型网站架构技术一览与Web开发技术发展历程

CDN加速：将静态资源分发至边缘节点，降低网络延迟。反向代理：缓存热点内容，提供负载均衡与
诺亚凹凸曼·2025-03-15 15:06

我与DeepSeek读《大型网站技术架构》（4）

CDN加速：静态资源
诺亚凹凸曼·2025-03-15 15:35

【第六节】windows sdk编程：Windows 中的资源

引言资源是Windows应用程序图形用户界面（GUI）的重要组成部分，它们是应用程序中使用的各类数据，如光标、位图、图标、加速键、菜单、字符串和对话框等。这些数据在编译后会被包含在EXE文件中。
攻城狮7号·2025-03-15 14:01

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来!

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来在数字化转型加速的今天，企业新质生产力的核心已从传统资源投入转向技术驱动的效率革命。
·2025-03-15 14:30

基于IMX6ULL的安防监控项目

mjpg-streamer库实现在远端网页可以查看实时监控图像；利用cgi与html交互实现控制命令的下发和监控数据上传，用户可以在网页端控制硬件，比如LED灯，蜂鸣器等，同时可以在网页端直观查看ICM20608获取的加速度
暗夜之眼007·2025-03-15 13:54

模型量化 (Model Quantization) 算法 (Model Quantization Algorithms)

1模型量化的必要性：降低模型大小、加速推理、减少资源消耗随着深度学习模型的日益复杂和庞大，其在资源受限的设备（如移动端、嵌入式设备）上的部署面临着巨大的挑战。
（initial）·2025-03-15 13:24

基于ChatGPT和GoogleScholar的文章总结器

它能够自动抓取GoogleScholar上的研究文章，并利用OpenAI的GPT模型进行摘要生成，同时支持多语言输出，帮助打破语言障碍，加速科研进程。
莫达菲尼·2025-03-15 12:42

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来

开源应用驱动企业新质生产力：Websoft9以EPP+AI+知识库助您领跑未来在数字化转型加速的今天，企业新质生产力的核心已从传统资源投入转向技术驱动的效率革命。
·2025-03-15 10:26

嵌入式AI必备技能2-模型的压缩与加速

嵌入式AI必备技能2-模型的压缩与加速引言随着嵌入式AI设备的广泛应用，模型的计算效率和存储需求成为核心挑战。由于嵌入式系统通常资源受限，传统的深度学习模型往往难以直接部署。
奥德彪123·2025-03-15 10:30

海量数据查询加速：Presto、Trino、Apache Arrow

1.引言在大数据分析场景下，查询速度往往是影响业务决策效率的关键因素。随着数据量的增长，传统的行存储数据库难以满足低延迟的查询需求，因此，基于列式存储、向量化计算等技术的查询引擎应运而生。本篇文章将深入探讨Presto、Trino、ApacheArrow三种主流的查询优化工具，剖析其核心机制，并通过案例分析展示它们在实际业务中的应用。2.Presto：分布式SQL查询引擎2.1Presto介绍Pr
晴天彩虹雨·2025-03-15 08:12

佑驾创新获得大众、奥迪定点

据其官方内容显示，两家品牌拥有广泛的用户基础和强大的品牌影响力，此次合作将进一步提升公司的市场覆盖率，同时也加速智能座舱技术的迭代升级。有知情业内人士透露，该合资品牌、豪华品牌为大众、奥迪。
高工智能汽车·2025-03-15 07:00

智驾赋能新质生产力，开启“全感知时代”

在各行各业的高端技术前沿领域，设备智能化、自动化、无人化升级进程正不断加速。然而，环境感知与实时决策能力，始终是横亘在技术飞跃之路上的关键阻碍。
高工智能汽车·2025-03-15 07:29

榜单首发！高阶智驾「爆发」进行时，本土TOP10供应商抢市场

一些车企加速补齐功能，而更多的车企则是瞄准更大规模的走量市场。
高工智能汽车·2025-03-15 07:29

认知科学：解决复杂问题的5个关键策略

这些策略包括：模式识别规则抽取推理和逻辑推理知识表示和知识图谱多模态处理我们将在接下来的部分中详细讨论这些策略，并提供代码实例和数学模型公
AI天才研究院·2025-03-15 06:25

a16z Speedrun：加速科技与娱乐的未来

引言a16z（AndreessenHorowitz）作为硅谷最具影响力的风投公司之一，一直致力于支持那些打破常规、创造新可能性的创始人。随着科技和娱乐领域的融合日益加深，a16z推出了Speedrun计划，旨在帮助前沿科技和娱乐领域的初创公司快速成长。专注于推动游戏、AI、3D、流媒体、平台、游戏技术、XR等领域的创新。a16z联合创始人马克·安德森（MarcAndreessen）在speedru
花生糖@·2025-03-15 06:55

人工智能：重塑未来生活与工作的科技力量

最初，AI的研究主要集中在逻辑推理、机器学习和自然语言处理等领域，目标是使机器能够模拟人类的智能行为。尽管在早期的探索中，AI遭遇了诸多挑战和瓶颈，但其发展潜力逐渐被认可，并在随后几十年中得到了迅速的
Geektec·2025-03-15 06:54

Anthropic 的模型

Anthropic的模型（特别是Claude系列）之所以在性能和推理能力上表现强劲，可以从技术设计、研究理念、训练方法以及应用优化等多个方面进行详细分析。
调皮的芋头·2025-03-15 06:50

DeepSeek R1有什么不同

订阅：https://rengongzhineng.io/深度思考实验室（DeepSeek）最近发布了全新的推理模型R1，声称该模型不仅性能超越目
新加坡内哥谈技术·2025-03-15 06:18

DeepSeek开源：FlashMLA深度解析：Hopper架构上的大模型推理革命

2025年2月24日，DeepSeek以「开源周」首日发布的FlashMLA技术，重新定义了Hopper架构GPU在AI推理领域的性能极限。
花生糖@·2025-03-15 03:55

数据目录：数字化转型的导航引擎与核心基建

本文从定义、分类、构建逻辑切入，结合华为等企业实践，剖析数据目录如何驱动数据治理、加速业务创新，并为不同阶段的数字化转型提供可落地的实施路径。关键字：数据目录、数字化转型、元数据管理、数据治理、智
领码科技·2025-03-15 03:22

【JS性能优化黑魔法】从8秒到0.8秒的奇迹の逆袭（祖传代码大改造）—— 让老板跪下喊爸爸的极致优化指南

{cartItems.forEach(item=>{item.style.top=`${Math.sin(Date.now())*10}px`;//持续触发回流});},16);//老司机优化（GPU加速
vvvae1234·2025-03-15 01:08

LLM推理和优化（1）：基本概念介绍

一、LLM推理的核心过程：自回归生成LLM（如DeepSeek、ChatGPT、LLaMA系列等）的推理本质是自回归生成：从初始输入（如[CLS]或用户prompt）开始，逐token预测下一个词，直到生成结束符
AndrewHZ·2025-03-14 23:50

网络安全还值得学习吗？

市场需求：随着互联网的普及和数字化转型的加速，网络安全问题日益凸显。企业、政府和个人对网络安全的需求不断增长，这导致了网络安全专业人才的稀缺。因此，从市场需求的角度来看，网络安全专业具有较大
黑客呀·2025-03-14 23:19

【Python】multiprocessing 模块：多进程并行计算

Pythonmultiprocessing模块Python的multiprocessing模块用于多进程并行计算，可以充分利用多核CPU进行任务加速，突破PythonGIL（全局解释器锁）的限制，提高程序执行效率
彬彬侠·2025-03-14 23:18

H100解锁生成式AI算力新纪元

：第三代TensorCore通过稀疏计算与混合精度支持，显著提升矩阵运算效率；显存带宽优化技术结合HBM3高带宽内存，将数据吞吐量提升至3.35TB/s，有效缓解大规模模型训练中的显存墙问题；动态编程加速器则针对
智能计算研究中心·2025-03-14 22:43

Batch Normalization理解

BatchNormalization理解BatchNormalization：批归一化我们在图像预处理过程中通常会对图像进行标准化处理，这样能够加速网络的收敛，如下图所示，对于Conv1来说输入的就是满足某一分布的特征矩阵
zhimengxiang·2025-03-14 22:13

1章5节：大模型术语解读与从生成到推理的演进

本篇文章将深入剖析大模型相关的核心术语，探讨其内涵、应用及发展趋势，并回顾大模型从生成到推理的演进历程，解析全球科技巨头与国内前沿企业在这一领域的竞争与创新。
DAT｜R科学与人工智能·2025-03-14 22:08

云原生周刊：基于 KubeSphere LuBan 架构打造DeepSeek 插件

开源项目推荐KubeAIKubeAI是一个K8s上的AI推理操作器，旨在简化在生产环境中部署和管理大型语言模型（LLM）、向量嵌入和语音处理等机器学习模型。
·2025-03-14 22:37

ROS机器人边缘计算：EdgeComputing与ROS

这种模块化设计使得开发人员可以更容易地重用和共享代码，从而加速了机器人软件的开发过程。1.2边缘计算
AI天才研究院·2025-03-14 22:36

从零到一：Transformer模型的原理与实战之旅

1.2自注意力机制的核心1.3Transformer的结构2.实战：构建Transformer模型2.1任务目标2.2环境准备2.3数据准备2.4模型构建2.5模型训练3.推理实战：完整示例与输出结果3.1
樽酒ﻬق·2025-03-14 21:06

3-002： MySQL 中使用索引一定有效吗？如何排查索引效果？

1.索引失效的常见原因虽然索引可以加速查询，但在某些情况下，MySQL可能不会使用索引，甚至使用索引反而更慢。以下是一些常见导致索引失效的原因：①查询条件使用了!=或30时仍能利用索引。
盖盖衍上_染染熊_代码集·2025-03-14 20:56

MySQL 的索引数量是否越多越好

加速排序（
Zero_pl·2025-03-14 20:25

HiPixel开源AI驱动的图像超分辨率的原生macOS 应用程序，使用 SwiftUI 构建并利用 Upscayl 强大的 AI 模型

二、软件特征具有SwiftUI界面的原生macOS应用程序使用AI模型进行高质量图像放大通过GPU加速实现快速处理支持各种图像格式用于自动处理新添加图像的文件夹监控现代、直观的用户界面三、为什么选择HiPixel
2301_78755287·2025-03-14 19:43

如何通过自动化测试提升DevOps效率？

它通过减少人工干预、加速反馈循环和提高测试覆盖率，直接推动了DevOps效率的提升。本文将从理论到实践，系统阐述如何通过自
测试渣·2025-03-14 19:39

仍未接入DeepSeek，字节有自己的计划！

君不见，腾讯接入DeepSeek后，短期内股价疯涨两次，这是由于DeepSeek强化了AI产品的竞争力，大家认为DeepSeek的技术与腾讯的用户基础结合，能碰撞出AI应用变现加速的火花。
蜂耘·2025-03-14 18:04
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他