图谱推理

大模型(LLM)推理框架汇总

MLCLLMsubmodulesinMLCLLM大模型(LLM)好性能通用部署方案，陈天奇(tvm发起者)团队开发.项目链接docs:https://llm.mlc.ai/docs/github:https://github.com/mlc-ai/mlc-llm支持的平台和硬件platforms&hardware支持的模型|Architecture|PrebuiltModelVariants||—

AIGC大模型吱屋猪·2025-07-23 17:01

YOLO 目标检测的改进方法

轻量级网络如MobileNetV3、ShuffleNetV2等适合移动端部署，可提高推理速度；高性能网络如ConvNeXt、SwinTransformer等能提取更丰富的语义特征，提升检测精度。

·2025-07-23 17:30

PD分离技术分析

PD分离中的“PD”指的是大语言模型（LLM）推理过程中的两个核心阶段：Prefill（预填充）和Decode（解码）。这两个阶段在计算特性和资源需求上存在显著差异，分离部署可优化整体性能。

老兵发新帖·2025-07-23 14:15

画一本书《学会提问》(第四章之3)检查和判定歧义

在推理过程中出现的意思不明确的词最为关键，我们要避免总是认为自己想的和作者表达的就是一个意思，也不能认为术语只存在一个明显的定义。

福二姨·2025-07-23 13:38

大模型记忆灾难优化：分层存储架构与7B参数实战调优

近年来，大型语言模型在文本生成、复杂推理等任务上展现出惊人能力，但其固定长度上下文窗口导致的“记忆灾难”日益凸显。当对话轮次或文档长度超出限制，关键信息被无情挤出，模型表现急剧下降——在

AI咸鱼保护协会·2025-07-23 13:05

新年逼自己一把，学会使用DeepSeek R1：从「翻车」到「封神」实战

它不仅颠覆了我们对传统指令模型的认知，更带来了全新的推理能力，让我们在日常工作、学习中都能高效利用AI。然而，要想完全发挥R1的潜力，你必须掌握一些使用技巧，避免那些让AI“翻车”的错误。

无数碎片寻妳·2025-07-23 11:49

王牌对王牌7第二期：没人关注白白的高能吗?

但是，我翻遍了全网，发现观众在看第二期的时候，竟然没有人注意到“白敬亭”的高能推理瞬间吗?他在里面表现的睿智又有意思，推理环节更是延续了明侦(我是明侦粉，见证了白白的蜕变)，那逻辑紧密的简直让能凶

娜娜蜀黍·2025-07-23 10:43

全球企业生成式AI应用图谱：601个案例揭示11行业×6类智能体实践，全网最详细！

写在前面：本文为谷歌发布的《601real-worldgenAIusecasesfromtheworld’sleadingorganizations》原文链接为：https://cloud.google.com/transform/101-real-world-generative-ai-use-cases-from-industry-leaders?hl=en以下案例按照“汽车与物流、商业与专用

·2025-07-23 10:47

基于国产手机 SoC 的多模态模型推理加速实战：GPU × NPU 协同优化全流程解析

基于国产手机SoC的多模态模型推理加速实战：GPU×NPU协同优化全流程解析关键词多模态模型推理、NPU硬件加速、GPU并行计算、国产手机SoC、端侧部署优化、华为昇腾NPU、小米Surge芯片、高通AIEngine

观熵·2025-07-23 09:36

中国在远程医疗智能化方面有哪些特色发展模式？

一、县域医共体+AI辅助诊断（基层赋能模式）技术整合：基层医疗机构部署AI辅助诊断系统，通过大模型优化本地疾病图谱，为医生提供实时诊疗决策支持，年辅助诊断超20万次，电子病历规范率从7.53%提升至53.02%

争实科技·2025-07-23 08:33

大模型参与推理崩溃论战！从「思维错觉」到「错觉的错觉」再到「错觉的错觉的错觉」

《思维的错觉》：大模型推理会崩溃。《思维的错觉的错觉》：大模型崩溃是错觉。《思维的错觉的错觉的错觉》：大模型还是会崩溃。

·2025-07-23 08:30

边缘计算与量子模型优化驱动医疗诊断新突破

值得关注的是，框架选型直接影响着模型部署的可行性——TensorFlow在移动端推理优化方面的工具链完备性，与PyTorch动态图机制对迭

·2025-07-23 07:29

从0构建 HarmonyOS 本地语音识别项目：Whisper 完整落地教程

第一章：鸿蒙手机语音识别项目实战（基于Whisper本地推理）项目目标：构建一个可以在鸿蒙系统手机本地运行的语音识别应用，使用Whisper模型识别用户语音为文字，全程无需联网。

观熵·2025-07-22 21:19

Self-Consistency：跨学科一致性的理论与AI推理的可靠性基石

本文综合其在逻辑学、心理学及人工智能领域的核心定义、技术实现与前沿进展来对Self-Consistency（自洽性）进行系统性解析。本文由「大千AI助手」原创发布，专注用真话讲AI，回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我，一起撕掉过度包装，学习真实的AI技术！一、核心定义与跨学科内涵基础概念逻辑学定义：指理论或系统内部逻辑自洽，无矛盾或悖论。例如物理理论中，狭义相对论的速度变换

大千AI助手·2025-07-22 18:04

LiteCoT：难度感知的推理链压缩与高效蒸馏框架

“以智能裁剪对抗冗余，让推理效率与精度兼得”LiteCoT是由香港科技大学（广州）联合独立研究者团队提出的创新方法，旨在解决大模型知识蒸馏中推理链过度冗长和缺乏难度适应性的核心问题。

大千AI助手·2025-07-22 18:33

【正奇说:】第477期：一线销售员不需要学习销售心理学

对于销售岗位来讲，一线销售员在执行销售任务时，如果还需要思考、揣摩客户的心思，你想想那需要多么强大的思维与逻辑推理能力？即使有些销售员确实有这样的能力，但那也是个别案例！

毛正奇·2025-07-22 17:25

YOLO11-obb使用C++及trt进行推理（详细版）

针对YOLO的使用.engine权重及C++代码进行推理使用TensorRT-YOLO项目网站是：https://github.com/laugh12321/TensorRT-YOLO可以直接选择git

范男·2025-07-22 15:18

【深度学习新浪潮】什么是system 1和system 2？

System1代表快速、直觉、自动化的思维（如模式识别），而System2代表慢速、有意识、需要努力的逻辑推理（如复杂数学计算）。这一理论被引入AI领域后，成为理解大模型能力边界和优化方向的重要框架。

小米玄戒Andrew·2025-07-22 15:13

【AI论文】EmbRACE-3K: 复杂环境中的具身推理与行为研究

摘要：近期先进的视觉语言模型（Vision-LanguageModels，VLMs）在被动、离线的图像和视频理解任务中展现出了卓越的性能。然而，在具身场景中，这些模型的有效性仍较为有限。具身场景要求在线交互和主动的场景理解，在此类场景中，智能体以第一人称视角感知环境，且每一次动作都会动态地影响后续的观察结果。即便是像GPT-4o、Claude3.5Sonnet和Gemini2.5Pro这样的先进模

·2025-07-22 14:07

迈向大型推理模型：基于大型语言模型的强化推理综述（附教程）

语言长期以来被认为是人类推理的基本工具。大型语言模型（LLM）的突破激发了大量研究兴趣，推动了利用这些模型解决复杂推理任务的探索。

LLM大模型·2025-07-22 13:05

Python爬虫【四十五章】爬虫攻防战：异步并发+AI反爬识别的技术解密

目录引言：当爬虫工程师遇上AI反爬官一、异步并发基础设施层1.1混合调度框架设计1.2智能连接池管理二、机器学习反爬识别层2.1特征工程体系2.2轻量级在线推理三、智能决策系统3.1动态策略引擎3.2实时对抗案例四

程序员_CLUB·2025-07-22 13:34

AI人工智能领域知识图谱在文本分类中的应用技巧

AI人工智能领域知识图谱在文本分类中的应用技巧关键词：知识图谱、文本分类、图神经网络、实体关系抽取、深度学习、自然语言处理、特征融合摘要：本文深入探讨了知识图谱在文本分类任务中的应用技巧。

AI天才研究院·2025-07-22 13:31

“AI多模态视频解析引擎：毫秒级智能解构视听内容，生成结构化语义图谱。“

产品介绍在数字化浪潮席卷全球的当下，视频数据以前所未有的速度爆发式增长，社交媒体、安防监控、交通管理等各个领域每天都在产生海量视频信息。这些视频数据如同蕴藏丰富宝藏的深海，蕴含着巨大价值，但如何高效挖掘其中关键信息，成为横亘在各行业面前的一道难题。多模态视频结构化系统，正是为解决这一痛点而生，凭借其强大的功能、前沿的技术和创新的架构，成为视频数据处理领域的革新者与引领者。一、核心功能详解（一）音频

·2025-07-22 12:27

「Tokens是胡扯」？Mamba作者炮轰Transformer，揭秘AI模型致命缺陷 | AI早报

美团、今日资本领投，估值暴涨3倍5、华人团队用RL打造AIAgent，种子轮狂揽1200万美元融资6、Skywork-R1V3.0震撼开源：高考数学142分，多学科推理能力直逼

未来世界2099·2025-07-22 10:15

从零开始构建AI原生应用的认知架构

从零开始构建AI原生应用的认知架构关键词：AI原生应用、认知架构、机器学习、知识图谱、神经网络、智能决策、系统设计摘要：本文深入探讨如何从零开始构建AI原生应用的认知架构。

AI原生应用开发·2025-07-22 10:39

如何安全使用人工智能大模型

鉴于此我们只能采取如下措施:1.绝对本地部署，就是部署好以后断网，因为你使用时他还是会手机数据往后台传送，我本地部署的大模型在推理时看性能，网络也是有数据流的。也不知道在交换什么。

·2025-07-22 08:49

大语言模型应用指南：网页实时浏览

1.1.3预训练语言模型的优势1.2网页浏览的痛点1.2.1信息过载与检索困难1.2.2内容理解与知识提取1.2.3个性化与智能化需求1.3大语言模型与网页浏览的结合1.3.1智能问答与对话系统1.3.2知识图谱与语义搜索

AGI大模型与大数据研究院·2025-07-22 04:55

数据库管理-第349期 Oracle DB 23.9新特性一览（20250717）

过程和函数的编译时语法检查2不再需要JAVASCRIPT上的EXECUTE权限3GROUPBYALL4使用SQL创建并测试UUID5IVF索引在线重组6JSON到二元性迁移器：使用JSONschema进行模式推理

胖头鱼的鱼缸（尹海文）·2025-07-22 03:46

短剧小程序的「技术革命」：从「粗放生长」到「精准运营」

weixin_lynhgworld·2025-07-22 01:33

正港分局全6集/台剧【1080p超清中字】正港分局完整无删未删减版在哪免费在线播放观看夸克UC网盘高清迅雷网盘百度云

悬疑推理影集《谁是被害

全网优惠分享·2025-07-21 23:56

AI 大模型重塑软件开发流程

一、AI大模型的定义与发展历史AI大模型是基于海量数据训练的深度学习模型，具备强大的自然语言理解、逻辑推理和知识生成能力。

万花丛中一抹绿·2025-07-21 22:47

大模型日报10月21日

资讯篇资讯01清华开源混合精度推理系统MixQ量化权重与激活：MixQ同时量化权重和激活，使用INT8/INT4张量核心进行推理加速，并通过FP16张量核心处理少量激活中的离群值，既保持精度又提升吞吐量

大模型空间站·2025-07-21 22:15

机器学习专栏（62）：手把手实现工业级ResNet-34及调优全攻略

1.2ResNet-34结构详解二、工业级Keras实现详解2.1数据预处理流水线2.2完整模型实现三、模型训练调优策略3.1学习率动态调整3.2混合精度训练四、性能优化技巧4.1分布式训练配置4.2TensorRT推理加速五

·2025-07-21 16:06

企业级AI搜索引擎从零到一开发实战：全链路技术解析与代码实现

本文将深入剖析基于大语言模型、知识图谱和分布式架构的智能搜索引擎开发全流程，从数据抓取、索引构建到查询处理模块，提供完整的代码实现和架构设计。

·2025-07-21 15:02

从代码到终端部署：Prompt如何颠覆传统DevOps流程

2.1Prompt解析引擎实现（Python）2.2Kubernetes集成部署（YAML模板）三、生产部署实践3.1安全增强方案3.2性能优化数据四、技术前瞻与演进4.1未来三年技术路线图五、完整技术图谱六

LCG元·2025-07-21 14:23

解锁Prompt+DevOps新姿势：终端系统重塑的三大核心策略

智能决策流水线构建横向架构对比纵向实现流程Python实现示例核心策略二：自适应终端部署体系TypeScript客户端实现YAML部署配置模板核心策略三：智能运维闭环构建安全审计实现方案性能对比分析技术前瞻性分析附录：完整技术图谱技术架构部署验证引言

·2025-07-21 14:23

Spring AI + MCP Client 配置与使用详解

SpringAI是Spring官方推出的AI开发框架，支持多种语言模型接口，而MCPClient则是其集成远程推理能力的核心组件之一。

超级小忍·2025-07-21 12:06

MATC：通过数学推理和图表还原增强视觉语言预训练

温馨提示：本篇文章已同步至"AI专题精讲"MATC：通过数学推理和图表还原增强视觉语言预训练摘要视觉语言数据，如图表、图形和信息图，在人类世界中无处不在。

AI专题精讲·2025-07-21 11:01

一起剧本杀《人非圣贤》凶手是谁剧透+真相答案复盘解析攻略

获取完整真相复盘只需两步：①、关注微信公众号【奶茶剧本杀】→②、回复一起剧本杀《人非圣贤》即可获取查看一起剧本杀《人非圣贤》剧本杀真相答案复盘+凶手剧透：以下是玩家评测+部分关键证据，凶手，时间线，复盘解析，推理逻辑

VX搜_奶茶剧本杀·2025-07-21 11:06

Sequential Thinking：AI深度思考的新范式及其与CoT、ReAct的对比分析

引言：AI深度思考的演进与SequentialThinking的崛起在人工智能技术快速发展的今天，AI模型的思考能力正经历着从简单应答到深度推理的革命性转变。

码字的字节·2025-07-21 09:46

【科学专栏】什么是科学(6)

那么今天我们就来学习一下演绎推理和归纳推理。书中内容概括1.初级逻辑例11.所有哲学书都是令人厌烦的。2.这本书是一本哲学书。3.这本书是令人厌烦的。

opcc·2025-07-21 08:05

剧本杀谁是凶手《断魂楼》凶手是谁剧透+真相答案复盘解析攻略

获取完整真相复盘只需两步：①、关注微信公众号【奶茶剧本杀】→②、回复谁是凶手《断魂楼》即可获取查看谁是凶手《断魂楼》剧本杀真相答案复盘+凶手剧透：以下是玩家评测+部分关键证据，凶手，时间线，复盘解析，推理逻辑

VX搜_奶茶剧本杀·2025-07-21 08:35

剧本杀《告别诗/告白诗》剧本杀剧透+真相答案复盘解析攻略

获取完整真相复盘只需两步：①、关注微信公众号【奶茶剧本杀】→②、回复剧本杀《告别诗/告白诗》即可获取查看剧本杀《告别诗/告白诗》剧本杀真相答案复盘+凶手剧透：以下是玩家评测+部分关键证据，凶手，时间线，复盘解析，推理逻辑

VX搜_奶茶剧本杀·2025-07-21 07:57

戏精大侦探《夜空中最亮的星》剧本杀凶手是谁剧透+真相答案复盘解析攻略【奶茶剧本杀】

获取完整真相复盘只需两步：①、关注微信公众号【奶茶剧本杀】→②、回复戏精大侦探《夜空中最亮的星》即可获取查看戏精大侦探《夜空中最亮的星》剧本杀真相答案复盘+凶手剧透：以下是玩家评测+部分关键证据，凶手，时间线，复盘解析，推理逻辑

VX搜_奶茶剧本杀·2025-07-21 06:50

大模型格式

Modelfile方式构建ModelScope模型格式大多使用HuggingFaceTransformers格式，如.bin、.safetensors，与Ollama不兼容模型加载方式不同Ollama自带封装推理引擎

·2025-07-21 06:20

深入解析AI原生云服务冷启动时延优化：JVM字节码预编译引擎核心技术剖析

根据AWSLambda实测数据，传统JVM应用的冷启动时间高达1-5秒，这在需要快速弹性扩缩容的AI推理、实时数据处理等场景中可能造成严重的服务降级。

梦玄海·2025-07-21 00:37

大型语言模型在自动化AI科学研究与论文撰写中的应用与展望

LLM所展现出的新兴能力，例如高级规划、复杂推理和精确指令遵循，显著加速了科学发现的步伐。传统科学研究通常是一个由人类主导的、高度线性且劳动密集型的过程，

这是Jamon·2025-07-20 20:05

LLM4SR: A Survey on Large Language Models for Scientific Research

科学假设发现：LLMs生成科学假设的研究源于“基于文献的发现”和“归纳推理”。

UnknownBody·2025-07-20 20:33

DeepSeekMath：突破开源语言模型在数学推理中的极限

温馨提示：本篇文章已同步至"AI专题精讲"DeepSeekMath：突破开源语言模型在数学推理中的极限摘要数学推理由于其复杂且结构化的特性，对语言模型构成了重大挑战。

AI专题精讲·2025-07-20 19:58

卡罗林斯卡学院与华大等团队联合发表人类、猪、小鼠大脑中的蛋白编码基因图谱

美国时间2020年3月5日，由卡罗林斯卡学院、瑞典皇家理工学院和华大等团队共同完成的一项题目为“人类、猪、小鼠大脑中的蛋白编码基因图谱”的研究发表于Science（影响因子41）。

尐尐呅·2025-07-20 19:48

推荐频道