自然语言推理第15页

使用VolcEngine Maas Chat进行语言模型对话的入门指南

技术背景介绍VolcEngineMaasChat模型提供了一种便捷的方式进行对话接口的设计与实现，特别是对于自然语言处理(NLP)应用。

dagGAIYD·2025-01-23 04:53

使用iFlyTek SparkLLM进行实时聊天应用开发

它的核心在于通过自然语言理解和生成，实现人机之间的自然交流。通过使用

dagGAIYD·2025-01-23 04:53

使用ModelScope实现高效句嵌入生成

技术背景介绍在自然语言处理（NLP）任务中，向量化文本（嵌入）是许多下游任务（如语义搜索、文本分类、问答系统等）的核心步骤之一。

dagGAIYD·2025-01-23 04:23

Transformer架构原理详解：多头注意力（MultiHead Attention）

Transformer,多头注意力,Multi-HeadAttention,机器翻译,自然语言处理,深度学习1.背景介绍近年来，深度学习在自然语言处理（NLP）领域取得了显著进展。

AI大模型应用之禅·2025-01-23 02:33

AI 对程序员的冲击剖析

一、引言AI技术近年来取得了突破性进展，其在自然语言处理、机器学习、深度学习等领域的应用日益广泛。在软件开发领域，AI不再仅仅是辅助工

程序员WANG·2025-01-23 01:55

WebRover：专为训练大型语言模型和 AI 应用程序而设计的 Python 库

数据集地址：WebRoverDataset|自然语言处理数据集|AI模型训练数据集一、让我们一起来看一下WebRoverWebRover通过智能网络爬虫技术，自动从网络中提取与特定主题相关的内容，并支持多种输入格式

·2025-01-23 01:54

从自然语言到提示词：编程范式的革命

从自然语言到提示词：编程范式的革命关键词：编程范式、自然语言处理、提示词编程、人工智能、算法原理摘要：随着人工智能技术的不断发展，编程范式正经历着从自然语言处理向基于提示词的人工智能编程模式的转变。

AI天才研究院·2025-01-22 22:01

深度学习模型开发文档

它被广泛应用于图像识别、自然语言处理、语音识别等领域。本文将以构建

Ares代码行者·2025-01-22 20:47

基于C++和ONNX Runtime的YOLOv5目标检测实战

本文将详细介绍如何使用C++结合ONNXRuntime推理引擎来部署YOLOv5模型，实现高效的目标检测。

浪浪山小白兔·2025-01-22 18:01

RK3568笔记二十九：RTMP推流

基于RK3568的RTMP推流测试，此代码是基于勇哥的github代码修改的，源码地址MontaukLaw/3568_rknn_rtmp:rk3568的推理+推流(github.com)感兴趣的可以clone

殷忆枫·2025-01-22 18:00

大模型GUI系列论文阅读 DAY3续4：《TREE SEARCH FOR LANGUAGE MODEL AGENTS》

然而，语言模型的一个主要局限在于：它们主要针对自然语言理解和生成进行了优化，在解决现实世界的计算机任务时，难以应对多步推理、规划以及环境反馈的利用。

feifeikon·2025-01-22 17:23

AI系统架构原理与代码实战案例讲解

早期的研究主要集中在符号推理、专家系统等领域，取得了一些突破，例如机器定理证明、西洋跳棋程序等。1.1.2人工智能的黄金时期上世纪80年代，随着专家系统的兴起，人工智能进入了一个黄金时期。

AI天才研究院·2025-01-22 16:15

极客说｜Phi-4 模型的 4 位量化与 vLLM 高速推理

Phi-4的模型参数量是14B，这使它在推理的时候比较耗费内存。因此如果我们想要在边缘端运行，需要对它进行量化。量化的手段很多，此前也介绍过，

·2025-01-22 16:00

多头潜在注意力（MLA）是怎么来的，什么原理，能用简单的示例解释么

多头潜在注意力（Multi-HeadLatentAttention，简称MLA）是一种改进的注意力机制，旨在提高自然语言处理（NLP）模型的推理效率和性能。

百态老人·2025-01-22 14:55

AI人工智能深度学习算法：高并发场景下深度学习代理的性能调优

特别是在自然语言处理、图像识别、语音识别等领域，深度学习模型的性能已经超越了传统方法。为了更好地将深度学习技术应用于实际场景，深度学习代理应运而生。

AI天才研究院·2025-01-22 14:54

零门槛一键生成PPT，利用人工智能快速提高办公效率（无需第三方插件）

它是基于人工智能技术的语言模型，能够理解和生成自然语言。与传统的PPT制作方式不同，ChatGPT通过与你进行对话，理解你的需求和要点

beautycountry88·2025-01-22 13:49

【深度学习基础】线性神经网络 | softmax回归的简洁实现

深度学习在计算机视觉、自然语言处理、多模态数据

Francek Chen·2025-01-22 11:34

Transformer模型全面解析：工作原理、应用与未来展望*

正文Transformer模型全面解析：工作原理、应用与未来展望在人工智能的浪潮中，Transformer模型以其强大的性能和广泛的应用场景，成为了自然语言处理（NLP）领域的一颗璀璨明星。

泰山AI·2025-01-22 09:46

一切皆是映射：Transformer架构全面解析

背景介绍自2017年，Transformer（自注意力机制）架构的问世以来，它已经成为自然语言处理（NLP）领域的主流技术之一。

AI天才研究院·2025-01-22 09:16

大语言模型原理基础与前沿指令生成

指令生成、Transformer、BERT、GPT、LLaMA、Fine-tuning、PromptEngineering1.背景介绍近年来，大语言模型（LargeLanguageModels，LLMs）在自然语言处理领域取得了令人瞩目的成就

AI大模型应用之禅·2025-01-22 07:04

使用ChatLlamaCpp和Llama CPP Python进行聊天模型集成

技术背景介绍随着自然语言处理技术的不断发展，越来越多的应用需要集成复杂的聊天模型以提高交互能力。

AWsggdrg·2025-01-22 06:53

使用RAG-Chroma与OpenAI构建高效问答系统

技术背景介绍RAG是一种结合信息检索（IR）和自然语言生成（NLG）的技术。它通过先检索与问题相关的信息，然后生成答案，提高了问答系统的准确性和相关

srudfktuffk·2025-01-22 05:15

大模型的部署方法三：使用Xinference部署

Xinference是一个分布式推理框架，它支持一键部署各种模型，包括大型语言模型（LLMs）。

大模型微调部署·2025-01-22 05:15

如何有效控制 KV 缓存的内存占用，优化推理速度？

使用KV缓存技术的目的是在生成过程中计算过去tokens的键和值张量时，将这些张量存储（“缓存”）在GPU内存中，从而避免在每个生成步骤中重新计算这些tokens的键和值张量。KV缓存是一种妥协：我们以内存的消耗换取计算量的减少。在这篇文章中，我们将了解KV缓存的容量有多大、会带来哪些挑战，以及面对这些挑战最常用的应对策略是什么。01KV缓存的容量有多大？这相当简单：对于每个batch中每个序列的

m0_70960708·2025-01-22 04:13

2.6 聚焦：Word Embedding

它是自然语言处理（NLP）中不可或缺的一部分，为文本数据提供了强大的表示能力。

少林码僧·2025-01-22 04:39

LLama 架构一览

KVCache推理加速llama、l

Debroon·2025-01-22 04:08

Transformer入门（1）transformer及其编码器-解码器

文章目录1.Transformer简介2.Transformer的编码器-解码器架构3.transformer的编码器1.Transformer简介Transformer模型是一种用于自然语言处理的机器学习模型

通信仿真实验室·2025-01-22 01:51

月之暗面今日发布k1.5多模态思考模型

这一模型在基准测试成绩方面展现出了非凡的性能，它实现了SOTA（state-of-the-art）级别的多模态推理和通用推理能力。

百态老人·2025-01-22 01:51

Transformer架构原理详解：编码器（Encoder）和解码器（Decoder）

Transformer,编码器,解码器,自注意力机制,多头注意力,位置编码,序列到序列,自然语言处理1.背景介绍近年来，深度学习在自然语言处理（NLP）领域取得了显著进展，其中Transformer架构扮演着至关重要的角色

AI大模型应用之禅·2025-01-22 00:08

深入解析CANN算子开发：TBE与AI CPU算子类型及其开发方法全指南

深入解析CANN算子开发：TBE与AICPU算子类型及其开发方法全指南在现代AI计算领域中，高效的算子开发对于优化深度学习模型的推理与训练至关重要。

快撑死的鱼·2025-01-21 20:09

通用数字人系统--引领智能交互新时代

general_digital_human_system核心特点高性能实现视频帧率稳定30FPS+，支持1080P高清输出音视频延迟控制在200ms以内对话响应时间5秒以内支持横向扩展，满足高并发需求智能交互基于GPT的自然语言理解实时知识库检索与问答表情与语音情感同步多语言及方言支持快速上手

·2025-01-21 17:08

科技早报｜OpenAI的人工智能模型销售收入超过微软类似业务；荣耀中国区CMO辟谣将采用麒麟芯片 | 最新快讯

与此前的版本相比，新模型在文本生成、语言理解、知识问答、逻辑推理、数学能力、代码能力、多模态能力等七大能力上都有提升。例如，讯飞星火可以根据用户的语言描述，结合空间和常识推断描述对象所在的位置。

最新科技快讯·2025-01-21 16:34

DeepSeek：极致的中国技术理想

揭秘DeepSeek:一个更极致的中国技术理想主义故事划重点中国的大模型创业公司DeepSeek因其创新的MLA架构和DeepSeekMoESparse结构，使推理成本降低至每百万token仅1块钱，引发中国大模型价格战

X_taiyang18·2025-01-21 16:32

大模型GUI系列论文阅读 DAY2续：《一个具备规划、长上下文理解和程序合成能力的真实世界Web代理》

我们提出WebAgent，一个由LLM驱动的智能代理，能够通过自我学习的方式，在真实网站上按照自然语言指令完成任务。WebAgent通过将指令提前规划，将其分解为子指

feifeikon·2025-01-21 15:19

使用AI API生成生动比喻句的实践指南

核心原理解析AI文本生成技术，尤其是基于大型语言模型的API，如Anthropic的Claude或OpenAI的GPT，以其理解和生成自然语言文本的能力，能够根据输入提示生成富有创意和感染力的比喻句。

wd48564awd·2025-01-21 09:55

构建一个针对SQL数据的问答系统

在如今的数据驱动时代，能够从结构化数据中提取信息并进行自然语言问答的能力是极其重要的。在这篇文章中，我们将探索如何使用大型语言模型(LLM)创建一个问答系统来查询SQL数据库中的表格数据。

safHTEAHE·2025-01-21 09:24

大模型推理：vllm多机多卡分布式本地部署

文章目录1、vLLM分布式部署docker镜像构建通信环境配置2、其他大模型部署工具3、问题记录参考文献单台机器GPU资源不足以执行推理任务时，一个方法是模型蒸馏量化，结果就是会牺牲些效果。

m0_74824755·2025-01-21 08:20

AIGC视频生成国产之光：ByteDance的PixelDance模型

优质专栏回顾：机器学习笔记深度学习笔记多模态论文笔记AIGC—图像文章目录论文摘要引言输入训练和推理时的数据处理总结相关工作视频生成长视频生成方法模型架构

好评笔记·2025-01-21 08:48

使用Amazon Bedrock API调用Anthropic的Claude模型

通过AmazonBedrock，开发者可以在云端直接调用Claude进行各种自然语言处理任务。本指南将引导您如何在Python中通过Bedrock来使用Claude模型。

dwa46a56w4d·2025-01-21 08:47

PyTorch 基础数据集：从理论到实践的深度学习基石

一、引言深度学习作为当今人工智能领域的核心技术，在图像识别、自然语言处理、语音识别等众多领域取得了令人瞩目的成果。

那年一路北·2025-01-21 07:05

【深度学习】Pytorch：导入导出模型参数

PyTorch是深度学习领域中广泛使用的框架，熟练掌握其模型参数的管理对于模型训练、推理以及部署非常重要。本文将全面讲解PyTorch中关于模型参数的操作，包括如何导出、导入以及如何下载模型参数。

T0uken·2025-01-21 05:54

YOLOv8/YOLOv11使用web界面推理自己的模型，Gradio框架快速搭建

接下来教你使用Gradio框架构建一个简单Web界面推理YOLOv8/YOLOv11模型。话不多说上检测结果：一、YOLOv8/YOLOv11源码下载YOLOv8源码下载：官网打不开的话，从我的网盘

挂科边缘·2025-01-21 05:49

使用 LangChain 构建多PDF文档聊天应用

它提供了方便的接口和工具，使得复杂的自然语言处理任务变得简单高效。核心原理解析我们将利用LangChain来读取多个

jkgSFS·2025-01-21 04:44

深入了解Text2SQL开源项目（Chat2DB、SQL Chat 、Wren AI 、Vanna）

深入了解Text2SQL开源项目（Chat2DB、SQLChat、WrenAI、Vanna）前言1.Chat2DB2.SQLChat3.WrenAI4.Vanna前言在数据驱动决策的时代，将自然语言查询转化为结构化查询语言

m0_74823983·2025-01-21 02:52

使用Claude构建文本生成应用

无论是处理代码、撰写散文还是其他自然语言任务，Claude都能提供精准的文本输出。为了更好地实现这些功能，我们需要掌握Claude的API使用，以及如何编写有效的提示词。

asd5646asd·2025-01-21 02:15

使用 PyTorch 从头开始构建您自己的 Llama 3 架构

architecture-from-scratch-using-pytorch全文摘要本文提供了一个详细的指南，介绍如何使用PyTorch从头开始构建Llama3模型的完整架构，并对自定义数据集进行训练和推理

子然在打码·2025-01-21 00:00

大模型的RAG微调与Agent：提升智能代理的效率与效果

这些模型通过在海量数据上的预训练，掌握了丰富的语言知识和模式识别能力，从而在多种自然语言处理任务上展现出卓越的性能。然而，预训练模型的通用性也意味着它

WeeJot·2025-01-21 00:57

YOLOv8改进，YOLOv8检测头融合DiverseBranchBlock，并添加小目标检测层（四头检测），适合目标检测、分割等

摘要一种卷积神经网络（ConvNet）的通用构建模块，以在不增加推理时间成本的情况下提高性能。

挂科边缘·2025-01-20 23:49

YOLOv10改进，YOLOv10改进主干网络为GhostNetV3(2024年华为的轻量化架构，全网首发)，助力涨点

摘要：紧凑型神经网络专为边缘设备上的应用设计，具备更快的推理速度，但性能相对适中。然而，紧凑型模型的训练策略目前借鉴自传统模型，这忽略了它们在模型容量上的差异，可能阻碍紧凑型模型的性能提升。

挂科边缘·2025-01-20 23:19

OpenBayes 一周速览｜微软 Phi-4 发布，降低更多成本实现高效推理；Terra 时空数据集上线

公共资源速递5个数据集：Terra多模态时空数据集ChineseCouplets中文对联数据集AqueousSolubility无机化合物数据集HumanLikeDPODataset大模型对话微调数据集SentimentandEmotionAnalysisDataset情感情绪分析数据集4个教程：一键部署Phi-4Docling：文档解析神器一键部署QVQ-72B-preview铅笔素描风格文生图

·2025-01-20 23:55

推荐频道

自然语言推理