LLm

如何缓存聊天模型响应以提高效率

技术背景介绍在开发基于大型语言模型（LLM）的应用程序时，API调用的成本和响应速度是需要考虑的两个重要因素。尤其是在开发过程中，重复请求相同的文本生成可能会增加额外的成本和延迟。
scaFHIO·2025-03-20 03:46

如何在一行代码中初始化各种AI模型

技术背景介绍在开发大语言模型(LLM)应用时，用户有时需要选择不同的模型提供商和具体模型。这通常需要一定的逻辑来根据用户配置初始化不同的聊天模型。
qahaj·2025-03-20 03:16

Transformers模型版本和lm_eval老版本冲突问题ImportError: cannot import name ‘initialize_tasks‘ from ‘lm_eval.task

Transformers模型版本和lm_eval老版本冲突问题1问题背景在LLM评测的时候，要用lm_eval模型，而对于像是llama3/Mistrual等比较新的模型，较低的Transformers
neverwin6·2025-03-20 02:58

Tree of Thought Prompting（思维树提示）

TreeofThoughtPrompting（思维树提示）是一种新兴的提示工程技术，旨在通过模拟人类解决问题时的多步推理过程，提升大型语言模型（LLM）在复杂任务中的表现。
大数据追光猿·2025-03-20 02:28

深度学习-130-RAG技术之基于Anything LLM搭建本地私人知识库的应用策略问题总结(一)

1.1本地知识库应用场景1.2效果对比及思考1.3本地体现在哪些方面1.3.1知识在本地1.3.2分割后的文档在本地1.3.3大模型部署运行在本地2问错问题带来的问题2.1常见的问题2.2原因分析3为什么LLM
皮皮冰燃·2025-03-20 00:43

A Survey of Large Language Models大模型综述论文章节总结

ASurveyofLLM人大译ASurveyofLargeLanguageModels这篇论文全面回顾了大型语言模型(LLM)的最新进展，重点关注其发展背景、关键发现和主流技术。
WhyteHighmore·2025-03-19 19:09

A SURVEY ON POST-TRAINING OF LARGE LANGUAGE MODELS——大型语言模型的训练后优化综述——第9部分——应用

这些问题引发了一些根本性的探讨：(1)如何系统地提高LLM的表现以满足特定领域的需求？(2)在实
王金-太想进步了·2025-03-19 19:31

复旦：LLM不同层位置编码缩放

Layer-SpecificScalingofPositionalEncodingsforSuperiorLong-ContextModeling来源：arXiv,2503.04355摘要尽管大型语言模型（LLM
大模型任我行·2025-03-19 16:12

OpenManus 代码分析

项目分析：OpenManus这是github地址OpenManus是一个基于LLM（大型语言模型）的智能代理系统，它采用了模块化的设计，支持工具调用、规划和执行等功能。
有个人神神叨叨·2025-03-19 15:38

OctoTools：一个具有复杂推理可扩展工具的智体框架

现有方法使用外部工具增强大语言模型(LLM)，但仅限于专业领域、有限的工具类型或需要额外的训练数据。本文的OctoTools，是一个无需训练、用户友好且易于扩展的
三谷秋水·2025-03-19 09:09

微软开源神器OmniParser V2.0 介绍

这一工具通过结合先进的视觉解析技术和大型语言模型（LLM），显著提升了AI智能体在复杂环境下的识别能力和操作效率。
魔王阿卡纳兹·2025-03-19 04:30

自建 DeepSeek 时代已来，联网搜索如何高效实现

作者：张添翼（澄潭）开源LLM的新纪元：DeepSeek带来的技术平权随着DeepSeek等高质量开源大模型的涌现，企业自建智能问答系统的成本已降低90%以上。
·2025-03-18 18:38

大模型转型之路：必要性与未来前景，迎接智能时代的浪潮_转行大模型

随着人工智能（AI）技术的迅猛发展，特别是大型语言模型（LLM,LargeLanguageModels）的崛起，各行各业正迎来一场前所未有的技术革命。
大模型入门学习·2025-03-18 18:08

3分钟看懂MCP协议：AI领域的“万能插头“革命

它像AI领域的"USB-C接口"，通过统一协议实现大型语言模型（LLM）与本地文件、数据库、API等资源的无缝连接，打破数据孤岛限制，让AI应用真正具备"连接万物
东锋17·2025-03-18 17:37

llama.cpp 和 LLM（大语言模型）

llama.cpp和LLM（大语言模型）的介绍，以及两者的关联与区别：1.LLM（LargeLanguageModel，大语言模型）定义：LLM是基于深度学习技术（如Transformer架构）构建的超大参数量的自然语言处理模型
这个懒人·2025-03-18 14:12

MCP（Model Context Protocol，模型上下文协议）

MCP（ModelContextProtocol，模型上下文协议）是由Anthropic提出的开放协议，旨在为大型语言模型（LLM）与外部数据源、工具和服务之间的交互提供标准化框架。
dev.null·2025-03-18 08:46

揭秘MANUS ：多代理架构如何碾压竞争对手，人类必读的深度剖析

AISWareMaaS平台及DeepSeek的架构对比：架构层级ManusDeepSeekAISWareMaaS核心模块规划代理（任务拆解）、执行代理（工具调用）、验证代理（结果审查）单一大语言模型（LLM
爱吃青菜的大力水手·2025-03-18 07:37

作为普通程序员，我们该如何学习大模型（LLM），学习路线和知识体系

前言原谅我的后知后觉，才开始从头写，我是已经上了一阶段大模型的课，也搜集了些资料，并自己做了小部分实践，回过头来，才想开始整理些文章。起初，大家都在写，都在发，我那会在焦虑。自chatgpt爆火以来，AI技术又被广泛关注，国内外各大厂商也纷纷布局，作为我们每一个普通人，也无不时刻感受着AI一波又一波的冲击。尤其是作为程序员的我，相信绝大多数程序员也有和我一样的感受，从一开始的新奇，到焦虑，到试图去
和老莫一起学AI·2025-03-18 07:04

Cloud Ace 宣布成为 Langfuse 亚太地区首个代理商，提供 LLM 全链路解决方案

通过此次合作，CloudAce将充分发挥Langfuse的先进技术能力与行业专业知识，为企业级客户提供覆盖LLM（大语言模型）应用开发与运营维护的完整解决方案。
·2025-03-18 05:40

MCP协议深度解析：从Cline插件到Cursor，跨平台AI开发的革命性突破

其核心价值在于：实现LLM与外部系统的语义级融合标准化工具发现-调用-反馈全流程推动AI开发从"代码编程"向"自然语言编程"进化2
zhz5214·2025-03-18 02:57

【DeepSeek应用】本地部署deepseek模型后，如何在vscode中调用该模型进行代码撰写，检视和优化？

若已成功在本地部署了DeepSeek模型（例如通过vscode-llm、ollama或私有API服务），在VSCode中调用本地模型进行代码撰写、检视和优化的完整流程如下：1.准备工作：确认本地模型服务状态模型服务类型
AndrewHZ·2025-03-17 22:53

【GPT入门】第24课 langfuse介绍

入门】第24课langfuse介绍1.langfuse概念与作用2.代码3.页面效果4.设计模式1.装饰器模式2.上下文管理模式1.langfuse概念与作用Langfuse是一款专为大规模语言模型（LLM
*星星之火*·2025-03-17 21:16

基于多向量检索器的多模态RAG实现：用于表格、文本和图像

这些cookbooks还提出了一些将多模态LLM与多向量检索器配对以解锁图像上的RAG的想法。
lichunericli·2025-03-17 21:44

DIFFERENTIAL TRANSFORMER

本文是LLM系列文章，针对《DIFFERENTIALTRANSFORMER》的翻译。
UnknownBody·2025-03-17 21:44

LLM-PowerHouse: 一站式大型语言模型定制训练与推理指南

LLM-PowerHouse:解锁大型语言模型的潜力在人工智能和自然语言处理领域,大型语言模型(LargeLanguageModels,LLMs)正在掀起一场革命。
Nifc666·2025-03-17 21:43

[小白学大模型]dify-终于用mac intel跑起了大模型

Dify是一个开源的LLM应用开发平台。其直观的界面结合了AI工作流、RAG管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。
码农丁丁·2025-03-17 20:41

MultiCodeBench:首个涵盖 12 个特定软件应用领域和 15 种编程语言的代码生成基准测试

2024-12-25,由中山大学、西安交通大学、重庆大学共同创建的MultiCodeBench，填补了特定应用领域代码生成性能评估的空白，为开发者选择适合的LLM提供了实践洞见。
·2025-03-17 20:51

颠覆智能助手的游戏规则！LangGraph MCP助你构建通用AI助手！

主要功能无缝集成：能够将LLM（大语言模型）应用与各种外部数据源和工具进行无缝连接。想象一下，构建一个智能助手，能够实时获取所需信息，助你高
大模型.·2025-03-17 17:49

PlanLLM: 首个支持开放词汇与封闭集任务的跨模态视频程序规划框架

2025年1月7号，由杨德杰、赵子敬、刘洋联合提出PlanLLM，一种基于可微调大型语言模型（LLM）的跨模态联合学习框架，用于解决视频程序规划任务。
·2025-03-17 15:11

从LLM出发：由浅入深探索AI开发的全流程与简单实践（全文3w字）

文章目录第一部分：AI开发的背景与历史1.1人工智能的起源与发展1.2神经网络与深度学习的崛起1.3Transformer架构与LLM的兴起1.4当前AI开发的现状与趋势第二部分：AI开发的核心技术2.1
码事漫谈·2025-03-17 09:48

【人工智能】Model Context Protocol (MCP) 是一个开放协议，标准化了应用程序向大型语言模型（LLMs）提供上下文的方式

MCP，旨在标准化应用程序如何为大型语言模型（LLM）提供上下文信息。MCP，提供了一个标准的接口，使得LLM可以无缝集成各种外部数据源和工具，从而扩展其能力和应用场景。二、MCP的定义和作用MCP定
本本本添哥·2025-03-17 06:28

大模型系列——正式推出 Spring AI MCP：用于 MCP（模型上下文协议）的 Java SDK

模型上下文协议（MCP）是一种开放式协议，它规范了应用程序为大型语言模型（LLM
不二人生·2025-03-17 05:20

MCP（Model Context Protocol）模型上下文协议 理论篇1 - 架构

核心架构理解MCP如何连接客户端、服务器和LLM模型上下文协议(MCP)建立在灵活、可扩展的架构之上，能够实现LLM应用程序和集成之间的无缝通信。本文档涵盖了核心架构组件和概念。
AIQL·2025-03-17 05:47

小语言模型（SLM）技术解析：如何在有限资源下实现高效AI推理

尽管大语言模型（LLM）如GPT-4、GeminiUltra等在复杂任务中表现惊艳，但其高昂的算力成本、庞大的参数量（通常超过千亿）和依赖云端的特性，使得实际落地面临诸多瓶颈。
硅基打工人·2025-03-16 22:52

【开源所有代码-全在线智能音箱】树莓派智能音箱，自定义唤醒词，大模型LLM GPT对话

安装sounddevicepipinstallsounddevice安装portAudiosudoapt-getinstalllibportaudio2sudoapt-getinstalllibasound-devsudoapt-getinstallportaudio.devsudoapt-getinstallpython3-pyaudiopipinstallpyaudio安装wavepipins
南七小僧·2025-03-16 15:04

大语言模型微调和大语言模型应用区别

大语言模型微调和大语言模型应用区别微调与应用LLM的区别微调大语言模型（LLM）是指取一个已经预训练好的模型，进一步用特定数据集训练，使其更好地适应某个任务或领域，比如为医疗聊天机器人优化医疗术语理解。
AI Echoes·2025-03-16 15:34

【大模型UI\多模型回复UI】

它支持多种大型语言模型（LLM），包括Ollama和兼容OpenAI的API。
Ai君臣·2025-03-16 06:29

大模型的webui

exportXXX_LLM_C=~/xcore-llm/build/ReleaseexportCUDA_VISIBLE_DEVICES=2,3exportCUDACXX=/usr/local/cuda-
Zain Lau·2025-03-16 05:26

大模型+智能代理：自动化测试的终极组合？

近年来，大模型（LLM,LargeLanguageModel）+智能代理（Agent）的结合，为自动化测试带来了新的可能性。这种“智能测试代理”能够利用大模型的自然语言
测试者家园·2025-03-16 05:55

LLM对齐方法作用：主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题

LLM对齐方法作用：主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题对齐方法（AlignmentMethods）主要解决大型语言模型（LLMs）输出与人类价值观、需求和安全规范不一致的问题
ZhangJiQun&MXP·2025-03-16 05:52

【AI热点】MCP协议深度洞察报告

摘要人工智能技术飞速发展，大型语言模型（LLM）如何高效、安全地利用外部数据和工具成为关键问题。
碣石潇湘无限路·2025-03-16 03:37

【AI】Transformer布道：让AI学会“左顾右盼”的超级大脑！（扫盲帖）

在LLM爆火的时代，如果还不了解Transformer就太落伍了，下面我第一次尝试用一种更日常、更口语化的方式，把Transformer这个模型讲个大概。
碣石潇湘无限路·2025-03-16 03:37

TensorRT-LLM保姆级教程-快速入门

本系列将针对TensorRT-LLM推理进行讲解。本文为该系列第一篇，将简要概述TensorRT-LLM的基本特性。另外，我撰写的大模型相关的博客及配套代码均整理放置在Github，有需要的朋友自
大模型八哥·2025-03-16 02:34

Langchain如何调用Siliconflow的模型

官网（ChatCompletions(siliconflow.cn)）上给出了详细的调用方式，我们可以方便的ctrlC和ctrlV而Langchain支持自定义封装LLM（CustomLLM|️Langchain
LJY_LU·2025-03-16 01:52

向量存储与检索器

文章目录向量存储如何创建和查询向量存储相似性搜索按向量进行相似性搜索异步操作检索器如何使用向量存储作为检索器从向量存储创建检索器最大边际相关性检索传递搜索参数相似性得分阈值检索指定前k案例案例1案例2langchain支持从向量数据库和其他来源检索数据，以便与LLM
小码农0912·2025-03-15 22:05

第三十个问题-讲讲Agent、MCP、OpenAI Responses API

1.Agent（智能体）136定义与核心功能Agent是什么：能够自主执行复杂任务的智能实体，通常基于大语言模型（LLM）构建，配备指令和工具，可独立完成多步骤任务（如网络搜索、文件处理、自动化操作等）
释迦呼呼·2025-03-15 21:54

大语言模型的潜力是否被高估

关于大语言模型（LLM）的潜力是否被高估，目前学术界和产业界存在显著分歧。
dev.null·2025-03-15 19:12

LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于源词表的扩展、(init_model.py文件)实现过计算均值扩展模型、(prepare_pretr

LLM之Colossal-LLaMA-2：源码解读(init_tokenizer.py文件)实现基于jsonl文件中读取新词列表(新中文词汇)→for循环去重实现词表的扩展(中文标记的新词汇)→保存新的分词模型
一个处女座的程序猿·2025-03-15 18:38

llm数据存储基础设施

链接:https://i68.ltd/notes/posts/20250310-llm-db/infinity专为LLM应用程序构建的AI原生数据库，可提供对密集向量、稀疏向量、张量（多向量）和全文的快速混合搜索项目仓库
galileo2016·2025-03-15 17:24

模型的秘密武器：利用注意力改善长上下文推理能力

【导语】在大语言模型（LLM）不断刷新各项任务记录的今天，很多模型宣称能处理超长上下文内容，但在实际推理过程中，复杂问题往往因隐性事实的遗漏而败下阵来。
步子哥·2025-03-15 16:51
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他