LLm 第9页

dify、open-webui、chatbox 对比

Dify、Open-WebUI和Chatbox是当前主流的开源LLM应用工具，但在功能定位、技术架构和适用场景上有显著差异。

dushky·2025-03-05 09:31

Efficient Large Language Models: A Survey

本文是LLM系列文章，针对《EfficientLargeLanguageModels:ASurvey》的翻译。

UnknownBody·2025-03-05 09:00

AI大语言模型(LLM)：电商行业的搜索革命与未来趋势

大语言模型在电商搜索中的应用1.提升搜索精准度2.改善搜索召回率3.虚拟购物助手二、大语言模型与生成性AI的结合1.生成性AI：从搜索到对话式购物体验2.提升个性化推荐三、大语言模型的未来展望1.电商与LLM

搞技术的妹子·2025-03-05 05:04

LLM OS 系统架构详细设计

LLMOS系统架构详细设计1.背景介绍近年来，大型语言模型（LargeLanguageModel,LLM）取得了飞速发展，在自然语言处理、对话系统、文本生成等领域展现出卓越的性能。

AI天才研究院·2025-03-05 03:45

LangChain链与记忆处理[10]：四种基础内置链、四种文档处理链，以及链的自定义和五种运行方式，让你的大模型更加智能

LangChain链与记忆处理[10]：四种基础内置链、四种文档处理链，以及链的自定义和五种运行方式，让你的大模型更加智能参考文章可以使用国产LLM进行下述项目复现：初识langchain[1]：Langchain

汀、人工智能·2025-03-05 03:15

Langchain解锁LLM大语言模型的结构化输出能力（多种实现方案）

在LangChain解锁LLM大语言模型的结构化输出能力：调用with_structured_output()方法这篇博客中，我们了解了格式化LLM输出内容的必要性以及如何通过调用langchain框架中提供的

晨欣·2025-03-05 02:33

2025年初-值得关注的几款推理模型

这款模型被定位为“迄今最智能的模型”，并首次引入了混合推理功能，结合了普通大型语言模型（LLM）和专门的推理模型能力。

数据分析能量站·2025-03-05 01:24

大语言模型原理与工程实践：大语言模型推理工程推理加速：算子优化

1.背景介绍近年来，大语言模型（LargeLanguageModel，LLM）在自然语言处理（NLP）领域取得了显著的进展。其中，推理（Inference）过程是大语言模型的核心环节之一。

AI天才研究院·2025-03-04 22:32

大模型应用开发简易指南：Git教程助力亲自动手微调大型模型

LLM正逐步成为信息世界的新革命力量，其通过强大的自然语言理解、自然语言生成能力，为开发者提供了新的、更强大的应用开发选择。

大模型官方资料·2025-03-04 19:11

大模型学习笔记-基于《Deep Dive into LLMs like ChatGPT》

构建数据集对于大语言模型（LLM）的训练而言，首先需要构建

XiyouLinux_Kangyijie·2025-03-04 18:33

大模型|LLM|Agent

大模型|LLM|Agent一、为何选择Agent？二、工具三、需求：基于Agent构建的聊天式数据查询应用四、Agent主要内容提示词：上下文工具五、效果测试一、为何选择Agent？

厦门德仔·2025-03-04 15:39

AI大模型-提示工程学习笔记22-元提示(meta-prompting)

的解决方案2.Meta-Prompting的工作流程(1)元提示输入(2)提示生成(3)提示评估(可选)(4)提示选择(可选)(5)任务执行3.Meta-Prompting的关键组件(1)大语言模型(LLM

9命怪猫·2025-03-04 13:22

详解LLM 核心技能-大文本分块技术

大模型入门学习·2025-03-04 13:21

Helix 是开源的私有 GenAI 堆栈，用于构建具有声明性管道、知识（RAG）、API 绑定和一流测试的 AI 应用程序。

通过编写helix.yaml来构建和部署LLM应用程序。正在寻找私人GenAI平台？

2301_78755287·2025-03-04 13:50

python 请求流式

importrequestsimportjsonimportdatetimeasyncdefllm_qa_generator_stream(text,num_faq):url='http://172.16.2.45:6162/llm_qa_generator_stream'payload

Toky Zhu·2025-03-04 10:32

本地LLM部署--Open WebUI（多媒体工具FFMPEG安装）

FFmpeg是一个功能强大的多媒体处理工具，支持音频、视频的编解码、转码、流媒体处理等。以下是Windows系统上安装FFmpeg的详细步骤，包括如何选择适合的版本以及Shared类型和Static类型的区别。1.下载FFmpegFFmpeg提供了多个预编译版本，您可以根据需求选择合适的版本。Windows64-bit版本GPL许可证（含共享库）ffmpeg-master-latest-win64

JerryGW·2025-03-04 06:02

程序员未来黄金赛道：AI与大模型引领职业新机遇

2025年，人工智能（AI）与大型机器学习模型（LLM）的爆发式发展正重塑技术行业格局。面对AI编程工具日益强大的代码生成能力，程序员的职业角色面临深刻转型。如何在这场变革中抢占先机？

AI学习不迷路·2025-03-04 05:58

LangChain入门---- Prompt

Prompt介绍LangChain中的“Prompt”是一个关键概念，指的是输入给大型语言模型（LLM）的文本指令或提示，用于引导模型生成特定的输出或执行特定的任务。

快乐小狗(成功上岸版·2025-03-04 00:21

人工智能开发中的数据隐私

大型语言模型(LLM)的发展和对通用人工智能(AGI)的追求

RA AI衍生者训练营·2025-03-03 19:09

使用LLM API

1.获取所要调用大模型的APIkey等参数，将其保存到.env文件中，并将.env文件保存在项目根目录下2.使用代码读取.env文件importosfromdotenvimportload_dotenv,find_dotenv#读取本地/项目的环境变量。#find_dotenv()寻找并定位.env文件的路径#load_dotenv()读取该.env文件，并将其中的环境变量加载到当前的运行环境中#

shownaier·2025-03-03 16:47

minikube 的 Kubernetes 入门教程--Dify

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（BackendasService）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

NightReader·2025-03-03 16:14

国际化与本地化架构支持LLM应用的全球化

国际化与本地化背景与重要性在当今全球化的商业环境中，国际化与本地化已成为企业和产品成功的关键因素。国际化（Internationalization，简称I18N）和本地化（Localization，简称L10N）不仅仅是语言转换的过程，更涉及到文化、技术、市场等多个层面的深入融合。定义与基本概念国际化是指设计软件或产品，使其具备在全球多个国家和地区使用的能力。这一过程通常包括设计、开发、测试和部署

AI天才研究院·2025-03-03 15:36

【DeepSeek R1构建本地RAG知识库】应用框架选型对比（MaxKB、Dify、FastGPT、RagFlow、Anything-LLM）

文章目录前言一、MaxKB1.简介2.技术概览二、Dify1.简介2.技术概览三、FastGPT1.简介四、RagFlow1.简介2.技术概览五、Anything-LLM1.简介2.技术概览六、更多资料

Xd聊架构·2025-03-03 11:06

Typora接入LLM

在大佬项目的基础上编写LLM插件。通过https://github.com/obgnail/typora_plugin?tab=readme-ov-file安装好typora插

m0_52111823·2025-03-03 08:43

文言AI·2025-03-03 03:29

LangChain学习笔记

LangChain是一个用来开发大型语言模型（LLM）应用的框架，为了简化构建基于LLM的应用，它能够为开发LLM应用带来如下能力：根据给定的Prompt方便构建上下文，并连接到LLM，得到更加符合查询的回答结果在构建整个基于

xiaomu_347·2025-03-03 02:22

LangChain解锁LLM大语言模型的结构化输出能力：调用 with_structured_output() 方法

什么是LLM的结构化输出能力？

晨欣·2025-03-03 02:50

使用 SK 进行向量操作

在2024年落地的LLM应用来看，基本上都是结合RAG技术来使用的。因为绝大多数人跟公司是没有fine-turning的能力的。不管是在难度还是成本的角度看RAG技术都友好的多。

·2025-03-02 21:28

2W8000字 LLM架构文章阅读指北

完整的专栏内容欢迎订阅：LLM架构专栏1、LLM大模型架构专栏||从NLP基础谈起2、LLM大模型架构专栏||自然语言处理（NLP）之建模3、LLM大模型架构之词嵌入（Part1）3、LLM大模型架构之词嵌入

·2025-03-02 17:24

OpenAI API教程

OpenAIAPI是由OpenAI公司开发，为LLM开发人员提供的一个简单接口。通过此API能在应用程序中方便地调用OpenAI提供的大模型基础能力。OpenAI的API协议已成为LLM领域的标准。

Jachin Huang·2025-03-02 16:41

Python和curl 如何使用OpenAI 接口访问LLM

文章目录1.安装所需的库2.设置API密钥（可选）3.编写代码4.curl命令1.安装所需的库首先，你需要确保你的环境中安装了openai库。你可以通过pip来安装它：pipinstallopenai2.设置API密钥（可选）如果访问ChatGPT需要设置密钥，如果访问本地模型不需要设置密钥！对于ChatGPT密钥要从OpenAI的官方网站获取，要按token收费。一旦你有了API密钥，可以通过环

SmallerFL·2025-03-02 15:31

【llm对话系统】 LLM 大模型推理python实现：vLLM 框架

在LLM的应用中，推理(Inference)阶段至关重要。它指的是利用训练好的LLM模型，根据输入(Prompt)生成文本的过程。

kakaZhui·2025-03-02 06:06

深度学习-81-大语言模型LLM之基于litellm与langchain与ollama启动的模型交互

生成对话补全1.2响应格式(OpenAIFormat)1.3异步调用1.4流式生成对话补全1.5支持的ollama模型2langchain2.1LangChain简介2.2LangChain架构2.3构建简单LLM

皮皮冰燃·2025-03-02 03:43

如何在本地运行大型语言模型（LLM）：深度指南及最佳实践

如何在本地运行大型语言模型（LLM）：深度指南及最佳实践在当今的人工智能领域，越来越多的开发者希望能够在本地运行大型语言模型（LLM），而不依赖于云端服务。

m0_57781768·2025-03-02 03:42

基于 langchain+ollama 创建私有化知识库

概念介绍什么是RAGRAG是retrieval-augmented-generation的缩写，直译中文的意思是检索增强生成，可以简单理解能让训练好的大模型LLM可以结合外部数据，可以补充或者修正大模型返回的答案

大语言模型·2025-03-02 02:09

搜索赋能：大型语言模型的知识增强与智能提升

引言近年来，大型语言模型（LLM）取得了显著的进展，并在各个领域展现出强大的能力。然而，LLM也存在一些局限性，尤其是在知识库方面。

听吉米讲故事·2025-03-01 17:36

dify基础之prompts

摘要：在大型语言模型（LLM）应用中，Prompt（提示词）是连接用户意图与模型输出的核心工具。

SNOWPIAOP·2025-03-01 16:58

本地大模型编程实战(27)初探langgraph的流式输出

对于LLM(大语言模型)，流式传输已成为一种越来越受欢迎的功能。其理念是在LLM生成令牌时就快速返回，而不是等待创建完整响应后再返回全部内容。

火云牌神·2025-03-01 15:22

本地大模型编程实战(11)与外部工具交互(2)

文章目录准备定义工具方法创建提示词生成工具方法实参以`json`格式返回实参自定义`JsonOutputParser`返回`json`调用工具方法定义通用方法用链返回结果返回结果中包含工具输入总结代码在使用LLM

火云牌神·2025-03-01 15:52

本地大模型编程实战(25)用langgraph实现基于SQL数据构建的问答系统(4)

使大语言模型(LLM)查询结构化数据与非结构化文本数据有所不同。查询非结构化数据时，通常需要将待查询的文本嵌入到向量数据库中；而查询结构化数据的方法则是让LLM编写和执行DSL（例如SQL）进行查询。

火云牌神·2025-03-01 14:47

Meta：基于数据关系的LLM高效预训练

标题：Data-EfficientPretrainingwithGroup-LevelDataInfluenceModeling来源：arXiv,2502.14709摘要数据高效的预训练已显示出提高缩放定律的巨大潜力。本文认为有效的预训练数据应该在组级别进行管理，将一组数据点作为一个整体而不是独立的贡献者。为此，我们提出了一种新的数据高效预训练方法GroupLevelDataInfluenceMo

大模型任我行·2025-03-01 12:37

提升AI测试效率：如何通过RAG技术优化LLM输出质量

用ChatGPT做软件测试随着人工智能（AI）和大规模语言模型（LLM）在软件测试领域的应用日益广泛，测试效率和质量的提升成为业界关注的焦点。

测试者家园·2025-03-01 12:05

AI大模型-提示工程学习笔记21-图提示 (Graph Prompting)

目录1.图提示的核心思想(1)传统提示的局限性(2)GraphPrompting的解决方案2.GraphPrompting的工作流程(1)图构建(2)图选择/子图提取(3)图编码(4)提示构建(5)LLM

9命怪猫·2025-03-01 12:30

LangChain 核心概念与架构详解

简介LangChain是一个强大的框架，专注于构建基于大语言模型(LLM)的应用。本文将深入介绍LangChain的核心架构、关键组件以及其特性。

dgay_hua·2025-03-01 09:05

借助知识图谱和Llama-Index实现基于大模型的RAG

对于LLM中的幻觉问题，知识图谱是一个比向量数据库更好的解决方案。知识图谱为L

爱吃牛油果的璐璐·2025-03-01 08:32

全网国内外总结Prompt&LLM论文，开源数据&模型，AIGC应用（持续更新，收藏查看）

全网国内外总结Prompt&LLM论文，开源数据&模型，AIGC应用（持续更新，收藏查看）目录顺序如下国内外，垂直领域大模型Agent和指令微调等训练框架开源指令，预训练，rlhf，对话，agent训练数据梳理

代码讲故事·2025-03-01 07:54

[LangChain 学习资源大集合]

在构建语言模型应用（LLM）时，LangChain是当前备受关注的框架之一。无论是初学者还是进阶用户，丰富的学习资源可以帮助我们高效掌握LangChain的核心概念、工具和最佳实践。

qahaj·2025-03-01 06:39

MCP模型上下文协议集锦

MCP模型上下文协议简介MCP模型上下文协议（Model-Context-Protocol，MCP），能够实现大型语言模型（LLM）应用程序与本地或远程资源之间的安全、可控的交互。

galileo2016·2025-03-01 06:09

Open WebUI：开源AI交互平台的全面解析

提供直观的聊天界面设计跨平台响应式设计:完美适配桌面/移动端即时响应:毫秒级响应速度富文本支持:代码语法高亮完整Markdown/LaTeX渲染语音输入支持（支持静音自动提交）模型管理多模型切换:支持不同LLM

·2025-03-01 06:17

大语言模型LLM原理篇_图解大模型从用户输入prompt到llm输出答案的流程原理

大模型席卷全球，彷佛得模型者得天下。对于IT行业来说，以后可能没有各种软件了，只有各种各样的智体（Agent）调用各种各样的API。在这种大势下，笔者也阅读了很多大模型相关的资料，和很多新手一样，开始脑子里都是一团乱麻，随着相关文章越读越多，再进行内容梳理，终于理清了一条清晰的脉络。笔者写原理篇时心情是有些惴惴不安的，因为毕竟对大模型的研究有限，缺乏深度。但是，还是觉得有必要记录一下学习理解心得，

喝不喝奶茶丫·2025-03-01 05:01

推荐频道

LLm