langchain+llm

AI Agent智能应用从0到1定制开发Langchain+LLM全流程解决方案与落地实战

大模型微调实战：精通、指令微调、开源大模型微调、对齐与垂直领域应用29套AI全栈大模型项目实战，人工智能视频课程-多模态大模型，微调技术训练营，大模型多场景实战，AI图像处理，AI量化投资，OPenCV视觉处理，机器学习，Pytorch深度学习，推荐系统，自动驾驶，训练私有大模型，LLM大语言模型，大模型多场景实战，Agent智能应用，AIGC实战落地，ChatGPT虚拟数字人，Djourney智

AI知识分享官·2025-02-14 00:41

LLM+Embedding构建问答系统的局限性及优化方案

LangChain+LLM方案的局限性：LLM意图识别准确性较低，交互链路长导致时间开销大；Embedding不适合多词条聚合匹配等。

lichunericli·2025-02-13 01:52

一文掌握文本语义分割：从BERT切分、Cross-Segment到阿里SeqModel

前言之所以写本文，源于以下两点在此文《基于LangChain+LLM的本地知识库问答：从企业单文档问答到批量文档问答》的3.5节中，我们曾分析过langchain-chatchat项目中文本分割相关的代码

v_JULY_v·2024-01-04 15:13

知识库问答LangChain+LLM的二次开发：商用时的典型问题及其改进方案

前言如之前的文章所述，我司下半年成立大模型项目团队之后，我虽兼管整个项目团队，但为让项目的推进效率更高，故分成了三大项目组第一项目组由霍哥带头负责类似AIGC模特生成系统第二项目组由阿荀带头负责论文审稿GPT以及AIagent项目第三项目组由朝阳带头负责企业多文档的知识库问答系统，朝阳、bingo、猫药师等人贡献了本文的至少一半对于知识库问答，现在有两种方案，一种基于llamaindex，一种基于

v_JULY_v·2024-01-01 15:58

LangChain+LLM实战---文本分块(Chunking)方法

RAG是一个考验技术的工作基于大模型的企业应用中很大一部分需求就是RAG——检索增强生成。这个流程依然无法描述RAG的复杂性RAG涉及的内容其实广泛，包括Embedding、分词分块、检索召回（相似度匹配）、chat系统、ReAct和Prompt优化等，最后还有与LLM的交互，整个过程技术复杂度很高。如果你用的LLM非常好，反而大模型这一块是你最不需要关心的。而这些环节里面我们每个都没达到1（比如

lichunericli·2023-12-01 04:43

【腾讯云云上实验室】向量数据库+LangChain+LLM搭建智慧辅导系统实践

目录一、搭建智慧辅导系统——向量数据库实践指南1.1、创建向量数据库并新建集合1.2、使用TKE快速部署ChatGLM1.3、部署LangChain+PyPDF+VectorDB等组件1.4、配置知识库语料1.5、基于VectorDB+LLM的智能辅导助手二、LLM时代的次世代引擎——向量数据库2.1、向量数据库+LLM的效果评估2.2、向量数据库优势分析2.3、向量数据库应用场景和案例三、云上探

中杯可乐多加冰·2023-11-27 11:40

LangChain+LLM实战---高级prompt工程讲解

原文：AdvancedPromptEngineering大型语言模型(LLMs)的普及已经完全改变了我们作为人类解决问题的方式。在前几年，用计算机解决任何任务(例如，重新格式化文档或对句子进行分类)都需要创建一个程序(即，根据某种编程语言精确编写的一组命令)。对于大语言模型来说，解决这样的问题只需要一个文本prompt。例如，我们可以通过类似于下面所示的prompt让LLM重新格式化任何文档。使用

lichunericli·2023-11-15 21:01

LangChain+LLM实战---私有化部署RAG大模型，ChatGLM2-6B、Baichuan2-13B

图1：RAG的架构流程经过之前一段时间的捣腾，个人感觉我们的RAG应用已经来到了一个全新的层面，在语义理解（相关度）和准确度上都有了长足进步。但是问题来了。之前和菊厂的业务交流中，对方明确提出一些客户的私有化部署意愿是很明确，主要原因是数据安全。这段时间和一些销售人员、潜在客户交流的时候也收到了类似信息。而我们现在的整套技术栈中，唯一还不能私有化的是LLM。而这也是最终客户最担心的问题——他们的数

lichunericli·2023-11-06 21:03

LangChain+LLM实战---RAG存在的问题和避免方式

RAG是各方面综合之后的最优解。下面我们来看看会有哪些方面会引起RAG的失败。1.分块（Chunking）策略和Top-k算法一个成熟的RAG应该支持灵活的分块，并且可以添加一点重叠以防止信息丢失。一般来说，分块过程忽略了文本的内容，这就产生了问题。块的理想内容应该围绕单个主题保持一致，以便Embedding模型更好地工作。他们不应该从一个话题跳到另一个话题，他们不应该改变场景。比如长篇大论的论文

lichunericli·2023-11-06 21:33

LangChain+LLM实战---使用RAG让基于LLM的ChatPDF检索能力快速提升

原文：HowtoconnectLlama2toyourowndata,privatelyLlama2是开源模型的最佳基准在几乎所有的基准测试中，Llama2的7B和40B参数模型都超过了之前最先进的开源模型猎鹰。基于其他基准测试，它与GPT3.5相当，略低于GPT4，考虑到GPT4在技术上仍处于测试阶段，这令人难以置信。你可以在这里试试Llama2。Step1:获得Llama2的许可证截至2023

lichunericli·2023-11-06 21:33

LangChain+LLM实战---手工微调embedding模型RAG检索能力

本文是一篇关于如何微调embedding的文章，原作者是WenqiGlantz。主要内容：微调big-large-en开源embedding模型；具体实现代码细节；评测最终的提升效果。在RAG应用中，有一个我们可以去提升的环节就是——Embedding模型，我在之前的文章《大模型主流应用RAG的介绍——从架构到技术细节》也说过可以去微调embedding模型以便增强我们整体的检索能力。最早我们用的

lichunericli·2023-11-06 20:30

LangChain+LLM实战---LlamaIndex、正确使用索引

LlamaIndex简介LlamaIndex(也称为GPTIndex)是一个用户友好的界面，它将您的外部数据连接到大型语言模型(LargeLanguageModels,llm)。它提供了一系列工具来简化流程，包括可以与各种现有数据源和格式(如api、pdf、文档和SQL)集成的数据连接器。此外，LlamaIndex为结构化和非结构化数据提供索引，可以毫不费力地与大语言模型一起使用。本文将讨论Lla

lichunericli·2023-11-05 18:58

LangChain+LLM实战---Embedding Model

原文地址：ChoosingtheRightEmbeddingModel:AGuideforLLMApplications什么是向量Embedding在AI聊天机器人的开发领域中，向量Embedding在获取文本信息的本质方面起着关键作用。向量Embedding的核心是指在数学空间中将单词、句子甚至整个文档表示为密集的低维向量的过程。与依赖于稀疏表示(如one-hot编码)的传统方法不同，向量Emb

lichunericli·2023-11-05 18:57

LangChain+LLM实战---向量数据库介绍

原文：VectorDatabasesEmbeddings是由人工智能模型(如大型语言模型)生成的，具有大量的属性或特征，使其表示难以管理。在人工智能和机器学习的背景下，这些特征代表了数据的不同维度，这些维度对于理解模式、关系和底层结构至关重要。这就是为什么我们需要一个专门为处理这类数据而设计的专门数据库。向量数据库通过为Embeddings提供优化的存储和查询功能来满足这一要求。向量数据库具有传统

lichunericli·2023-11-05 18:27

LangChain+LLM实战---实用Prompt工程讲解

原文：PracticalPromptEngineering注：本文中，提示和prompt几乎是等效的。这是一篇非常全面介绍Prompt的文章，包括prompt作用于大模型的一些内在机制，和prompt可以如何对大模型进行“微调”。讲清楚了我们常常听到的一些名词的具体意思，包括zero-shot、few-shot、微调、对齐、指令、角色扮演等等。文章主要目的是为了让大家可以通过prompt工程来提高

lichunericli·2023-11-05 17:53

从LangChain+LLM的本地知识库问答到LLM与知识图谱、数据库的结合

前言过去半年，随着ChatGPT的火爆，直接带火了整个LLM这个方向，然LLM毕竟更多是基于过去的经验数据预训练而来，没法获取最新的知识，以及各企业私有的知识为了获取最新的知识，ChatGPTplus版集成了bing搜索的功能，有的模型则会调用一个定位于“链接各种AI模型、工具的langchain”的bing功能为了处理企业私有的知识，要么基于开源模型微调，要么也可以通过langchain作为一种

u013250861·2023-11-05 12:20

LangChain+LLM实战---ChatGPT的即时插件套件制作

英文原文：InstantPluginsforChatGPT:IntroducingtheWolframChatGPTPluginKit在一分钟内构建一个新插件几周前，我们与OpenAI合作发布了Wolfram插件，使ChatGPT可以使用Wolfram语言和Wolfram|Alpha作为工具，在ChatGPT内部自动调用。可以将其视为向ChatGPT添加广泛的“计算超能力”，从而让它获得Wolfr

lichunericli·2023-11-05 12:19

LangChain+LLM实战---Midjourney高级技巧的极简教程

原文：AnadvancedguidetowritingpromptsforMidjourney(text-to-image)作者：LarsNielsenMidjourney生成的图像，文本Prompt：beautiful,fantasycityunrealengine一句话介绍midjourney?对于那些还没有听说过Midjourney的人，这里是一个简短介绍：Midjourney是一款文本到图

lichunericli·2023-11-05 12:48

LangChain+LLM实战---Midjourney(v5.1) Prompt深度剖析

原文：AnatomyofMidjourneyPromps:In-DepthStudyforeffectivePromptingStrategies—V5.1examples作者：MichaelKing你是否曾经发现自己盯着Midjourney的空白画布，手指悬停在键盘上，让我问自己：“我应该问这个东西什么？”我也曾经有过同样的经历，朋友。就像站在一个售卖艺术品的自动贩卖机前一样，但你需要喂它文字而

lichunericli·2023-11-05 12:48

LangChain+LLM实战---如何训练大模型（LLM）

英文原文：HowtotrainyourownLargeLanguageModels概要介绍大型语言模型，如OpenAI的GPT-4或Google的PaLM，已经席卷了人工智能领域。然而，大多数公司目前没有能力训练这些模型，并且完全依赖于只有少数几家大型科技公司提供技术支持。在Replit，我们投入了大量资源来建立从头开始训练自己的大型语言模型所需的基础设施。在本文中，我们将概述我们如何训练LLM（

lichunericli·2023-11-05 12:18

LangChain+LLM实战---部署本地大模型(基于Langchain)

原文：TrainingYourOwnLLMusingprivateGPT作者：Wei-MengLee了解如何在不向提供者公开私有数据的情况下训练自己的语言模型使用公共AI服务(如OpenAI的ChatGPT)的主要问题之一是将您的私人数据暴露给提供商的风险。对于商业用途，这仍然是考虑采用AI技术的公司最担心的问题。很多时候，您希望创建自己的语言模型，该模型是根据您的数据集(例如销售见解，客户反馈等

lichunericli·2023-11-05 12:13

LangChain+LLM实战---Langchain-Chatchat概述

LangChain介绍LangChain是个开源的框架，它可以让AI开发人员把像GPT-4这样的大型语言模型(LLM)和外部数据结合起来。可以简单认为LangChain是LLM领域的Spring，以及开源版的ChatGPT插件系统。LangChain的强大之处不仅能通过API调用语言模型，还可以执行如下功能：数据感知：将语言模型连接到其他数据源具有代理性质：允许语言模型与其环境交互例如：GPT模型

lichunericli·2023-10-30 02:04

LangChain+LLM实战---LangChain中的6大核心模块

模型（Models）LLMs大型语言模型，将文本字符串作为输入，并返回文本字符串作为输出。聊天模型聊天模型通常由语言模型支持，但它们的API更加结构化。这些模型将聊天消息列表作为输入，并返回聊天消息。文本嵌入模型文本嵌入模型将文本作为输入，并返回一个浮点数列表，常见的嵌入集成：OpenAI。LLM从语言模型中获取预测，LangChain最基本的构建块是对某些输入调用LLM。首先导入LLM包装器：f

lichunericli·2023-10-30 02:33

LangChain+LLM实战---自定义模拟实现LLM

代码实现fromtypingimportAny,List,Mapping,Optionalfromlangchain.callbacks.managerimportCallbackManagerForLLMRunfromlangchain.llms.baseimportLLMimportreclassTfboyLLM(LLM):@propertydef_llm_type(self)->str:re

lichunericli·2023-10-30 02:03

LangChain+LLM实战---BERT主要的创新之处和注意力机制中的QKV

BERT主要的创新之处BERT（BidirectionalEncoderRepresentationsfromTransformers）是一种基于Transformer架构的预训练语言模型，由Google在2018年提出。它的创新之处主要包括以下几个方面：双向性（Bidirectional）：BERT是第一个采用双向Transformer架构进行预训练的模型。传统的语言模型如GPT（Generat

lichunericli·2023-10-29 15:03

如何避免大语言模型绕过知识库乱答的情况？LlamaIndex 原理与应用简介

本文首发于博客LLM应用开发实践随着LangChain+LLM方案快速普及，知识问答类应用的开发变得容易，但是面对回答准确度要求较高的场景，则暴露出一些局限性，比如向量查询方式得到的内容不匹配，LLM对意图识别不准

骑猪兜风233·2023-10-14 21:38

Text embedding 模型总结

文章目录MTEB榜单8个嵌入任务三种数据集类别C_METB榜单文本向量表示模型目前，随着Langchain+LLM模型的火热，除了层出不穷的大模型外，因为检索的能力会很大程度影响最终的问答效果，文本的嵌入模型也是大家比较关注的

dzysunshine·2023-10-09 01:27

大模型技术实践（四）｜参数高效微调技术解析及AdaLoRA的应用

在上一期的大模型技术实践中，我们为大家介绍了基于“LangChain+LLM”框架快速搭建知识增强后的问答机器人，并探讨了提升模型内容理解和执行能力的潜在优化方向。

AI 研习所·2023-09-28 03:26

优刻得大模型技术实践（四）｜参数高效微调技术解析及AdaLoRA的应用

在上一期的大模型技术实践中，我们为大家介绍了基于“LangChain+LLM”框架快速搭建知识增强后的问答机器人，并探讨了提升模型内容理解和执行能力的潜在优化方向。

·2023-09-26 19:21

LangChain+LLM做知识库时，参数如何调优(4)

目前很多企业都开始做知识库或客服。通过开源项目里的issue去看，碰到的问题也是大同小异。例如：[BUG]关于答案胡乱生成的问题·Issue#886·imClumsyPanda/langchain-ChatGLM(github.com)。如何文本分割的时候，按照每行进行分割？因为我的本地TXT文件知识库是按照Q，A的形式组织的。也就是文本切片的时候按照每行进行切片。·Issue#893·imClu

架构安利师·2023-08-24 08:01

LangChain+LLM做知识库时，参数如何调优(3)

如何文本分割的时候，按照每行进行分割？因为我的本地TXT文件知识库是按照Q，A的形式组织的。也就是文本切片的时候按照每行进行切片。·Issue#893·imClumsyPanda/langchain-ChatGLM(github.com)建议：其实FAQ最好的实现是不用大模型。只做AQ里的Q的文本切割（一般用\n对内容简单的split即可）、向量化，AQ成对存放在数据库里。这样达到的效果是：用户提

架构安利师·2023-08-24 08:31

Langchain+LLM

LangChain是一个开源框架，允许开发人员在与人工智能（AI）一起工作时将大型语言模型（如GPT4）与外部计算和数据源相结合（它提供了一套工具、组件和接口，可简化创建由LLM提供支持的应用程序）。该框架目前提供Python和Js两种版本。Langchain的核心模块如下：Modules：支持的模型类型和集成，如：openai，huggingface等；Prompt：提示词管理、优化和序列化，支

tzc_fly·2023-08-24 08:00

LangChain+LLM大模型问答能力搭建与思考

1.背景最近，大模型（LLMs，LargeLanguageModels）可谓是NLP领域，甚至整个科技领域最火热的技术了。凑巧的是，我本人恰好就是NLP算法工程师，面临着被LLMs浪潮淘汰的窘境，决定在焦虑之余，试着用新家伙，去解决解决老问题（缓解一下焦虑…）所以是什么老问题呢？——那就是Bert解决了过、但问题依旧存在的那个——垂直领域问答2.原思路简介由于目前的确已经有许多类似的、写得很优秀的

_illusion_·2023-07-25 03:19

无需OpenAI API Key，构建个人化知识库的终极指南

一、介绍今天和大家一起学习下使用LangChain＋LLM来构建本地知识库。我们先来了解几个名词。二、什么是LLM？

Liu_Shihao·2023-06-09 01:06

推荐频道