Llamaindex

llama_index 官方文档阅读笔记 (持续更新版)

llama0.10.17版本阅读链接:LlamaIndexv0.10.17LlamaIndex是一个基于LLM的应用程序的数据框架，它受益于上下文增强。

皮卡丘ZPC·2024-09-10 02:02

从零搭建一个可离线使用的可实时更新扩展信息的智能问答系统 llamaindex&LLama3大模型&RAG

之前对一件事很好奇，为什么去年训练的大模型可以回答今天的新闻内容。答案是使用了知识扩展系统。基本原理是把参考答案和问题一同提给大模型，给他充分的参考信息做回复编辑。本文教你完成离线版本的智能问答系统搭建。有问题请直接留言最近在疯狂找下家，本人精通图形渲染和ai，求捞啊！基本架构图讲一下基本运行流程：人工准备数据转为嵌入向量存入数据库并生成索引用户提问流程：用户输入问题在索引数据库中查询匹配度较高的

千年奇葩·2024-09-09 20:06

LlamaIndex 使用 RouterOutputAgentWorkflow

LlamaIndex中提供了一个RouterOutputAgentWorkflow功能，可以集成多个QueryTool，根据用户的输入判断使用那个QueryEngine，在做查询的时候，可以从不同的数据源进行查询

hawk2014bj·2024-09-08 19:21

开源模型应用落地-LlamaIndex学习之旅-LLMs-集成vLLM（二）

LlamaIndex作为一款先进的人工智能技术，它以其卓越的性能和创新的功能，为学习者带来前所未有的机遇。

开源技术探险家·2024-09-04 15:41

【AI】如何创建自己的自定义ChatGPT

ChatGPTOpenAIAPILlamaIndexLangChain参考推荐超级课程：Docker快速入门到精通Kubernetes入门到大师通关课本文将记录如何使用OpenAIGPT-3.5模型、LlamaIndex

小涵·2024-03-12 01:14

LLM之RAG实战（二十五）| 使用LlamaIndex和BM25重排序实践

本文，我们将研究高级RAG方法的中的重排序优化方法以及其与普通RAG相比的关键差异。一、什么是RAG？检索增强生成（RAG）是一种复杂的自然语言处理方法，它包括两个不同的步骤：信息检索和生成语言建模。这种方法旨在为语言模型提供访问外部数据源，来提高其在生成响应时的准确性和相关性，从而增强语言模型的能力。1.1检索组件：目的：检索组件的主要功能是响应查询或提示，从大型数据库或语料库中提取相关文档或信

wshzd·2024-02-11 06:03

LLM之RAG实战（二十四）| LlamaIndex高级检索（三）：句子窗口检索

这是本系列关于高级检索技术的第三篇文章，之前的两篇分别介绍构建基本的RAG和父文档检索技术，本文我们将深入研究句子窗口检索技术。我将介绍如何设置它，并使用TruEval来测量其性能，并将其性能与我们在前几篇文章中介绍的其他技术进行比较。一、语句窗口检索介绍在句子窗口检索中，我们对文档的片段进行检索，然后返回检索到的相关句子的多个句子，然后根据该相关句子及其上下的句子窗口生成LLM的合成。如下图所示

wshzd·2024-02-11 06:02

LLM之RAG实战（二十六）| 使用llamaindex-cli无需一行代码即可实现RAG

本文将介绍一个无需一行代码即可实现RAG的开源工具：llamaindex-cli，该工具是基于llama-index实现的，并采用默认向量数据库Chroma，因此首先需要进行如下安装：pipinstallllama-indexpipinstallchromadbStep1

wshzd·2024-02-11 06:32

LLM之RAG实战（二十二）| LlamaIndex高级检索（一）构建完整基本RAG框架（包括RAG评估）

在这系列文章中，我们分三篇文章来介绍，首先会介绍LlamaIndex构建基本RAG，然后深入研究一种从小到大的高级检索技

wshzd·2024-02-06 06:40

使用 LlamaIndex 部署本地 Mistral-7b 大模型实现 RAG

原理LlamaIndex的文档链接：UsingLLMs-LlamaIndex0.9.33LlamaIndex的一般使用模式如下：加载文档（手动或通过数据加载器)将文档解析为节点构建索引（来自节点或文档)

明月出天山_·2024-02-06 00:26

使用LlamaIndex，Qdrant，Ollama和FastAPI构建本地RAG api

介绍ChatGPT已经改变了我们与AI的互动方式。人们现在将这些大型语言模型（LLMs）作为主要的个人助手来进行写作、头脑风暴甚至咨询。然而，这些LLMs的问题在于，它们的表现只能和它们接受的训练数据一样好。例如，如果一家公司想要向ChatGPT查询一份内部文件，ChatGPT可能无法理解它。此外，它的知识可能不是最新的，而且容易产生幻觉。为了解决这个问题，我们可以在我们的数据上对这些LLMs进行

ericliu2017·2024-02-06 00:54

基于LlamaIndex解决RAG的关键痛点

受到Barnett等人的论文《SevenFailurePointsWhenEngineeringaRetrievalAugmentedGenerationSystem》的启发，本文将探讨论文中提到的七个痛点，以及在开发检索增强型生成（RAG）流程中常见的五个额外痛点。更为关键的是，我们将深入讨论这些RAG痛点的解决策略，使我们在日常RAG开发中能更好地应对这些挑战。这里之所以用“痛点”而非“失败点

技术狂潮AI·2024-02-04 13:01

LlamaIndex

在WhyRAGisbig中，我表示支持检索增强生成（RAG）作为私有、离线、去中心化LLM应用程序的关键技术。当你建造一些东西供自己使用时，你就是在孤军奋战。你可以从头开始构建，但在现有框架上构建会更有效。NSDT工具推荐：Three.jsAI纹理开发包-YOLO合成数据生成器-GLTF/GLB在线编辑-3D模型格式在线转换-可编程3D场景编辑器-REVIT导出3D模型插件-3D模型语义搜索引擎-

新缸中之脑·2024-02-03 20:28

高级RAG(八): 自动合并检索(Auto-merging Retrieval)

自动合并检索(Auto-mergingRetrieval)是LlamaIndex的另外一种高级RAG技术，它有点类似与我们之间介绍的从小到大的检索，不过自动合并检索要比“从小到大的检索”稍微复杂一些，它首先将文档按一定的层次结构进行切割

-派神-·2024-01-28 11:12

高级RAG(六): 句子-窗口检索

之前我们介绍了LlamaIndex的从小到大的检索的检索方法，今天我们再来介绍llamaindex的另外一种高级检索方法:句子-窗口检索(SentenceWindowRetrieval)，在开始介绍之前让我们先回顾一下基本的

-派神-·2024-01-28 11:42

高级RAG(七): 评估句子-窗口检索

在上一篇博客中我们介绍了LlamaIndex的句子窗口检索，它的主要思想是将文档按句子来切割，每个句子会被切割成一个文档，同时将每条句子周围的若干条句子作为“窗口”数据保存在文档的元数据中。

-派神-·2024-01-28 11:42

LLM之RAG实战（二十一）| 使用LlamaIndex的Text2SQL和RAG的功能分析产品评论

我们可以使用LlamaIndex将SQL与RAG（RetrievalAugmentedGeneration）相结合来实现。

wshzd·2024-01-27 04:25

认识并使用LlamaIndex

认识并使用LlamaIndex一、认识LlamaIndex1、是什么2、为什么要搞LlamaIndex？3、怎么搞LlamaIndex？

南七行者·2024-01-22 13:16

LLM之RAG实战（十七）| 高级RAG：通过使用LlamaIndex重新排序来提高检索效率

基本RAG的检索是静态的，会检索到固定数字（k）个相关文档，而如果查询需要更多的上下文（例如摘要）或更少的上下文，该怎么办？可以通过在以下两个阶段来实现动态检索：预检索：检索器初步选择相关的上下文；检索后：对相关的上下文进行重新排列，并进一步筛选结果这种动态修剪不相关的上下文非常重要，它允许我们设置一个大的top-k，但仍然可以提高精度。一、为什么要重排序？重新排序是检索过程中的一个步骤，根据某些

wshzd·2024-01-21 13:02

LLM之RAG实战（十六）| 使用Llama-2、PgVector和LlamaIndex构建LLM Rag Pipeline

本文，我们将深入研究使用transformer库、Llama-2模型、PgVector数据库和LlamaIndex库来构建RAGPipeline完整过程。一、什么是RAG（检索增强生成）

wshzd·2024-01-21 13:59

GPT中转api，官方计费，支持官方全模型，稳定快速，不限地域

同时大模型开发使用的langchain、llamaindex等库，往往需要用户传入OpenAIAPIKey，因此中转apikey应运而生。通过中转API使用ChatGPT实际上跟在官

俊524·2024-01-19 13:23

用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程

本文，我们将深入研究使用transformer库、Llama-2模型、PgVector数据库和LlamaIndex库来构建RAGPipeline完整过程。文章目录技术交流&资料通俗易懂讲

Python算法实战·2024-01-18 21:33

用通俗易懂的方式讲解：使用 LangChain 和 LlamaIndex 从零构建PDF聊天机器人

随着大型语言模型（LLM）（如ChatGPT和GPT-4）的兴起，现在比以往任何时候都更容易搭建智能聊天机器人，并且可以堆积如山的文档，为你的输入提供更准确的响应。无论你是想构建个人助理、定制聊天机器人还是自动文档分析系统，本系列都将为你提供构建自己的LLM聊天机器人所需的知识。创建什么？使用ChatGPT作为助手来帮助用户基于多个文档进行问答系统搭建的想法是非常酷。起初，我们的想法是用特定的数据

Python算法实战·2024-01-18 21:02

Elasticsearch：和 LIamaIndex 的集成

LlamaIndex是一个数据框架，供LLM应用程序摄取、构建和访问私有或特定领域的数据。LlamaIndex是开源的，可用于构建各种应用程序。在GitHub上查看该项目。

Elastic 中国社区官方博客·2024-01-18 13:45

使用 Elasticsearch 和 LlamaIndex 进行高级文本检索：句子窗口检索

支持不断发展的社区以及Langchain和LlamaIndex等强大框架的可用性，使开发人员可以更轻松地构建复杂的应用程序。

Elastic 中国社区官方博客·2024-01-17 15:40

LlamaIndex 官方发布高清大图，纵览高级 RAG技术

近日，Llamaindex官方博客重磅发布了一篇博文《ACheatSheetandSomeRecipesForBuildingAdvancedRAG》，通过一张图给开发者总结了当下主流的高级RAG技术，

Python算法实战·2024-01-17 11:57

用通俗易懂的方式讲解：使用 LlamaIndex 和 Eleasticsearch 进行大模型 RAG 检索增强生成

检索增强生成（Retrieval-AugmentedGeneration，RAG）是一种结合了检索（Retrieval）和生成（Generation）的技术，它有效地解决了大语言模型（LLM）的一些问题，比如幻觉、知识限制等。随着RAG技术的发展，RAG涉及到的向量技术受到了大家的关注，向量数据库也慢慢被大家所了解，一些老牌的数据库厂商也纷纷表示支持向量检索，比如Elasticsearch也在最近

Python算法实战·2024-01-17 11:54

《向量数据库指南》让「引用」为 RAG 机器人回答增加可信度

在之前的文章中，我们已经介绍了如何用Milvus向量数据库以及LlamaIndex搭建基础的聊天机器人《ChatTowardsDataScience｜如何用个人数据知识库构建RAG聊天机器人？》

LCHub低代码社区·2024-01-14 10:57

大型语言模型与知识图谱的完美结合：从LLMs到RAG，探索知识图谱构建的全新篇章

在这篇文章中，我将使用LlamaIndex和NebulaGraph来构建一个关于费城费利斯队（PhiladelphiaPhillies）的RAG流程。

汀、人工智能·2024-01-10 14:56

用通俗易懂的方式讲解：结合检索和重排序模型，改善大模型 RAG 效果明显

最近出现了在构建聊天机器人方面的应用浪潮，这主要得益于LlamaIndex和LangChain这样的框架。

Python算法实战·2024-01-08 11:52

LLM（九）| 使用LlamaIndex本地运行Mixtral 8x7大模型

下面我们使用LlamaIndex在本地部署一下Mixtra

wshzd·2024-01-05 12:18

【LLM】自主GPT-4：从ChatGPT到AutoGPT、AgentGPT、BabyAGI、HuggingGPT等

LangChain和LlamaIndex集成趋势后，GPT-4的新兴任务自动化和人工智能代理ChatGPT和LLM技术的出现是革命性的。

架构师研究会·2024-01-05 09:12

知识库问答LangChain+LLM的二次开发：商用时的典型问题及其改进方案

模特生成系统第二项目组由阿荀带头负责论文审稿GPT以及AIagent项目第三项目组由朝阳带头负责企业多文档的知识库问答系统，朝阳、bingo、猫药师等人贡献了本文的至少一半对于知识库问答，现在有两种方案，一种基于llamaindex

v_JULY_v·2024-01-01 15:58

高级RAG(三)：llamaIndex从小到大的检索

今天我们要介绍llamaIndex中与langchain的父文档检索有点相似的检索方法即“从小到大的检索”。

-派神-·2024-01-01 12:41

LLM之RAG实战（九）| 高级RAG 03：多文档RAG体系结构

一、Llamaindex结构化检索介绍Llamaindex支持多层次信息检索。它不只是筛选文档，而是利用元数据过滤来简化选择过程。通过使用自动检索机制，这些过滤器可以

wshzd·2023-12-30 20:49

Rebel + LlamaIndex 构建基于知识图谱的查询引擎

Rebel模型介绍Rebel模型是为端到端语言生成(REBEL)关系提取而设计的。它利用基于BART模型的自回归seq2seq方法，对200多种不同的关系类型执行端到端关系提取。这种方法通过将三联体表示为一个文本序列来简化关系提取。该模型特别适用于从原始文本中提取关系三元组，这在填充知识库或事实核查等信息抽取任务中至关重要。三元组三元组是指由三个元素组成的有序组合，通常用于表示关系或事实。在自然语

数据与后端架构提升之路·2023-12-25 02:55

RasaGPT对话系统的工作原理

RasaGPT涉及的技术栈比较多而复杂，包括Rasa、Langchain、LlamaIndex、Telegram、PostgresSQL、PGVector、Ngrok、

NLP工程化·2023-12-24 10:26

LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理

Llama2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居HuggingFaceOpenLLM排行榜（https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard）前列。多个基准测试表明，就性能而言，它正在接近GPT-3.5（在某些情况下甚至超过它）。所有这些都意味着，对于从RAG系统到Agent的复杂LLM应用

wshzd·2023-12-23 09:57

LLM之RAG实战（八）| 使用Neo4j和LlamaIndex实现多模态RAG

人工智能和大型语言模型领域正在迅速发展。一年前，没有人使用LLM来提高生产力。时至今日，很难想象我们大多数人或多或少都在使用LLM提供服务，从个人助手到文生图场景。由于大量的研究和兴趣，LLM每天都在变得越来越好、越来越聪明。不仅如此，他们的理解也开始跨越多种模态。随着GPT-4-Vision和随后的其他LLM的引入，今天的LLM似乎可以很好地处理和理解图像。以下是ChatGPT描述图像中内容的一

wshzd·2023-12-23 09:55

LLM之RAG实战（二）：使用LlamaIndex + Metaphor实现知识工作自动化

最先进的大型语言模型（LLM），如ChatGPT、GPT-4、Claude2，具有令人难以置信的推理能力，可以解锁各种用例——从洞察力提取到问答，再到通用工作流自动化。然而，他们检索上下文相关信息的能力有限。检索增强生成（RAG）系统可以将LLM与静态知识源上的外部存储解决方案相结合。RAG通常需要两个核心组件：通用抽象，允许LLM以“读取”和“写入”的方式智能地对数据执行各种任务；一个适合LLM

wshzd·2023-12-05 21:35

巅峰对决 LlamaIndex 与 OpenAI API大比拼

我们进行了一项详尽的分析，比较了OpenAI助手API和LlamaIndex在RAG性能方面的差异。

AI 研习所·2023-11-29 17:18

使用GPT-4生成训练数据微调GPT-3.5 RAG管道

来源：DeepHubIMBA本文约3200字，建议阅读6分钟本文探索了LlamaIndex对OpenAIgpt-3.5turbo微调的新集成。

数据派THU·2023-11-27 05:34

LLMLingua:集成LlamaIndex，对提示进行压缩，提供大语言模型的高效推理

这些冗长的提示需要大量的资源来进行推理，因此需要高效的解决方案，本文将介绍LLMLingua与专有的LlamaIndex的进行集成执行高效推理。

deephub·2023-11-26 15:39

《向量数据库指南》——TruLens + Milvus Cloud 构建RAG案例

在搭建过程中，我们使用LlamaIndex作为该应用的框架。

LCHub低代码社区·2023-11-19 10:20

使用GPT-4训练数据微调GPT-3.5 RAG管道

然后LlamaIndex就发布了0.8.7版本，集成了微调OpenAIgpt-3.5turbo的功能也就是说，我们现在可以使用GPT-4生成训练数据，然后用更便宜的API（gpt-3.5turbo）来进行微调

javastart·2023-11-16 11:59

《向量数据库指南》为什么要用 LlamaIndex 和 Milvus Cloud.com搭建聊天机器人？

为什么要用LlamaIndex搭建聊天机器人？

LCHub低代码社区·2023-11-09 09:54

《这里数据库指南》——如何用 LlamaIndex和Milvus Cloud 搭建聊天机器人的总结？

LlamaIndex是领先的开源数据检索框架，能够在各种应用中发挥优势，其中一个典型的应用就是在企业内部搭建聊天机器人。对于企业而言，随着文档数量不断增多，文档管理会变得愈发困难。