手把手教学：SpringBoot整合LangChain4j实现知识库RAG检索

大模型应用开发专栏

（一）手把手教学：LangChain4j实现Java与AI大模型深度对话
（二）Windows搭建AI大模型应用开发环境以及踩过的坑
（三）Windows搭建AI大模型应用开发环境 - 向量数据库pgvector
（四）手把手教学：SpringBoot+LangChain4j实战全攻略
（五）手把手教学：SpringBoot整合LangChain4j实现知识库RAG检索
（六）手把手教学：SpringBoot + MCP + Cherry Studio

一、RAG

1、什么是RAG：

检索增强生成（Retrieval-augmented Generation）

‌1. 基础大模型的局限性‌

• ‌知识时效性差‌：依赖公开数据训练，存在周期性更新延迟，难以覆盖快速变化领域（如科技、金融）的新概念或实时信息。
• ‌业务适配不足‌：无法直接访问企业内部分散的非结构化数据（如文本、Word、HTML、数据库等），导致对特定业务场景的理解受限。

‌2. 传统方案（函数调用/系统消息）的瓶颈‌

• ‌信息承载有限‌：仅能处理少量简单查询，无法支持大规模业务知识的整合与调用。

‌3. RAG的核心价值‌

• ‌动态知识库外接‌：通过对接结构化业务知识库（如产品手册、客户案例、服务政策），实时检索精准信息，供大模型结合自身推理能力生成专业回答。
• ‌场景应用示例‌：
  企业客服场景中，通用模型结合知识库，可基于产品详情、政策条款等内部数据生成针对性回复，提升准确性和服务效率

2、RAG工作流程

于文档的检索增强生成有两个阶段。在第一阶段，文档会被处理并安装到数据库中，通常是向量数据库。第二阶段则是如下所示的数据检索：

让我们来了解一下这些步骤是什么，然后看看下面你可以学习哪些课程来掌握它们。解释会比较简要，你可以通过学习课程来了解更多内容！

l 提取：文档有各种各样的文件格式（如.doc、.pdf 等），并且包含各种数据格式（文本、表格、图像、视频）。这些都必须被提取出来，并转换为可被后续阶段处理的格式。

l 分块：文本数据会被分解成更小的块 —— 这个过程被巧妙地命名为 “分块”。

l 嵌入：将一个文本块转换为一个代表文本含义的 “密集向量”。

l 加载：将嵌入向量和原始数据添加到数据库中。

l 数据库：数据库将为嵌入向量和数据提供存储功能。由于嵌入向量的存在，通常会使用向量数据库，但图数据库和传统数据库也会被用到。

l 查询嵌入：使用相同的嵌入模型将查询转换为密集向量。

l 检索：存储的向量和查询向量都代表含义，所以检索就是找到数据库中与查询向量 “最接近” 的 k 个条目的过程。这里面有很多细节！k 个结果会被提供给大型语言模型，它会利用这些结果形成一个 “增强” 后的回复。

3、嵌入模型（Embedding Model）

Embedding是一种将离散的非结构化数据（如文本中的单词、句子或文档）转换为连续向量的技术。

在自然语言处理（NLP）领域，Embedding通常用于将文本映射为固定长度的实数向量，以便计算机能够更好地处理和理解这些数据。每个单词或句子都可以用一个包含其语义信息的向量来表示。

Embedding常用于将文本数据映射为固定长度的实数向量，从而使计算机能够更好地处理和理解这些数据。每个单词或句子都可以用一个包含其语义信息的实数向量来表示。

• 将文本转成一组浮点数：每个下标 i，对应一个维度。
• 整个数组对应一个多维空间的一个点，即文本向量，又叫 Embeddings。
• 向量之间可以计算距离，距离远近对应 语义相似度 大小。

二、RAG基于pgVector作为向量数据库的实战

1、向量数据库

对于向量模型生成出来的向量，我们可以持久化到向量数据库，并且能利用向量数据库来计算两个向量之间的相似度，或者根据一个向量查找跟这个向量最相似的向量。 在LangChain4j中，EmbeddingStore表示向量数据库，它有支持20+ 嵌入模型：

<

Embedding Store	Storing Metadata	Filtering by Metadata	Removing Embeddings
In-memory	✅	✅	✅
Astra DB	✅