开源项目AnythingLLM：一个私人的 ChatGPT，可以与任何东西聊天

AnythingLLM：一个私人的 ChatGPT，可以与任何东西聊天。

高效、可定制且开源的企业级文档聊天机器人解决方案，基于LangChain开发。

一个全栈应用程序，使您能够将任何文档、资源或内容转换为上下文，任何 LLM 都可以在聊天期间用作参考。此应用程序允许您选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。

github网址： https://github.com/Mintplex-Labs/anything-llm

产品概述

AnythingLLM 是一个全栈应用程序，您可以在其中使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个私有的 ChatGPT，没有任何妥协，您可以在本地运行以及远程托管，并能够智能地与您提供的任何文档聊天。

AnythingLLM 将您的文档划分为称为 workspaces .工作区的功能很像线程，但增加了文档的容器化功能。工作区可以共享文档，但它们不会相互通信，因此您可以保持每个工作区的上下文干净。

AnythingLLM 的一些很酷的功能

• 多用户实例支持和权限

• 多种文档类型支持（PDF、TXT、DOCX等）

• 从简单的 UI 管理矢量数据库中的文档

• 两种聊天模式 conversation 和 query .对话保留以前的问题和修改。查询是针对您的文档的简单 QA

• 链接到原始文档源和文本的聊天内引文

• 简单的技术栈，实现快速迭代

• 100% 云部署就绪。

• “自带法学硕士”模式。

• 用于管理超大型文档的极其有效的成本节约措施。您永远不会为多次嵌入大量文档或成绩单付费。比其他文档聊天机器人解决方案高 90% 的成本效益。

• 用于自定义集成的完整开发人员 API！

支持的 LLM

• 任何开源 llama.cpp 兼容模型

• OpenAI的

• Azure OpenAI

• 人为克劳德V2

• LM Studio（所有型号）

• LocalAi（所有型号）

支持的嵌入模型

• AnythingLLM Native Embedder（默认）

• OpenAI的

• Azure OpenAI

• LM Studio（全部）

• LocalAi （全部）

支持的矢量数据库

• LanceDB（默认）

• 松果

• 色度

• 维维特

• QD兰特

最低要求

在 AWS/GCP/Azure 上运行 AnythingLLM？您应该以至少 2GB 的 RAM 为目标。磁盘存储取决于您将存储的数据量（文档、矢量、模型等）。建议至少 10GB。

• yarn 在您的 node 机器上

• python 3.9+ 用于在 中 collector/ 运行脚本。

• 访问本地或远程运行的 LLM。

*默认情况下，AnythingLLM 使用由 LanceDB 提供支持的内置向量数据库

*默认情况下，AnythingLLM 会在实例上私下嵌入文本 了解更多