开源项目AnythingLLM:一个私人的 ChatGPT,可以与任何东西聊天

AnythingLLM:一个私人的 ChatGPT,可以与任何东西聊天。

高效、可定制且开源的企业级文档聊天机器人解决方案,基于LangChain开发。

一个全栈应用程序,使您能够将任何文档、资源或内容转换为上下文,任何 LLM 都可以在聊天期间用作参考。此应用程序允许您选择要使用的 LLM 或矢量数据库,并支持多用户管理和权限。

github网址: https://github.com/Mintplex-Labs/anything-llm

产品概述

AnythingLLM 是一个全栈应用程序,您可以在其中使用商用现成的 LLM 或流行的开源 LLM 和 vectorDB 解决方案来构建一个私有的 ChatGPT,没有任何妥协,您可以在本地运行以及远程托管,并能够智能地与您提供的任何文档聊天。

AnythingLLM 将您的文档划分为称为 workspaces .工作区的功能很像线程,但增加了文档的容器化功能。工作区可以共享文档,但它们不会相互通信,因此您可以保持每个工作区的上下文干净。

AnythingLLM 的一些很酷的功能

  • 多用户实例支持和权限

  • 多种文档类型支持(PDF、TXT、DOCX等)

  • 从简单的 UI 管理矢量数据库中的文档

  • 两种聊天模式 conversation 和 query .对话保留以前的问题和修改。查询是针对您的文档的简单 QA

  • 链接到原始文档源和文本的聊天内引文

  • 简单的技术栈,实现快速迭代

  • 100% 云部署就绪。

  • “自带法学硕士”模式。

  • 用于管理超大型文档的极其有效的成本节约措施。您永远不会为多次嵌入大量文档或成绩单付费。比其他文档聊天机器人解决方案高 90% 的成本效益。

  • 用于自定义集成的完整开发人员 API!

支持的 LLM

  • 任何开源 llama.cpp 兼容模型

  • OpenAI的

  • Azure OpenAI

  • 人为克劳德V2

  • LM Studio(所有型号)

  • LocalAi(所有型号)

支持的嵌入模型

  • AnythingLLM Native Embedder(默认)

  • OpenAI的

  • Azure OpenAI

  • LM Studio(全部)

  • LocalAi (全部)

支持的矢量数据库

  • LanceDB(默认)

  • 松果

  • 色度

  • 维维特

  • QD兰特

最低要求

在 AWS/GCP/Azure 上运行 AnythingLLM?您应该以至少 2GB 的 RAM 为目标。磁盘存储取决于您将存储的数据量(文档、矢量、模型等)。建议至少 10GB。

  • yarn 在您的 node 机器上

  • python 3.9+ 用于在 中 collector/ 运行脚本。

  • 访问本地或远程运行的 LLM。

*默认情况下,AnythingLLM 使用由 LanceDB 提供支持的内置向量数据库

*默认情况下,AnythingLLM 会在实例上私下嵌入文本 了解更多

你可能感兴趣的:(LangChain开源项目,langchain,人工智能,ai)