一些大语言模型（LLM）相关的开源项目

一些大语言模型（LLM）相关的开源项目

更多文章访问: https://www.cyisme.top
因为站内限制问题，有些图片无法显示，导致阅读体验较差，可以访问原文：《一些大语言模型（LLM）相关的开源项目》

NextChat

一键免费部署私人 ChatGPT 网页应用，支持 GPT3, GPT4 & Gemini Pro 模型。

项目地址: https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web/tree/main

one-api

支持多种大模型， 国内的阿里通义千问、百度文心一言等都可以接入。并且有独立的管理页面，支持令牌管理、兑换码管理、通道管理等。

很多其他的项目使用它来做多种模型的gateway，实现统一的api调用。

使用 One API 分发的 key 进行请求

中继请求

中继请求

中继请求

中继并修改请求体和返回体

用户

One API

OpenAI

Azure

其他 OpenAI API 格式下游渠道

非 OpenAI API 格式下游渠道

项目地址: https://github.com/songquanpeng/one-api

fastGPT

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统。它的亮点在于可视化的工作流编排和知识库管理，从而实现复杂的问答场景。

项目地址: https://github.com/labring/FastGPT

在线演示: https://fastgpt.in/

dify

Dify 是一个 LLM 应用开发平台,开箱即用的 AI WebApp， 也可集成至你的应用的后端即服务。可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力。

项目地址: https://github.com/langgenius/dify

fastChat

FastChat 是一个开放平台，用于训练、服务和评估基于大型语言模型的聊天机器人。 支持先进的模型（如vicuna）和评估（MT-Bench）。
具有 Web UI 以及和 OpenAI 兼容的 RESTful API。

项目地址: https://github.com/lm-sys/FastChat

autogen

AutoGen 是一个框架，支持使用多个代理来开发 LLM 应用程序，这些代理可以相互对话来解决任务。 AutoGen 代理是可定制的、可对话的，并且无缝地允许人类参与。

它简化了复杂的工作流程的编排, 支持复杂工作流程的多种对话模式。

借助可定制和可对话的代理，开发人员可以使用 AutoGen 构建各种涉及对话自主性、代理数量和代理对话拓扑的对话模式。

项目地址: https://github.com/microsoft/autogen

anything-llm

可以使用商业或开源的 LLM 和 vectorDB 来构建私有 ChatGPT。他可以将文档转换为对话中的上下文（PDF, TXT, DOCX, etc）。

项目地址: https://github.com/Mintplex-Labs/anything-llm

web-llm

WebLLM是一个模块化、可定制的javascript软件包，通过硬件加速将语言模型聊天直接带到Web浏览器上。一切都在浏览器内运行，使用WebGPU进行加速。

项目地址: https://github.com/mlc-ai/web-llm

LLMsPracticalGuide

一些与LLM相关的指南、论文等。

项目地址: https://github.com/Mooler0410/LLMsPracticalGuide

open-llms

一些开源且可商用的LLM模型列表

项目地址: https://github.com/eugeneyan/open-llms

Awesome-Chinese-LLM

整理了一些开源的中文大语言模型

项目地址: https://github.com/HqWu-HITCS/Awesome-Chinese-LLM