LLM-RAG-WEB 大模型+文件+可视化对话界面

注意:这里只是简单实现了功能和界面,文件对话也暂时只支持一个文件,如果跳到模型对话再切换回文件对话会文件会删除重置会话,但模型对话切换回来时保留之前会话的。

1、代码(使用步骤说明在链接里)

参考下载地址:https://github.com/lonngxiang/LLM-RAG-WEB/

代码框架说明:

  • web.py:项目入口,web页面
  • model.py:对接模型接口
  • split.py:文档切分
  • configs.py:配置

LLM-RAG-WEB 大模型+文件+可视化对话界面_第1张图片

2、项目简单说明

技术栈:

  • 大模型: chatglm2
  • 文件处理:langchain
  • 可视化界面:streamlit

页面说明(分成两块):

1、模型对话(纯调用模型,或者自己外挂个数据库做前置增强,个人认为RAG增强可以这里做)
2、文件对话(文件langchain切段保存向量库faiss,然后纯和文件进行对话,文件段向量召回组合问题交给LLM)

LLM-RAG-WEB 大模型+文件+可视化对话界面_第2张图片
LLM-RAG-WEB 大模型+文件+可视化对话界面_第3张图片

你可能感兴趣的:(深度学习,langchain,LLM,streamlit,RAG)