RAG与LLM原理及实践(16)---RAG 前端技术Flask-socketIO

目录

背景

技术理念

RAG结合点

实时数据更新与推送

实时查询与响应

安装

使用完整案例

说明

后端

python代码

代码解释

前端

html代码

JS代码

代码解释

总结


背景

构建RAG系统或别的系统时,如果后端采用的全Python,或者说是以python 为主的系统,是很常见的一个选择,因为毕竟python 对 LLM,图片,乃至其他video 等resource的model都有较完善的支撑,为了快速开发出原型,甚至之后的商用,往往会选择 Flask 作为开发手段,目前已知的大型开源应用中,有很多采用了Flask 作为前端进行开发。应该说你只要懂一些html,css以及 js,快速上手Flask是没有问题的。相较于后端的各种技术,UI其实并不是我的强项,但是我基本的uve,react的使用还是有项目经验的,我上手Flask 也就一天时间。今天主要说的是与Flask 粘和度较高的另一个处理组件 Flask-socketIO。下面会说到他与RAG结合的地方,其实蛮有用的。如果你熟悉 web socket 的用法,结合我说的Flask-socketIO的特点,理论上应该很快上手。今天聚焦 Flask-SocketIO看下他的理念和使用方式。

技术理念

说起Flask-socketIO,你首先需要知道web-scoketIO,这个

你可能感兴趣的:(RAG,Milvus,Chroma,源码及实践,前端,flask,python,socketio,RAG)