RAG与LLM原理及实践(16)---RAG 前端技术Flask-socketIO
目录
背景
技术理念
RAG结合点
实时数据更新与推送
实时查询与响应
安装
使用完整案例
说明
后端
python代码
代码解释
前端
html代码
JS代码
代码解释
总结
背景
构建RAG系统或别的系统时,如果后端采用的全Python,或者说是以python 为主的系统,是很常见的一个选择,因为毕竟python 对 LLM,图片,乃至其他video 等resource的model都有较完善的支撑,为了快速开发出原型,甚至之后的商用,往往会选择 Flask 作为开发手段,目前已知的大型开源应用中,有很多采用了Flask 作为前端进行开发。应该说你只要懂一些html,css以及 js,快速上手Flask是没有问题的。相较于后端的各种技术,UI其实并不是我的强项,但是我基本的uve,react的使用还是有项目经验的,我上手Flask 也就一天时间。今天主要说的是与Flask 粘和度较高的另一个处理组件 Flask-socketIO。下面会说到他与RAG结合的地方,其实蛮有用的。如果你熟悉 web socket 的用法,结合我说的Flask-socketIO的特点,理论上应该很快上手。今天聚焦 Flask-SocketIO看下他的理念和使用方式。
技术理念
说起Flask-socketIO,你首先需要知道web-scoketIO,这个