深度学习-20-深入理解基于Streamlit和minimind小模型开发本地聊天工具
文章目录
- 1 Streamlit开发聊天工具
-
- 1.1 初始化聊天信息
- 1.2 渲染历史信息
- 1.3 接收用户输入
- 1.4 模拟调用LLM
- 1.5 整体代码
- 2 使用minimind
-
- 2.1 下载模型
- 2.2 使用模型
- 3 Streamlit与minimind
-
- 3.1 Streamlit相关知识点
- 3.2 示例代码
- 4 参考附录
1 Streamlit开发聊天工具
Streamlit是一个开源Python库，可以轻松创建和共享用于机器学习和数据科学的漂亮的自定义web应用程序，用户可以在几分钟内构建一个强大的数据App。
其最大的特色是直接用Python写前端页面。 对于数据分析场景，其强大的数据可视化能力和极方便简单的开发流程，极大的方便了demo展示、方案验证等工作。
随着ChatGPT的兴起，LLM方向变得炙手可热，Streamlit也顺势推出了支持LLM的新特性。
注意：页面的每次渲染，其实都是从前往后重新执行了一次后端的py文件。
1.1 初始化聊天信息
import random
import time
import streamlit as st
st.title("聊天示例"