【langchain实战】开源项目-RasaGPT
1、概述
RasaGpt是一个建立在
Rasa
和
Langchain
之上的没有显示界面的LMM聊天机器人平台。它是一个Rasa和Telegram这种利用像Langchain这样的LMM库进行索引、检索和上下文注入的样板及参考实现。
开源地址：
GitHub - paulpierre/RasaGPT: 💬 RasaGPT is the first headless LLM chatbot platform built on top of Rasa and Langchain. Built w/ Rasa, FastAPI, Langchain, LlamaIndex, SQLModel, pgvector, ngrok, telegram
1.1 什么是rasa
Rasa is an open source (Python) machine learning framework to automate text- and voice-based conversations: NLU, dialogue management, connect to Slack, Facebook, and more - Create chatbots and voice assistants
Rasa
is a very popular (dare I say de facto?) and easy-enough to use chatbot framework with built in NLU ML pipelines that are obsolete and a conceptual starting point for a reimagined chatbot framework in a world of LLMs.
1.2 选择RasaGPT的原因
RasaGpt开箱即用。很多实现细节都已经处理好了，你不需要自己动手，包括：
-
使用FastAPI创建你自己的专有bot端点，包括文档上传和“训练”流程。
-
如何将Langchain/LlamaIndex和Rasa集成。
-
与LLM库的库冲突和元数据传递。
-
支持在MacOS上运行Rasa的Docker化。
-
通过ngrok实现与聊天机器人的反向代理。
-
使用你自己的定制模式的pgvector，而不是使用Langchain高度偏见的PGVector类。
-
在Rasa和你自己的后端/应用程序之间添加多租户（Rasa本身不支持此功能）、会话和元数据。
2、快速安装
注意非 macOS 用户：
如果您正在使用 Linux 或 Windows，docker镜像需要
khalosa/rasa-aarch64:3.5.2
更改为
rasa/rasa:latest
，具体操作在
docker-compose.yml 的第64行
和
此处操作的 actions Dockerfile 的第1行。
# 获取代码
git clone https://github.com/paulpierre/RasaGPT.git
cd RasaGPT
## 设置.env文件
cp .env-example .env
# 编辑您的.env文件并添加所有必要的凭证
make install
遇到问题：
ailed to solve with frontend dockerfile.v0: failed to create LLB definition: unexpected status code [manifests 3.8-slim]: 403 Forbidden
ERROR: Service 'rasa-credentials' failed to build : Build failed
make[2]: *** [rasa-start] Error 1
make[1]: *** [rasa-train] Erro
解决方案：
Docker的安装过程大致分为以下步骤：
1.检查是否有.env文件可用
2.使用[pgvector]（GitHub - pgvector/pgvector: Open-source vector similarity search for Postgres）初始化数据库
3.数据库模型创建数据库模式
4.训练Rasa模型，使其准备好运行
5.使用Rasa设置ngrok，以便Telegram具有回复您的API服务器的Webhook
6.设置Rasa actions服务器，以便Rasa可以与RasaGPT API进行通信
7.使用seed.py将数据库填充有虚拟数据
4、RasaGPT特性
4.1 完整应用程序和 API
-
LLM 使用 Langchain 对任意语料库进行“学习”•通过 FastAPI上传文档并进行“训练”
-
支持文档版本控制，上传时自动执行“重新训练”
-
可通过 FastAPI和 SQLModel自定义异步端点和数据库模型
-
机器人可确定是否需要人工干预
-
机器人可根据用户问题和响应自动生成标签
-
包含完整的 API 文档，包括 Swagger 和 Redoc•包含 PGAdmin，以便您浏览数据库
-
自动在启动时生成 Ngrok端点，因此始终可以通过 https://t.me/yourbotname 访问您的机器人
-
利用 Postgres 自带的功能和 pgvector 实现嵌入式相似度搜索
-
包含 虚拟数据，供您进行测试和实验•无限多的用例，包括帮助台、客户支持、测验、电子学习、地下城与巨龙等
4.2 Rasa 集成
基于 Rasa构建，这是聊天平台开源的黄金标准•支持 MacOS M1/M2，使用 Docker (标准 Rasa 镜像 不支持 MacOS 架构)
支持 Telegram，可轻松集成 Slack、Whatsapp、Line、SMS 等
利用 Huggingface 的 NLU 模型（如 BERT）或使用 Keras、Tensorflow 等库/框架来设置复杂的对话流水线，OpenAI GPT 作为备用方案
4.3 灵活性
利用Langchain扩展语言、记忆等能力
模式支持多租户、会话和数据存储
自定义代理人个性
保存所有聊天记录，并使用所有互动创建嵌入，未来可形成检索策略
自动从知识库语料库和客户反馈中生成嵌入