GenBI 中如何引入 LLM 做意图路由，区分查数据还是闲聊
写在前面
生成式商业智能（Generative BI, GenBI）的魅力在于其能够理解用户的自然语言，并将复杂的数据查询和分析过程自动化。用户不再需要学习 SQL 或操作复杂的界面，只需像与同事交谈一样提出问题，就能获得数据洞察。然而，一个现实的挑战是：用户的输入并非总是明确的数据查询请求。它们可能是简单的问候、无关的问题、系统反馈，甚至是纯粹的闲聊。
如果 GenBI 系统不加区分地将所有用户输入都视为数据查询，并尝试将其转换为 SQL，将会导致：
- 效率低下： 对非查询意图进行 Text2SQL 转换和数据库查询是资源浪费。
- 用户体验差： 系统对闲聊的回应可能是错误的 SQL 或数据库错误信息，让用户感到困惑和沮丧。
- 成本增加： 调用强大的 Text2SQL 模型和执行数据库查询会产生计算成本。
因此，在 GenBI 工作流的早期阶段引入一个**意图路由（Intent Routing）**模块至关重要。这个模块负责判断用户