运行fastGPT 第五步 配置FastGPT和上传知识库 打造AI客服
运行fastGPT 第五步 配置FastGPT和上传知识库 打造AI客服
根据上一步的步骤，已经调试了ONE API的接口，下面，我们就登陆fastGPT吧
http://xxx.xxx.xxx.xxx:3000/
这个就是你的fastGPT后台地址，可以在configer文件中找到。
账号是root，密码默认是1234
登录了之后，可以新建一个工作流，这样我们就可以调度GPT来帮我们回答问题了。
先去知识库，创建一个通用知识库。
上传一些你的产品资料，产品的规格，价格，产品的特点，常见问题，操作，说明等相关的知识。
注意，创建知识库， 一定要用聪明一些的模型，来帮你构建向量数据库。比如质谱的GLM -4 -PLUS最新的大模型，索引模型，可以选Embedding-3或者mbedding-2 ，这两都是质谱提供的。 其实区别不大，对于客服问答这种简单的应用。 索引模型区别好像不大。 具体可以自己感觉。
你可以手动添加训练数据集，这样可以再插入内容。 注意左边是问题， 右边是答案。是问答模型。
问题一定要有产品型号，具体的所指，要简短，不能是含糊的。 这个是引擎搜索时候的重要索引。不要追求1条知识过于全面，而是只针对1个点进行精要回复。 1个简单问题，对应1个简单的回答。 不要最求面面俱到，要的是1对1 的简单关系。
这对后面搜索知识库有极大好处。因为它只能搜指定的token数量，如果你的回答中无用内容占了 很多。那搜索出来的条目数量就很少。
每条知识，需添加索引关键词，这个是非常非常重要的。 决定了索引排序的排名。只有相关性靠前的，才能被抓到。 所以关键词质量很高。建议先把所有知识自己分个类 ，然后再决定怎么配置。
推荐的索引，要带上型号标签。 便于AI明白知识是哪个产品的。
电商客服 问答模型流程搭建
调用前置AI分析问题 扩展问题 和拆解关键词
客服模型推荐使用上面这种工作流，客户进来之后，先有前置的AI进行问题的分析，和补全。 然后扩展客户问题的关键词。
这里，可以用一个推理能力强的前置AI，比如我用了质谱的GLM -4 -PLUS最新的大模型(可以按照上篇文章介绍的方法自己添加进去)，堪比GPT-4o，前置问题分析，这个步骤最重要。 决定回答质量。
这里是最为重要的，你要控制提示词，来教会GPT，如何拆解客户的问题，将客户的问题补全，让他知道你的产品分类，要把产品型号告诉GPT，这是它的基础背景知识。相当于分诊台，分类器。 拿到这些，后面的知识库才能检索数据。 如果分类错误，那就连客户的问题都读不懂了。后面的AI没发正确回答。
客户的问题简短，而且没有主谓语，经常问出一些，不看上下文不知道说什么的问题。 你要详细教会AI怎么去扩展，和补全客户的问题。
比如客户问：这个多少钱
前置AI补全问题 和扩展：这个KB6011检测仪多少钱
然后再根据这个补全后的问题，扩展几个关键词
比如：
这个KB6011检测仪多少钱
KB6011检测仪价格
KB6011售价
KB6011的优惠
这些，都会丢到后面的知识数据库里 去查询。
去知识库抓取知识
利用前面拆解的问题，和关键词。到知识库，按照向量知识库匹配度，抓取一定的知识。 这个token量可以自己设置，一般要抓取个2500 token左右吧。 抓的知识越多，后面AI参考的越多。但是，会影响速度。 另外，后置的AI，能不能分析这么多token，要看它的限制。小模型只能看8k的 token。
注意，因为我们使用了前置AI进行手动问题优化和扩展。 知识库里的这个自动的就不用开启了。 否则会混乱。 而且这个知识库自带的问题优化，也不是很靠谱。它没法控制提示词。和问题优化的走向。
调用后置AI根据前面的知识，客户问题，历史记录 来回答可以问题。
后置AI，我用的是质谱的小模型，GLM4-AirX，便宜。快速一般几百ms，就能把问题回答了。 对于淘宝电商这种客服来说，在合适不过了。 没有什么推理，就是简单回复。
把前面获得所有信息，丢给AI，让它结合客户问题，前置AI优化后的问题和关键词，和知识库，历史记录，等这几个方面，综合做出推理回答。
约束AI回答走向的重要配置！！！
配置提示词，这个是相当于你的客服的提示词，整段回话的风格，客服的角色，和一些基础的背景知识，都可以先给到它。 但是，这里并不决定如何使用知识库里的知识。
最终的问答走向的控制，要点击知识库旁边的小齿轮
这个是核心中的核心。 所有最终的回答，都会根据这个里面的设置，决定回答的走向。
点进去之后，就会看到，你可以选择一个模板，来配置你的回答风格。
一般问答型的知识库，就选严格模式。 避免它胡编乱造。
这样，你可以在下面 “回答要求” 这个标签下，自己添加一点内容。
1、比如限制GPT干啥，
2、怎么用知识库，
3、要回答几个问题（因为前面AI拆解问题后，会生成几个近似的问题），你可以指定它回答几个，或综合客户问题，找到最接近的回答等。
4、告诉它言简意赅，不要超过150字，
5、怎么避免回复法律问题，不要过度承诺。等等。
你都可以在这里一行一行，添加给它。
6、如何区分产品型号
7、叮嘱GPT看历史记录
8、叮嘱他不要把不同标签的知识搞混了，不同型号的产品知识，不要混在一起回答等。
总之，后置AI会严格按照这个法规，最终回答出满意简短的答案。 接近客服水平。
这里只讲核心的配置逻辑。 具体的操作，需要自己摸索。
发布你的问答机器人吧，API可以接入你的其它软件，比如AI客服软件。或者以网页形式直接问答。
