fastGPT添加知识库文本索引模型m3e一直处于索引中怎么解决
fastGPT添加知识库文本索引模型m3e一直处于索引中怎么解决
遇到这个问题真的很坑,官方完整的配置文件补全自己的模型信息后怎么调都没反应,后来在官方文档上找到一个示例,根据示例重新配置了一下重启fastgpt便没有问题了
将 FastGPT 接入私有化模型 M3E
https://doc.fastgpt.in/docs/development/custom-models/m3e/
------------------------------------------------------------------------------------------------------------------------------------------
前言
FastGPT 默认使用了 openai 的 embedding 向量模型,如果你想私有部署的话,可以使用 M3E 向量模型进行替换。M3E 向量模型属于小模型,资源使用不高,CPU 也可以运行。下面教程是基于 “睡大觉” 同学提供的一个的镜像。
部署镜像
镜像名: stawky/m3e-large-api:latest
国内镜像: registry.cn-hangzhou.aliyuncs.com/fastgpt_docker/m3e-large-api:latest
端口号: 6008 环境变量:
# 设置安全凭证(即oneapi中的渠道密钥)
默认值:sk-aaabbbcccdddeeefffggghhhiiijjjkkk
也可以通过环境变量引入:sk-key。有关docker环境变量引入的方法请自寻教程,此处不再赘述。