现象
在管理渠道测通本地模型并配置令牌后,仍提示无效令牌。
可能原因
使用的令牌非OneAPI申请的密钥;令牌的「模型范围」填写后限制了模型调用;令牌配置未正确生效。
排查步骤
- 确认令牌为OneAPI申请的密钥。
- 检查OneAPI令牌的「模型范围」是否填写,若填写可能限制embedding模型调用。
- 确认密钥已配置到FastGPT的docker-compose.yml文件的CHATAPIKEY参数中。
- 确认密钥已粘贴到FastGPT渠道对应的LLM和Embedding模型配置中。
- 确认服务已按配置重启。
解决与验证
- 在OneAPI申请令牌,复制其sk-key。
- 将sk-key填入FastGPT的docker-compose.yml文件的CHATAPIKEY参数。
- 在FastGPT渠道的LLM和Embedding模型配置中粘贴该sk-key。
- 在docker-compose.yml所在目录执行以下命令重启服务:
docker compose down
docker compose up -d- 测试FastGPT知识库功能,确认正常。
- 若需测试Embedding模型,可使用以下curl命令(OneAPI不支持直接测试Embedding,会返回404错误):
curl --location --request POST 'http://<模型IP:端口>/v1/embeddings' \
--header 'Authorization: Bearer <sk-key>' \
--header 'Content-Type: application/json' \
--data-raw '{
"model": "m3e",
"input": ["laf是什么"]
}'