现象
使用Docker Compose部署FastGPT,仅修改FE_DOMAIN配置为http://192.168.1.100:3000。通过OneAPI接入部署完成的ChatGLM2-6B,在FastGPT的配置文件config.json的llmModels中添加对应配置并重启服务后,调用A1对话触发连接错误。直接通过HTTP请求LLM接口可成功,进入FastGPT容器内测试LLM接口也可成功,FastGPT容器与OneAPI容器均存在对应报错日志。
可能原因
由于外部HTTP请求与FastGPT容器内测试均正常,仅FastGPT内部调用出现连接错误,可能涉及FastGPT容器的网络配置、FE_DOMAIN配置影响内部请求路由等情况,需按实际环境确认。
排查步骤
- 确认FastGPT容器的网络模式,确保容器可正常访问OneAPI的部署地址。
- 检查FE_DOMAIN配置是否符合当前部署场景的网络要求,避免配置影响内部接口请求的路由逻辑。
- 查看FastGPT容器的完整报错日志,提取具体错误信息辅助定位问题。
- 对比容器内测试与FastGPT页面调用的请求参数,确认两者是否一致。
解决与验证
根据排查结果调整对应配置:若为网络路由问题,可调整FastGPT容器的网络配置或OneAPI的访问地址;若为FE_DOMAIN配置影响,需确保配置与部署网络环境匹配。调整后重新发起A1对话测试,确认连接错误是否消失。