现象
使用FastGPT中转OneAPI时,请求参数携带stream=true时无返回值;请求参数stream=false时可正常响应。该场景下OneAPI无报错信息。直接调用容器原生接口且stream=true时可正常获取返回值。
可能原因
暂未明确具体根因,仅已知该问题仅出现在stream=true的中转场景中,可能与stream模式的中转逻辑或模型转发支持有关。
排查步骤
- 执行curl命令测试容器原生接口,携带stream=true参数,确认容器接口本身是否正常。
- 执行curl命令测试OneAPI的3001端口接口,携带stream=true参数,确认OneAPI接口本身是否正常。
- 检查FastGPT中转配置中的stream参数传递是否正确。
- 查看相关运行日志,定位返回值丢失的具体环节。
解决与验证
暂未找到通用修复方案,可通过以下步骤逐步排查:
- 若容器接口正常但OneAPI接口异常,需排查OneAPI的相关配置。
- 若容器接口与OneAPI接口均正常,需进一步排查FastGPT的中转逻辑。
- 按实际环境配置日志采集规则,获取详细信息以定位问题。