现象
在Agent和QA Prompt、业务数据均为全英文的使用场景中,FastGPT调用的大模型会存在输出中文的情况。
可能原因
大模型本身可能无法严格遵循语言限制类提示词,且FastGPT配置大模型时可自定义的系统提示词存在范围限制。
排查步骤
- 确认当前Agent和QA的Prompt、业务数据均为全英文格式
- 检查大模型配置中的系统提示词设置内容
- 确认FastGPT中可配置的系统提示词相关范围,需按实际环境确认
解决与验证
在大模型配置的系统提示词中添加明确的语言限制指令,要求模型仅使用英文输出。若大模型未严格遵循该提示词,可通过config.json配置大模型时补充相关限制。FastGPT中可配置的系统提示词存在一定范围限制,若需更灵活的配置,需按实际环境确认源码部署相关调整。使用全英文Prompt和业务数据发起请求,验证模型输出语言为英文,完成验证。