现象
在FastGPT 4.8.10-fix版本中,配置多个本地部署模型的AI应用内,文档解析模块可正常提取PDF内容,但所有配置的模型均提示未收到文档内容。当文档内容减少至约1000字时,模型可正常接收并处理文档内容。
可能原因
存在两种潜在的触发因素。第一,本地部署的模型工具不支持system字段,或该字段在传递过程中被过滤。第二,本地模型部署时,System prompt字段未被正确传入请求中。
排查步骤
- 提取FastGPT向外发送的完整调试信息,确认信息中包含《quote></quote>包裹的文档内容。
- 对比本地部署与云端部署的调试信息,确认两者传递的所有数据均一致。
- 调试本地模型部署工具,获取其实际接收的请求内容。
- 检查本地模型部署的参数配置,确认system prompt字段的传递状态。
解决与验证
若检测到system字段未被正确传递或被过滤,调整本地模型部署工具的配置,确保该字段可正常传入请求。完成配置调整后,恢复原文档内容长度,测试模型是否可正常接收并总结文档内容。若仍存在异常,可通过调试工具获取模型接收的实际请求数据,进一步排查字段缺失或过滤问题。