故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT中LLM返回的数学公式与化学式渲染异常问题

在FastGPT前端页面,LLM返回的数学公式与化学式无法被正确解析和渲染,影响相关知识解答场景。当跳过知识检索直接调用LLM时,公式渲染可恢复正常。

现象

在FastGPT前端页面,LLM返回的数学公式与化学式无法被正确解析和渲染,影响相关知识解答场景。当跳过知识检索直接调用LLM时,公式渲染可恢复正常。

可能原因

  1. LLM未按照提示要求为数学公式、化学式添加正确的包裹符;
  2. 知识库内容过多,稀释了提示词内容,导致LLM无法正确识别公式渲染的要求;
  3. 不同LLM模型对提示词的注意力和理解力存在差异,部分模型可能无法准确执行提示要求。

排查步骤

  1. 检查当前配置的系统提示词,确认是否包含数学公式、化学式的包裹要求;
  2. 测试跳过知识检索直接调用LLM,观察公式渲染是否恢复正常;
  3. 调整知识库检索范围,减少检索返回的内容量,验证是否因提示词稀释导致异常;
  4. 补充更具体的提示词示例,强化LLM对公式渲染要求的理解。

解决与验证

在系统提示词中添加明确要求:"对于数学公式、表达式前后需要加上$$",可补充感叹号或具体示例进一步强化提示效果。完善提示词后,LLM返回的数学公式会被正确包裹$$,前端可正常渲染。若经过知识检索仍存在异常,可调整知识库检索规则,降低内容对提示词的稀释影响。

来源: FastGPT GitHub issue #1680