现象
在FastGPT前端页面,LLM返回的数学公式与化学式无法被正确解析和渲染,影响相关知识解答场景。当跳过知识检索直接调用LLM时,公式渲染可恢复正常。
可能原因
- LLM未按照提示要求为数学公式、化学式添加正确的包裹符;
- 知识库内容过多,稀释了提示词内容,导致LLM无法正确识别公式渲染的要求;
- 不同LLM模型对提示词的注意力和理解力存在差异,部分模型可能无法准确执行提示要求。
排查步骤
- 检查当前配置的系统提示词,确认是否包含数学公式、化学式的包裹要求;
- 测试跳过知识检索直接调用LLM,观察公式渲染是否恢复正常;
- 调整知识库检索范围,减少检索返回的内容量,验证是否因提示词稀释导致异常;
- 补充更具体的提示词示例,强化LLM对公式渲染要求的理解。
解决与验证
在系统提示词中添加明确要求:"对于数学公式、表达式前后需要加上$$",可补充感叹号或具体示例进一步强化提示效果。完善提示词后,LLM返回的数学公式会被正确包裹$$,前端可正常渲染。若经过知识检索仍存在异常,可调整知识库检索规则,降低内容对提示词的稀释影响。