故障排查GitHub issue1 分钟阅读排错/错误码

解决FastGPT对话中大模型反馈过多影响检索准确性的问题

在履历、故障维护、知识库连续对话等场景中,大模型反馈内容过多,干扰问题提取准确性。知识库连续对话场景仅使用最近单条用户问题进行向量查询,无法补全前置用户信息,导致检索结果不准确。

现象

在履历、故障维护、知识库连续对话等场景中,大模型反馈内容过多,干扰问题提取准确性。知识库连续对话场景仅使用最近单条用户问题进行向量查询,无法补全前置用户信息,导致检索结果不准确。

可能原因

当前系统在连续对话的向量查询逻辑中,未整合全部用户输入内容,且未提供过滤大模型反馈内容的配置项,导致上下文信息不完整,影响检索与问题提取的准确性。

排查步骤

  1. 确认当前使用的场景为知识库连续对话、履历或故障维护类对话场景。
  2. 检查对话上下文的向量查询逻辑,确认是否仅调用最近单条用户输入内容。
  3. 验证系统是否存在可过滤大模型输出内容的配置选项。

解决与验证

可尝试将所有用户输入内容合并后进行向量查询,验证检索准确性是否提升。当前已有的问题补全模式可部分缓解该问题,但效果存在不足,需等待更优通用解法上线。

来源: FastGPT GitHub issue #680