故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT知识库上传MD文档自动分段导致碎片化的问题

上传MD文档至FastGPT知识库后,文档被自动分段,未按照设置的最大分块长度进行分段,导致内容碎片化严重。在RAG问答环节,常出现信息缺失的情况。部分用户反馈自定义分隔符配置后,出现合并多个段落或从段落中间分割的问题。 FastGPT的分块逻辑会在应用自定义分割规则后进行二次分块。

现象

上传MD文档至FastGPT知识库后,文档被自动分段,未按照设置的最大分块长度进行分段,导致内容碎片化严重。在RAG问答环节,常出现信息缺失的情况。部分用户反馈自定义分隔符配置后,出现合并多个段落或从段落中间分割的问题。

可能原因

FastGPT的分块逻辑会在应用自定义分割规则后进行二次分块。当设置的最大分块长度不足时,自定义分割后的内容会被再次拆分,引发碎片化。此外,若使用正则表达式作为自定义分隔符,可能无法被系统正确识别生效。

排查步骤

  1. 确认当前使用的FastGPT版本,记录版本号。
  2. 进入知识库配置页面,查看最大分块长度的参数设置值。
  3. 检查自定义分隔符的配置内容,若使用正则表达式,需确认格式是否符合系统支持的规范。
  4. 上传小型测试MD文档,观察实际分块结果,定位问题环节。

解决与验证

对于4.9.2及以上版本的FastGPT,可通过增大分块长度的方式,保障自定义分割规则不会被二次分块。具体操作需在知识库配置中调整最大分块长度至合适数值。调整完成后,上传测试MD文档,验证分块结果是否符合预期,确认碎片化问题是否解决。若使用`(?<! ) (?! )`这类正则表达式作为自定义分隔符,需确认其格式符合系统支持的要求。

来源: FastGPT GitHub issue #3552