现象
上传MD文档至FastGPT知识库后,文档被自动分段,未按照设置的最大分块长度进行分段,导致内容碎片化严重。在RAG问答环节,常出现信息缺失的情况。部分用户反馈自定义分隔符配置后,出现合并多个段落或从段落中间分割的问题。
可能原因
FastGPT的分块逻辑会在应用自定义分割规则后进行二次分块。当设置的最大分块长度不足时,自定义分割后的内容会被再次拆分,引发碎片化。此外,若使用正则表达式作为自定义分隔符,可能无法被系统正确识别生效。
排查步骤
- 确认当前使用的FastGPT版本,记录版本号。
- 进入知识库配置页面,查看最大分块长度的参数设置值。
- 检查自定义分隔符的配置内容,若使用正则表达式,需确认格式是否符合系统支持的规范。
- 上传小型测试MD文档,观察实际分块结果,定位问题环节。
解决与验证
对于4.9.2及以上版本的FastGPT,可通过增大分块长度的方式,保障自定义分割规则不会被二次分块。具体操作需在知识库配置中调整最大分块长度至合适数值。调整完成后,上传测试MD文档,验证分块结果是否符合预期,确认碎片化问题是否解决。若使用`(?<! ) (?! )`这类正则表达式作为自定义分隔符,需确认其格式符合系统支持的要求。