现象
用户希望在FastGPT中完全使用ChatGLM2完成所有业务流程,包括问答对生成与问题回复,同时希望支持类似的训练功能,且询问是否可完全脱离原有依赖工具。另有用户反馈已可接入该模型,但对训练功能的使用存在疑问,还有用户询问该功能的发布时间。
可能原因
可能原因包含三类:一是未使用支持自定义模型抽离配置的FastGPT版本;二是未完成ChatGLM2相关的模型参数配置;三是对自定义模型的训练功能存在使用需求,但未明确相关适配情况。
排查步骤
- 确认当前使用的FastGPT版本,查看是否为4.1及以上版本;
- 检查是否已完成ChatGLM2相关的模型参数配置;
- 若需使用训练功能,需按实际环境确认相关适配情况。
解决与验证
在FastGPT 4.1及以上版本中,qa生成模型与向量模型已支持抽离配置,可完成ChatGLM2的接入。配置完成后,即可使用ChatGLM2完成问答对生成与问题回复。如需使用相关训练功能,需按实际环境确认适配情况。验证时,可通过配置ChatGLM2相关参数后,执行问答对生成与问题回复流程,若流程正常运行,则表示接入成功。