跳至主要内容
FASTGPT / 技术中心

从部署到 API,
直接找到可执行答案。

面向开发与部署人员,按任务搜索 4316 篇技术内容,覆盖部署升级、知识库、工作流、集成与 API。

4316 篇内容11 个主题官方文档与公开 Issue

按任务找到答案

共 4316 篇

故障排查GitHub Issue

解决FastGPT调用ollama时上下文参数不匹配的问题

解决FastGPT调用ollama时上下文参数不匹配的问题 现象 用户使用FastGPT 4.8.10-fix搭配oneapi 0.6.7调用glm4:9b模型时出现异常。1000字符以内的小文档可正常回复文档内容,但9576字符的大文档场景下,AI无法正确引用文档内容;AI能通过文档解析模块获取文档内容,…

2 分钟阅读
故障排查GitHub Issue

为FastGPT添加Ollama上下文与输出token参数支持

为FastGPT添加Ollama上下文与输出token参数支持 现象 用户在使用FastGPT对接Ollama模型时,希望通过传入maxtokens和numctx参数分别限制输出token数量和调整上下文窗口大小,但当前FastGPT无法正确转发这两个参数到Ollama接口。参考该issue提供的oneap…

3 分钟阅读
故障排查GitHub Issue

解决FastGPT配置Ollama嵌入模型后索引失败报404的问题

解决FastGPT配置Ollama嵌入模型后索引失败报404的问题 现象 用户使用FastGPT v4.7私有部署版本,配置Ollama嵌入模型后,上传的文件一直处于索引中状态,Ollama日志返回404找不到对应模型。同时配置的Chat Qwen模型可正常使用,单独通过聊天应用调用Qwen模型无异常。 可…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT调用Ollama模型失败且OneAPI调用正常的问题

解决FastGPT调用Ollama模型失败且OneAPI调用正常的问题 现象 用户部署FastGPT V4.8.11、OneAPI 0.6.8,通过Ubuntu Docker安装Ollama并运行qwen2.5:3b模型。在FastGPT的普通应用聊天中调用该模型时,提示报错“LLM model respo…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT调用Ollama模型时应用运行报错的问题

解决FastGPT调用Ollama模型时应用运行报错的问题 现象 用户使用4.9.10-fix版本的FastGPT,搭配ollama qwen2:0.5b模型。在AI对话中调试时请求正常,OneAPI日志显示请求返回200,promptTokens为0、completionTokens为18,配额消耗540…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT 4.8.20中ollama请求num_ctx参数失效

解决FastGPT 4.8.20中ollama请求numctx参数失效 现象 在FastGPT 4.8.20中配置自定义请求地址为ollama的OpenAI格式接口时,传入numctx参数无法生效。使用ollama原生非OpenAI格式的chat接口调用时,可正常传递numctx参数,ollama服务启动日…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT调用ollama部署的重排序模型时显示false的问题

解决FastGPT调用ollama部署的重排序模型时显示false的问题 现象 用户在FastGPT中配置并引入通过ollama部署的linux6200/bge-reranker-v2-m3:latest模型,通过one-api加载相关配置后,界面中出现了false的异常显示,无法正常使用该重排序模型。 可…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT使用本地Ollama部署模型时工具调用异常问题

解决FastGPT使用本地Ollama部署模型时工具调用异常问题 现象 用户在FastGPT v4.8.8-fix2私有部署版本中,使用Ollama本地部署的GLM4或Llama3.1模型时,工具调用功能未正常生效。使用线上GLM4模型时,工具调用可正常触发。用户已通过OneApi渠道完成本地模型的对接配置…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT中省略式指代提问无法正确识别的问题

解决FastGPT中省略式指代提问无法正确识别的问题 现象 用户在使用FastGPT时,当提出省略式提问(如“what about athlete?”,实际意图是询问运动员的资格要求),或使用代词指代前文话题(如“what about he”,前文已提及coach)时,AI无法正确理解省略的内容,无法关联上…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT使用One API分发Azure GPT时的分类知识库功能报错问题

解决FastGPT使用One API分发Azure GPT时的分类知识库功能报错问题 现象 用户使用One API分发Azure GPT,已完成简单对话功能的调试且可正常使用,但在调用"问题分类+知识库类型"功能时触发报错。用户上传了confit.json的配置截图,用于展示当前的分发配置内容。 可能原因…

2 分钟阅读
故障排查GitHub Issue

解决FastGPT私有部署调用OneAPI时的连接错误问题

解决FastGPT私有部署调用OneAPI时的连接错误问题 现象 使用Docker本地部署FastGPT,调用SealosIO一键部署的SQLite版本OneAPI。创建应用后发起聊天时,会出现长时间无响应,随后抛出Connection error报错。OneAPI平台未生成新增的调用日志,说明FastGP…

3 分钟阅读
故障排查GitHub Issue

解决FastGPT通过One API接入模型时的网络连接失败问题

解决FastGPT通过One API接入模型时的网络连接失败问题 现象 用户在FastGPT中通过One API接入第三方模型时,配置文件修改为OPENAIBASEURL=http://localhost:13000/v1并添加令牌后,发起对话始终显示网络无法连接。运行日志报错信息为:[ERROR] 202…

3 分钟阅读