解决FastGPT搭配vllm与caddy路由时的请求400报错问题
解决FastGPT搭配vllm与caddy路由时的请求400报错问题 现象 使用vllm模拟GPT并通过Caddy做路由转发时,发送任意聊天请求会先触发一次空的/v1/chat/completions请求,vllm返回400错误,后续聊天请求无法正常发送。根据提供的Caddy配置与日志,Caddy针对/v1…
面向开发与部署人员,按任务搜索 4316 篇技术内容,覆盖部署升级、知识库、工作流、集成与 API。
共 4316 篇
解决FastGPT搭配vllm与caddy路由时的请求400报错问题 现象 使用vllm模拟GPT并通过Caddy做路由转发时,发送任意聊天请求会先触发一次空的/v1/chat/completions请求,vllm返回400错误,后续聊天请求无法正常发送。根据提供的Caddy配置与日志,Caddy针对/v1…
解决FastGPT私有部署版调用vllm时输入特定内容报failed to fetch问题 现象 用户在FastGPT 4.9.1私有部署版本中,对接本地部署的vllm时,在对话框输入包含多行参数定义的Robot Framework风格关键字(如Config Audit Behavior Template…
解决FastGPT使用vllm部署模型时工具调用参数异常问题 现象 使用vllm部署Qwen2.5-14B-Instruct模型后,在FastGPT中调用工具时,仅获取当前时间插件出现异常。第一阶段工具调用流程正常,第二阶段执行环节出现参数异常。使用其他商业模型时无该问题,本地部署的该模型仅该插件触发异常,…
解决FastGPT中火山模型配置正常但聊天返回LLM EMPTY RESPONSE的问题 现象 用户使用FastGPT私有部署V4.8.22版本,火山引擎模型在“模型配置”页面的测试环节可正常通过,自行调用配置的接口地址返回正常。但在纯聊天场景中,系统提示LLM EMPTY RESPONSE,接口返回报错文…
解决FastGPT中voyage rerank-2重排显示false的问题 现象 在FastGPT 4.9.1私有部署版本的知识库中,配置Pro/BAAI/bge-reranker-v2-m3模型作为重排工具时,可以正常实现召回文本的重排;但配置voyage的rerank-2模型时,重排结果始终显示为fal…
解决FastGPT私有部署时Vue axios调用工作流的跨域错误问题 现象 用户在私有部署的fastgpt:v4.9.1-fix版本的Vue项目中,使用axios发送POST请求调用FastGPT工作流时,返回跨域错误。使用apifox或curl命令发起相同请求时,可以正常建立对话,不受影响。 可能原因…
解决FastGPT网页链接数据集获取失败及功能区别问题 现象 用户在私有部署的最新版FastGPT中,已确认自身Key可正常使用,创建文本数据集的网页链接类型时,填入官方文档链接https://doc.fastgpt.in/docs/course/websync/,配置选择器为div[data-prismj…
解决FastGPT对接微信端后知识库图片显示异常问题 现象 FastGPT 4.8.11私有部署版本中,知识库检索出的图片在FastGPT平台内可正常展示。对接微信端后,微信端会直接显示!{图片}(https://xxxxxxx)格式的原始文本,无法正常渲染图片。 可能原因 需结合实际对接逻辑排查,常见触发…
解决FastGPT微信小程序流式接口调用中止失败的问题 现象 在FastGPT私有部署版本4.8.12环境中,微信小程序基础库版本为3.7.11,调用api/v1/chat/completions接口并配置detail=true、stream=true的流式响应模式时,在流式输出过程中调用abort()方法…
解决FastGPT接入企业微信时签名验证失败与无回答问题 现象 用户按照官方文档的详细部署步骤完成FastGPT与企业微信的接入配置后,在企业微信客户端发起提问时没有得到任何回答,同时查看Laf的运行结果,发现显示“签名验证失败”的报错信息,且附带了对应报错的截图记录。 可能原因 结合用户的初步推测与问题表…
解决FastGPT企业微信客服自动回复消息发送失败问题 现象 用户在使用FastGPT配置企业微信客服自动回复时,生成回复内容后发送消息失败。报错日志显示:2023-12-20 19:43:21 - 私聊发送消息失败 Error: 13 INTERNAL: WorkproErrorCode: 23060,…
解决FastGPT语音输入提示whisper-1无可用渠道的问题 现象 用户在FastGPT v4.8.5私有部署版本中使用语音输入功能时,未转换出任何文本。OneApi返回报错信息:当前分组 default 下对于模型 whisper-1 无可用渠道。用户已确认语音输入接口正常,在其他工具中可正常将语音转…