当前位置：首页 > news >正文

FastGPT本地构建工作流高级编排（最新4.11.0）

news 2025/7/29 7:42:11

前言

一、本地部署

二、工作流编排

2.1 配置大模型

2.1.1 通过 OneAPI 接入模型

2.2 创建知识库

2.3 创建工作流

2.4 示例讲解

一、初始化

二、问题分类

三、本地数据+知识库

四、调试

结语

前言

官网文档：Docker Compose 快速部署 | FastGPT

本篇主讲工作流编排实现基于知识库 | http请求+知识库 -> 大模型输出，将跳过docker安装等步骤，侧重于应用自定义流程及扩展。主包刚学习的时候也看了很多博主写的文件和视频，大部分偏向基本使用并没有告诉我各组件节点组合使用是否可行，还是需要自己摸索尝试。所以本篇文件希望给大家一点小灵感方便构建实现自己需求的agent！

一、本地部署

准备docker环境后可，可去GitHub找到需要的向量数据库，下载到本地。

注意配置文件有注释需要查看默认的登录账号以及密码

Linux 快速脚本

mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json# pgvector 版本(测试推荐，简单快捷)
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-pgvector.yml
# oceanbase 版本（需要将init.sql和docker-compose.yml放在同一个文件夹，方便挂载）
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-oceanbase/docker-compose.yml
# curl -o init.sql https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-oceanbase/init.sql
# milvus 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-milvus.yml
# zilliz 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-zilliz.yml

config.json 文件也就是一些模型的配置：

{"systemEnv": {"vectorMaxProcess": 10, // 向量处理线程数量"qaMaxProcess": 10, // 问答拆分线程数量"vlmMaxProcess": 10, // 图片理解模型最大处理进程"tokenWorkers": 30, // Token 计算线程保持数，会持续占用内存，不能设置太大。"hnswEfSearch": 100, // 向量搜索参数，仅对 PG 和 OB 生效。越大，搜索越精确，但是速度越慢。设置为100，有99%+精度。"hnswMaxScanTuples": 100000, // 向量搜索最大扫描数据量，仅对 PG生效。"customPdfParse": {"url": "", // 自定义 PDF 解析服务地址"key": "", // 自定义 PDF 解析服务密钥"doc2xKey": "", // doc2x 服务密钥"price": 0 // PDF 解析服务价格}},
"llmModels": [{}], // 语言模型
"vectorModels": [{}], // 向量模型
"reRankModels": [{}], // 重排模型
}

将两个文件放在一个目录执行命令：

# 在 docker-compose.yml 同级目录下执行
docker-compose pull // 拉取容器
docker-compose up -d // 启动

二、工作流编排

2.1 配置大模型

在上面讲到config.json文件就是一些大模型的配置，源文件定义了需求模型，但是我们不能用，需要自己添加才行

首先需要新增一个模型渠道，我这里使用了通义千问，可根据自己拥有的模型新增。

接着把新增的模型启动即可，不然到后面没有模型选择🤦

2.1.1 通过 OneAPI 接入模型

教程：通过 OneAPI 接入模型 | FastGPT

项目地址：https://github.com/songquanpeng/one-api

很多博主都分享通过这种方式统一配置管理大模型，FastGPT 目前采用模型分离的部署方案，因为只兼容 OpenAI 的模型规范（OpenAI 不存在的模型采用一个较为通用的规范），并通过 One API 来实现对不同模型接口的统一。但是主包貌似没有找到mac包所以直接使用以上方法，fastgpt已接入了AI Proxy。