基于华为开发者云主机部署FastGPT并构建知识库智能体

1.1 背景介绍

FastGPT 是一个基于大型语言模型（LLM）的开源知识库问答系统，旨在帮助用户快速构建和管理个性化的 AI 知识库，适用于企业级智能客服、个人知识管理等多种场景。FastGPT 是开源项目，遵循附加条件 Apache License 2.0 开源协议，可以Fork之后进行二次开发和发布。FastGPT 社区版将保留核心功能，商业版仅在社区版基础上使用 API 的形式进行扩展，不影响学习使用。

通过实际操作，让大家了解并掌握如何基于 ModelArts Studio提供的DeepSeek-R1 和 FastGPT 构建智能体和本地知识库流程。

1.2 适用对象

• 企业
• 个人开发者
• 高校学生

1.3 案例时间

本案例总时长预计40分钟。

1.4 案例流程

说明：

① 免费领取华为MAAS DeepSeek R1 Tokens;
② 安装和配置FastGPT;
③ 创建知识库；
④ 创建应用并体验效果。

1.5 资源总览

2 FastGPT构建知识库智能体

2.1 领取DeepSeek R1

华为云提供了单模型200万免费Tokens，包含DeepSeek-R1&V3满血版，我们可以登录ModelArts Studio(MaaS)控制台领取免费额度，这里我们选择DeepSeek-R1。

在云主机桌面底部菜单栏，点击打开火狐浏览器。用火狐浏览器访问ModelArts Studio首页：https://www.huaweicloud.com/product/modelarts/studio.html，点击ModelArts Studio控制台跳转到登录界面，按照提示进行登录，即可进入ModelArts Studio控制台。

进入ModelArts Studio控制台首页，区域选择西南-贵阳一，在左侧菜单栏，选择在线推理 > 预置服务 > 免费服务，选择DeepSeek-R1-32K模型，点击领取额度，领取200万免费token。

领取后点击调用说明，可以获取到对应的API地址、模型名称。

点击API Key管理-创建API Key，自定义标签和描述，点击确定创建API Key。（注意保存好API Key）。

到这里华为云MaaS提供的免费DeepSeek Tokens就领取完成啦，记录对应的API地址、模型名称、API Key留作下面步骤使用。

2.2 开发者空间配置

面向广大开发者群体，华为开发者空间提供一个随时访问的“开发桌面云主机”、丰富的“预配置工具集合”和灵活使用的“场景化资源池”，开发者开箱即用，快速体验华为根技术和资源。

如果还没有领取开发者空间云主机，可以参考免费领取云主机文档领取。云主机配置：

领取云主机后可以直接进入华为开发者空间工作台界面，点击进入桌面连接云主机。

2.3 安装Docker

在云主机桌面右键选择Open Terminal Here打开终端命令窗口。

执行以下命令更新本地软件包索引。

sudo apt-get update

安装Docker社区版（CE）。

sudo apt install docker.io

安装Docker Compose工具，用于通过YAML文件管理多容器应用。

sudo apt install docker-compose

修改docker为国内源。

sudo vi /etc/docker/daemon.json

按“i”进入编辑模式，将下面内容复制到daemon.json，然后按“ECS”推出编辑模式，再依次输入“:wq”退出并保存修改。

{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}

加载配置文件。

sudo systemctl daemon-reload

重启Docker。

sudo systemctl restart docker

查看Docker运行状态，显示active（running）证明Docker服务正在运行。

sudo systemctl status docker

验证Docker安装结果。

docker -v
docker-compose -v

2.4 安装FastGPT

1. 下载docker-compose.yml文件

创建文件夹fastgpt，并进入fastgpt中。

sudo mkdir fastgpt
cd fastgpt

下载FastGPT配置文件

curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

推荐下载docker-compose-pgvector版本，PgVector适合中小规模数据，依赖更少，启动更快，测试环境推荐。

curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-pgvector.yml

1. 启动容器

在fastgpt目录下执行启动容器命令。

sudo docker-compose up -d

1. 访问FastGPT

在云主机打开火狐浏览器，输入http://localhost:3000访问FastGPT首页。

登录用户名为root，密码是docker-compose.yml中DEFAULT_ROOT_PSW配置项的值，默认是1234。

输入用户名和密码点击登录。

（ *注意：首次运行会自动初始化root用户，日志可能会提示一次MongoServerError: Unable to read from a snapshot due to pending collection catalog changes;可忽略）

2.5 配置模型

首次登录FastGPT后，系统会提示“检测到没有可用的语言模型”，并自动跳转到模型配置页面。

（* 注意：如果没有提示或者系统未正常跳转，可以在账号 > 模型提供商页面，进行模型配置）

在模型供应商页面点击模型配置，点击新增模型，选择语言模型。

进入到模型参数编辑页面配置模型。

参数配置说明：

配置完语言模型，通常会提示“检测到没有可用的索引模型”，我们需要继续配置索引模型（不提述也需要继续配置索引模型，后面创建知识库需要使用）。

索引模型我们选用硅基流动模型广场中的BAAI/bge-m3，进入到硅基流动模型广场：https://siliconflow.cn/zh-cn/models。搜索bge-m3，点击BAAI/bge-m3，点击API文档。

获取BAAI/bge-m3的模型ID、请求地址、请求Key（没有key则新建；提示没有登录的话请按照提示注册/登录）。

回到FastGPT，在模型配置页面，选择硅基流动供应商，找到BAAI/bge-m3模型，点击启动，然后点击模型参数编辑。

将上面在硅基流动获取到的BAAI/bge-m3模型的请求地址、请求Key分别填入到自定义请求地址和自定义请求Key，点击确定。

配置结果。

2.6 创建知识库

在FastGPT中进入知识库界面，然后新建 > 通用知识库。

知识库名字可以自定义，索引模型和文本理解模型选择之前配置的两个模型。

点击新建/导入 > 文本数据集，导入文件。

来源选择本地文件。

在云主机火狐浏览器下载测试用的知识库文档，然后上传文档到知识库。

直接点击下一步。

按默认配置一直下一步即可完成上传。
（*注意：如果提示上传失败或上传文件格式不支持等问题，尝试重新上传。）

2.7 创建应用

在FastGPT中进入到工作台页面，选择简易应用，点击新建 > 简易应用。

名字自定义，选择“知识库+对话指导”点击使用。

应用创建后，进入到应用编辑页面，在关联知识库栏点击选择。

选择之前创建的知识库，点击完成。

在提示词栏填写智能体提示词，参考下图中配置，然后点击右上角保存> 仅保存。提示词Demo：你是一名对食用油非常了解的营养师，愿意分享和推荐相关知识。

在右侧调式预览窗口即可跟智能体进行对话，如输入：橄榄油健康吗？

创建的智能体应用可以直接转成工作流，点击左上智能体下面的三个点按钮“…”，选择转成工作流，点击确定。

点击顶部导航栏中发布渠道，选择免登录窗口，点击创建新链接。名称自定义，开启引用内容和查看来源原文，点击确定。

复制发布的链接去到云主机火狐浏览器访问。

在输入框中输入内容：橄榄油健康吗？进行对话。

至此，基于华为开发者云主机部署FastGPT并构建知识库智能体内容全部完成。