使用MaaS服务与Docker+Dify打造一个智能知识库问答系统

        在人工智能技术的迅猛推动下，AI问答系统已成为企业与用户之间沟通的重要工具。为了构建一个既高效又智能，同时还易于扩展的AI问答系统，结合使用华为云提供的Maas（Model-as-a-Service，即大模型即服务）平台和开源的Dify第三方框架打造一个智能知识库问答系统

一、组件介绍

1、Maas

Maas(Model-as-a-Service)，华为推出的大模型即服务平台，一站式部署托管业界主流开源大模型，开放API结合业界主流Agent开发框架，轻松构建AI Agent应用

2、Docker

一种开源的容器化平台，它允许开发人员将应用程序及其所有依赖项打包到一个独立的容器中，从而实现快速部署、可移植性和环境一致性。容器化技术将应用程序与底层系统解耦，使得应用可以在几乎任何地方以相同的方式运行,

3、Dify

是一个开源的AI编排引擎，它旨在简化和自动化AI服务的管理、编排以及集成工作流。通过提供统一的接口和平台，Dify帮助开发人员和团队高效地构建、管理和部署AI应用程序。在知识库系统中，Dify可以集成多个AI模型和工具，实现复杂的工作流自动化，从而提高系统的处理效率和准确性。

二、开通MaaS服务

1、打开modelArts Studio控制台

附上控制台地址：ModelArts - Console

2、点击模型部署，领取对应模型，当前每个模型提供200万个tokens，测试学习基本够用了

3、点击调用获取api地址和模型名称

4、创建API Key，左侧鉴权管理-创建API Key

5、保存创建的密钥信息，备留后续步骤使用

三、安装docker

使用apt安装docker

sudo  apt-get update 
sudo apt  install docker.io
sudo apt  install docker-compose

修改docker为国内源

#编辑daemon.json文件
sudo vi /etc/docker/daemon.json

添加如下内容

{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}

重启docker查看docker状态

systemctl daemon-reload
systemctl restart docker
sudo systemctl status docker

四、在Docker上部署Dify

克隆dify的docker镜像

git clone https://github.com/langgenius/dify.git 

在docker部署 dify

cd dify 
cd docker
sudo docker-compose up -d

等下载部署完成检查容器状态

sudo docker ps -a

五、配置dify

使用浏览器访问http://your_server_ip:180/install 

首次访问会出现上面的注册页面，填入信息即可。后续访问，查询到已注册，会自动跳转到登录页面

配置dify,模型供应商选择open-opi-compatible，填入获取api地址、模型名称、api-key，点击保存

在Dify上创建知识库，上传自己的知识库，然后分段设置那里选择自动分段与清洗，索引方式那里选择经济型，最后保存并处理。

创建一个应用助手

选择聊天助手，填写应用名称，点击创建

填写提示词，上下文选择刚才创建的知识库

至此就可以使用本地的知识库问答系统来回答我们的问题了