在开发者空间使用Docker+Ollama+Dify打造一个本地的智能知识库问答系统

        在当今这个信息爆炸的时代，无论是大型企业还是个人，都需要面对海量的资料和技术文档。这些资料可能来自于日常的工作积累、项目经验，或者是为了学习和研究而收集的。如何有效地管理、分类和存储这些信息，以便在需要时能够快速检索和使用，成为了企业和个人都面临的一个重要问题。为了解决这一问题，如果有一个知识库系统，而且是智能的那会如虎添翼，今天我们就用Docker+Ollama+Dify打造一个本地的智能知识库问答系统

一、组件介绍

1、Docker

一种开源的容器化平台，它允许开发人员将应用程序及其所有依赖项打包到一个独立的容器中，从而实现快速部署、可移植性和环境一致性。容器化技术将应用程序与底层系统解耦，使得应用可以在几乎任何地方以相同的方式运行,

2、Ollama

一个用于在本地运行大型语言模型（LLM）的开源框架。它简化了部署LLM的过程，使得管理和运行这些模型变得更加容易。Ollama支持多种大型语言模型，并允许用户根据特定需求定制和创建自己的模型。

3、Dify则是一个开源的AI编排引擎，它旨在简化和自动化AI服务的管理、编排以及集成工作流。通过提供统一的接口和平台，Dify帮助开发人员和团队高效地构建、管理和部署AI应用程序。在知识库系统中，Dify可以集成多个AI模型和工具，实现复杂的工作流自动化，从而提高系统的处理效率和准确性。

二、环境安装

1、领取华为开发者空间

华为开发者空间当前可以免费领取，需要的小伙伴可以直接参考领取：

开发者空间云主机免费领取指南（内含视频及文字指导）_开发者空间_华为云论坛

配置开发者

2、安装docker

使用apt安装docker

sudo  apt-get update 
sudo apt  install docker.io
sudo apt  install docker-compose

修改docker为国内源

#编辑daemon.json文件
sudo vi /etc/docker/daemon.json

添加如下内容

{
"registry-mirrors": ["https://docker.registry.cyou",
"https://docker-cf.registry.cyou",
"https://dockercf.jsdelivr.fyi",
"https://docker.jsdelivr.fyi",
"https://dockertest.jsdelivr.fyi",
"https://mirror.aliyuncs.com",
"https://dockerproxy.com",
"https://mirror.baidubce.com",
"https://docker.m.daocloud.io",
"https://docker.nju.edu.cn",
"https://docker.mirrors.sjtug.sjtu.edu.cn",
"https://docker.mirrors.ustc.edu.cn",
"https://mirror.iscas.ac.cn",
"https://docker.rainbond.cc"]
}

重启docker查看docker状态

systemctl daemon-reload
systemctl restart docker
sudo systemctl status docker

3、部署Ollama

执行安装命令如下：

curl -fsSL https://ollama.com/install.sh | sh

部署deepseek

接下来可以借助 Ollama 工具来部署 DeepSeek 大模型，部署 deepseek-r1:1.5b 版

ollama run deepseek-r1:1.5b

ollama默认智能本地访问，dify在docker部署会与本地地址冲突，修改配置使用主机地址访问

#默认只能本地访问
netstat -tunlp|grep ollama  
tcp        0      0 127.0.0.1:11434         0.0.0.0:*               LISTEN      23094/ollama       


vim /etc/systemd/system/ollama.service  
##添加如下

[Service]  
Environment="OLLAMA_HOST=0.0.0.0"

#重启
systemctl daemon-reload  
systemctl restart ollama

部署完成后，测试与 DeepSeek 大模型进行对话

4、在Docker上部署Dify

克隆dify的docker镜像

git clone https://github.com/langgenius/dify.git 

在docker部署 dify

cd dify 
cd docker
sudo docker-compose up -d

等下载部署完成检查容器状态

sudo docker ps -a

5、配置dify

使用浏览器访问http://your_server_ip:180/install 

首次访问会出现上面的注册页面，填入信息即可。后续访问，查询到已注册，会自动跳转到登录页面

配置dify,模型供应商选择ollama，填入部署的Ollama地址，http://你的IP:11434，模型名称选择你自己下载的模型，点击保存

在Dify上创建知识库，上传自己的知识库，然后分段设置那里选择自动分段与清洗，索引方式那里选择经济型，最后保存并处理。

创建一个应用助手

选择聊天助手，填写应用名称，点击创建

填写提示词，上下文选择刚才创建的知识库

至此本地的知识库问答系统部署完成，可以使用本地的知识库问答系统来回答我们的问题了