华为云云主机+DeepSeek|如何一键式华为云云主机部署Open WebUI AI应用方案
一、前言:
在华为云云主机上搭建Open WebUI环境,接入DeepSeek模型并实现文本生成,适用对象涵盖企业团队、AI爱好者和高校师生,华为开发者空间的免费云主机,居然能一键解锁DeepSeek模型的本地部署!这意味着无论技术背景如何,所有工具和环境都是免费的,包括Ollama模型服务、Open WebUI镜像和云主机资源。
1.1 华为开发者空间介绍:
华为开发者空间是为全球开发者打造的专属创新平台,提供云主机、开发工具链和云存储服务,汇聚昇腾、鸿蒙、鲲鹏等核心技术的开发资源,配套完整案例教程,助力开发者快速掌握从编码到部署的全流程开发,这种零成本的实践机会,在如今的AI开发领域实属难得,尤其适合学生党和初创团队试水大模型应用。
1.2 技术亮点:
云主机配置:基于4 vCPUs 8 GB Ubuntu 24.04 Server 定制版
大模型部署:通过Ollama实现模型一键部署
可视化交互:Open WebUI提供交互界面
本案例演示如何在华为开发者空间云主机上,一步步完成 Open WebUI 环境搭建及 DeepSeek 模型接入,帮忙用户提升效率。
1.3 完成实名信息:
在使用云上产品时,都需要进行个人实名认证一下,直接使用微信来认证,几分钟就可以完成实名认证。
Ollama 是一个致力于推动本地人工智能模型开发和应用的工具和平台,允许用户在本地运行、管理和调用各种 AI 模型。它的核心理念是提供一种无需依赖云计算环境的方式,让开发者和企业能够高效地使用 AI 模型,同时确保数据隐私和安全。
1.4 打开云主机并安装安装 Ollama 脚本:
Ollama 是一个开源项目,它提供了一个简单的界面来运行大型语言模型(LLMs),如 GPT-4、LLaMA、Falcon 等。要在 Ubuntu 20.04 上部署 Ollama,可以遵循以下步骤,可以使用 Docker 来运行 Ollama,因为 Ollama 主要是作为一个 Docker 容器运行的。
官方脚本安装(推荐):
curl -fsSL https://dtse-mirrors.obs.cn-north 4.myhuaweicloud.com/case/0035/install.sh | sudo bash
1.5 设置并启动 Ollama 服务:
sudo systemctl enable ollama
sudo systemctl start ollama
1.6 安装Docker:
确保你的系统上安装了 Docker,可以通过以下命令来安装 Docker,安装必要的依赖:
sudo apt install apt-transport-https ca-certificates curl software-properties-common
添加Docker的官方GPG密钥:
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
更新APT包索引:
sudo apt update
sudo apt install docker-ce
验证Docker是否安装成功:
sudo systemctl status docker
应该能够在 Ubuntu 20.04 上成功部署并运行 Ollama,如果遇到任何问题,检查 Docker 容器的日志可能会提供有用的信息。
1.7 安装 Open WebUI:
要在Ubuntu 20.04上部署Open WebUI,首先确保你的系统已经安装了基本的开发工具和依赖,Open WebUI通常用于访问和管理OpenAI的API,例如DALL-E模型或其他相关服务。以下是部署Open WebUI的步骤
sudo docker pull ghcr.io/open-webui/open-webui:main
打开你的浏览器,访问来查看Open WebUI的Web界面,确保你的防火墙设置允许外部访问(如果需要的话)。可以使用ufw来管理Ubuntu的防火墙。
安装完成后,在Docker Desktop中可以看到Open WebUI的web界面地址为:,或者内网IP+端口,这样局域网的其它人也可以访问到。
点击上方选择一个模型旁边的加号+可以增加大模型,点击下拉按钮可以选择当前使用哪一个已安装的模型,接下来就可以愉快的跟ai聊天了!
整体操作非常丝滑,如果网络好的话,30分钟左右就可以把全部环境配置好。
另外,如果deepseek不够用,ollama可以安装很多大模型,只要云主机空间足够;帮忙我们提高工作效率。
在Open WebUI中会新增一个llama2:latest 7B:
- 点赞
- 收藏
- 关注作者
评论(0)