快速搭建Dify LLM应用开发平台

举报
AI在路上 发表于 2024/10/21 19:50:55 2024/10/21
【摘要】 该解决方案基于Flexus云服务器X实例帮助您快速私有化部署开箱即用的Dify LLM应用开发平台。


1 方案概述

Dify官方在国内未提供SaaS服务,该解决方案基于Flexus云服务器X实例帮助您快速私有化部署开箱即用的Dify LLM应用开发平台,使开发者可以快速搭建生产级的生成式AI应用。

方案架构

图1-1 方案架构图

该解决方案将会一键部署如下资源:

  • 创建1华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台。
  • 创建1弹性公网IP EIP并关联华为云Flexus云服务器X实例,提供访问公网和被公网访问能力。
  • 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。

2 快速部署

本章节主要帮助用户快速一键部署Dify-LLM应用开发平台,预计5-10分钟部署完成(受网络影响可以能会有波动)。

步骤 1     浏览器访问Dify-LLM应用开发平台一键部署

步骤 2     在选择模板界面中,单击“下一步”。

图2-1 选择模板

步骤 3     在配置参数界面中,密码为必填项,其他参数可使用默认值(参考附录 表5-3参数说明),单击“下一步”。

图2-2 配置参数

步骤 4     在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托可不选,单击“下一步”。

图2-3 资源栈设置

步骤 5     在配置确认界面中,单击“创建执行计划”。

图2-4 配置确认

步骤 6     在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。

               单击“部署”,并且在弹出的执行计划确认框中单击“执行”。

图2-5 执行计划

步骤 8     (可选)如果计费模式选择“包年包月”,在余额不充足的情况下(所需总费用请参考表5-2)请及时登录费用中心,手动完成待支付订单的费用支付。

步骤 9     待“事件”中出现“Apply required resource success”,表示该解决方案资源已发放完成。

图2-6 部署完成

步骤 10     刷新页面,在“输出”中查看Dify-LLM应用开发平台访问说明。

图2-7 说明

3 开始使用

安全组规则修改(可选)

  • 该解决方案使用80端口用来访问Dify默认对该方案创建的VPC子网网段放开请参考修改安全组规则,配置IP地址白名单,以便能正常访问服务。
  • 该解决方案使用22端口用来以SSH方式远程登录云服务器,若需远程登录云服务器,请参考修改安全组规则,配置IP地址白名单,以便能正常访问服务。
  • 该解决方案部署成功后,环境初始化预计5-10分钟,受网络、带宽影响,部署时间会有波动部署完成之后方可正常访问。

步骤 1     登录开发平台:等待应用下载及部署完毕(约5-10分钟)后,输入快速部署步骤10的访问地址,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。

图3-1 Dify平台

步骤二     如果需要管理此文档创建的Flexus云服务器X实例资源,请前往x实例控制台。

拓展应用请参考:

4 一键卸载

步骤 1     登录资源编排 RFS资源栈,找到该解决方案创建的资源栈,单击资源栈名称右侧“删除”按钮。

图4-1 一键卸载

步骤 2     在弹出的删除资源栈确定框中,删除方式选择删除资源,输入Delete,单击“确定”,即可卸载解决方案。

图4-2 删除资源栈确认

5 附录

资源和成本规划

该解决方案主要部署如下资源,以下费用仅供参考,具体请参考华为云官网价格详情,实际收费以账单为准。

表5-1 资源和成本规划(按需计费)

华为云服务

配置示例

每月预估花费

华为云Flexus云服务器X实例

按需计费

区域:华北-北京四

规格:Flexus云服务器X实例 | 性能模式(关闭)| x1.2u.4g | 2 | 4 GB

镜像:Ubuntu 22.04 server 64bit

系统盘:高IO | 100GB

购买量:1

197.28

弹性公网IP EIP

区域:华北-北京四

计费模式:按需计费

线路:动态BGP

公网带宽:按流量计费

带宽大小:300Mbit/s

购买量:1

0.80/GB

合计

-

197.28 + 弹性公网IP EIP费用

 

表5-2 资源和成本规划(包年包月)

华为云服务

配置示例

每月预估花费

华为云Flexus云服务器X实例

包年包月

区域:华北-北京四

规格:Flexus云服务器X实例 | 性能模式(关闭)| x1.2u.4g | 2 | 4 GB

镜像:Ubuntu 22.04 server 64bit

系统盘:高IO | 100GB

购买量:1

143.00

弹性公网IP EIP

区域:华北-北京四

计费模式:按需计费

线路:动态BGP

公网带宽:按流量计费

带宽大小:300Mbit/s

购买量:1

0.80/GB

合计

-

143.00 + 弹性公网IP EIP费用

 

表5-3 参数说明

参数名称

类型

是否可选

参数解释

默认值

vpc_name

string

必填

虚拟私有云名称,该模板使用新建VPC,不允许重名。取值范围:1-54个字符,支持中文、英文字母、数字、_(下划线)、-(中划线)、.(点)。

dify-llm-application-development-platform-demo

secgroup_name

string

必填

安全组名称,该模板新建安全组,请参考安全组规则修改进行配置。取值范围:1-64个字符,支持字母、数字、中文、下划线(_)、中划线(-)、英文句号(.)。

dify-llm-application-development-platform-demo

ecs_name

string

必填

云服务器实例名称,不支持重名。取值范围:1-60个字符,支持中文、英文字母、数字、_(下划线)、-(中划线)、.(点)。

dify-llm-application-development-platform-demo

flexus_flavor

string

必填

云服务器实例规格,支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g,例如2vCPUs4GiB规格IDx1.2u.4g,具体华为云Flexus 云服务器X实例规格请参考控制台。弹性云服务器规格名称,具体请参考官网弹性云服务器规格清单

x1.2u.4g

ecs_password

string

必填

云服务器密码,长度为8-26位,密码至少必须包含大写字母、小写字母、数字和特殊字符(!@$%^-_=+[{}]:,./?)中的三种,仅支持小写字母、数字、中划线(-)、英文句号(.)。修改密码,请参考重置云服务器密码登录ECS控制台修改密码。管理员账户默认root

gitlab_password

string

必填

搭建的gitlab私有仓库密码,取值范围:长度为8-26个字符,密码至少包含大写字母、小写字母、数字和特殊字符(~!@#%^-_=)中的三种,gitlab用户名默认root

ecs_volume_size

number

必填

云服务器系统盘大小,磁盘类型默认为高IO,单位:GB,取值范围为40-1,024,不支持缩盘。

100

bandwidth_size

number

必填

弹性公网带宽大小,该模板计费方式为按流量计费。单位:Mbit/s,取值范围:1-300Mbit/s

300

charging_mode

string

必填

计费模式,默认自动扣费,取值为prePaid(包年包月)或postPaid(按需计费)。

postPaid

charge_period_unit

string

必填

计费周期单位,当计费方式设置为prePaid,此参数是必填项。有效值为:month(包月)和year(包年)。

month

charge_period

number

必填

计费周期,当计费模式设置为prePaid,此参数是必填项。可选值为:1-3year)、1-9month)。

1

 

当您首次使用华为云时注册的账号,则无需执行创建rf_admin_trust委托,如果您使用的是IAM用户账户,请确认您是否在admin用户组中,如果您不在admin组中,则需要为您的账号授予相关权限,并完成以下步骤。

创建rf_admin_trust委托(可选)

步骤 1     进入华为云官网,打开控制台管理界面,鼠标移动至个人账号处,打开“统一身份认证”菜单。

图5-1 统一身份认证菜单

步骤 2     进入“委托”菜单,搜索“rf_admin_trust”委托

图5-2 委托列表

  • 如果委托存在,则不用执行接下来的创建委托的步骤
  • 如果委托不存在时执行接下来的步骤创建委托

步骤 3     单击步骤2界面中的“创建委托”按钮,在委托名称中输入“rf_admin_trust”,委托类型选择“云服务”,选择“RFS”,单击“下一步”。

图5-3创建委托

步骤 4     在搜索框中输入“Tenant Administrator”权限,并勾选搜索结果,单击“下一步”

图5-4 选择策略

步骤 5     选择“所有资源”,并单击“下一步”完成配置

图5-5 设置授权范围

步骤 6     “委托”列表中出现“rf_admin_trust”委托则创建成功

图5-6 委托列表

约束与限制

  • 部署该解决方案之前,您需要注册华为账号并开通华为云,完成实名认证,且账号不能处于欠费或冻结状态,请根据附录 表5-2中预估价格,确保余额充足。

名词解释

  • 华为云Flexus云服务器X实例:Flexus云服务器X实例是新一代面向中小企业和开发者打造的柔性算力云服务器。Flexus云服务器X实例功能接近ECS 同时还具备独有特点,例如Flexus云服务器X实例具有更灵活的vCPU内存配比、支持热变配不中断业务变更规格、支持性能模式等。
  • 弹性云服务器 ECS:是一种云上可随时自助获取、可弹性伸缩的计算服务,可帮助您打造安全、可靠、灵活、高效的应用环境。
  • 虚拟私有云 VPC:是用户在华为云上申请的隔离的、私密的虚拟网络环境。用户可以基于VPC构建独立的云上网络空间,配合弹性公网IP云连接云专线等服务实现与Internet、云内私网、跨云私网互通,帮您打造可靠、稳定、高效的专属云上网络。
  • 弹性公网IP EIP:提供独立的公网IP资源,包括公网IP地址与公网出口带宽服务。可以与弹性云服务器、裸金属服务器、虚拟IP、弹性负载均衡、NAT网关等资源灵活地绑定及解绑,提供访问公网和被公网访问能力。
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。