快速搭建Dify LLM应用开发平台
1 方案概述
Dify官方在国内未提供SaaS服务,该解决方案基于Flexus云服务器X实例帮助您快速私有化部署开箱即用的Dify LLM应用开发平台,使开发者可以快速搭建生产级的生成式AI应用。
方案架构
图1-1 方案架构图
该解决方案将会一键部署如下资源:
- 创建1台华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台。
- 创建1个弹性公网IP EIP并关联华为云Flexus云服务器X实例,提供访问公网和被公网访问能力。
- 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。
2 快速部署
本章节主要帮助用户快速一键部署Dify-LLM应用开发平台,预计5-10分钟部署完成(受网络影响可以能会有波动)。
步骤 1 浏览器访问Dify-LLM应用开发平台一键部署。
步骤 2 在选择模板界面中,单击“下一步”。
图2-1 选择模板
步骤 3 在配置参数界面中,密码为必填项,其他参数可使用默认值(参考附录 表5-3参数说明),单击“下一步”。
图2-2 配置参数
步骤 4 在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托(可不选),单击“下一步”。
图2-3 资源栈设置
步骤 5 在配置确认界面中,单击“创建执行计划”。
图2-4 配置确认
步骤 6 在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。
单击“部署”,并且在弹出的执行计划确认框中单击“执行”。
图2-5 执行计划
步骤 8 (可选)如果计费模式选择“包年包月”,在余额不充足的情况下(所需总费用请参考表5-2)请及时登录费用中心,手动完成待支付订单的费用支付。
步骤 9 待“事件”中出现“Apply required resource success”,表示该解决方案资源已发放完成。
图2-6 部署完成
步骤 10 刷新页面,在“输出”中查看Dify-LLM应用开发平台访问说明。
图2-7 说明
3 开始使用
安全组规则修改(可选)
步骤 1 登录开发平台:等待应用下载及部署完毕(约5-10分钟)后,输入快速部署步骤10的访问地址,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。
图3-1 Dify平台
步骤二 如果需要管理此文档创建的Flexus云服务器X实例资源,请前往x实例控制台。
拓展应用请参考:
4 一键卸载
步骤 1 登录资源编排 RFS资源栈,找到该解决方案创建的资源栈,单击资源栈名称右侧“删除”按钮。
图4-1 一键卸载
步骤 2 在弹出的删除资源栈确定框中,删除方式选择删除资源,输入Delete,单击“确定”,即可卸载解决方案。
图4-2 删除资源栈确认
5 附录
资源和成本规划
该解决方案主要部署如下资源,以下费用仅供参考,具体请参考华为云官网价格详情,实际收费以账单为准。
表5-1 资源和成本规划(按需计费)
华为云服务 |
配置示例 |
每月预估花费 |
华为云Flexus云服务器X实例 |
按需计费 区域:华北-北京四 规格:Flexus云服务器X实例 | 性能模式(关闭)| x1.2u.4g | 2核 | 4 GB 镜像:Ubuntu 22.04 server 64bit 系统盘:高IO | 100GB 购买量:1 |
197.28元 |
弹性公网IP EIP |
区域:华北-北京四 计费模式:按需计费 线路:动态BGP 公网带宽:按流量计费 带宽大小:300Mbit/s 购买量:1 |
0.80元/GB |
合计 |
- |
197.28元 + 弹性公网IP EIP费用 |
表5-2 资源和成本规划(包年包月)
华为云服务 |
配置示例 |
每月预估花费 |
华为云Flexus云服务器X实例 |
包年包月 区域:华北-北京四 规格:Flexus云服务器X实例 | 性能模式(关闭)| x1.2u.4g | 2核 | 4 GB 镜像:Ubuntu 22.04 server 64bit 系统盘:高IO | 100GB 购买量:1 |
143.00元 |
弹性公网IP EIP |
区域:华北-北京四 计费模式:按需计费 线路:动态BGP 公网带宽:按流量计费 带宽大小:300Mbit/s 购买量:1 |
0.80元/GB |
合计 |
- |
143.00元 + 弹性公网IP EIP费用 |
表5-3 参数说明
参数名称 |
类型 |
是否可选 |
参数解释 |
默认值 |
vpc_name |
string |
必填 |
虚拟私有云名称,该模板使用新建VPC,不允许重名。取值范围:1-54个字符,支持中文、英文字母、数字、_(下划线)、-(中划线)、.(点)。 |
dify-llm-application-development-platform-demo |
secgroup_name |
string |
必填 |
安全组名称,该模板新建安全组,请参考安全组规则修改进行配置。取值范围:1-64个字符,支持字母、数字、中文、下划线(_)、中划线(-)、英文句号(.)。 |
dify-llm-application-development-platform-demo |
ecs_name |
string |
必填 |
云服务器实例名称,不支持重名。取值范围:1-60个字符,支持中文、英文字母、数字、_(下划线)、-(中划线)、.(点)。 |
dify-llm-application-development-platform-demo |
flexus_flavor |
string |
必填 |
云服务器实例规格,支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g,例如2vCPUs4GiB规格ID为x1.2u.4g,具体华为云Flexus 云服务器X实例规格请参考控制台。弹性云服务器规格名称,具体请参考官网弹性云服务器规格清单。 |
x1.2u.4g |
ecs_password |
string |
必填 |
云服务器密码,长度为8-26位,密码至少必须包含大写字母、小写字母、数字和特殊字符(!@$%^-_=+[{}]:,./?)中的三种,仅支持小写字母、数字、中划线(-)、英文句号(.)。修改密码,请参考重置云服务器密码登录ECS控制台修改密码。管理员账户默认root。 |
空 |
gitlab_password |
string |
必填 |
搭建的gitlab私有仓库密码,取值范围:长度为8-26个字符,密码至少包含大写字母、小写字母、数字和特殊字符(~!@#%^-_=)中的三种,gitlab用户名默认root。 |
空 |
ecs_volume_size |
number |
必填 |
云服务器系统盘大小,磁盘类型默认为高IO,单位:GB,取值范围为40-1,024,不支持缩盘。 |
100 |
bandwidth_size |
number |
必填 |
弹性公网带宽大小,该模板计费方式为按流量计费。单位:Mbit/s,取值范围:1-300Mbit/s。 |
300 |
charging_mode |
string |
必填 |
计费模式,默认自动扣费,取值为prePaid(包年包月)或postPaid(按需计费)。 |
postPaid |
charge_period_unit |
string |
必填 |
计费周期单位,当计费方式设置为prePaid,此参数是必填项。有效值为:month(包月)和year(包年)。 |
month |
charge_period |
number |
必填 |
计费周期,当计费模式设置为prePaid,此参数是必填项。可选值为:1-3(year)、1-9(month)。 |
1 |
当您首次使用华为云时注册的账号,则无需执行创建rf_admin_trust委托,如果您使用的是IAM用户账户,请确认您是否在admin用户组中,如果您不在admin组中,则需要为您的账号授予相关权限,并完成以下步骤。
创建rf_admin_trust委托(可选)
步骤 1 进入华为云官网,打开控制台管理界面,鼠标移动至个人账号处,打开“统一身份认证”菜单。
图5-1 统一身份认证菜单
步骤 2 进入“委托”菜单,搜索“rf_admin_trust”委托。
图5-2 委托列表
- 如果委托存在,则不用执行接下来的创建委托的步骤
- 如果委托不存在时执行接下来的步骤创建委托
步骤 3 单击步骤2界面中的“创建委托”按钮,在委托名称中输入“rf_admin_trust”,委托类型选择“云服务”,选择“RFS”,单击“下一步”。
图5-3创建委托
步骤 4 在搜索框中输入“Tenant Administrator”权限,并勾选搜索结果,单击“下一步”。
图5-4 选择策略
步骤 5 选择“所有资源”,并单击“下一步”完成配置。
图5-5 设置授权范围
步骤 6 “委托”列表中出现“rf_admin_trust”委托则创建成功。
图5-6 委托列表
约束与限制
- 部署该解决方案之前,您需要注册华为账号并开通华为云,完成实名认证,且账号不能处于欠费或冻结状态,请根据附录 表5-2中预估价格,确保余额充足。
名词解释
- 华为云Flexus云服务器X实例:Flexus云服务器X实例是新一代面向中小企业和开发者打造的柔性算力云服务器。Flexus云服务器X实例功能接近ECS, 同时还具备独有特点,例如Flexus云服务器X实例具有更灵活的vCPU内存配比、支持热变配不中断业务变更规格、支持性能模式等。
- 弹性云服务器 ECS:是一种云上可随时自助获取、可弹性伸缩的计算服务,可帮助您打造安全、可靠、灵活、高效的应用环境。
- 虚拟私有云 VPC:是用户在华为云上申请的隔离的、私密的虚拟网络环境。用户可以基于VPC构建独立的云上网络空间,配合弹性公网IP、云连接、云专线等服务实现与Internet、云内私网、跨云私网互通,帮您打造可靠、稳定、高效的专属云上网络。
- 弹性公网IP EIP:提供独立的公网IP资源,包括公网IP地址与公网出口带宽服务。可以与弹性云服务器、裸金属服务器、虚拟IP、弹性负载均衡、NAT网关等资源灵活地绑定及解绑,提供访问公网和被公网访问能力。
- 点赞
- 收藏
- 关注作者
评论(0)