一键部署LLM应用开发平台
Dify - LLM应用开发平台
Dify是一个开源的LLM应用开发平台。其直观的界面结合了AI工作流、RAG管道、Agent、模型管理、可观测性功能等,让您可以快速从原型到生产。
概述
Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务(Backend as Service)和LLMOps的理念,使开发者可以快速搭建生产级的生成式AI应用。即使你是非技术人员,也能参与到AI应用的定义和数据运营过程中。
由于Dify内置了构建LLM应用所需的关键技术栈,包括对数百个模型的支持、直观的Prompt 编排界面、高质量的RAG引擎、稳健的Agent框架、灵活的流程编排,并同时提供了一套易用的界面和API。这为开发者节省了许多重复造轮子的时间,使其可以专注在创新和业务需求上。
计费说明
Dify应用所需的vCPU与内存规格、磁盘容量、公网带宽,组合商品活动价已包含。计费模式:包年包月。
使用指导
第一步:一键部署
1. 选择服务器配置:CPU核数最少2核,内存最少4G,其余规格根据需要选用。
2. 选择部署区域(可以选择离自己最近的城市,如无特殊要求,保持默认即可)。
3. 根据实际需要选择“可选配置”(可选配置会有额外费用),购买完成后开始部署服务(部署需要一定时间,预计15-30分钟,受网络、带宽影响,部署时间会有波动)。在完成之前,请勿进行重启、重置密码等操作。
4. 如果您需要登录服务器,预制密码为Cloud.1234
第二步:安全组配置
Dify要求服务器放开80端口,如果您之前没有为Flexus应用服务器L实例(以下简称L实例)的安全组增加过80端口,请按下述步骤操作:
1. 进入安全组配置页面:登录L实例控制台 ,选择刚才购买的L实例(以Dify为前缀),单击卡片进入详细页面。
2.进入服务器详情页:点击左侧导航栏中的云主机VM,再点击服务器名称进入详情页。
3. 配置安全组:选择“安全组”,添加规则,修改放通80端口。
第三步:启动应用
1. 登录开发平台:等待应用下载及部署完毕(约15-30分钟)后,访问L实例的公网IP,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。
2. 配置大模型API key:进入系统后,首先需要配置大模型的API key,用于Dify调用大模型API的能力。点击系统右上角的设置,选择模型供应商,挑选一家大模型,例如讯飞星火,点击设置,填写对应的API key。
3. 创建应用:接着需要创建一个应用,您可以创建空白应用或者从模板中创建。作为开始,我们选择空白应用。
4. 查看API调用:您可以在编排里进行调试与预览,例如编写提示词、导入知识库等。一旦完成,可以点击左侧的访问API,查看API的调用方法。
5. 创建密钥:在调用之前,还需要点击右上角“API密钥”创建一个密钥,用作请求鉴权。
探索应用模板
仅仅使用空白模板来部署Dify和直接调用大模型的API体验几乎一致,为了充分发挥Dify的能力,您可以点击页面上方的探索,尝试预制的各类应用模板。除此之外,您还可以浏览Dify官方文档(地址:https://docs.dify.ai/v/zh-hans)获取更多详细的开发指南。
资源退订:
客户购买包年包月Flexus应用服务器L实例后,支持退订包周期实例。退订资源实例包括资源续费部分和当前正在使用的部分,退订后资源将无法使用,详情参考https://support.huaweicloud.com/price-hecs/billing_faq_0005.html。
须知
请用户在遵守适用的法律法规下合法使用云服务,按照官方说明、指示和要求使用该场景,如用户涉及侵权,由用户自行承担责任。
- 点赞
- 收藏
- 关注作者
评论(0)