如何在Dify中配置MaaS服务

一、登录Dify控制台打开设置

1、在浏览器地址页输入“http:ip:80”,其中ip为一键部署创建的L实例公网ip，登录Dify控制台，点击右上方用户头像选择“设置”。

二、添加大语言模型

1、Maas平台设置：在右侧模型列表点击“华为云MAAS平台”列表中的“设置”。

2、获取API key：在设置弹框中的左下方点击“获取API key”。

3、创建API Key：跳转至华为云modelArts控制台API key管理页，点击右上角“创建API Key”。

4、复制API Key：在创建API Key弹框中输入标签与描述，然后点击“确定”按钮，即可获得API Key. 点击复制API Key。

5、LLM模型配置：返回Dify设置华为云MaaS平台弹框中，输入API Key。然后点击保存，完成LLM模型的配置。

三、添加Embedding&Reranker模型

1、添加模型：在右侧模型列表点击“OpenAI-API-compatible”列表中“添加模型”。

2、添加Reranker模型：弹出窗口中按下图所示依次选择模型类型为Rerank，填写模型名称为“bge-reranker-v2-m3”，API Key为“添加大语言模型获取的API Key”，API endpoint URL为“https://api.modelarts-maas.com/v1”，单击“保存”。

3、添加Embedding模型：弹出窗口中按下图所示依次选择模型类型为Text Embedding，填写模型名称为“bge-m3”，API Key为“添加大语言模型获取的API Key”，API endpoint URL为“https://api.modelarts-maas.com/v1”，单击“保存”。