如何部署模型到ModelArts并远程调用 (五):如何调用在线API服务

举报
RoyalKun 发表于 2020/07/31 13:08:08 2020/07/31
【摘要】 将ModelArts模型部署成一个在线API服务,并通过HTTPS请求访问这个在线API服务。

如何调用在线API服务


首先需要将导入的模型部署成一个在线API服务,然后根据调用指南中的API信息和指导文档,使用HTTPS请求进行调用。

部署模型为在线服务

参考此文档。并且可以参考此案例中的模型部署环节

模型将会被部署成一个在线的API服务,以restful API的形式通过网络对外提供服务,可以通过HTTPS协议来访问。

提示:API在启动中会一直收费,当不使用的时候,可以临时关闭,使用的时候再重新启动。

查看在线API服务的信息

在在线服务的详情页,可以看到调用指南,这里面会显示API接口地址、和POST请求的输入参数和输出参数。记录下这些信息,后面通过HTTPS请求远程调用会用到这些信息。

获取token

调用在线API服务需要鉴权,自己部署的API的只能自己调用。

token就是调用API需要的鉴权信息,可以使用用户名和密码生成token,有效期是24小时。为避免频繁生成token, 建议在本地对token进行缓存,当token失效时再生成新的token,否则可能会触发流量控制。

获取用户token参考此文档

校验token有效性参考此文档

获取token过程中注意区域和使用ModelArts的区域保持一致,建议都用北京四区域。

调用在线服务

当token和在线API服务的信息都准备好之后,终于可以调用这个API了。

调用在线API服务参考此文档。该文档演示了通过curl命令发送HTTPS请求,在真实的使用场景中,需要使用编程语言中的HTTP客户端类来发送HTTPS请求。在调试阶段,我们可以通过curl命令来调试在线API服务的可用性。

在该示例中,我们可以注意到,在HTTPS请求的headers中加入了鉴权信息(即token),其他的调用方法同标准的HTTPS请求。


好啦,如果你走到这一步,那么恭喜你,大功告成!

附:

如何部署模型到ModelArts并远程调用 (一):保存模型为平台支持的格式

如何部署模型到ModelArts并远程调用 (二):编写推理配置文件

如何部署模型到ModelArts并远程调用 (三):编写推理代码

如何部署模型到ModelArts并远程调用 (四):导入模型

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。