华为云ModelArts的应用价值—ModelArts 一键训练和部署口罩识别AI模型
云服务、API、SDK,调试,查看,我都行
阅读短文您可以学习到:人工智能AI之ModelArts的训练、识别、分析
1 Classroom和Toolkit的关系
1.1 Classroom的简介
classroom是基于华为云的云上软件教学服务,支持初级开发者和高校师生实现备课、上课、作业、考试、实验、实训等全教学流程的线上教学,提供多类习题自动判题、企业级DevOps实训、免费在线习题库等众多高级特性辅助进行数字化教学转型。
1.2 Toolkit插件之华为云API实战课程
2 IntelliJ IDEA 之API插件介绍
API插件支持 VS Code IDE、IntelliJ IDEA等平台、以及华为云自研 CodeArts IDE,基于华为云服务提供的能力,帮助开发者更高效、便捷的搭建应用。API插件关联华为云服务下的 API Explorer、DevStar、CodeLabs、SDK 中心和 CLI 中心产品,致力于为开发者提供更稳定、快速、安全的编程体验。
在本插件中,我们提供了但不局限于如下的功能:
对接华为云API开放平台,支持用户检索API、查看API文档、调试API、以及提供SDK示例代码供用户学习如何使用API。
提供华为云SDK代码片段补全功能,SDK依赖包自动引入,加速用户集成华为云API。
对接华为云开发体验馆Codelabs,提供500+云服务代码示例,向导式教程帮助用户快速学习。
说明:
在IntelliJ IDEA等系列平台和VS Code IDE,华为云API插件的名称是Huawei Cloud API。而在CodeArts IDE,API插件是IDE原生内置的,名称是华为云API开发套件。
API插件在IntelliJ IDEA等系列平台和VS Code IDE的使用依赖底座插件,请提前安装底座插件。
3 API插件安装--IntelliJ IDEA
3.1 IntelliJ IDEA等平台
安装准备:下载并安装JDK1.8或更高版本。下载并安装IntelliJ IDEA 2020.2或更高版本。
须知:IntellIj平台同时支撑包括Goland、Pycharm等在内的IDE,若在其它相关IDE上开发,请下载配置好对应语言的编译器或者解释器。这里以IDEA为例介绍IntelliJ平台插件的安装流程,其他IntelliJ系列的IDE请参考IDEA。
开始安装:
您可以在直接在IDE插件市场或者直接在JetBrains插件市场下载离线包安装。
IDE安装
- 在IntelliJ IDEA顶部菜单栏中选择File > Settings,在Settings对话框的左侧导航栏中单击Plugins。
- Plugins区域单击Marketplace,在搜索栏中输入Huawei Cloud API。
- Search Results区域会出现Huawei Cloud API,单击Install,完成后重启IDE。
离线包安装:
- 进入插件市场搜索Huawei Cloud API,进入插件详情页,在Versions页签下选择想要版本的API插件,点击Download下载离线的插件压缩包保存到本地。。
- 在IntelliJ IDEA顶部菜单栏中选择File > Settings,在Settings对话框的左侧导航栏中单击Plugins。
- 在Plugins区域单击 ,再单击Install Plugin from Disk...。
- 在Choose Plugin File对话框中选择离线安装包(不用解压),并按照IntelliJ IDEA安装页面的提示,完成后续安装步骤。
说明:若当前您想要安装插件的IntelliJ IDE已经在桌面打开,则进入插件市场搜索Huawei Cloud API,进入插件详情页,在右上角会识别到本地已经打开的IDE,点击相应按钮,在弹出的IDE窗口中点击ok,则IDE后台会开始安装相应版本的API插件。
安装验证:在IntelliJ系列平台上安装插件成功后在左侧的导航栏中可以看到Huawei Cloud Toolkit图标,点击后面板会出现Huawei Cloud API的字样,则说明安装成功。
3.2 API列表
左侧展示API列表,可以查询所有API,目前云服务206,APIs9213
4 ModelArts SDK打通本地IDE与云端训练资源
4.1 什么是ModelArts Pycharm插件?
什么是ModelArts?
ModelArts是面向AI开发者的一站式开发平台,提供海量数据预处理及半自动化标注、大规模分布式训练、自动化模型生成及端-边-云模型按需部署能力,帮助用户快速创建和部署模型,管理全周期AI工作流。
"一站式"是指AI开发的各个环节,包括数据处理、算法开发、模型训练、部署都可以在ModelArts上完成。ModelArts底层支持各种异构计算资源,开发者可以根据需要灵活选择使用,而不需要关心底层的技术。
4.2 产品优势
一站式
即使您是一个毫无AI经验的开发者,也可以开"箱"即用。ModelArts平台涵盖AI开发全流程,可灵活使用其中一个到多个功能用于开发工作。
易上手
提供多种预置模型,开源模型想用就用。
模型超参自动优化,简单快速。
零代码开发,简单操作训练出自己的模型。
支持模型一键部署到云、边、端。
高性能
自研MoXing深度学习框架,提升算法开发效率和训练速度。
优化深度模型推理中GPU的利用率,加速云端在线推理。
可生成在华为自研Ascend芯片上运行的模型,实现高效端边推理。
4.3 使用ModelArts的目标检测预置算法,训练一个口罩识别模型委托授权
体验智能数据标注,需要完成以下准备工作
创建华为云账号并实名认证
参考此链接,注册华为云账号。
https://support.huaweicloud.com/usermanual-account/zh-cn_topic_0069252244.html
参考此链接,完成实名认证,推荐使用扫码认证。
https://support.huaweicloud.com/usermanual-account/zh-cn_topic_0133456714.html
**注意:**请及时检查账号状态,避免账号处于欠费或冻结状态时资源被冻结,影响您的使用。
获取访问密钥并完成ModelArts全局配置
参考此文档 获取访问密钥并完成ModelArts全局配置。
https://support.huaweicloud.com/prepare-modelarts/modelarts_08_0002.html
注意:访问秘钥文件请妥善保存,使用OBS Browser会用到。
委托授权
为了授权ModelArts访问OBS,需要进入ModelArts数据集,点击“服务授权”按钮,进行授权。
为了授权ModelArts访问OBS,需要进入ModelArts数据集,点击“服务授权”按钮,进行授权。https://console.huaweicloud.com/modelarts/?region=cn-north-4#/dataset
创建OBS桶
OBS,即Object Storage Service,对象存储服务,是华为云上提供云上储存的服务。在使用ModelArts之前您需要创建一个OBS桶,并在其中创建一个用于存放数据的文件夹。
登录OBS管理控制台, 页面右上角单击"创建桶",系统弹出如下图所示的对话框,选择"区域"为"华北-北京四",输入自定义的桶名称,其他选项保持默认即可,最后点击页面下方"立即创建"按钮即可成功创建。
下载并登录OBS Browser+
OBS Browser+是OBS客户端,方便用户上传和下载文件。
https://support.huaweicloud.com/browsertg-obs/obs_03_1003.html
点击此链接,根据操作系统版本下载相应版本的OBS Browser+,并点击.exe文件进行安装。
https://support.huaweicloud.com/browsertg-obs/obs_03_1004.html
参考此文档,使用AK SK登录OBS Browser+。
https://support.huaweicloud.com/clientogw-obs/zh-cn_topic_0045829115.html
如果是Mac操作系统,可以参考此文档下载和安装OBS Browser。
https://modelarts-labs.obs.cn-north-1.myhuaweicloud.com/codelab/mask_detection/mask_detection_500.tar.gz
注意:AK SK从访问秘钥文件中获取。
- 准备数据
下载数据集
本案例使用口罩识别数据集,点击此链接,下载压缩包至本地,然后解压。
解压后,可以看到mask_detection_500文件夹下有train和test两个文件夹。train文件夹中存放的训练集,共500张图片,均已标注。test文件夹下存放的是测试图片。
注意:该口罩识别数据集只能用于学习用途,不得用于商业用途。
上传数据至OBS
在OBS Browser+中,进入刚刚创建的“华为北京四”区域的OBS桶,然后点击上传按钮,上传本地文件夹mask_detection_500至OBS桶:
创建数据集
点击此链接,进入ModelArts数据集。请确保区域在“华北-北京四”,本案例所有操作在“华北-北京四”。
https://console.huaweicloud.com/modelarts/?region=cn-north-4#/dataset
点击页面上的“创建数据集”按钮, 创建数据集页面填写示例如下:
数据集名称:自定义
数据集输入位置:train文件夹所在的OBS路径
数据集输出位置:标注数据的输出OBS路径。需要在OBS中创建这个路径,可以是使用OBS Browser+创建。
标注场景:物体
标注类型:物体检测
填写完毕上述字段后,点击创建按钮。
训练集中已经包含了标注文件,ModelArts数据集会自动加载标注文件。
数据标注格式解读
创建完毕后,点击数据集名称进入数据集,然后点击“开始标注”按钮,再点击一张图片,观察数据标注详情。其中一张样例图片的标注详情如下:
数据集共有三种类型的标注框,person(包含头部和肩部)、face和mask。判断一个人有没有戴口罩的方法是,脸部的检测框里面是否有口罩的检测框。person物体的作用是对人做目标跟踪。
- 一键模型上线
数据集发布成功后,可以使用一键模型上线功能,训练模型,并将模型部署成在线API服务。
创建一键模型上线任务
点击进入数据集页面,找到刚刚创建的数据集,然后点击“任务创建”按钮:
进入“一键模型上线”任务创建页面,按照以下样例和指导填写参数:
名称:自定义
预置算法:选择Faster_RCNN_ResNet_v1_50。我们在本案例中使用ModelArts物体检测预置算法FasterRCNN训练模型。
运行参数:Faster_RCNN_ResNet_v1_50自带默认运行参数。将max_epoches改为15,其他运行参数保持默认。这些运行参数会控制的模型训练过程,有经验的用户可以调节这些运行参数。
训练输出位置:选择OBS路径/hdc-2020/mask_detection_500/output/(output文件夹需要自己创建,创建方式见准备工作中的创建OBS文件夹),训练输出位置用来保存训练输得到的模型和TensorBoard日志。
作业日志路径:选择OBS路径/hdc-2020/mask_detection_500/log/(log文件夹需要自己创建,创建方式同训练输出位置),用于保存训练日志文件。
资源池:公共资源池
类型:GPU
规格:CPU:8 核 64GiB GPU:1 * nvidia-v100 32GiB。也可以选择P100,V100比P100的算力更强。
计算节点:1
部署:公共资源池
计算节点规格:CPU:2 核 8 GiB。如果开通了GPU部署权限,可以尝试GPU部署。
计算节点个数:1。如果是多个计算节点,就是多实例部署,可以提高API的并发数。
填写好这些参数后,点击“下一步”按钮,确认参数无误,然后提交“提交”按钮。
一键模型上线任务可以基于标注好的数据集一键自动训练和部署模型。该任务会生成一个工作流。
该工作流包含了三个子任务,首先会在训练作业中创建一个训练作业,使用预置算法训练得到一个模型;然后将生成的模型导入到模型管理中;最后将模型部署为一个在线API服务。
训练作业耗时20分钟左右,模型导入耗时3分钟左右,启动在线服务耗时5分钟左右。
查看训练作业
点击“查看训练详情”按钮,可以查看训练作业的详情
“配置信息”页面展示了训练作业的配置详情:
“日志”页面展示了训练过程日志,可以看到模型在训练过程中打印的日志,比如模型精度、训练速度等,同时也可以下载日志文件到本地查看:
- 在线服务测试
在线服务的本质是RESTful API,可以通过HTTP请求访问,在本案例中,我们直接在网页上访问在线服务。
测试样例图片
模型部署成功后,点击“查看在线服务详情”按钮,然后进入部署上线>在线服务,然后点击在线服务的“预测”按钮,进入在线服务预测页面。如下图所示:
点击上传按钮,上传本地的mask_detection_500\test目录中的图片,然后点击“预测”按钮,进行测试:
预测结果会出现在右边的输出框:
预测结果中的detection_classes字段表示预测的物体类别,detection_boxes字段表示物体的检测框的位置,detection_scores表示类别的置信度。
也可以从网上下载图片来测试模型。
回帖领代金券(可选)
如果想要领取第二张代金券,可以将上一步骤中测试结果截图保存(截图需要带上右上角的华为云账号),然后在相应的论坛帖子下回帖。累计完成三个案例就可以领取第二张代金券。点击此链接,进入论坛帖子,参与Codelabs 活动。
集成在线服务
作为在线RESTful API,还可以通过HTTP请求访问,在调用指南中有该API的详细信息和调用指南文档,如下图所示:
如果用户想要将该口罩识别API集成到自己的系统或者应用中,可以通过HTTP请求调用此API,获取person、face和mask检测框。判断一个人是否戴口罩的方法是,判断face检测框里面是否有mask检测框。
开发者可以自己线下尝试该项任务。
- 关闭在线服务
为了避免持续扣费,案例完成后,需要关闭在线服务,点击“停止”按钮即可:
当需要使用该在线服务的时候,可以重新启动该在线服务。
5 呈现效果
6 恭喜您
祝贺你,你已经使用ModelArts完成了一键训练和部署口罩识别AI模型任务!
你掌握了如何在ModelArts上使用预置算法训练模型,然后部署成一个在线服务,并在网页上对API进行测试。
接下来你可以
尝试把训练好的模型,或者部署好的在线API发布到AI市场,分享给其他人使用。
参考文献
https://support.huaweicloud.com/prepare-modelarts/modelarts_08_0001.html
https://support.huaweicloud.com/prepare-modelarts/modelarts_08_0002.html
https://support.huaweicloud.com/engineers-modelarts/modelarts_23_0012.html
https://support.huaweicloud.com/qs-obs/obs_qs_0002.html
https://github.com/huaweicloud/ModelArts-Lab/tree/master/docs/moxing_api_doc
7 体验插件课程
https://classroom.devcloud.huaweicloud.com/MOOCCourseStudy/join/ef4ebc3dbaa246ff995f75022cac8cb9
- 点赞
- 收藏
- 关注作者
评论(0)