华为云ModelArts零基础入门使用方法丨【AI贺新年】

举报
YKforever 发表于 2022/02/16 20:09:02 2022/02/16
【摘要】 本篇内容一共3500字,以猫狗分类项目为例展示对ModelArts所有基础用法。这些模块在一次模型训练中不需全部用到,请根据需要跳转到相应模块:.想快速完整体验深度学习/机器学习流程的初学者->自动学习已经完成项目代码,想提高训练速度/习惯使用notebook,想要边写边调试的专业人士->开发环境需要用到逐个功能/在其中订阅个别产品(如算法、AI应用等)->数据管理、算法管理、训练管理、AI...

本篇内容一共3500字,以猫狗分类项目为例展示对ModelArts所有基础用法。这些模块在一次模型训练中不需全部用到,请根据需要跳转到相应模块:.

  1. 想快速完整体验深度学习/机器学习流程的初学者->自动学习
  2. 已经完成项目代码,想提高训练速度/习惯使用notebook,想要边写边调试的专业人士->开发环境
  3. 需要用到逐个功能/在其中订阅个别产品(如算法、AI应用等)->数据管理、算法管理、训练管理、AI应用管理、部署上线

基本介绍

ModelArts是华为开发的人工智能领域使用的线上云平台,可以有效解决算法工程师们设备硬件性能低,不能够高效地训练模型、评估效果等问题。就比如说,尤其是接触深度学习以来,随着模型层数越来越深,自己的电脑配置已经远远达不到跑模型的标准了,但又不想立即换电脑。这时按需收费的云平台就是最合适的选择,ModelArts就是这类产品。

话不多说,上教程。

准备工作

1. 找到产品

在华为云官网上切换为中国站。
在这里插入图片描述

点击人工智能->AI平台ModelArts。
在这里插入图片描述

2. 注册/登录账号

如果之前没有华为云账号需要注册一个,并且需要实名认证,此处需要18岁以上,若是未成年,可以拿家长的身份证进行认证。登录完之后选择管理控制台。
在这里插入图片描述

3. 上传数据集

数据提取

  • 体验数据标注 (src:kaggle):
    链接:catdog dataset 提取码:xcb1
  • 完整项目(数据集已标注,无需解压):
    链接:catdog 提取码:scef

机器学习、深度学习需要训练样本,所以想在云端操作数据,首先需要将本地数据上传到华为云的服务器中。但是只依靠电脑上传效率低,如果数据量过大的话,需要下一个配套软件OBS Browser+。

OBS Browser+

下载方式很简单,打开此链接华为云OBS Browser+下载,选择合适的版本进行安装。
在这里插入图片描述
下载后登录有三种方式,AK密钥方式、账号登录、授权码登录。第一次可以使用AK和账号登录。

  • 账号登录方式可以为刚刚注册的华为云账号,但只支持账号名登录,不支持手机登录,比较简单方便。
  • AK方式需要按照操作获取AccessKey,验证一下手机号即可,也非常方便。
    在这里插入图片描述
    点击获取AcessKey会弹出以下界面。
    在这里插入图片描述
    按照提示输入手机号验证,完毕后点击下载文件,点击csv文件将AK和SAK复制到登录界面中。登录完成进入以下界面。
    在这里插入图片描述
    为了更好管理云平台中的数据,需要为每个项目数据创建一个桶,相当于一个文件夹,也可以叫做硬盘的分区。
    在这里插入图片描述
    在这里插入图片描述

创建完成之后将数据上传即可。
在这里插入图片描述

使用步骤

一、 自动学习

此步骤是通过机器学习使不具备算法开发能力的业务开发者实现算法的开发,也可以用来帮助初学者了解整个机器学习/深度学习的流程。这里会从零完整演示一个项目,如果读者是专业人士,请移步到板块二。

1. 将账号授权。

在这里插入图片描述
在这里插入图片描述

2. 创建项目

这里以物体检测为例。物体检测与图像分类的区别是它除了能够识别类别,还能判断出物体的位置。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3. 标注数据

如果数据集已经完成标注可以跳过此步。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

这样就标记好一张照片啦!接下来把剩下的都标记出来。

如果数据集中自带标记数据,就将标记的xml文件和源图在OBS中存储放在一个文件夹中,在已标记中同步数据源即可。如图所示:
在这里插入图片描述

4. 训练数据

使用的是华为云中自带的算法训练,所以相当“傻瓜式操作”,上手非常容易。
在这里插入图片描述
在这里插入图片描述
确认提交后,等待一段时间。注意自动学习免费版本仅用于体验,训练超过一小时会自动终止,相当于白训练了,所以样本量不能太大!博主训练了将近500张图片,训练了25分钟(效率可参考)。出现以下界面就代表训练完成了。接下来就需要部署上线,测试我们模型在真实情况下的准确率。

5. 部署上线

在这里插入图片描述
点击上传、预测即可显示出算法的威力,仅有500张训练照片,可以看出来云端内置算法预测精度还是比较准确的。
在这里插入图片描述

二、数据管理

此模块可以用来标注数据,存储训练数据,也可以将自己创建的数据分享到社区。如果数据量少的可以直接在这个步骤上传,数据量大的需要借助华为云对象存储OBS将数据批量上传,速度非常快。

1. 数据集

想要把OBS的数据加载到ModelArts,使他们产生联系,首先需要创建一个数据集。如果在自动学习中已经体验一遍了,这里应该有刚才加载的数据集,若没有,则需要按照上文同样方法进行创建。
在这里插入图片描述

2. 数据标注

步骤与上文自动学习部分数据标注大致相同。当然这里可以团队合作一起标注。
但需要注意的是尽管有多边形可以更精准的勾勒出狗狗位置,但与算法不兼容,训练时会报错;后面几种效果也不是很理想,所以最好选用矩形标记。
在这里插入图片描述
当数据标注完成后,点击发布,可以生成一个版本,再后续训练过程中可以直接使用,或在下一个操作中出错可以恢复到当前状态。
在这里插入图片描述
在这里插入图片描述

3. 标注团队

团队一起合作标注的步骤是首先创建一个团队。
在这里插入图片描述
其次在标注作业创建过程中选择“启用团队标注”,选择对应团队即可。
在这里插入图片描述

4. 数据处理

此模块是针对图像的预处理模块,如数据清洗、数据增强等可以使数据更可靠,从而提升模型预测准确率。目前只包含图像预处理,文本预处理需要自行解决。
步骤为:点击数据处理->创建->选择合适的处理方式(数据增强/数据清洗等)->定义图片输入输出目录->点击创建,然后等待部署成功,显示如下。
在这里插入图片描述

三、开发环境

开发环境相当于为开发者创建一个可以在线编写代码的集成环境IDE,可以将本地代码复制到这里,也可以直接编写,方便调试。在这一步直接像在自己电脑上的notebook里面一样操作,只是使用了云端的CPU和GPU进行加速,针对此项目不需要再使用后续模块。
在这里插入图片描述
创建完之后点击进入notebook。
在这里插入图片描述
输入以下命令并运行,可以将OBS数据同步过来。第一个路径指OBS中项目文件路径,第二个指服务器存放路径。

import moxing as mox
mox.file.copy_parallel('obs://XXX/XXX','/home/ma-user/work') 

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
中途创建可视化,打开terminal输入tensorflow --logdir 存放路径
在这里插入图片描述
打开控制板中的tensorboard即可看到
在这里插入图片描述

四、算法管理

其实相当于算法代码管理,可以保留原始版本记录,将代码更好的管理起来,但在此模块中并不能训练。
在上传到ModelArts后台之前需要先将代码文件夹存放到OBS中,存放的步骤同上文(准备工作->上传数据集)。
在这里插入图片描述
想要后续在ModelArts上训练,由于ModelArts是将OBS中的数据下载到后台再进行训练的,因此源代码中的训练路径这时不可用,需要当做一个参数动态调节。想实现添加参数需要两步:

  1. 在建立算法时要创建输入参数、输出参数
    在这里插入图片描述

  2. 添加输入参数之后会自动添加对应的超参,也就是为了在自己的代码中识别出这是个外部的参数可以做修改,相当于在源代码中加入以下语句(默认存放数据的路径参数叫data_url,名称根据自己的代码调整):
    parser.add_argument('--data_url', type=str, default=None, help='test')

也可以自行添加超参(训练时可以手动修改的参数),如max_epochs等。
在这里插入图片描述

随后点击确定算法就创建成功了。

五、训练管理

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
调整好点击创建,开始训练,训练完后会显示已完成。
在这里插入图片描述

六、AI应用管理

1. AI应用

如果训练出来的结果不错,可以将算法代码(带调整好的参数)一起保存为一个模型,也叫AI应用。点击一个训练任务,可以直接创建AI应用。另华为云中有内置效果不错的模型,可以订阅拿来使用。
在这里插入图片描述

2. 模型转换

这部分板块适用于将算法集成于硬件中(例如摄像头),可以将数据格式进行转换。

七、部署上线

这一步就是模型上线直接利用真实值看效果了,初学者使用在线服务足矣。
点击可以上线的模型(AI应用),点击在线服务。
在这里插入图片描述
基本上不做修改,保持默认即可。
在这里插入图片描述
打开部署任务,依次上传图片、点击预测,结果如下。
在这里插入图片描述
在这里插入图片描述

八、AI Gallery社区

前面七个板块都是供开发者进行模型实操作业,而AI Gallery社区更像是聚集各个优秀开发者的一个大家庭。在此模块,每个人都可以通过论坛、活动等模块了解行内最新消息;跟着教学模块的路线学习提升自己;还可以参加活动比赛提升世面、认识大佬;查找案例库对行业中的热门方向拥有较强的把握,对于找工作的人士有相当大的指引作用。

总之,想学好AI的朋友一定不要错过这个网站。链接在此,赶快进来逛逛吧!

总结

总体看来ModelArts较同类产品还是非常具有优势的,尤其是在可用性、完善性、易用性方面,对初学者来说非常友好。当然还有更高级更专业的功能等着我们去探索。此刻就行动起来吧高峰只对攀登它而不是仰望它的人来说才有真正意义
在这里插入图片描述

活动名称及链接地址:【华为云AI贺新年】有奖征文火热进行中:https://bbs.huaweicloud.com/blogs/325842

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

举报
请填写举报理由
0/200