【云驻共创】云原生AI开发——AI Model Foundry

是羽十八ya 发表于 2022/05/25 14:52:34 2022/05/25
【摘要】 本文对华为GDE AI开发平台、GDE Model Foundry低门槛开发工具进行了详细介绍,并进行了AI Model Foundry实战演示。

前言

本文三大主要板块:

  • 华为GDE AI开发平台
  • GDE Model Foundry低门槛开发工具
  • AI Model Foundry实战演示

一、GDE AI平台介绍

1.平台简介

GDE AI平台是面向GTS AI开发者的一站式开发平台,提供海量数据预处理、样本自动化标注、大规模分布式训练、自动化模型生成及按需部署预测服务的能力;并提供了图像、文字、知识图谱、自然语言处理、预测性维护等多种AI领域通用服务,使企业快速开发和构建AI业务,并且支持电信网终端制造等行业自动化、智能化解决方案实现。

GDE平台辅助组成元素:

  • GDE技术底座——屏蔽GDE平台对基础设施的依赖,使AI平台能够轻松部署到各种硬件资源上。
  • GDE数据中台——集成存储、处理数据,使AI平台能够专注于样本库的处理。
  • GDE应用开发中心——从界面、数据、服务等层面对其进行编排。
  • GDE运维中心——对服务面和数据面进行统一的运维管理。

关键特性:效率高、门槛低、性能优、运维易。

2. 平台功能

2.1 样本处理与数据增强能力

  • 样本处理流程:数据上传——自动/人工筛选——人工标注——标注审核——生成数据集——训练模型——数据推理——失败数据回传重新标注

流程图:

优势:

①价值样本数量多,数据复用率高。

②样本标注工具极其丰富。

③能快速克隆样本,并有样本增强的能力,可以优化样本质量。

2.2 模型训练、模型开发

GDE平台提供丰富、一站式的开发工具链,通过Notebook在线开发和PyCharm本地开发、远程调试的方式,能够有效提升AI开发效率,通过导航式开发可以有效降低AI应用开发门槛。

支持的开发方式:Notebook在线开发;PyCharm本地开发、任务远端执行测试;基于模板的导航式开发。

2.3 推理服务

  • 推理服务:一键式将服务模型封装部署供上层应用调用。


推理服务的基本能力:

①支持预测服务的运行状态监控、日志分析。

②支持滚动升级和灰度发布。

③支持模型监控及重训练。

④支持不同框架模型格式(例如:.pb/.pkl/.h5)。

⑤支持Tensorflow/Pytorch/Spark MLlib框架。

⑥支持深度学习任务GPU加速执行。


推理服务与传统自部署模型对比:


推理服务的调用方式:

①在线推理(通过API接口调用)

特点:高并发、低延时、自动弹性伸缩、推理效率高、支持多模型灰度发布。

②批量推理

特点:高效率分布式计算、可处理大量数据推理、支持GPU加速。


二、GDE Model Foundry介绍

1.知识导读

什么是AI?——能够“自主学习到一个函数”的程序。

示例:

在语音识别领域,给定一段语音波形,AI能够自主学习到一个函数将语音波形转化为文字。

在图像识别领域,给定一张图片,AI能够自主学习到一个函数将图像识别。


Model Foundry——解决AI开发的主要痛点

AI开发痛点一:专业门槛高、技术栈多

传统AI开发所需部分技能:高等数学基础、AI相关理论知识、编程技术能力

AI开发痛点二:开发流程长、集成难度高、无资产复用和沉淀

AI开发流程概览:


2.GDE Model Foundry

2.1 GDE Model Foundry是什么?

  • 定义:Model Foundry寓意模型精炼工厂,打造高质量模型规模生产、批量交付。
  • 目标:降低AI建模门槛,支持低代码开发;沉淀AI资产,提升AI建模效率,缩短开发周期。
  • 核心:模块化、流程化AI开发的中间过程。

2.2 AI Model Foundry开发优点:

①能力可复用、高效建模、节省人力。

②向导式开发,可视化建模、准入门槛低。

③AI模型全生命周期管理,可持续监控、持续训练。

附:传统AI开发模式开发人力资源 VS AI Model Foundry 开发人力资源

附:传统AI开发现实体验 VS AI Model Foundry 开发现实体验

2.3 AI Model Foundry架构

①基础设施:兼容主流基础设施,如:docker、私有云、公有云等。

②基础框架:兼容丰富的基础框架,如:PyTorch等.

③Model Foundry:提供模板引擎以及针对不同应用场景的AI模板库。

④应用领域:支持电信领域、工业领域、通用业务等多领域的应用。

2.4 AI Model Foundry模板开发

特点:

①基于Jupyter Notebook的开发环境(对接ADC编排)。

②提供可视化开发调试插件(例如:PyTorch)。

③提供丰富的SDK开发组件和预置算子支持。

模板开发:通过模板引擎提供的流水线(Pipeline),实现各个模块的功能,进行基于模板的从零开发。

模板开发的六个子流程:

开发态:

①数据:进行数据源的配置,数据模型定义,特征工程的处理等(如:数据标注)。

②算法:算法配置,设定训练的目标,算法结果评估等。

③模型:工作流程的编排,模型安全的制定等。

运行态:

④服务:模型部署(上线、离线),安全验证,模型包解析加载,服务管理等。

⑤评估:模型监控,精度跟踪,模型验证评估等。

⑥调优:模型优化,优化对比等。(可选)

2.5 AI Model Foundry开发模板

开发模板的基本概念:(层次从高到低)模板 → Pipeline → Stage → Component

①Pipeline:指机器学习开发应用过程中从数据读取到数据预处理、特征工程、模型训练和模型评估和部署监控的一个完整的机器学习过程。模型生命周期过程中涉及多个独立的处理流程,每个流程抽象为一个Pipeline。比如:模型训练、模型评估优化和模型推理。Pipeline由一系列的步骤(Stage)顺序组成。


②Stage:Stage步骤是机器学习工作流中各个阶段的抽象,是最小的调度执行单元(不同步骤可运行在不同的计算引擎上),对应导航式中的操作步骤页,将复杂的DAG图转换为导航式步骤页面。每个Stage包含若干组件(component)。


③Component:Component组件是满足一定功能的最小逻辑单元整个ML Pipeline由一系列的component组成一个DAG。

每个component包含三部分:输入——运行参数和前一个component的输出,运行参数通过在界面UI组件配置;输出——是后一个component的输入,也可以指定UI组件进行结果的可视化呈现;执行逻辑——业务处理逻辑。


④实例:模板实例简称实例,模板实例化运行的结果模板与实例的关系类似于面向对象编程中类的实例化过程。


⑤Job: Pipeline执行(每个AI处理过程)的实例化结果,支持手动和周期性触发运行。


⑥Run: Job的每一次执行的实例化结果包括周期性作业的每次执行。


实例化:


2.6 模板二次开发方案

模板二次开发:若当前模板无法通过数据集增强及超参数调整的优化方式满足业务需求,可使用Notebook提供的模板二次开发功能,对当前模板进行二次开发,引入新的算法。

二次开发步骤:(以图像分割模板为例)

新建Notebook——配置Notebook参数——下载预置模板——修改模块包的代码——生成新模板包——发布模板包——二次开发完成

流程图:


三、使用Model Foundry进行建模与实战(以AI自动检测工厂黑烟为例)

1.建模步骤

①数据集采集、数据选择:业务人员基于在工厂中采集的数据图片,使用样本库提供的在线标注功能,标注目标(黑烟),作为训练数据集。

②模型训练:使用采集的数据集合,设置训练参数对模型进行训练。

③模型评估:根据平台提供的可视化界面对模型进行相应的评估。

④模型发布:配置相关资源参数即可完成发布。

⑤预测结果:原始图片结果是19%,训练后的模型判断为20%

2.Model Foundry实例

2.1 实战案例:训练一个结构化分类模型

开发平台前端页面:

流程:创建实例——选择数据集——设置模型训练参数——设置模型评估参数——配置资源配置——训练模型——结果验证

以创建花卉结构分类模型为例:

①创建实例

②设置实例自定义参数,点击确定

③选择数据集,这里我们选择已有的iris数据集

④此时显示已选数据iris,点击下一步

⑤设置模型训练参数

⑥设置模型评估参数,并选择验证用的数据集

⑦配置发布信息,选择资源规格,即可开始训练

⑧结果验证——输入测试参数,即可得到通过AI训练模型得到的判断结果


2.2 开箱即用的服务:物体检测

  • 运用已有模块快速检测并识别目标物体,部分支持业务示例:

2.3 开箱即用的服务:文字识别

  • OCR(Optical Character Recognition)指光学字符识别,是对包含文本的图像进行分析处理,获取文字及版面信息的过程,服务支持多种业务场景(如:GTS业务、通用文档识别等)


总结

1.什么是GDE AI平台?

面向AI开发者的一站式开发平台,提供样本自动化标注、大规模分布式训练、自动化模型生成等能力;提供图像、文字、知识图谱、自然语言处理、预测性维护等多种AI领域通用服务,使企业能快速开发和构建AI业务,支持电信网络、制造等行业自动化、智能化解决方案实现。


2.使用Model Foundry模板进行AI建模优势

向导式、可视化进行AI建模,低建模门槛。


3.实战演练

华为云平台提供演练环境及丰富的演练案例,欢迎各位开发者体验。

AI ADC体验指南



本文参与华为云社区【内容共创】活动第16期。

https://bbs.huaweicloud.com/blogs/352652

任务8:低门槛AI开发模式:Model Foundry


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:cloudbbs@huaweicloud.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。