SAM 2适配Ascend NPU开源开发任务

举报
huyanbo 发表于 2024/10/28 18:13:23 2024/10/28
【摘要】 Segment Anything Model 2 (SAM 2) 是由 Meta AI 开发的基础模型,旨在解决图像和视频中的可提示分割问题。本任务的主要目的是完成 SAM 2 适配 Ascend 和 Kunpeng 处理器的开发与部署。

1.  背景介绍

for Huawei(参考:https://developer.huaweicloud.com/programs/opensource/contributing/  通过和公司、高校、社区的开发者合作,完成鲲鹏、昇腾、欧拉、鸿蒙、高斯、云服务等与开源软件的适配开发,帮助繁荣Huawei的基础生态,同时让开源软件能够更加简单、高效的运行于华为云上。

开始之前,开发者可以下载 开源for Huawei Wiki(参考:https://gitcode.com/HuaweiCloudDeveloper/OpenSourceForHuaweiWiki/overview) 了解详细的开发步骤,技术准备,以及开发过程需要的各种资源。

2需求分析

2.1 项目影响力

Segment Anything Model 2 (SAM 2) 是由 Meta AI 开发的基础模型,旨在解决图像和视频中的可提示分割问题。通过将静态图像视为单帧视频,SAM 2 扩展了其分割能力,尤其适用于实时视频处理。

截至 2024 9 18日,SAM 2 项目在 GitHub 上的 star 数量已达 10.8kfork 数量为 876,贡献者数量约为 100 名。最近一次代码提交时间为 2024 9 15 日。LICENSEApache Licence 2.0

以下是 SAM 2 项目的 star 历史图:


2.2 任务目的和范围

本任务的主要目标是将 SAM 2 项目适配至华为的 Ascend(昇腾)和 Kunpeng(鲲鹏)处理器,确保该模型在这些硬件平台上高效运行,进一步提升图像与视频分割应用场景的适用性。本次适配将提升华为在计算机视觉领域的竞争力,并扩大 Ascend Kunpeng 处理器的市场影响力。

能力要求:
-
熟悉 C++ Python 编程
-
具备深度学习和分割算法相关经验
-
了解 NPU 架构及并行计算优化
-
熟悉 Ascend Kunpeng 处理器的硬件架构及优化技巧

 

2.3 适配任

生态

生态细类

是否需要验证

验证逻辑说明

是否需要适配

适配场景说明

昇腾生态

指令

使用昇腾处理器运行应用。

使用昇腾指令实现适配逻辑。

CANN

应用功能依赖于CANN运行。

使用CANN实现适配逻辑。

MindSpore

应用功能依赖于MindSpore运行。

使用MindSpore实现适配逻辑。

鲲鹏生态

指令

使用鲲鹏处理器运行应用。

使用鲲鹏指令实现适配逻辑。

Euler

使用Euler系统运行应用。

使用Euler系统调用实现适配逻辑。

数据库生态

GaussDB

使用GaussDB功能。

使用GaussDB的驱动和SQL实现适配逻辑。

 

GaussDB(DWS)

使用GaussDBDWS)功能。

使用GaussDB(DWS)的驱动和SQL实现适配逻辑。

存储生态

OBS

使用OBS功能。

基于OBS API访问实现适配逻辑。

鸿蒙生态

HarmonyOS

使用HarmonyOS系统运行应用。

使用HarmonyOS系统调用实现适配逻辑。

3. 工作量评估

任务

估计人天

Demo 设计、开发与部署

10

文档撰写与发布

3

总计

13

 

4. 任务分解

4.1 完成 SAM 2 演示 Demo 的设计、开发和部署

DEMO 流程图参考如下:



Demo 包含以下内容:

1.模型选择:通过 Gradio 接口,用户可以选择不同尺寸或复杂度的预训练模型(例如 SAM 2 tinysmalllarge 版本),并提供相应的 GPU/CPU 资源选择。系统自动检测用户硬件环境,并推荐最适合的模型,确保推理过程高效。
2.
图像或视频上传与分割:支持批量图像或视频上传,并提供实时分割结果预览。用户可手动选择分割区域或通过交互提示微调分割结果。技术实现:通过 SAM 2 模型 API 实现自动化掩码生成,并支持通过点击或框选等操作调整分割区域。
3.
适配:确保 SAM 2 模型在 AscendKunpeng 处理器及 openEuler 系统上高效运行。技术实现:结合 CANN Atlas 开发工具,充分利用 Ascend NPU 的计算力,进行硬件适配,最终生成报告。

4.写出文档列出详细的步骤,让初次接触这个DEMO的人可以容易的复现。

 

4.2 完成适配心得输出

撰写一篇详细的适配心得,涵盖 SAM 2 Ascend Kunpeng 处理器上的适配过程、技术挑战、解决方案及性能优化策略。心得文档将发布于华为云官方博客或其他技术平台。

4.3 在华为云开发者论坛输出博客

访问华为云开发者论(参考:https://bbs.huaweicloud.com/blogs)发表博客,介绍完成这些任务的过程和心得。

内容包括不限于如下内容:

开源for Huawei的背景

开源软件的功能介绍

开发适配过程及碰到和解决的问题

l DEMO设计、开发、部署过程

代码推送开源社区及互动过程

博客打上如下标签:

开源(必选)

开发者(必选)

l GaussDB数据库(可选)

云数据库 GaussDB(可选)

鲲鹏(可选)

昇腾(可选)

鸿蒙(可选)

对象存储 OBS(可选)

5 验收材料

验收细则

评分说明

是否为验收必选项

结果(通过/不通过)

开发者举证

功能开发:完成与华为三大根技术生态(鲲鹏云、昇腾云、鸿蒙)适配的功能开发

基于鲲鹏、昇腾和Euler系统完成验证。

 

 

代码质量:适配华为三大根技术生态的代码质量经过工具检测达标

推送给开源社区的代码符合开源社区关于代码风格、功能、自动化测试等要求。

 

 

提供相关文档,比如部署文档、使用文档、配置文档等

根据社区要求,完善相关的开发指南和部署指导

 

 

合入到开源项目主仓:代码推送上游社区

代码合并到当前主干分支。举证提供代码仓库链接。

 

 

Deomo设计&开发:完成功能演示Demo的开发

举证提供DEMO前端地址。

 

 

Demo部署&验证:完成功能演示DEMO基于华为昇腾、鲲鹏和Euler系统环境的部署和功能验证

提供DEMO部署验证结果的关键截图进行举证。提供DEMO运行环境和资源的规格清单。

 

 

发布博客:发布博客介绍适配心得。

提供博客的地址。

 

 

制作单机版无高危开源镜像。

上架云商店。

 

 

单机版镜像上架时支持模板部署。

 

 

 

制作集群版无高危开源镜像

上架云商店。

 

 

集群版镜像上架时支持模板部署

 

 

 

6. 参考资料

  1. GitHub - SAM 2: https://github.com/facebookresearch/segment-anything-2

 

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。