又一重要进展发布!openmmlab算法仓支持昇腾ai训练加速

华为云开发者联盟 华为云开发者联盟     2023-03-28     365

关键词:

摘要:上海人工智能实验室的浦视开源算法体系(OpenMMLab)团队基于昇腾AI发布了MMDeploy 0.10.0版本,该版本已支持OpenMMLab算法仓库在昇腾异构计算架构CANN上的推理部署。

本文分享自华为云社区《又一重要进展发布!OpenMMLab算法仓支持昇腾AI训练加速》,作者:昇腾CANN 。

近日,上海人工智能实验室的浦视开源算法体系(OpenMMLab)团队基于昇腾AI发布了MMDeploy 0.10.0版本,该版本已支持OpenMMLab算法仓库在昇腾异构计算架构CANN上的推理部署。而在最新发布的MMCV 1.7.0和MMEngine 0.3.0版本中,OpenMMLab基于昇腾AI软硬件底座完成了基础库(MMEngine、MMCV)及算法库(图像分类MMClassification、目标检测MMDetection)的适配,补齐了基于昇腾AI的训练加速能力。至此,OpenMMLab算法仓[1]已完整打通基于昇腾AI的训练与推理流程,基于昇腾异构计算架构CANN的开发体系与加速技术栈,开发者不仅可以基于OpenMMLab算法仓库快速构建AI模型与应用,还能充分发挥昇腾AI处理器的澎湃算力,加速训练及推理业务的执行。

CANN是专门面向AI场景的异构计算架构,同时作为昇腾AI基础软硬件平台的核心组成部分之一,搭起了从上层深度学习框架到底层AI硬件的桥梁,全面支持昇思MindSpore、飞桨(PaddlePaddle)、PyTorch、TensorFlow、Caffe、计图(Jittor)等主流AI框架,提供900多种优选模型,能够覆盖众多典型场景应用,兼容多种底层硬件设备,提供强大的异构计算能力。

OpenMMLab 诞生于 2018 年,是深度学习时代计算机视觉领域最全面、最具影响力的开源算法体系。旨在为学术和产业界提供一个可跨方向、结构精良、跨站性强、易复现的统一算法工具库。目前,OpenMMLab 已经累计开源了超过 30 个算法库,涵盖分类、检测、分割、视频理解等众多研究领域,拥有超过 300 种算法、2,400 多个预训练模型。在 GitHub 上获得超过 73,000 个标星,同时吸引了超过 1,500 名社区开发者参与项目贡献,用户遍及超过 110 个国家和地区,覆盖全国全球顶尖高校、研究机构和企业。

昇腾AI和OpenMMLab开展深度合作,共同签署了CCLA(Corporate Contributor License Agreement)协议,致力于长期全面支持OpenMMLab旗下基础仓和模型仓,共同促进更多业务场景的技术创新和生态共赢。

昇腾与OpenMMLab适配整体框架

上图展示了昇腾AI适配OpenMMLab的整体方案,其中 ,CANN软件栈实现了算法库在昇腾AI处理器上的加速运行;框架和基础库的适配,完成了与CANN的对接,其中torch_npu插件支撑了PyTorch[4]框架的运行,基础库中的runner、ops和dist等组件分别实现了基础运行类、自定义算子和通信协议对昇腾AI处理器的支持。CANN、框架和基础库的有机结合,支撑了基础库(MMCV)和算法库(MMClassification、MMDetection等)在昇腾AI处理器的加速运行。

通过OpenMMLab与昇腾CANN的对接,目前已完成了MMCV算子仓16+算子的适配,MMClassification与MMDetection模型套件仓共20+模型在昇腾硬件上的运行。

MMClassification适配模型参考:

https://mmclassification.readthedocs.io/en/latest/device/npu.html

MMDetection适配模型参考:

https://mmdetection.readthedocs.io/en/latest/device/npu.html

未来,随着昇腾AI和OpenMMLab合作的不断深入,双方将会从丰富算法库和更高性能的训练加速层面持续优化,促进昇腾AI和OpenMMLab的共同发展和繁荣。同时,也欢迎大家在昇腾社区和OpenMMlab的开源社区一起交流、探索和改进,共同推进计算产业发展和生态构建!

相关链接:

[1] https://github.com/open-mmlab

[2] https://github.com/open-mmlab/mmcv/pull/2262

[3] https://github.com/open-mmlab/mmengine/pull/572

[4] https://gitee.com/ascend/pytorch

[5] https://www.hiascend.com

点击关注,第一时间了解华为云新鲜技术~

昇腾携手openmmlab,支持海量算法仓库的昇腾ai推理部署

...要:近日,昇腾AI联合浦江实验室,正式实现OpenMMLab算法仓库在昇腾的异构计算架构CANN上的推理部署,目前相关代码已推入MMDeploy0.10.0版本,并在GitHub正式发布。本文分享自华为云社区《昇腾携手OpenMMLab,... 查看详情

openmmlab目标检测(代码片段)

OpenMMLab目标检测1.目标检测简介1.1滑窗2.基础知识2.1边界框(BoundingBox)2.2交并比IntersectionOverUnion2.3置信度ConfidenceScore2.4非极大值抑制Non-MaximumSuppression2.5边界框回归BoundingBoxRegression2.6边界框编码BboxCoding3.两阶段目标检测算... 查看详情

openmmlab实战营打卡-第五课(代码片段)

(五)MMDetection代码教学AI实战营第五课!最热门的目标检测工具箱MMDetection来啦!本节课为如何使用MMDetection训练自己的模型!链接5MMDetection代码教学_哔哩哔哩_bilibili目录一、目标检测工具包MMDetection1.支持的... 查看详情

onnx牵手华为昇腾!开发者可在昇腾上跑原生模型:已支持onnx算子16个,全量支持resnet和vgg模型...

...区流水线核心组件)正式提供对华为昇腾硬件平台的支持,成为ONNXRuntime支持的首个面向端、边、云全场景的国产推理训练AI硬件平台后端。正式版v1.13.0预计年底 查看详情

赛先生的新旅行:昇腾ai带来的科学智能变革

《三体》动画即将开播,又一次引发了全球科幻迷的无限热情。提到《三体》,大家有很多深刻记忆。其中之一是三体人在入侵地球之前,首先是派智子锁死地球的基础科学进步,从而限制人类的整体发展。很多... 查看详情

计算机视觉框架openmmlab开源学习:目标检测基础

...展,并学习目标检测模型,了解计算机视觉框架OpenMMLab的MMDetection工具基本原理及使用,为后续目标检测实战做铺垫。计算机视觉框架OpenMMLab开源学习(四):目标检测基础一、目标检测概念与应用 二、... 查看详情

openmmlab简介

   OpenMMLab是一个适用于学术研究和工业应用的开源算法体系,涵盖了计算机视觉的许多研究课题,于2018年10月启动。主要包括2部分:开源项目和开放数据集。以下内容主要摘自于:https://openmmlab.com/   开源项... 查看详情

华为ascend昇腾cann详细教程(代码片段)

...end-toolkit/set_env.sh物理机场景下,一个Device上最多只能支持64个用户进程,Host最多只能支持Device个数64个进程;虚拟机场景下,一个Device上最多只能支持32个用户进程,Host最多只能支持Device个数32个进程。不支持... 查看详情

openmmlab实战营打卡-第5课

本节内容:   本节课为代码实践课MMDetection项目概览MMDetection运行环境搭建(基于Openbayes计算平台)使用MMDetection进行模型推理使用MMDetection训练模型,检测图像中水果MMDetection是用于做目标检测的工具包,首... 查看详情

openmmlab语义分割算法基础

本文是openmmlabAI实战营的第六次课程的笔记,以下是我比较关注的部分。简要介绍语义分割:如下图,左边原图,右边语义分割图,对每个像数进行分类应用语义分割在个各种场景下都非常重要,特别是在... 查看详情

openmmlab实战营打卡-第六课语义分割(代码片段)

(六)什么是语义分割?把像素进行分类。OpenMMLabAI实战营第6课文章目录前言一、什么是语义分割?语义分割的应用语义分割vs实例分割vs全景分割 二、语义分割的基本思路1.按颜色分割 2.逐像素分类3.改进:... 查看详情

昇腾ai的三级跳

我们的读者,应该都已经关注昇腾AI很长时间了。如果回溯整个昇腾AI计算产业的发展历程,会发现两个节点非常重要。一个是昇腾AI作为算力底座,形成了完整的产品体系;第二个是昇腾AI构建了全栈开放的软硬... 查看详情

openmmlab实战营打卡-第四课目标检测算法基础

(四)计算机视觉之目标检测算法基础目录前言一、目标检测是什么?1.目标检测VS图像分类2.检测最朴素方法——滑窗SlidingWindow(1)滑窗的效率问题(2)改进3.目标检测的基本范式4.目标检测技术的演... 查看详情

华为软件开发云发布管理测评报告

华为软件开发云的发布管理是面向软件开发者提供软件组件仓库,生命周期,内部及第三方依赖等管理服务,支撑产品持续发布,提升发布质量及效率。目前发布管理支持提供了Maven私有仓、中央仓代理、内部组件依赖管理服务... 查看详情

极智ai|昇腾cannatc模型转换(代码片段)

...的异构计算架构,通过提供多层次的编程接口,支持用户快速构建基于昇腾平台的AI应用 查看详情

openmmlab实战营打卡-第二课

目录(二)计算机视觉之图像分类算法基础课程链接:计算机视觉之图像分类算法基础一、图像分类与基础视觉模型 1.超越规则,让机器从数据中学习2.AlexNet的诞生&深度学习时代的开始神经结构搜索NeuralArchite... 查看详情

数仓无损压缩算法:gzip算法

...文件解压缩软件。本文分享自华为云社区《GaussDB(DWS)gzip算法简介》,作者:hw0086。【算法原理】gzip是一种无损压缩算法,其基础为Deflate,Deflate是LZ77与哈弗曼编码的一个组合体。它的基本原理是:对于要压缩... 查看详情

自动调优工具aoe,让你的模型在昇腾平台上高效运行(代码片段)

...对每一个子图,通过SGAT生成不同的调优策略。SGAT的调优算法通过获取每个迭代的调优策略性能数据,找到最优的调优策略,从而实现对应子图的最优性能。OPAT(OperatorAutoTuning):算子调优。AOE将一张整图 查看详情