华为云发布modelboxai应用开发框架

华为云开发者联盟 华为云开发者联盟     2022-10-20     321

关键词:

摘要:华为云ModelBox AI应用开发框架,打通端边云边界,助力开发者实现AI应用一次开发,全场景部署。

近日,以“因聚而生,为你所能”为主题的华为伙伴暨开发者大会 2022隆重开幕,华为云CEO张平安发表“共创新价值,一切皆服务”主题演讲,并重磅发布了华为云ModelBox AI应用开发框架,打通端边云边界,助力开发者实现AI应用一次开发,全场景部署。

华为云CEO张平安发布包括ModelBox在内的15大新服务

去年华为云发布了盘古预训练大模型,让AI开发由作坊式转变为工业化开发的新模式,但是AI的应用开发和部署仍然面临很多挑战,面向多样化的云边端场景,行业开发者平均需要花费1~2个月来完成AI应用对多种运行设备和系统的开发适配,耗时耗力。

为解决这一难题,打通AI落地“最后一公里”,华为云再次对AI开发生产线ModelArts进行重磅升级——发布ModelBox AI应用开发框架,帮助开发者屏蔽底层软硬件差异,实现AI应用一次开发,全场景部署,让AI开发者无需学习复杂的底层技术及繁多的系统API就能开发出高性能的AI应用。

华为云ModelBox AI应用开发框架具备以下三大创新能力:

  • 高性能并发调度引擎提升推理性能 2-10倍

相较传统AI应用串行的开发方式,ModelBox应用中所有任务以功能单元形式封装,运行时内置的并发调度引擎实现数据计算和资源管理的精细化智能调度,同时集成了特别优化过的硬件加速单元,可以实现推理性能大幅提升。

  • 自适应异构计算组件缩短跨平台开发周期80%

预置丰富的应用编排异构计算组件,覆盖主流芯片、操作系统、推理框架,让开发者不必学习平台的软硬件差异,实现一次开发,全场景部署,降低了开发者学习底层优化API的难度,可以明显缩短开发周期。

  • 端边云AI协同单元降低运维成本30%

框架中提供的端边云AI协同单元让开发者快速生成格式统一的AI应用,结合应用场景一键部署到端边云不同的设备上运行。结合云上管理平台,可以实现对模型的精细化管理,降低运维成本。

在油气行业中,实体三维重建及定位是复杂设备维修、维护的重要手段,需要端侧设备在开阔空间中能够快速完成定位,且误差不超过1厘米。相当于要在几毫秒之内,从十个足球场面积的图片中识别出螺丝钉大小的物体。重建及定位算法的求解需要PnP、RANSAC等十余个子算法的相互协同。

传统的AI应用开发方式因缺乏灵活编排异构计算单元的手段,无法高效调度计算资源,推理时延长达上百毫秒,难以满足开阔空间毫秒级三维重建定位的要求

3D重建和定位识别等高性能AI应用能够结合AR眼镜流畅运行

华为云ModelBox AI开发应用框架具备独有的高性能并发调度引擎,可将计算资源合理调度到GPU、CPU、NPU等多种芯片上,通过芯片级并行计算,提升推理性能2-10倍。ModelBox打通端边云边界,统一模型应用接口和打包格式,让AI应用可以便捷的部署到各种异构计算平台,由端侧运行低延时小模型,边侧承担综合计算任务,云侧承载复杂的大模型。通过高效协同端边云计算资源,实现开阔空间厘米级精度的三维重建及定位,并将时延控制在毫秒级。基于Modelbox,开发一个新器件的三维重建应用的周期从两个月缩短到了一周。

统一模型应用接口和打包格式,让AI应用可以便捷的部署到各种异构计算平台

目前,华为云ModelBox AI应用开发框架已进行了开源,并与北京亮亮视野科技有限公司(以下简称亮亮视野)等30多家软硬件生态伙伴进行战略合作。

亮亮视野是国内TOP级AR眼镜设备提供商,服务了覆盖工业、能源、航空、制造等行业的5000多家领军企业。亮亮视野COO娄身强表示,ModelBox改变了过去重复开发定制交付的模式,可以将开发团队从繁琐的软硬件适配、调优工作中解放出来,让伙伴更加聚焦于产品本身的开发,实现了研发效能的提升。

同时,ModelBox为亮亮视野等硬件厂商提供了广阔的生态合作机会。一方面,AR眼镜等硬件设备基于云上的海量AI应用可以快速扩展AI技能,另一方面,基于ModelBox提供的统一接口和格式,AI算法能够更便捷地运行在各种智能设备上,在端边云协同的场景中形成生态互补优势,解决行业AI应用落地的难题。

技术升级的浪潮成为了社会前行的核心动力来源之一。华为云将不断创新,继续和合作伙伴、开发者一起,通过经验即服务、技术即服务、基础设施即服务,实现一切皆服务,共创新价值。

点击关注,第一时间了解华为云新鲜技术~

云享专刊开源遇上华为云,ocp架构变身“云原生框架”

摘要:华为云DTSE团队出品云原生改造指南,助力轻松实践OCP上云。本文分享自华为云社区《【云享专刊】开源遇上华为云,OCP架构变身“云原生框架”》,作者:华为云社区精选。OpenStack、Docker、K8S、Hadoop……这些都是开发者... 查看详情

华为云昇腾ai计算解决方案正式发布

...ng>等行业提供全栈赋能,以高性能、低成本的优势推动华为云“普惠AI”战略发展,助力行业高速AI化转型。  早在2018年HUAWEICONNNECT大会上,华为轮值董事徐直军先生已经发布了两款华为自研AI芯片,Ascend310和Ascend910。(延伸... 查看详情

华为云昇腾ai计算解决方案正式发布

...ng>等行业提供全栈赋能,以高性能、低成本的优势推动华为云“普惠AI”战略发展,助力行业高速AI化转型。  早在2018年HUAWEICONNNECT大会上,华为轮值董事徐直军先生已经发布了两款华为自研AI芯片,Ascend310和Ascend910。(延伸... 查看详情

王晶:华为云ocr文字识别服务技术实践底层框架及应用场景|aiprocon2019华为云技术分享

演讲嘉宾|王晶(华为云人工智能高级算法工程师王晶)出品|AI科技大本营(ID:rgznai100)近期,由CSDN主办的2019中国AI开发者大会(AIProCon2019)在北京举办。在计算机视觉技术专题,华为云OCR人工智能高级算法工程师王晶分享了&ldq... 查看详情

深度解读华为云智能企业云应用平台

...案,为企业业务创新保驾护航。一个应用底座:全栈云原生应用开发与管理,敏捷高效,快速DevOps全栈云原生应用开发与管理包括容器、微服务框架、云中间件、压测、APM等系列产品,涵盖应用开发、编译、构建、部署、测试、发布、... 查看详情

华为云发布三大生态举措,携手伙伴及开发者共创新价值

摘要:2022年是华为云与开发者、伙伴共同加速成长的一年。目前,华为云生态已聚合了全球超过350万开发者,相比去年同期增长1.3倍;汇聚41000多家合作伙伴,相比去年增长1.4倍;越来越多的开发者和伙伴... 查看详情

华为云技术分享云图说|华为hilens:端云协同多模态ai开发应用平台

...上管理平台,对接多种端侧计算设备,支持视觉及听觉AI应用开发、AI应用在线部署、海量设备管理等。到底如何在华为HiLens上实现端云协同?“云图说”带您了解它的来龙去脉。点击“了解更多”,华为HiLens服务等... 查看详情

华为软件开发云发布管理测评报告

华为软件开发云的发布管理是面向软件开发者提供软件组件仓库,生命周期,内部及第三方依赖等管理服务,支撑产品持续发布,提升发布质量及效率。目前发布管理支持提供了Maven私有仓、中央仓代理、内部组件依赖管理服务... 查看详情

华为云发布桌面ide-codearts

摘要:华为伙伴暨开发者大会2022,发布华为云桌面IDE-CodeArts。本文分享自华为云社区《华为云发布桌面IDE-CodeArts,让连接更简单、编码更智能》,作者: HuaweiCloud开发工具。6月15日,主题为“因聚而生... 查看详情

华为云aom2.0版本发布

摘要:AOM作为华为云面向租户的统一运维门户,将在7月1日重磅发布2.0版本。本文分享自华为云社区《华为云AOM发布2.0版本,3大特性亮相》,作者:华为云PaaS小助手。6月16日华为开发者大会2022HPDC举办期间ÿ... 查看详情

云图说|玩转华为hilens之端云协同ai开发

阅识风云是华为云信息大咖,擅长将复杂信息多元化呈现,其出品的一张图(云图说)、深入浅出的博文(云小课)或短视频(云视厅)总有一款能让您快速上手华为云。更多精彩内容请单击此处。摘要: 华为HiLens为端云协... 查看详情

企业应用可观测性利器!华为云codeartsapm发布

摘要:近日,华为云全链路应用性能管理服务CodeArtsAPM全新上线,提供端到端的全链路性能管理服务,涵盖前端监控、应用性能监控,全面拥抱开源生态。本文分享自华为云社区《企业应用可观测性利器!华为云CodeArtsAPM发布》... 查看详情

华为云的深度用户自白

华为云深度使用用户,我们公司和华为云都是甲方的服务商,我们几乎用到了华为云上90%的产品,甚至连开发用的框架都是华为的serviceComb使用期间的感受就是,可以用,但是不稳定、不成熟,我们开发的... 查看详情

serverless时代的微服务开发指南:华为云提出七大实践新标准

...实践标准”,为加速全域Serverless产业升级、推动企业应用开发框架从微服务向Serverless演进提供一些思考。作者信息——历川:华为云Serverless研发专家丙真:华为云中间 查看详情

serverless时代的微服务开发指南:华为云提出七大实践新标准

...实践标准”,为加速全域Serverless产业升级、推动企业应用开发框架从微服务向Serverless演进提供一些思考。作者信息——历川:华为云Serverless研发专家丙真:华为云中间 查看详情

年度发布|华为云2021应用构建技术实践精选集,免费下载

...型云上场景化开发实践,跑通云上开发。本文分享自华为云社区《年度重磅!华为云2021应用构建技术实践精选集,免费下载!》,作者:华为云社区精选。在这充满变化的年代,数字技术正在快速发展... 查看详情

关于华为iot平台的框架理解

设备端开发者使用IoT边缘支持的设备协议或华为SDK将设备转换成标准产品模型,就近接入边缘节点,从而实现设备的管理、智能控制。边缘节点设备连接到边缘节点后,节点可以实现设备数据的采集、存储、分析、清洗和上报设... 查看详情

华为云端怎么把微信重新开启保存

...开发环境”;第四步:输入环境名称并选择使用阿里云或华为云作为云开发环境;第五步:进入环境,点击“云开发--云存储”,激活服务;第六步:编写云开发应用程序,实现微信重新开启保存的云储存服务;第七步:测试云... 查看详情