关键词:
11月30日,由深度学习技术及应用国家工程研究中心主办、百度飞桨承办的WAVE SUMMIT+ 2022深度学习开发者峰会圆满落幕。
本次峰会上,百度AI技术生态总经理马艳军发布了飞桨开源框架2.4版本,并携手NVIDIA等12家生态伙伴发布了飞桨生态发行版,为开发者提供更好的软硬一体化体验。
作为飞桨的深度合作伙伴,NVIDIA也出席了这场盛大的线上峰会。NVIDIA亚太区资深产品负责人Adam Zheng还带来了以“NVIDIA全新一代产品,极致性能赋能飞桨落地千行百业”为主题的分享,以下为内容概要。
NVIDIA推出Hopper架构
掀起新一代加速计算浪潮
NVIDIA作为计算加速行业的领导者,正在通过全栈创新推动高性能计算的发展。从芯片和系统,到它们运行的算法和应用程序,NVIDIA平台将AI带入了全球最大的行业,提供包括推荐系统、AR、VR、自动驾驶汽车等解决方案,并加速科学研究。
今年春季GTC大会上,NVIDIA发布了Hopper全新一代GPU架构,提供了六项突破性创新(如上图):
创新一
世界上最先进的芯片。由800亿个晶体管构建而成,这些晶体管采用了专为NVIDIA加速计算需求设计的尖端的TSMC 4N工艺,因而能够显著提升AI、HPC、显存带宽、互连和通信的速度,并能够实现近5TB/s的外部互联带宽。此外,该款芯片也是首款支持PCIe 5.0的GPU,也是首款采用HBM3的GPU,可实现3TB/s的显存带宽。20个芯片便可承载相当于全球互联网的流量,使其能够帮助客户推出先进的推荐系统以及实时运行数据推理的大型语言模型。
创新二
新的Transformer引擎——Transformer现在已成为自然语言处理的标准模型方案,也是深度学习模型领域最重要的模型之一。新的Transformer引擎,可以将这些网络的速度提升至上一代的六倍,而不会损失精度。
创新三
第二代安全多实例GPU——MIG技术支持将单个GPU分为七个更小且完全隔离的实例,以处理不同类型的作业。与上一代产品相比,在云环境中Hopper架构通过为每个GPU实例提供安全的多租户配置。
创新四
机密计算——全球首款具有机密计算功能的加速器,可保护AI模型和正在处理的客户数据。客户还可以将机密计算应用于医疗健康和金融服务等隐私敏感型行业的学习,也可以应用于共享云基础设施。
创新五
第4代NVIDIA NVLink——为加速大型AI模型,NVLink结合全新的外接NVLink Switch,可将NVLink扩展为服务器间的互联网络。相比上一代HDR Quantum InfiniBand,实现9倍的速度提升,并可连接多达256个GPU。
创新六
DPX指令——新的DPX指令可加速动态规划,适用于包括路径优化和基因组学在内的一系列算法,与CPU和上一代GPU相比,其速度提升分别可达40倍和7倍。
AI开发只有顶尖的芯片是不够的,还需要软硬全栈和广阔的生态。NVIDIA提供端到端的AI软件套件,覆盖数据准备、训练、推理优化到大规模部署等多个环节,以强大的资源调度和管理能力助力客户加速AI开发与部署。NVIDIA在加速计算领域的沉淀,以及其全新一代产品,为赋能飞桨生态奠定了基础。
NVIDIA携手百度飞桨
加速535万开发者的AI进程
百度飞桨是中国首个自主研发、功能丰富、开源开放的产业级深度学习平台。近年来,飞桨的技术实力深受广大硬件厂商认可,合作日趋紧密,软硬一体协同发展,生态共创硕果累累。
NVIDIA非常重视中国市场,特别关注中国的生态伙伴,而当前飞桨拥有535万的开发者。过去的几年中,NVIDIA与飞桨一直保持着深度全面的合作关系。双方一起做了大量的开发与优化工作。
今年,我们将飞桨列为NVIDIA全球前三的深度学习框架合作伙伴,在中国设立了专门的工程团队支持,赋能飞桨。关于NVIDIA与飞桨的合作,由于篇幅原因,我们仅从硬件适配的角度,沿用上图的四个阶段做一个简要的介绍。
在数据处理方面,帮助飞桨集成DALI;
大规模训练,支持各类数据格式、ASP、CUDA等算子函数API;
优化推理方面,开发了Paddle-TRT、Deep Learning Examples;
在规模部署方面,集成了NCCL,开发了Triton PaddlePaddle Backend。
刚才这些适配仅仅是让飞桨的开发者拥有高性能的推理训练成为可能,但是这些离行业开发者还很远,门槛还很高,难度还很大。为此,NVIDIA将刚刚这些集成和优化的工作整合到三大产品线中:
NVIDIA NGC PaddlePaddle Container——NGC飞桨容器,致力为开发者提供了一个最佳的飞桨开发环境,包含最新的NVIDIA工具包版本(CUDA, DALI等)。
NVIDIA Deep Learning Examples——飞桨深度学习模型示例,让开发者能够快速使用一系列拥有极致性能的经典模型 ,例如ResNet 50、BERT等。
NVIDIA DLI (Deep Learning Institute)——飞桨共建课程。为了能更好地提高推训性能并简化代码,NVIDIA深度学习培训中心(DLI)也准备了系列免费课程,以及由NVIDIA与飞桨联名的DLI课程证书,赋能开发者并给于权威认可。
在这三大举措中,NGC飞桨容器最引人注目。
飞桨和NVIDIA团队从与开发者用户的持续交流中,收集到了一些使用上的痛点需求。比如,在提供NGC飞桨容器前,飞桨用户如果希望使用NVIDIA最新软件栈进行开发、训练、部署,需要做大量的手动配置工作,这对不少用户而言是一个巨大的工程挑战。
针对这些需求,NVIDIA与百度飞桨联合开发了NGC飞桨容器,将最新的飞桨与最新的NVIDIA的软件栈进行了无缝的集成与性能优化,最大程度地释放飞桨框架在NVIDIA最新硬件上的计算能力。这样,用户不仅可以快速开启AI应用,专注于创新和应用本身,还能够在AI训练和推理任务上获得飞桨+NVIDIA带来的飞速体验。
NGC飞桨容器具有以下优点:
以月为单位升级更新,每月底发布全新版本,无需注册即可下载,支持多GPU和多节点系统。
适配最新版本的NVIDIA软件栈(例如最新版本CUDA),更多功能,更高性能。
安全可靠。扫描漏洞和加密,适合在工作站、服务器、云上运行并经过测试。满足NVIDIA NGC开发及验证规范,质量管理。
专为企业和高性能计算设计,支持Docker。
适配各种硬件环境:裸机、虚拟机、K8S、X86、ARM、Power、云、本地、边缘等。
应用广泛。适合各种工作内容、工作场景、各行业的应用。
性能优化。我们将其进行优化,并且具有很好的可扩展性。
为了让飞桨开发者用上基于NVIDIA最新的高性能硬件和软件栈,我们借用NVIDIA NGC完善的开发体系、质量管理、测试流程、文档规范、安全扫描等,开发了基于NVIDIA GPU平台最好的飞桨开发环境。
NVIDIA飞桨容器现已开放免费下载,扫描下方二维码加入NGC飞桨容器用户体验群,提交体验报告更可获得精美礼品!
通过飞桨官网快速获取NGC飞桨容器(如下图):
环境准备
使用NGC飞桨容器需要主机系统(Linux)安装以下内容:
Docker引擎
NVIDIA GPU驱动程序
NVIDIA容器工具包
有关支持的版本,请参阅NVIDIA框架容器支持矩阵和NVIDIA容器工具包文档。不需要其他安装、编译或依赖管理。无需安装NVIDIA CUDA Toolkit。
NGC飞桨容器正式安装
要运行容器,请按照NVIDIA Containers For Deep Learning Frameworks User’s Guide 中 Running A Container一章中的说明发出适当的命令,并指定注册表、存储库和标签。有关使用NGC的更多信息,请参阅NGC容器用户指南。如果您有Docker 19.03或更高版本,启动容器的典型命令是:
1docker run --gpus all --shm-size=1g --ulimit memlock=-1 -it --rm nvcr.io/nvidia/paddlepaddle:22.08-py3
详细安装介绍《NGC飞桨容器安装指南》
https://www.paddlepaddle.org.cn/documentation/docs/zh/install/install_NGC_PaddlePaddle_ch.html
下面,我们介绍一下NVIDIA Deep Learning Examples,这是NVIDIA优化的工业级模型库,目标是让基于NVIDIA GPU的开发者复现极致精度和高性能的模型。NVIDIA Deep Learning Examples中包括针对不同行业的模型,包括机器人、数字孪生、金融等等。
今年我们发布了NVIDIA Deep Learning Examples PaddlePaddle ResNet50,只需要在GitHub中打开NVIDIA Deep Learning Examples Repo,找到主页中的PaddlePaddle Classification ResNet50文件就可以得到它,里面有非常丰富的文档和信息。NVIDIA基于各类网卡、A10、A30,基于各类拓扑结构,单机单卡、单机多卡等,都做了大量测试,并分享了详细的Benchmark供开发者参考(如下图)。
在本届WAVE SUMMIT+ 开始前,NVIDIA更与百度飞桨联合主办了“2022飞桨×NVIDIA AI技术开放日”。作为WAVE SUMMIT+的 “前哨站” ,本次活动邀请双方公司的AI技术专家与超过2000名开发者共同开展深度技术交流,内容囊括NGC飞桨容器特点、应用场景、模型优化,以及部署实践案例。
欲了解更多NGC飞桨容器,可查看以下延展介绍,或关注微信公众号【NVIDIA英伟达企业解决方案】。
详细产品介绍视频
【飞桨开发者说|NGC飞桨容器全新上线NVIDIA产品专家全面解读】
https://www.bilibili.com/video/BV16B4y1V7ue?share_source=copy_web&vd_source=266ac44430b3656de0c2f4e58b4daf82
详细安装介绍《NGC飞桨容器安装指南》
https://www.paddlepaddle.org.cn/documentation/docs/zh/install/install_NGC_PaddlePaddle_ch.html
关注【飞桨PaddlePaddle】公众号
点击菜单栏「WAVE回放」查看峰会精彩内容
rtscon2022沙龙高能回顾
12月3日,一年一度的RTSCon大会如期举行。本次活动由RTS社区、小樱桃科技和LiveVideoStack联合主办,场面热烈、大家提问踊跃,大会获得圆满成功。本次RTSCon依然在线上进行,使用了LiveVideoStack的直播系统。会议邀请... 查看详情
11.30wavesummit+2022将在深圳举办,官网报名通道正式开启
...领、驱动产业智变。见证AI在中国的发展历程,就在WAVESUMMIT深度学习开发者峰会。WAVESUMMIT+2022已整装待发,11月30日将于深圳开幕。百度搜索“WAVESUMMIT”即可进入峰会官网,报名从速。登录官 查看详情
活动回顾bsv区块链协会参加「wearedevelopers」世界大会
...BSV区块链协会代表BSV参加了在柏林举行的WeAreDevelopers世界大会。为期两天的WeAreDevelopers世界大会是全球最盛大的开发者活动,逾8000人出席了本次活动。BSV的代表在6月14日分别参加了两场会谈。其中一场演讲题为《每天2000万... 查看详情
精彩回顾迪拜bsv全球区块链大会day1
...5月25日信息来源:bitcoinassociation.net首届BSV全球区块链大会在迪拜君悦酒店拉开了帷幕。为期三天的大会迎来了逾2000名现场与线上参会者以及100多家企业,来宾们围绕着BSV区块链的力量和现实世界的应用展开了多场演讲和... 查看详情
精彩回顾迪拜bsv全球区块链大会day3
...表时间:2022年5月27日信息来源:bitcoinassociation.net大会渐入尾声,专家们深入探讨了区块链在整个非洲的采用情况、政策对该技术的补充,以及区块链协议的网络安全潜力。迪拜BSV全球区块链大会大会于5月26日落... 查看详情
wavesummit+2022明日开场,六大看点不容错过!
在2022年最后一个乐章奏响之前,WAVESUMMIT第八届峰会将率先拉开帷幕。11月30日,由深度学习技术及应用国家工程研究中心主办、百度飞桨承办的WAVESUMMIT+2022深度学习开发者峰会将以网上直播的方式呈现。明日14点,... 查看详情
精彩回顾迪拜bsv全球区块链大会day2
...时间:2022年5月26日信息来源:bitcoinassociation.net在大会的第二天,行业专家们围绕区块链如何为娱乐、金融服务和物联网行业提供支持等主题展开了富有深度的讨论。在迪拜BSV全球区块链大会上,与会者们又迎来... 查看详情
wavesummit+2022飞桨平台新升级全面支撑大模型研发与产业化
...0日,由深度学习技术及应用国家工程研究中心主办的WAVESUMMIT+2022深度学习开发者峰会如期举行。峰会上,百度AI技术生态总经理马艳军发布了飞桨深度学习平台的最新技术和生态进展,全新发布飞桨开源框架2.4版... 查看详情
直击会场|2022google谷歌开发者大会精彩继续
2022Google开发者大会第二日继续前日盛况,为开发者奉上了更为丰富的谷歌技术与产品资讯,并围绕“开拓海外业务”,“多元、平等和共融”等主题,与开发者一同探讨了代码之外的更多话题。分享大会精彩... 查看详情
2022世界5g大会值得关注中兴通讯主题演讲令我印象深刻
在黑龙江哈尔滨举行的2022世界5G大会完美落幕,笔者也总算是抽出空来看看这次大会的全球5G科技合作论坛,在这个论坛上有不少大佬都发表了主题演讲分享,从中能够学习到不少东西,例如中兴通讯刘健大佬的... 查看详情
活动回顾bsv华沙blockchain4gaming大会圆满落幕
发表时间:2022年6月10日信息来源:bitcoinassociation.netBSV区块链协会是总部设在瑞士的全球性行业组织,致力于推动BSV区块链和数字货币商业的发展,协会与波兰区块链协会以及瑞士-波兰区块链协会合作于6月7日在... 查看详情
活动回顾纽约bsv区块链大会精彩回顾
...大街1345号,比特币协会开启了本年度第二次BSV区块链大会,以行程满满的一天会议,向企业高管、投资机构和记者们展示了BSV区块链在现实世界中的实用范例。比特币协会创始主席JimmyNguyen在主题演讲中说& 查看详情
为不同类型设备构建应用的三大更新|2022i/o重点回顾
...电视、手表和笔记本电脑搭载了Android系统。在今年的I/O大会上,我们再次聚焦设备类型,并推出了针对WearOS和大屏幕设备的重大更新。以下是 GoogleI/O大会关于"为不同设备类型构建应用"这个主题的三大重要内容更... 查看详情
2016微软技术大会azure相关回顾
3天的时间稍纵即逝,伴随着本届大会压轴大奖的揭晓,2016年度的微软技术大会完美落幕。以“数字化转型”为主题,来自微软全球的近百位顶尖技术专家、工程师和业务负责人拔冗而至,在130余场的专业技术课程、动手实验和... 查看详情
活动回顾迈阿密bsv区块链大会精彩回顾
...罗里达州迈阿密的SLS布里克威尔酒店举办了首次BSV区块链大会,一众区块链专家和行业领袖登台演说,畅谈了BSV区块链的能力。BSV区块链是最符合比特币原始愿景的协议,化名为中本聪的人在2008年的白 查看详情
技术能否成为解决问题的“最优解”?来wavesummit2022找答案
...题迎来可触及答案的可能。2022年的夏至虽尚未至,但WAVESUMMIT2022的热情已经点燃。5月20日,善用AI新技术解决难题的极客大佬们将齐聚由深度学习技术及应用国家工程研究中心主办、飞桨承办的WAVESUMMIT深度学习开发者峰... 查看详情
共享开源技术,共建开放生态丨平凯星辰余梦杰出席2022世界互联网大会开源论坛圆桌对话
2022年11月9日下午,2022年世界互联网大会乌镇峰会开源技术生态创新发展论坛成功举办。论坛由中国科学院主办,中国科学院软件研究所、中国科学院计算技术研究所、浙江省互联网信息办公室等单位协办。平凯星辰余梦... 查看详情
量子位「meet2022智能未来大会」启动,邀你一起见证ai价值
组委会发自凹非寺量子位报道|公众号QbitAI不知不觉,2021马上要进入最后的100天倒计时了。在这一年里,外界的风云变幻仍未止息,但幸运的是,我们能越来越多地在线下相聚,用双眼亲自见证科技产业最新的... 查看详情