关键词：
点上方人工智能算法与Python大数据获取更多干货
在右上方 ··· 设为星标 ★，第一时间获取资源
仅做学术分享，如有侵权，联系删除
转载于 ：专知
在过去的几年里，每个月都会发布新的机器学习加速器，用于语音识别、视频对象检测、辅助驾驶和许多数据中心应用。本文更新了过去两年人工智能加速器和处理器的调研。本文收集和总结了目前已公开发布的商业加速器的峰值性能和功耗数据。性能和功率值绘制在散点图上，从这个图上的趋势的一些维度和观察再次被讨论和分析。今年，我们还编制了一个基准性能结果列表，并计算了相对于峰值性能的计算效率。
https://www.zhuanzhi.ai/paper/b5b93469c4c9dcacb9a6f3019291b814
引言
在过去几年里，初创公司和成熟的技术公司一直在宣布、发布和部署各种各样的人工智能(AI)和机器学习(ML)加速器。这些加速器的重点一直是加速深度神经网络(DNN)模型，应用空间跨度从非常低功耗的嵌入式语音识别到数据中心规模的训练。在过去的一年里，新加速器的发布速度有所放缓，但定义市场和应用领域的竞争仍在继续。这种开发和部署加速器的动力是现代计算领域更大的工业和技术变革的一部分。
人工智能生态系统整合了嵌入式计算(边缘计算)、传统高性能计算(HPC)和高性能数据分析(HPDA)的组件，这些组件必须协同工作，以有效地为决策者、作战人员和分析人员提供使用能力[1]。图1展示了这种端到端人工智能解决方案及其组件的架构概述。在图1的左侧，结构化和非结构化数据源提供了实体的不同视图。这些原始数据产品被输入数据调整步骤，在此步骤中，它们被融合、聚合、结构化、累积并转换为信息。由数据调整步骤生成的信息输入到一系列有监督和无监督的算法中，比如神经网络。神经网络可以提取模式、预测新事件、填补缺失的数据，或者在数据集中寻找相似点，从而将输入的信息转化为可操作的知识。然后，这些可操作的知识被传递给人类，用于人机合作阶段的决策过程。人机合作阶段为用户提供有用和相关的洞察力，将知识转化为可操作的智能或洞察力。速度有所放缓，但定义市场和应用领域的竞争仍在继续。这种开发和部署加速器的动力是现代计算领域更大的工业和技术变革的一部分。
现代计算机系统是这个系统的基础。摩尔定律的趋势已经结束了[2]，还有一些相关的定律和趋势，包括德纳尔标度(功率密度)、时钟频率、核心计数、每个时钟周期的指令和每个焦耳的指令(库米定律)[3]。从最先出现在汽车和智能手机上的片上系统(SoC)趋势来看，为常用的操作内核、方法或功能开发和集成加速器仍在不断进步和创新。这些加速器的设计在性能和功能灵活性之间有不同的平衡。这包括深度机器学习处理器和加速器[4]-[8]的创新爆炸。了解这些技术的相对优势对于将人工智能应用于具有重大限制的领域(如大小、重量和功率)尤其重要，无论是在嵌入式应用还是在数据中心。
本文是对过去两年IEEE-HPEC论文[9]，[10]的更新。和过去几年一样，我们将回顾一些与理解加速器功能相关的主题。
神经网络类型——虽然人工智能和机器学习包含了一系列广泛的基于统计的技术[1]，但本文继续关注去年的重点，面向深度神经网络(DNNs)和卷积神经网络(CNN)的加速器和处理器，因为它们具有相当高的计算强度[11]。
神经网络训练与推理——正如前两次调研中所解释的那样，该调研侧重于用于推理的加速器和处理器，原因有很多，包括国防和国家安全AI/ML边缘应用依赖推理。
数值精度——我们将考虑加速器支持的所有数值精度类型，但对于大多数类型，它们的最佳推断性能是int8或fp16/bf16 (IEEE 16位浮点数或谷歌的16位脑浮点数)。但从图2中可以看出，许多不同的数值格式都报告了峰值性能。
神经形态计算和光子计算——在今年的调研没有发布峰值性能和峰值功率的数字。有一些神经形态处理器与传统加速器(如[12])的相对比较，但没有确切的数字。也许明年，我们将开始看到实际的性能数据，我们可以纳入这个调研。
---------♥---------
声明：本内容来源网络，版权属于原作者
图片来源网络，不代表本公众号立场。如有侵权，联系删除
AI博士私人微信，还有少量空位
点个在看支持一下吧
综述|fpga加速深度学习
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：计算机科学与探索，专知近年来，由于互联网的高速发展和大... 查看详情
首篇「多模态摘要」综述论文
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知【导读】多模态是文档内容的本质特征之一。来自印度理工等学... 查看详情
最新《生成式对抗网络gan》综述
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知GAN一直是研究关注的热点，来自新泽西理工学院的学者发布... 查看详情
gan-一份来自香港理工大学的gans综述
标题：GenerativeAdversarialNetworks(GANs):Challenges,Solutions,andFutureDirections专知paper 查看详情
gan-一份来自香港理工大学的gans综述
标题：GenerativeAdversarialNetworks(GANs):Challenges,Solutions,andFutureDirections专知paper 查看详情
综述|自然语言处理中的因果推理
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知随着深度学习在行业领域的深入使用，以往以相关性为基础... 查看详情
综述|自然语言处理中的因果推理
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知随着深度学习在行业领域的深入使用，以往以相关性为基础... 查看详情
群体智能中的联邦学习算法综述---简笔记（除安全类）
群体智能中的联邦学习算法简述介绍群体智能与联邦学习的关系联邦学习框架分类中心化联邦半中心化联邦去中心化联邦（未涉及区块链等隐私的研究，所以未总结）精度优化泛化性优化收敛性优化效率优化模型神经... 查看详情
京东等发布《可信赖人工智能》综述
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知人工智能如何可信？来自京东多位学者共同撰述的《可信赖... 查看详情
收藏|最新《图神经网络》综述论文35页pdf209篇文献
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知图神经网络一直是业界关注的热点之一。最近来自印度国家理工... 查看详情
收藏|最新《图神经网络》综述论文35页pdf209篇文献
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知图神经网络一直是业界关注的热点之一。最近来自印度国家理工... 查看详情
首篇nlp图神经网络综述：127页
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：机器之心在Transformer推动自然语言处理领域迅猛发展的当下，基于... 查看详情
人工智能之模式识别北京理工大学mooc笔记更新中
参考技术A识别的基础是认知认知Cognition：获取某种事物的特征——概念抽象识别Re-cognition：根据特征决定某个具体的事物是不是某种事物——概念归类模式：一类事物的共同特征识别：对事物进行概念归类模式识别：依据事物... 查看详情
聊聊智能汽车的发展历史(二）
...方案。DARPA资助了卡内基·梅隆大学、斯坦福大学和麻省理工大学等大学和制造商企业 查看详情
综述|可信赖人工智能：计算视角
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知工智能要给人类带来福祉，必须是可信赖。来自密歇根州立... 查看详情
综述|可信赖人工智能：计算视角
点上方人工智能算法与Python大数据获取更多干货在右上方 ··· 设为星标 ★，第一时间获取资源仅做学术分享，如有侵权，联系删除转载于：专知工智能要给人类带来福祉，必须是可信赖。来自密歇根州立... 查看详情
2021全国人工智能师资培训走进北理工，百度飞桨助力高校教师提升ai能力
...大学，以学生的身份开启了为期两天的AI学习之旅。人工智能快速发展的同时，我国百万量级AI人才缺口愈加明显，为加速培养AI人才，上百所国内高校近几年纷纷开设AI和大数据等专业，为AI人才培养添砖加瓦&... 查看详情
智能车竞赛技术报告|节能信标组-洛阳理工学院-since2021(代码片段)
参赛队员签名：程超杰张帅兵董英梁带队教师签名：武超张伟民 日期：2021.08.24 第一章引言1.1竞赛背景 全国大学生智能汽车竞赛是本科自动化及相关专业学科领域的顶级赛事之一，是教育部倡导的全... 查看详情