关键词：
白交 发自 凹非寺
量子位 | 公众号 QbitAI
千呼万唤始出来，马毅教授的AI综述论文终于出炉！
耗时三个多月，联合神经科学家曹颖、计算机大牛沈向洋，协作完成。
据本人描述，这篇论文是将他“过去五年的工作以及智能七十多年的发展有机结合起来”，并且还表示：
一生从未在一篇文章上花这么多精力和时间。
具体而言，就是“理出了智能的起源以及计算原理的基本轮廓和框架，能让大家认识到这种理论联系实践的可能性。”
此前在社交网络上预告时，许多网友都期待十足。
结果今天刚发不久，就有学者表示，正好要设计新的生成模型，给了我灵感。
来看看这是篇怎样的论文？
两大原则：简约和自洽
过去十年中，人工智能的进展主要依赖于训练同质化的黑箱模型，决策过程、特征表示等方面在很大程度上都是难以解释的。
而这种端到端的粗暴训练，不仅导致了模型大小、训练数据以及计算成本不断增长，而且在实践中还伴随着许多问题。
学到的表征缺乏丰富性；训练中缺乏稳定性；缺乏适应性，容易出现灾难性遗忘……
基于这样的背景，研究人员假设，在实践中出现这些问题的根本原因之一，是对智能系统的功能和组织原则缺乏系统和综合的理解。
而这背后是否存在一个统一的方法来解释。
为此这篇文章提出了两个基本原则——简约和自洽，分别回答两个关于学习的基本问题。
1、学什么：从数据中学习的目标是什么，如何衡量？
2、如何学：我们如何通过高效和有效的计算来实现这样一个目标？
他们认为这两个原则制约着任何智能系统的功能和设计，而且完全可以以可测量和可计算的方式重新表述。
以简约性为例。智能的基础是环境中的低维结构，这让预测和泛化变成可能，这也就是简约原则。而应该如何来度量？本文提出了个几何公式来衡量简约性。
基于这两个原则， 得出了感知/智能的通用架构：压缩器和生成器之间的闭环转录。
它暗示了两者之间的交互应该是一种追逃游戏。在这个游戏中，他们扮演联合目标函数的对立面，而非自动编码器。
这也是此框架的主要优势之一，通过自我监督和自我批判进行自我学习，这是最自然和有效的。
从根本上说，这个框架可以扩展到完全无监督的环境中， 这时候只需将每个新样本和它的增量做看作新的累。
自监督类型+自我批评的游戏机制，这样一个闭环转录就会很容易学会。
值得一提的是，这种学习特征的结构，类似于在灵长类动物的大脑中观察到的类别选择区域的结构。
作者之一曹颖表示，这个框架与此前诸多想法类似，包括预测编码、对比学习、生成模型、Transformer……
除此之外，他们还给出了些新方向，比如CV与图形学之间的闭环关系。
最后整合在一起，一个自主的智能体，学习某种任务的最佳策略，是将感知（反馈）、学习、优化和行动整合到一个闭环中。
它统一并解释了现代深度网络和许多人工智能实践的演变。虽然整个文章主要以视觉数据的建模为例。
但研究人员相信这两个原则，将统一对广泛自主智能系统的理解，并为理解大脑提供一个框架。
最后，他们还以热力学之父的话作为结尾。
大致意思是只有当你能测量，并用数字来表示你所讲的东西时，你就对它有了解；如若不然，它可能是知识的开始，但在你的思想中，你几乎没有推进到科学的阶段。
One More Thing
有意思的是，就在提交arXiv之际，马毅教授还在网络上求助：
有人就不能写一个接口吗？一键提交论文的那种。而不是花费大量时间在修改论文。
网友们也纷纷支招：使用LaTeX 编译器，而不是PdfLaTeX。
还有人直接上图。
好了，感兴趣的旁友可戳下方链接了解更多～
论文链接：
https://arxiv.org/abs/2207.04630
参考链接：
[1]https://weibo.com/u/3235040884?profile_ftype=1&is_all=1#1657668935671
[2]https://twitter.com/YiMaTweets/status/1546703643692384256
[3]https://twitter.com/doristsao/status/1546722505091534851
2022idea大会引领科技创新趋势沈向洋团队重磅发布低空经济白皮书
11月22日，2022IDEA大会在深圳顺利开幕。大会由深圳市科技创新委员会、深圳市人才工作局和深圳市福田区人民政府指导，粤港澳大湾区数字经济研究院（InternationalDigitalEconomyAcademy，简称“IDEA研究院”）主办。... 查看详情
微软执行副总裁沈向洋：我不同意微软创新能力弱于谷歌（好多微软的内幕）
...级别的华人高管另有其人——微软全球执行副总裁沈向洋。每周五下午，沈向洋和其他10位微软高管会出现在会议室，开一个长达4小时的会议，讨论解决全球公司一周以来的所有关键问题，然后上报CEO。在微软内部，他们... 查看详情
微软全球执行副总裁沈向洋：三年内用人工智能赚100亿美元
...一直在尝试回答一个最基本的问题：智能是什么。”沈向洋博士说。 这听上去不像是统治办公软件市场半壁江山的微软需要考虑的议题——并非如此。事实上，早在1991年比尔·盖茨就成立了微软研究院，以&ldquo... 查看详情
ai科学语言大模型火了，数学生物计算机样样行，编代码写综述也不在话下
...科。这个AI名叫Galactica （简称：GAL），是最新开源的一 查看详情
18年后，张亚勤李开复王坚沈向洋洪小文等又干了件大事
650)this.width=650;"src="http://s2.51cto.com/wyfs02/M00/8A/49/wKiom1gsX26CdlitAAHg8UigDnk148.jpg-wh_500x0-wm_3-wmp_4-s_2513557738.jpg"title="五巨头1.jpg"alt="wKiom1gsX26CdlitAAHg8UigDnk148.jpg-wh_50"/>（上 查看详情
人美声甜！这个“清华ai新生”火了，网友直呼惊艳
这两天，一名清华女学生火了。来源：视频截图9月28日，清华大学首位AI虚拟学生“华智冰”正面出镜唱歌，首次正脸亮相，并带来一首歌曲《男孩》。视频中，华智冰是一名眉目清秀的女孩。她盘腿而坐&... 查看详情
无缝切地图的3d赛车游戏火了，小哥花16个月用js打造，浏览器免费就能玩
...一位小哥耗时16个月打造的3D版赛车游戏，这两天忽然火了起来。只需一个浏览器，就能驾车从森林、海滩，“无缝切换”到广袤的沙漠甚至平原：无论春夏秋冬还是白天黑夜，也无论你用的是电动汽车、自行... 查看详情
语言ai原来知道自己的回答是否正确！伯克利等高校新研究火了，网友：危险危险危险...
万博发自凹非寺量子位|公众号QbitAI语言AI，具备了人类的自我审视能力：最近，一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明：它不仅能判断自己的答案正确与否，而且经过训练，还能... 查看详情
阿里50亿参数ai画画模型火了！将图像拆分再自由重组，达摩院副院长率队打造...
...靖人等人打造的可控扩散模型Composer，一经发布就小火了一把。这个模型由50亿参数训练而来，和StableDiffusion原理不同。它更进一步把训练图像拆解成了多个元素，然后基于这些元素训练扩散模型，让它们能够灵活... 查看详情
旷视首席科学家孙剑博士去世，前辈一路走好！
...研究院和西安交通大学联合培养的研究生，他曾师从沈向洋博士。沈向洋博士是顶级计算机视觉和图形学专家，也是微软中国研究院（现微软亚洲研究院）联合创办人。2001年，孙剑和沈向洋完成了利用置信传... 查看详情
覆盖近2亿篇论文还免费！沈向洋旗下团队「读论文神器」登b站热搜
转自：新智元对于搞科研的同学们来说，看论文是要经历的第一关，尤其是要读好多篇论文的时候，更是着实令人头大。这不，最近无意中发现了个在线论文阅读网站：readpaper.com，号称「论文阅读笔记... 查看详情
2021idea大会开启ai思想盛宴，用“创业精神”做科研
...长、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋博士作为主讲人，携IDE 查看详情
知识星球最新资料干货汇总（截止到2020年3月13日）
编者按「数智萤火虫」内容介绍：以大数据、人工智能、数字化转型为核心，包括星主在技术、产品、解决方案、职场等方面20年的经验积累与感悟。跨界延伸领域：企业架构、区块链、虚拟现实、增强现实、5G、产品经理等其... 查看详情
“偷懒”上热搜！南京大三学生自制宿舍关灯神器火了，网友：希望量产
本文经AI新媒体量子位（ID：QbitAI）授权转载，转载请联系出处金磊发自凹非寺宿舍关灯这件事情，最近比较火。起因是一位南京信息工程大学大三学生，花了7、8天时间，自制了一款宿舍关灯神器。效... 查看详情
用文字描述给黑白照上色，这个免费网站火了！网友：比其他同类都好用
...录的那种。于是乎，这个网站在“黑白照上色”圈里火了一把。很easy地让黑白照变彩色正如我们刚才提到的，这个AI非常明显的一个标签，就是操作简单。然后静等几秒钟，上传的黑白照就立马“光彩照人”了... 查看详情
国产ai作画神器火了，更懂中文，竟然还能做周边！
金磊萧箫发自凹非寺量子位|公众号QbitAI家人们，听说了吗？最近在“一句话生成画作”这个圈子里，又一个AI工具悄然火起来了。不是你以为的DiscoDiffusion、DALL·E，再或者Imagen……而是全圈子都在讲中国话的那种... 查看详情
小爱同学与小冰将实现联合进步
...月举行的第六代微软小冰发布会上，微软全球执行副总裁沈向洋博士宣布了与小米的此项合作。此后，双方的合作及联合开发不断加深。针对本次上线，微软全球资深副总裁、微软亚洲互联网工程院院长王永东表示：“我们很高... 查看详情
会唱歌会弹琴，清华大学ai学生华智冰火了
整理|禾木木出品| AI科技大本营（ID:rgznai100）清华大学计算机系知识工程实验室，开发的中国首个原创虚拟学生——华智冰，与近日亮相。她的声音、肢体动作全部由人工智能完成。今年6月，清华大学计算机... 查看详情