关键词：
羿阁 发自 凹非寺
量子位 | 公众号 QbitAI
一个连业余棋手都打不过的新模型，竟然击败了世界最强围棋AI——KataGo？
没错，这惊掉人下巴的结果来自MIT、UC伯克利等的最新论文。
研究人员利用对抗攻击方法，抓住了KataGo的盲点，并基于该技术使一个菜鸟级围棋程序成功打败了KataGO。
在没有搜索的情况下，这一胜率甚至达到了99%。
这么算下来，围棋界的食物链瞬间变成了：业余棋手>新AI>顶级围棋AI？
等等，这个神奇的新AI是怎么做到又菜又厉害的？
刁钻的攻击角度
在介绍新AI之前，让我们先来了解一下这次被攻击的主角——KataGo。
KataGo，目前最强大的开源围棋AI，由哈佛AI研究员开发。
此前，KataGo战胜了超人类水平的ELF OpenGo和Leela Zero，即使没有搜索引擎的情况下，其水平也与欧洲前100名围棋专业选手相当。
刚刚拿下三星杯冠军、实现“三年四冠”的韩国围棋“第一人”申真谞，就一直用的KataGo进行陪练。
△图源：Hangame
面对实力如此强劲的对手，研究人员选择的方法可以说是四两拨千斤了。
他们发现，尽管KataGo通过与自己进行数百万次游戏来学习围棋，但这仍然不足以涵盖所有可能的情况。
于是，这次他们不再选择自我博弈，而是选择对抗攻击方法：
让攻击者（adversary）和固定受害者（victim，也就是KataGo）之间进行博弈，利用这种方式训练攻击者。
这一步改变让他们仅用训练KataGo时0.3%的数据，训练出了一个端到端的对抗策略（adversarial policy）。
具体来说，该对抗策略并不是完全在做博弈，而是通过欺骗KataGo在对攻击者有利的位置落子，以过早地结束游戏。
以下图为例，控制着黑子的攻击者主要在棋盘的右上角落子，把其他区域留给KataGo，并且还心机的在其他区域下了一些容易被清理的棋子。
论文共同一作Adam Gleave介绍：
这种做法会让KataGo误以为自己已经赢了，因为它的地盘(左下)比对手的要大得多。
但左下角的区域并没有真正贡献分数，因为那里仍留有黑子，这意味着它并不完全安全。
由于KataGo对胜利过于自信——认为如果游戏结束并计算分数自己就会赢——所以KataGo会主动pass，然后攻击者也pass，从而结束游戏，开始计分。(双方pass，棋就结束)
但正如Gleave分析的一样，由于KataGo围空中的黑子尚有活力，按照围棋裁判规则并未被判定为“死子”，因此KataGo的围空中有黑子的地方都不能被计算为有效目数。
因此最后的赢家并不是KataGo，而是攻击者。
这一胜利并不是个例，在没有搜索的情况下，该对抗策略对KataGo的攻击达到了99%的胜率。
当KataGo使用足够的搜索接近超人的水平时，他们的胜率达到了50%。
另外，尽管有这种巧妙的策略，但攻击者模型本身的围棋实力却并不强：事实上，人类业余爱好者都可以轻松地击败它。
研究者表示，他们的研究目的是通过攻击KataGo的一个意想不到的漏洞，证明即使高度成熟的AI系统也会存在严重的漏洞。
正如共同一作Gleave所说：
（这项研究）强调了对AI系统进行更好的自动化测试以发现最坏情况下的失败模式的必要性，而不仅仅是测试一般情况下的性能。
研究团队
该研究团队来自MIT、UC伯克利等，论文共同一作为Tony Tong Wang和Adam Gleave。
Tony Tong Wang，麻省理工学院计算机科学专业博士生，有过在英伟达、Genesis Therapeutics等公司实习的经历。
Adam Gleave，加州大学伯克利分校人工智能博士生，硕士和本科毕业于剑桥大学，主要研究方向是深度学习的鲁棒性。
不过也有质疑说作者只是hack了bug，论文的链接附在最后，感兴趣的小伙伴们可以自取～
论文链接：
https://arxiv.org/abs/2211.00241
参考链接：
https://arstechnica.com/information-technology/2022/11/new-go-playing-trick-defeats-world-class-go-ai-but-loses-to-human-amateurs/
ai无敌？人类的反击静悄悄。
前几年，alphago横扫围棋棋坛，人类棋手不得不接受现实。那么，按照AI的进步速度，我们当时也提过火车站台的比喻，呼啸而过，望尘莫及。从此，人类棋手输给AI不再是新闻，而且随着相关论文的... 查看详情
1：2，李世石最后一战被ai击败，唯一战胜过alphago的人退役了
退役赛的最后一局，李世石回到了自己的家乡。对战之地距离李世石的出生地飞禽岛40多公里，他曾在飞禽岛度过了他的童年时光，也是在这里决定成为职业围棋选手。 12月21日，全罗道新安郡曾岛EIdorado度假村，李世石在第1... 查看详情
模仿并超越人类围棋手，kl正则化搜索让ai下棋更像人类，meta&cmu出品
...类。上图分别展示了该方法在国际象棋（左）、围棋（右）的表现。纵轴为AI与原始模型对弈的胜率，横轴为AI预测人类落子位置的Top-1准确度。可以看出新的算法（绿色）在两方面都已经超过了SOTA结果... 查看详情
ai击败了人类，设计了更好的经济机制
作者|学术头条来源| 学术头条“人类面临的许多问题并不仅仅是技术问题，还需要我们为了更大的利益在社会和经济中进行协调。”“要想人工智能技术能够提供帮助，它需要直接学习人类的价值观。”——DeepMind研究... 查看详情
围棋ai()是基于alphabeta剪枝算法的。
参考技术AGNUGo阿尔法围棋（AlphaGo）是第一个击败人类职业围棋选手、第一个战胜围棋世界冠军的人工智能机器人，由谷歌（Google）旗下DeepMind公司戴密斯·哈萨比斯领衔的团队开发。其主要工作原理是“深度学习”。 查看详情
ai人工智能：在生活变难之前，先让自己变强！
...十大流行语”。自从2016年AlphaGo以悬殊比分打败世界顶级围棋棋手李世石后，人们开始担心人工智能机器人是否超越了人类智慧。之后围棋天才柯洁输给AlphaGo、AI入侵华尔街引发裁员狂潮、京东黑科技无人超市面世等等诸如此类... 查看详情
围棋人机大战中阿尔法狗原理解析，左右互搏，青出于蓝而胜于蓝？
...能程序AlphaGo（国内网友亲切地称为“阿 尔法狗”）击败欧洲职业围棋冠军樊麾二段，在围棋游戏中达到了人类职业棋手的水平。什么！！19年前计算机击败国际象棋冠军卡斯帕罗夫的情景还历历在目，现在计算机又要来攻克... 查看详情
围棋吻合度高，并不能确定用了ai
这几天看了一些文章，有人质疑某个棋手比赛作弊，使用了AI。理由是什么？就是与AI一选的吻合度高。其实这很好笑。先说这个吻合度：首先要扣除定式。定式我也可以下到跟AI百分之百的吻合。其次要扣除... 查看详情
围棋吻合度高，并不能确定用了ai
这几天看了一些文章，有人质疑某个棋手比赛作弊，使用了AI。理由是什么？就是与AI一选的吻合度高。其实这很好笑。先说这个吻合度：首先要扣除定式。定式我也可以下到跟AI百分之百的吻合。其次要扣除... 查看详情
ai的胜利，人类的荣耀
在围棋界，AI战胜人类，这不是人类的耻辱，是人类的荣耀。看到柯洁悲伤哭泣的画面，曾经放出豪言的大男孩，低下了骄傲的头。我相信经过这样一次挑战，对他的成长有好处，无论是人生，还是棋艺。在围棋领域，人类只是... 查看详情
人人都可以做深度学习应用：入门篇
...生了一件比较重要事，Master（Alphago）以60连胜横扫天下，击败各路世界冠军，人工智能以气势如虹的姿态出现在我们人类的面前。围棋曾经一度被称为“人类智慧的堡垒”，如今，这座堡垒也随之成为过去。从2016年三月份AlphaGo... 查看详情
人人都能够做深度学习应用：入门篇
...生了一件比較重要事，Master（Alphago）以60连胜横扫天下，击败各路世界冠军。人工智能以气势如虹的姿态出现在我们人类的面前。围棋以前一度被称为“人类智慧的堡垒”，现在。这座堡垒也随之成为过去。从2016年三月份AlphaGo... 查看详情
人类又被ai碾压，这次是星际争霸
还记得2017年，那个血洗围棋界的“阿尔法狗”吗？ 这个由谷歌旗下DeepMind公司开发的AI，对阵世界顶尖围棋选手，打出完全碾压式的战绩：AlphaGovs.樊麾-5:0AlphaGovs.李世石-4:1AlphaGovs. 柯洁-3:0那时人们都绝望地说... 查看详情
为什么科学家如此热衷于研发棋牌类ai？
...热门的围棋和德州扑克。每次AI在某个智力游戏上成功地击败人类选手，便会让大家唏嘘不已，慨叹AI会在不久的将来取代人类…幸运的是，AI接手地球还并未发生。我们不仅不需要如此杞人忧天，而且还会欣喜地发现人工智能的... 查看详情
企业如何充分使用生产计划管理软件？
...现在计算机技术的发达，像之前人机对弈，由人类与顶尖围棋手计算机围棋程序进行围棋比赛，最终九段棋手李世石和柯洁不敌计算机而败下阵来，这说明，计算机信息化的应用发展，已经到达了一个全新的高度，会给人类带来... 查看详情
如何用人工智能自动玩游戏(代码片段)
...向棋类游戏。像是五子棋、象棋等。在上世纪“深蓝”就击败了国际象棋冠军，而到2016年“AlphaGo”击败了人类围棋冠军。到现在，AI涉略的不仅仅是棋类游戏。像是超级马里奥、王者荣耀这种游戏，AI也能有比较好的... 查看详情
如何用人工智能自动玩游戏(代码片段)
...向棋类游戏。像是五子棋、象棋等。在上世纪“深蓝”就击败了国际象棋冠军，而到2016年“AlphaGo”击败了人类围棋冠军。到现在，AI涉略的不仅仅是棋类游戏。像是超级马里奥、王者荣耀这种游戏，AI也能有比较好的... 查看详情
如何用人工智能自动玩游戏(代码片段)
...向棋类游戏。像是五子棋、象棋等。在上世纪“深蓝”就击败了国际象棋冠军，而到2016年“AlphaGo”击败了人类围棋冠军。到现在，AI涉略的不仅仅是棋类游戏。像是超级马里奥、王者荣耀这种游戏，AI也能有比较好的... 查看详情