谷歌首席决策科学家:ai难免犯错,唯有人类可以悬崖勒马

sushine1 sushine1     2022-12-20     637

关键词:

  Cassie Kozyrkov在过去五年里在谷歌担任过各种各样的技术职务,但她现在担任着“首席决策科学家”这个有点奇怪的职位。“决策科学是数据和行为科学的交叉学科,涉及统计学、机器学习、心理学、经济学等。

  实际上,这意味着Kozyrkov帮助谷歌推动了一个积极的人工智能议程——或者,至少,让人们相信人工智能并不像许多人宣称的那么糟糕。

  焦虑

  “机器人正在偷走我们的工作”,“人工智能是人类生存的最大威胁”,类似的言论已不绝如耳,尤其在过去几年里,这种担忧变得更加明显。

  人工智能对话助手渗入我们的家中,汽车和卡车自动驾驶似乎指日可待,机器可以在电脑游戏中打败人类,甚至创意艺术也不能幸免于人工智能的冲击。另一方面,我们也被告知枯燥重复的工作可能会成为过去。

  人们对自己在自动化世界中的未来感到焦虑和困惑,这是可以理解的。但是,根据Kozyrkov的说法,人工智能只是人类努力方向的延伸。

  “人类的故事就是自动化的故事,” Kozyrkov表示。“人类的史诗就是要把事情做得更好——从有人拿起一块石头砸向另一块石头的那一刻起,因为事情可以做得更快。我们是一个制造工具的物种,我们反抗苦差事。”

  对人工智能潜在恐惧的原因是我们觉得它可以做得比人类更好,但这种担心并不成立。Kozyrkov认为,所有工具都比人类好。理发师用剪刀理发,因为用手把头发剪出来是一种不太理想的体验。印刷机使文本的大规模生产成为可能,其规模是人类用钢笔无法复制的。但笔本身就开启了一个充满机遇的世界。

  “我们所有的工具都比人类好——这就是工具的意义所在,” Kozyrkov继续说道。“如果没有工具你可以做得更好,为什么要使用工具呢?如果你担心电脑的认知能力比你强,那我要提醒你,你的笔和纸在记忆方面比你强。我的水桶比我更擅长装水,我的计算器比我更擅长把六位数相乘。人工智能在某些方面也会变是如此。”

  当然,许多人对人工智能和自动化的潜在恐惧并不是说它会比人类更擅长做事。对许多人来说,真正的危险在于,任何恶意实体可以肆无忌惮地对我们的一举一动进行跟踪和微观管理,从而在我们身上投下反乌托邦的阴影——几乎不费任何力气就能实现一个秘密的宏伟愿景。

  其他的担忧与算法偏见、缺乏足够的监督以及最终的末日场景有关:如果某件事发生了严重且无意的错误,该怎么办?

  偏见

  研究人员已经证明了人脸识别系统中固有的偏见,比如亚马逊的Rekognition。民主党总统候选人参议员Elizabeth Warren此前呼吁联邦机构解决算法偏见的问题,比如美联储如何处理货币贷款歧视。

  但人们对人工智能如何真正减少人类现有偏见的关注少之又少。

  旧金山最近宣称,它将使用人工智能来减少对犯罪嫌疑人的偏见,例如,自动修改警方报告中的某些信息。

  在招聘领域,风投支持的Fetcher正着手帮助企业利用人工智能寻找人才。该公司声称,人工智能还有助于将人类偏见降到最低。Fetcher通过在线渠道自动寻找潜在候选人,并使用关键字来确定个人可能拥有的技能,而这些技能并没有列在个人资料中。该公司将其平台宣传为消除招聘偏见的一种简单方法,因为如果你训练一个系统遵循一套严格的标准,只关注技能和经验,性别、种族或年龄等因素将不会被考虑在内。

  Fetcher联合创始人兼首席执行官Andres Blank表示:“我们相信,我们可以利用技术来解决多种形式的招聘偏见,帮助公司建立更加多样化和包容性的组织。”

  但对人工智能系统性歧视的担忧,是许多人工智能领域的首要议题。微软敦促美国政府监管面部识别系统,研究人员正致力于在不影响预测结果准确性的前提下,减少人工智能中的偏见。

  人为因素

  最重要的是,人工智能还处于相对起步阶段,我们仍在研究如何解决算法偏见等问题。但Kozyrkov表示,人工智能所显示的偏见与现有的人类偏见是一样的——用于训练机器的数据集与用于教育人类的教科书完全一样。

  “数据集和教科书都有人类作者——它们都是根据人类的指令收集的,”她说。“如果你给你的学生一本由一位怀有严重偏见的作者编写的教科书,你认为你的学生不会染上同样的偏见吗?”

  当然,在现实世界中,受人尊敬的同行评审的期刊或教科书应该有足够的监督来对抗任何明显的偏见——但如果作者、他们的数据源以及鼓励学生阅读教科书的老师都有同样的偏见呢?任何陷阱可能要到很久以后才会被发现,到那时想要阻止任何不良影响就太晚了。

  因此,Kozyrkov夫认为,“视角的多样性”对于确保偏见最小化是必不可少的。

  她说:“你对数据的关注越多,你就越有可能发现那些潜在的不良案例。所以在人工智能中,多样性是必须拥有的。你确实需要从不同的角度来看待和思考如何使用这些例子来影响世界。”

  郑州男科医院:https://myyk.familydoctor.com.cn/12248/郑州男科医院哪家好:https://myyk.familydoctor.com.cn/12248/郑州割包皮手术多少钱:https://myyk.familydoctor.com.cn/12248/

百度黄埔学院学员开题|‘首席ai架构师’实战之旅开启!

...院的师资力量十分雄厚,第一次课程上自然语言处理领域科学家,经验主义方法的奠基人之一KennethChurch等多位顶尖科学家和业界大咖,给学员们带来一场“AI盛宴”。第二次课程依旧是大师云集,百度深度学习技术平台部... 查看详情

谷歌ai中国中心成立,人工智能势不可挡?

...一度的Google中国开发者大会。在本届大会上,谷歌云首席科学家李飞飞宣布了一个重磅消息,即在北京将成立谷歌AI中国中心。对于这个即将成立的AI中心谷歌寄予厚望,希望与中国本土AI研发力量合作共同致力于人工智能领域的... 查看详情

lecun说完再见,人们把目光投向了谷歌

...级人物LeCun宣布不再担任FAIR团队的负责人,专注担任首席科学家,将更多精力投入学术工作。这件事看起来只单纯的企业变动,但Facebook如此大动作调整AI,显然不是无目的的乱改。隐藏在其背后的战略思考,或许暗示了 查看详情

助力培养高端复合型ai人才飞桨首席ai架构师培养计划再启航

...、金融、交通物流等数十个重点行业领域的105位企业CTO、科学家以及技术高管学员齐聚云端,正式开启首席AI架构师的进阶之旅。以人工智能为代表的新一代信息技术,成为我国“十四五”期间推动经济高质量发展、建设... 查看详情

chatgpt背后真正的英雄:openai首席科学家ilyasutskever的信仰之跃

...默默无闻的天才。IlyaSutskever是OpenAI的联合创始人和首席科学家。正是在他的领导下,OpenAI在开发尖端技术和推动人工智能领域的发展方面取得了重大进展。在这篇文章中,我们将探讨二十年间,Sutskever是如何从一个... 查看详情

降低网络拥塞,追求美好体验——对话拍乐云首席科学家章琦

✎ 编者按 成立于2019年,拍乐云是国内第一家视频会议背景的实时互动通信云服务提供商,汇聚了一大批专注于音频、视频、白板、网络、AI等领域的资深技术专家。在过去两年间,拍乐云一直致力于帮助用户实现... 查看详情

悼念!旷视首席科学家孙剑博士去世,享年45岁

...息,一位AI巨星陨落。旷视研究院发文,旷视首席科学家、旷视研究院院长孙剑博士因突发疾病抢救无效去世,终年45岁。我们万分难过,旷视首席科学家、旷视研究院院长孙剑博士因突发疾病抢救无效,于2022... 查看详情

chatgpt背后真正的英雄:openai首席科学家ilyasutskever的信仰之跃(代码片段)

...默默无闻的天才。IlyaSutskever是OpenAI的联合创始人和首席科学家。正是在他的领导下,OpenAI在开发尖端技术和推动人工智能领域的发展方面取得了重大进展。在这篇文章中,我们将探讨二十年间,Sutskever是如何从一个... 查看详情

香侬科技独家对话facebook人工智能研究院首席科学家deviparikh

Facebook人工智能研究院(FAIR)首席科学家DeviParikh是2017年IJCAI计算机和思想奖获得者(IJCAI两个最重要的奖项之一,被誉为国际人工智能领域的「菲尔兹奖」),并位列福布斯2017年「20位引领AI研究的女性」榜单。她主要从事计算... 查看详情

谷歌jasonwei|ai研究的4项基本技能

...的研究员(尽管我目前在GoogleBrain的头衔是“高级”研究科学家),但我曾与一些有才华的伙伴合作过,并花了相当多的时间思考如何做好研究,所以我想我可以分享一下我是如何去做的。我的观点是:做研究是一项可以通过刻... 查看详情

悼念!ai大牛孙剑博士!

...c;选择加星标精彩内容不迷路量子位|公众号QbitAI旷视首席科学家、旷视研究院院长孙剑博士,今日凌晨因病不幸离世。孙剑博士1976年10月出生,今年45岁。他曾任微软亚研院首席研究员,此前两次获CVPR最佳论文奖。他... 查看详情

悼念!ai大牛孙剑博士!

...c;选择加星标精彩内容不迷路量子位|公众号QbitAI旷视首席科学家、旷视研究院院长孙剑博士,今日凌晨因病不幸离世。孙剑博士1976年10月出生,今年45岁。他曾任微软亚研院首席研究员,此前两次获CVPR最佳论文奖。他... 查看详情

science论文:诺奖经济学家的经典决策模型,被ai挑战

在2019年DOTA2的顶级赛事TI8的正赛完成之后,OpenAI的人工智能战队与TI8的冠军OG举行了一场表演赛,在英雄阵容限定17个,部分道具和功能禁用的前提下,OpenAI以2:0完胜了OG,尤其值得一提的是第二场比赛仅... 查看详情

一个ai玩41个游戏,谷歌最新多游戏决策transformer综合表现分是dqn的两倍

Alex发自凹非寺量子位|公众号QbitAI谷歌AI宣布,在多任务学习上取得了巨大进展:他们搞出一个会玩41款雅达利游戏的AI,而且采用的新训练方法比起其他算法,训练效率大大提升!此前会玩星际争霸的CherryPi和... 查看详情

百度黄埔学院将培养一批首席ai架构师,为“国之重器”赋能

...首期学员,迎来第一课,与20余位担当导师的百度重量级科学家和技术负责人享受“AI知识盛宴”,中国深度学习第一核心技术圈初现雏形。深度学习“人才荒”,培养稀缺人才正当时近年来,中国的发展已经从高速增长向高质... 查看详情

终于有人把大数据机器学习数据科学讲明白了

...希望利用机器学习技术处理数据并进行预测。要做出这些决策你需要了解一些关键概念,包括大数据、数据科学和数据挖掘。本文阐明了数据在人工智能项目中所起的作用,并帮助你在如何应用人工智能上做出明智决策&#... 查看详情

盖茨特征指的是啥

...管技术,而很多所谓的“首席技术官”却都是没有实权的科学家,决定不了技术发展方向。作为“首席架构师”,比尔·盖茨的工作是制定公司的长期技术路线图,并确保公司里各个行政部门的科研计划是互补而不是重叠的。因... 查看详情

ai域名为什么突然那么多人注册?

...也被视为人工智能域名,而受到众多科技公司的青睐,像谷歌、微软这些巨头为进军AI领域 查看详情