系统崩溃将阻止机器人末日

如果你发现自己被一个疯狂的双足机器人追赶,只需进入一个房间并将门关上

以下文章经允许转载自The Conversation,这是一个涵盖最新研究的在线出版物。

你是否对第四频道的新剧《真实的人类》中近乎人类的智能机器人的行为所暗示的意义感到担忧? 你是否曾对斯蒂芬·霍金和伊隆·马斯克关于超智能人工智能威胁的末日警告感到焦虑? 你的孩子是否曾睁大眼睛思考过机器人无人机大军,例如漫威电影《复仇者联盟2:奥创纪元》中的那些?

如果你觉得这令人毛骨悚然,或者对上述任何问题回答“是”,你应该立即观看最近的DARPA机器人挑战赛的录像。


关于支持科学新闻

如果您喜欢这篇文章,请考虑通过以下方式支持我们屡获殊荣的新闻报道: 订阅。通过购买订阅,您将有助于确保关于当今塑造我们世界的发现和想法的具有影响力的故事的未来。


DARPA机器人挑战赛的独特之处在于,它要求双足机器人只能做人类日常所做的事情:下车、走进建筑物、爬楼梯、在不平坦的地面上行走、转动阀门,以及拿起并使用锯子在墙上切一个洞。 这些技能很难说是忍者战士英国版级别的,但对于赢得 200 万美元奖金的 KAIST 团队以及所有失败者来说,这都很困难。

获胜的机器人只完成了九项任务中的八项,其中许多任务对于一个七岁的孩子来说都不会有困难。事实上,除了三个团队之外,所有团队都未能完成下静止汽车这个相当基本的挑战,即使没有车门使情况复杂化。

即使是简单的事情也很难
这个比赛录像如此有趣的原因在于,它无情地戳破了人工智能至高无上的神话。我们经过数百万年的进化,才得以在现实世界中生活和行动。因此,我们往往会低估完成最简单事情所需的复杂性。我们错误地认为诸如穿过门和拿起电动工具之类的行为很简单,因为我们觉得它们很简单。同样,我们发现某些事情(例如在脑海中将 82 乘以 17)很困难,即使对于计算机/机器来说,这都是基本的。

这造成了一种认知偏差:如果机器可以做我们觉得困难的事情,我们往往会假设它也可以轻松地做简单的事情。像所有偏差一样,这不一定是真的。

我们还假设存在普遍性偏差:由于我们可以做许多不同的事情,因此我们假设可以做其中一件事情的机器也可以做其他事情。这与计算机研究的进行方式相冲突,计算机研究的重点往往是让计算机做一件事情(部分原因是无法轻易地研究“做所有事情”)。机器的成长环境与我们完全不同,因此它们擅长做不同的事情也不足为奇。

科幻小说仍然……是小说
“人工智能”等同于“计算机(或非人类)是人”的概念可以追溯到古代。诗人奥维德笔下的皮格马利翁爱上了他雕刻的雕像盖拉提亚,如此栩栩如生以至于它(她)活了过来。这个想法仍然很有影响力。好莱坞和一般的虚构作品都喜欢机器人。从《终结者》《人工智能》,从《她》到《真实的人类》,“机器人”是一个很容易用来探索具象身份的复杂问题的比喻。

事实上,机器人(捷克语中的“工人”)并非来自研究,而是来自 1920 年代捷克作家 卡雷尔·恰佩克的戏剧《R.U.R.》,该剧利用了人们普遍对仆人(工人阶级)接管的恐惧。因此,这相当于担心如果兽人接管伦敦会发生什么,或者如何应对僵尸末日:这很有趣,但与现实无关。

计算机不是人
计算机科学家 贾伦·拉尼尔 表示,问题在于计算机作为人的神话,这种神话由于技术世界中占据主导地位的亚文化而得以延续。对机器人的憧憬推动着研究人员不断前进,产生新的成就,这些成就又反过来为虚构作品中的神话构建提供了素材,而这反过来又鼓励了资金和进一步的研究。

在 1960 年代,电影《2001:太空漫游》认为完全人工智能只需 10 到 20 年即可实现,这个数字在之前和之后的所有专家那里都保持着惊人的一致。我们的反应被计算机作为人的神话所引导,促使我们认为这是一个在阻止天网(终结者式)或欢迎我们新的机械统治者之间做出的选择。 在其核心,这些恐惧暴露了关于计算应该是什么的平行和竞争愿景。

早期人工智能先驱艾伦·图灵强烈地表达了计算机是合成人开始的观点:他的图灵测试将人工智能定义为与人类无法区分的人工智能

另一方面,道格拉斯·恩格尔巴特 开创了一个替代愿景:将计算作为一种“增强人类智力”的手段(恩格尔巴特还为我们带来了鼠标、位图屏幕和图形用户界面)。好莱坞最接近恩格尔巴特愿景的电影是尼尔·伯格的电影《永无止境》,其中一种药丸可以让人们利用他们整个大脑的潜在力量。但是,由于仅仅是增强并不会引起虚构作品所要求的哲学问题,因此它不太可能创造出神话般的力量。

如果你担心人工智能和机器的崛起,拉尼尔指出,虽然计算机性能有所提高,但可靠性并没有提高 - 过去 40 年里,故障之间的时间没有太大变化,因此被征服的人类只需等待下一次系统崩溃即可。 而且无论如何,如果 DARPA 的挑战可以说明任何问题,那么关上门似乎对于阻止机器人进入非常有效。

本文最初发表于The Conversation。阅读原文

© . All rights reserved.