如果您曾经向聊天机器人提问，却收到了语无伦次的胡言乱语回复，您就已经知道“人工智能”并不总是那么智能。
有时，它也并非完全是人工的。亚马逊最近决定缩减其大肆宣传的“Just Walk Out”购物技术，这项看似科幻的软件实际上在很大程度上要归功于幕后的人工劳动，这就是其中一个教训。
圣克拉拉大学马克库拉应用伦理中心互联网伦理项目主任伊琳娜·雷库说，这种现象被戏称为“伪自动化”，因为它“掩盖了人类的工作，也虚假地抬高了‘自动化’解决方案的价值”。
支持科学新闻事业
如果您喜欢这篇文章，请考虑订阅我们的屡获殊荣的新闻报道以示支持 订阅。通过购买订阅，您将帮助确保未来能够继续讲述关于塑造我们当今世界的发现和想法的具有影响力的故事。
以“Just Walk Out”为例：它承诺提供无缝的零售体验，亚马逊生鲜超市或第三方商店的顾客可以从货架上拿起商品，自动结账，无需排队。但据技术商业网站《The Information》去年发表的一篇文章报道，亚马逊一度在印度拥有超过 1000 名员工，他们负责训练 “Just Walk Out”人工智能模型，并人工审核部分销售额。
一位曾参与“Just Walk Out”技术开发的匿名消息人士告诉该媒体，每 1000 笔顾客交易中，有多达 700 笔需要人工审核。亚马逊对《The Information》对其流程的描述提出异议。一位公司代表告诉《大众科学》，虽然亚马逊“无法透露具体数字”，但“Just Walk Out”注释购物数据的员工“远少于”报道的数量。亚马逊网络服务应用程序副总裁迪利普·库马尔在 4 月 17 日的博客文章中写道，“这与任何其他高度重视准确性的人工智能系统没有什么不同，在这些系统中，人工审核员是很常见的。”
美国亚马逊生鲜超市退休这项技术的消息——转而采用让顾客在购物时扫描商品的购物车——重新引发了人们对硅谷炒作背后令人不安的真相的关注。被誉为能够自动化完成枯燥或危险工作的技术，可能仍然需要人工参与，或者正如一位彭博社专栏作家所说，人工智能软件“通常需要大批人类保姆”。
这绝非什么新鲜事。纵观历史，精明的发明家和企业家一直试图将“自动化”的标签贴在实际上只是普通人类活动的东西上。以“机械土耳其人”为例，这是发明家沃尔夫冈·冯·肯佩伦在 1770 年代初期首次推出的身穿长袍的机器人。正如《Atlas Obscura》记载的那样，冯·肯佩伦会告诉观察者，这台人形机器可以下完整的国际象棋，并打开自动机展示内部的时钟装置。
但机械土耳其人是一个骗局。正如许多当时的观察家开始怀疑的那样，一个人为操作员躲在棋盘下方的隔间里，借助烛光控制着它的动作。时钟装置只是为了给容易被糊弄的观众看的幌子。
约瑟夫·拉尼茨 (Joseph Racknitz) 于 1789 年创作的《论冯·肯佩伦先生的国际象棋棋手及其仿制品》。
Eraza Collection/Alamy Stock Photo
或许具有讽刺意味的是，亚马逊现在运营着一个同名平台，允许公司众包需要人类判断的零散在线任务，例如标记现代人工智能系统学习所用的训练数据。毕竟，模仿最初的机械土耳其人的闹剧——名义上是自动化系统，但实际上依赖于人工帮助的系统，或者杰夫·贝佐斯曾经称之为的“人工人工智能”——是现代网络的常见特征，在现代网络中，技术复杂性的光环有时比技术复杂性本身更重要。
北伊利诺伊大学媒体研究教授、《机器问题：关于人工智能、机器人和伦理的批判性视角》一书的作者大卫·冈克尔说：“将无生命物体赋予生命的想法由来已久，而且似乎是非常人性化的渴望。” 他指出，从玛丽·雪莱 1818 年的小说《弗兰肯斯坦》到2014 年的电影《机械姬》等各种故事，他补充说，“在这些故事和场景中，我们扮演了上帝的角色，用无生命的物质创造新的生命。而且，实现这一结果的愿望似乎如此持久且不可避免[以至于]我们愿意欺骗和蒙蔽自己，以使其成为现实。”
即使在 ChatGPT 和 DALL-E 等产品掀起当前人工智能热潮之前，这种动态也曾在不太雄心勃勃的人工智能产品中上演。想想 X.ai，这家公司曾经吹嘘一种可以安排会议和发送电子邮件的自动化个人助理。彭博社在 2016 年报道称，X.ai 的软件之所以如此栩栩如生，原因在于它实际上是活生生的：在幕后，人类培训师正在审核几乎所有收到的电子邮件。那个时代的其它礼宾和个人助理程序也同样依赖于人工，彭博社的报告指出，风险投资的吸引力可能促使初创公司将普通的工作流程包装成尖端技术。
这种动态在我们日益增长的在线生活中不断上演。那个运送沙拉到您家门口的送餐机器人，实际上可能是一位年轻的电子游戏爱好者在远处操控它。您可能认为社交媒体算法正在筛选出色情内容和猫咪表情包，但实际上是某处办公室的人工审核员在做出最艰难的决定。
雷库说：“这不仅仅是一个营销吸引力的问题。这也反映了当前在产品实际按预期或广告宣传的那样工作之前就将其推向市场的趋势。一些公司似乎将‘机器内部的人’视为自动化解决方案改进之前的过渡步骤。”
近几个月来，围绕生成式人工智能的炒作为人们创造了令人兴奋的新机会，可以将日常的人工劳动掩盖在闪亮、公关友好的伪自动化外衣之下。例如，今年早些时候，互联网上爆发了一场关于已故喜剧演员乔治·卡林的一部遗作单口喜剧特辑的轩然大波，据称该特辑使用机器学习程序模拟了这位已故喜剧演员的幽默感，该程序是根据他的作品训练出来的。但后来，在卡林遗产委员会提起诉讼的威胁下，该视频的创作者之一通过一位发言人承认，所谓的 AI 生成的笑话实际上是由一个普通人写的。
这是延续了数百年的传统中的最新例证，这个传统继续吸引和迷惑着毫无戒心的消费者：人类假装成机器，机器又假装成人类。