2014年，在纽约州伊萨卡市的山上，一辆卡车司机刹车失灵，不得不在碾压建筑工人或冲进咖啡馆之间做出选择。该男子选择了后者，一名酒保丧生。这是一个现实生活中的案例，也是道德哲学家最喜欢的思想实验之一：“电车难题”。哥伦比亚大学教授霍德·利普森和科技记者梅尔巴·库尔曼在他们的著作《无人驾驶：智能汽车与未来之路》中，将其作为一个例子，说明自动驾驶汽车的设计者必须为之准备的可怕困境。
今天，由麻省理工学院媒体实验室的博士后埃德蒙·阿瓦德领导的团队发布了其在线游戏化版本的困境——“道德机器”实验的结果。全球约 230 万志愿者参与了近 4000 万个场景，对失控的自动驾驶汽车事故中谁应该生、谁应该死做出判断。（这项众包实验的结果于 10 月 24 日在《自然》杂志上报道。）
幸运的是，这种最严峻形式的困境是罕见的，而且总体上更安全的自动驾驶汽车可能会使其更加罕见。但许多哲学家和工程师认为，这将隐含在自动驾驶汽车在道路上必须做出的日常选择中。加州州立理工大学圣路易斯奥比斯波分校的哲学教授帕特里克·林说：“我认为，核心问题每天都会在现实世界中发生多次，只不过不是在疯狂的撞车困境中。”林教授专门研究新兴技术的伦理，但并未参与这项研究。实际上，驾驶员已经做出了这样的选择，而且常常没有意识到。从统计意义上讲，每一次“加州停车”、“匹兹堡左转”或其他可疑的操作都是杀死某人一部分的选择。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保未来能够继续报道关于发现和塑造我们当今世界的想法的具有影响力的故事。
“道德机器”网站向用户展示了一个卡通，一辆汽车冲向人行横道上的行人，他们可以决定转向并碾压另一群人。有时，另一种选择是混凝土障碍物，这将导致车内人员死亡。与电车难题的其他一些版本不同，这两种选择都是直接在两组受害者之间做出选择，而没有想象将人推入危险境地的额外复杂性。没有时间压力，因此您可以权衡这两种选择。潜在的受害者在数量、年龄、性别和其他特征方面各不相同。他们可能被展示为拄着拐杖走路、推着婴儿车或提着一袋赃款，行人可能会根据或违反人行信号灯穿过马路。您可能会看到一辆只装满猫和狗的汽车——毕竟它是自动驾驶的。
该网站于 2016 年 6 月上线，作者展示了他们截至去年 12 月收集的数据。关于它的消息主要通过口口相传传播，但也通过著名的 YouTube 用户 PewDiePie 和 jacksepticeye 传播。为了了解您的决定与其他人的决定相比如何，您必须填写一份人口统计问卷，有 50 万人这样做。他们以男性为主（男女比例为三比一），且年轻（年龄高峰为 18 岁）。
他们对该怎么做达成了广泛的共识。他们强烈倾向于拯救人类而不是宠物，群体而不是单个人，孩子而不是老人，遵守法律的行人而不是乱穿马路的人，以及提着公文包的人而不是穿着破旧外套的驼背身影。他们对女性相对于男性、行人相对于汽车乘客以及慢跑者相对于超重人群的偏好也较温和。驾驶员转向的可能性与让汽车继续按当前路线行驶的可能性一样大——他们对不作为没有偏见。“那是他们最不关心的问题，”不列颠哥伦比亚大学的该研究作者之一阿齐姆·谢里夫说。
人口统计群体和国籍之间只在他们对不同因素的强调程度上存在分歧。例如，男人和女人都将男人置于不利境地，但男人这样做的倾向略低。“在任何这些道德维度中，例如，平均而言，老年人比年轻人更受青睐，或者平均而言，行动优先于不作为，都没有地位，”谢里夫说。“只是，与其他道德优先事项相比，某些国家在那个方向上的道德优先事项被认为较少。”
研究人员发现，各国分为三个不同的集群。例如，拉丁美洲最优先考虑年轻人，欧洲和北美次之，亚洲最少。可以肯定的是，地理位置并不总是决定命运。捷克人的反应像拉丁美洲人，斯里兰卡人的反应像西欧人。
国家差异追踪了其他指标，例如收入，研究人员认为这证明了以年轻男性为主的受访者普遍代表了他们的国家。来自较贫穷国家的人不太倾向于撞倒乱穿马路的人；来自高不平等国家的人更尊重提公文包的人；而来自性别平等的国家的人对女性更具骑士风度。最后一种倾向有一个奇怪的后果：由于平均偏好已经向女性倾斜，性别平等的国家更加倾斜。因此，性别平等的国家实际上在这个游戏中性别最不平等。
最能说明问题的分歧不是在世界各国人民之间，而是在他们与专家之间。“他们 [人们] 提出了一些不道德的行为，例如优先考虑狗而不是罪犯，”弗吉尼亚交通研究委员会的研究科学家诺亚·古德尔说。人们对电车难题（以及许多其他问题）的道德本能是出了名的不一致。在早先的一系列研究中，谢里夫和另外两位“道德机器”的合著者——图卢兹经济学院的让-弗朗索瓦·博内方和媒体实验室的伊亚德·拉赫万——调查了近 2000 人对自动驾驶汽车的看法。参与者表示，他们认为汽车应该平等地重视乘车人和行人的生命，但他们自己更愿意购买优先考虑乘车人的汽车。“我们认为，这是这些自动驾驶汽车的社会困境的一部分，”谢里夫说。
去年，德国交通部采纳了一个由 14 名成员组成的伦理委员会的建议，禁止使用性别或年龄来解决电车难题。“我在‘道德机器’实验中看到的巨大价值在于，它有助于找出我们需要解决的关键分歧领域，”林说。如果有时间反思，大多数受访者很可能会同意专家的观点。“我们不知道人们在网上玩游戏时的偏好如何转化为实际行为，”谢里夫说。
许多道德哲学家也比调查参与者更强烈地区分行动和不作为。“如果你必须在两种罪恶之间做出选择，一种是杀戮，另一种是让死亡发生，”林说，“那么让某人死亡是一种较小的罪恶——这就是为什么在电车难题中不作为是可以接受的。”他说，默认不作为是有限制的——如果选择是在一个人和 10 个人之间呢？——但调查参与者偏爱的功利主义计算也是如此。在一篇 2015 年的论文中，他引用了撞击戴头盔的骑自行车者与不戴头盔的骑自行车者之间的困境。戴头盔的人更有可能活下来——但如果那是决定性因素，谁还会戴头盔呢？（事实上，一些骑自行车的人已经将驾驶员对头盔的反应作为不戴头盔的借口。）
怀疑论者反对说，整个练习过于简单化，没什么用处。“这些情景是貌似合理的，但只是勉强而已，”古德尔说。它们暗示了一连串不大可能发生的故障：在行人区以高速公路速度行驶时刹车失灵。更糟糕的是，它们假设了完美的知识和明确的结果，而我们通常在认知迷雾中运作。“尽管作者承认这是一个缺点，但他们没有意识到这是一个致命的缺点，”代尔夫特理工大学的教授艾米·范·温斯伯格说，她专门研究技术伦理。她认为，自动驾驶汽车应该限制在专用高速公路上行驶，在那里它们不需要进行繁琐的道德计算。
不过，林认为该项目就像任何其他科学实验一样，将问题剥离到本质，使其易于处理。“是的，它像大多数科学实验一样是人为的和不自然的，但这并不能说明它是否有用，”他说。电车难题让人们可以讨论几个有争议的原则：不作为是否等同于行动；所涉人数是否重要；以及某些生命是否比其他生命更有价值。现在是汽车公司考虑这些权衡的时候了，赶在沉迷于手机的乱穿马路者走上街头之前。“他们正在提前一到五年编写这些决策脚本，”林说。“如果他们真的陷入撞车困境，他们有比真人更多的时间。”
谢里夫说，“道德机器”也可以用于机器伦理的其他问题，例如法院和假释委员会用来预测累犯风险的算法。一个系统可能更准确——降低总体犯罪率并减少被监禁的人数——但如果这种减少没有在种族或其他类别中均匀发生，则会不太平等。人们认为这是一个可以接受的权衡吗？“我们应该优先考虑准确性，还是应该优先考虑平等，即使这意味着为了实现平等而让更多人不必入狱？”他补充道。顾名思义，困境没有简单的解决方案，但我们至少应该认真考虑各种选择，并能够为我们选择的任何一种辩护。