一辆载着一家四口的自动驾驶汽车在一条乡村双车道公路上行驶，发现前方有一个弹跳的球。当汽车靠近时，一个孩子跑出来捡球。汽车应该冒险让乘客丧生，转向路边陡峭的悬崖吗？还是汽车应该继续行驶，以牺牲孩子的生命为代价来确保乘客的安全？根据周四发表在《科学》杂志上的一项研究，这种情况和许多其他情况提出了汽车制造商、购车者和监管机构在车辆被赋予完全自主权之前必须解决的道德和伦理困境。
该研究强调了随着无人驾驶技术加速发展，汽车制造商、购车者和监管机构面临的悖论。《科学》报告中1928名研究参与者中的大多数人表示，他们认为车辆应该被编程为撞向物体而不是碾压行人，即使这意味着杀死车辆的乘客。“控制[自动驾驶汽车]的算法需要嵌入道德原则，以指导他们在不可避免的伤害情况下的决策，”来自麻省理工学院、俄勒冈大学和法国图卢兹经济学院以及国家科学研究中心的研究人员表示。
然而，许多相同的研究参与者对购买此类汽车的想法犹豫不决，他们更愿意乘坐优先考虑自身安全而非行人安全的无人驾驶汽车。研究人员得出结论，如果立法者在监管自动驾驶汽车时优先考虑行人而非乘客，人们购买这些汽车的可能性就会降低。尽管研究表明自动驾驶汽车有可能减少交通、减少污染并每年拯救数千人的生命——人为错误导致90%的交通事故，但无人驾驶汽车市场的萎缩将减缓其发展。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
研究人员的调查问题主要基于一个被称为“电车难题”的伦理思想实验。据俄勒冈大学心理学助理教授、加州大学尔湾分校文化与道德实验室主任阿齐姆·谢里夫称。电车难题有几种变体，但它们大多提出假设情景，其中一辆电车即将碾过一群人。一个观看事件发生的人必须在牺牲一个人以造福群体或以群体为代价保护个人的干预措施之间做出选择。谢里夫与图卢兹经济学院心理学家让-弗朗索瓦·博讷丰和麻省理工学院媒体实验室副教授伊亚德·拉赫万一起进行了这项研究。
一些观察家认为，《科学》研究的一个主要缺陷是，它没有考虑到为控制无人驾驶汽车而开发的人工智能实际上是如何工作的。“伦理问题已成为不从事这项技术的人们的热门话题，”卡内基梅隆大学CyLab电气与计算机工程教授、该大学开发自动驾驶汽车（包括赢得2007年DARPA城市挑战赛的Boss SUV）的资深人士拉古纳坦“拉杰”·拉吉库马尔说。“人工智能不具备我们人类所拥有的认知能力，”他补充道。拉吉库马尔没有参与《科学》研究。
相反，自动驾驶汽车会根据速度、天气、路况、距离以及摄像头、激光雷达和雷达等各种传感器收集的其他数据做出决策。例如，自动驾驶汽车将根据其行驶速度以及路径中物体的速度来计算行动路线。主要挑战在于足够快地收集和处理必要的数据，以首先避免危险情况。拉吉库马尔承认这并非总是可能，但他怀疑在这种情况下，最终将由车辆本质上决定谁生谁死。“我对自动驾驶汽车更大的担忧是保护它们免受可能想要在有人在车上时接管其控制权的黑客的侵害，”他补充道。
谢里夫和他的同事也承认，他们对无人驾驶汽车道德困境的讨论是一项正在进行的工作。他们周四启动了一个名为道德机器的网站，以帮助收集更多关于人们希望自动驾驶汽车在乘客和行人安全发生冲突的不同情况下如何反应的信息。该网站允许参与者比较他们的反应，甚至允许通过修改涉及的人数和类型以及他们在事故发生时是否遵守交通规则来构建新的场景。