以下文章经许可转载自The Conversation，这是一个报道最新研究的在线出版物。
当附近一辆车在路上来回不定地晃动，仿佛司机喝醉了时，自动驾驶汽车应该怎么做？如果遇到一辆逆向行驶的车辆又该怎么办？在自动驾驶汽车上路之前，每个人都应该知道它们在意外情况下会如何反应。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保未来能够继续讲述关于塑造我们当今世界的发现和想法的重要故事。
我开发、测试和部署自动驾驶班车，寻找确保自动驾驶汽车安全可靠的方法。但是，没有哪个测试跑道能像这个国家实际的道路一样，也没有办法像对现代人工驾驶汽车那样彻底地测试这些新机器，后者每年都有数万亿英里的行驶里程，持续了几十年。当自动驾驶汽车真的上路时，它们会发生碰撞，碰撞的方式既有严重的，也有轻微的。然而，它们的所有决定都是电子化的，那么人们如何才能确信它们行驶是安全的呢？
幸运的是，有一种通用的、流行的且经过充分研究的方法可以确保新技术对公众使用是安全有效的：新药的测试系统。基本方法包括确保这些系统能够实现其预期目的，而不会产生任何严重的负面副作用——即使研究人员并不完全了解它们是如何工作的。
广泛的影响
自动驾驶汽车预计将提高道路安全、解放驾驶员的时间和注意力，并改变城市甚至社会。
为自动驾驶汽车制定的法规将产生巨大的影响，这些影响将波及整个经济和社会。这些规则很可能来自当前的两个汽车监管机构的某种组合，即联邦国家公路交通安全管理局和州交通部门。
联邦规则主要侧重于车辆的结构、机械和电气部件的安全标准，如安全气囊和安全带。各州可以执行自己的安全规则——例如，监管排放，处理驾驶员执照和车辆登记，其中通常还包括要求购买保险。
当前的法规
今天的州和联邦规则将驾驶员和汽车视为独立的实体。但自动驾驶汽车，顾名思义，是将两者结合起来。如果这些法规之间没有一致性，就会造成混乱。
奥巴马政府提出了116页的法规，其中有很多细节，但对自动驾驶汽车的工作原理知之甚少。例如，他们要求每辆车都贴上永久性的、人类可读的标签，列出其特定的自动驾驶能力，包括速度限制、特定高速公路和天气条件，所有这些都会让用户感到非常困惑。这些法规还呼吁“有意识和有目的地”做出道德决策——这对于机器来说，即使并非不可能，也是值得怀疑的。
特朗普政府将规则简化为26页，但尚未解决自动驾驶汽车测试的重要问题。
检查算法
测试算法非常像测试药物。在这两种情况下，研究人员并不总是能确切地知道某事物为何有效（尤其是在机器学习算法的情况下），但仍然可以评估结果：病人服用药物后是否会好转？
美国食品和药物管理局要求对药物进行测试，不是为了测试其治疗机制，而是为了测试结果。两个主要标准是有效性——药物治疗预期病症的效果如何——以及安全性——任何副作用或其他问题的严重程度。通过这种方法，有可能在不知道药物如何起作用的情况下，证明药物是安全有效的。
同样，联邦法规可以——而且应该——要求对自动驾驶汽车的算法进行测试。迄今为止，政府已经对汽车作为机器进行了测试，确保转向、制动和其他功能正常工作。当然，政府也有针对人类驾驶员的测试。
一台既能充当汽车又能充当驾驶员的机器应该通过这两种类型的测试——特别是对于不允许人类驾驶员操控的车辆。
评估判断力
我认为，在允许任何特定的自动驾驶汽车上路之前，NHTSA应该要求汽车及其驾驶算法的测试结果，以证明它们是安全可靠的。目前最接近的标准是加利福尼亚州的要求，即所有自动驾驶汽车制造商都必须提交年度报告，说明在算法未能正常运行时，人类驾驶员不得不接管车辆控制的次数。
这是一个良好的开端，但它并没有告诉监管机构或公众，当人类接管控制权时，车辆正在做什么，或者周围发生了什么。测试应该检查算法指示汽车在有卡车的freeway上，以及在有动物、孩子、行人和骑自行车者的社区中做什么。测试还应关注当车辆性能和传感器输入受到雨、雪或其他天气条件影响时，算法会做什么。汽车应该在临时施工区、四向交叉路口、逆向行驶的车辆以及警察发出与交通信号灯相矛盾的指示等场景中运行。
人类驾驶考试包括对驾驶员的判断力和决策能力的一些评估，但自动驾驶汽车的测试应该更加严格，因为无法依赖以人为中心的直觉、本能反应或自我保护等概念。机器采取的任何行动都是一种选择，公众应该清楚地了解这些选择是安全选择的可能性。
与人类比较
自动驾驶汽车的算法不断计算概率。某个特定形状是人的可能性有多大？传感器数据意味着这个人正在走向道路的可能性有多大？这个人会走到街上的可能性有多大？汽车能在撞到她之前停下来的可能性有多大？事实上，这与人脑的工作方式相似。
这为测试自动驾驶汽车以及制造商可能分发给已上路车辆的任何软件更新提供了一个直接的机会：他们可以向人类测试驾驶员和自动驾驶算法呈现相同的场景，并监测他们在多次试验中的表现。任何表现得与人类一样好，甚至更好的自动驾驶汽车，都可以被认证为可以安全上路。这与药物测试中使用的方法非常相似，在药物测试中，新药的性能是根据现有的疗法和已知无效的方法（如典型的安慰剂糖丸）进行评估的。
公司应该可以自由地在他们的封闭跑道上测试他们想要的任何创新，甚至在有安全驾驶员随时准备接管方向盘的公共道路上进行测试。但在自动驾驶汽车成为任何人都可以购买的常规产品之前，应该向公众展示其安全性、可靠性和有效性的明确证据。
本文最初发表于The Conversation。阅读原文。