本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
在我们能够设计符合伦理道德的人工智能、适当监管人工智能或将任务分配给正确的系统之前，我们需要了解什么是人工智能。机器现在是如何思考的，我们对未来有何期待？哪些任务适合人工智能，哪些不适合，为什么？为了回答这些问题，我们需要对不同类型的智能有细致入微的理解。
人工智能对智能的最初理解可以追溯到托马斯·霍布斯的格言“理性……不过是计算”。这种观点被解释为对符号表示的操纵，催生了第一代人工智能——已故哲学家约翰·豪格兰将其称为“老式好人工智能”，或 GOFAI。另一种智能方法是当代深度学习系统和其他形式的第二波人工智能的基础——这些系统在游戏、面部识别、医疗诊断等方面取得了惊人的成果。
因为这两种方法都涉及对呈现给它们的输入表示进行操纵，所以第一波和第二波人工智能仍然都是计算的形式。但它们在表示的处理上有所不同。GOFAI 植根于经典的逻辑三段论，例如“所有人都是必死的；苏格拉底是人；因此，苏格拉底是必死的。” 逻辑推理系统和定理证明器就是这种类型——程序旨在基于相对少量的信息，对少量强相关的变量进行深入的多步骤推理。
支持科学新闻业
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻业 订阅。通过购买订阅，您正在帮助确保有关塑造我们今天世界的发现和想法的有影响力的故事的未来。
第二波人工智能系统则相反：基于海量数据，对大量弱相关的变量进行浅层推理。正是后一种方法让计算机能够识别朋友的面孔、夕阳和迎面而来的汽车。
第二波人工智能中的表示通常被称为“分布式的”，因为关于世界许多常识性特征的信息分散在这些系统的内部网络中。第二波系统还能够保留惊人的细节量，而不是将它们的输入简化为简单的命题陈述，例如“这是一个苹果”或“那是莱姆病”。例如，除了将 X 射线分类为显示肺癌之外，第二波人工智能系统还可以捕获肿瘤的密度、对比度、形状和其他特征，所有这些都可能与药物选择或预测结果相关。
为什么这种方法效果更好？为什么第二波人工智能在 GOFAI 失败的地方表现出色？答案是本体论的。我们人类如何将世界解析为对象、属性、关系等等——正如我将要说的，我们如何注册世界——部分取决于我们的兴趣、我们的文化、我们的社区、我们的项目。未解释的世界极其混乱。我们用来概念化我们经验的对象和属性不能被视为公理或直接从这种泛滥中“读取”出来，正如第一波人工智能简单地假设的那样。
相反，以相关方式注册世界——并保留保证这些注册的微观细节和细微差别——是智能的一项成就。在某些情况下，例如玩游戏，第二波系统正在学习自行执行此操作。在其他情况下，我们人类首先标记数据（“那是停车标志”或“那是豹猫”），系统学习模仿我们。但总的来说，这种模式匹配和分类是第二波技术的无可否认的优势。
那么，人类的情况又如何呢？第二波人工智能，在更快的处理器、更多的数据和更好的算法的放大下，会达到人工智能的圣杯——通用人工智能，从而产生与人类相等或超越人类的系统吗？
不，它不会。
在最好的情况下，人类拥有判断力——我的意思是，一种经过数千年并在不同文化中锻造的成熟的、开放思想的、审慎思考的能力，作为理性、伦理和深思熟虑的行动的基础。这就是我们说某人“有良好的判断力”时所表达的意思。这是一种我们努力灌输给孩子的能力，是我们用来衡量成年人的标准，也是人类思维最终必须渴望达到的标准。
判断力不仅需要注册世界，还需要以适合环境的方式进行注册。这是一个难以置信的高标准。它要求系统面向世界本身，而不仅仅是它作为输入的表示。它必须能够区分表象与现实——并服从现实作为权威。
必须有利害关系，系统容易受到现实世界威胁。一个具有判断力的系统必须关心它正在思考的内容，必须愿意为真理而战，必须像豪格兰所说的那样，“认真对待”。
这些能力意味着理解并致力于作为一个整体的世界——一个单一的、包罗万象的整体。没有计算系统理解它在说什么；要做到这一点，它必须让每一个对象、属性或事态都对存在于世界中负责。例如，如果我甚至开始认为我面前的咖啡杯自发地向上跳了两英寸——如果我的感知系统要向我的皮层传递这个假设——我不会相信它，不会将证据视为令人信服的。
相反，我会怀疑我是否在没有意识到的情况下眨了眼，是否有人晃动了我的桌子，是否我刚才喝的不是咖啡，或者是否正在发生地震。也就是说，我会意识到一些不可能的事情似乎发生了，但因为不可能的事情不会发生，我会将这种明显的不可能性视为误解或错误的证据。我会寻求纠正那个错误。可能是我的注册方案未能公正地对待世界，需要更换。
换句话说，为了适当地处理上下文，仅仅拥有世界模型、因果模型或其他一些“预先注册”的概念方案是不够的。没有完整的世界模型；没有通用的概念方案。这是第二波人工智能的本体论教训。因此，判断力不仅使注册现象对存在于世界中负责；它还使注册方案本身负责。这些方案必须使世界变得可理解。
拥有判断力就是能够评估任何适用的注册方案——动态地、持续地和始终警惕地。想想为什么我们将育儿委托给成年人。一个孩子，在允许一场灾难发生后，可能会争辩说：“但我做了你说的每一件事！” 并非所有重要的东西都可以说出来。再多的说教，无论多么广泛——没有有限的世界模型——都无法捕捉到所有相关的东西。
总之，判断力需要存在性地委身于世界，对世界的现实负责，并抵御虚假或不可能的事情。一个具有判断力的系统以尊重和谦逊的态度对待托管它的世界、它注册的实体以及整个嵌入式社会。