人工智能将服务于人类，而非奴役人类

人类是唯一制造机器的动物。通过这样做，我们将自身的能力扩展到生物学极限之外。工具使我们的双手变得更加多功能。汽车让我们旅行得更快，飞机赋予我们翅膀。计算机赋予我们更大的大脑和记忆容量，智能手机协调着日常生活。现在，我们正在创造一种技术，它可以通过将通过数据和努力学习的能力编码到其中来实现自我进化。它最终会取代我们吗？还是会增强我们的能力，以前所未有的方式提升我们的人性？

机器学习始于20世纪50年代，先驱科学家弗兰克·罗森布拉特构建了一个可以学习识别数字的电子神经元，以及阿瑟·塞缪尔，他的跳棋程序通过与自己对弈来学习，直到能够击败一些人类。但直到过去十年，该领域才真正起飞，为我们带来了自动驾驶汽车、能够理解我们命令（在一定程度上）的虚拟助手以及无数其他应用。

我们每年都会发明数千种新算法，这些算法是指示计算机执行操作的指令序列。然而，学习型机器的标志是，我们不是详细地对其进行编程，而是给它们设定一般目标，例如“学习下跳棋”。然后，像人类一样，它们通过经验得到改进。这些学习算法倾向于分为五个主要类别，每个类别都受到不同科学领域的启发。毫不奇怪，机器学习的一种方式是通过进化算法来模仿自然选择。在哥伦比亚大学的创意机器实验室，原始机器人尝试爬行或飞行，性能最佳的机器人的规格会定期混合和变异，以3D打印下一代。从几乎无法移动的随机组装的机器人开始，经过数千或数万代，这个过程最终产生了诸如机器人蜘蛛和蜻蜓之类的生物。

支持科学新闻事业

如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻事业 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。

但进化是缓慢的。深度学习是目前最流行的机器学习范式，它从大脑中汲取灵感。我们从神经元工作原理的高度简化的数学模型开始，然后从数千或数百万个这样的单元构建一个网络，并通过逐渐加强神经元在查看数据时一起放电的连接来让它学习。这些神经网络可以识别面孔、理解语音并以惊人的准确度翻译语言。机器学习也借鉴了心理学。与人类一样，这些基于类比的算法通过在记忆中找到相似的问题来解决新问题。这种能力允许客户支持的自动化，以及根据您的口味推荐产品的电子商务网站。

机器也可以通过自动化科学方法来学习。为了推导出一个新的假设，符号学习器会反转演绎的过程：如果我知道苏格拉底是人，那么我还需知道什么才能推断出他是必死的？知道人是必死的就足够了，然后可以通过检查数据中其他人类是否也是必死的来检验这个假设。瑞典查尔姆斯理工大学的生物学家机器人夏娃已经使用这种方法发现了一种潜在的新型疟疾药物。夏娃从有关该疾病的数据和分子生物学的基础知识入手，提出了关于哪些药物化合物可能有效的假设，设计了实验来测试它们，在机器人实验室中进行了实验，修改或放弃了假设，并重复进行，直到满意为止。

最后，学习可以完全依赖于数学原理，其中最重要的原理是贝叶斯定理。该定理指出，我们应该根据我们的知识为假设分配初始概率，然后让与数据一致的假设变得更可能，而与数据不一致的假设变得不太可能。然后，它通过让所有假设投票来进行预测，更可能的假设权重更大。贝叶斯学习机器在某些医疗诊断方面的准确性超过了人类医生。它们也是许多垃圾邮件过滤器和谷歌用于选择向您展示哪些广告的系统的核心。

这五种机器学习中的每一种都有其优点和缺点。例如，深度学习擅长视觉和语音识别等感知问题，但不擅长获取常识知识和推理等认知问题。对于符号学习，情况则相反。进化算法能够解决比神经网络更难的问题，但解决这些问题可能需要很长时间。类比方法可以仅从少量实例中学习，但在给出关于每个实例的过多信息时容易感到困惑。贝叶斯学习最适合处理少量数据，但在大数据情况下可能会非常昂贵。

这些令人烦恼的权衡取舍是机器学习研究人员正在努力结合所有范式最佳元素的原因。就像万能钥匙可以打开所有锁一样，我们的目标是创建一个所谓的万能算法——一种可以学习从数据中提取的所有内容，从中推导出所有可能的知识的算法。

我们现在面临的挑战类似于物理学家面临的挑战：量子力学在描述最小尺度上的宇宙方面是有效的，而广义相对论在最大尺度上是有效的，但两者是不相容的，需要调和。就像詹姆斯·克拉克·麦克斯韦在粒子物理学的标准模型被开发出来之前首次统一了光、电和磁一样，包括我在华盛顿大学的研究小组在内的不同研究小组已经提出了统一两种或多种机器学习范式的方法。由于科学进步不是线性的，而是以断断续续的方式发生的，因此很难预测万能算法的完全统一何时可能完成。无论如何，实现这个目标不会迎来一个新的、占主导地位的机器种族。相反，它将加速人类进步。

机器接管？

一旦我们获得了万能算法，并将其输入我们每个人产生的大量数据，人工智能系统就有可能学习到非常准确和详细的个人模型：我们的品味和习惯、优点和缺点、记忆和愿望、信仰和个性、我们关心的人和事，以及我们在任何给定情况下会如何反应。对我们的模型基本上可以预测我们将做出的选择，这既令人兴奋又令人不安。

许多人担心，具有这些能力的机器会利用它们新获得的知识来夺走我们所有的工作，奴役我们，甚至消灭我们。但这不太可能发生，因为它们没有自己的意志。基本上，所有人工智能算法都由我们编程的目标驱动，例如“找到从酒店到机场的最短路线”。这些算法与普通算法的区别在于，它们在弄清楚如何实现我们为它们设定的目标方面具有很大的灵活性，而不需要执行预定义的步骤序列。即使它们随着经验的积累而变得越来越擅长这项任务，目标仍然不变。不朝着目标取得进展的解决方案会自动被丢弃。此外，人类可以检查机器产生的东西是否确实满足我们的目标。我们也能够验证机器是否违反了我们对它们施加的任何约束，例如“遵守交通规则”。

然而，当我们设想人工智能时，我们倾向于将诸如意志和意识之类的人类品质投射到它身上。我们大多数人也更熟悉类人人工智能，例如家用机器人，而不是在幕后工作的无数其他类型。好莱坞通过将机器人和人工智能描绘成伪装的人类来加剧这种看法——这是一种可以理解的策略，它使故事更引人入胜。人工智能只是解决难题的能力——这项任务不需要自由意志。它不太可能反过来对付我们，就像你的手不太可能打你一样。像任何其他技术一样，人工智能将永远是我们自身的延伸。我们能够使它们变得越强大越好。

那么，我们的人工智能驱动的未来会是什么样子呢？智能机器确实会取代许多工作，但对社会的影响可能类似于以前的自动化形式。两百年前，大多数美国人是农民。然而今天，机器已经取代了几乎所有农民，而没有造成大规模失业。末日预言家认为这次不同，因为机器正在取代我们的大脑，而不仅仅是我们的体力，这使得人类无事可做。但是，人工智能能够完成我们能够完成的所有任务的那一天仍然非常遥远，即使它真的会到来。在可预见的未来，人工智能和人类将擅长不同的事情。机器学习的主要影响将是大大降低智能的成本。这种民主化将增加智能的经济可行用途的多样性，创造新的工作岗位，并将旧的工作岗位转变为用相同数量的人力完成更多的工作。

然后是未来学家雷·库兹韦尔推广的“奇点”情景。这是一种不断加速的技术进步：机器学习制造更好的机器，而更好的机器反过来又制造出更好的机器，依此类推。但我们知道这种情况不可能永远持续下去，因为物理定律严格限制了即使是量子计算机也可能有多强大，而且在某些方面，我们离达到这些限制已经不远了。人工智能的进步，就像其他一切进步一样，最终会趋于平缓。

未来学家中流行的另一种愿景是，我们的计算机模型将变得如此之好，以至于它们实际上与真实事物无法区分。在这种情景中，我们可以将自己上传到云端，并作为软件片段永远存在下去，摆脱物理世界的烦人约束。这种情景的一个问题是，它可能在生物学上不可行。要上传你自己，你大概需要一个准确的你每个神经元的模型，连同它们存储的记忆。它必须被如此可靠地捕获，以至于模型的预测不会迅速偏离真实神经元的行为——这确实是一个艰巨的任务。

但即使这是一个现实的选择，如果你有机会，你真的会上传你自己吗？你如何才能确定你的模型没有遗漏你的一些基本部分——或者它根本就没有意识？如果一个小偷以最绝对和最完整的意义上偷走了你的身份怎么办？我相信人们会选择尽可能长时间地坚持他们糊状的、碳基的自我——计算机科学家开玩笑地称之为“湿件”——然后就此罢休。

寻找人类

人工智能——尤其是机器学习——实际上只是人类进化的延续。在《延伸的表型》中，理查德·道金斯展示了动物的基因如何控制其身体以外的环境，从杜鹃蛋到海狸水坝，这是多么常见。技术是人类延伸的表型，而我们今天正在构建的是我们技术外骨骼的另一层。我认为人类使用人工智能的最有可能的场景比通常的推测更令人着迷。

在十年左右的时间里，我们每个人都可能会有一个“数字替身”，这是一个人工智能伴侣，它将比我们今天的智能手机更加不可或缺。您的数字替身不需要与您一起物理移动；很可能它会像您的许多数据已经存在的那样，生活在云端的某个地方。我们可以在诸如 Siri、Alexa 和 Google Assistant 等虚拟助手中看到它的开端。您的数字替身的核心将是您的模型，该模型是从您与数字世界互动中生成的所有数据中学习而来的，从台式电脑和网站到可穿戴设备和环境传感器，例如智能扬声器、恒温器、手机信号塔和摄像机。

我们的学习算法变得越好，我们向它们提供的个人数据越多，我们的数字替身就会变得越准确。一旦我们拥有了万能算法，然后将其与通过增强现实头戴设备和其他个人传感器连续捕获的您的感觉运动流相结合，您的替身就会成长为比您最好的朋友更了解您。

模型和数据将由“数据银行”维护，这与存储和投资您资金的传统银行没有什么不同。许多现有公司肯定很乐意为您提供该服务。谷歌联合创始人谢尔盖·布林曾表示，谷歌希望成为“你大脑的第三部分”，但你可能不希望你大脑的一部分通过向你展示广告来维持生存。您最好由一家利益冲突较少的新型公司或您与志同道合的人组成的数据联盟来为您服务。

毕竟，对人工智能的中心担忧不是它会自发地变成邪恶，而是控制它的人类会滥用它（cherchez l’humain，正如法国人可能会说的那样——“关注人类”）。因此，您的数据银行的首要职责是确保您的模型永远不会被用来损害您的利益。您和数据银行都必须警惕监控人工智能犯罪，因为这项技术将像任何人一样赋予坏人权力。我们将需要人工智能警察（威廉·吉布森在他的 1984 年著作《神经漫游者》中称之为图灵警察）来抓捕人工智能罪犯。

如果您不幸生活在专制政权下，这种情况可能会带来前所未有的危险，因为它将使政府能够以前所未有的方式监控和约束您。鉴于机器学习的进展速度以及已经使用的预测性警务系统，少数派报告情景——在人们即将犯罪时对其进行先发制人的逮捕——不再显得牵强。然后是随着世界适应数字替身的生活节奏而产生的不平等影响，在我们所有人都有能力负担得起数字替身之前。

作为个人，我们的首要职责将是不变得自满，并且不要过分信任我们的数字替身。从外部来看，人工智能可能看起来是客观的，甚至是完美的，但从内部来看，它们与我们一样有缺陷，甚至更多，只是方式不同。例如，人工智能缺乏常识，并且很容易犯下人类永远不会犯的错误，例如将过马路的人误认为是随风飘动的塑料袋。它们也容易过于字面地理解我们的指示，给我们我们所要求的，而不是我们真正想要的。（因此，在告诉您的自动驾驶汽车不惜一切代价准时送您到机场之前，请三思而后行。）

实际上，您的数字替身将与您足够相似，可以在各种虚拟互动中取代您。它的工作不是为您生活，而是为您做出所有您没有时间、耐心或知识做出的选择。它将阅读亚马逊上的每一本书，并推荐您最有可能想自己阅读的几本书。如果您需要汽车，它将研究各种选择并与汽车经销商的机器人讨价还价。如果您正在找工作，它将为所有符合您需求的职位进行自我面试，然后为您安排最有希望的职位的现场面试。如果您被诊断出患有癌症，它将尝试所有潜在的治疗方法，并推荐最有效的方法。（让您的数字替身参与医学研究也是您的道德责任。）如果您正在寻找浪漫伴侣，您的替身将与所有符合条件的替身进行数百万次虚拟约会。在网络空间中一见钟情的配对可以然后在现实生活中约会。

本质上，您的替身将在网络空间中度过无数种可能的生活，以便您在物理世界中度过的唯一一种生活很可能是最好的版本。您的模拟生活是否在某种程度上是“真实的”，以及您的网络自我是否具有某种意识（正如某些黑镜剧集的情节所描绘的那样）是有趣的哲学问题。

有些人担心这意味着我们将生活的控制权交给了计算机。但实际上，这给了我们更多的控制权，而不是更少，因为它使我们能够做出以前无法做出的选择。您的模型还将从每次虚拟体验的结果中学习（您喜欢这次约会吗？您喜欢您的新工作吗？），以便随着时间的推移，它将更擅长建议您自己会选择的东西。

事实上，我们已经习惯于我们的大部分决策都是在没有我们有意识的干预下发生的，因为这就是我们现在的大脑所做的事情。您的数字替身将像一个大大扩展的潜意识，但有一个关键区别：您的潜意识独自生活在您的头骨内，而您的数字替身将不断地与其他人和组织的潜意识互动。每个人的替身都将不断尝试学习彼此的模型，它们将形成一个模型社会，以计算机速度生活，向各个方向扩展，弄清楚如果我们在那里我们会做什么。

我们的机器将成为我们的侦察兵，为我们个人和作为一个物种开辟通往未来的道路。它们将把我们引向何方？我们将选择去哪里？