随着人工智能的进步，专家警告 其可能导致人类灭绝。 这究竟将如何发生仍然是一个 推测的问题——但不难看出，智能机器人可以建造更多同类，改进自身设计并追求自身利益。 而这可能对人类构成威胁。
上周，人工智能安全峰会在英国布莱切利园举行。 峰会旨在解决与 最先进的人工智能技术相关的 一些威胁，其中包括“失控”风险——即此类系统可能变得独立的可能性。
我们有必要根据我们已知的知识来预测这种情况。 能够独立行动并升级自身设计的机器将受到与细菌、动物和植物相同的进化规律的约束。 因此，进化论可以教给我们很多关于人工智能可能如何发展，以及如何确保人类在其崛起中生存的知识。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。 通过购买订阅，您将帮助确保有关塑造我们当今世界的发现和思想的具有影响力的故事的未来。
第一个教训是，从长远来看，没有免费的午餐。 不幸的是，这意味着我们不能期望人工智能会创造一个人间天堂般的世界，在那里，人类的每一个需求都由机器人仆人来满足。 大多数生物都生活在生存的边缘，尽其所能地勉强生存。 今天，许多人确实过着更加舒适和富裕的生活，但进化史表明，人工智能可能会扰乱这种情况。 根本原因是 竞争。
这种论点 可以追溯到达尔文，并且比仅仅适用于人工智能更广泛。 然而，使用基于人工智能的场景可以很容易地说明这一点。 想象一下，我们有两个未来由人工智能运行的民族国家，在那里，人类不再做出重要的经济贡献。 其中一个国家一心一意地满足其人类居民的每一个享乐主义需求。 另一个国家则减少对人类的投入，而更多地关注获取资源和改进技术。 后者随着时间的推移会变得更加强大。 它可能会接管第一个国家。 最终，它可能会决定完全抛弃人类。 这个例子不一定是民族国家才能成立； 关键是竞争。 从这些情景中得出的一个启示是，人类应该努力保持其经济相关性。 从长远来看，确保我们生存的唯一方法是积极地为此努力。
另一个见解是，进化是渐进的。 我们可以从过去的主要创新中看到这一点，例如多细胞生物的进化。 在地球历史的大部分时间里，生命主要由单细胞生物组成。 由于氧气含量低，环境条件不适合大型多细胞生物生存。 然而，即使环境变得更加友好，世界也 没有突然充满 红杉、鲸鱼和人类。 构建像树或哺乳动物这样复杂的结构需要 许多能力，包括精细的基因调控网络以及用于粘附和通讯的细胞机制。 这些能力随着时间的推移一点一点地出现。
人工智能也可能以渐进的方式发展。 人工智能不太可能从头开始涌现出一个纯粹的机器人文明，更有可能的是，人工智能将把自己融入到我们世界中已经存在的事物中。 由此产生的混合实体可能采取多种形式； 例如，想象一家公司，其所有者是人类，但运营和研究都基于机器。 除此之外，像这样的安排将导致人类之间出现极度的 不平等，因为所有者将从他们对人工智能的控制中获利，而那些没有这种控制权的人将变得失业和贫困。
这种混合体也可能成为 对人类的直接威胁 所在。 有些人认为，“机器人接管世界”的情景被夸大了，因为人工智能本质上不会有统治的欲望。 这可能是真的。 然而，人类肯定有——这可能是他们与机器合作的一大贡献。 考虑到这一切，也许我们应该采取的另一项原则是，不应允许人工智能加剧我们社会的不平等。
思考这一切可能会让人怀疑人类是否还有任何长期前景。 从地球生命史中获得的另一个观察是，重大创新使生命能够占据新的生态位。 多细胞生物在海洋中进化，并实现了在那里谋生的新方法。 对于动物来说，这些方法包括 在沉积物中 burrowing 和新型的捕食。 这开辟了新的食物选择，并使动物能够多样化，最终导致了今天存在的形状和生活方式的 riot。 至关重要的是，新生态位的创造并不意味着所有旧生态位都会消失。 在动物和植物进化之后，细菌和其他单细胞生物 持续存在。 今天，它们中的一些做着与以前类似的事情（实际上是生物圈功能的核心）。 其他一些则从新的机遇中获利，例如生活在动物的内脏中。
希望一些可能的未来包括人类的生态位。 毕竟，人类需要的一些东西（例如氧气和有机食物），机器不需要。 也许我们可以说服他们去太阳系开采外行星并收获太阳的能量。 然后把地球留给我们。
但我们可能需要迅速行动。 从生物创新的历史中得出的最后一个教训是，最初发生的事情至关重要。 多细胞生物的进化导致了寒武纪大爆发，这是一个五亿多年前的时期，当时大型多细胞动物以极大的多样性出现。 许多早期的动物灭绝了，没有后代。 因为幸存下来的动物继续建立了主要的动物类群，所以这个时代发生的事情很大程度上决定了今天的生物世界。 有人 认为，在寒武纪时期，许多路径是可能的，而我们最终得到的世界并非命中注定。 如果人工智能的发展也是如此，那么现在就是我们拥有最大杠杆来引导事件走向的时候。
然而，引导事件需要具体措施。 拥有“人类应该保持经济作用”和“人工智能不应加剧不平等”等一般原则固然很好。 挑战在于将这些原则转化为关于人工智能开发和使用的具体法规。 尽管计算机科学家自己 也不知道人工智能在未来 10 年会如何发展，更不用说长期发展了，但我们仍需要做到这一点。 我们还需要在全球范围内相对一致地应用我们制定的法规。 所有这些都将要求我们采取比我们在处理其他生存问题（如 气候变化）时所表现出的更加连贯和有远见的行动。
这似乎是一个很高的要求。 但话又说回来，在四五百万年前，没有人会想到我们小脑、相对类猿的祖先会进化成可以对基因组进行测序并将探测器送往太阳系边缘的生物。 幸运的是，也许我们会再次迎接挑战。
这是一篇观点和分析文章，作者或作者表达的观点不一定代表《大众科学》的观点。