本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
在与天体生物学相关的长长的主题列表中，有一个关于“智能”的问题。 类似人类的技术智能是否可能在宇宙中普遍存在？ 我们仅仅是进化过程中的昙花一现吗？我们的智能是否注定要让我们在化石记录中走向死胡同？ 还是智能是熵驱动、产生复杂性的宇宙不可避免地会趋同的东西？
所有的问题都很好。 同样好的问题是，我们是否可以复制我们自己的智能，或类似的东西，以及这实际上是否是一个好主意。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。 通过购买订阅，您正在帮助确保有关塑造我们今天世界的发现和想法的具有影响力的故事的未来。
最近几个月，这个话题再次成为大众媒体关注的焦点。 先是斯蒂芬·霍金，然后是埃隆·马斯克，最近又是比尔·盖茨。 所有这些聪明人都表示，人工智能（AI）是需要密切关注的东西，以免它发展到存在威胁的地步。
但很难找到关于这种存在威胁究竟是什么的任何细节。 霍金曾暗示，这可能是强大的AI比生物系统“进化”得更快的能力——最终吞噬资源，而不在乎我们这样的人。 我认为这是一个合理的推测。 人工智能的威胁不是它会成为一个虐待狂的自大狂（除非我们故意或不小心地把它变成那样），而是它会遵循自己的进化命令。
很容易建议，一种保障措施是将同理心构建到人工智能中。 但我认为这在两个方面都失败了。 首先，大多数人类都有同理心，但我们仍然对我们自己以及地球上几乎所有其他生物都保持着令人讨厌、野蛮和残酷的态度。 第二个失败点是，我不清楚真正的、强大的、人工智能是我们是否可以通过纯粹的循序渐进的方式来设计的东西，我们可能需要允许它自行产生。
这意味着什么？ 当前在计算“深度学习”等领域的努力涉及算法构建自己的概率景观，以筛选大量信息。 该软件不一定被硬编码为预先“知道”规则，而是找到规则或易于被引导到规则——例如在自然语言处理中。 这非常不可思议，但不清楚这是否是通往人工智能的道路，其等效于人类或任何有知觉的生物的思维方式。 这已经引起了热烈的辩论，例如Noam Chomsky（站在怀疑论一边）和Peter Norvig（站在热情一边）。 在深层层面上，这是专注于潜在简单性的科学与认为自然可能根本不会朝那个方向发展的科学之间的对峙。
人工智能的另一条途径是我将在此提出的途径（而且这并非原创）。 也许可以创造出从中可以产生智能的一般条件。 从表面上看，这似乎相当荒谬，就像把一堆备件扔进盒子里，希望出现一辆新自行车一样。 这当然不是将人工智能作为科学研究来对待的方式。 但是，如果智能是合适的非常非常复杂的系统的涌现——进化——属性，那么它会发生吗？ 也许。
一个工程挑战是，可能需要像人脑一样复杂的系统来维持智能，但当然我们的大脑与我们的智能共同进化。 因此，想象您可以坐下来设计新类型智能出现的完美环境有点傻，因为我们不确切知道这些环境应该是什么。
除非也许我们现在确实正在建立这些条件。 机器学习可能只是人工智能行为难题的一部分，但是当它存在于互联网的蔓延中会发生什么？ 大量的大数据和小数据、应用程序、控制数据包传输的算法、传感器——从 GPS 到恒温器和交通监控器——直接或间接相互通信的无数部件。
这是一个巨大的建筑工地。 估计表明，2014年约有 74 亿部移动设备在线。 就任何可以联网的东西而言——“物”联网（从厕所到工厂）——目前的估计是，今天大约有 150 亿个活跃的互联网连接（通过思科的一项出色服务）。 到 2020 年，可能会有 500 亿个。
如果这是一个杂乱无章的东西，就像盒子里的备件一样，我认为人们对发生任何有趣的事情都几乎不抱希望。 但这不是一团糟。 它越来越多地被算法所填充，这些算法的目的就是在海洋中找到结构和关联——通过采用部分灵感来自生物智能的技巧，或至少是我们对它的印象。 代码与代码对话，数据包四处传输以寻找最佳路由，软件与硬件对话，硬件与硬件对话。 叠加在这个生态系统上的是人类的思想，人类的决策过程孕育和滋养着信息的潮起潮落。 而且，越来越多地，我们的互动本身正在推动数据海洋的深刻变化，因为分析试图“理解”我们接下来可能会寻找什么，无论是作为个人还是作为一个群体。
是否会从这一切中涌现出类似于强人工智能的东西？ 我不知道，其他人也不知道。 但这是地球生命 40 亿年来从未存在过的情况，这让我们回到了人工智能威胁的问题。
如果这就是强人工智能的产生方式，那么最直接的危险将仅仅是现在很大一部分人类依赖于互联网的生态系统。 这不仅仅是我们如何交流或查找信息，还包括我们的食物供应如何组织、我们的药剂师如何跟踪我们的药物、我们的飞机、火车、卡车和货船如何安排、我们的金融系统如何运作。 在这里出现的强大人工智能可能会像小孩子可以重新整理你的袜子抽屉或咬猫的尾巴一样造成严重破坏。
正如霍金所暗示的那样，人工智能的“进化”可能是迅速的。 事实上，它可能会在几分之一秒内出现、进化并淹没互联网生态系统。 这反过来又提出了一个有趣的可能性——新兴的人工智能是否会受到如此迅速的限制，以至于它有效地停滞不前，无法建立其长期生存所需的虚拟连接和结构？ 虽然这可能会限制人工智能，但这对于我们来说将是一种安慰。
我忍不住要将它与另一个老生常谈的问题联系起来——费米悖论。 也许人工智能的创造是大过滤器的一部分，它扼杀了文明，但它也会自我终结，这就是为什么即使人工智能在过去的 130 亿年中也显然未能在整个星系中传播的原因……