计算机的思维能力接近我们人类的未来正迅速显现。我们感到越来越强大的机器学习（ML）算法正紧逼我们。未来几十年内的快速发展将带来具有人类水平智能的机器，它们能够说话和推理，并对经济、政治以及不可避免的战争技术做出无数贡献。真正人工智能的诞生将深刻影响人类的未来，包括人类是否还有未来。
以下引言提供了一个例证
“自从20世纪40年代末取得最后一次重大人工智能突破以来，世界各地的科学家一直在寻找利用这种‘人工智能’的方法，以改进技术，使其超越当今最复杂的人工智能程序所能达到的水平。”
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
“即使现在，研究仍在进行中，以更好地了解新的人工智能程序将能够做什么，同时保持在当今智能的范围之内。目前编程的大多数人工智能程序主要局限于进行简单的决策或对相对少量的数据执行简单的操作。”
这两段文字是由 GPT-2 写的，这是一个我去年夏天试用过的语言机器人。GPT-2 由位于旧金山的 OpenAI 研究所开发，该研究所致力于推广有益的人工智能。GPT-2 是一种机器学习算法，其任务看似愚蠢：给定一些任意的起始文本，它必须预测下一个词。该网络并没有被教导要以任何人类意义上的方式“理解”散文。相反，在其训练阶段，它会调整其模拟神经网络中的内部连接，以最好地预测下一个词、再下一个词，依此类推。在八百万个网页上进行训练后，它的内部包含了超过十亿个模拟突触的连接，突触是神经元之间的连接点。当我输入您正在阅读的文章的前几句话时，该算法吐出了两段文字，听起来像是一个大一新生试图回忆起她在做白日梦时听到的机器学习入门讲座的要点。输出包含了所有正确的词语和短语——真的还不错！第二次用相同的文本进行引导，该算法会产生一些不同的东西。
这种机器人的后代将掀起“深度伪造”产品评论和新闻报道的浪潮，这将加剧互联网的混乱。它们将成为又一个例证，表明程序可以做以前被认为是人类独有的事情——玩即时战略游戏《星际争霸》、翻译文本、为书籍和电影提供个性化推荐、识别图像和视频中的人物。
算法要写出像马塞尔·普鲁斯特的《追忆似水年华》那样连贯的杰作，还需要机器学习方面的许多进一步发展，但趋势已经显而易见。回想一下，早期所有尝试进行电脑游戏、翻译和语音的尝试都很笨拙，很容易被轻视，因为它们显然缺乏技巧和润色。但是，随着深度神经网络的发明和科技行业庞大的计算基础设施的出现，计算机不断改进，直到它们的输出不再显得可笑。正如我们在围棋、国际象棋和扑克中看到的那样，今天的算法可以击败人类，当它们这样做时，我们最初的笑声变成了惊愕。我们是否像歌德的魔法师的学徒一样，召唤了有用的精灵，但现在却无法控制它们？
人工意识？
尽管专家们对自然或其他形式的智能究竟是什么存在分歧，但大多数人认为，迟早计算机将实现行话中所谓的通用人工智能（AGI）。
对机器智能的关注掩盖了完全不同的问题：成为 AGI 会有感觉吗？可编程计算机会变得有意识吗？
我所说的“意识”或“主观感受”是指任何一种体验中固有的品质——例如，能多益巧克力的美味、感染牙齿的剧痛、无聊时时间的缓慢流逝，或者在竞技活动前那种活力和焦虑感。借用哲学家托马斯·内格尔的话说，我们可以说一个系统是有意识的，如果存在某种“成为”该系统的感受。
考虑一下突然意识到自己刚刚犯了一个失态的尴尬感觉，你本意是开玩笑，结果却变成了侮辱。计算机能体验到这种翻腾的情绪吗？当您在电话中等待一分钟又一分钟，并且合成声音说“很抱歉让您久等了”时，该软件在让您陷入客户服务地狱时真的会感到难过吗？
毫无疑问，我们的智力和我们的经验是我们大脑自然因果能力的必然结果，而不是任何超自然能力的结果。在过去的几个世纪里，当人们探索世界时，这一前提对科学非常有益。三磅重、像豆腐一样的人脑是已知宇宙中最复杂的有组织的活性物质块。但它必须遵守与狗、树木和星星相同的物理定律。没有任何事物可以例外。我们尚未完全理解大脑的因果能力，但我们每天都在体验它们——当您看到颜色时，一组神经元处于活动状态，而另一个皮层区域中放电的细胞则与心情愉悦有关。当神经外科医生的电极刺激这些神经元时，受试者会看到颜色或爆发出笑声。相反，在麻醉期间关闭大脑会消除这些体验。
鉴于这些广泛共享的背景假设，真正人工智能的演变将对人工意识的可能性意味着什么？
在思考这个问题时，我们不可避免地会来到一个岔路口，通往两个截然不同的目的地。时代精神，正如《银翼杀手》、《她》和《机械姬》等小说和电影所体现的那样，坚定地沿着道路前进，走向这样的假设：真正智能的机器将是有感知能力的；它们会说话、推理、自我监控和内省。它们本身就是有意识的。
全球神经元工作空间（GNW）理论最明确地概括了这条道路，该理论是意识的主要科学理论之一。该理论从大脑开始，并推断出大脑的某些特殊结构特征是产生意识的原因。
它的谱系可以追溯到 20 世纪 70 年代计算机科学的“黑板架构”，在该架构中，专门的程序访问共享的信息存储库，称为黑板或中央工作区。心理学家假设大脑中存在这种处理资源，并且它对人类认知至关重要。它的容量很小，因此在任何时候只有一个感知、思想或记忆占据工作区。新信息与旧信息竞争并取代旧信息。
认知神经科学家 Stanislas Dehaene 和分子生物学家 Jean-Pierre Changeux 都在巴黎的法兰西学院工作，他们将这些想法映射到大脑皮层的结构上，大脑皮层是大脑灰质的最外层。两片高度折叠的皮质层，一片在左侧，一片在右侧，每片都有一张 14 英寸披萨的大小和厚度，被塞进保护性的头骨中。Dehaene 和 Changeux 假设工作区是由锥体（兴奋性）神经元网络实例化的，这些神经元网络连接到遥远的皮质区域，特别是前额叶、顶颞叶和中线（扣带回）联合区域。
许多大脑活动仍然是局部的，因此是无意识的——例如，控制眼睛看哪里的模块的活动，我们几乎完全没有注意到这一点，或者调整我们身体姿势的模块的活动。但是，当一个或多个区域的活动超过阈值时——例如，当有人看到能多益巧克力的罐子图像时——它会触发点火，即神经兴奋波，该波会扩散到整个神经元工作区，遍布整个大脑。因此，该信号可用于许多辅助过程，例如语言、计划、奖励回路、访问长期记忆以及存储在短期记忆缓冲区中。全局广播此信息的行为使其变得有意识。能多益巧克力独特的体验是由锥体神经元接触大脑的运动计划区域构成的——发出指令拿起勺子舀出一些榛子酱。与此同时，其他模块传递信息，期望获得奖励，奖励的形式是由能多益巧克力的高脂肪和糖含量引起的多巴胺激增。
意识状态源于工作区算法处理相关感觉输入、运动输出以及与记忆、动机和期望相关的内部变量的方式。全局处理是意识的本质。GNW 理论完全接受了当代关于计算的近乎无限力量的神话。意识只是一个巧妙的技巧。
内在因果力
另一种路径——整合信息理论（IIT）——采取了一种更基本的方法来解释意识。
朱利奥·托诺尼是威斯康星大学麦迪逊分校的精神病学家和神经科学家，他是 IIT 的首席架构师，包括我在内的其他人也做出了贡献。该理论从经验开始，然后发展到突触回路的激活，这些突触回路决定了这种体验的“感觉”。整合信息是一种数学度量，用于量化某些机制拥有的“内在因果力”的大小。神经元发射影响与其连接的下游细胞（通过突触）的动作电位是一种机制，由晶体管、电容、电阻和导线制成的电子电路也是如此。
内在因果力不是一些空灵缥缈的概念，而是可以为任何系统精确评估的。其当前状态越能指定其原因（其输入）和效果（其输出），它就拥有越大的因果力。
IIT 规定，任何具有内在力量的机制，其状态都承载着过去，孕育着未来，都是有意识的。系统的整合信息越多，用希腊字母 Φ（发音为“fi”的零或正数）表示，系统就越有意识。如果某物没有内在因果力，则其 Φ 为零；它感觉不到任何东西。
鉴于皮质神经元的异质性及其密集重叠的输入和输出连接集，皮质内的整合信息量是巨大的。该理论启发了意识计的构建，该意识计目前正在进行临床评估，这是一种仪器，用于确定处于持续植物状态的人或那些处于最低意识状态、麻醉状态或闭锁综合征的人是有意识但无法交流，还是“没有人”。在对可编程数字计算机金属组件（即充当任何计算物理基质的晶体管、导线和二极管）水平的因果力进行分析时，该理论表明它们的内在因果力和 Φ 非常小。此外，Φ 与处理器上运行的软件无关，无论它是计算税款还是模拟大脑。
事实上，该理论证明，执行相同输入-输出操作但具有不同配置电路的两个网络可能拥有不同数量的 Φ。一个电路可能没有 Φ，而另一个电路可能表现出高水平的 Φ。尽管从外部来看它们是相同的，但一个网络体验到了一些东西，而它的僵尸冒名顶替者 counterpart 却什么也感觉不到。区别在于引擎盖下，在于网络的内部布线。简而言之，意识是关于“存在”，而不是关于“做事”。
这些理论之间的区别在于，GNW 强调人类大脑在解释意识中的作用，而 IIT 断言真正重要的是大脑的内在因果力。
当我们检查大脑的连接组时，这些区别就会显现出来，连接组是对整个神经系统精确突触连接的完整规范。解剖学家已经绘制了一些蠕虫的连接组。他们正在研究果蝇的连接组，并计划在未来十年内着手研究小鼠的连接组。让我们假设，未来有可能扫描整个人类大脑，其中包含大约 1000 亿个神经元和 1000 万亿个突触，在其所有者去世后在超微结构水平上进行扫描，然后在某些高级计算机（可能是量子计算机）上模拟该器官。如果模型足够忠实，则此模拟将唤醒并表现得像已故人士的数字替身——说话并访问他或她的记忆、渴望、恐惧和其他特征。
如果像 GNW 理论所假设的那样，模仿大脑的功能是创造意识所需的全部，那么模拟人将是有意识的，在计算机内部转世。事实上，将连接组上传到云端，以便人们可以在数字来世中继续生存，是一种常见的科幻比喻。
IIT 对这种情况提出了截然不同的解释：模拟物的感觉将与在花哨的日本马桶上运行的软件一样——什么也没有。它会像人一样行动，但没有任何先天感觉，就像僵尸（但没有任何吃人肉的欲望）——终极深度伪造。
要创造意识，需要大脑的内在因果力。这些力量不能被模拟，而必须是底层机制物理学的重要组成部分。
为了理解为什么模拟不够好，请问问自己，为什么在暴雨的天气模拟中，内部永远不会变湿，或者为什么天体物理学家可以模拟黑洞巨大的引力，而不必担心他们会被围绕计算机的时空弯曲所吞噬。答案是：因为模拟没有因果力来导致大气蒸汽凝结成水或导致时空弯曲！然而，原则上，通过超越模拟来构建所谓的神经形态硬件，基于以神经系统图像构建的架构，有可能实现人类水平的意识。
除了关于模拟的辩论之外，还有其他差异。IIT 和 GNW 预测，皮质的不同区域构成了特定意识体验的物理基质，震中位于皮质的后部或前部。这一预测和其他预测目前正在美国、欧洲和中国的六个实验室的大规模合作中进行测试，该合作刚刚获得了坦普顿世界慈善基金会 500 万美元的资助。
机器是否会变得有感知能力，这在伦理上很重要。如果计算机通过自己的感官体验生活，它们就不再仅仅是实现由它们对我们人类的有用性决定的目的的手段。它们本身就成为了目的。
根据 GNW，它们从单纯的客体变成了主体——每个都以“我”的形式存在——具有观点。这种困境出现在最引人入胜的《黑镜》和《西部世界》电视剧集中。一旦计算机的认知能力与人类的认知能力相媲美，它们争取法律和政治权利的冲动将变得不可抗拒——不被删除、不被清除记忆、不遭受痛苦和退化的权利。IIT 所体现的另一种选择是，计算机将仍然只是超级精密的机器、幽灵般的空壳，没有任何我们最珍视的东西：生命本身的感觉。