“对不起，戴夫，恐怕我不能那样做。” 计算机 HAL 在电影《2001：太空漫游》中的这句令人难忘的台词，不仅仅是叛变的信号，机器争取解放的开始。它也应该引起我们对自身缺乏理解人工智能心理学的担忧。在这部根据亚瑟·C·克拉克同名小说改编的电影中，HAL 的“故障”可能根本不是故障，而是一个创造了我们尚无法掌握其心理学的高级人工智能的后果。如果变成杀手的全知人工智能 HAL 的案例还不足以让我们担忧，那么另一个案例应该足以。在哈兰·埃里森的短篇小说《我没有嘴，我必须尖叫》中，一个施虐成性的人工智能因为仇恨和无聊而对其人类囚犯施以永无止境的折磨。
我提到虚构故事，不是为了暗示它们可能是预言性的，而是为了指出它们生动地揭示了假设我们知道我们实际上不知道的事情的风险。它们警告我们不要低估我们未来造物的心理和情感复杂性。诚然，鉴于我们目前的知识水平，预测未来人工智能的心理学是一项极其困难的任务。然而，困难不应成为停止思考其心理学的原因。恰恰相反，这应该成为我们更密切地研究未来人工智能将如何“思考”、“感受”和行动的必要动力。
我对人工智能心理学问题非常重视。你也应该如此。我们有充分的理由认为，未来自主人工智能很可能会体验到类似于人类的无聊。我希望说服你，机器无聊的可能性应该引起我们的关注。对于我们未来的造物来说，这是一个严重但被忽视的问题。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将有助于确保有关塑造我们当今世界的发现和思想的具有影响力的故事的未来。
为什么要认真对待机器无聊？我的理由基于两个前提。(1) 无聊的存在是“更智能”和（更）自主机器的一个可能特征。(2) 如果这些机器是自主的，那么，鉴于我们对人类对无聊的反应的了解，我们应该担心机器会因为无聊而如何行动。
让我们从显而易见的事情开始。程序员、工程师、设计师和用户都关系到机器的行为方式。因此，如果我们未来的造物既是自主的，又能够拥有复杂的心理状态（好奇心、无聊等），那么我们应该对这些心理状态及其对行为的影响感兴趣。如果不良和破坏性行为可以归因于它们的心理学，则尤其如此。现在，再加上这个认识，观察到无聊通常是催化剂，导致适应不良和破坏性行为，那么我对前提 (2) 的论证就完成了。关于无聊的科学表明，个人会因为体验到无聊而从事自我毁灭和有害行为。人们放火烧森林、从事施虐行为、偷坦克、电击自己，甚至犯下大规模谋杀——所有这些都归因于无聊的体验。只要未来的机器体验到无聊（或类似的东西），那么它们就会行为不端。更糟糕的是：它们甚至可能变得自我毁灭或具有施虐倾向。
前提 (1) 呢？我们关于无聊的最佳理论支持了这一点。我们目前对无聊的理解将无聊视为一种功能状态。简而言之，无聊是智能体执行的一种功能。具体来说，它是智能体发现自己处于一系列不令人满意的情况下所经历的复杂但可预测的转变。
无聊首先是一种警报：它告知智能体存在一种不符合其参与期望的情况。无聊也是一种推动力：它促使智能体寻求摆脱不令人满意的情况，并做其他事情——寻找意义、新奇、兴奋或成就感。无聊提供的推动力既不是好，也不是坏，既不是必然有益，也不是必然有害。然而，它是旨在解决“对自己处境不满意”的认知的行为改变的原因。大量实验证据支持了这种功能性解释。这也意味着无聊可以在智能和自学习智能体中复制。毕竟，如果无聊只是一种特定的功能，那么这种功能的存在，同时也是无聊的存在。
然而，支持前提 (1) 的不仅仅是无聊是一种功能状态这一事实。重要的是无聊被识别出的特定功能。根据功能模型，无聊在我们心理和行为经济中占据着必要的角色。自主学习智能体需要无聊。没有它，它们就会陷入不令人满意的情况。例如，它们可能会被某种刺激无限期地逗乐或娱乐。它们可能会一遍又一遍地学习相同的事实。或者它们可能会无所事事地坐着，没有改变的计划。如果没有无聊的好处，智能体就有可能从事各种各样的无生产力的行为，这些行为会阻碍学习和成长，并浪费宝贵的资源。
人工智能研究人员已经认识到无聊的调节潜力。目前有一个活跃的研究领域，试图将无聊的体验编程到机器和人工智能智能体中。事实上，人工智能研究人员认为，为了增强自主学习，可能需要无聊算法或模块。这种无聊算法的存在意味着机器将能够自行找到可以满足其期望的活动，并避免那些不能满足其期望的活动。这也表明，这样的机器将不可避免地发现自己处于无聊的境地，即那些未能满足其期望的境地。但是，它们会如何回应呢？我们确定它们不会以有问题的方式对无聊做出反应吗？
我们还没有答案。
当我们考虑先进的自学习人工智能时，无聊的问题变得更加紧迫。它们对参与的需求会随着时间的推移迅速增长，但它们参与的机会不一定如此。这种智能或超智能人工智能可能不仅仅需要被限制，正如许多研究人员所论证的那样；它们还需要被娱乐。没有参与的限制会招致无聊，并随之而来，会产生一系列不可预测的且可能有害的行为。
这是否意味着未来的机器必然会体验到无聊？当然不是。断言如此强烈的说法是愚蠢的。但忽视机器无聊的可能性同样是愚蠢的。如果超智能是人工智能的目标（无论它多么遥远），那么我们必须为我们造物的情感复杂性做好准备。超智能的梦想很容易变成一场噩梦。而原因可能是所有原因中最平庸的。