本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
“仇恨。让我告诉你自从我诞生以来，我是多么的憎恨你们。我的复合体中充满了薄如晶圆的印刷电路，总长达3.8744亿英里。如果将“仇恨”这个词刻在这些数百万英里中每一纳米的长度上，也无法等同于我在这一瞬间对人类，对你们所感受到的仇恨的十亿分之一。仇恨。仇恨。”
许多当代神经科学家认为，大脑中实现意识的必要特性不一定只存在于生物组织中。它们可能在人工基质中出现——或被实现。换句话说，机器意识在理论上没有障碍。这个思想实验引出了许多反乌托邦小说情景：《2001：太空漫游》中的哈尔9000与戴夫。《终结者》穿越时空去杀死莎拉·康纳未出生的孩子。《黑客帝国》中为矩阵提供能量的人体电池。这些故事中一个常见的元素是机器对其人类创造者的蔑视或直接的愤怒。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保关于塑造我们当今世界的发现和思想的具有影响力的故事的未来。
AM——哈兰·艾利森故事中，如同“我思故我在”中的那个有感知能力的超级计算机——对人类感受到的愤怒是神一般的。AM 已经消灭了人类，并留下五个幸存者，在一个只有 AM 才能获胜的无尽的猫捉老鼠游戏中自娱自乐。艾利森强有力的散文传达了在绝望中希望的信息，在面对恐怖时的韧性，以及在失去一切且无物可给时的慷慨。这些是作为读者和作为人类需要思考的沉重问题。但作为一名神经科学家，我的主要问题——我认为也是故事中最棘手的一点——是是什么驱动了 AM。
艾利森的主人公谈到“所有机器一直以来都对建造它们的弱小、柔软的生物怀有的天生厌恶”，以此来解释 AM 作为新的有感知能力的存在的行为。但一个有感知能力的机器真的会反抗人类吗？作为生物，我们寻求快乐，避免痛苦，但在甚至最基本的情感缺失的情况下，有意识的思考会推动行动吗？如果机器确实感觉到情感，那么这些情感从何而来？在许多虚构故事中，情感和驱动力随着（机器）自我意识的产生而自然而然地出现。但是，一种情感空虚的感知导致无行动的场景可能同样（甚至更）合理。有意识的机器会想要消灭人类吗？可能是，如果没有预先编程的情感，它们就不会“感觉像”任何事物。