人工智能 (AI) 研究人员毫不怀疑，能够自我复制、自学并适应不同条件的高度智能计算机和机器人的发展将改变世界。然而，究竟何时发生、发展到何种程度以及我们应该对此采取什么措施，仍然是争论的原因。
今天的智能机器在很大程度上被设计为在已知条件下执行特定任务。然而，未来的机器可能会有更多的自主权。“随着我们希望机器执行的任务类型变得更加复杂，我们就越需要它们照顾自己，”康奈尔大学机械和计算机工程师 Hod Lipson 说。Lipson 指出，我们越无法预见问题，我们就越需要机器自行适应并做出决策。他说，随着机器越来越擅长学习如何学习，“我认为这会引导我们走向意识和自我意识。”
尽管神经科学家们仍在争论意识的生物学基础，但复杂性似乎是关键部分，这表明具有适应性和先进硬件和软件的计算机可能有一天会变得有自我意识。如果我们像《终结者》等电影所说的那样，机器突然向我们发动战争，我们就会知道机器已经达到了那个认知水平。专家认为，更有可能的是，我们会预见到它的到来。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻事业 订阅。通过购买订阅，您正在帮助确保未来能够继续报道关于塑造我们当今世界的发现和想法的具有影响力的故事。
这种自负源于对人类的观察。伦斯勒理工学院的逻辑学家和哲学家 Selmer Bringsjord 说，我们是独一无二的，因为我们拥有一定程度的智力，使我们能够反复“引导”自己达到更高的高度。他说，动物似乎被锁定在“永恒固定的认知监狱”中，而人类有能力将自己从认知限制中解放出来。
一旦机器能够理解自身的生存和构造，它就可以为自己设计改进方案。“这将是一个非常危险的斜坡，”Sims 游戏的创造者、位于加利福尼亚州伯克利的机器人工作室 Stupid Fun Club 的联合创始人 Will Wright 说。他补充说，当机器自我意识首次出现时，随之而来的是自我改进，这是“衡量事物何时变得有趣的 критический показатель”。改进将在后续几代中进行，对于机器来说，这可能只需几个小时。
换句话说，Wright 指出，自我意识导致自我复制，最终导致制造出无需人类参与的更好的机器。“就人类的命运而言，我个人一直比许多其他人更害怕这种情况，”他说。“这可能在我们有生之年发生。一旦我们与某种形式的超级智能共享地球，一切都将无法预测。”
并非所有人都如此悲观。毕竟，机器遵循其编程逻辑，Bringsjord 说，如果这种编程做得正确，“机器不会获得某种超自然力量。”他指出，一个令人担忧的领域是将增强的机器智能引入幕后的武器或战斗机器，在那里没有人可以对其进行监控。除此之外，Bringsjord 说，“我会说，通过负责任地使用人工智能，我们可以控制未来。”
未来学家和著名作家雷·库兹韦尔也同意，这种更智能的人工智能的出现不会“像外星机器入侵来取代我们一样”。他说，机器将遵循一条反映人类进化的道路。但他补充说，最终，有自我意识、自我改进的机器将进化到超出人类控制甚至理解它们的程度。
Lipson 说，机器在人类控制之外运行的法律含义尚不明确，因此“考虑这些事情可能是一个好主意”。一旦机器人开始互相编程，取消人为输入，像已故的艾萨克·阿西莫夫的“机器人三定律”这样的道德规则——本质上，这些规则认为机器人不得伤害人类或允许人类受到伤害——就变得难以遵守。阿西莫夫定律“假设你对机器人进行编程”，Lipson 说。
然而，其他人想知道，人类是否应该统治这种新型人工智能。“谁说进化不应该这样发展？”Wright 问道。“恐龙是否应该立法禁止哺乳动物长大并占领地球的更多区域？”如果事实证明控制是不可能的，让我们希望我们能够与我们基于硅的伙伴和平地共享这个星球。