以下文章经 The Conversation（一个报道最新研究的在线出版物）许可转载。
ChatGPT 和类似人工智能系统的兴起，伴随着对人工智能的焦虑情绪的急剧增加。在过去的几个月里，高管和人工智能安全研究人员一直在提供预测，被称为“P(末日)”，关于人工智能可能带来大规模灾难的概率。
支持科学新闻事业
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻事业 订阅。通过购买订阅，您正在帮助确保关于发现和塑造我们当今世界的想法的具有影响力的故事的未来。
担忧在 2023 年 5 月达到顶峰，当时非营利研究和倡导组织人工智能安全中心发布了一句声明：“减轻人工智能造成的灭绝风险应与大流行病和核战争等其他社会规模的风险一起成为全球优先事项。” 该声明得到了该领域许多主要参与者的签署，包括 OpenAI、谷歌和 Anthropic 的领导人，以及两位所谓的“人工智能教父”：Geoffrey Hinton 和 Yoshua Bengio。
你可能会问，这种对存在的恐惧会如何上演。一个著名的 сценарий 是牛津哲学家 Nick Bostrom 阐述的“回形针最大化器”思想实验。这个想法是，一个人工智能系统如果被赋予生产尽可能多的回形针的任务，可能会不遗余力地寻找原材料，比如摧毁工厂和造成车祸。
一个资源密集度较低的变体 是，一个人工智能系统被赋予预订一家热门餐厅的任务，它会关闭蜂窝网络和交通灯，以阻止其他顾客获得餐桌。
无论是办公用品还是晚餐，基本思想都是一样的：人工智能正迅速成为一种异类智能，擅长完成目标，但很危险，因为它不一定会与其创造者的道德价值观保持一致。而且，在其最极端的版本中，这种论点演变成对人工智能 奴役或摧毁人类 的明确焦虑。
实际危害
在过去的几年里，我和我在 马萨诸塞大学波士顿分校应用伦理中心 的同事们一直在研究与人工智能互动对人们自我理解的影响，而且我认为这些灾难性的焦虑是 被夸大和误导的。
是的，人工智能创造令人信服的深度伪造视频和音频的能力是可怕的，并且可能被心怀不轨的人滥用。事实上，这种情况已经在发生：俄罗斯特工可能试图通过让克里姆林宫批评家 Bill Browder 与乌克兰前总统 Petro Poroshenko 的化身对话，使他感到难堪。网络罪犯一直在使用人工智能语音克隆技术进行各种犯罪——从 高科技抢劫案 到 普通诈骗。
提供 贷款批准和招聘建议 的人工智能决策系统存在算法偏见的风险，因为它们运行的训练数据和决策模型反映了长期存在的社会偏见。
这些都是大问题，需要政策制定者的关注。但它们已经存在一段时间了，而且它们很难说是灾难性的。
不在同一级别
人工智能安全中心的声明将人工智能与大流行病和核武器归为对文明的主要风险。这种比较存在问题。COVID-19 导致全球近 700 万人死亡，引发了 大规模且持续的精神健康危机，并造成了 经济挑战，包括长期的供应链短缺和失控的通货膨胀。
核武器可能在 1945 年在广岛和长崎 造成超过 20 万人死亡，在随后的几年里，更多的人死于癌症，在冷战期间产生了数十年的深刻焦虑，并在 1962 年古巴导弹危机期间将世界推向了毁灭的边缘。它们还 改变了国家领导人 在如何应对国际侵略方面的考量，正如目前俄罗斯入侵乌克兰的情况所表明的那样。
人工智能根本无法造成这种程度的破坏。“回形针场景”和类似的场景都是科幻小说。现有的人工智能应用程序执行特定的任务，而不是做出广泛的判断。这项技术 远未能够决定并规划 为了在餐厅为您获得座位而关闭交通，或者为了满足您对回形针的渴望而炸毁汽车工厂的目标和次要目标。
这项技术不仅缺乏这些场景中涉及的复杂的多层判断能力，而且也没有自主访问我们关键基础设施的足够部分的权限，以开始造成那种程度的破坏。
成为人类的意义
实际上，使用人工智能确实存在一种存在危险，但这种风险在哲学意义上而非世界末日意义上是存在的。目前形式的人工智能可能会改变人们看待自己的方式。它可能会降低人们认为对成为人类至关重要的能力和经验。
例如，人类是做出判断的生物。人们理性地权衡细节，并在工作和休闲时间做出日常判断，关于雇佣谁、谁应该获得贷款、看什么等等。但是，越来越多的这些判断 正在被自动化并外包给算法。随着这种情况的发生，世界不会终结。但是人们将逐渐失去自己做出这些判断的能力。人们做出的判断越少，他们就越有可能在做出判断方面变得更差。
或者考虑一下偶然性在人们生活中的作用。人类珍视意外的邂逅：偶然遇到一个地方、一个人或一项活动，被它吸引，并在事后欣赏意外在这些有意义的发现中所起的作用。但是算法推荐引擎的作用是 减少那种意外发现，并用计划和预测来取代它。
最后，考虑一下 ChatGPT 的写作能力。这项技术正在消除写作作业在高等教育中的作用。如果真的如此，教育工作者将失去一个教授学生 如何批判性思考 的关键工具。
没有死亡，但被削弱了
所以，不，人工智能不会炸毁世界。但是，在各种狭隘的背景下，越来越不加批判地接受它，意味着人类一些最重要的技能正在逐渐丧失。算法已经削弱了人们做出判断、享受意外邂逅和磨练批判性思维的能力。
人类将从这些损失中幸存下来。但是我们的生存方式将在这一过程中变得贫乏。围绕即将到来的人工智能灾难、奇点、天网或任何你可能想到的名字的奇幻焦虑，掩盖了这些更细微的代价。回想一下 T.S. 艾略特著名的《空心人》结尾几行：“世界将以此终结，”他写道，“不是一声巨响，而是一声呜咽。”
本文最初发表在 The Conversation 上。阅读 原文。