在过去的十年里，一个名为“生命未来研究所”的组织一直在为公众围绕核武器、气候变化、人工智能和其他不断演变的威胁进行的对话中争取人类福祉。该非营利组织的目的是引导技术发展远离媒体中频繁出现的反乌托邦愿景。但在讨论人工智能时，他们的团队不得不面对一个尤其顽固的敌人：终结者。
该研究所未来项目主任艾米莉亚·贾沃斯基说：“当我们最初开始谈论人工智能风险时，每一篇关于我们工作的文章都提到了终结者。”《终结者》电影系列中，一个强大且具有对抗性的机器人幽灵，其驱动力仅仅是无情的逻辑，这很难消除。贾沃斯基补充说，让人们想象一个强大的人工智能，他们往往会想到一个拥有“马基雅维利灵魂”的机器这一虚构原型——即使实际的人工智能系统本质上“没有任何恶意，没有任何人类意图”。
越来越多的 AI 和计算机科学专家认识到流行叙事对我们集体认知的影响，他们现在希望利用小说来帮助想象算法不会摧毁地球的未来。他们认为，艺术和人文学科必须发挥作用，以确保人工智能服务于人类目标。为此，加州大学伯克利分校的人工智能研究员尼娜·贝古什提倡一个新的学科，她称之为“人工人文学科”。在她即将出版的书籍《人工人文学科：人工智能语言的虚构视角》中，她认为“制造这些技术的责任对于技术专家来说太大了，他们无法独自承担。”她解释说，人工人文学科将融合科学和艺术，以利用小说和哲学来探索人工智能的仁慈潜力。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保有关当今塑造我们世界的发现和思想的具有影响力的故事的未来。
伦敦大学的文化历史学家凯瑟琳·克拉克说：“人文学科必须参与对话，否则这个新世界将在没有我们的投入的情况下前进”，她研究了文学和人工智能的交叉领域。
娱乐深刻地影响着人们对人工智能的看法，正如德克萨斯大学奥斯汀分校研究人员最近的一项公众舆论研究表明的那样。然而，这些描述经常忽略积极的技术潜力，而倾向于描绘我们最糟糕的恐惧。“我们需要虚构作品来思考机器的本质，并阐明它们的智能和创造力可能是什么，”贝古什说。而且，由于小说“没有义务反映实际的技术发展”，它可以成为“实验和反思的公共空间”。
重要的是，事实证明，我们受娱乐驱动的对人工智能的负面印象反过来会影响该技术在现实世界中的表现；我们对自己讲述的关于人工智能的故事会引导我们以某种方式使用它。根据麻省理工学院媒体实验室研究人员最近的一项研究，认为人工智能聊天机器人会像操纵型机器一样回答的先入为主的观念会引发恶性反馈循环，从而使机器人按照预期行事。用户内化的恐惧可能会自我实现，为算法添加对抗性成分。因此，如果小说训练我们对人工智能抱有最坏的期望，那么我们很可能就会得到最坏的结果。
但是，如果我们以某种技巧对待人工智能模型，它们也会以同样的方式回应。克拉克与伦敦帝国学院和谷歌DeepMind的默里·沙纳汉最近试图确定是否可以训练文本生成人工智能来提供高质量的人类散文。他们向聊天机器人提供了一个故事的开头，并使用不同详细程度和复杂程度的提示来要求它完成叙述。正如他们的预印本结果所发现的那样，由粗略提示给出的人工智能编写的故事平淡无奇，但更优雅和更具创造性的提示导致了更具文学性的散文。这表明我们给予生成式人工智能什么，它就会返回给我们什么。
“为什么我们总是将科幻小说想象成反乌托邦？为什么我们不能想象科幻小说能给我们希望呢？”——帕特·帕塔拉努塔蓬，麻省理工学院媒体实验室
如果这些模式适用于更智能形式的人工智能，我们需要在打开它们的“开启”开关之前向它们灌输顾虑。牛津大学的人工智能末日预言家尼克·博斯特罗姆将这种需求称为“有截止日期的哲学”。
为了让更多的艺术家和思想家参与到讨论中，生命未来研究所赞助了多项将小说作家和其他创意人士与技术专家联系起来的倡议。“你无法减轻你无法想象的风险，”贾沃斯基说。“如果你不想象积极的未来并朝着这些未来前进，你也无法利用技术构建积极的未来并朝着这些未来前进。”例如，该研究所的世界构建竞赛汇集了多学科团队，以概念化各种友好的人工智能未来。那些想象中的未来包括一个中央人工智能管理商品公平分配的世界。第二种情景提出了一个不受地域限制的数字国家系统。在另一种情景中，人工智能治理程序倡导和平。在第四种情景中，人工智能帮助我们实现更具包容性的社会。
贾沃斯基说，仅仅想象这样的世界，在这样的世界中，增长和创新不再依赖于传统的人力劳动，就允许小说作家和其他思想家提出挑衅性的问题：“意义是什么样的？渴望是什么样的？在一个共享富足的世界中，我们如何重新思考人类的目的和能动性？”
生命未来研究所还与一个名为好莱坞、健康与社会组织和其他组织联合成立了蓝天剧本创作大赛，该比赛奖励创作描绘人工智能公平公正应用的电视剧本的编剧。
好莱坞、健康与社会项目主管凯特·朗格拉尔·福尔布说：“我们都看过很多流行娱乐中的反乌托邦和后世界末日未来”。“很少有对更绿色、更安全、更公正的未来的描绘。”首届比赛于 2022 年举行，奖项于去年颁发。在那次比赛中，获奖作品设定在一个人工智能平等地服务于所有居民需求的城镇，当一场百年不遇的谋杀案使他们潜在的技术乌托邦复杂化时，居民们震惊了。在另一个故事中，配备土著智慧的人工智能顾问支持一个更可持续的社会。另一个故事讲述了一个地球，人工智能已将所有制造业和重型基础设施转移到地球之外，从而使下面的陆地生态系统再生。
为了进一步激发这些思路，生命未来研究所正在制作一个免费的、公开提供的“世界构建”课程，以在人工智能方面培养参与者的希望，而不是厄运。贾沃斯基说，一旦一个人设法摆脱厄运循环，就可能很难知道在哪里指导开发积极人工智能的努力。为了解决这个问题，该研究所正在开发详细的场景地图，这些地图表明不同的轨迹和决策点可能在长期内将这项技术引向何方。其目的是将这些场景带给有创造力的艺术家，然后他们将充实这些故事，追求技术与创造力之间的交叉，并为人工智能开发人员提供有关不同行动方案可能将我们带向何方的想法。
贾沃斯基说，此刻迫切需要“讲故事和人文学科的力量”，以引导人们远离终结者，走向他们会兴奋地与人工智能和平幸福地生活在一起的未来。
麻省理工学院媒体实验室的研究员、人工智能用户先入为主观念研究的合著者帕特·帕塔拉努塔蓬说：“我们需要提出一个新的故事”。“为什么我们总是将科幻小说想象成反乌托邦？为什么我们不能想象科幻小说能给我们希望呢？”