想象一下一个反乌托邦的、不远的将来，我们每个人都居住在自己的人工智能驱动的数字过滤器气泡中，这些气泡专门为我们量身定制，旨在服务于企业利益。这个未来类似于1998年的《楚门的世界》，其中由金·凯瑞饰演的同名主角，在自己毫不知情的情况下，一生都生活在一个真人秀节目中，他的每一次经历都由制片厂精心策划。
人工智能的一个子集，大型语言模型，不会把我们的生活变成真人秀节目——没那么幸运。相反，个性化的人工智能代理威胁着将我们每个人囚禁在一个个性化和虚幻的非现实中，收割我们的数字货币，并将我们与与他人的真正联系隔离开来。
我们正在顺利地朝着这个方向发展。10月份的测试版发布的Apple智能可能是我们与人工智能关系中的一个分水岭时刻：这个新版本将为全球超过十亿人提供高度可访问的大型语言模型体验。但苹果只是众多公司之一，包括OpenAI、谷歌和许多初创公司，它们都在开发个性化、定制化的大型语言模型。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和想法的具有影响力的故事的未来。
这种所谓的个性化对齐背后的原则是，人工智能模型将了解个人用户——他们知道什么和不知道什么，他们的喜好和厌恶，他们的价值观和目标，他们的注意力持续时间和喜欢的媒体形式——并据此进行调整。
目的是在每个用户和互联网上的海量信息之间放置一个定制的人工智能，找到他们想要的信息，重新包装它以符合他们的品味和背景知识，并将其传递到他们的屏幕上。如果这个项目成功，我们将进一步分裂对世界形成集体认知的能力。我们将不再居住在几个相互竞争的过滤器气泡之一中；我们每个人都将处于自己的私人过滤器气泡中。
这是在最佳情况下，系统完全为了用户的利益而设计。但当然，它们不太可能保持良性。与互联网上的一切一样，它们将变得“垃圾化”，被科技行业利用来将我们与我们的金钱分离，同时囤积我们的注意力。
考虑一下像大学橄榄球这样的美国传统。您是俄亥俄州立七叶树队的超级粉丝吗？您是否花费大量时间点击俄亥俄州立橄榄球队的新闻报道、购买俄亥俄州立商品的商品、订阅俄亥俄州立的视频、播客和新闻源？您将在所有设备上全天候收到此类信息。一些算法甚至会学习您的日常安排并做出相应的反应，在您最有可能查看信息的时间准确地向您推送信息。
撇开足球的竞争不谈，这听起来可能无害（虽然很无聊）；在许多方面，这已经描述了我们的在线体验。Facebook、X、Instagram、谷歌等的用户跟踪算法已经跟踪我们的兴趣和习惯，以选择填充我们屏幕的内容。但下一步是释放大型语言模型，以生成专门为我们每个人和我们的兴趣量身定制的模因，甚至是整篇文章，其目的仅仅是为了让我们保持对诸如伪装成信息广告之类的内容的参与，这将增加我们购买商品的几率。
大型语言模型将创建关于您最喜欢的大学橄榄球队、他们的招募过程以及即将到来的赛季前景的完整文章。您将收听听起来像体育谈话广播的人工智能生成的播客。您将收到关于竞争对手橄榄球队的阴谋论：例如，他们如何参与招募违规行为，他们如何作弊，他们的教练组成员如何与可卡因帝国联系在一起。
至少出于两个原因，这是一个悲惨的现实；首先，没有计算方法或道德激励机制来确保您收到的信息是真实的。当然，这项事业的目标不是描绘现实。大型语言模型将生成哲学家在其技术术语中称之为“胡说八道”的东西。它们旨在听起来貌似可信和权威，而不是在事实上准确。
但与公然无视真相一样可怕的是一个更可怕的因素。我们假设的俄亥俄州立橄榄球迷将不再生活在对大学橄榄球的准确理解中，这种理解与任何其他人的理解完全兼容——甚至与其他俄亥俄州立橄榄球迷也不兼容。这位球迷将只运行专门为自己生成的信息。大型语言模型已经非常高效，以至于重用内容是不必要的——为什么为两个人生成相同的文章，而大型语言模型可以轻松地创建两篇专门为每个人量身定制的文章？即使在谈论体育和娱乐时，这种愿景也令人不安。但是，对于具有更直接社会后果的机构呢？宗教？教育？政治？
政治光谱上的评论员都对媒体的衰落和一切事物的两极分化感到悲哀。节日餐桌上的对话对于许多大家庭来说已经变得不可能。
现状可能已经很糟糕了，但更奇怪的时代还在后面，这可能会让我们渴望今天的回音室。很快，我们的气泡将进一步缩小，直到我们的数字世界只剩下我们自己。在人工智能调解的未来，我们每个人都将生活在一个私人的《楚门的世界》中。作为一个社会，我们将完全无法做出富有成效的集体决定，因为我们将对世界没有共同的理解。
有什么补救措施？首先，记住我们父母和他们之前的父母的忠告，至少可以追溯到电视的广泛普及：到户外玩耍。停止盯着屏幕。与你的朋友面对面地聚会。在有真实人群的空间里寻找你的娱乐，与彼此交流思想和创作。
即使在网上，我们也必须保持我们对世界的理解扎根于人类创作的文件和文物。重视人类创造的东西不仅仅是一个真实性的问题；它也确保我们专注于作者足够在意提出的论点，以及演讲者足够在意进行的对话。
否则，《楚门的世界》的前提就会变成我们的现实，在不知不觉中居住在一个虚假的世界中，我们的每一次经历都是为了利润而策划的。更具存在主义疏离感的是什么？生活在一个《楚门的世界》中，导演、制片人和唯一的观众都是人工智能。
这是一篇观点和分析文章，作者或作者表达的观点不一定代表《大众科学》的观点。