虚假信息制造了新的世界秩序

作为一名研究虚假信息对社会影响的人，我常常希望硅谷那些加速信息传播的年轻企业家们，在商业部署他们的技术之前，能够被迫进行一次关于 9/11 场景的推演。

那天最标志性的照片之一显示，一大群纽约人正抬头凝视。这张照片的力量在于我们知道他们目睹的恐怖。很容易想象，今天，场景中的几乎每个人都会拿着一部智能手机。有些人会拍摄他们的所见所闻，并将其发布到 Twitter 和 Facebook 上。在社交媒体的推动下，谣言和虚假信息将猖獗。针对穆斯林社区的充满仇恨的帖子会大量涌现，算法会响应前所未有的分享、评论和点赞量，从而助长猜测和愤怒。外国虚假信息 агенты 将会扩大分裂，在社群之间制造隔阂，并播下混乱的种子。与此同时，那些被困在塔楼顶端的人们将直播他们最后的时刻。

在历史上最糟糕的时刻对技术进行压力测试，可能会阐明社会科学家和宣传家长期以来所知的：人类天生就会对情感触发因素做出反应，并且如果虚假信息强化了现有的信念和偏见，就会分享这些信息。然而，社交平台的设计者们却狂热地相信，连接会促进宽容，对抗仇恨。他们没有看到技术不会从根本上改变我们是谁——它只能映射到现有的人类特征上。

支持科学新闻报道

如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保未来能够持续发布关于塑造我们当今世界的发现和思想的具有影响力的报道。

在线虚假信息自 20 世纪 90 年代中期就已存在。但在 2016 年，几起事件清楚地表明，更黑暗的力量已经出现：自动化、微定向和协调正在助长旨在大规模操纵公众舆论的信息宣传活动。在菲律宾，当罗德里戈·杜特尔特在 Facebook 活跃度的助推下崛起时，记者们开始发出警告。紧随其后的是 6 月英国脱欧公投和 11 月美国总统大选的意外结果——所有这些都促使研究人员系统地调查信息被用作武器的方式。

在过去的六年里，关于我们受污染的信息生态系统成因的讨论几乎完全集中在科技公司采取（或未采取）的行动上。但这种关注过于简单化。一系列复杂的社会转变正在使人们更容易受到虚假信息和阴谋论的影响。由于政治和经济动荡，特别是日益扩大的收入不平等，对机构的信任正在下降。气候变化的影响正变得越来越明显。全球移民趋势引发了对社群将发生不可逆转改变的担忧。自动化的兴起使人们担心自己的工作和隐私。

想要加深现有紧张局势的不良行为者了解这些社会趋势，他们设计的内容希望能够激怒或激起目标用户的兴趣，以至于受众将成为信息的传播者。其目标是让用户利用自己的社会资本来强化原始信息并赋予其可信度。

这些内容中的大多数并非旨在说服人们朝任何特定方向发展，而是为了制造混乱，压倒一切，并破坏对民主制度的信任，从选举系统到新闻业。尽管在 2016 年总统大选之后，人们已经做了很多关于为选举周期做准备美国选民的工作，但误导性和阴谋论内容并非始于那次选举，也不会很快结束。随着旨在操纵和放大内容的工具变得更便宜、更容易获得，将用户武器化，使其成为虚假信息的不知情 агенты 将会变得更加容易。

将语境武器化

总的来说，用来讨论虚假信息问题的语言过于简单化。有效的研究和干预需要明确的定义，但许多人使用有问题的短语“假新闻”。世界各地的政治家都在用这个词来攻击自由媒体，这个词很危险。研究表明，受众经常将其与主流媒体联系起来。它通常被用作一个包罗万象的词汇，用来描述不尽相同的事物，包括谎言、谣言、恶作剧、虚假信息、阴谋论和宣传，但它也掩盖了细微之处和复杂性。这些内容中的大部分甚至没有伪装成新闻——它们以表情包、视频和社交帖子形式出现在 Facebook 和 Instagram 上。

2017 年 2 月，我创建了七种类型的“信息紊乱”，试图强调正被用来污染信息生态系统的内容范围。其中包括讽刺，它并非旨在造成伤害，但仍有可能愚弄人；捏造内容，它是 100% 虚假的，旨在欺骗和造成伤害；以及虚假语境，即当真实内容与虚假的语境信息共享时。在那一年晚些时候，科技记者侯赛因·德拉赫桑和我发布了一份报告，其中绘制了虚假信息、误导信息和恶意信息之间的区别。

虚假信息（故意虚假且旨在造成伤害的内容）的传播者受到三个不同目标的驱动：赚钱；拥有政治影响力，无论是外国的还是国内的；以及为了制造麻烦而制造麻烦。

传播误导信息（由不意识到内容是虚假或误导性的人分享的虚假内容）的人受社会心理因素驱动。人们在社交平台上展示自己的身份，以感受与他人的联系，无论“他人”是政党、不给孩子接种疫苗的父母、关注气候变化的活动家，还是属于特定宗教、种族或民族群体的人。至关重要的是，当人们在没有意识到虚假信息是虚假的情况下分享虚假信息时，虚假信息会变成误导信息。

我们添加了“恶意信息”一词来描述旨在造成伤害而共享的真实信息。一个例子是俄罗斯 агенты 入侵了民主党全国委员会和希拉里·克林顿竞选团队的电子邮件，并将某些细节泄露给公众以损害声誉。

在 2016 年至 2020 年间监测全球八次选举中的虚假信息时，我观察到策略和技术发生了转变。最有效的虚假信息始终是那些带有一定真实性的信息，而且事实上，最近传播的大部分内容都不是假的——而是具有误导性的。影响 агенты 没有完全捏造故事，而是重新构建真实内容并使用夸张的标题。该策略涉及将真实内容与两极分化的话题或人物联系起来。由于不良行为者总是领先于平台审核一步（或多步），他们正在将带有煽动性的虚假信息重新标记为讽刺，使其不会被事实核查流程识别出来。在这些努力中，语境，而不是内容，正在被武器化。结果是故意的混乱。

以 2019 年 5 月流传的众议院议长南希·佩洛西的编辑视频为例。这是一个真实的视频，但虚假信息 агенты 放慢了视频速度，然后发布了该剪辑，使其看起来佩洛西口齿不清。正如预期的那样，一些观看者立即开始猜测佩洛西喝醉了，这段视频在社交媒体上疯传。然后主流媒体对此进行了报道，这无疑让更多人了解了这段视频，而这些人原本可能不会接触到它。

研究发现，传统上报道误导性内容可能会造成更多伤害。我们的大脑天生依赖启发式方法或心理捷径来帮助我们判断可信度。因此，重复和熟悉是根深蒂固误导性叙事的最有效机制之二，即使观看者已经收到了语境信息，解释了他们为什么应该知道某个叙事不是真的。

不良行为者知道这一点：2018 年，媒体学者惠特尼·菲利普斯为数据与社会研究所发布了一份报告，探讨了那些试图推行虚假和误导性叙事的人如何使用技巧来鼓励记者报道他们的叙事。未来研究所的另一份报告发现，只有 15% 的美国记者接受过关于如何更负责任地报道虚假信息的培训。现在记者和事实核查员——以及任何具有广泛影响力的人，如政治家和影响者——面临的一个核心挑战是如何解开和揭穿虚假信息，如佩洛西视频，而又不会给最初的内容提供更多氧气。

表情包：虚假信息的动力源泉

2017 年 1 月，NPR 广播节目《美国生活》采访了特朗普总统就职典礼活动“可悲舞会”上的一些特朗普支持者。这些人曾深入参与使用社交媒体来倡导总统。关于特朗普令人惊讶的崛起，一位受访者解释说：“我们用表情包把他送上了权力宝座……我们引导了文化。”

“表情包”一词最初由理论家理查德·道金斯在他 1976 年出版的著作《自私的基因》中使用，用来描述“一种文化传播单位或一种模仿单位”，一种在文化中迅速传播的思想、行为或风格。在过去的几十年里，这个词被挪用用来描述一种在线内容类型，它通常是视觉的，并采用特定的美学设计，将色彩鲜艳、引人注目的图像与块状文字相结合。它经常指代其他文化和媒体事件，有时是明确的，但大多数时候是隐含的。

隐含逻辑的特征——对关于某个事件或人物的共同知识的示意和暗示——使表情包具有影响力。修辞格是论证通过省略前提或结论来完成的修辞手法。通常，关键参考（最近的新闻事件、政治人物的声明、广告宣传活动或更广泛的文化趋势）不会被明确说明，而是迫使观看者自己将各个点连接起来。观看者所需的额外工作是一种有说服力的技巧，因为它将个人拉入与他人联系的感觉中。如果表情包是在嘲笑或激起对另一个群体的愤怒，那么这些关联会得到进一步加强。

这些视觉形式看似玩闹的性质意味着，表情包尚未被许多研究和政策界人士承认为虚假信息、阴谋论或仇恨的有力载体。然而，最有效的虚假信息是那些会被分享的信息，而表情包往往比文字更易于分享。整个叙事都可以在你的信息流中看到；无需点击链接。安·肖·米娜 2019 年出版的著作《从表情包到运动》概述了表情包如何改变社会抗议和权力动态，但这种类型的严肃考察相对较少。

事实上，在 Facebook 上与 2016 年大选相关的俄罗斯创建的帖子和广告中，有很多是表情包。它们侧重于伯尼·桑德斯、希拉里·克林顿或唐纳德·特朗普等两极分化的候选人，以及枪支权利和移民等两极分化的政策。俄罗斯的行动经常针对基于种族或宗教的群体，如“黑人的命也是命”或福音派基督徒。当 Facebook 发布俄罗斯生成的表情包档案时，当时的一些评论集中在表情包的简陋及其影响上。但研究表明，当人们感到恐惧时，过度简化的叙事、阴谋论解释和妖魔化他人的信息会变得更加有效。这些表情包做得恰到好处，足以促使人们点击分享按钮。

Facebook、Instagram、Twitter 和 Pinterest 等技术平台在鼓励这种人类行为方面发挥着重要作用，因为它们的设计本质上是为了表演。在分享内容之前放慢速度检查内容是否真实远不如在这些平台上向你的“受众”强化你爱或恨某种政策那样具有吸引力。许多这些平台的商业模式都与这种身份表演有关，因为它鼓励你在他们的网站上花费更多时间。

研究人员已经构建了监控技术来跟踪不同社交平台上的表情包。但他们只能调查他们可以访问的内容，并且许多社交平台上的视觉帖子数据并非对所有研究人员开放。此外，用于研究文本的技术（如自然语言处理）比用于研究图像或视频的技术先进得多。这意味着正在推出的解决方案背后的研究不成比例地偏向于基于文本的推文、网站或通过 URL 发布的文章，以及对政治家在演讲中提出的主张进行事实核查。

尽管人们对科技公司提出了很多指责——并且理由正当——但它们也是其运营的商业环境的产物。任何算法调整、平台内容审核指南的更新或监管罚款都无法单独在所需层面改善我们的信息生态系统。

参与解决方案

在一个健康的信息公地中，人们仍然可以自由地表达他们想表达的内容——但旨在误导、煽动仇恨、强化两极分化或造成人身伤害的信息不会被算法放大。这意味着它不会被允许在 Twitter 或 YouTube 内容推荐器中成为热门趋势。也不会被选择出现在 Facebook 信息流、Reddit 搜索或 Google 热门结果中。

在放大问题得到解决之前，正是我们不经思考就分享的意愿将被虚假信息 агенты 用作武器。因此，一个紊乱的信息环境要求每个人都认识到他们自己也可能成为信息战中的一个载体，并培养一套在线和线下导航沟通的技能。

目前，关于公众意识的对话往往侧重于媒体素养，通常带有家长式的框架，认为公众只需要被教导如何成为更聪明的的信息消费者。相反，在线用户最好被教导发展认知“肌肉”，以进行情感怀疑，并接受训练以抵御旨在触发基本恐惧和偏见的如潮内容。

任何使用促进社交互动的网站的人都应该好好学习它们是如何运作的——尤其是算法如何通过“优先考虑激发对话和人与人之间有意义的互动”来决定用户看到什么，正如 Facebook 曾经说过的。我还建议每个人都至少尝试在 Facebook 上购买一次广告。设置广告系列的过程有助于了解可用信息的粒度。您可以选择将目标受众细分为特定的人群，例如 32 至 42 岁、居住在北卡罗来纳州罗利-达勒姆地区、有学龄前儿童、拥有研究生学位、是犹太人并且喜欢卡玛拉·哈里斯的女性。该公司甚至允许您在允许您私下失败的环境中测试这些广告。这些“暗广告”允许组织将帖子定向到特定人群，但它们不会显示在该组织的主页上。这使得研究人员或记者很难追踪哪些帖子被定向到不同人群，这在选举期间尤其令人担忧。

Facebook 活动是另一个操纵渠道。外国干预美国大选最令人震惊的例子之一是发生在德克萨斯州休斯顿的抗议活动，但这场活动完全是由位于俄罗斯的网络喷子策划的。他们设置了两个看起来是真实的美国 Facebook 页面。一个名为“德克萨斯之心”，支持脱离联邦；它为 2016 年 5 月 21 日创建了一个名为“阻止德克萨斯州伊斯兰化”的“活动”。另一个页面“美国联合穆斯林”宣传了自己的抗议活动，名为“拯救伊斯兰知识”，时间和地点与前者完全相同。结果是两群人出来互相抗议，而抗议活动的真正创建者则庆祝在休斯顿放大了现有紧张局势的成功。

虚假信息 агенты 的另一种常用策略被称为“人造草皮”。这个词最初与那些在网上撰写虚假产品评论或试图让人觉得粉丝社区比实际规模更大的群体有关。现在，自动化宣传活动使用机器人或激情四射的支持者和付费网络喷子的复杂协调，或两者兼而有之，以让人觉得某个人或政策获得了相当大的基层支持。他们希望，如果他们让某些主题标签在 Twitter 上成为热门趋势，特定的信息传递就会被专业媒体采纳，他们将能够引导放大效应，以霸凌特定的人或组织使其沉默。

了解我们每个人是如何受到此类宣传活动的影响——以及可能在不知不觉中参与其中——是反击那些试图颠覆共享现实感的人的关键第一步。然而，也许最重要的是，接受我们的社会在多大程度上容易受到人为放大的影响，需要以明智和冷静的方式进行。恐吓只会助长更多的阴谋论，并继续降低对高质量信息来源和民主制度的信任。对于被武器化的叙事，没有永久的解决方案。相反，我们需要适应这种新常态。正如涂抹防晒霜是社会随着时间的推移养成的习惯，然后在获得更多科学研究成果后进行调整一样，建立抵御紊乱信息环境的韧性也需要以同样的方式来思考。