以下文章经 The Conversation 许可转载，The Conversation 是一家报道最新研究的在线出版物。
2016 年美国大选是对社交媒体上政治虚假信息危险的警钟。在经历了另外两个充斥着虚假信息的选举周期后，社交媒体公司在识别和 противодействие 虚假信息方面积累了经验。然而，虚假信息对社会构成的威胁本质仍在形式和目标上不断变化。关于 2020 年总统大选的弥天大谎已成为一个主要主题，并且 移民社区日益成为虚假信息宣传活动的焦点 ——这些活动是蓄意传播虚假信息的行为。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您将有助于确保未来能够继续报道关于塑造我们当今世界的发现和想法的具有影响力的故事。
社交媒体公司已宣布应对 2022 年中期选举中虚假信息的计划，但各公司的方法和有效性各不相同。我们请社交媒体专家评估 Facebook、TikTok、Twitter 和 YouTube 在应对这项任务方面的准备情况。
2022 年看起来像 2020 年
Dam Hee Kim，亚利桑那大学传播学助理教授
社交媒体是 2022 年大多数美国人获取新闻的重要来源，但它们也可能是传播虚假信息的沃土。主要社交媒体平台宣布了应对 2022 年美国中期选举中虚假信息的计划，但专家指出，这些计划与他们 2020 年的计划并没有太大不同。
一个重要的考虑因素：用户并不局限于仅使用一个平台。一家公司的干预可能会适得其反，并促进虚假信息的跨平台传播。主要社交媒体平台可能需要协调努力以打击虚假信息。
Facebook/Meta：C
Facebook 因其在 2016 年总统竞选期间未能打击虚假信息而受到广泛指责。尽管 2016 年总统大选期间 Facebook 上与虚假信息的互动（点赞、分享和评论）达到每月 1.6 亿次的峰值，但 2018 年 7 月的水平（每月 6000 万次）仍然很高。
更新的证据表明，在管理传播虚假信息的帐户、标记虚假信息帖子以及减少这些帐户和帖子的传播范围方面，Facebook 的方法仍有改进空间。2020 年 4 月，事实核查人员通知 Facebook 59 个传播有关 COVID-19 虚假信息的帐户。截至 2021 年 11 月，其中 31 个帐户仍然活跃。此外，中国官方运营的 Facebook 帐户一直在用英语向其数亿粉丝传播有关乌克兰战争的虚假信息。
Twitter：B
虽然自 2016 年以来，Twitter 通常不被视为虚假信息的最大罪魁祸首，但其虚假信息应对措施是否足够尚不清楚。事实上，Twitter 上虚假信息的分享量从 2016 年总统大选期间的每月约 300 万次增加到 2018 年 7 月的每月约 500 万次。
这种模式似乎仍在继续，因为在 2019 年 4 月至 2021 年 2 月期间，超过 30 万条推文（不包括转发）包含在事实核查后被标记为虚假的链接。这些推文中只有不到 3% 的推文显示了警告标签或弹出框。在分享相同虚假信息链接的推文中，只有少数显示了这些警告，这表明对虚假信息添加警告的过程并非自动、统一或高效。Twitter 确实宣布已重新设计标签，以阻止进一步互动并方便点击以获取更多信息。
TikTok：D
作为增长最快的社交媒体平台，TikTok 有两个显着特点：其主要为年轻成人的用户群经常在该平台上消费新闻，其短视频通常带有引人注目的图像和声音。虽然这些视频比基于文本的内容更难审查，但它们更可能被记住、唤起情感并说服人们。
TikTok 应对虚假信息的方法需要重大改进。2022 年 9 月对热门新闻主题的搜索结果显示，用户生成的视频中，20% 包含虚假信息，并且包含虚假信息的视频通常排在前五个结果中。当使用中性短语作为搜索词时，例如“气候变化”，TikTok 的搜索栏会建议更多带有倾向性的短语，例如“气候变化已被揭穿”或“气候变化不存在”。此外，TikTok 将可靠来源与传播虚假信息的帐户并列呈现。
YouTube：B-
在 2019 年 4 月至 2021 年 2 月期间，170 个 YouTube 视频被事实核查机构标记为虚假。其中刚过一半的视频显示了“了解更多”信息面板，但没有被标记为虚假。YouTube 似乎主要通过自动检测涉及 COVID-19 等争议性话题的某些关键词来添加信息面板，而不一定是在检查视频内容是否包含虚假信息之后。
YouTube 可以推荐更多来自可靠来源的内容，以减轻审查所有上传视频中虚假信息的挑战。一项实验收集了在具有空白观看历史记录的用户观看了一个在事实核查后被标记为虚假的视频后推荐的视频列表。在推荐的视频中，18.4%具有误导性或带有极端党派色彩，并且排名前 10 的推荐频道中有 3 个频道从Media Bias/Fact Check获得了混合或较低的事实报道评分。
弥天大谎
Anjana Susarla，密歇根州立大学信息系统教授
随着 2022 年中期选举临近，虚假信息研究人员主要关注的问题是关于 2020 年大选的虚假叙事的盛行。技术与社会变革项目的一个虚假信息专家团队研究了一组跨平台的网络影响者，他们通过“弥天大谎”（即关于 2020 年大选中存在广泛选举舞弊的虚假说法）积累了大量粉丝。《华盛顿邮报》在 2022 年 9 月 20 日发表了一份分析报告，发现该报认定为 2020 年大选虚假信息最大传播者的 77 个帐户中的大多数仍然在所有四个社交媒体平台上活跃。
总的来说，我认为没有一个平台非常有效地解决了这些问题。
Facebook/Meta：B-
Meta 是 Facebook 的母公司，它允许政治家豁免于事实核查规则。与 Twitter 或 TikTok 不同，他们也不禁止政治广告。Meta 尚未公开任何关于其规则如何专门防止虚假信息的政策，这让观察家质疑其应对中期选举期间虚假信息的准备情况。
尤其令人担忧的是，政治家通过选举虚假信息从微定向（针对狭隘的人口群体）中获益，例如一位国会候选人在 Facebook 上发起广告宣传活动，指控在 2020 年大选期间掩盖“选票收集”行为。针对少数族裔社区（尤其是西班牙裔和拉丁裔社区）的选举虚假信息，在 WhatsApp 等消息应用程序上是 Meta 的另一个主要执法挑战，因为该公司的内容审核资源主要分配给英语媒体。针对少数族裔社区，尤其是西班牙裔和拉丁裔社区的选举虚假信息是 Meta 的另一个主要执法挑战，因为该公司的内容审核资源主要分配给英语媒体。
Twitter：B
Twitter 不允许政治广告，并且在减少与选举相关的虚假信息方面做出了最大的努力。Twitter 强调其使用“预先辟谣”，即教育人们了解虚假信息策略的过程，是减少虚假信息传播的有效方法。
然而，Twitter 在执行其政策方面也一直不一致。例如，亚利桑那州州长候选人卡里·莱克在 Twitter 上询问她的粉丝是否愿意监督投票站是否存在选民欺诈案件，这导致民权倡导者警告可能在投票站发生恐吓事件。
TikTok：D
TikTok 不允许政治广告，这使得与选举相关的虚假信息的微定向在这个平台上不那么成问题。许多研究人员强调了 TikTok 缺乏透明度，这与 Twitter 和 Facebook 等平台不同，后者更愿意接受研究人员的努力，包括共享数据。TikTok 声明的内容审核方法是“可疑内容”不会通过推荐进行放大。
然而，视频和音频内容可能比文本内容更难审核。在 TikTok 等平台上的危险在于，一旦误导性视频被平台删除，经过操纵和重新发布的版本可能会很容易地在平台上流传。例如，Facebook 采用人工智能辅助方法来大规模检测其所谓的“已知虚假信息的近似重复内容”。TikTok 尚未发布关于如何处理与选举相关的虚假信息的近似重复内容的详细信息。
在国际上，TikTok 因其无法抑制与选举相关的虚假信息而面临巨大批评。在德国上次全国选举期间，TikTok 帐户冒充了著名的政治人物。
YouTube：B-
YouTube 的政策是删除“违规”叙事并终止在 90 天内收到三次警告的频道。虽然这可能有效地控制某些类型的虚假信息，但 YouTube 很容易受到相当隐蔽的与选举相关的内容的影响，包括关于选票贩运的虚假信息。一部名为“2000 mules”的虚假信息电影仍在平台上流传。
观察家批评 YouTube 在国际上未能充分解决与选举相关的虚假信息问题。例如，在巴西，在消息应用程序 Telegram 上分享 YouTube 视频已成为传播与选举相关的虚假信息的流行方式。这表明 YouTube 也可能容易受到美国有组织的与选举相关的虚假信息的影响。
准备程度各异
Scott Shackelford，印第安纳大学商业法与伦理学教授
美国民主面临的许多威胁都源于由不平等、不公正和种族主义助长的内部分裂。这些裂痕有时会被希望转移和破坏美国政府稳定的外国有意扩大和加深。网络空间的出现使虚假信息传播过程进入超速状态，既加速了故事跨越国界和平台病毒式传播，又导致传统和社交媒体类型激增，这些媒体愿意传播虚假故事。一些社交媒体网络已被证明比其他网络更能应对这一时刻。
Facebook/Meta：C
尽管采取措施限制中国宣传在 Facebook 上的传播，但两党似乎已达成共识，认为 Facebook 没有从 2016 年的选举周期中吸取教训。事实上，它仍然允许政治广告，包括共和党国会候选人乔·肯特声称 2020 年选举中存在“猖獗的选民欺诈”的广告。
尽管 Facebook 已采取一些措施提高透明度，例如其广告库所示，但它要赢回消费者信任并履行其社会责任还有很长的路要走。
Twitter：B*
Twitter 是最早在其平台上禁止政治广告的社交媒体平台之一，此前 LinkedIn、Pinterest 和 TikTok 也采取了类似行动。不过，它因执行不力而受到批评。例如，印第安纳大学社交媒体观察站有一个名为 Hoaxy 的工具，可以实时搜索各种虚假信息。
此评分中的 * 号表示人们担心 Twitter 未来在打击虚假信息方面的努力，因为它可能被埃隆·马斯克收购，而马斯克一直公开表示他希望允许不受限制的言论。
TikTok：F
从表面上看，TikTok 不允许政治广告这一事实预示着它有能力根除虚假信息，但实际上，它在这方面的能力非常有限，这一点已经很明显。特别是人工智能支持的深度伪造是 TikTok 上一个日益严重的问题，而其他社交媒体网络已经能够更有效地监控这个问题。
它建立选举中心、禁止深度伪造和标记虚假信息的努力值得欢迎，但这些努力是被动的并且来得太晚，当时一些州的初选投票已经开始。例如，即使在 2022 年 8 月宣布新改革之后，一份报告发现“该平台自动推荐的视频中，几乎五分之一包含虚假信息”。现在 TikTok 已成为全球第二受欢迎的域名，仅次于 Google，其不断扩大的影响力和影响力突显了 TikTok 需要主动领导，以更好地监管其内容的完整性。
YouTube：C+
谷歌已宣布采取新措施，打击其平台（包括 YouTube）上的虚假信息，例如突出本地和区域新闻报道，但正如我们在巴西选举中看到的“停止窃选”叙事一样，到目前为止，虚假信息仍在自由传播。
本文最初发表于 The Conversation。阅读原文。
编辑注（2022 年 10 月 26 日）：我们在 The Conversation 的合作伙伴在发布本文后对其进行了修订，以提供来自 TikTok 搜索完成功能的不同示例以及关于持续存在的虚假信息问题的更多证据。此外，更新澄清了 Twitter 并非第一个禁止政治广告的社交媒体平台。修订后的文本还明确指出，当 TikTok 建立其选举中心时，初选投票正在进行中。