俄罗斯入侵乌克兰几天后，包括 Facebook、Twitter 和 YouTube 在内的多个社交媒体平台宣布，他们已经解散了旨在传播虚假信息的协调账户网络。这些网络由伪造账户组成，这些账户伪装成虚假姓名和人工智能生成的个人资料图片或被黑客入侵的账户，它们分享了可疑的、类似的、反乌克兰的论点，表明它们受到与俄罗斯和白俄罗斯有关联的中心化来源的控制。
俄罗斯的互联网研究所使用了类似的虚假信息宣传活动，以放大关于 2016 年美国大选的宣传。但在选举后，他们的程度才变得清晰，而且当时，他们几乎没有受到社交媒体平台的抵制。“当时人们感觉这些平台只是不知道该怎么做，”虚假信息研究员、纽约大学计算机科学博士候选人劳拉·埃德尔森说。她说，从那时起，平台和政府在打击此类信息战方面变得更加熟练，也更愿意取消故意传播虚假信息的不良行为者的平台资格。埃德尔森与《大众科学》谈到了随着冲突的持续，信息战是如何进行的。
[以下是采访的编辑稿。]
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保未来能够继续讲述关于塑造我们当今世界的发现和想法的具有影响力的故事。
社交媒体平台如何打击传播虚假信息的账户？
这些类型的虚假信息宣传活动——它们专门误导用户关于内容的来源——平台很容易对其采取行动，因为 Facebook 有这项实名政策：误导用户关于你是谁，这违反了 Facebook 的平台规则。但是还有[其他]一些事情应该不难取缔——但历史上 Facebook 一直在努力解决——那就是像 RT 这样的行为者。RT 是一家俄罗斯国家支持的媒体。历史上，Facebook 一直在努力解决如何处理这个问题。这就是看到 [Facebook 和其他平台] 真的开始在上周对 RT 采取一些行动如此令人印象深刻的原因，因为这种情况已经持续了很长时间。坦率地说，[社交媒体平台] 也得到了政府的掩护，欧洲政府已经禁止了俄罗斯国家媒体。这为 Facebook、YouTube 和其他主要平台采取同样的行动提供了掩护。总的来说，禁止任何人——尤其是禁止媒体——都不是任何人应该轻易采取的步骤。但是 RT 和 Sputnik [另一家俄罗斯国家支持的媒体] 不是普通媒体：它们在污染信息空间方面有着悠久的历史。
还可以做些什么来打击有害的虚假信息？
美国在进入这场冲突时做得很好的一件事——以及为什么至少从虚假信息[控制]的角度来看，第一周进展顺利的原因——是美国政府非常积极地发布关于其所了解的俄罗斯和乌克兰地面实际情况的信息。这对于创造一个空间非常有帮助，在这个空间中，俄罗斯人很难发布关于同样事情的虚假信息。因为美国政府非常坦诚，所以没有留下太多空间；没有俄罗斯人可以介入和填补的信息真空。然后，乌克兰政府在讲述乌克兰抵抗的故事方面非常精明。肯定有一些时候它越过了宣传的界限。但总的来说，它确保世界看到乌克兰的抵抗以及乌克兰人民愿意进行的战斗。这[帮助]人们看到正在发生的事情，并理解在那里战斗的人是真人，他们在不久前还不是战士。他们是平民，现在他们正在保卫自己的国家。
我认为这两件事都很难长期维持下去。但如果它们没有得到维持，那么俄罗斯虚假信息的窗口将会打开。我们所有人将要处理的一个挑战是，这场战争不会在未来几天内结束，但新闻周期无法维持对这些事件的这种关注程度。说出来令人震惊，但在三周后，你会有几个小时不去想它。那时人们的警惕性就会降低。如果有人试图传播某种[虚假信息]——也许俄罗斯人编造了一些虚假的乌克兰暴行或其他什么——那时世界将很容易受到这种事情的影响。那时我们将不得不记住所有这些东西，“是谁在告诉你这个故事？我们信任他们吗？这个叙述的可验证性有多高？”这将成为未来冲突进行方式的一部分。但这对于所有参与者来说都是新鲜事物，每个人都将不得不习惯在信息战中保持地面战力，而不仅仅是在动能战中。
有些人还指出，自从俄罗斯的互联网基础设施和支付网络受到制裁限制以来，其他形式的虚假信息有所减少，例如与疫苗相关的阴谋论。这是怎么回事？
我还没有看到关于此问题的大规模分析发表。也就是说，在过去一周，有很多轶事报告表明，其他领域的虚假信息明显减少。我们不能肯定地说这是因为俄罗斯缺乏互联网接入。结论并非所有被删除的东西都来自俄罗斯。从这些轶事报告中得出的合理结论是，俄罗斯的互联网基础设施是传播虚假信息的人员工具包的重要组成部分。这个经济体的很多部分都是在俄罗斯境外运营的——例如，僵尸网络、买卖被盗信用卡信息的网络、围绕购买被盗[社交媒体]账户的很多经济——因为俄罗斯历来容忍很多网络犯罪。要么它对此视而不见，要么很多这些团体实际上直接为俄罗斯国家工作，或者是俄罗斯国家的承包商。
我们如何避免受骗或传播虚假信息？
底线是人们不应该做这些事。这有点像说，“我的汽车没有安全带。我该怎么做才能在撞车事故中保护自己？”答案是：你的汽车应该有安全带，这不应该是你的工作。但不幸的是，事实就是如此。有了这个小小的警告，你必须记住，最成功的虚假信息是通过诉诸情感而不是理性来成功的。如果虚假信息可以利用这种情感途径，你就永远不会质疑它，因为它感觉良好，如果它感觉良好，它就接近于真实。因此，我建议的第一件事是：如果某件事让你感到情绪激动——尤其是如果某件事让你感到愤怒——在你分享它或与之互动之前，真的要问自己一个问题，“是谁在推广这个，我信任他们吗？”
平台需要做的最重要的事情是什么来安装隐喻的安全带？
我认为平台应该做的最重要的事情，尤其是在这些危机时刻，是[认识到它们]不应该仅仅根据参与度来推广内容。因为你必须记住，虚假信息真的很有吸引力。它之所以有吸引力，是因为我谈到的一些原因：高度的情感吸引力，绕过理性而直接作用于直觉的东西。这是一种非常有效的欺骗策略。因此，我认为这是平台需要提升内容质量相对于内容吸引力的重要性的时刻。这是他们可以做的最重要的事情，几乎所有其他事情都相形见绌。