基督城清真寺枪击事件，造成51人死亡，49人受伤，无论从哪个角度衡量，都是一场现代恐怖事件——从100名受害者的痛苦和煎熬，到他们数百名家人和朋友的悲痛，再到这座受伤的城市和国家的悲伤和愤怒的呼喊。现在，乔治·华盛顿大学研究员尼尔·约翰逊和他的同事在一篇新论文中指出，如果说这一切还不够噩梦的话，那么从其细节的总和来看，基督城大屠杀就成为了他们所称的“在线仇恨生态”的边界挑战复杂性的缩影，这种全球网络将新纳粹分子、白人至上主义者和其他极端分子群体联系起来。
约翰逊和他的同事在论文中解释说，在本案中，被指控袭击的男子是澳大利亚人，枪击事件发生在 न्यूजीलैंड，枪支上覆盖着“几种欧洲语言的信息，内容是各大洲在线仇恨集群中提到的历史话题”。这些话题包括欧洲人在历史上击败伊斯兰势力的事件。
此外，枪手在脸书上直播了对两座目标清真寺中第一座的袭击。不到五个月后的8月3日，就在22人被杀、20多人受伤的德克萨斯州埃尔帕索沃尔玛枪击案发生前不久，被指控在该案中犯有谋杀罪的男子据信在网上发布了一份声明，开头是“总的来说，我支持基督城枪击案枪手及其宣言。”
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和想法的具有影响力的故事的未来。
正如这一连串的联系所表明的那样，约翰逊说，通过鼠标点击就能在世界各地传播仇恨的“网络之网络”，以及能够滋养像基督城和埃尔帕索枪手这样的杀人凶手的“网络之网络”，超越了身体和精神障碍。“它们跨越大陆，跨越文化，跨越语言，”他说。“我们看到西班牙的‘佛朗哥民族主义者’与北欧国家的‘雅利安妇女爱好者’联系在一起，然后立即转向弗吉尼亚州，在那里他们谈论的是民兵组织。”
在发表于《自然》杂志本周新刊的论文中，研究现实世界系统复杂性的物理学教授约翰逊和他的团队解释了为什么破坏和瓦解这种网络如此困难。他们描述了这些群体为阻止识别和驱逐他们的努力而使用的“集体在线适应”。
研究人员写道，使用公共数据，他们能够观察到这些网络“在受到攻击时，在微观层面迅速重新布线和自我修复”。例如，在2018年2月佛罗里达州帕克兰高中枪击事件发生后，“VKontakte（俄罗斯社交媒体平台）上的[三K党]生态”发生了重大的自发重组（旧的群体间联系被打破，新的联系形成），这显然是对有关被指控的枪手对三K党感兴趣的新闻报道的保护性回应。
哈佛大学伯克曼克莱因互联网与社会中心的研究员、危险言论项目创始人兼主任苏珊·贝内施说：“这是一篇有趣的反传统论文。”。“作者试图发现删除帖子或帐户的后果，这本身就是一种贡献，因为人们常常想当然地认为删除是对不良内容最有效的回应——但没有证据。”
除了描述在线仇恨群体在受到脸书和其他社交媒体平台攻击时的达尔文式韧性外，研究人员还根据他们的数学模型提出了具体的干预措施，他们写道，这些措施“可以帮助击败在线仇恨”。他们认为，在一个平台上（如脸书）监管仇恨实际上可能会“使情况变得更糟”。
为了说明后一点，约翰逊用了一个草坪护理的比喻：“如果你的街区有虫害问题，而你只专注于你自己的院子，你可能会在根除你院子里的东西方面做得非常好，”他说。“但在某种意义上，你已经加强了你院子外面的东西，因为你把它推回去了。而且你已经迫使它集中在你院子的边界，你的控制边界。”
该论文描述了在脸书禁止三K党群体，以及乌克兰政府随后禁止VKontakte后，乌克兰三K党群体集群如何迁移到脸书，并用西里尔字母写下“三K党”，使得英语算法更难检测到他们。约翰逊称这种适应类型为“仇恨集群转世”。研究还表明，各个平台之间缺乏协调的监管可能会导致孤立的在线“暗池”的产生，仇恨可以在监管较少的平台上滋生。
为了对抗仇恨群体适应攻击的能力，该论文首先提出，由于大型群体和集群是由小型群体形成的，社交媒体平台应针对较小的群体（这些群体数量更多，更容易找到），以防止大型群体的形成。该研究中的第二个类似建议是建议随机禁止“在线仇恨人群中的一小部分个人用户”，而不是禁止著名的仇恨群体领导人。正如约翰逊解释的那样，这种方法不仅避免了制造烈士，还可以严重削弱一个群体。“我们的模型表明，随机禁止10%的个人可以导致全球仇恨网络规模缩小多达50%，”他说。
研究人员的第三项政策建议包括平台管理者创建人工反仇恨账户，以帮助此类群体找到彼此，并鼓励形成反仇恨集群，以中和致力于仇恨的集群。他们的第四项建议旨在利用仇恨群体内部的内讧，引入第三类用户来煽动特定群体内部的不和。
贝内施就互联网平台创建人工反仇恨账户（她推测是机器人）的建议提出质疑，目的是产生可以中和仇恨集群的真实账户集群。“我想知道中和将如何运作，”她说，“因为我自己的研究表明，让仇恨账户接触反仇恨材料并不会自动中和它们，反而只会加深它们对仇恨的执着。”
约翰逊认为他和他的同事提出的策略是比更具压迫性的奥威尔式选择更“有机的”替代方案。“消除仇恨的最简单方法就是关闭所有网络，”他说。“但这种自上而下的方法在认知方面是有代价的。因此，我们希望探索自下而上的方法。”
约翰逊承认，这些方法可能看起来超出了科技公司愿意做的范围。但他说，如果这些方法被证明是有效的，它们可能会为公司节省数百万美元的监管成本，更不用说如果发现它们违反了更多国家正在通过的仇恨言论法，它们将面临巨额罚款。“这就像不得不购买越来越多的东西来处理杂草，”约翰逊说，又回到了他的草坪护理比喻。“所以如果我能有机地做到这一点，可能会更便宜。”