上周，当亿万富翁企业家埃隆·马斯克完成对 Twitter 的收购并承诺“鸟儿自由了”时，菲利克斯·恩达欣达看到了地平线上升起的威胁。
恩达欣达接受过国际法培训，并在荷兰蒂尔堡担任顾问，处理与非洲大湖地区冲突与和平有关的问题。他已经看到了“自由”的 Twitter 会做出什么。多年来，他一直在追踪刚果民主共和国武装冲突中出现的社交媒体仇恨言论。许多煽动性言论并未被包括 Twitter 在内的平台用于识别有害内容的系统检测到，因为它们是以未内置于其筛选工具中的语言共享的。
即便如此，恩达欣达预计，马斯克承诺减少 Twitter 对社交媒体帖子的监督，将加剧仇恨言论在大湖地区及其他地区的势头和影响。“一种放任自流的文化总是会加剧这种趋势，”恩达欣达说。“这将壮大行动者的胆量，并增加他们仇恨言论的毒性。”
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将有助于确保未来能够继续看到关于塑造我们今天世界的发现和想法的具有影响力的报道。
随着马斯克对该平台的计划逐渐清晰，所有人的目光都集中在 Twitter 上。目前尚不清楚他将在多大程度上实现他早期成为“言论自由绝对主义者”的承诺，这引发了人们的担忧，即他可能会减少对冒犯性或潜在有害推文的监督。但过去的研究为放宽推文限制可能会产生什么影响提供了一些线索。
“这是一个非常复杂的生态系统，”马萨诸塞州波士顿大学研究网络安全和网络安全的詹卢卡·斯特林吉尼说。“但是，如果你完全取消对 Twitter 的审核，情况将会变得更糟。”
一切适度
目前，Twitter 使用自动化和人工审核相结合的方式来审核其平台上的讨论，有时会标记可疑材料并链接到更可信的信息来源，有时还会禁止用户重复违反其关于有害或冒犯性言论的政策。
马斯克多次表示，他希望放松 Twitter 对言论的束缚。在他收购该公司后的几天里，Twitter 报告仇恨言论激增。到 10 月 31 日，该公司表示已删除 1,500 个与此类帖子相关的帐户，马斯克表示，目前，其审核政策尚未改变。
该公司将如何继续发展仍不确定。马斯克会见了民权领袖，讨论了他关于成立审核委员会负责制定关于仇恨言论和骚扰政策的计划。马斯克表示，在建立允许之前被 Twitter 禁用的用户重新加入的流程之前，他们不会被恢复。
斯特林吉尼说，一些被 Twitter 禁用的用户将撤退到不太知名的平台，这些平台对可以说的内容限制较少。一旦到了那里，他们的社交媒体活动往往会变得更具毒性和更极端。“我们看到一个社区变得更加忠诚、更加活跃——但也更小，”他说。
斯特林吉尼说，通常，这些平台是虚假叙事开始的地方。当这些叙事蔓延到 Twitter 或 Facebook 等主流平台时，它们就会爆发。“它们在 Twitter 上被推送并失控，因为每个人都看到了它们，记者也报道了它们，”他说。
Twitter 限制关于某些主题（例如 COVID-19）的仇恨言论和虚假信息的政策降低了此类推文被放大的可能性，因此放宽这些政策将使它们能够找到更大的受众。
糟糕的生意
“当你在社交媒体上看到一些具有公众地位的人使用煽动性言论——特别是那些贬低他人的言论——时，我真的会感到害怕，”宾夕法尼亚州立大学帕克分校研究恐怖主义的詹姆斯·皮亚扎说。“在这种情况下，你可能会有更多的暴力事件发生。”
但皮亚扎表示，从其他对言论限制宽松的社交媒体平台来看，极端主义和虚假信息的兴起对于像 Twitter 这样具有主流吸引力的平台来说可能是糟糕的生意。“这些社区会退化到无法使用的地步——它们充斥着机器人、色情内容和令人反感的内容，”皮亚扎说。“人们会涌向其他平台。”
华盛顿特区乔治华盛顿大学政治学家丽贝卡·特龙布尔说，欧盟即将出台的法规也可能使马斯克的“言论自由”言论变得不切实际。欧盟的《数字服务法案》将于 2024 年生效，将要求社交媒体公司减轻非法内容或虚假信息造成的风险。特龙布尔说，理论上，Twitter 和其他平台可以尝试为欧洲制定单独的政策和实践，但这在实践中可能被证明是困难的。“当包括核心算法在内的基本系统正在引入这些风险时，缓解措施必然会影响整个系统。”
特龙布尔预计，马斯克时代的 Twitter 将从一段混乱时期开始，马斯克和 Twitter 用户将测试界限。然后，她说，它很可能会稳定下来，变成一个与旧 Twitter 非常相似的系统。
在未来几周，斯特林吉尼预计研究人员将启动研究，比较马斯克收购前后的 Twitter，并关注虚假信息传播的变化、哪些用户帐户被暂停，以及 Twitter 用户是否因抗议新政策而退出该平台。特龙布尔打算监测 Twitter 上有组织的骚扰活动。
Twitter 政策的变化是否会对现实世界的行为产生影响是另一个悬而未决的问题：研究人员一直在努力明确区分社交媒体的影响与不断变化的社会环境中的许多因素。例如，2017 年对 1,200 多名美国共和党和民主党 Twitter 用户的研究发现，接触俄罗斯互联网研究机构运营的账户对政治态度和行为没有显着影响。“在我们的许多研究中，我们衡量的是哪些叙事被接受以及它们如何传播，”斯特林吉尼说。“缺失的环节是我们无法真正判断这种在线信息是否真的在改变任何人在现实世界中的行为和观点。”
然而，恩达欣达清楚地认识到，社交媒体上仇恨言论和阴谋论的常态化可能助长了刚果民主共和国的暴力事件，即使学者们尚未能够清晰地描绘出其贡献。“要弄清楚从一条推文到暴力的因果联系是非常困难的，”恩达欣达说。“但我们有很多行为者公开煽动犯罪，然后这些犯罪行为随后就被实施了。”
本文经许可转载，首次发表于此处，日期为 2022 年 11 月 4 日。