是时候打开社交媒体的黑匣子了

社交媒体公司需要向独立研究人员提供他们的数据,以便更好地了解如何保障用户安全

Woman holding a writing pad stands in front of a screen showing different screenshots of social media sites sharing data with researchers for study.

Kailey Whitman

社交媒体平台是全球数十亿人与他人联系、获取信息和理解世界的场所。运营这些网站的公司,包括脸书、推特、Instagram、TikTok和Reddit,会收集基于其平台上发生的每一次互动的大量数据。

尽管社交媒体已成为我们最重要的公共言论论坛之一,但几个最重要的平台却由少数人控制。马克·扎克伯格控制着Meta(脸书和Instagram的母公司)58%的投票权,实际上使他完全控制了两个最大的社交平台。埃隆·马斯克出价440亿美元将推特私有化(尽管该交易是否能完成将取决于一场诉讼)。[编者注:马斯克在10月下旬完成了对推特的收购。] 所有这些公司都有选择性地与研究人员分享平台数据的历史,阻止我们理解社交媒体对个人和社会的影响。三大最强大的社交媒体平台的这种单一所有权使我们担心这种数据共享的封锁将继续下去。

经过数十年的几乎没有监管,现在是时候要求社交媒体公司提高透明度了。


关于支持科学新闻业

如果您喜欢这篇文章,请考虑通过以下方式支持我们屡获殊荣的新闻业 订阅。通过购买订阅,您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。


2020年,社交媒体是传播关于选举的虚假和误导性声明以及动员参与2021年1月6日国会大厦暴乱的群体的重要机制。我们已经看到关于新冠病毒的虚假信息在大流行期间在网上广泛传播。而今天,社交媒体公司未能删除他们承诺禁止的关于乌克兰战争的俄罗斯宣传。社交媒体已成为传播关于社会关注的每个问题的虚假信息的主要渠道。我们不知道下一次危机是什么,但我们知道关于它的虚假声明将在这些平台上流传。

不幸的是,社交媒体公司在发布数据和发表研究方面很吝啬,尤其是当研究结果可能不受欢迎时(尽管存在值得注意的例外)。了解平台上正在发生的事情的唯一方法是让立法者和监管机构要求社交媒体公司向独立研究人员发布数据。特别是,我们需要访问关于社交媒体结构的数据,例如平台功能和算法,以便我们可以更好地分析它们如何塑造信息的传播并影响用户行为。

例如,平台向立法者保证,他们正在采取措施通过标记内容和插入事实核查来对抗虚假信息和错误信息。这些努力有效吗?同样,我们需要访问数据才能知道。如果没有更好的数据,我们就无法就哪些干预措施最有效且符合我们的价值观进行实质性讨论。我们还面临着制定新的法律和法规,但这些法律和法规并不能充分解决危害,或者无意中使问题变得更糟的风险。

我们中的一些人曾在美国和欧洲就这些方面的潜在立法改革咨询过立法者。围绕社交媒体公司的透明度和问责制的对话已经变得更加深入和更实质性,从模糊的概括转向具体的建议。然而,这场辩论仍然缺乏重要的背景。立法者和监管机构经常要求我们更好地解释为什么我们需要访问数据,这将使哪些研究成为可能,以及这些研究将如何帮助公众并为社交媒体平台的监管提供信息。

为了满足这一需求,我们创建了我们可以回答的问题列表,如果社交媒体公司开始分享更多他们收集的关于其服务如何运作以及用户如何与其系统互动的数据。我们相信,这样的研究将帮助平台开发更好、更安全的系统,并为寻求追究平台对其向公众做出的承诺负责的立法者和监管机构提供信息。

  • 研究表明,虚假信息通常比其他类型的内容更具吸引力。为什么会这样?虚假信息的哪些特征与用户参与度和病毒式传播最相关?研究人员提出,新颖性和情感性是关键因素,但我们需要更多的研究来了解这是否属实。更好地理解为什么虚假信息如此吸引人将有助于平台改进其算法并减少推荐虚假信息的频率。

  • 研究表明,公司用于最大化收入的交付优化技术,甚至广告交付算法本身,都可能具有歧视性。与其他人相比,某些用户群体是否更有可能看到潜在有害的广告,例如消费者诈骗?其他人是否不太可能看到有用的广告,例如招聘信息?广告网络如何改进交付和优化以减少歧视?

  • 社交媒体公司试图通过标记来源可疑的内容来打击虚假信息,希望将用户推向更准确的信息。调查实验的结果表明,标签对信念和行为的影响是复杂的。我们需要更多地了解当个人在平台上遇到标签时,标签是否有效。标签是减少了虚假信息的传播,还是吸引了用户可能原本会忽略的帖子的注意力?当人们变得更加熟悉标签时,他们是否开始忽略标签?

  • 推特的内部研究表明,在研究的七个国家中的六个国家,推特的算法放大了右倾政治家和政治新闻来源,而不是左倾账户。其他社交媒体平台使用的其他算法是否也显示出系统的政治偏见?

  • 由于社交媒体平台现在在公共讨论中发挥着核心作用,因此它们对谁可以发言拥有很大的权力。少数群体有时会觉得他们的观点因平台审核决定而在网上被噤声。关于平台上允许哪些内容的决定是否对某些群体产生了不成比例的影响?平台是否允许一些用户通过滥用审核工具或通过旨在压制某些观点的系统性骚扰来让其他人噤声?

社交媒体公司应该欢迎独立研究人员的帮助,以更好地衡量在线危害并为政策提供信息。一些公司,如推特和Reddit,一直很有帮助,但我们不能依赖少数几家企业的善意,因为它们的政策可能会在新老板的一时兴起下改变。我们希望潜在的马斯克领导的推特会像以前一样乐于助人,甚至更乐于助人。[编者注:本文是在马斯克获得推特所有权之前撰写和发布的。] 在我们快速变化的信息环境中,我们不应该通过轶事来监管和立法。我们需要立法者确保我们能够访问我们需要的数据,以帮助保障用户安全。

编者注(2022年11月11日):这篇文章在发布后进行了编辑,以包含关于埃隆·马斯克收购推特的更新。

本文的一个版本,标题为“社交媒体公司必须共享数据”,已改编收录在2022年12月刊的《大众科学》中。

© . All rights reserved.