和许多人一样，在过去一年里，我使用 Twitter，或者说 X，的频率越来越低。这并非出于单一原因：这个系统只是变得不那么有用和有趣了。但是，当最近以色列袭击事件的可怕消息传来时，我转向 X 寻求信息。然而，我看到的不是来自记者的新闻更新（这通常是我在突发新闻事件中看到的内容），而是骇人听闻的袭击现场图片，这些图片既残忍又令人恐惧。我不是唯一一个；其中一些帖子获得了数百万的浏览量，并被成千上万的人分享。
这不是一次糟糕的内容审核的丑陋事件。这是对社交媒体的战略性利用，以放大恐怖袭击的影响，而这种利用之所以成为可能，是因为产品设计不安全。X 的这种滥用之所以会发生，是因为在过去一年中，埃隆·马斯克系统性地拆除了许多保障 Twitter 用户安全的系统，并解雇了平台上几乎所有从事信任和安全工作的人员。以色列和加沙的事件提醒我们，社交媒体首先是一种消费品。而且，与任何其他大众消费品一样，使用它也存在很大的风险。
当您乘坐汽车时，您期望它具有正常工作的刹车。当您在药房取药时，您期望它不会被污染。但情况并非一直如此。汽车、药品和许多其他产品的安全性在刚上市时非常糟糕。人们花费了大量的研究、诉讼和监管才弄清楚如何在享受这些产品益处的同时避免伤害。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
像汽车和药品一样，社交媒体需要产品安全标准来保障用户安全。我们仍然没有关于如何建立这些标准的全部答案，这就是为什么社交媒体公司必须与公众分享更多关于其算法和平台的信息。两党合作的平台问责和透明法案将为用户提供他们现在需要的信息，以便就他们使用的社交媒体产品做出最明智的决定，并让研究人员开始着手研究这些产品安全标准可能是什么样的。
社交媒体的风险不仅限于放大的恐怖主义。旨在最大化关注度的算法对青少年，特别是对大脑仍在发育的女孩造成的危险已经变得不容忽视。其他产品设计元素，通常被称为“黑暗模式”，旨在让人们使用更长时间，似乎也促使年轻用户过度使用社交媒体，这与饮食失调和自杀意念有关。这就是为什么 41 个州和哥伦比亚特区正在起诉 Meta，即 Facebook 和 Instagram 背后的公司。针对该公司的诉讼指控其从事“利用年轻用户牟利的计划”，并构建产品功能以让孩子们更长时间地登录其平台，同时明知这对他们的心理健康有害。
每当受到批评时，互联网平台都会将责任推卸给用户。他们说这是用户自己的错，因为他们首先接触了有害内容，即使这些用户是儿童或内容是金融诈骗。他们还声称自己是在捍卫言论自由。诚然，世界各地的政府命令平台删除内容，一些专制政权滥用了这一程序。但我们目前面临的问题实际上与内容审核无关。X 的政策已经禁止暴力恐怖主义图像。内容之所以被广泛看到，仅仅是因为马斯克撤走了阻止恐怖分子利用该平台的人员和系统。Meta 被起诉不是因为其用户发布的内容，而是因为其在据称明知产品设计对用户有害的情况下做出的产品设计决策。平台已经拥有删除暴力或有害内容的系统。但如果他们的信息流算法推荐内容的速度快于其安全系统删除内容的速度，那仅仅是不安全的设计。
迫切需要更多的研究，但有些事情正变得清晰起来。诸如自动播放视频和无尽的信息流等黑暗模式对儿童尤其危险，因为他们的大脑尚未发育成熟，并且常常缺乏将手机放下的心理成熟度。基于参与度的推荐算法不成比例地推荐极端内容。
在世界其他地方，当局已经在采取措施，要求社交媒体平台对其内容负责。10 月，欧盟委员会要求 X 提供信息，内容涉及恐怖主义和暴力内容以及仇恨言论在该平台上的传播。根据今年在欧洲生效的《数字服务法案》，平台有义务采取行动阻止非法内容的传播，如果他们不这样做，可能会被处以高达其全球收入 6% 的罚款。如果这项法律得到执行，维护其算法和网络的安全性将成为平台最明智的财务决策，因为仅靠道德似乎并没有产生太大的动力。
在美国，法律图景更加模糊。针对 Facebook 和 Instagram 的案件可能需要数年才能通过我们的法院审理。然而，国会现在可以做一些事情：通过两党合作的平台问责和透明法案。该法案最终将要求平台披露更多关于其产品如何运作的信息，以便用户可以做出更明智的决定。此外，研究人员可以开始着手进行使社交媒体对所有人更安全所需的工作。
两件事是明确的：首先，在线安全问题正在导致真实的线下痛苦。其次，社交媒体公司不能或不愿独自解决这些安全问题。而且这些问题不会消失。正如 X 向我们展示的那样，即使是我们认为已经解决的恐怖主义放大等安全问题也可能再次出现。随着我们的社会在更大程度上转向线上，任何人，甚至是青少年，都可以“远离社交媒体”的想法变得越来越不现实。现在是我们要求社交媒体认真对待安全问题的时候了，为了每个人的利益。
这是一篇观点和分析文章，作者或作者表达的观点不一定代表 大众科学 的观点。