我玩 英雄联盟 不到一分钟，屏幕上就弹出了恐同的污言秽语。实际上，我甚至还没开始玩。这是我第一次尝试加入许多人公认的世界领先的在线游戏，我选角色选得很慢。消息开始涌入。
“选一个，小鬼，” 有人催促道。
然后，“选个 娘 炮。”
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。通过购买订阅，您正在帮助确保未来能够继续讲述关于塑造我们当今世界的发现和想法的具有影响力的故事。
这是一种不寻常的拼写，空格可能是为了让这个词更容易通过游戏默认的粗俗过滤器，但意思很明确。
在线游戏玩家以充满敌意而闻名。在一个基本上没有后果的环境中，居住着大多是匿名的、好胜的年轻人，他们的滑稽行为可能非常恶劣。玩家会因为别人表现不好而互相骚扰，并且会作弊、破坏游戏，以及做任何事情来故意破坏其他人的体验——这种行为被游戏玩家称为恶意破坏。
种族主义、性别歧视和恐同言论十分猖獗；侵略者经常威胁暴力或敦促玩家自杀；而且有时，刻薄的言语会蔓延到游戏之外。在 2014 年末爆发的臭名昭著的“玩家门”争议中，几位参与游戏行业的女性遭受了一场骚扰运动，包括侵犯隐私以及死亡和强奸威胁。
《英雄联盟》拥有 6700 万玩家，去年总收入估计为 12.5 亿美元。但它也因游戏内不良行为而闻名，其母公司，位于加利福尼亚州洛杉矶的 Riot Games，将此视为吸引和留住玩家的障碍。因此，该公司聘请了一个研究团队来研究其用户之间的社交和反社会互动。由于玩家众多，科学家们已经能够收集大量的行为数据，并进行在学术环境中很少能实现的大规模实验。
虽然其他游戏公司也有类似的研究团队，但 Riot 在其工作方面非常开放——对玩家、对其他公司以及对越来越多的学术合作者开放，他们将多人游戏视为研究人类行为的培养皿。“Riot 最有趣的地方不是他们在做这件事，而是他们公开这件事，并且有既定的方式与学者分享，” 位于加利福尼亚州森尼维尔的视频游戏行业咨询公司 Quantic Foundry 的社会科学家兼联合创始人 Nick Yee 说。
Riot 的发现有助于揭示不良行为的来源，以及如何引导玩家彼此更友善。有些人说，这项工作可能会推广到游戏之外的数字领域。“他们所做的工作可以扩展到思考更大的问题，” 马萨诸塞州剑桥市麻省理工学院的教育研究员 Justin Reich 说，“不仅仅是如何使在线游戏成为更文明的地方，而是如何使互联网成为更文明的地方？”
大生意
Jeffrey Lin 是 Riot 社交系统的首席设计师，也是其研究项目的公众人物。他从大约 11 岁起就开始玩在线视频游戏，并且长期以来一直想知道为什么这么多游戏玩家会容忍不良行为。“你跟任何人谈起互联网，他们都会认为互联网是一个充满仇恨的地方，” 他说。“为什么我们认为这是游戏体验的正常组成部分？”
2012 年，Lin 在西雅图华盛顿大学攻读认知神经科学博士学位即将毕业，并在附近的贝尔维尤的游戏公司 Valve 工作，当时一位朋友和游戏玩家同事将他介绍给了 Riot 的联合创始人 Marc Merrill 和 Brandon Beck。他们已经认识到不良行为严重拖累了玩家的体验，他们想用科学来解决这个问题。因此，他们聘请 Lin 担任游戏设计师，实际上是将在线游戏世界巨头的钥匙交给了他。
《英雄联盟》是 Riot 唯一一款游戏，于 2009 年发布，目前每天吸引 2700 万玩家。它是电子竞技这一新兴游戏领域中最受欢迎的游戏，在这个领域中，精英玩家组成职业战队，赢得大学奖学金，并参加体育场馆中数百万美元的锦标赛。《英雄联盟》2015 年柏林世界锦标赛决赛吸引了 3600 万在线和电视观众，与一些传统体育项目决赛的观众人数不相上下。
对于新手来说，这款游戏可能会让人望而生畏。玩家控制 120 多个名为英雄的角色之一，每个角色都有特定的能力、弱点和角色。队伍通常由五名玩家组成，他们必须合作杀死怪物和对手，收集金币购买魔法物品，占领领土，并最终摧毁对方队伍的基地。
比赛平均持续约半小时，因此队伍中有一个表现不佳的玩家可能会让人恼火。而且这款游戏需要玩家之间的协调，为此它提供了游戏内聊天功能。如果有人犯了错误，他或她通常会很快听到批评。玩家可以举报队友的不良行为，这可能会导致暂时或永久禁止玩游戏。但是，要弄清楚如何区分一些沮丧的抱怨或善意的垃圾话，与那种值得惩罚的尖刻言语，是一项艰巨的任务。
为了解决这个问题，Lin 需要确保他对这种不良行为的来源有一个清晰的认识。因此，他让一个团队每天审查数千场游戏的聊天记录，并将玩家的发言编码为正面、中性或负面。
由此产生的不良行为地图令人惊讶。普遍的看法认为，互联网上的大部分恶意来自一小部分居民——喷子。事实上，Lin 的团队发现只有约 1% 的玩家一直表现出不良行为。但事实证明，这些喷子只产生了《英雄联盟》中约 5% 的不良行为。“绝大多数来自只是心情不好的普通人，” Lin 说。他们大部分时候表现良好，但偶尔会爆发。
这意味着即使 Riot 封禁所有最恶劣的玩家，也可能不会产生很大的影响。为了减少大多数玩家体验到的不良行为，公司必须改变玩家的行为方式。
Lin 借鉴了经典心理学的一个概念。2012 年底，他发起了一项大规模的启动测试，这种想法认为，在活动之前呈现的图像或信息可以朝一个方向或另一个方向推动行为。
Riot 团队设计了 24 条游戏内消息或提示，包括一些鼓励良好行为的消息——例如“如果在犯错后给予玩家建设性的反馈，玩家的表现会更好”——以及一些劝阻不良行为的消息：“如果在犯错后骚扰队友，队友的表现会更差”。他们以三种颜色并在游戏期间的不同时间呈现提示。总而言之，有 216 种条件要对照对照组进行测试，在对照组中没有给出任何提示。对于一家有能力每天进行数百万次实验的公司来说，在实验室中对人们进行如此荒谬数量的排列组合测试是微不足道的。
其中一些提示产生了明显的影响（参见 “文明工程”）。与对照组相比，关于骚扰导致表现不佳的警告使消极态度降低了 8.3%，言语虐待降低了 6.2%，攻击性语言降低了 11%。但是，只有当提示以红色呈现时才具有强大的影响力，红色在西方文化中通常与避免错误相关联。关于玩家合作的正面信息使攻击性语言减少了 6.2%，并在其他类别中产生了较小的益处。Riot 仅发布了其中的一些分析，因此很难做出广泛的概括。
Lin 说，从科学的角度来看，启动实验的结果是“史诗般的”，它们为更多的研究问题打开了大门，例如各种提示和颜色可能如何影响来自不同文化的玩家。但是，行为的改善太小且太短暂，无法改变游戏文化。Lin 推断，如果他想让社区更文明，那么玩家必须在制定规范方面拥有发言权。因此，Riot 推出了审判庭，让玩家有机会担任同龄人的法官和陪审团。在审判庭中，志愿者审查被举报不良行为的玩家的聊天记录，然后投票决定违规者是否应受到惩罚。
Lin 说，始于 2011 年的审判庭让玩家对建立社区规范有了更大的控制感。它还揭示了一些最容易引起谴责的事情：恐同和种族歧视的污言秽语。但是，被禁止玩游戏的玩家通常不确定自己为何受到惩罚，并且在禁令解除后继续表现出消极行为。因此，Lin 的团队开发了“改造卡”以向被禁玩家提供反馈，然后公司监控他们的游戏行为。当玩家仅被告知哪种行为使他们陷入困境时，50% 的人在接下来的三个月内没有再次犯错，以致再次受到惩罚。当他们收到包含审判庭的判决以及详细说明导致禁令的聊天和行为的改造卡时，改造率上升到 70%。
但是这个过程很慢；改造卡可能要到违规行为发生后两周到一个月才会出现。“如果你查看任何关于强化学习的经典文献，反馈的时机都非常关键，” Lin 说。因此，他和他的团队使用他们收集的大量数据来训练计算机，以便更快地完成这项工作。“我们放开了机器学习，” Lin 说。自动化系统可以提供几乎即时的反馈；当虐待举报在违规行为发生后 5-10 分钟内到达时，改造率攀升至 92%。Lin 说，自从该系统启动以来，所谓的天梯赛（最具竞争性和最尖刻的比赛）中的言语不良行为下降了 40%。他说，在全球范围内，仇恨言论、性别歧视、种族主义、死亡威胁和其他类型的极端虐待行为已降至所有游戏的 2%。
“如果他们公布的数据是正确和真实的，那么它似乎运作良好，” 密苏里州圣路易斯的作家 Jamie Madigan 说，他撰写关于游戏玩家心理学的文章。他说，这是因为谴责是具体、及时且易于理解和采取行动的。“那是经典心理学入门知识。”
开放数据
Riot 的研究团队一直在尝试其他方法来改善游戏中的互动。有体育道德的行为可以为玩家赢得荣誉点和其他奖励。调整聊天功能也很有帮助。该团队还计划使用审判庭来训练游戏的算法，以检测聊天中的讽刺和消极攻击性语言——这对机器学习来说是一个重大挑战。
从一开始，Riot 也将其大部分数据提供给其他人进行调查。Jeremy Blackburn 是一位狂热的游戏玩家和计算机科学家，在西班牙巴塞罗那的 Telefonica 研究与发展部门工作，他挖掘了 146 万个审判庭案例的数据，以开发他自己的机器学习方法，用于预测何时玩家行为会被视为不良行为。他与卡塔尔多哈卡塔尔计算研究所的 Haewoon Kwak 一起发现，最重要的因素——除了不良信息中使用的特定词语之外——是对抗队伍的表现如何。Blackburn 对研究网络欺凌很感兴趣，他希望更多地了解不同文化如何评判行为。他说，一些证据表明，韩国游戏玩家通常会集体攻击和斥责表现最差的玩家。联盟数据可能会证实这一点。“我们看到对这种言语虐待类别有更多的宽恕。”
德克萨斯州奥斯汀的 Rachel Kowert 是数字游戏研究协会理事会的研究心理学家。她对这项工作印象深刻，尤其对 Blackburn 和 Kwak 的不受限制的访问印象深刻。“这对研究人员来说太棒了。真实数据是无价的，” 她说。
其他公司也有科学家想要的数据。位于加利福尼亚州尔湾的暴雪娱乐制作了流行的在线奇幻游戏《魔兽世界》，许多人认为这是复杂社交互动数据的宝库。但是，公司外部很少有人能够使用这些数据，而且大多数使用这些数据的人都受到严格的保密协议的约束。（暴雪没有回应《自然》杂志的置评请求。）
相比之下，Riot 在游戏会议上谈论其数据，并且在与研究人员合作时，对发布几乎没有限制。它还有一个外展计划，访问大学以建立合作关系。去年五月，Lin 在纽约市心理科学协会年会上展示了数据，以引起更多兴趣。
即使做出了这些努力，该公司的研究尚未在行为科学家中获得广泛认可。“希望他们会参加更多人们研究行为的会议，” 新泽西州普林斯顿大学的社会心理学家 Betsy Levy Paluck 说。虽然她不熟悉 Riot，但她说该公司似乎正在研究如何在心理学中进行高强度、大数据研究，这一直是一个重大挑战。
瑞士日内瓦大学的认知神经科学家 Daphné Bavelier 在纽约市的会议上会见了 Lin。她的研究表明——令许多游戏玩家高兴，令他们的父母痛苦——某些游戏，尤其是快节奏的第一人称射击游戏，可以提高一些认知能力，例如视觉注意力，无论是在游戏内外。她计划与 Riot 合作研究玩家如何应对《英雄联盟》中陡峭的学习曲线。
该游戏基于团队的性质也可能对科学家有用。麻省理工学院集体智能中心的社会科学家 Young Ji Kim 成功地从《英雄联盟》招募了 279 个经验丰富的团队来填写调查问卷，并共同完成了一系列旨在探索团队动态和使团队成功的因素的在线测试。（她说，通过提供价值约 15 美元的游戏内奖励，Riot 帮助她的团队在几个小时内获得了数千个注册。）初步结果表明，团队在游戏中的排名与其集体智能相关——这是一种通常与社交感知和轮流对话等事物相关的衡量标准。
玩家对参与此类实验表现出的热情可能归因于 Lin，他经常撰写关于 Riot 研究的文章，并且经常可以在 Twitter 和其他社交媒体上回答玩家的问题。Bavelier 说，公开和公开这些努力非常重要。虽然大多数数字公司都会对用户进行实验，但他们通常不太透明。例如，Facebook 发布了一项研究，研究幕后调整新闻提要如何操纵用户情绪，并受到了用户的强烈反对。“我们需要从别人的错误中吸取教训，以确保用户知道我们在做什么，” Bavelier 说。
Riot 设有一个内部机构审查委员会，评估其所有实验的伦理道德。虽然这不是一个没有冲突的安排，但至少表明该研究正在以保护参与者为目的进行审查。学术合作者还需要获得当地委员会的批准。
虚拟暴力
Lin 对他的团队的研究和干预措施抱有崇高的目标。“我们能否改善整个在线社会？我们能否学习如何教导礼仪？” 他问道。“我们不是一家寓教于乐的公司。我们首先是一家游戏公司，但我们意识到它可以如何用于教育。”
几十年来，家长、立法者和一些科学家一直担心视频游戏，尤其是暴力游戏，会扭曲儿童的思想。但是，弗吉尼亚理工学院暨州立大学布莱克斯堡分校的传播科学家 James Ivory 说，对暴力的许多关注都忽略了游戏产生的最大影响。“研究人员正在慢慢意识到这样一个想法，即考虑某人假装士兵的意义可能不如考虑他们是否在花费时间说种族主义或恐同的污言秽语重要。”
到 21 岁时，普通年轻游戏玩家将累积数千小时的游戏时间。仅这一事实就使得诸如“现实世界”和“数字世界”之类的二分法显得虚假——对于许多人来说，玩游戏就是现实世界。Ivory 说，“这些游戏对人们的最强影响是他们如何与其他人互动”。
一些研究人员对尝试将从游戏中获得的经验教训应用于其他环境持谨慎态度。位于加利福尼亚州曼哈顿海滩的分析公司 Ninja Metrics 的社会科学家兼创始人 Dmitri Williams 警告说，游戏具有非常具体的激励结构，这可能会限制这些体验与更广阔世界的映射程度。“人们在现实生活中表现良好，是因为如果他们冒犯了某人或搞砸了，他们就必须承担后果。” 因此，在《英雄联盟》中有效遏制不良行为的操纵手段可能在其他地方毫无意义。
Riot 仍然面临着相当大的挑战。玩家继续抱怨不良行为或他们认为是不合理的惩罚。一个名为“性别歧视联盟”的博客认为，游戏中对女性角色的暗示性描绘助长了玩家社区中强烈的性别歧视潮流。“当性别歧视融入游戏本身的图像中时，玩家很难识别性别歧视行为，” 该博客的一位不愿透露姓名的代表说。这位代表说，尽管 Lin 的努力“令人钦佩，并且可能是行业领先的”，但许多游戏仍然“充斥着来自队友和对手的言语骚扰、恶意破坏和整体负面行为”。Lin 说，Riot 的艺术家们意识到了这些担忧，并且他们已经努力以更强大和更有力的方式描绘女性角色。
尽管 Riot 吹嘘说严重的不良行为仅感染了 2% 的游戏，但不知何故，我在第一次玩游戏后不到一分钟就体验到了。但在“娘 炮”弹出在我的屏幕上之后，有趣的事情发生了。另一位玩家插话说，“冷静点”。也许这表明 Lin 为构建更文明、自我监管的数字空间所做的努力开始奏效了。或者，也许这只是一位友好的队友在提醒我们所有人，这只是一场游戏。
本文经许可转载，并于 2016 年 3 月 30 日首次发布。