情感感知软件或可帮助清除网络恶意评论

加入我们的科学爱好者社区!

本文发表于《大众科学》的前博客网络,反映了作者的观点,不一定反映《大众科学》的观点


如果“如果你没什么好说的,就什么也别说”这句格言适用于网络,那么大多数评论区都将是空的。一些针对新闻文章、博客、视频或其他在线内容发布的评论成功地推进了辩论和/或挑战了记者、博主和编辑提出的论断。然而,许多评论给人的感觉主要是充满敌意或完全无关,并将讨论水平拉低至匿名的互相谩骂。

来自互联网搜索巨头雅虎和加利福尼亚州克莱蒙特市波莫纳学院的一个研究团队正在研究网络评论区,并尝试使用能够确定此类评论区何时越过建设性和破坏性界限的软件。如今,“界限”通常由社区编辑或网站管理员确定,他们除了承担数十项其他职责外,还必须监控评论区。


关于支持科学新闻业

如果您喜欢这篇文章,请考虑通过以下方式支持我们屡获殊荣的新闻业 订阅。通过购买订阅,您正在帮助确保有关塑造我们当今世界的发现和思想的具有影响力的故事的未来。


雅虎研究院首席研究科学家伊丽莎白·丘吉尔表示,允许评论者隐藏身份或创建神秘或滑稽用户名的匿名环境更可能产生措辞激烈的评论区。她补充说,这种攻击性不仅影响到参与讨论的人,他们会觉得恐吓或侮辱性语言是常态,还会影响潜在的新来者,如果辩论已经变得负面,他们就不太可能加入。

丘吉尔和波莫纳学院计算机科学助理教授萨拉·奥斯利·苏德领导了研究小组,他们开发了一种名为“情感引擎”的软件,用于分析评论区中使用的词语。研究人员区分了跑题的负面评论和切题的负面评论,后者虽然具有批判性,但却是本着辩论的精神提出的。该方法是将用于检测切题和跑题评论的相关性分析与情感检测方法相结合,后者将评论分为三大类:快乐、悲伤和愤怒。

情感分析是一个特定于网站的问题——例如,用来描述天气的词语(冷、热等)在用来描述人时具有不同的含义。根据研究报告,丘吉尔将于周四在亚特兰大举行的2010 年格蕾丝·霍珀女性计算大会上发表该报告,“寒暄语和会话式评论通常是将网站从信息型转变为社交型的粘合剂。理想情况下,在社区新闻评论网站中,我们希望同时拥有这两种元素。”

丘吉尔说,目标不是自动关闭评论区,而是向社区和网站管理员发出潜在问题的信号,然后将酌处权留给人类。最终的结果将是评论区的平衡,其中可能表达愤怒或悲伤,但仍然是相关的。另一种选择可能是为想要“到场外解决”并在虚拟停车场等效场所继续表达他们不同意见的评论者提供单独的评论区。

研究人员发现,即使最初的几条评论表达了一些积极的内容,大多数评论区也会在一段时间后变得负面。研究人员正在寻找表明对话即将变坏的模式,以及这是否是评论区中评论数量(迟早会有人说出不友好的话)或一条负面评论的影响的产物,这条负面评论给其他人留下了负面情绪是可以接受的印象。

研究人员承认,要提高他们的情感分析系统的准确性,还有很多工作要做。丘吉尔说:“这在很大程度上是对情感检测技术进行初步调查,旨在揭示人们何时在评论区中表现出不适当的攻击性。我非常有兴趣了解情绪如何影响人们在网上的行为。”

图片由 Andy Dean 提供,来自 iStockPhoto.com

© . All rights reserved.