以下文章经The Conversation许可转载，The Conversation是一家报道最新研究的在线出版物。
2017 年 6 月，谷歌、Facebook、Twitter 和微软宣布成立全球互联网反恐论坛 (GIFCT)。这项行业主导的倡议旨在阻止恐怖分子利用其服务。最近， GIFCT 成员称赞了 其运营第一年的成就。但是，虽然必须承认这些进展，但仍然存在重大挑战。
平均每分钟，Facebook 上会分享 510,000 条评论和 136,000 张照片，Twitter 上会发布 350,000 条推文，YouTube 上会上传 300 小时的视频。
支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保有关塑造我们当今世界的发现和想法的影响深远的故事的未来。
鉴于此，最大的公司 广泛依赖人工智能 (AI)。Facebook 对 AI 的使用 包括 图像匹配。这可以防止用户上传与先前被识别为恐怖主义的照片或视频相匹配的照片或视频。同样， YouTube 报告称 ，其删除的暴力极端主义视频中，98% 也是由机器学习算法标记的。
迄今为止的进展
社交媒体公司面临的一个难题是，如果某个恐怖组织被某个平台屏蔽，它可能会简单地转移到另一个平台。为了应对这种情况，GIFCT 成员 创建了 一个共享的行业“哈希”数据库。“哈希”是一种唯一的数字指纹，可用于跟踪数字活动。当某个 GIFCT 成员删除亲恐怖主义内容时，其哈希会与其他参与公司共享，以便他们能够在自己的平台上阻止该内容。
在最近的会议上，GIFCT 宣布迄今为止已向数据库添加了 88,000 个哈希。因此，该联盟有望实现到 2018 年底达到 100,000 个哈希的目标。尤其是在另外九家公司 加入了该联盟之后，包括 Instagram、Justpaste.it 和 LinkedIn。
这些努力无疑扰乱了恐怖分子对社交媒体平台的使用。例如，自 2015 年 8 月 1 日以来的 23 个月中， Twitter 已暂停 了近一百万个宣传恐怖主义的帐户。在 2017 年下半年， YouTube 删除了 150,000 个暴力极端主义视频。其中近一半是在上传后两小时内删除的。
未来的挑战
然而，还有许多工作要做。为了应对 他们对 Twitter 的使用受到的干扰，所谓的伊斯兰国 (IS) 的支持者试图通过所谓的外部链接（使用指向其他平台的链接）来规避内容阻止技术。有趣的是， 最常被外部链接到的 网站包括 justpaste.it、sendvid.com 和 archive.org。这似乎是一种利用小型公司缺乏资源和专业知识的蓄意策略。
IS 支持者还将他们的社区建设活动转移到其他平台，特别是 Telegram。Telegram 是一种基于云的即时消息服务，提供可选的端到端加密消息。这种加密阻止第三方读取消息。它已被 广泛使用 来共享官方 IS 频道制作的内容。
这构成了向更隐蔽方法迈进的更广泛运动的一部分。其他加密消息服务，包括 WhatsApp，已被圣战分子用于通信和攻击计划。网站也被重新定位到 暗网。暗网是互联网的一个隐藏部分，本质上是匿名的，只能使用专门的加密软件访问。一份 2018 年的报告 警告说，暗网平台有可能充当圣战分子的“虚拟安全港”。
此外， 最近的研究 发现，除 IS 之外的其他圣战组织的支持者在 Twitter 上受到的干扰明显较少。这些其他组织的支持者能够发布的推文数量是亲 IS 帐户的六倍，关注的帐户数量是四倍，获得的关注者数量是 13 倍。
回应其他形式的暴力极端主义也很重要。极右翼团体在 YouTube 和 Facebook 等平台上也拥有重要的影响力。虽然已采取措施来阻止他们在网上的存在，例如 Facebook 决定 禁止 Britain First 进入其平台，但 似乎 这些团体也开始迁移到暗网。
过度干预
正如存在触及恐怖分子社交媒体的问题一样，也存在与潜在的过度干预相关的挑战。不能期望机器学习算法以 100% 的准确率识别恐怖主义内容。某些内容会被错误地识别为恐怖主义内容而被阻止或删除。但是这里的挑战不仅仅在于正确应用阈值。它们还关系到阈值最初应该划定在哪里。
定义恐怖主义的困难是众所周知的。用口号“一个人的恐怖分子是另一个人的自由战士”概括，最具争议的定义问题之一是正当理由的问题。恐怖主义的定义是否应该排除那些在受压迫和暴政政权统治的国家中的亲民主活动家？包括英国在内的许多国家/地区认为答案是否定的。正如一位上诉法院法官 所说：“恐怖主义就是恐怖主义，无论肇事者的动机如何。”
如果社交媒体公司采取类似的方法，这可能会产生一些重大影响。事实上，已经有一些令人担忧的例子。 2017 年，旨在打击极端主义宣传的新技术从 YouTube 上删除了数千个记录叙利亚暴行的视频。这些视频提供了侵犯人权的重要证据。有些视频仅存在于 YouTube 上，因为并非所有叙利亚活动家和媒体都能负担得起离线存档。然而，另一种选择——试图区分正义和非正义事业——本身也充满了困难。
在社交媒体公司面临 越来越大的压力 以采取更多措施来应对恐怖分子利用其平台之际，GIFCT 第一年取得的进展值得欢迎。但这仅仅是第一步。
本文最初发表于The Conversation。阅读原文。