长期以来，在线视频一直是伊拉克和叙利亚伊斯兰国 (ISIS) 以及基地组织和其他恐怖组织的重要招募和宣传工具。这些视频制作成本低廉，并且易于通过 YouTube、Facebook、Twitter 和其他社交网络传播。面对严厉批评，这些公司去年声称要加大力度，利用人工员工和人工智能软件来查找和删除宣传暴力的视频。
一个监测恐怖组织及其支持者的非政府组织周二发布的一项研究表明，特别是 YouTube 在阻止上传的极端主义内容泛滥方面取得了进展。但是，反极端主义项目 (CEP) 也指出，恐怖分子仍然在谷歌的视频分享网络上找到了大量受众。根据 CEP 的数据，ISIS 成员和支持者在 3 月至 6 月期间上传了 1,348 个 YouTube 视频，获得了 163,391 次观看。“观看这些视频的眼睛很多，”CEP 高级顾问兼该研究的主要研究员哈尼·法里德说。这些视频中有 24% 在 YouTube 上保留了至少两个小时——足够长的时间在 Facebook、Twitter 和其他流行的社交平台上复制和传播，即使 YouTube 可以找到并删除它们。
CEP 跟踪的视频由 278 个不同的帐户发布，其中 60% 的帐户在视频被 YouTube 删除后仍被允许留在平台上。“令人沮丧的是，即使在帐户因发布恐怖主义材料而被删除视频（因为违反了 YouTube 的服务条款）后，仍被允许继续上传视频，”同时也是达特茅斯学院计算机科学教授的法里德说。“我们知道这些视频是出于宣传目的而制作的，目的是煽动和鼓励暴力，而且我发现这些视频以非常真实的方式很危险。”
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
为了进行这项研究，CEP 使用了 183 个经常与 ISIS 相关的关键词搜索 YouTube。这些关键词包括阿拉伯语中“十字军”和“圣战”的词，以及 ISIS 控制的省份、媒体和著名宣传者的名称。在研究的三个月期间，CEP 的软件每 20 分钟搜索一次 YouTube，然后使用 CEP 的视频识别系统（称为 eGLYPH）将搜索结果与 CEP 自身数据库中 229 个已知的恐怖主义视频进行比较。法里德说，eGLYPH 算法“将视频提炼成精华”，分析帧之间何时发生重大变化——新人进入画面，或者相机摇摄以聚焦于新事物。通过该分析，eGLYPH 创建一个独特的签名——称为“哈希”——以识别整个视频或其中的特定场景。法里德设计该算法是为了查找特定视频，即使该视频在共享时已被编辑、复制或以其他方式更改。
多年来，CEP 一直批评社交媒体公司在阻止极端主义内容（包括斩首、爆炸和暴力呼吁视频）离开其平台方面做得不够。尽管如此，法里德表示，CEP 的研究表明，这些公司正在取得进展。YouTube 在两小时内删除大多数极端主义视频的能力意味着“显然谷歌正在对其平台上发布的恐怖主义相关内容的数量采取一些措施，”法里德说。“我感到鼓舞，因为他们已经从不承认问题转变为积极追求解决问题。”
许多社交媒体公司——包括谷歌、Facebook、微软和 Twitter——采用了类似于 eGLYPH 的“指纹识别”方法，作为他们于 2017 年 6 月启动的全球互联网反恐论坛 (GIFCT) 的一部分。Instagram、LinkedIn、Snap 和其他公司此后也加入了该联盟，该联盟现在有 13 家公司。他们创建了一个共享的恐怖主义视频哈希数据库，任何 GIFCT 成员都可以访问该数据库，并将其与发布到其网站的视频的哈希进行比较。GIFCT 声称，到 2018 年底，该数据库将包含 100,000 个哈希。Facebook 发言人表示，每家公司在决定是否删除内容时，都会应用自己的政策和恐怖主义材料定义（当它找到与共享哈希匹配的内容时）。Facebook 声称，由于照片和视频匹配软件以及人工监控的结合，它在用户举报之前就找到了并删除了 99% 的 ISIS 和基地组织相关内容。谷歌在 GIFCT 网站上声称 98% 的 YouTube 视频因暴力极端主义内容而被删除是由该公司的人工智能软件识别的，但该公司没有回应大众科学的采访请求。
仍然有很多视频设法溜过漏洞并进入社交媒体，原因有很多，包括：上传内容的庞大数量；恐怖分子伪装其帖子性质的能力；以及最近使用指向基本上不受监控的工具（例如 Google Drive）的链接来传播视频片段的努力。YouTube 是世界访问量第二大的网站，仅次于谷歌——每分钟接收300 小时的上传视频。SITE 情报集团是一家位于华盛顿的非政府组织，负责跟踪全球恐怖网络。该组织执行主任 Rita Katz 表示，恐怖组织经常将 YouTube 视频作为“未列出”的视频上传，这意味着这些视频无法搜索，只有当潜在观看者获得链接时才能访问。
乔治华盛顿大学极端主义项目副主任 西姆斯·休斯 表示，尽管出现了用于分享视频内容的新应用程序和网站，但 YouTube、Facebook、Twitter 和其他大型社交媒体平台仍然是最重要的监控对象，因为在那里，有抱负的恐怖分子可以“首次尝到 ISIS 宣传、意识形态和叙事的滋味”。休斯说，这些公司正在提高他们查找新发布内容的能力，但在过去十年中采取了基本上不干预的方式之后，他们仍然有很多旧视频需要清理。