以下文章经 
The Conversation 许可转载，The Conversation 是一家报道最新研究的在线出版物。
2024 年巴黎奥运会吸引了全世界的目光，来自全球各地的数千名运动员和后勤人员以及数十万游客汇聚法国。不仅仅是全世界的目光会注视着这里。人工智能系统也将注视着这里。
政府和私营公司将在奥运会之前、期间和之后使用先进的人工智能工具和其他监控技术进行普遍和持续的监控。奥运会的国际舞台和国际人群带来了更高的安全风险，以至于近年来，当局和评论家将奥运会描述为“战争之外世界上最大的安全行动”。
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将有助于确保未来能够继续报道关于发现和塑造我们当今世界的想法的具有影响力的故事。
法国政府与私营科技部门携手合作，利用对更高安全性的合理需求作为部署技术先进的监控和数据收集工具的理由。其应对这些风险的监控计划，包括有争议的使用实验性人工智能视频监控，范围如此广泛，以至于该国不得不修改其法律以使计划中的监控合法化。
该计划不仅仅局限于新的人工智能视频监控系统。据新闻报道，首相办公室已谈判达成一项机密临时法令，允许政府在奥运会期间大幅增加传统的秘密监控和信息收集工具。这些工具包括窃听；收集地理位置、通信和计算机数据；以及捕获更大量的视觉和音频数据。
我是一名法学教授和律师，我研究、教授和撰写关于隐私、人工智能和监控的文章。我还为立法者和其他人士提供关于这些主题的法律和政策指导。增加的安全风险可能而且确实需要加强监控。今年，法国面临着对其奥运会安全能力和公共体育赛事周围可信威胁的担忧。
然而，预防措施应与风险成比例。全球评论家声称，法国正在利用奥运会作为攫取监控权力的机会，政府将利用这种“特殊”的监控理由来使全社会范围内的国家监控正常化。
与此同时，人们对充分有效的安全监控存在合理的担忧。例如，在美国，国家正在询问特勤局的安全监控如何未能阻止2024 年 7 月 13 日对前总统唐纳德·特朗普的暗杀企图。
人工智能 mass 监控
在最新扩大的监控法律的支持下，法国当局一直在与人工智能公司 Videtics、Orange Business、ChapsVision 和 Wintics 合作，部署广泛的人工智能视频监控。他们在大规模音乐会、体育赛事以及地铁和火车站的高峰时段（包括泰勒·斯威夫特音乐会和戛纳电影节期间）使用了人工智能监控。法国官员表示，这些人工智能监控实验进展顺利，并且“绿灯已亮”以供未来使用。
正在使用的人工智能软件通常旨在标记某些事件，例如人群规模和移动的变化、遗弃物、武器的存在或使用、地面上的人体、烟雾或火焰以及某些交通违规行为。目标是让监控系统立即实时检测到诸如人群涌向大门或有人将背包遗留在拥挤的街角等事件，并向安保人员发出警报。标记这些事件似乎是合乎逻辑且明智的技术应用。
但真正的隐私和法律问题源于这些系统如何运作以及如何被使用。需要收集和分析多少以及什么类型的数据才能标记这些事件？这些系统的训练数据、错误率以及偏差或不准确的证据是什么？收集数据后如何处理数据，谁有权访问数据？在回答这些问题方面几乎没有透明度。尽管采取了旨在防止使用可以识别个人身份的生物特征数据的保障措施，但训练数据有可能捕获此信息，并且可以调整系统以使用它。
通过允许这些私营公司访问法国各地已有的数千个摄像头，利用和协调铁路公司和运输运营商的监控能力，以及允许使用带摄像头的无人机，法国在法律上允许并支持这些公司在其公民和游客身上测试和训练人工智能软件。
合法化的大规模监控
政府在奥运会上进行监控的需求和实践都不是新鲜事。2022 年北京冬奥会的安全和隐私担忧非常高，以至于联邦调查局敦促“所有运动员”将个人手机留在家中，在中国期间仅使用一次性手机，因为政府监控程度极高。
然而，法国是欧盟成员国。欧盟的通用数据保护条例是世界上最强大的数据隐私法之一，而欧盟的人工智能法案正在引领规范人工智能技术有害用途的努力。作为欧盟成员国，法国必须遵守欧盟法律。
在为奥运会做准备的过程中，法国在 2023 年颁布了第 2023-380 号法律，这是一揽子法律，旨在为2024 年奥运会和残奥会提供法律框架。其中包括有争议的第 7 条，该条款允许法国执法部门及其技术承包商在 2024 年奥运会之前、期间和之后试验智能视频监控，以及第 10 条，该条款专门允许使用人工智能软件来审查视频和摄像头信息流。这些法律使法国成为第一个将如此广泛的人工智能驱动的监控系统合法化的欧盟国家。
学者、民间社会团体和公民自由倡导者指出，这些条款与通用数据保护条例和欧盟规范人工智能的努力相悖。他们认为，第 7 条特别违反了通用数据保护条例中保护生物特征数据的规定。
法国官员和科技公司代表表示，人工智能软件可以实现其目标，即识别和标记那些特定类型的事件，而无需识别个人身份或违反通用数据保护条例关于处理生物特征数据的限制。但是，欧洲公民权利组织指出，如果算法和人工智能驱动的摄像头的目的和功能是检测公共场所的特定可疑事件，那么这些系统必然会“捕获和分析这些空间中人们的生理特征和行为”。这些包括身体姿势、步态、动作、手势和外貌。批评者认为，这是正在捕获和处理的生物特征数据，因此法国的法律违反了通用数据保护条例。
人工智能驱动的安全保障——以成本为代价
对于法国政府和人工智能公司而言，到目前为止，人工智能监控已经取得了互惠互利的成功。算法观察者正在被更多地使用，并且比人类单独提供的数据更多地为政府及其技术合作者提供数据。
但是，这些人工智能支持的监控系统监管不力，并且很少受到独立测试。一旦数据被收集，进一步数据分析和侵犯隐私的可能性是巨大的。
本文最初发表于 The Conversation。阅读原文。