随着人工智能应用变得越来越先进，世界各地的立法者都在努力应对意外后果的可能性：不仅是对人类潜在的生存危险，还有更直接的失业、歧视和侵犯版权的风险。
代表欧洲4.5亿公民的欧盟是这场监管竞赛的领跑者。上周五，成员国签署了《人工智能法案》，该法案已于去年12月由欧洲理事会（由欧盟领导人组成的、塑造欧盟政治议程的团体）和欧洲议会达成一致。该法案预计将于今年成为法律，并将对在欧洲使用人工智能工具的公司施加广泛限制，可能限制这些工具在全球范围内的开发和使用。然而，自从该法案宣布以来，由于内部政治斗争和游说，其文本已经发生了变化，根据最近泄露的草案。一些专家仍然担心似乎被遗漏的内容。
荷兰乌得勒支大学私法和技术副教授卡塔琳娜·戈安塔说，《人工智能法案》是欧盟近期出台的众多解决技术问题立法之一。该法案禁止在工作场所和学校使用情绪识别软件，禁止种族主义和歧视性分析系统，并为构建人工智能工具提供了严格的道德框架，公司必须遵守该框架。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您将帮助确保有关塑造我们当今世界的发现和思想的有影响力的故事的未来。
戈安塔解释说，为了有效，此类法规必须作为一种通用的解决方案应用于各个行业——这在快速发展的科技行业中是一项艰巨的任务，因为每周都有新产品推出。她说：“斗争一直在于在鼓励增长和创新与实施保护个人的保障措施之间找到稳健的平衡。”
1月22日，欧洲媒体网络 Euractiv 的记者 卢卡·贝尔图齐 泄露 的《人工智能法案》草案显示，该法案的措辞在其通过欧盟官僚机构的过程中是如何演变的。最值得注意的是，它现在包含了对 开源人工智能模型 的豁免——这些系统具有免费提供的源代码和训练数据。尽管这些工具——包括 Meta 的大型语言模型 LLaMA——比 OpenAI 的 GPT-4 等“黑盒”系统运行得更透明，但专家指出，它们 仍然可能造成危害。其他变化包括欧洲委员会人工智能问题前负责人亚历山大·蒂乌尔卡诺夫所称的对法规涵盖的人工智能系统定义的“可能存在争议的”调整。
戈安塔说，虽然这些变化可能看起来很小，但它们意义重大。“变化的复杂程度将需要在未来几周和几个月内进行非常详细的审查，”她说。
伦敦大学学院法学副教授迈克尔·维尔说：“《人工智能法案》的核心是对欧盟产品法规的调整。”与监管玩具或食品安全的其他欧盟消费者保护法律一样，《人工智能法案》将某些用途——例如医疗影像和边境管制站的面部识别——定义为“高风险”，并要求此类人工智能系统满足特殊要求。维尔说，开发商需要向监管机构证明他们正在使用相关的、高质量的数据，并且有准备管理风险的系统。
戈安塔说，本质上，任何可能对“健康、安全、基本权利、民主等公共利益造成潜在危害”的应用都可以被认为是高风险的。但一些研究人员 认为，该法案用于定义“高风险”的语言可能被解释得过于宽泛。意大利博洛尼亚大学数字伦理和法律研究员克劳迪奥·诺维利担心，这可能会阻止人工智能公司参与欧盟市场——并可能扼杀创新。“我们的批评不是针对基于风险的方法本身，而是针对用于衡量风险的方法，”他说，尽管他承认该法案目前的文本比最初的文本有所改进。
在高风险用途之外，所谓的通用人工智能提供商——监督像 ChatGPT 这样具有多种可能应用的生成式人工智能工具的公司——也将受到额外的义务约束。他们必须定期证明其模型的输出按预期工作，而不是放大偏见，并测试其系统是否存在遭受黑客或其他不良行为者攻击的漏洞。虽然最近的 国际峰会 和 声明 已经确定了通用模型的这些风险，但艾娃·洛夫莱斯研究所欧洲公共政策负责人康纳·邓洛普说，欧盟的《人工智能法案》走得更远。“因此，《人工智能法案》代表了超越风险识别并朝着缓解这些风险迈出的第一步，”他说。
当《人工智能法案》通过后，强制执行的倒计时将开始：该法案禁止的做法必须在六个月内停止。通用人工智能义务将在一年内生效。任何开发高风险人工智能的人员将有 24 个月的时间遵守，而一些专业的高风险用途——例如包含人工智能的医疗设备——将有 36 个月的时间遵守。
该法案将如何执行尚不清楚。该法律建立了一个 欧盟人工智能办公室 以支持成员国，但其确切角色尚未确定。维尔预测，成员国将把执法权委托给私营机构——一些专家担心这些机构不会积极主动地执行标准。“实际上，这些要求将由私人标准化机构制定和确定，这些机构的包容性和问责性不高，”他说。“这完全是自我认证。”
维尔补充说，无论采取何种执行机制，“可能有助于提供一些社会监督”，“但我怀疑对该制度的实际执行将很低。”
邓洛普也担心实际执行力度会有多大。他建议以欧盟的《通用数据保护条例》（GDPR）法律——该法律确立了互联网用户的隐私权——作为榜样。“对 GDPR 等其他具有里程碑意义的立法的执行一直断断续续且启动缓慢，但现在正在加快步伐，”他说。但是，“来自人工智能的挑战的紧迫性意味着欧盟需要紧急转向实施和执行。”
尽管如此，如果全球人工智能公司希望其工具在欧洲使用，它们将需要适应欧盟规则。就 GDPR 而言，许多国际公司已选择在全球范围内按照欧盟标准运营，而不是跨司法管辖区运行多个版本的工具。（这就是为什么许多网站要求访问者同意 Cookie 偏好，即使在欧盟以外也是如此。）
戈安塔说，新立法“对于希望将人工智能产品引入欧盟的美国公司来说非常重要，无论是用于公共用途还是私人用途”。“但有趣的是，看看是否会出现‘布鲁塞尔效应’：美国公司是否会适应欧盟规则，并在其整体运营中提高公共利益保护？”
诺维利说，美国监管机构目前正在采取“观望态度”。虽然欧盟乐于强调其愿意打击大型科技公司，但美国更担心劝退投资者和创新。“美国很可能正在监测欧盟《人工智能法案》对人工智能市场和利益相关者反应的影响，”诺维利说，“可能旨在利用任何负面反馈并确保竞争优势。”