上周，演员斯嘉丽·约翰逊抱怨OpenAI的一个聊天机器人声音听起来很像她，引发了一场小风波。 这声音不是她的——该公司使用来自其他人的录音创建了它。 然而，出于对约翰逊担忧的尊重，该公司已经暂停了该声音。 但媒体的喧嚣开启了关于人们对其自身人格权的更广泛讨论。 在生成式人工智能时代 (genAI)，现有法律是否足以保护个人外貌和声音的使用？
多伦多约克大学的知识产权学者卡里斯·克雷格表示，答案并不总是明确的，她将于下个月在加拿大律师协会的网络直播中就此话题发表演讲。
过去一年，美国国会的几位议员呼吁制定联邦法律，以在国家层面确立此类保护。 一些法律学者表示，需要采取行动以改善美国的隐私权。 但他们也警告说，仓促制定的法律可能会侵犯言论自由或造成其他问题。 “这很复杂，”华盛顿特区非营利消费者权益倡导组织公共知识的法律分析师梅雷迪思·罗斯说。 “有很多事情可能会出错。”
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道： 订阅。 通过购买订阅，您正在帮助确保关于塑造我们当今世界的发现和想法的具有影响力的故事的未来。
克雷格说：“匆忙监管可能是一个错误。”
伪造我
GenAI 可以很容易地用于克隆声音或面孔以创建深度伪造，其中一个人的肖像被数字化模仿。人们制作深度伪造是为了娱乐和促进教育或研究。 然而，它们也被用来散布虚假信息、试图左右选举、创建非自愿性性影像或诈骗钱财。
克雷格说，许多国家都有法律来阻止这些有害和不正当的活动，无论它们是否涉及人工智能。 但当涉及到专门保护人格时，现有法律可能足够也可能不足够。
克雷格说，版权不适用，因为它旨在保护特定作品。 “从知识产权的角度来看，例如，关于我们是否拥有对我们声音的权利的答案是否定的，”她说。 大多数关于版权和人工智能的讨论都集中在受版权保护的材料是否以及如何可以用于训练该技术，以及它生成的新材料是否可以受版权保护。
除了版权法外，包括一些美国州在内的一些地区还拥有“公开权”，允许个人控制其形象的商业用途，以保护名人免受经济损失。 例如，早在人工智能进入舞台之前，1988 年，歌手兼演员贝蒂·米德勒就赢得了针对福特汽车公司的“声音盗用”案件，该公司在商业广告中使用了一个声音相似的歌手来翻唱她的一首歌曲。 1992 年，游戏节目主持人凡娜·怀特在与三星美国分公司的案件中胜诉，当时该公司在商业广告中放置了一个打扮成她的机器人。
罗斯说：“我们已经有一个人起诉一个真正机器人的案例胜诉了。” 她说，随着人工智能进入这个领域，案例将变得“越来越荒谬”。
许多问题仍有待在法庭上检验。 例如，说唱歌手德雷克上个月发布了一首歌曲，其中包含已故说唱歌手图派克·沙库尔的人工智能生成的声音片段。 在收到沙库尔遗产管理委员会的停止侵权函后，德雷克从流媒体服务中删除了这首歌。 但克雷格说，目前尚不清楚这首歌的人工智能组件是否违法。 在田纳西州，今年通过的一项名为《确保肖像、声音和图像安全（ELVIS）法案》的法律旨在保护所有知名度的配音演员免受“对其声音的不公平剥削”，包括人工智能克隆的使用。
在美国，演员在人工智能方面有一些合同保护——去年 12 月结束的美国演员工会-美国电视和广播艺人联合会的好莱坞罢工协议包括阻止电影制作人在未经个人在每种情况下明确同意的情况下使用演员数字副本的条款。
与此同时，个别科技公司也有自己的政策来帮助防止 genAI 的滥用。 例如，总部位于加利福尼亚州旧金山的 OpenAI 没有向公众发布用于制作其聊天机器人声音的语音克隆软件，承认“生成类似于人们声音的语音具有严重风险”。 合作伙伴测试该技术的使用政策“禁止在未经同意或合法权利的情况下冒充另一个人或组织”。
其他人正在寻求技术方法来阻止滥用：上个月，美国联邦贸易委员会宣布了其“保护消费者免受人工智能语音克隆滥用于欺诈和其他危害”挑战赛的获胜者。 这些方法包括在录制时为真实音频添加水印以及检测 genAI 生成音频的工具。
范围广泛
罗斯和克雷格说，比演员收入损失更令人担忧的是使用人工智能克隆人们的肖像，用于包括非自愿色情制品在内的用途。 “我们首先在非自愿图像方面就拥有非常稀少、不足的法律，更不用说人工智能了，”罗斯说。 她补充说，现在很容易生成深度伪造色情片，包括未成年人的肖像，这应该引起严重警惕。 一些法律学者，包括弗吉尼亚大学夏洛茨维尔分校的丹妮尔·西特隆，正在倡导法律改革，将“私密隐私”确认为美国的公民权利——堪比投票权或公平审判权。
罗斯说，当前的公开权法律不太适合涵盖非名人。 “公开权是围绕商业应用中可识别的、与众不同的人建立的，”她说。 “这对斯嘉丽·约翰逊来说有意义，但对非自愿图像中使用的 16 岁女孩来说则不然。”
然而，罗斯说，在美国将公开权扩展到私人个人的提议可能会产生意想不到的后果。 她已致信美国国会，表达了对一些拟议立法可能被强大公司滥用的担忧。 例如，用于创建新奇照片的智能手机应用程序可能会在其服务条款中插入一项规定，“授予该应用程序不受限制的、不可撤销的许可来使用用户的肖像”。
罗斯说，还有一个分身问题：人工智能随机生成的个人图像或声音必然会看起来和听起来像至少一个真人，然后真人可能会寻求赔偿。
旨在保护人民的法律可能会有走得太远并威胁言论自由的风险。 克雷格说：“当你的权利过于宽泛时，你就会限制自由表达。” 她说：“我们允许版权所有者控制的限制是有原因的； 为了让人们受到启发并创造新事物，并为文化对话做出贡献。” 戏仿和其他建立在原始作品之上并进行转化的作品通常属于合法的合理使用范围，它们本应如此，她说。 罗斯说：“过于严格的版本[的这些法律]会扼杀戏仿。”
本文经许可转载，并于 2024 年 5 月 29 日首次发表。