对于泰勒·斯威夫特来说，2023 年的最后几个月是辉煌的。她的时代巡回演唱会被评为有史以来票房最高的演唱会巡演。她首次推出了一部同名演唱会电影，为该类型注入了新的活力。最后，《时代》杂志提名她为年度人物。
但在一月下旬，这位巨星却因一个远不那么令人振奋的原因成为头条新闻：她成为最新一位性暴露、非自愿 deepfake 图像（使用人工智能制作）的高调目标。斯威夫特的粉丝迅速举报了这些侵犯性内容，因为它在包括 X（前身为 Twitter）在内的社交媒体平台上传播，X 暂时屏蔽了对斯威夫特名字的搜索。这绝非首例——全球各地的妇女和女孩早已面临类似的虐待。然而，斯威夫特的声望帮助这个问题进入了公众视野，并且该事件放大了要求立法者介入的呼声。
乔治华盛顿大学法学院教授兼网络公民权利倡议组织主席玛丽·安妮·弗兰克斯说：“在这一点上，我们做得太少、太迟了，但我们仍然可以尝试减轻正在出现的灾难。”她补充说，在人工智能滥用方面，女性是“煤矿里的金丝雀”。“这不仅仅是 14 岁的女孩或泰勒·斯威夫特。还会是政治家。还会是世界领导人。还会是选举。”
支持科学新闻事业
如果您喜欢这篇文章，请考虑
订阅以支持我们屡获殊荣的新闻事业。通过购买订阅，您将帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事能够继续被报道。
弗兰克斯说，最近成为亿万富翁的斯威夫特或许能够通过个人诉讼取得一些进展。（斯威夫特的唱片公司未回复关于这位艺术家是否将提起诉讼或支持打击 deepfake 的努力的置评请求。）然而，这位法学教授补充说，真正需要的是专门禁止此类内容的法规。“如果多年前，当倡导者说这种技术注定会发生这种情况时，就通过了立法，我们可能就不会处于这种境地，”弗兰克斯说。她指出，一项这样的法案，即众议员乔·莫雷勒于去年五月提出的《防止私密图像 Deepfake 法案》，可能会帮助与斯威夫特处境相同的受害者。如果该法案获得通过成为法律，该立法将禁止共享非自愿 deepfake 色情制品。参议院最近的另一项提案将允许 deepfake 受害者起诉此类内容的创作者和传播者以索取赔偿。
多年来，倡导者一直在呼吁制定政策解决方案来解决非自愿 deepfake 问题。虽然存在一些州法律，但专家表示，联邦监管仍然不足。Fried Frank 律师事务所人工智能首席顾问阿米尔·加维说：“围绕成人 deepfake 色情制品，适用的联邦法律非常匮乏。”“在边缘领域有一些法律，但总的来说，没有直接针对 deepfake 的联邦法规。”
然而，这位律师解释说，联邦的严厉打击可能无法解决这个问题，因为一项将性 deepfake 定为犯罪的法律并不能解决一个大问题：该指控谁犯罪。“实际上，这些人不太可能自报家门，”加维说，并指出法证研究并不总是能证明是什么软件创建了给定的内容。即使执法部门能够确定图像的来源，他们也可能会遇到所谓的第 230 条——这是一项规模虽小但影响极其深远的立法，该立法规定网站不对其用户发布的内容负责。（然而，目前尚不清楚第 230 条是否适用于生成式人工智能。）美国公民自由联盟等**权组织已警告说，过于宽泛的法规也可能引发记者报道 deepfake 或政治讽刺作家使用 deepfake 时的第一修正案担忧。
加州大学洛杉矶分校技术、法律和政策研究所执行主任迈克尔·卡拉尼科拉斯说，最简洁的解决方案是采取政策，促进拥有生成式人工智能产品的公司承担“社会责任”。但他补充说，“公司通常只对强制性监管行为做出回应，这种情况相对普遍。”一些平台已采取措施阻止人工智能生成的有关竞选活动的虚假信息的传播，因此它们介入并非史无前例，卡拉尼科拉斯说——但即使是技术保障也容易被老练的用户绕过。
数字水印是一种可能的解决方案，它将人工智能生成的内容标记为合成内容，并得到了拜登政府和一些国会议员的支持。Meta 最近宣布，在未来几个月内，Facebook、Instagram 和 Threads 将开始标记发布到这些平台的人工智能制作的图像。即使标准化的水印制度无法阻止个人创建 deepfake，它仍然可以帮助社交媒体平台删除或减缓其传播速度。一位经常为白宫和国会提供人工智能监管建议的前政策制定者表示，以这种规模审核网络内容是可能的，并指出社交媒体公司在限制受版权保护的媒体传播方面取得了成功。这位要求匿名的顾问说：“减缓这种东西传播的法律先例和技术先例都存在，因为围绕 deepfake 的审议仍在进行中。”这位前政策制定者补充说，斯威夫特——一位拥有堪比某些总统的平台公众人物——或许能够让普通人开始关心这个问题。
然而，就目前而言，法律领域几乎没有明确的标志，让一些受害者感到被遗忘在寒冷之中。社交媒体影响者兼自称“斯威夫特迷”的卡琳·玛乔丽去年推出了自己的 AI 聊天机器人，她说她遇到了与斯威夫特类似的经历。大约一个月前，玛乔丽的粉丝向她举报了网上流传的她的性暴露、人工智能生成的 deepfake。
这些 deepfake 让玛乔丽感到恶心；她难以入睡。但尽管她多次举报发布这些图像的帐户，但该帐户仍然在线。“我没有得到与泰勒·斯威夫特相同的待遇，”玛乔丽说。“这让我怀疑：女性是否必须像泰勒·斯威夫特一样出名，才能让这些露骨的 AI 图像被删除？”