您可能已经看过表明并非如此的照片，但前总统唐纳德·特朗普 上周没有被捕，教皇 没有穿 一件时尚的亮白色羽绒服。这些最近爆红的图片是人工智能系统的成果，这些系统处理用户的文本提示以创建图像。它们展示了这些程序在短时间内变得多么出色，并且现在已经足够令人信服，可以欺骗不知情的观察者。
那么，持怀疑态度的观众如何发现可能是由 人工智能 系统（如 DALL-E、Midjourney 或 Stable Diffusion）生成的图像？每个 AI 图像生成器以及来自任何给定生成器的每个图像，在它可能有多么令人信服以及哪些蛛丝马迹可能会泄露其算法方面有所不同。例如，AI 系统在历史上一直难以模仿人手，并且产生了具有过多手指的残缺肢体。然而，随着技术的进步，Midjourney V5 等系统似乎已经 解决了这个问题——至少在某些示例中是这样。专家们一致认为，来自最佳生成器的最佳图像即使不是不可能，也很难与真实图像区分开来。
宾夕法尼亚州立大学研究媒体技术心理影响的研究员 S. Shyam Sundar 说：“就 AI 图像生成器能够做到的事情而言，这非常令人惊叹。” “在图像生成能力方面，过去一年左右发生了巨大的飞跃。”
关于支持科学新闻
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关塑造我们当今世界的发现和想法的具有影响力的故事的未来。
Sundar 指出，这种能力飞跃背后的一些因素包括可用于训练此类 AI 系统的图像数量不断增加，以及数据处理基础设施和 使普通互联网用户可以访问该技术的界面 的进步。结果是，人工智能生成的图像无处不在，并且可能“几乎不可能检测到”，他说。
最近的一项实验突显了 AI 欺骗能力之强。英国兰卡斯特大学专注于数字技术的心理学家 Sophie Nightingale 与人合着了一项研究，该研究 测试了在线志愿者是否可以区分 由名为 StyleGAN2 的 AI 系统创建的类似护照的头像和真实图像。即使在 2021 年底研究人员进行实验时，结果也令人沮丧。“平均而言，人们的表现几乎完全是碰运气，”Nightingale 说。“基本上，我们已经到了非常逼真的地步，以至于人们无法可靠地感知到这些合成面孔与真实、真实的面孔——真正存在的人的脸庞之间的差异。” 尽管人类为 AI 提供了一些帮助（研究人员筛选了 StyleGAN2 生成的图像，仅选择最逼真的图像），但 Nightingale 表示，想要出于不正当目的使用此类程序的人也可能会这样做。
在第二次测试中，研究人员试图帮助测试对象提高他们的 AI 检测能力。他们在参与者回答后标记了每个答案的对错，并且还通过让他们通读 检测人工智能生成图像的建议 来提前为参与者做好准备。该建议强调了 AI 算法经常出错并产生不匹配的耳环，或者将人的牙齿模糊在一起的区域。Nightingale 还指出，算法通常难以创建比纯色背景更复杂的东西。但即使添加了这些内容，参与者的准确率也仅提高了约 10%，她说——而且用于试验中生成图像的 AI 系统此后已升级到新的改进版本。
具有讽刺意味的是，随着图像生成技术的不断改进，人类避免被 AI 系统愚弄的最佳防御措施可能是另一种 AI 系统：一种 经过训练可以检测人工图像 的系统。专家表示，随着 AI 图像生成技术的发展，算法比人类更能够检测到机器人创作的一些微小的像素级指纹。
威斯康星大学麦迪逊分校的计算机科学家 Yong Jae Lee 说，创建这些 AI 侦探程序的工作方式与任何其他机器学习任务相同。“您收集真实图像的数据集，并且还收集 AI 生成图像的数据集，”Lee 说。“然后，您可以训练机器学习模型来区分这两者。”
尽管如此，Lee 和其他专家表示，这些系统仍存在重大缺陷。大多数此类算法都使用来自特定 AI 生成器的图像进行训练，并且无法识别由不同算法生成的伪造品。（Lee 说，他和他的研究团队正在研究一种方法来避免这个问题，方法是训练检测器来识别使图像真实的原因。）大多数检测器也缺乏用户友好的界面，而正是这些界面吸引了许多人尝试生成式 AI 系统。
此外，AI 检测器将始终在努力跟上 AI 图像生成器的步伐，其中一些生成器结合了类似的检测算法，但将其用作学习如何使其伪造输出更难以检测的一种方式。“生成图像的 AI 系统与检测 AI 生成图像的 AI 系统之间的战斗将是一场军备竞赛，”南加州大学计算机科学研究副教授 Wael AbdAlmageed 说。“我看不出任何一方会在短期内获胜。”
AbdAlmageed 说，没有任何方法能够捕捉到每一张人工智能生成的图像，但这并不意味着我们应该放弃。他建议社交媒体平台需要开始在其网站上处理 AI 生成的内容，因为这些公司比个人用户更有能力实施检测算法。
用户需要更加怀疑地评估视觉信息，并在分享之前询问它是虚假的、AI 生成的还是有害的。“我们人类物种在某种程度上是在认为眼见为实的环境中长大的，”AbdAlmageed 说。“现在情况并非如此了。眼见不再为实。”