泰勒斯威夫特的深伪色情影片并不是新鲜事 但这并不意味著我们不应该感到担忧。

艾玛麦戈万 (Emma McGowan) 2024年1月30日

随著AI生成的泰勒斯威夫特色情图像在X前Twitter上迅速传播，我们不禁要问：这对AI的未来意味著什么？

在最近的一个令人不安的事件中，AI生成的泰勒斯威夫特明确图像 在X上大量出现，显示了AI能力的黑暗一面。这些图像被认为是使用Microsoft Designer创作的，引起了广泛关注，并突显了AI生成假色情内容日益严峻的挑战。

随著这些图像在平台上迅速传播，此事件不仅引发了粉丝和隐私倡导者的强烈反对，还对AI在媒体创作中的伦理使用提出了重要的质疑。

Avast威胁情报总监米哈伊萨拉特Michal Salt为这场及时讨论带来了丰富的知识和专业见解。萨拉特专注于技术、安全和伦理的交汇点，为AI生成内容的影响提供了细致的观点。

在接下来的部分中，我们将深入了解他的见解，探索图像操纵的历史平行性、AI能力带来的伦理困境，以及在我们日益靠AI驱动的世界中，对数字信任和安全的广泛影响。

假色情内容并非新问题

萨拉特将AI生成生动图像的当前能力与过去使用Photoshop的情况进行比较。就像Photoshop在多年前革新了图像操纵一样，AI现在已经使创建逼真的图像变得更加简单。然而，操纵图像的概念并不新鲜；AI只是这场持续 saga 中最新的工具。

“在某种程度上，这只是另一种照片编辑软件，”他解释说，强调操纵图像的概念已经存在十多年。现在的关键区别在于AI技术带来的便利和可及性。这一转变引发了重要的问题，即社会如何适应并监管这些新工具，这些工具使创作逼真图像的门槛比以往任何时候都低。

AI与明确内容的伦理困境

最迫切的问题之一是使用AI生成明确图像的伦理含义，特别是对特定个体的未经同意。虽然生成一般的裸体图像可能不会引发太多的伦理问题，但真正的问题在于生成识别性别人的明确图像的便捷性。

“对我来说，AI生成的色情内容本身可能并没有什么固有的错误或伦理问题，”萨拉特表示。“但伦理问题在于，你可以相对轻易地生成一张包含已知或特定面孔的图像。”

这项能力不仅限于像泰勒斯威夫特这样的名人，也可能扩展到任何人，这强调了制定伦理指导方针和立法的必要性：所谓的“报复色情”即非自愿分享裸体照片在48个国家是非法的，但AI生成的深度伪造色情内容目前仅在10个国家被禁止。这一差异显示了立法需要赶上技术的必要性。

AI公司如何防止深度伪造色情内容的创造？

或许由于生成性AI的访问相对较新，围绕在未经主体同意的情况下创建明确内容的规范相对较少。然而，根据萨拉特的说法，对AI公司来说，实施这些规范并不会太困难：例如，禁止生成特定人脸图像或使用客户提交的图像作为来源材料，将为绝大多数人提供足够的障碍。

“当然，有些人能够突破限制，迫使模型做一些不应该做的事情，”萨拉特说。“就我眼中的情况来看，这几乎是不可能避免的你只能让这变得更加困难。我想强调的是，提供这些服务的公司应该更加努力地去避免这种情况。”

还有可能有人创建他们自己的无限制的色情生成模型。然而，萨拉特指出，即使这是可能的，这需要大量的技术知识和计算能力。

“能够自己创建生成裸体的AI的人并不多，”萨拉特说。“因此，这将更像是使用Photoshop，你需要有一定的技能水平才能做到。”

萨拉特将当前的AI开发状态与安全产业的演变进行比较。他观察到，我们正在目睹安全产业“在AI的帮助下重新开始”。这一比较突显了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是技术成熟的关键。

在X上出现的泰勒斯威夫特的AI生成图像凸显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量以及安全措施之间取得平衡将至关重要。通过向像米哈伊萨拉特这样的专家学习并反思过去的挑战，我们可以以更明智和谨慎的方式来导航这一复杂的格局。