艾玛麦戈万 2024年1月30日

随著 AI 生成的泰勒斯威夫特色情图像在 X 上迅速走红，我们不禁要问：这对 AI 的未来意味著什么？

最近出现的令人不安事件中，AI 生成的 著名歌手泰勒斯威夫特的露骨图像淹没了 X前身为 Twitter，展示了 AI 能力的阴暗面。据信，这些图像是使用 Microsoft Designer 创建的，迅速引起广泛关注，突显了 AI 生成假色情图像的日益严峻挑战。

随著这些图像在平台上迅速传播，此事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了关于 AI 在媒体创作中伦理使用的关键问题。

Avast 威胁情报总监米哈伊萨拉特拥有丰富的知识和专业技能，对此时此刻的讨论提供了深刻的见解。萨拉特专注于技术、安全和伦理的交集，对 AI 生成内容的影响提供了细致的观点。

在以下部分中，让我们深入探讨他的见解，探索图像操纵的历史类比、AI 能力所带来的伦理困境，以及在我们日益驱动于 AI 的世界中，对数字信任和安全的更广泛影响。

假色情不是新问题

萨拉特将目前 AI 生成如真实图像的能力与过去使用 Photoshop 的情况进行比较。就像 Photoshop 多年前彻底改变了图像操纵一样，现在 AI 使创建真实图像变得更加容易。然而，操纵图像的概念并不新颖；AI 只是这场持续剧情中的最新工具。

“在某种程度上，这只是另一种照片编辑软体，”他解释道，强调过去十多年来，图像操纵的概念一直是一个担忧。现在的关键差异在于 AI 技术带来的便利和可及性。这一变化引发了重要问题，即社会如何适应和规范这些新工具，这些工具使得创建真实图像比以往任何时候都容易。

AI 和露骨内容的伦理困境

最紧迫的关注之一是使用 AI 生成露骨图像的伦理影响，特别是对特定个体在未经其同意的情况下进行生成。虽然生成一般的裸体图像可能不会引发太多伦理问题，但当涉及到为可识别的人物创建露骨图像时，真正的问题就出现了。

“AI 生成的色情内容可能本身并没有什么本质上的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对容易地生成一个带有已知或特定面孔的图像。”

这样的能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，因此强调了制定伦理准则和立法的必要性：所谓的报复色情或非自愿分享裸体的行为在 48 州是 违法的，而 AI 生成的深伪色情目前 仅在 10 个州被禁。这是一个鲜明的对比，强调了立法赶上科技的必要性。

AI 公司如何防止深伪色情的产生？

由于生成 AI 的访问仍然是一种相对新的现象，目前对未经同意创建露骨内容的防范措施很少。然而，萨拉特认为，对 AI 公司来说，实施这些措施并不会太困难：例如，不允许生成特定人物的图像，或不使用用户上传的图像作为源材料，将足以为大多数人提供相应的屏障。

“当然，有些人能够突破这些限制，迫使模型做一些它不应该做的事情，”萨拉特说。“我认为，现在几乎不可能完全避免这种情况只能让其变得更难。我想表达的观点是，提供这些服务的公司应该更加努力地避免这种情况。”

此外，还可能有人创建自己的色情生成模型，而该模型没有任何限制。不过，萨拉特指出，即使这样做是可能的，但需要 大量 的技术知识和 大量 的计算能力。

“并不是很多人能够自己创建一个生成裸体的 AI，”萨拉特说。“所以，这更像是使用 Photoshop，你需要具备某种技能才能做到这一点。”

萨拉特将目前 AI 发展的状态与安全行业的演变进行了比较。他观察到，我们正目睹安全行业“重新开始与 AI 一同演进”。这一比较突显了将 AI 发展视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是成熟该技术的关键。

泰勒斯威夫特在 X 上的 AI 生成图像凸显了负责任使用 AI 的重要性。随著 AI 逐渐进步，平衡技术能力和伦理考量及安全措施将变得至关重要。通过从专家如米哈伊萨拉特那里学习并反思过去的挑战，我们能以更有见识和谨慎的态度来应对这一复杂的局面。