艾玛麦高恩 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X前身为Twitter走红后，我们不禁要问：这对AI的未来意味著什么？

最近，一些AI生成的泰勒斯威夫特明确图片在X平台上迅速流传，这揭示了AI能力的阴暗面。这些图片据信是使用微软设计工具创建的，并引起了广泛关注，突显了AI生成的假色情内容日益增长的挑战。

当这些图片迅速在平台上扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，也引发了关于AI在媒体创作中的道德使用的关键问题。

Avast威胁情报主任米哈尔萨拉特Michal Salt为这一重要讨论带来了丰富的知识和专业见解。他深入探讨科技、安全与道德的交集，为AI生成内容的影响提供了细致的观点。

在接下来的部分中，我们将深入探讨他的见解，探索图片操控的历史平行、AI能力带来的道德困境，以及在日益以AI为主的世界中，对数位信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将当前AI生成逼真图片的能力与过去使用Photoshop进行图像处理做了类比。正如Photoshop多年前彻底改变了图片编辑，现在AI也大大简化了生成现实图片的过程。然而，操控图片的概念并不新鲜；AI只是成为这一持续 saga 中最新的工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释说，强调操控图片的概念已经让人担忧了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了关于社会如何适应和监管这些新工具的重要问题，因为这些工具使得创建逼真图片变得比以往任何时候都容易。

AI与明确内容的道德困境

当前最迫切的问题之一是使用AI生成明确图片特别是针对特定个体而未经其同意的道德影响。虽然生成一般的裸体图片可能不会引发太多道德困惑，但真正的问题在于生成可辨识人士的明确图片的便利性。

“AI生成色情内容本身并没有什么根本错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对轻易地生成带有知名或特定面孔的图片。”

这种能力不仅限于像泰勒斯威夫特这样的名人，潜在地可能涉及任何人，强调了对伦理准则和立法的需求。尽管所谓的“报复色情”即未经同意分享裸体图片在48个州是非法的，但AI生成的深度伪造色情内容目前仅在10个州被禁止。这一鲜明的对比突显出立法跟不上技术的必要性。

AI公司如何防止深度伪造色情的生成？

也许因为生成性AI是相对较新的现象，针对未经主体同意生成明确内容的行为缺乏完善的管控。然而，萨拉特指出，对AI公司而言，实施这些管控并不是非常困难的工作：例如不允许生成特定人物的图片或使用客户提交的图片作为原料，都能对绝大多数人提供足够的屏障。

“当然，有些人会能够打破这些限制，强迫模型做它不应该做的事，”萨拉特说。“我看事情的方式是，当前几乎不可能完全避免这一问题我们只能让这一过程变得更加困难。我想强调的是，提供这些服务的公司应该更加努力地去避免这一问题。”

还有一种可能性是有人创建自己的色情生成模型，而没有任何限制。然而，萨拉特指出，尽管这是可能的，但需要大量的技术知识和计算能力才能实现。

“并没有很多人能够自己创建一个生成裸体的AI，”萨拉特说。“所以这更像是使用Photoshop，你需要有一定的技能水平才能做到。”

萨拉特将当前的AI发展状态与安全行业的演变做了类比。他观察到，我们正在目睹安全行业“重启AI”。这种比较突显了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是成熟技术的关键。

在X平台上生成的泰勒斯威夫特图片强调了负责任使用AI的重要性。随著AI不断进步，平衡技术能力与道德考量和安全措施将至关重要。透过向米哈尔萨拉特等专家学习，并反思以往的挑战，我们可以更加知情和谨慎地导航这一复杂的情境。