泰勒斯威夫特的深度伪造色情影片并不是什么新鲜事但这并不意味著我们不应该感到担忧。

.png?width=48&height=48&name=image%20(3).png) ](https://blog.avast.com/author/emma-mcgowan) 2024年1月30日

在泰勒·斯威夫特的AI生成色情图片在X（前身为推特）上疯传之后，我们不禁思考：这对AI的未来意味著什么？

最近，一系列AI生成的淹没了X，揭示了AI能力的一面黑暗。这些图片被认为是使用微软设计工具创建的，迅速引起广泛关注，突显出AI生成假色情内容日益严峻的挑战。

随著这些图片在平台上迅速传播，此事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了有关AI在媒体创作中道德使用的关键问题。

Avast的威胁情报总监米哈尔·萨拉特（MichalSalát）在这一及时的讨论中提供了丰富的知识和专业见解。他专注于技术、安全与道德的交集，为AI生成内容的影响提供了细致的观点。

在接下来的部分中，我们将深入探讨他的见解，回顾影像操纵的历史背景、AI能力带来的伦理困境，以及对于在日益AI驱动的世界中数位信任和安全的更广泛影响。

假色情内容不是新问题

萨拉特指出，目前AI生成逼真影像的能力与过去的Photoshop使用之间存在平行关系。就像Photoshop一度彻底改变了影像处理，现在AI也使得创建逼真影像变得更容易。然而，操纵影像的概念并不新鲜；AI仅仅成为这一持续斗争中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，强调操纵影像的概念在过去十多年中已经引起了高度关注。现在的主要区别在于AI技术所带来的便利性和可及性。这一变化引发了社会如何适应并规范这些新工具的重要问题，这些工具使得创建逼真影像变得比以往任何时候都更加容易。

目前最紧迫的担忧之一是使用AI生成露骨图片的伦理影响，尤其是针对特定个体而未经他们同意。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于容易创建可辨识的人的露骨图片。

“对我来说，AI生成色情内容本身可能并没有什么内在的不对或伦理上有问题，”萨拉特表示，“但伦理问题在于，你可以相对容易地生成一幅带有已知或特定面孔的图像。”

这一能力不仅限于像泰勒·斯威夫特这样的名人，任何人都可能成为目标，这突显了建立伦理准则和立法的必要性。尽管所谓的“报复色情”（或非自愿分享裸体图片）在48个州是，但目前针对AI生成的深度伪造色情内容的法律规范仅在10个州禁止。这一明显的区别凸显了法律必须跟上技术发展的必要性。

由于生成性AI的接入相对较新，因此在创建未经主体同意的露骨内容方面的限制措施相对较少。然而，根据萨拉特的说法，对AI公司来说，实施这些限制并不会太困难：例如，不允许生成特定人的图片或使用客户提交的图片作为素材，这些都能为大多数人提供足够的障碍。

“当然，总会有人能够突破这些限制，强迫模型做一些它不应该做的事，”萨拉特表示，“我认为现在几乎不可能完全避免这一点——只能让其变得更困难。我想说的是，提供这些服务的公司应该更加努力避免这种情况的发生。”

还有可能有人创建一个没有任何限制的色情生成模型。萨拉特指出，尽管这在技术上是可行的，但这需要大量的技术知识和计算能力。

“实际上，能够自制AI生成裸体图片的人并不多，”萨拉特说，“所以这更像是使用Photoshop，需具备一定的技能水准才能做到。”

萨拉特把目前的AI发展状况与安全行业的演变进行了比较。他观察到，我们正看到安全行业“随著AI重新开始”。这一比较强调了将AI开发视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

泰勒·斯威夫特在X上的AI生成图片凸显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考虑和安全措施将至关重要。通过向像米哈尔·萨拉特这样的专家学习并反思过去的挑战，我们可以在这个复杂的领域中以更为明智和谨慎的方式前行。