.png?width=48&height=48&name=image%20(3).png)](https://blog.avast.com/author/emma-
mcgowan) 2024年1月30日
随著泰勒·斯威夫特的AI生成色情图像在X（前身为Twitter）上疯传，我们不禁要问：这对AI的未来意味著什么？
在最近的一系列不安事件中，AI生成的席卷了X平台，展示了AI技术的阴暗面。这些图片据信是通过MicrosoftDesigner创建的，迅速引起了广泛关注，突显了AI生成假色情内容的日益严峻挑战。
随著这些图片在平台上的迅速扩散，该事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了对AI在媒体创作中伦理使用的重大疑问。
Avast的威胁情报主任米哈伊·萨拉特（MichalSalát）在这次及时的讨论中提供了丰富的知识和专业见解。萨拉特关注技术、安全和伦理的交集，对AI生成内容的影响提供了深刻的视角。
在接下来的部分中，我们将深入探讨他的见解，探讨图像操控的历史平行、AI技术带来的伦理困境，以及在我们日益AI驱动的世界中对数位信任和安全的更广泛影响。
假色情不是新问题
萨拉特将当前AI生成逼真图像的能力与过去使用Photoshop的方式作了类比。就像Photoshop几年前彻底改变了图像处理一样，AI现在则显著简化了创建现实图像的过程。然而，操控图像的概念并不新鲜；AI只是这场持续故事中的最新工具。
“这在某种程度上算是一种不同的照片编辑软体，”他解释说，强调操控图像的概念已经是一个十多年的担忧。现在的主要区别在于，AI技术带来了更大的便利和可及性。这一变化引发了人们对社会如何适应和管理这些新工具的重要思考，因为它们使得创建逼真图像比以往任何时候都更容易。
AI和露骨内容的伦理困境
最紧迫的问题之一是使用AI生成露骨图像的伦理含义，特别是针对特定个体未经其同意的情况。虽然生成普通的裸体图像可能不会引起太多伦理疑问，但真正的问题在于创建可识别人物的露骨图像的便利性。
“AI生成色情内容本身可能没有什么固有的道德问题，”萨拉特说。“但对我来说，伦理问题在于可以相对轻易地生成带有已知或特定面孔的图像。”
这种能力不仅限于像泰勒·斯威夫特这样的名人，还可能扩展至任何人，强调了制定伦理准则和立法的必要性：所谓的“报复色情”（或未经同意分享裸体）在48个州，而AI生成的深伪色情目前
AI公司该如何防止深伪色情的生成？
由于生成AI的普及相对较新，对于在未经主体同意的情况下创造露骨内容的控制措施相对较少。不过，萨拉特指出，对于AI公司而言，实施这些控制措施实际上并不是特别困难：例如，不允许针对特定人物或使用客户提交的图片作为源材料来生成图像的措施，将为绝大多数用户提供足够的屏障。
“当然，仍然会有人能够突破这些限制，迫使模型做一些它不应该做的事情，”萨拉特说。“在我看来，目前几乎不可能完全避免这种情况——你只能使其变得更难。我想说的是，提供这些服务的公司应该更加努力地避免这种情况。”
此外，也有可能有人创建自己的无限制色情生成模型。萨拉特指出，尽管这是可能的，但实现这一目标需要大量的技术知识和计算能力。
“能够自行创建AI生成裸体图片的人并不多，”萨拉特说。“所以，这将更类似于使用Photoshop的情况，需要一定的技能水平才能做到。”
萨拉特将当前的AI开发状态与安全行业的演变作了类比。他观察到，我们正见证安全行业“与AI再次启程”。这一比较强调了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是技术成熟的关键。
泰勒·斯威夫特在X平台上的AI生成图像突显了负责任使用AI的重要性。随著AI的不断发展，平衡技术能力与伦理考量以及安全措施将至关重要。通过从专家如米哈伊·萨拉特那里学习并反思过去的挑战，我们可以以更全面且谨慎的方式导航这个复杂的领域。
