解决人工智能色情问题，其实有一个简单的办法

2025年的平安夜，Elon Musk 宣布其公司 xAI 推出的人工智能 (AI) 聊天机器人 Grok 将新增图像和视频编辑功能。不幸的是，此后大量 X 用户要求 Grok 编辑真人女性甚至儿童的照片，将她们的衣物去除，换成比基尼（甚至更暴露的衣着）——而 Grok 常常会照做。

由此产生的大量色情图像，因可能违反禁止儿童性虐待材料和未经同意的性图像的相关法律，目前正受到全球监管机构的调查。印度尼西亚和马来西亚已选择暂时禁止访问Grok。

即使许多生成的图像并未触犯法律底线，它们仍然激起了公愤。尽管截至周四（1月8日），该聊天机器人已开始将一些AI生成图像的请求限制在高级功能订阅用户范围内，但Grok的新功能仍未改变。这与去年夏天Grok开始自称为“MechaHitler”后，xAI迅速采取干预措施的做法形成了鲜明对比。

像 xAI 这样的人工智能公司，不仅应该在其模型出现不良行为时迅速果断地做出反应，更应该从源头上防止模型生成此类材料。

这意味着需要对模型进行严格测试，以了解它们如何以及为何会被操纵以生成非法色情内容，然后堵住这些漏洞。但现行法律未能充分保护善意的测试人员免受起诉，也未能将他们与恶意用户正确区分开来，这使得公司不敢采取此类行动。

我是一名科技政策研究员，曾在硅谷一家大型律师事务所从事互联网法业务（在被 Musk 收购的几年前，我的客户包括X的前身Twitter）。我和我的同事们发现，人工智能公司面临的法律风险，阻碍了它们尽全力保护其模型不被滥用于制造儿童性虐待材料。

持续发酵的Grok丑闻紧急凸显了国会为人工智能开发者扫清障碍的必要性，让他们能够更强有力地测试模型，而不必担心陷入法律陷阱。

人工智能的推波助澜

尽管未经同意的深度伪造内容多年来一直是个问题，但生成式人工智能极大地助长了这一现象。制作令人憎恶的图像不再需要精通Photoshop或熟练使用开源模型，只需输入正确的文本提示词即可。

虽然开源模型和托管模型通常都内置了安全护栏，但这些护栏可能出人意料地脆弱，恶意用户总能找到绕过它们的方法。

长期以来，科技公司在是否以及在何种程度上允许用户访问合法的色情内容方面，关系一直很复杂。（一些人工智能模型是使用成人色情内容进行训练的。）

报告显示，xAI 正在允许其模型创建露骨的色情内容。该公司在过去一年中已采取措施接纳成人内容，包括允许用户与卡通风格的性聊天伴侣聊天（尽管尚不清楚是否有模型直接使用此类内容进行训练）。

但要保护一个人工智能模型是困难的。即使训练数据中不含儿童的性露骨描绘，一个同时使用无害儿童图像和成人色情内容训练的模型，也可能将这些概念结合起来，生成儿童的色情描绘。

用于生成成人色情内容的提示词——与儿童性虐待材料不同，它被推定为受保护的言论——提出了一个更棘手的问题。诚然，联邦法律和许多州法律现在都禁止未经同意的性图像（无论是真实的还是深度伪造的）。但并非每一张“刺激性”的图片都达到了法律门槛，而且早期一些要求Grok为女性照片“脱衣”的请求是经过同意的，尽管其中大部分并非如此。

但要保护一个人工智能模型是困难的。即使训练数据中不含儿童的性露骨描绘，一个同时使用无害儿童图像和成人色情内容训练的模型，也可能将这些概念结合起来，生成儿童的色情描绘。

用于生成成人色情内容的提示词——与儿童性虐待材料不同，它被推定为受保护的言论——提出了一个更棘手的问题。诚然，联邦法律和许多州法律现在都禁止未经同意的性图像（无论是真实的还是深度伪造的）。但并非每一张“刺激性”的图片都达到了法律门槛，而且早期一些要求Grok为女性照片“脱衣”的请求是经过同意的，尽管其中大部分并非如此。

未经同意的性图像和儿童性虐待材料可能会损害公司声誉，并使其面临潜在的法律责任。由 Donald Trump 总统于2025年5月签署的《下架法案》（Take It Down Act）意味着，科技公司很快将被要求在接到请求后迅速删除未经同意的性图像，并且根据现行法律，它们不能免于承担联邦刑事责任。

联邦政府曾警告称，人工智能生成的儿童色情材料是非法的。在回应Grok的这场风波时，政府重申，它“极其严肃地对待人工智能生成的儿童性虐待材料”，并将起诉任何制作或持有此类材料的人。

然而，具有讽刺意味的是，联邦法律正使人工智能模型的安全保障变得更加困难。

“红队演练”遭遇繁文缛节

“红队演练”（Red teaming）是一种模拟攻击者行为的实践，用以测试人工智能模型安全防护措施的有效性。红队（可以是公司内部或外部团队）会尝试诱导模型生成不良内容——比如恶意软件代码或炸弹制作说明。在了解红队可以利用哪些漏洞和弱点后，公司就可以着手修复它们，以防止现实世界中的不法分子滥用。

但儿童性虐待材料的情况则截然不同。制作和持有这些材料是严重犯罪，即便是出于研究或测试目的，也概无例外。

这使得针对儿童性虐待材料的红队演练在法律上面临极高风险，让人工智能公司陷入两难困境：是像恶意行为者一样，竭尽全力让模型生成儿童色情图像，并承担被刑事起诉的风险？（即使是为了防止恶意滥用而进行的善意测试，私下创建这些图像是否合理？）还是避开此类测试，并承担像xAI目前所面临的监管和公关危机？

立法者们已开始意识到这一困境。就在两个月前，英国颁布了一项里程碑式的立法，允许人工智能行业与儿童安全组织合作，在不必担心刑事责任的情况下确保进行强有力的测试。

阿肯色州最近通过了一项打击人工智能生成儿童性虐待材料的法律，其中包含了对善意对抗性测试的豁免条款——但这无法替代统一的全国性政策。在美国国会，一项跨党派法案提出，如果人工智能开发者遵循最佳实践，筛查训练数据中的儿童色情图像，则可以限制其法律责任——但这只解决了部分法律风险来源。

为人工智能生成的儿童性虐待材料测试正确界定一个法律安全港是困难的。除了涉及明显的伦理问题外，人们还担心鲁莽的红队成员会无意中传播他们在测试中创建的人工智能生成图像，以及担心好斗的当事方会以红队演练为名逃避责任。

此外，我与立法者工作人员的讨论表明，一些政治家不愿意被视为通过增加人工智能公司的法律豁免权来给科技巨头“送礼”。

但这种情况我们以前也经历过。多年来，网络安全研究人员一直担心，如果他们负责任地测试并披露硬件和软件中的安全漏洞，就会被当作黑客受到惩罚。与此同时，由于担心恶意或粗心的行为者会逃避责任，为这些研究人员设立的联邦安全港法案始终未能通过。

直到俄罗斯对手发动了毁灭性的黑客攻击，美国司法部才终于在2022年宣布了一项不起诉善意网络安全研究的政策。也就是说，法律没能阻止坏人，却吓退了本可以帮助阻挠坏人的好人，结果可想而知。现在，同样的情况也正在人工智能领域上演。

我们不能再承受政府多年无所作为的代价。国会应立即就Grok风波举行听证会，并着手为负责任地测试人工智能模型是否存在儿童性虐待材料问题设立法律安全港。像xAI这样的公司本可以做得更多来使其模型更安全，时间已不容浪费。NYTIMES

作者是斯坦福大学以人为本人工智能研究所的政策研究员