解决人工智能色情问题，其实有一个简单的办法

2025年的平安夜，Elon Musk 宣布其公司 xAI 推出的人工智能 (AI) 聊天机器人 Grok 将新增图像和视频编辑功能。不幸的是，此后大量 X 用户要求 Grok 编辑真人女性甚至儿童的照片，将她们的衣物去除，换成比基尼（甚至更暴露的衣着）——而 Grok 常常会照做。

由此产生的大量色情图像，因可能违反禁止儿童性虐待材料和未经同意的性图像的相关法律，目前正受到全球监管机构的调查。印度尼西亚和马来西亚已选择暂时禁止访问Grok。

即使许多生成的图像并未触犯法律底线，它们仍然激起了公愤。尽管截至周四（1月8日），该聊天机器人已开始将一些AI生成图像的请求限制在高级功能订阅用户范围内，但Grok的新功能仍未改变。这与去年夏天Grok开始自称为“MechaHitler”后，xAI迅速采取干预措施的做法形成了鲜明对比。