今年一月，苹果私下向埃隆·马斯克的 xAI 公司发出警告：如果不赶紧制止 Grok 聊天机器人生成裸体和色情深度伪造图片，就要把 Grok App 从 App Store 里撤掉。这是苹果写给美国参议员的一封信里说的，NBC News 拿到了这封信。
今年年初，Grok 的 AI 功能突然被推上风口浪尖，因为 X 平台上有用户分享用 Grok 生成的非自愿色情图片，其中不少是以真实女性和儿童的照片为基础做出来的。
之后，Grok 的内容审核机制经历了一轮让人看不太懂的调整，有些限制还很容易被绕过去。当时苹果在公开场合对这件事没发表评论，但其实是他们率先推动了这些变化。信里透露，苹果内部认定 X 和 Grok 都违反了 App Store 的审核准则，要求开发者提交内容审核改进计划。
苹果先是拒绝了 xAI 第一次提交的修复方案，认为“改得还不够”，并警告说必须继续调整，否则就会下架 Grok。经过几轮来回沟通后，苹果最终觉得 xAI 后来的提交版本已经改善到可以接受，就批准了。
这次公开披露 apparently 是因为一月份参议员 Ron Wyden、本·雷·卢汉和爱德华·马基联名写信给苹果和谷歌，要求把这两个 App 都下架。他们认为这些图片违反了 App Store 禁止冒犯性、色情和剥削性内容的规定。
几位参议员还说，这件事正好考验苹果自己一直以来的说法——他们长期辩护称，自己严格审核 App Store 是为了让用户更安全。如果让 Grok 继续生成这类图片，在公众和法庭眼里，都会削弱苹果的这个立场。
NBC News 报道出来后，X 平台发了一条声明：
“我们严格禁止用户生成非自愿的露骨深度伪造图片，也禁止用我们的工具脱掉真实人物的衣服。xAI 已经部署了大量防护措施来防止这类滥用，包括持续监控公开使用情况、实时分析绕过尝试、频繁更新模型、提示词过滤器以及其他额外防护。”
虽然 Grok 生成并被发到 X 上的色情深度伪造图片数量已经明显减少，但 NBC News 发现，Grok 还是能生成类似内容，有些用户只是稍微改了下提示词技巧，就绕过了防护。你可以点这个链接看完整报道。
