据《连线》杂志报道，旧金山城市检察官已向苹果和谷歌发送停止并终止信函，要求移除13款能够生成非自愿裸体图像的AI“换脸”应用。
这些周四发送的信函针对App Store上的8款应用和Play Store上的5款应用，这些应用将自己宣传为换脸工具，但实际上被用于“脱掉”真人照片的衣服。检察官办公室希望两家公司与开发者断绝关系，并停止从应用内支付中抽成，认为它们实际上是在“协助和教唆”销售露骨的深度伪造图像。检察官称这种做法“非法、有害且完全不可接受”，并认为苹果和谷歌已从这些应用中收取了数百万美元的费用。
两家公司都有针对色情的开发者规则，并且在过去被研究人员标记后，已经移除过一批脱衣应用。谷歌发言人告诉《连线》杂志，该公司已因违反政策而删除了“数百”款具有脱衣功能的应用程序，包括信函中提到的五款。今年6月，据悉苹果已经收紧了其App Store指南中关于开发者对色情内容责任的语言。
