苹果公司于10月16日修订了《App审核指南》，在1.2条款中强化了对AI内容创作类应用的管控，明确将AI生成且未经当事人同意的私密图像列为禁止内容。
以下是修订内容的原文：
1.2 用户生成内容
包含用户生成内容的App面临特定挑战，例如知识产权侵权、未经同意传播私密图像、匿名欺凌等。为防止滥用，这类App或提供社交网络服务的App必须符合以下条件：
- 采用相应方法过滤令人反感的内容，避免其在App中发布
- 建立举报机制，以便对攻击性内容及时响应
- 对发布攻击性内容的用户，可取消其服务使用资格
- 公开联系信息，方便用户与之沟通
科技媒体9to5Mac分析认为，此次修改的直接原因，是过去一年App Store涉及的多起争议。科技透明度项目曾发现数十款AI“裸体化”应用，并指出App Store的搜索建议和广告也会将用户导向此类应用；旧金山官员随后要求苹果下架8款可生成未经同意私密图像的应用。
此外，用户曾投诉xAI的Grok聊天机器人被用于制作裸露或性化深度伪造图像；今年早些时候，苹果曾警告xAI，若继续放任此类内容，将把Grok从App Store下架。xAI随后增设防护机制，更新版本才得以获批。
苹果还新增了2.5.19条准则，禁止应用在审核时隐瞒真实功能，通过后再加入“裸露化”（nudify）等有害能力。这类“先过审、后解锁”的做法被称为“诱饵式营销”，今后可能导致应用下架，开发者也可能被终止Apple Developer Program资格。
此外，苹果将禁止助长人口贩卖或剥削儿童的应用的范围，扩展至替代应用分发渠道，并表示对违规应用和开发者“不会犹豫”采取下架或终止合作等措施。
2条评论