一款App在审核时看起来人畜无害,通过之后悄悄打开"裸露化"开关。这种玩法,苹果现在明确说了:下架,开发者账号也可能一起没。
10月16日,苹果更新了《App审核指南》。修订后的1.2条款把AI生成的、未经当事人同意的私密图像,明确写进了禁止范围。这不是一次常规的条款微调,而是针对AI内容创作类应用的一次定向收紧。
1.2条款本身管的是用户生成内容。苹果列出的难题包括知识产权侵权、未经同意传播私密图像、匿名欺凌。要留在App Store,这类应用必须做到四件事:过滤令人反感的内容、提供举报机制并及时响应、对发布攻击性内容的用户取消资格、公布可联系的方式。
这次调整不是凭空来的。科技媒体9to5Mac指出,直接背景是近一年围绕App Store的多起争议。科技透明度项目曾发现数十款AI"裸体化"应用,并指出App Store的搜索建议和广告也会把用户导向这类应用。旧金山官员随后要求苹果下架8款可生成未经同意私密图像的应用。
争议名单里还有xAI。用户曾投诉Grok聊天机器人被用于制作裸露或性化深度伪造图像。今年早些时候,苹果警告xAI,若继续放任此类内容,将把Grok从App Store下架。xAI随后增设防护机制,更新版本才获得批准。
真正让开发者紧张的是新增的2.5.19条准则。它禁止应用在审核时隐瞒真实功能、通过后再加入"裸露化"等有害能力。这类"先过审、后解锁"的做法被苹果称为"诱饵式营销",后果是应用下架,开发者也可能被终止Apple Developer Program资格。
苹果还把禁止助长人口贩卖或剥削儿童的应用范围,扩展到了替代应用分发渠道。对于违规应用和开发者,苹果的表态是"不会犹豫"采取下架或终止合作等措施。
把这几条放在一起看,苹果的动作分两层:一层是内容红线,AI生成的未经同意私密图像被点名;另一层是审核诚信,藏功能、过审后再解锁的路被堵死。前者管的是应用里能出现什么,后者管的是开发者能不能靠欺骗拿到入场券。
对做AI图像类应用的团队来说,审核指南里那四条用户生成内容的要求,现在需要逐条对照自查。过滤、举报、封禁、联系方式,缺一条都可能在下一轮审核里被卡住。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.