Apple 已明确规定，App Store 的内容审核规则适用于未经当事人同意的私密影像，包括由 AI 生成的图像。10 月 16 日的更新指出，相关应用必须主动预防并移除此类内容；如果防护措施不足，或收到通知后仍未处理违规问题，开发者将面临被移除的风险。

Apple 表示，现有的色情内容禁令已经涵盖了未经真实人物同意而生成其露骨性图像的应用。此次调整在内容审核规定中详细列出了相关责任，并澄清了开发者可能面临的后果。

重大变化

  • 变化是什么： Apple 明确将 AI 内容创作应用纳入内容审核要求。开发者既要对生成的内容负责，也要对用户上传或分享的材料负责。
  • 为什么重要： 这些规定将防护措施和对滥用行为的应对，与开发者能否继续进入 App Store 联系起来。对于开发图像工具的团队，内容审核是产品获得分发资格的一部分。
  • 值得关注： Apple 没有指定应采用哪些防护措施。其关于整改和移除的决定，将显示它在评估应用合规性时接受哪些保护措施。

审核范围包括应用生成的内容

准则 1.2 现在明确列出了 AI 内容创作应用，将其与社交媒体和其他由用户提供内容的平台并列。该准则将未经当事人同意的私密影像列为这些服务带来的风险之一。

该准则要求在令人反感的材料发布前进行过滤，提供举报机制并及时回应，允许屏蔽实施滥用行为的用户，并公开联系信息。开发者还须负责移除违反该准则、其自身条款或社区标准的材料。

因此，图像工具的生成控制措施及其对滥用举报的应对，需要共同满足同一套内容审核义务。这是我们综合该准则与公告作出的解读。Apple 并未在这些文件中指定某种检测模型，也未公布数值化的准确率门槛。

隐藏功能另有规定

Apple 的修订通知（注明日期）将 2.5.19 列为一个新编号准则，用于澄清此前由 2.3.1 涵盖的长期禁令。它针对隐藏、休眠或未记录的功能。

Apple 随附的说明描述了某些应用在审核期间隐藏有害功能、获批后再将其开放的情况，其中包括未经同意生成性图像的工具。开发者可能面临应用被移除以及被 Apple Developer Program 除名。这项规定既涉及开发者向审核人员披露什么，也涉及应用生成的内容。

同一份修订通知表示，第 5 节澄清了对协助人口贩运或剥削儿童的应用进行移除及阻止其通过其他渠道分发的规定。该条款有其自身的适用范围；此次更新并未将所有违反准则 1.2 的情况都纳入这一分发封锁。

Apple 说明了整改与移除措施

现行准则描述了一种可能的整改途径：Apple 可以要求开发者移除违规内容并提供改进计划，随后在应用证明符合规定之前，继续将其排除在商店之外。情节恶劣或反复发生的行为，可能导致应用和开发者同时被立即移除。

BIG CHANGE 查阅了 Apple 的公告、修订通知和现行规定；并未测试应用的防护措施，也未审计 Apple 的审核决定。这些文件明确了政策变化及其声明的后果，却没有显示修订后的措辞是否能减少滥用。

来源与延伸阅读