AppleはApp Storeのモデレーション規則で、AI生成画像を含む、本人の同意のない性的画像の扱いを明示した。10月16日の更新では、対象アプリはこうしたコンテンツを積極的に防止・削除しなければならないと説明している。保護策が不十分な場合や、通知を受けても違反を解決しない場合、開発者は排除されるリスクがある。

Appleによると、実在する人物の同意なく、その人物の性的に露骨な画像を生成するアプリは、既存のポルノ禁止規則の対象にすでになっていた。今回の変更はコンテンツのモデレーション規則における責任を具体的に示し、開発者に及ぶ結果を明確にする。

大きな変化

  • 何が変わったか： AppleはAIコンテンツ作成アプリをモデレーション要件に明示的に含めた。開発者は、ユーザーがアップロード・共有する素材だけでなく、生成されるコンテンツも考慮しなければならない。
  • なぜ重要か： 規則は保護策と不正利用への対応を、開発者がApp Storeへのアクセスを維持できるかどうかに結び付ける。画像ツールを開発するチームにとって、モデレーションは製品を配信できる条件の一部となる。
  • 注目点： Appleはどの保護策を選ぶべきかを指定していない。是正や排除に関する判断を通じて、アプリの遵守状況を評価する際にどの対策を認めるかが明らかになる。

アプリが生成するコンテンツもモデレーションの対象

ガイドライン1.2は現在、SNSやユーザーがコンテンツを提供する他のプラットフォームと並べて、AIコンテンツ作成アプリを挙げている。こうしたサービスのリスクの一つとして、同意のない性的画像を示している。

このガイドラインは、不適切な素材が投稿される前のフィルタリング、適時に対応する通報制度、不正利用するユーザーをブロックする機能、連絡先情報の公開を求める。また、この規則、開発者独自の利用条件、またはコミュニティ基準に違反する素材を削除する責任も開発者に課している。

したがって、画像ツールの生成制御と、不正利用の通報への対応は、同じモデレーション義務を果たせるものである必要がある。これは規則と発表を合わせて読んだ当メディアの解釈だ。Appleはこれらの文書で特定の検出モデルを指定したり、数値による精度の基準を公表したりしていない。

隠し機能には別の規則

Appleの日付付き改定通知は、2.5.19を新たな番号のガイドラインとして示している。これは従来2.3.1で扱われていた長年の禁止を明確にするもので、隠された機能、休止中の機能、文書化されていない機能を対象とする。

Appleの付随説明は、審査中は有害な機能を隠し、承認後に公開するアプリについて述べており、同意なく性的画像を作るツールも含めている。開発者はアプリの削除とApple Developer Programからの除名に直面する可能性がある。この規則は、アプリが生成するコンテンツだけでなく、開発者が審査担当者に何を開示するかにも関わる。

同じ改定通知によると、第5節は、人身取引や児童の搾取を助長するアプリの削除と、代替経路での配信の阻止を明確にしている。この規定には独自の適用範囲があり、今回の更新がガイドライン1.2のあらゆる違反をこの配信阻止の対象とするわけではない。

Appleが示す是正と排除

現行ガイドラインは、是正に向けた一つの可能な手順を説明している。Appleは開発者に違反コンテンツの削除と改善計画の提出を求め、遵守を実証するまでアプリをストアに戻さないことができる。悪質な行為や繰り返しの行為は、アプリと開発者の双方の即時排除につながる可能性がある。

BIG CHANGEはAppleの発表、改定通知、現行規則を確認したが、アプリの保護策を試験したり、Appleの審査判断を監査したりはしていない。これらの文書は方針変更と明示された結果を示すものの、文言の改定によって不正利用が減るかどうかは示していない。

出典と参考資料