Apple a rendu explicite l’application des règles de modération de l’App Store aux images intimes sans consentement, y compris celles générées par l’IA. La mise à jour du 16 octobre indique que les apps concernées doivent prévenir et supprimer activement ces contenus. Les développeurs risquent une exclusion lorsque les protections sont insuffisantes ou que des violations restent sans réponse après notification.

Apple affirme que son interdiction existante de la pornographie couvrait déjà les apps générant des images sexuellement explicites de personnes réelles sans leur consentement. Le changement détaille les responsabilités dans les règles de modération des contenus et précise les conséquences pour les développeurs.

Le grand changement

  • Ce qui change : Apple inclut explicitement les apps de création de contenus par IA dans ses exigences de modération. Les développeurs doivent prendre en compte les contenus générés comme les éléments importés ou partagés par les utilisateurs.
  • Pourquoi c’est important : Les règles lient les protections et les réponses aux abus au maintien de l’accès du développeur à l’App Store. Pour les équipes qui créent des outils d’image, la modération fait partie des conditions d’admissibilité du produit à la distribution.
  • Ce qu’il faut suivre : Apple ne précise pas quelles protections choisir. Ses décisions en matière de correction et d’exclusion montreront celles qu’elle accepte pour évaluer la conformité d’une app.

La modération couvre les contenus générés par une app

La directive 1.2 cite désormais les apps de création de contenus par IA aux côtés des réseaux sociaux et d’autres plateformes alimentées par les utilisateurs. Elle identifie les images intimes sans consentement parmi les risques que présentent ces services.

La directive impose le filtrage des contenus répréhensibles avant leur publication, un dispositif de signalement avec des réponses apportées en temps utile, la possibilité de bloquer les utilisateurs abusifs et la publication de coordonnées. Elle rend aussi les développeurs responsables de la suppression des éléments qui enfreignent la règle, leurs propres conditions ou les normes de leur communauté.

Les contrôles de génération d’un outil d’image et sa réponse aux signalements d’abus doivent donc permettre de remplir les mêmes obligations de modération. C’est notre lecture conjointe de la règle et de l’annonce. Apple n’a prescrit aucun modèle de détection particulier ni publié de seuil numérique de précision dans ces documents.

Les fonctions cachées relèvent d’une règle distincte

L’avis de révision daté d’Apple présente le point 2.5.19 comme une nouvelle directive numérotée précisant une interdiction ancienne, auparavant couverte par le point 2.3.1. Il vise les fonctions cachées, dormantes ou non documentées.

L’explication qui accompagne l’avis décrit des apps qui dissimulent des capacités nuisibles pendant l’examen et les révèlent après approbation, notamment des outils créant des images sexuelles sans consentement. Le développeur peut subir le retrait de l’app et son exclusion de l’Apple Developer Program. La règle concerne à la fois ce qu’il révèle aux examinateurs et les contenus que produit son app.

Le même avis indique que la section 5 précise le retrait et le blocage de la distribution alternative d’apps facilitant la traite des êtres humains ou l’exploitation des enfants. Cette disposition a son propre périmètre ; la mise à jour ne soumet pas toutes les violations de la directive 1.2 à ce blocage de distribution.

Apple décrit la correction et l’exclusion

Les directives actuelles décrivent une voie possible de correction : Apple peut demander à un développeur de supprimer les contenus en infraction et de fournir un plan d’amélioration, puis maintenir l’app hors de la boutique jusqu’à ce qu’elle démontre sa conformité. Des comportements graves ou répétés peuvent entraîner le retrait immédiat de l’app et l’exclusion du développeur.

BIG CHANGE a étudié l’annonce, l’avis de révision et les règles actuelles d’Apple ; nous n’avons ni testé les protections des apps ni audité les décisions d’examen d’Apple. Les documents établissent le changement de politique et les conséquences annoncées, sans montrer si la nouvelle formulation réduit les abus.

Sources et lectures complémentaires