Apple прямо указала в правилах модерации App Store на интимные изображения без согласия, включая изображения, созданные ИИ. В обновлении от 16 октября говорится, что затронутые приложения должны заблаговременно предотвращать появление и удалять такой контент. Разработчикам грозит удаление, если защитных мер недостаточно или нарушения не устраняются после уведомления.

Apple заявляет, что существующий запрет на порнографию уже распространялся на приложения, создающие сексуально откровенные изображения реальных людей без их согласия. Изменение подробно описывает обязанности в рамках правил модерации контента и уточняет последствия для разработчиков.

Главное изменение

  • Что изменилось: Apple прямо включила приложения для создания контента с помощью ИИ в требования к модерации. Разработчики должны учитывать как генерируемый контент, так и материалы, которые пользователи загружают или которыми делятся.
  • Почему это важно: Правила связывают защитные меры и реакцию на злоупотребления с сохранением доступа разработчика к App Store. Для команд, создающих инструменты работы с изображениями, модерация становится частью условий допуска продукта к распространению.
  • За чем следить: Apple не уточняет, какие защитные меры следует выбирать. Ее решения об устранении нарушений и удалении покажут, какие меры она принимает при оценке соответствия приложения правилам.

Модерация охватывает контент, создаваемый приложением

Пункт 1.2 теперь прямо называет приложения для создания контента с помощью ИИ наряду с социальными сетями и другими платформами, где контент размещают пользователи. Среди рисков таких сервисов указаны интимные изображения без согласия.

Этот пункт требует фильтровать нежелательные материалы до публикации, иметь механизм подачи жалоб со своевременным реагированием, возможность блокировать пользователей, допускающих злоупотребления, и опубликованные контактные данные. Разработчики также отвечают за удаление материалов, нарушающих это правило, их собственные условия или стандарты сообщества.

Таким образом, средства контроля генерации изображений и реакция на сообщения о злоупотреблениях должны обеспечивать выполнение одних и тех же обязанностей по модерации. Так мы понимаем правило и объявление в совокупности. Apple не предписывает в этих документах конкретную модель обнаружения и не публикует численный порог точности.

Для скрытых функций действует отдельное правило

В датированном уведомлении Apple об изменениях пункт 2.5.19 назван новой нумерованной нормой, уточняющей давний запрет, который прежде охватывался пунктом 2.3.1. Речь идет о скрытых, неактивных или недокументированных функциях.

В сопроводительном объяснении Apple описывает приложения, скрывающие вредоносные возможности во время проверки и раскрывающие их после одобрения, включая инструменты, создающие сексуальные изображения без согласия. Разработчику может грозить удаление приложения и исключение из Apple Developer Program. Правило касается как сведений, раскрываемых проверяющим, так и контента, создаваемого приложением.

В том же уведомлении сказано, что раздел 5 уточняет удаление и блокировку альтернативного распространения приложений, способствующих торговле людьми или эксплуатации детей. У этого положения своя область действия; обновление не распространяет такую блокировку на любое нарушение пункта 1.2.

Apple описывает устранение нарушений и удаление

Действующие правила описывают возможный порядок исправления: Apple может потребовать от разработчика удалить нарушающий правила контент и представить план улучшений, а затем не допускать приложение в магазин до подтверждения соответствия. Грубые или повторные нарушения могут привести к немедленному удалению и приложения, и разработчика.

BIG CHANGE изучил объявление Apple, уведомление об изменениях и действующие правила; мы не тестировали защитные меры приложений и не проводили аудит решений Apple по их проверке. Документы подтверждают изменение политики и заявленные последствия, но не показывают, снижает ли новая формулировка уровень злоупотреблений.

Источники и дополнительные материалы