جعلت Apple قواعد الإشراف على المحتوى في App Store صريحة بشأن الصور الحميمية من دون موافقة، بما فيها الصور المولدة بالذكاء الاصطناعي. ويقول تحديث 16 أكتوبر إن على التطبيقات المعنية منع هذا المحتوى وإزالته بصورة استباقية، وإن المطورين يواجهون خطر الاستبعاد عندما تكون وسائل الحماية غير كافية أو تبقى الانتهاكات بلا معالجة بعد الإخطار.

تقول Apple إن حظر المواد الإباحية القائم لديها كان يشمل بالفعل التطبيقات التي تولد صورا جنسية صريحة لأشخاص حقيقيين من دون موافقتهم. ويفصل التغيير المسؤوليات ضمن قواعد الإشراف على المحتوى، ويوضح العواقب التي قد يواجهها المطورون.

التغيير الكبير

  • ما الذي تغير: تدرج Apple صراحة تطبيقات إنشاء المحتوى بالذكاء الاصطناعي ضمن متطلبات الإشراف لديها. وعلى المطورين مراعاة المحتوى المولد، إلى جانب المواد التي يرفعها المستخدمون أو يشاركونها.
  • لماذا يهم: تربط القواعد وسائل الحماية والاستجابة للإساءة باستمرار وصول المطور إلى App Store. وبالنسبة إلى الفرق التي تبني أدوات للصور، يصبح الإشراف على المحتوى جزءا من أهلية المنتج للتوزيع.
  • ما الذي ينبغي متابعته: تترك Apple اختيار وسائل الحماية من دون تحديد. وستبين قراراتها بشأن المعالجة والاستبعاد وسائل الحماية التي تقبلها عند تقييم امتثال التطبيق.

الإشراف يشمل المحتوى الذي يولده التطبيق

الإرشاد 1.2 يذكر الآن تطبيقات إنشاء المحتوى بالذكاء الاصطناعي إلى جانب وسائل التواصل الاجتماعي والمنصات الأخرى التي يسهم المستخدمون بمحتواها. ويحدد الصور الحميمية من دون موافقة ضمن مخاطر هذه الخدمات.

يشترط الإرشاد تصفية المواد غير الملائمة قبل نشرها، وآلية للإبلاغ مع استجابات في الوقت المناسب، وإمكانية حظر المستخدمين المسيئين، ونشر معلومات الاتصال. كما يحمل المطورين مسؤولية إزالة المواد التي تنتهك القاعدة أو شروطهم الخاصة أو معايير مجتمعهم.

لذلك يجب أن تساعد ضوابط التوليد في أداة الصور واستجابتها لبلاغات الإساءة على الوفاء بالتزامات الإشراف نفسها. وهذه قراءتنا للقاعدة والإعلان معا. ولم تفرض Apple نموذجا محددا للكشف أو تنشر عتبة رقمية للدقة في هذه الوثائق.

للميزات المخفية قاعدة منفصلة

يشير إشعار التعديل المؤرخ من Apple إلى 2.5.19 بوصفه إرشادا مرقما جديدا يوضح حظرا قائما منذ زمن، كان مشمولا سابقا بالإرشاد 2.3.1. ويتناول الوظائف المخفية أو غير النشطة أو غير الموثقة.

يصف شرح Apple المصاحب تطبيقات تخفي قدرات ضارة أثناء المراجعة وتكشفها بعد الموافقة، ومنها أدوات تنشئ صورا جنسية من دون موافقة. وقد يواجه المطور إزالة التطبيق واستبعاده من Apple Developer Program. وتتعلق هذه القاعدة بما يكشفه المطورون للمراجعين، وكذلك بالمحتوى الذي ينتجه تطبيقهم.

ويقول إشعار التعديل نفسه إن القسم 5 يوضح إزالة التطبيقات التي تسهل الاتجار بالبشر أو استغلال الأطفال ومنع توزيعها عبر قنوات بديلة. ولهذا الحكم نطاقه الخاص؛ فالتحديث لا يضع كل مخالفة للإرشاد 1.2 ضمن ذلك الحظر على التوزيع.

Apple تصف المعالجة والاستبعاد

تصف الإرشادات الحالية مسارا محتملا للمعالجة: قد تطلب Apple من المطور إزالة المحتوى المخالف وتقديم خطة للتحسين، ثم تبقي التطبيق خارج المتجر إلى أن يثبت امتثاله. ويمكن أن يؤدي السلوك الجسيم أو المتكرر إلى إزالة التطبيق واستبعاد المطور فورا.

راجعت BIG CHANGE إعلان Apple وإشعار التعديل والقواعد الحالية؛ ولم تختبر وسائل الحماية في التطبيقات أو تدقق قرارات المراجعة لدى Apple. وتثبت الوثائق التغيير في السياسة والعواقب المعلنة، من دون أن تبين ما إذا كانت الصياغة المعدلة تقلل الإساءة.

المصادر ومزيد من القراءة