Apple memperjelas aturan moderasi App Store mengenai gambar intim tanpa persetujuan, termasuk gambar yang dibuat dengan AI. Pembaruan 16 Oktober menyatakan bahwa aplikasi terkait harus secara proaktif mencegah dan menghapus konten ini. Pengembang berisiko dikeluarkan jika perlindungannya tidak memadai atau pelanggaran tidak ditangani setelah pemberitahuan.

Apple menyatakan bahwa larangan pornografi yang sudah berlaku telah mencakup aplikasi yang menghasilkan gambar seksual eksplisit orang nyata tanpa persetujuan mereka. Perubahan ini merinci tanggung jawab dalam aturan moderasi konten dan memperjelas konsekuensi bagi pengembang.

Perubahan besar

  • Apa yang berubah: Apple secara tegas memasukkan aplikasi pembuat konten AI ke dalam persyaratan moderasinya. Pengembang harus memperhitungkan konten yang dihasilkan serta materi yang diunggah atau dibagikan pengguna.
  • Mengapa penting: Aturan ini menghubungkan perlindungan dan respons terhadap penyalahgunaan dengan keberlanjutan akses pengembang ke App Store. Bagi tim pembuat alat gambar, moderasi menjadi bagian dari kelayakan distribusi produk.
  • Yang perlu diperhatikan: Apple tidak menentukan pilihan perlindungan yang harus digunakan. Keputusannya tentang perbaikan dan penghapusan akan menunjukkan perlindungan apa yang diterimanya saat menilai kepatuhan aplikasi.

Moderasi mencakup konten yang dihasilkan aplikasi

Pedoman 1.2 kini menyebut aplikasi pembuat konten AI bersama media sosial dan platform lain tempat pengguna menyumbangkan konten. Pedoman ini mengidentifikasi gambar intim tanpa persetujuan sebagai salah satu risiko layanan tersebut.

Pedoman ini mewajibkan penyaringan sebelum materi yang tidak pantas dipublikasikan, mekanisme pelaporan dengan respons tepat waktu, kemampuan memblokir pengguna yang melakukan penyalahgunaan, dan informasi kontak yang dipublikasikan. Pengembang juga bertanggung jawab menghapus materi yang melanggar aturan ini, ketentuan mereka sendiri, atau standar komunitas mereka.

Karena itu, kontrol pembuatan gambar dan respons alat tersebut terhadap laporan penyalahgunaan harus mendukung kewajiban moderasi yang sama. Itulah penafsiran kami atas aturan dan pengumuman tersebut secara bersama. Apple tidak menetapkan model deteksi tertentu atau menerbitkan ambang akurasi numerik dalam dokumen ini.

Fitur tersembunyi memiliki aturan tersendiri

Dalam pemberitahuan revisi Apple yang bertanggal, 2.5.19 disebut sebagai pedoman bernomor baru yang memperjelas larangan lama yang sebelumnya dicakup oleh 2.3.1. Aturan ini membahas fungsi tersembunyi, tidak aktif, atau tidak terdokumentasi.

Penjelasan Apple yang menyertainya menggambarkan aplikasi yang menyembunyikan kemampuan berbahaya selama peninjauan dan menampilkannya setelah disetujui, termasuk alat yang membuat gambar seksual tanpa persetujuan. Pengembang dapat menghadapi penghapusan aplikasi dan pencabutan keanggotaan Apple Developer Program. Aturan ini menyangkut informasi yang diungkapkan pengembang kepada peninjau serta konten yang dihasilkan aplikasi.

Pemberitahuan revisi yang sama menyatakan bahwa Bagian 5 memperjelas penghapusan dan pemblokiran distribusi alternatif untuk aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak. Ketentuan itu memiliki cakupan tersendiri; pembaruan ini tidak memasukkan setiap pelanggaran Pedoman 1.2 ke dalam pemblokiran distribusi tersebut.

Apple menjelaskan perbaikan dan penghapusan

Pedoman saat ini menjelaskan kemungkinan jalur perbaikan: Apple dapat meminta pengembang menghapus konten yang melanggar dan memberikan rencana peningkatan, lalu menahan aplikasi dari toko hingga kepatuhannya terbukti. Pelanggaran berat atau berulang dapat menyebabkan aplikasi langsung dihapus dan pengembang dikeluarkan.

BIG CHANGE menelaah pengumuman, pemberitahuan revisi, dan aturan Apple saat ini; kami tidak menguji perlindungan aplikasi atau mengaudit keputusan peninjauan Apple. Dokumen tersebut menetapkan perubahan kebijakan dan konsekuensi yang dinyatakan, tanpa menunjukkan apakah perubahan redaksi mengurangi penyalahgunaan.

Sumber dan bacaan lebih lanjut