Apple је у правилима модерирања App Store-а изричито навео интимне снимке без пристанка, укључујући слике генерисане помоћу AI. У измени од 16. октобра наводи се да обухваћене апликације морају проактивно да спречавају и уклањају такав садржај, а да програмерима прети уклањање ако су заштитне мере недовољне или ако прекршаји остану нерешени после обавештења.

Apple наводи да је постојећа забрана порнографије већ обухватала апликације које генеришу сексуално експлицитне слике стварних људи без њиховог пристанка. Измена прецизира одговорности у правилима модерирања садржаја и разјашњава последице за програмере.

Велика промена

  • Шта се променило: Apple изричито укључује апликације за креирање AI садржаја у своје захтеве за модерирање. Програмери морају да воде рачуна и о генерисаном садржају и о материјалу који корисници отпремају или деле.
  • Зашто је важно: Правила повезују заштитне мере и реаговање на злоупотребу са даљим приступом програмера App Store-у. За тимове који праве алате за слике модерирање је део услова да производ може да се дистрибуира.
  • Шта пратити: Apple не одређује које заштитне мере треба изабрати. Његове одлуке о отклањању недостатака и уклањању показаће које мере прихвата при процени усклађености апликације.

Модерирање обухвата садржај који апликација генерише

Смерница 1.2 сада наводи апликације за креирање AI садржаја уз друштвене мреже и друге платформе на којима корисници доприносе садржају. Интимни снимци без пристанка наведени су међу ризицима које те услуге доносе.

Смерница захтева филтрирање неприхватљивог материјала пре објављивања, механизам пријављивања са благовременим одговорима, могућност блокирања корисника који врше злоупотребе и објављене контакт податке. Такође обавезује програмере да уклањају материјал који крши то правило, њихове сопствене услове или стандарде заједнице.

Зато контроле генерисања у алату за слике и реаговање на пријављену злоупотребу морају да подрже исте обавезе модерирања. То је наше тумачење правила и саопштења посматраних заједно. Apple у тим документима није прописао одређени модел откривања нити објавио нумерички праг тачности.

За скривене функције важи посебно правило

Apple-ово датирано обавештење о изменама наводи 2.5.19 као нову нумерисану смерницу која разјашњава дугогодишњу забрану раније обухваћену одељком 2.3.1. Она се односи на скривене, неактивне или недокументоване функције.

У пратећем објашњењу Apple описује апликације које током прегледа скривају штетне могућности, а откривају их после одобрења, укључујући алате који стварају сексуалне слике без пристанка. Програмер се може суочити са уклањањем апликације и искључењем из Apple Developer Program-а. Ово правило се односи и на оно што програмери откривају рецензентима и на садржај који њихова апликација производи.

У истом обавештењу наводи се да одељак 5 разјашњава уклањање и блокирање алтернативне дистрибуције апликација које олакшавају трговину људима или експлоатацију деце. Та одредба има сопствени обухват; измена не подводи свако кршење Смернице 1.2 под ту блокаду дистрибуције.

Apple описује отклањање недостатака и уклањање

Важеће смернице описују могућ поступак отклањања недостатака: Apple може да затражи од програмера да уклони спорни садржај и достави план побољшања, а затим да задржи апликацију ван продавнице док не докаже усклађеност. Тешко или поновљено недозвољено поступање може довести до тренутног уклањања и апликације и програмера.

BIG CHANGE је прегледао Apple-ово саопштење, обавештење о изменама и важећа правила; није тестирао заштитне мере апликација нити спровео ревизију Apple-ових одлука о прегледу. Документи утврђују промену политике и наведене последице, али не показују да ли измењена формулација смањује злоупотребу.

Извори и додатна литература