Apple je u pravilima moderiranja App Store-a izričito naveo intimne snimke bez pristanka, uključujući slike generisane pomoću AI. U izmeni od 16. oktobra navodi se da obuhvaćene aplikacije moraju proaktivno da sprečavaju i uklanjaju takav sadržaj, a da programerima preti uklanjanje ako zaštitne mere nisu dovoljne ili ako prekršaji ostanu nerešeni posle obaveštenja.

Apple navodi da je postojeća zabrana pornografije već obuhvatala aplikacije koje generišu seksualno eksplicitne slike stvarnih ljudi bez njihovog pristanka. Izmena precizira odgovornosti u pravilima moderiranja sadržaja i razjašnjava posledice za programere.

Velika promena

  • Šta se promenilo: Apple izričito uključuje aplikacije za kreiranje AI sadržaja u svoje zahteve za moderiranje. Programeri moraju da vode računa i o generisanom sadržaju i o materijalu koji korisnici otpremaju ili dele.
  • Zašto je važno: Pravila povezuju zaštitne mere i reagovanje na zloupotrebu sa daljim pristupom programera App Store-u. Za timove koji prave alate za slike moderiranje je deo uslova da proizvod može da se distribuira.
  • Šta pratiti: Apple ne određuje koje zaštitne mere treba izabrati. Njegove odluke o otklanjanju nedostataka i uklanjanju pokazaće koje mere prihvata pri proceni usklađenosti aplikacije.

Moderiranje obuhvata sadržaj koji aplikacija generiše

Smernica 1.2 sada navodi aplikacije za kreiranje AI sadržaja uz društvene mreže i druge platforme na kojima korisnici doprinose sadržaju. Intimni snimci bez pristanka navedeni su među rizicima koje te usluge donose.

Smernica zahteva filtriranje neprihvatljivog materijala pre objavljivanja, mehanizam prijavljivanja sa blagovremenim odgovorima, mogućnost blokiranja korisnika koji vrše zloupotrebe i objavljene kontakt podatke. Takođe obavezuje programere da uklanjaju materijal koji krši to pravilo, njihove sopstvene uslove ili standarde zajednice.

Zato kontrole generisanja u alatu za slike i reagovanje na prijavljenu zloupotrebu moraju da podrže iste obaveze moderiranja. To je naše tumačenje pravila i saopštenja posmatranih zajedno. Apple u tim dokumentima nije propisao određeni model otkrivanja niti objavio numerički prag tačnosti.

Za skrivene funkcije važi posebno pravilo

Apple-ovo datirano obaveštenje o izmenama navodi 2.5.19 kao novu numerisanu smernicu koja razjašnjava dugogodišnju zabranu ranije obuhvaćenu odeljkom 2.3.1. Ona se odnosi na skrivene, neaktivne ili nedokumentovane funkcije.

U pratećem objašnjenju Apple opisuje aplikacije koje tokom pregleda skrivaju štetne mogućnosti, a otkrivaju ih posle odobrenja, uključujući alate koji stvaraju seksualne slike bez pristanka. Programer se može suočiti sa uklanjanjem aplikacije i isključenjem iz Apple Developer Program-a. Ovo pravilo se odnosi i na ono što programeri otkrivaju recenzentima i na sadržaj koji njihova aplikacija proizvodi.

U istom obaveštenju navodi se da odeljak 5 razjašnjava uklanjanje i blokiranje alternativne distribucije aplikacija koje olakšavaju trgovinu ljudima ili eksploataciju dece. Ta odredba ima sopstveni obuhvat; izmena ne podvodi svako kršenje Smernice 1.2 pod tu blokadu distribucije.

Apple opisuje otklanjanje nedostataka i uklanjanje

Važeće smernice opisuju moguć postupak otklanjanja nedostataka: Apple može da zatraži od programera da ukloni sporni sadržaj i dostavi plan poboljšanja, a zatim da zadrži aplikaciju van prodavnice dok ne dokaže usklađenost. Teško ili ponovljeno nedozvoljeno postupanje može dovesti do trenutnog uklanjanja i aplikacije i programera.

BIG CHANGE je pregledao Apple-ovo saopštenje, obaveštenje o izmenama i važeća pravila; nije testirao zaštitne mere aplikacija niti sproveo reviziju Apple-ovih odluka o pregledu. Dokumenti utvrđuju promenu politike i navedene posledice, ali ne pokazuju da li izmenjena formulacija smanjuje zloupotrebu.

Izvori i dodatna literatura