Apple ने App Store च्या मॉडरेशन नियमांत संमतीशिवाय अंतरंग प्रतिमांचा, AI ने तयार केलेल्या प्रतिमांसह, स्पष्ट उल्लेख केला आहे. १६ ऑक्टोबरच्या अद्ययावतीकरणानुसार संबंधित अॅपनी असा आशय सक्रियपणे रोखणे आणि काढून टाकणे आवश्यक आहे. संरक्षण अपुरे असल्यास किंवा सूचना मिळाल्यानंतरही उल्लंघने सोडवली न गेल्यास विकसकांना हटवले जाण्याचा धोका आहे.

Apple च्या म्हणण्यानुसार, अश्लील सामग्रीवरील विद्यमान बंदीत खऱ्या व्यक्तींच्या संमतीशिवाय त्यांच्या लैंगिकदृष्ट्या स्पष्ट प्रतिमा तयार करणाऱ्या अॅपचा आधीपासून समावेश होता. बदलामुळे सामग्री मॉडरेशनच्या नियमांतील जबाबदाऱ्या तपशीलवार मांडल्या जातात आणि विकसकांसाठीचे परिणाम स्पष्ट होतात.

मोठा बदल

  • काय बदलले: Apple ने AI सामग्री तयार करणाऱ्या अॅपचा आपल्या मॉडरेशन आवश्यकतांत स्पष्टपणे समावेश केला आहे. विकसकांनी तयार होणारा आशय तसेच वापरकर्ते अपलोड किंवा शेअर करतात ती सामग्री, या दोन्हींचा विचार केला पाहिजे.
  • हे महत्त्वाचे का: नियम संरक्षण आणि गैरवापराला दिलेला प्रतिसाद यांचा संबंध विकसकांचा App Store मधील प्रवेश कायम राहण्याशी जोडतात. प्रतिमा साधने तयार करणाऱ्या संघांसाठी मॉडरेशन हा उत्पादनाच्या वितरणपात्रतेचा भाग आहे.
  • कशाकडे लक्ष द्यावे: Apple ने कोणते संरक्षण उपाय निवडावेत हे सांगितलेले नाही. त्रुटी दुरुस्ती आणि हटवण्याबाबतचे त्याचे निर्णय अॅपचे अनुपालन तपासताना कोणते संरक्षण स्वीकारले जाते हे दाखवतील.

अॅप तयार करत असलेली सामग्रीही मॉडरेशनच्या कक्षेत

मार्गदर्शक तत्त्व 1.2 मध्ये आता समाजमाध्यमे आणि वापरकर्ते आशय पुरवतात अशा इतर व्यासपीठांसोबत AI सामग्री तयार करणाऱ्या अॅपचाही उल्लेख आहे. या सेवांमुळे निर्माण होणाऱ्या धोक्यांत संमतीशिवाय अंतरंग प्रतिमांचा उल्लेख केला आहे.

या मार्गदर्शक तत्त्वानुसार आक्षेपार्ह सामग्री प्रकाशित होण्यापूर्वी गाळणी लावणे, वेळेत प्रतिसाद देणारी तक्रार यंत्रणा, गैरवर्तन करणाऱ्या वापरकर्त्यांना ब्लॉक करण्याची सोय आणि संपर्क माहिती प्रसिद्ध करणे आवश्यक आहे. हा नियम, स्वतःच्या अटी किंवा समुदायाची मानके मोडणारी सामग्री काढून टाकण्याची जबाबदारीही विकसकांवर आहे.

त्यामुळे प्रतिमा साधनातील निर्मिती नियंत्रणे आणि गैरवापराच्या तक्रारींना दिलेला प्रतिसाद यांनी समान मॉडरेशन जबाबदाऱ्या पूर्ण करण्यास मदत केली पाहिजे. नियम आणि घोषणा एकत्र वाचल्यावर आम्ही काढलेला हा अर्थ आहे. Apple ने या कागदपत्रांत ठरावीक शोध मॉडेल बंधनकारक केलेले नाही किंवा अचूकतेची संख्यात्मक मर्यादा प्रसिद्ध केलेली नाही.

लपवलेल्या सुविधांसाठी स्वतंत्र नियम

Apple च्या दिनांक नमूद असलेल्या सुधारणा सूचनेत 2.5.19 हे नवे क्रमांकित मार्गदर्शक तत्त्व असल्याचे म्हटले आहे. ते पूर्वी 2.3.1 अंतर्गत असलेली दीर्घकाळची बंदी स्पष्ट करते. ते लपवलेल्या, निष्क्रिय किंवा दस्तऐवजीकरण नसलेल्या कार्यक्षमतेशी संबंधित आहे.

Apple च्या सोबतच्या स्पष्टीकरणात पुनरावलोकनादरम्यान हानिकारक क्षमता लपवणाऱ्या आणि मंजुरीनंतर त्या उघड करणाऱ्या अॅपचे वर्णन आहे. त्यांत संमतीशिवाय लैंगिक प्रतिमा तयार करणाऱ्या साधनांचाही समावेश आहे. विकसकांना अॅप हटवले जाणे आणि Apple Developer Program मधून काढले जाणे अशा परिणामांना सामोरे जावे लागू शकते. हा नियम अॅपने तयार केलेल्या आशयासोबतच विकसक पुनरावलोककांना काय सांगतात याबाबतही आहे.

त्याच सुधारणा सूचनेनुसार, विभाग 5 मानव तस्करी किंवा मुलांचे शोषण सुलभ करणारी अॅप हटवणे आणि त्यांचे पर्यायी वितरण रोखणे स्पष्ट करतो. त्या तरतुदीची स्वतःची व्याप्ती आहे; या अद्ययावतीकरणामुळे मार्गदर्शक तत्त्व 1.2 चे प्रत्येक उल्लंघन त्या वितरणबंदीखाली येत नाही.

Apple ने दुरुस्ती आणि हटवण्याची प्रक्रिया स्पष्ट केली

विद्यमान मार्गदर्शक तत्त्वांत दुरुस्तीचा एक संभाव्य मार्ग दिला आहे: Apple विकसकाला उल्लंघन करणारा आशय काढण्यास आणि सुधारणा आराखडा देण्यास सांगू शकते, आणि नंतर अनुपालन सिद्ध होईपर्यंत अॅप स्टोअरबाहेर ठेवू शकते. गंभीर किंवा वारंवार केलेले वर्तन अॅप आणि विकसक दोघांनाही तात्काळ हटवण्यास कारणीभूत ठरू शकते.

BIG CHANGE ने Apple ची घोषणा, सुधारणा सूचना आणि विद्यमान नियम तपासले; अॅपचे संरक्षण तपासून पाहिले नाही किंवा Apple च्या पुनरावलोकन निर्णयांचे लेखापरीक्षण केले नाही. कागदपत्रे धोरणातील बदल आणि नमूद परिणाम स्पष्ट करतात; मात्र बदललेली शब्दरचना गैरवापर कमी करते की नाही हे दाखवत नाहीत.

स्रोत आणि पुढील वाचन