Apple ने App Store के मॉडरेशन नियमों में स्पष्ट कर दिया है कि बिना सहमति वाली अंतरंग तस्वीरें उनके दायरे में आती हैं, जिनमें AI से बनाई गई तस्वीरें भी शामिल हैं। 16 अक्टूबर के अपडेट के मुताबिक संबंधित ऐप को ऐसी सामग्री की सक्रिय रूप से रोकथाम करनी होगी और उसे हटाना होगा। सुरक्षा व्यवस्था अपर्याप्त होने या सूचना मिलने के बाद भी उल्लंघन दूर न करने पर डेवलपर को हटाए जाने का जोखिम है।

Apple का कहना है कि अश्लील सामग्री पर उसका मौजूदा प्रतिबंध पहले से उन ऐप पर लागू था जो वास्तविक लोगों की सहमति के बिना उनकी यौन रूप से स्पष्ट तस्वीरें बनाते हैं। बदलाव सामग्री मॉडरेशन के नियमों के भीतर जिम्मेदारियां विस्तार से बताता है और डेवलपर के लिए परिणाम स्पष्ट करता है।

बड़ा बदलाव

  • क्या बदला: Apple ने AI से सामग्री बनाने वाले ऐप को अपनी मॉडरेशन आवश्यकताओं में स्पष्ट रूप से शामिल किया है। डेवलपर को ऐप से बनी सामग्री और उपयोगकर्ताओं द्वारा अपलोड या साझा की गई सामग्री, दोनों का ध्यान रखना होगा।
  • यह क्यों मायने रखता है: नियम सुरक्षा व्यवस्था और दुरुपयोग पर प्रतिक्रिया को डेवलपर की App Store तक पहुंच बने रहने से जोड़ते हैं। तस्वीरों के टूल बनाने वाली टीमों के लिए मॉडरेशन उत्पाद के वितरण की पात्रता का हिस्सा है।
  • किस पर नजर रखें: Apple ने यह तय नहीं किया है कि कौन-से सुरक्षा उपाय अपनाए जाएं। सुधार और हटाने संबंधी उसके फैसले बताएंगे कि ऐप के अनुपालन का आकलन करते समय वह किन सुरक्षाओं को स्वीकार करता है।

मॉडरेशन में ऐप की बनाई सामग्री भी शामिल है

दिशानिर्देश 1.2 में अब सोशल मीडिया और उपयोगकर्ताओं के सामग्री योगदान वाले अन्य प्लेटफॉर्म के साथ AI से सामग्री बनाने वाले ऐप का भी नाम है। इसमें बिना सहमति वाली अंतरंग तस्वीरों को इन सेवाओं से जुड़े जोखिमों में गिना गया है।

दिशानिर्देश के तहत आपत्तिजनक सामग्री पोस्ट होने से पहले उसकी छंटाई, समय पर जवाब देने वाली शिकायत व्यवस्था, दुरुपयोग करने वाले उपयोगकर्ताओं को ब्लॉक करने की सुविधा और सार्वजनिक संपर्क जानकारी जरूरी है। डेवलपर उस सामग्री को हटाने के लिए भी जिम्मेदार हैं जो इस नियम, उनकी अपनी शर्तों या समुदाय के मानकों का उल्लंघन करती है।

इसलिए तस्वीर बनाने वाले टूल के जनरेशन नियंत्रण और दुरुपयोग की शिकायतों पर उसकी प्रतिक्रिया, दोनों को एक ही मॉडरेशन संबंधी जिम्मेदारियां पूरी करने में मदद करनी होगी। नियम और घोषणा को मिलाकर पढ़ने पर हमारी यही व्याख्या है। Apple ने इन दस्तावेजों में कोई खास पहचान मॉडल तय नहीं किया है और न ही सटीकता की संख्यात्मक सीमा प्रकाशित की है।

छिपे फीचर के लिए अलग नियम है

Apple की तारीख वाली संशोधन सूचना में 2.5.19 को नए क्रमांक वाले दिशानिर्देश के रूप में बताया गया है, जो पहले 2.3.1 में शामिल लंबे समय से लागू प्रतिबंध को स्पष्ट करता है। यह छिपी, निष्क्रिय या बिना दस्तावेज वाली कार्यक्षमता से संबंधित है।

Apple की साथ दी गई व्याख्या उन ऐप का वर्णन करती है जो समीक्षा के दौरान हानिकारक क्षमताएं छिपाते हैं और मंजूरी के बाद उन्हें सामने लाते हैं। इनमें बिना सहमति यौन तस्वीरें बनाने वाले टूल भी शामिल हैं। डेवलपर को ऐप हटाए जाने और Apple Developer Program से बाहर किए जाने का सामना करना पड़ सकता है। यह नियम डेवलपर द्वारा समीक्षकों को दी जाने वाली जानकारी और ऐप की बनाई सामग्री, दोनों से संबंधित है।

उसी संशोधन सूचना में कहा गया है कि अनुभाग 5 मानव तस्करी या बच्चों के शोषण में मदद करने वाले ऐप को हटाने और उनके वैकल्पिक वितरण पर रोक स्पष्ट करता है। उस प्रावधान का अपना दायरा है; अपडेट दिशानिर्देश 1.2 के हर उल्लंघन को उस वितरण प्रतिबंध के तहत नहीं रखता।

Apple ने सुधार और हटाने की प्रक्रिया बताई

मौजूदा दिशानिर्देश सुधार का एक संभावित रास्ता बताते हैं: Apple डेवलपर से उल्लंघन करने वाली सामग्री हटाने और सुधार योजना देने को कह सकता है, फिर अनुपालन साबित होने तक ऐप को स्टोर से बाहर रख सकता है। गंभीर या बार-बार होने वाला आचरण ऐप और डेवलपर, दोनों को तत्काल हटाए जाने का कारण बन सकता है।

BIG CHANGE ने Apple की घोषणा, संशोधन सूचना और मौजूदा नियमों की समीक्षा की; उसने ऐप की सुरक्षा व्यवस्था की जांच या Apple के समीक्षा फैसलों का ऑडिट नहीं किया। दस्तावेज नीतिगत बदलाव और बताए गए परिणाम स्थापित करते हैं, लेकिन यह नहीं दिखाते कि संशोधित भाषा दुरुपयोग कम करती है या नहीं।

स्रोत और आगे पढ़ें