AI से बना एक कार्टून ब्रेंडन लोपर के पेन नेम के साथ प्रसारित हुआ, जबकि उन्होंने उसे बनाया नहीं था। 5 अक्टूबर की निमैन लैब रिपोर्ट मेंलोपर ने कहा कि लोगों ने उनसे पूछा कि क्या यह उनकी बनाई हुई तस्वीर है।

रिपोर्टर एंड्रयू डेक को ऑनलाइन मिलती-जुलती तस्वीरें मिलीं और उन्होंने खुद ChatGPT में न्यू यॉर्कर-शैली के कार्टून बनाए। इन स्रोतों में उन्होंने पत्रिका के 15 से अधिक कार्टूनिस्टों से जुड़े हस्ताक्षर दर्ज किए। यह उनके मिले उदाहरणों में कलाकारों की गिनती है, ChatGPT कितनी बार असली हस्ताक्षर बनाता है या ऐसे कितने कार्टून प्रसारित हैं, उसका माप नहीं।

बड़ा बदलाव

  • क्या बदला:निमैन लैब ने ChatGPT से बने ऐसे कार्टून दर्ज किए जिन पर असली कार्टूनिस्टों के प्रतीत होने वाले हस्ताक्षर थे, जबकि कलाकारों ने वे तस्वीरें नहीं बनाई थीं। आउटपुट ने बनाई गई ड्रॉइंग को एक नामित कलाकार की पहचान दी और साथ ही पत्रिका की दृश्य शैली की नकल की।
  • यह क्यों मायने रखता है:मूल संदर्भ से अलग साझा होने पर हस्ताक्षर कार्टून के साथ फैल सकता है। लोपर ने निमैन लैब को बताया कि लोगों ने उनसे पूछा कि क्या उन्होंने हस्ताक्षर वाली तस्वीर बनाई थी। कलाकारों और प्रकाशकों के लिए तात्कालिक समस्या झूठा श्रेय है; केवल हस्ताक्षर यह नहीं बताते कि मॉडल ने उन्हें कैसे सीखा या कोई कानून टूटा या नहीं।
  • क्या देखना है:डेक के OpenAI को सूचित करने के बाद ChatGPT ने उन्हें तीसरे पक्ष की सामग्री से समानता की चेतावनी देना शुरू किया, फिर भी उन्होंने बताया कि कुछ हस्ताक्षर वाले आउटपुट जारी रहे। उनका रुकना OpenAI की प्रतिक्रिया का ठोस माप होगा। डेक की रिपोर्ट के समय कंपनी ने कारण नहीं बताया था और पूरा सुधार घोषित नहीं किया था।

रिपोर्ट ने क्या परखा

डेक के अनुसार, उनके ChatGPT प्रॉम्प्ट से जॉर्ज बूथ, लिज़ा डॉनेली, एलिस रोसेन और सॉल स्टाइनबर्ग समेत अन्य लोगों से जुड़े हस्ताक्षर वाले कार्टून बने। ऑनलाइन मंचों पर उन्हें अन्य योगदानकर्ताओं के नाम वाले उदाहरण भी मिले। नतीजे अलग-अलग थे: कुछ आउटपुट पर हस्ताक्षर नहीं थे और कुछ में गढ़े हुए पेन नेम थे। OpenAI को बताने के बाद उनके न्यू यॉर्कर-शैली के अनुरोधों पर ChatGPT तीसरे पक्ष की सामग्री से समानता की चेतावनी दिखाने लगा, उन्होंने बताया। रिपोर्ट प्रकाशित होने तक कुछ बने कार्टूनों पर असली कार्टूनिस्टों के नाम बने रहे, ऐसा उन्होंने कहा।

यह डेक द्वारा रिपोर्ट किया गया परीक्षण है, BIG CHANGE का प्रयोग नहीं। रिपोर्ट में पूरा प्रॉम्प्ट सेट, मॉडल संस्करण, नमूने का आकार या हस्ताक्षर वाले आउटपुट की दर नहीं दी गई। इन विवरणों की कमी अलग-अलग उपयोगकर्ताओं या संस्करणों में मौजूदा व्यवहार के बारे में दावों को सीमित करती है।

लोपर का अनुभव साझा की गई तस्वीर पर निशान दिखने का परिणाम बताता है: देखने वालों ने उनसे पूछा कि क्या उन्होंने इसे बनाया था। कार्टूनिस्ट एमिली फ्लेक ने डेक से कहा कि बनी हुई ड्रॉइंग कलाकारों की शैलियों का मिश्रण लगती थीं, जबकि हस्ताक्षरों ने उनके पेन नेम को दोहराया। कलाकारों के लिए यह अंतर अहम है: कोई कार्टून किसी विधा जैसा लग सकता है, बिना किसी नामित व्यक्ति को श्रेय दिए; हस्ताक्षर उस श्रेय को स्पष्ट करता है।

OpenAI ने निमैन लैब से कहा कि वह बग और मॉडल के अनचाहे व्यवहार की रिपोर्ट का स्वागत करता है ताकि उन पर काम कर सके। बयान में कारण नहीं बताया गया, पूरा सुधार नहीं बताया गया और समय-सीमा नहीं दी गई। डेक ने बताया कि उनकी सूचना के बाद चेतावनी दिखी और बाद की जाँच में हस्ताक्षर वाले आउटपुट जारी रहे।

हस्ताक्षर क्या साबित नहीं करता

Condé Nast के साथ साझेदारी पर OpenAI की 2024 की घोषणा कहती है कि इस व्यवस्था के तहत The New Yorker समेत ब्रांडों की सामग्री OpenAI उत्पादों में दिखाई जाएगी। इसमें अनुबंध नहीं बताया गया और न यह कहा गया कि कार्टून कला को मॉडल प्रशिक्षण के लिए लाइसेंस किया गया था। New Yorker के एक प्रवक्ता ने निमैन लैब को बताया कि Condé Nast ने किसी बड़े भाषा मॉडल डेवलपर को अपने कार्टून पर प्रशिक्षण की अनुमति नहीं दी। डेक ने यह भी बताया कि उन्होंने योगदान देने वाले कार्टूनिस्टों के अनुबंध नमूनों की समीक्षा की, जिनमें AI प्रशिक्षण लाइसेंस की अनुमति नहीं थी। ये अधिकारों के बारे में अलग-अलग बयान हैं; दिखने वाले हस्ताक्षर अकेले यह नहीं बताते कि मॉडल ने पैटर्न कैसे सीखा या कोई समझौता किन बातों को कवर करता है।

डेक ने OpenAI से पूछा कि हस्ताक्षर उसकी प्रशिक्षण सामग्री में कैसे आए होंगे और बताया कि इस सवाल का जवाब नहीं मिला। उन्होंने कॉर्नेल के कानून के प्रोफेसर जेम्स ग्रिमेलमैन से संभावित कानूनी सिद्धांतों, जिनमें प्रचार का अधिकार भी शामिल है, पर बात की। वह चर्चा संभावित दावों और बाधाओं की पहचान करती है, इन तस्वीरों पर अदालत का फैसला नहीं। किसी खास कार्टून ने किसी के अधिकारों का उल्लंघन किया या नहीं, यह अनसुलझा है।