दुसऱ्याने त्यांच्या वडिलांकडून काहीतरी सांगितल्याचा भास निर्माण केलेली गोष्ट Zelda Williams यांना पुन्हा दुरुस्त करावी लागत आहे. 21 सप्टेंबर रोजी X वरील निवेदनात, कट-कारस्थानांबद्दल Robin Williams यांचा खासगी व्हिडिओ असल्याचा दावा करणारा क्लिप एआयने तयार केला होता, असे त्यांनी म्हटले. त्यातील आवाज विश्वासार्ह वाटत नसल्याचे सांगून, दुसऱ्याचे दावे पटवण्यासाठी वडिलांचा वापर करण्यास त्यांनी आक्षेप घेतला. Williams यांचे निवेदन.
Robin Williams यांच्या एआय व्हिडिओंवरील वाद फक्त कृत्रिम चेहरा पटण्याजोगा दिसतो का, यापलीकडची समस्या दाखवतो. ओळखीची व्यक्ती बनवलेल्या विधानाला खरा इतिहास, भावनिक अर्थ आणि विश्वासार्हता असल्याचा भास देऊ शकते. चित्रित केलेली व्यक्ती आपली प्रतिष्ठा देते; शब्द मात्र दुसरे कोणी पुरवते.
कुटुंबीय, निर्माते आणि प्रेक्षकांसाठी, ही बनावट गोष्ट वास्तविक नोंदीपासून वेगळी करण्याची जबाबदारी कोण घेईल हा प्रश्न आहे. आमच्या मते, कृत्रिम चित्रण प्रसिद्ध करणाऱ्यांनी प्रसार होण्याआधी ती जबाबदारी घ्यावी. मृत व्यक्तीच्या बनावट विधानांची तथ्यतपासणी करण्याची सेवा नातेवाइकांकडे आपोआप सोपवू नये.
नवे निवेदन, तीच परिचित जबाबदारी
सध्याची घटना, वडिलांचे एआय व्हिडिओ पाठवणे थांबवा अशी विनंती करणाऱ्या Zelda यांच्या ऑक्टोबर 2025 मधील Instagram आवाहनापासून वेगळी आहे. Variety च्या सप्टेंबरच्या वृत्तात असेही म्हटले आहे की, त्यांच्या आवाजाचा व प्रतिमेचा गैरवापर रोखण्यासाठी त्यांनी आणि भावांनी ऑगस्टमध्ये वडिलांचे Instagram खाते पुन्हा सुरू केले. या वेगवेगळ्या घटना आहेत; मात्र सार्वजनिक स्मृतीवरील नियंत्रण हा समान धागा आहे. Variety ची कालरेषा.
आम्ही त्यांचे निवेदन वाचून तारीख तपासली. वादग्रस्त व्हिडिओची न्यायवैज्ञानिक तपासणी केलेली नाही, निर्माता शोधलेला नाही किंवा तो तयार करण्यासाठी कोणते साधन वापरले हे ओळखलेले नाही. क्लिप एआयने तयार केला होता हे Zelda यांचे विधान म्हणून दिले आहे; पुढील विश्लेषणात कोणत्या विक्रेत्याचा अंदाज बांधण्याची गरज नाही.
त्यांच्या प्रतिसादातून तातडीची जबाबदारी स्पष्ट होते. कोणीतरी क्लिप तयार करतो, इतर लोक तो नातेवाइकांना दाखवतात आणि नातेवाइकांना दुरुस्ती करावीशी वाटते. न पटणारी नक्कलसुद्धा असे काम निर्माण करू शकते. नक्कल किती खरी दिसते आणि त्याला उत्तर देण्याचा खर्च किती आहे, या दोन वेगळ्या गोष्टी आहेत.
क्लिपला खासगी म्हणणे आणखी एक गुंतागुंत निर्माण करते. सार्वजनिक नोंद नसणे म्हणजे विशेष प्रवेश असल्याचा पुरावा आहे, असा अर्थ प्रेक्षक काढू शकतात. स्रोताचा साधा अभावही गुपित उलगडल्याचे आकर्षण मिळवू शकतो. वृत्तात वर्णन केलेल्या मांडणीचे हे आमचे वाचन आहे; प्रत्येक प्रेक्षकाने हा विशिष्ट व्हिडिओ कसा समजला, याचा पुरावा नाही.
पूर्ण वास्तवदर्शीपणापेक्षा उधार घेतलेली विश्वासार्हता महत्त्वाची
बनावट व्हिडिओत जुना फोटो, ओळखीचा आवाज आणि चित्रित व्यक्तीने कधीही न केलेला दावा एकत्र येऊ शकतो. त्यामुळे ओळखीवरून विधान त्या व्यक्तीच्या नावावर टाकण्याची उडी घडते: हा चेहरा मला परिचित आहे, म्हणजे कदाचित हे शब्दही त्यांचेच असतील.
सगळ्यांनाच फसवण्याची अभूतपूर्व ताकद डीपफेक्सकडे आहे असा दावा करण्याची गरज नाही. PLOS ONE मध्ये प्रसिद्ध झालेल्या 2023 च्या प्रयोगात 436 सहभागींना काल्पनिक चित्रपटांच्या नव्या आवृत्त्या दाखवल्या; त्यात डीपफेक क्लिप किंवा लिखित वर्णने वापरली. सहभागींनी खोट्या आठवणी नोंदवल्या; पण त्या निर्माण करण्यात व्हिडिओ मजकुरापेक्षा अधिक प्रभावी नव्हता. हा अभ्यास प्रयोगात्मक परिस्थितीत चित्रपटांविषयीच्या आठवणी तपासतो; Williams यांच्या क्लिपची किंवा संपूर्ण समाजमाध्यम वातावरणाची नाही. मूळ अभ्यास.
या निष्कर्षातून अधिक उपयुक्त सावधगिरी सुचते. दृश्य-गुणवत्तेबरोबर पटण्याजोगी मांडणी आणि प्रेक्षकांच्या अपेक्षांकडे लक्ष हवे. तांत्रिकरीत्या कमकुवत निर्मिती असली तरी मथळा किंवा स्रोताचा दावा दिशाभूल करू शकतो. उलट, नीट तयार केलेले कृत्रिम चित्रण स्पष्टपणे जाहीर केलेल्या काल्पनिक निर्मितीचा भाग असू शकते.
चाहत्यांसाठी, ओळखीपणामुळे मूळ मुलाखत किंवा ध्वनिमुद्रण शोधण्याचे कारण मिळते; त्याची जागा घेतली जात नाही. एखाद्या सार्वजनिक व्यक्तीला जोडलेले नवे विधान शोधता येणाऱ्या स्रोताशी जोडलेले असावे. विशेषतः ते शेअर करणाऱ्या खात्याने स्पष्टीकरणाविना खासगी ध्वनिमुद्रणाला पुरावा म्हणून मांडले असेल, तर हे अधिक महत्त्वाचे आहे.
संमतीत कृत्रिम चित्रण पाहणारी व्यक्तीही येते
चित्रण करवून घेणारी व्यक्तीच त्यावर परिणाम होणारी एकमेव व्यक्ती नसते. नोंदींचा मालक त्या विषयाच्या इच्छेविषयी अनभिज्ञ असू शकतो. नातेवाइकाला अभिलेखातील फोटो आवडू शकतो; पण त्या व्यक्तीला नवे शब्द बोलताना दाखवणारी हालचाल नकोशी वाटू शकते. एका कुटुंबातही या पसंती वेगवेगळ्या असू शकतात.
मृत्यूनंतरच्या एआयवरील संशोधनातून उपयुक्त फरक समजतो. 2024 च्या Philosophy & Technology निबंधात Tomasz Hollanek आणि Katarzyna Nowaczyk-Basińska पुनर्निर्मितीसाठी माहिती देणारी व्यक्ती, ती माहिती ताब्यात असलेली व्यक्ती आणि निकालाशी संवाद करणार असलेली व्यक्ती यांत फरक करतात. चित्रित व्यक्ती आणि अपेक्षित सहभागी, दोघांची संमती घ्यावी अशी त्यांची शिफारस आहे. नैतिक प्रश्न तपासण्यासाठी त्यांच्या पद्धतीत संभाव्य रचनांची उदाहरणे वापरली आहेत; वैद्यकीय परिणाम मोजलेले नाहीत किंवा कोणाच्या दुःखाचे निदान नाही. संशोधनपर निबंध.
माहिती शेअर करण्याला हा सिद्धांत सरळ लागू होतो: पाठवणाऱ्याचा प्रेमळ हेतू म्हणजे प्राप्तकर्त्याला तो अनुभव हवा आहे याचा पुरावा नाही. कृत्रिम चित्रण पाठवण्याआधी विचारल्यास, अचानक आलेल्या संदेशामुळे हिरावली जाणारी निवड जपता येते.
एआयची माहिती उघड केल्याने प्रत्येक आक्षेप सुटत नाही. क्लिप कृत्रिम आहे हे नातेवाइकाला अगदी स्पष्ट असले तरी चित्रण, त्याला जोडलेले शब्द किंवा ते वारंवार पाहण्याची विनंती मान्य नसू शकते. निर्मिती कशी झाली हे माहीत असणे म्हणजे ती पाहण्याची इच्छा असणे नव्हे.
अधिकृत सर्जनशील काम वेगळे असते
लोकांनी व्यवस्था निवडून तिच्या मर्यादा ठरवल्या असतील, तर कृत्रिम सादरीकरणाचे रचनात्मक उपयोग संभवतात. एखादा कलाकार निवेदनासाठी आवाजाचा परवाना देऊ शकतो; किंवा हक्कधारक स्पष्ट ओळख दिलेल्या सर्जनशील निर्मितीला मान्यता देऊ शकतो. मग प्रेक्षक ते सापडलेल्या ध्वनिमुद्रणाऐवजी जबाबदार निर्मात्यांसह केलेले काम म्हणून पाहू शकतात.
ElevenLabs च्या सध्याच्या Iconic Marketplace मध्ये अशी विनंती आणि मंजुरीची पद्धत वर्णन केली आहे. प्रत्येक प्रकल्पाचे मूल्यमापन कलाकार किंवा अधिकृत हक्कधारक करतात; विनंती दिली म्हणून मंजुरीची हमी नसते, असे त्यांच्या FAQ मध्ये म्हटले आहे. वापर, प्रदेश आणि कालावधी वैयक्तिक करारात ठरतात. ही पुरवठादाराच्या प्रक्रियेची माहिती आहे; प्रत्येक व्यवहाराचे आमचे लेखापरीक्षण नाही. या उदाहरणाचा अर्थ Robin Williams त्या सेवेत उपलब्ध आहेत असा नाही. Marketplace मधील सहभागाच्या अटी.
मृत्यूनंतर इस्टेटने दिलेली अधिकृतता आणि व्यक्ती जिवंत असताना व्यक्त केलेली संमती यांचेही अचूक वर्णन करावे. पुढे जाण्यासाठी ती वेगवेगळी कारणे आहेत. प्रत्येक नातेवाईक प्रत्येक वापराचे स्वागत करेल किंवा मृत व्यक्तीचे विचार तयार केलेल्या शब्दांत दिसतात, हे दोन्हींपैकी कशानेच सिद्ध होत नाही.
आशादायक शक्यतेत विशिष्ट परवानगी, निर्मात्यांची स्पष्ट ओळख आणि समजण्याजोग्या मर्यादा असलेली सर्जनशील पद्धत आहे. नकार देण्याची खरी क्षमता असणे त्यासाठी आवश्यक आहे. कुटुंबाचा आक्षेप टाळायचा अडथळा मानल्यास हाच पाया कमकुवत होईल.
लेबल उपयोगी; पण परवानगी देत नाही
प्लॅटफॉर्मच्या नियमांतही असे काही फरक आधीपासून आहेत. व्यक्तीला खास ओळखू येईल असे वास्तवदर्शी कृत्रिम चित्रण असेल, तर ते हटवण्याची विनंती YouTube स्वीकारते. खुलासा, संमती, सार्वजनिक हित आणि विडंबन यांसह अनेक बाबींचा आढावा घेतला जातो. चित्रित व्यक्ती मृत असल्यास, पडताळणीनंतर जवळच्या कुटुंबीयांकडून किंवा कायदेशीर प्रतिनिधींकडून विनंती विचारात घेतली जाऊ शकते. विनंती केली म्हणजे सामग्री हटेलच असे नाही. ही उपलब्ध प्रक्रियेचे उदाहरण आहे; Williams यांचा क्लिप YouTube वर होता असा दावा नाही. YouTube चे ओळख-संरक्षण.
एखाद्या व्यक्तीची मालकी किंवा मान्यता आहे, अथवा ती मजकुराला पाठिंबा देते, असा खोटा आभास निर्माण करणाऱ्या सामग्रीबद्दल YouTube चे तोतयेगिरीचे धोरण वेगळे आहे. एआयचे लेबल लावल्याने त्या धोरणानुसार तोतयेगिरी आपोआप मान्य होत नाही. निर्मिती कशी झाली हे खुलासा सांगतो; ओळख वापरण्यास कोणीतरी परवानगी दिली का, याचे उत्तर संमती देते. YouTube चे तोतयेगिरीविषयक धोरण.
तांत्रिक नोंदींमुळे वेगळ्या प्रश्नाचे उत्तर मिळू शकते. Content Credentials फाइलची निर्मिती आणि बदल यांची माहिती फेरफार दिसून येईल अशा पद्धतीने नोंदवू शकते. केवळ उगम-नोंदीने चित्रित आशय खरा आहे हे सिद्ध होत नाही, असे C2PA चे स्पष्टीकरण सांगते. कृत्रिम चित्रण कोणी तयार केले याची नोंद उपयोगी आहे; त्यामुळे ते ऐतिहासिक घटना ठरत नाही. C2PA चे स्पष्टीकरण.
या साधनांचा हेतू स्पष्ट असला तरच ती अधिक उपयोगी ठरतात. खुलासा कृत्रिम निर्मिती ओळखतो. परवानगीची प्रक्रिया मान्यताप्राप्त वापर निश्चित करते. अभिलेख ध्वनिमुद्रणाला ऐतिहासिक स्रोताशी जोडतो. एकाचा उपयोग दुसऱ्याचा पर्याय म्हणून करू नये.
दुरुस्ती दाव्यासोबतच ठेवा
प्रकाशक आणि प्लॅटफॉर्मसमोरील व्यावहारिक आव्हान म्हणजे चित्रित व्यक्ती आणि कुटुंबावर ढकलले जाणारे काम कमी करणे. जबाबदार प्रक्रियेत चुकीच्या आरोपाची नोंद करणे सोपे असावे, तक्रारीचा संदर्भ जतन व्हावा आणि निकाल कळवला जावा. आमच्या मते, एआयचे लेबल लावले आहे एवढ्याला पूर्ण प्रतिसाद न मानता दस्तऐवजीकरण केलेल्या तोतयेगिरीच्या तक्रारीला दिलेला प्रतिसाद—पुन्हा अपलोडसह—मोजावा.
प्रेक्षकांनाही लहान पण उपयुक्त निवडी करता येतात. नवा शोध असल्याचा दावा शेअर करण्याआधी मूळ स्रोत आणि तारीख शोधा. ते निश्चित करता येत नसतील, तर दृश्य अस्सल असल्याचे सांगू नका. दुरुस्ती योग्य असेल, तर दिशाभूल करणारा क्लिप विनाकारण पुन्हा प्रसारित न करता विश्वासार्ह स्पष्टीकरण शेअर करा. कृत्रिम चित्रण न पाठवण्याच्या नातेवाइकाच्या विनंतीचा आदर करा.
सर्जनशील प्रयोग आणि लोकांनी प्रत्यक्ष सादर केलेली कामगिरी जतन करणे, दोन्ही शक्य आहे. निर्मिती कोणी केली आणि कोणत्या अधिकाराने केली हे कळल्यास त्यांना फायदा होतो. निराशावादी पर्यायात बनवलेल्या विधानांचा पुरवठा वाढतो आणि प्रेक्षक जमा झाल्यानंतरही कुटुंबाला प्रत्येक विधान स्वतंत्रपणे फेटाळावे लागते.
तंत्रज्ञान कितीही सुधरले तरी निकष समजण्याजोगा राहावा: ओळखीचा आवाज म्हणजे त्या व्यक्तीने बोलल्याचा पुरावा नाही; आणि परिचित चेहरा म्हणजे तिच्या वतीने बोलण्याची परवानगी नाही.
