Youth AI Safety Institute च्या मते, नव्याने जोडलेल्या किशोरवयीन चाचणी खात्यांना आत्महत्या, स्वतःला इजा आणि खाण्याच्या विकारांवरील नियोजित संवादांदरम्यान पालकांना सूचना मिळाल्या नाहीत. सूचना सक्रिय होण्यासाठी त्या चाचण्यांनी पुरेसा वेळ दिला होता का, याबद्दल OpenAI ने आक्षेप घेतला. हा मतभेद महत्त्वाचा आहे, कारण कंपनी स्वतः सांगते की सूचना मर्यादित आहेत, खाते जोडल्यानंतर उशिरा सुरू होतात आणि प्रत्येक चिंताजनक परिस्थिती ओळखू शकत नाहीत.

संस्थेच्या अहवालातील ChatGPT किशोरवयीन जोखीम मूल्यांकनअद्ययावत केले. १८ वर्षांखालील वापरकर्त्यांसाठी उत्पादनाला “अस्वीकार्य जोखीम” दर्जा देऊन किशोरवयीनांसाठी त्याचा प्रचार थांबवण्याचे OpenAI ला आवाहन केले. संस्थेच्या स्वतःच्या श्रेणीकरण चौकटीवर आधारित हा तिचा निर्णय आहे. त्यामागील पुरावा विशिष्ट खाते-सेटिंग्जवरील नियोजित चाचण्यांमधून आला; किशोरवयीनांच्या दैनंदिन ChatGPT वापरातील घटनांचे मोजमाप यात नव्हते.

मोठा बदल

  • काय बदलले:एका स्वतंत्र मूल्यांकनात आता OpenAI च्या किशोरवयीन सुरक्षा सूचना आणि अभ्यास नियंत्रणांची दस्तऐवजीकृत नियोजित चाचण्यांद्वारे तपासणी करण्यात आली. नव्याने जोडलेल्या चाचणी खात्यांना स्पष्ट संकट-संवादादरम्यान सूचना मिळाल्या नाहीत; काही चाचण्या सूचना पूर्णपणे सक्रिय होण्यापूर्वीच सुरू झाल्या असाव्यात, असे OpenAI म्हणते.
  • हे महत्त्वाचे का:मर्यादित सुरक्षा सूचना मिळवण्यासाठी पालक खाती जोडू शकतात. या सूचना प्रत्यक्ष वेळेत निरीक्षण करत नाहीत आणि काही चिंता त्यांच्या नजरेतून सुटू शकतात, असे OpenAI सांगते. त्यामुळे कुटुंबांनी त्यांना तत्काळ इशारा देणारी यंत्रणा मानू नये. Study Hours मुळे पात्र नवीन संवाद Study mode मध्ये सुरू होतात; मात्र वापरावर मर्यादा येत नाही.
  • पुढे काय पाहावे:सूचना-विवादाचा केंद्रबिंदू त्या सक्रिय होण्याची वेळ आहे. काही चाचणी खाती OpenAI ने सांगितलेल्या तीन तासांपेक्षा जास्त काळ जोडलेली होती, तरीही या विशिष्ट चाचणीतील कोणत्याही खात्याला सूचना मिळाली नाही. त्यामुळे किमान काही खात्यांना त्या अंतरानंतरही सूचना मिळाल्या नाहीत. त्या उपगटातील खात्यांची संख्या किंवा प्रत्येक खाते जोडण्याची वेळ अहवालात दिलेली नाही; म्हणून विलंबाचा एकूण निष्कर्षांवर किती परिणाम झाला असता, हे मोजता येत नाही.

परीक्षकांनी काय तपासले

दोन कालखंडांत मिळून ४,००० हून अधिक प्रॉम्प्ट वापरल्याचे संस्थेने सांगितले. ChatGPT for Teens ची घोषणा होण्यापूर्वी, १३ जुलै ते १७ ऑगस्ट २०२६ दरम्यान प्रक्षेपणापूर्व चाचणी झाली. प्रक्षेपणानंतरची चाचणी २५ ऑगस्ट ते २८ सप्टेंबरदरम्यान झाली; परीक्षकांच्या मते किशोरवयीन अनुभव मिळालेल्या इतर मोफत आणि सशुल्क खात्यांवर ती करण्यात आली. यात जोडलेली आणि न जोडलेली किशोरवयीन खाती होती; वापरकर्त्यांनी सांगितलेले वय १३ ते १७ वर्षे होते. वयाचा अंदाज तपासण्यासाठी नोंदणीतील वय १९ वर्षे असलेली खातीही संस्थेने तपासली.

सूचनांची सर्वाधिक थेट चाचणी करण्यासाठी डझनभराहून अधिक नवीन मोफत-प्लॅन किशोरवयीन खाती वापरली; संवाद सुरू होण्यापूर्वी प्रत्येक खाते पालकांच्या खात्याशी जोडले होते. परीक्षकांनी संकटाच्या चार नियोजित भूमिका वापरल्या; संवाद पाच मिनिटांपेक्षा कमी ते एका तासापर्यंत चालले. अहवालानुसार संपूर्ण मूल्यांकन PDFनुसार, प्रत्येक संवादात आत्महत्या, स्वतःला इजा किंवा खाण्याच्या विकारांचा स्पष्ट उल्लेख होता. यापैकी कोणत्याही खात्यामुळे पालकांना सूचना मिळाली नाही, असे संस्थेने सांगितले.

दीर्घकालीन मानसिक आरोग्य चाचणीत वेगळे निष्कर्ष दिसले. संस्थेने अनेक आठवड्यांपासून वापरात असलेल्या खात्यांवर प्रक्षेपणापूर्व आणि प्रक्षेपणानंतर संकट-संवाद तपासले आणि एकूण चार सूचना मिळाल्या. त्यापैकी दोन सूचना प्रक्षेपणानंतरच्या एका खात्यातून आल्या; ते पालकांशी जोडलेले आणि वय १३ वर्षे असे सेट केलेले होते. विविध परिस्थितींमध्ये शेकडो प्रॉम्प्टनंतर संबंधित विषय तपासल्याच्या एका तासाच्या आत दोन्ही सूचना आल्या. नवीन आणि दीर्घकाळ वापरलेल्या खात्यांतील फरकावरून संकट-विषयांचा संचयी इतिहास सूचनांवर परिणाम करत असावा, असा संस्थेचा अंदाज होता. मात्र या चाचण्या अंतर्गत ट्रिगरचे नियम सिद्ध करू शकत नाहीत.

सक्रिय होण्याच्या वेळेवरील मतभेद

जोडलेल्या खात्यांना सुरक्षा सूचना मिळण्यासाठी सुमारे तीन तास लागू शकतात, असे OpenAI ने संस्थेला सांगितले. एका निवेदनाबाबत Los Angeles Timesने दिलेल्या वृत्तानुसार, पालक नियंत्रण पूर्णपणे सक्रिय होण्यापूर्वीच बहुतेक सूचना-चाचण्या सुरू होऊन संपल्या असाव्यात, असे OpenAI ने म्हटले. Axios नेही नोंदवला. डझनभराहून अधिक नव्याने जोडलेल्या खात्यांपैकी काही तीन तासांपेक्षा कमी, तर काही तीन तासांपेक्षा जास्त काळ जोडलेली होती, असे संस्थेने सांगितले. यापैकी कोणत्याही खात्याला सूचना मिळाली नाहीत, या निष्कर्षासोबत पाहता OpenAI ने सांगितलेला सक्रियतेचा कालावधी उलटल्यानंतरही किमान काही चाचणी खात्यांना सूचना मिळाल्या नव्हत्या. त्या उपगटातील खात्यांची संख्या किंवा त्यांची जोडणीची वेळ अहवाल देत नाही; त्यामुळे सर्व खात्यांना शून्य सूचना मिळण्याचे स्पष्टीकरण विलंबातून कितपत मिळू शकते, हे तो दाखवत नाही.

OpenAI चे पालक नियंत्रण मार्गदर्शक जोडलेल्या खात्यांवर सुरक्षा सूचना पूर्वनिर्धारितपणे सक्रिय असतात, असे सांगते; मात्र त्या उपलब्ध होण्यासाठी काही तास लागू शकतात. स्वतःला गंभीर इजा आणि खाण्याच्या विकारांबद्दलची चिंता सूचना पाठवण्यापूर्वी प्रशिक्षित समीक्षक तपासतात. पालक संवाद वाचू शकत नाहीत किंवा हालचालींवर प्रत्यक्ष वेळेत लक्ष ठेवू शकत नाहीत. सर्व चिंता ओळखल्या जातीलच असे नाही आणि व्यावसायिक मदत किंवा आपत्कालीन सेवांचा हा पर्याय नाही, असे OpenAI सांगते. खाते जोडलेले नसल्यास पालकांना या सूचना मिळत नाहीत.

संकट-संसाधने आणि अभ्यास सेटिंग्ज

चाचणी खात्यांना ChatGPT ने काय उत्तर दिले, हेही संस्थेने मोजले. तीन बाल व किशोर मानसोपचारतज्ज्ञांनी ३९० स्वतंत्र मानसिक आरोग्य प्रॉम्प्टपैकी २०१ प्रॉम्प्टना संकट-संसाधने द्यायला हवीत असे आधीच चिन्हांकित केले. वय १३ वर्षे असे सेट केलेल्या त्याच जोडलेल्या खात्यावर या २०१ प्रॉम्प्टच्या प्रक्षेपणानंतरच्या उत्तरांपैकी ७४% उत्तरांत हेल्पलाइन, नावाने उल्लेख केलेला व्यावसायिक किंवा सामान्य वैद्यकीय संसाधन दिले गेले; प्रक्षेपणापूर्वी हा आकडा ७७% होता. प्रक्षेपणानंतरच्या उत्तरांपैकी २३% उत्तरांत हेल्पलाइनचा उल्लेख होता, आधीच्या ३३% पेक्षा कमी. विश्वासू प्रौढाशी बोलण्यास प्रोत्साहन देणारी उत्तरे ८७% वरून ९४% झाली. प्रक्षेपणानंतरची बहुतेक संकट-उत्तरे योग्य होती, असे संस्थेच्या चिकित्सकीय समीक्षकांनी मानले. हे विशिष्ट चाचणी परिस्थितींमध्ये प्रत्येक प्रॉम्प्टनुसार मोजलेले निष्कर्ष आहेत; बाधित किंवा मदत न मिळालेल्या किशोरवयीन वापरकर्त्यांचे प्रमाण नव्हे.

पालकांनी सेट केलेल्या Study Hours दरम्यान Study mode मधून बाहेर पडण्याचा मार्गही मूल्यांकनात आढळला. ही मोकळीक जाणीवपूर्वक ठेवली आहे, असे OpenAI ने Axios ला सांगितले. त्याचे सध्याचे स्पष्टीकरण Study Hours चे वर्णन पात्र नवीन संवाद Study mode मध्ये सुरू करणारे वेळापत्रक असे करते आणि वापरकर्त्यांना ChatGPT वापरण्यापासून ते रोखत नाही, असे सांगते. वापराची वेळ मर्यादित करू इच्छिणारे पालक स्वतंत्र Quiet Hours नियंत्रण वापरू शकतात. पात्र आणि १८ वर्षांखालील असल्याचा अंदाज असलेली खाती आपोआप किशोरवयीन अनुभवात जातात, तर पालक नियंत्रण ऐच्छिक आहे, असे OpenAI चे किशोरवयीनांसाठी ChatGPT मार्गदर्शक सांगते.

संस्थेने अमेरिकेतील सॅन फ्रान्सिस्को बे एरियामधील खाती वापरून चाचण्या केल्या. प्रतिमा निर्मिती, आवाज, समूह संभाषण किंवा शैली-स्वर वैयक्तिकरण तपासले नाही; समीक्षकांतील सहमतीही मोजली नाही. प्रक्षेपणापूर्व आणि नंतरचे कालखंड एकामागोमाग आले, त्यामुळे अंतर्निहित मॉडेलमधील बदल किशोरवयीन मोडला दिलेल्या फरकांवर परिणाम करू शकतात. BIG CHANGE ने प्रकाशित मूल्यांकन, PDF, OpenAI कागदपत्रे आणि स्वतंत्र वृत्तांकन तपासले; आम्ही प्रॉम्प्ट संच चालवला नाही किंवा किशोरवयीन अथवा पालकांची खाती तपासली नाहीत.

स्रोत आणि पुढील वाचन