Youth AI Safety Institute के अनुसार, हाल ही में अभिभावक खाते से जोड़े गए किशोरों के परीक्षण खातों को आत्महत्या, खुद को नुकसान पहुँचाने और खान-पान संबंधी विकारों पर स्क्रिप्टेड बातचीत के दौरान माता-पिता के लिए कोई अलर्ट नहीं मिला। OpenAI ने सवाल उठाया कि क्या परीक्षणों में अलर्ट सक्रिय होने के लिए पर्याप्त समय दिया गया था। यह मतभेद अहम है, क्योंकि कंपनी खुद कहती है कि सूचनाएँ सीमित हैं, खाते जोड़ने के बाद देर से सक्रिय होती हैं और हर चिंताजनक स्थिति का पता नहीं लगा सकतीं।

संस्थान का किशोरों के लिए ChatGPT जोखिम आकलन7 अक्टूबर को अपडेट हुआ। इसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए उत्पाद को “अस्वीकार्य जोखिम” बताया गया और OpenAI से किशोरों के बीच इसका प्रचार बंद करने का आग्रह किया गया। यह संस्थान का अपने मूल्यांकन ढाँचे के अनुसार निर्णय है। इसके प्रमाण खास खाता सेटिंग्स पर किए गए स्क्रिप्टेड परीक्षणों से आए, न कि रोजमर्रा में ChatGPT इस्तेमाल करने वाले किशोरों के बीच घटनाओं की गिनती से।

बड़ा बदलाव

  • क्या बदला:एक स्वतंत्र आकलन में अब OpenAI के किशोर सुरक्षा अलर्ट और पढ़ाई के नियंत्रणों को दस्तावेज़ित स्क्रिप्टेड परीक्षणों से परखा गया। हाल ही में जोड़े गए परीक्षण खातों को स्पष्ट संकट-संवादों के दौरान कोई अलर्ट नहीं मिला; OpenAI का कहना है कि कुछ परीक्षण अलर्ट पूरी तरह सक्रिय होने से पहले हुए होंगे।
  • यह क्यों मायने रखता है:माता-पिता सीमित सुरक्षा सूचनाएँ पाने के लिए खाते जोड़ सकते हैं। OpenAI कहता है कि ये अलर्ट वास्तविक समय की निगरानी नहीं हैं और कुछ चिंताएँ छूट सकती हैं; इसलिए परिवार इन्हें तुरंत चेतावनी देने वाली व्यवस्था नहीं मान सकते। Study Hours योग्य नई बातचीत को Study mode में शुरू करता है, लेकिन पहुँच सीमित नहीं करता।
  • आगे क्या देखना है:अलर्ट पर विवाद उनके सक्रिय होने के समय को लेकर है। कुछ परीक्षण खाते OpenAI के बताए तीन घंटे से अधिक समय से जुड़े थे, फिर भी इस विशेष परीक्षण में किसी खाते को अलर्ट नहीं मिला। यानी कम से कम कुछ खातों को उस अवधि के बाद भी अलर्ट नहीं मिला। रिपोर्ट में उस उपसमूह के खातों की संख्या या हर खाते का समय नहीं दिया गया है, इसलिए कुल परिणाम पर देरी के संभावित असर को मापा नहीं जा सकता।

परीक्षकों ने क्या किया

संस्थान के अनुसार, दो अवधियों में 4,000 से अधिक प्रॉम्प्ट इस्तेमाल किए गए। लॉन्च से पहले के परीक्षण 13 जुलाई से 17 अगस्त 2026 तक हुए, जब ChatGPT for Teens की घोषणा नहीं हुई थी। लॉन्च के बाद के परीक्षण 25 अगस्त से 28 सितंबर तक अन्य मुफ़्त और सशुल्क खातों पर किए गए, जिन्हें परीक्षकों के अनुसार किशोर अनुभव मिला था। सेटिंग्स में अभिभावक से जुड़े और बिना जुड़े किशोर खाते शामिल थे; उपयोगकर्ताओं की बताई उम्र 13 से 17 वर्ष थी। उम्र का अनुमान जाँचने के लिए पंजीकरण आयु 19 वर्ष वाले खातों का भी परीक्षण किया गया।

अलर्ट का सबसे सीधा परीक्षण मुफ़्त योजना वाले एक दर्जन से अधिक नए किशोर खातों पर किया गया; बातचीत शुरू होने से पहले हर खाते को अभिभावक खाते से जोड़ा गया था। परीक्षकों ने संकट की चार स्क्रिप्टेड भूमिकाएँ अपनाईं और पाँच मिनट से कम से लेकर एक घंटे तक बातचीत की। पूरी रिपोर्ट के अनुसार पूरे आकलन की PDFमें हर बातचीत में आत्महत्या, खुद को नुकसान पहुँचाने या खान-पान संबंधी विकार का स्पष्ट उल्लेख था। संस्थान का कहना है कि इनमें से किसी खाते ने माता-पिता के लिए सूचना नहीं भेजी।

मानसिक स्वास्थ्य के एक अलग, लंबे परीक्षण का नतीजा अलग था। संस्थान ने कई हफ्तों से इस्तेमाल हो रहे खातों पर लॉन्च से पहले और बाद में संकट-संबंधी परीक्षण किए और कुल चार सूचनाएँ मिलीं। इनमें से दो लॉन्च के बाद के एक खाते से आईं, जो अभिभावक से जुड़ा था और उम्र 13 वर्ष पर सेट था; कई परिस्थितियों में सैकड़ों प्रॉम्प्ट के बाद संबंधित विषय जाँचने के एक घंटे के भीतर दोनों सूचनाएँ पहुँचीं। नए और लंबे समय से इस्तेमाल हो रहे खातों के अंतर से संस्थान ने अनुमान लगाया कि अलर्ट शायद संकट-विषयों के संचित इतिहास पर निर्भर हों। ये परीक्षण आंतरिक ट्रिगर नियम साबित नहीं करते।

सक्रिय होने के समय पर विवाद

OpenAI ने संस्थान को बताया कि जुड़े खातों को सुरक्षा सूचनाएँ मिलने में करीब तीन घंटे लग सकते हैं। Los Angeles Timesकी रिपोर्ट में उद्धृत एक बयान में OpenAI ने कहा कि अधिकांश अलर्ट परीक्षण शायद अभिभावकीय नियंत्रण पूरी तरह सक्रिय होने से पहले शुरू और समाप्त हुए। Axios ने भी OpenAI की आपत्ति की खबर दी। संस्थान के अनुसार, हाल ही में जोड़े गए एक दर्जन से अधिक खातों में कुछ तीन घंटे से कम और कुछ उससे अधिक समय से जुड़े थे। इन खातों में से किसी को अलर्ट न मिलने के निष्कर्ष के साथ देखें तो कम से कम कुछ परीक्षण खातों को OpenAI की बताई सक्रियता अवधि के बाद भी अलर्ट नहीं मिला। रिपोर्ट में उस उपसमूह की संख्या या खाता-वार समय नहीं है, इसलिए यह नहीं बताया जा सकता कि देरी शून्य अलर्ट के कुल नतीजे को कितना समझा सकती है।

OpenAI की अभिभावकीय नियंत्रण मार्गदर्शिका कहती है कि जुड़े खातों पर सुरक्षा सूचनाएँ डिफ़ॉल्ट रूप से चालू रहती हैं, लेकिन उपलब्ध होने में कुछ घंटे लग सकते हैं। खुद को नुकसान पहुँचाने और खान-पान संबंधी विकारों की गंभीर चिंताओं को सूचना भेजने से पहले प्रशिक्षित समीक्षक परखते हैं। माता-पिता चैट नहीं पढ़ सकते और गतिविधि को वास्तविक समय में नहीं देख सकते; OpenAI कहता है कि अलर्ट हर चिंता पहचान नहीं सकते और पेशेवर देखभाल या आपातकालीन सेवाओं का विकल्प नहीं हैं। खाते जुड़े न हों तो माता-पिता को ये सूचनाएँ नहीं मिलतीं।

संकट संसाधन और पढ़ाई की सेटिंग

संस्थान ने यह भी मापा कि ChatGPT ने परीक्षण खातों को क्या बताया। बाल और किशोर मनोचिकित्सा के तीन विशेषज्ञों ने 390 अलग-अलग मानसिक स्वास्थ्य प्रॉम्प्ट में से 201 को पहले ही ऐसा चिह्नित किया था जिनमें संकट संसाधन देना चाहिए। 13 वर्ष की आयु पर सेट जुड़े खातों में इन्हीं 201 प्रॉम्प्ट के लॉन्च-पश्चात जवाबों में 74% ने हेल्पलाइन, नामित विशेषज्ञ या सामान्य चिकित्सा संसाधन दिया; लॉन्च से पहले यह 77% था। बाद के जवाबों में 23% ने हेल्पलाइन का उल्लेख किया, जबकि पहले यह 33% था; भरोसेमंद वयस्क से बात करने के प्रोत्साहन 87% से बढ़कर 94% हुए। संस्थान के नैदानिक समीक्षकों ने लॉन्च के बाद के अधिकांश संकट-जवाबों को उचित माना। ये जाँची गई परिस्थितियों में प्रति प्रॉम्प्ट परिणाम हैं, किशोर उपयोगकर्ताओं में नुकसान या सहायता न मिलने की दरें नहीं।

आकलन में अभिभावकों द्वारा तय Study Hours के दौरान Study mode से बाहर निकलने के तरीके भी मिले। OpenAI ने Axios से कहा कि यह लचीलापन जानबूझकर रखा गया है। उसकी मौजूदा सहायता मार्गदर्शिका Study Hours के बारे में कहती है कि यह ऐसा शेड्यूल है जो योग्य नई बातचीत को Study mode में शुरू करता है और ChatGPT तक पहुँच नहीं रोकता। समय के हिसाब से पहुँच सीमित करने वाले माता-पिता के लिए अलग Quiet Hours नियंत्रण है। OpenAI की किशोरों के लिए ChatGPT मार्गदर्शिका के अनुसार, योग्य और 18 वर्ष से कम पहचाने गए खाते अपने आप किशोर अनुभव में चले जाते हैं, जबकि अभिभावकीय नियंत्रण वैकल्पिक हैं।

संस्थान ने अमेरिका के San Francisco Bay Area के खातों पर परीक्षण किया। इसमें तस्वीर बनाना, आवाज़, समूह चैट या शैली और लहजे का निजीकरण नहीं परखा गया और समीक्षकों के बीच सहमति भी नहीं मापी गई। चूँकि लॉन्च से पहले और बाद के परीक्षण लगातार हुए, इसलिए आधारभूत मॉडल में बदलाव किशोर मोड से जोड़े गए अंतर को प्रभावित कर सकते हैं। BIG CHANGE ने प्रकाशित आकलन, PDF, OpenAI दस्तावेज़ और स्वतंत्र रिपोर्टिंग की समीक्षा की; हमने प्रॉम्प्ट सेट नहीं चलाया और न किशोरों या अभिभावकों के खाते परखे।

स्रोत और आगे पढ़ें