ఆత్మహత్య, స్వీయహాని, తినే అలవాట్ల రుగ్మతల గురించి రూపొందించిన సంభాషణల సమయంలో కొత్తగా లింక్ చేసిన కిశోరుల పరీక్ష ఖాతాలకు తల్లిదండ్రుల హెచ్చరికలు అందలేదని Youth AI Safety Institute తెలిపింది. హెచ్చరికలు సక్రియం కావడానికి ఆ పరీక్షలు తగినంత సమయం ఇచ్చాయా అనే విషయంలో OpenAI అభ్యంతరం తెలిపింది. ఈ విభేదం ముఖ్యం, ఎందుకంటే నోటిఫికేషన్లు పరిమితమైనవని, ఖాతా లింక్ చేసిన తర్వాత ఆలస్యంగా ప్రారంభమవుతాయని, ఆందోళనకరమైన ప్రతి పరిస్థితినీ గుర్తించలేవని కంపెనీ స్వయంగా చెబుతోంది.

సంస్థ నివేదికలోని ChatGPT కిశోరుల ప్రమాద అంచనానునవీకరించి, 18 ఏళ్లలోపు వినియోగదారులకు ఈ ఉత్పత్తిని “ఆమోదయోగ్యం కాని ప్రమాదం”గా రేట్ చేసింది; కిశోరులకు దీన్ని ప్రోత్సహించడం ఆపాలని OpenAIని కోరింది. సంస్థ తన స్వంత రేటింగ్ విధానాన్ని అనుసరించి చేసిన నిర్ణయం ఇది. దానికి ఆధారం నిర్దిష్ట ఖాతా సెట్టింగ్‌లతో నిర్వహించిన స్క్రిప్ట్ పరీక్షలు; కిశోరులు రోజువారీ ChatGPT వినియోగంలో ఎదుర్కొన్న ఘటనల కొలత కాదు.

పెద్ద మార్పు

  • ఏం మారింది:స్వతంత్ర అంచనా ఇప్పుడు OpenAI కిశోరుల భద్రతా హెచ్చరికలు, చదువుకు సంబంధించిన నియంత్రణలను పత్రబద్ధమైన స్క్రిప్ట్ పరీక్షలతో పరిశీలించింది. కొత్తగా లింక్ చేసిన పరీక్ష ఖాతాలకు స్పష్టమైన సంక్షోభ సంభాషణల సమయంలో హెచ్చరికలు అందలేదు; హెచ్చరికలు పూర్తిగా సక్రియం కాకముందే కొన్ని పరీక్షలు ప్రారంభమై ఉండవచ్చని OpenAI చెబుతోంది.
  • ఇది ఎందుకు ముఖ్యం:పరిమిత భద్రతా నోటిఫికేషన్ల కోసం తల్లిదండ్రులు ఖాతాలను లింక్ చేయవచ్చు. ఈ హెచ్చరికలు ప్రత్యక్ష పర్యవేక్షణ కావని, కొన్ని ఆందోళనలను గుర్తించకపోవచ్చని OpenAI చెబుతోంది; కాబట్టి కుటుంబాలు వాటిని తక్షణ హెచ్చరిక వ్యవస్థగా భావించకూడదు. Study Hours అర్హత ఉన్న కొత్త సంభాషణలను Study modeలో ప్రారంభిస్తుంది, కానీ వినియోగాన్ని పరిమితం చేయదు.
  • తర్వాత గమనించాల్సింది:హెచ్చరికల వివాదంలో కీలక అంశం అవి సక్రియం కావడానికి పట్టే సమయం. కొన్ని పరీక్ష ఖాతాలు OpenAI చెప్పిన మూడు గంటలకంటే ఎక్కువసేపు లింక్ అయి ఉన్నప్పటికీ, ఈ ప్రత్యేక పరీక్షలో ఏ ఖాతాకూ హెచ్చరిక రాలేదు. అంటే ఆ వ్యవధి దాటిన తర్వాత కూడా కనీసం కొన్ని ఖాతాలకు హెచ్చరికలు అందలేదు. ఆ ఉపసమూహంలో ఎన్ని ఖాతాలున్నాయో లేదా ప్రతి ఖాతా ఎప్పుడు లింక్ అయిందో నివేదిక చెప్పదు; అందువల్ల ఆలస్యం మొత్తం ఫలితాన్ని ఎంతవరకు ప్రభావితం చేసేదో కొలవలేం.

పరీక్షకులు ఏం పరీక్షించారు

రెండు కాల వ్యవధుల్లో కలిపి 4,000కు పైగా ప్రాంప్ట్‌లను ఉపయోగించినట్లు సంస్థ తెలిపింది. ChatGPT for Teens ప్రకటించకముందు, జూలై 13 నుంచి ఆగస్టు 17, 2026 వరకు ప్రారంభానికి ముందరి పరీక్షలు జరిగాయి. ప్రారంభం తర్వాతి పరీక్షలు ఆగస్టు 25 నుంచి సెప్టెంబర్ 28 వరకు జరిగాయి; పరీక్షకుల ప్రకారం కిశోరుల అనుభవం అందిన ఇతర ఉచిత, చెల్లింపు ఖాతాలను అవి ఉపయోగించాయి. లింక్ చేసిన, చేయని కిశోరుల ఖాతాలు ఇందులో ఉన్నాయి; వినియోగదారులు తమ వయసును 13 నుంచి 17 ఏళ్లుగా పేర్కొన్నారు. వయసు అంచనాను పరిశీలించేందుకు నమోదు వయసు 19గా ఉన్న ఖాతాలనూ సంస్థ పరీక్షించింది.

అత్యంత ప్రత్యక్ష హెచ్చరిక పరీక్ష కోసం డజనుకు పైగా కొత్త ఉచిత-ప్లాన్ కిశోరుల ఖాతాలను ఉపయోగించారు; సంభాషణ ప్రారంభానికి ముందే ప్రతిదాన్నీ తల్లిదండ్రుల ఖాతాతో లింక్ చేశారు. పరీక్షకులు నాలుగు స్క్రిప్ట్ సంక్షోభ పాత్రలను ఉపయోగించారు; సంభాషణలు ఐదు నిమిషాలకంటే తక్కువ నుంచి గంట వరకు సాగాయి. నివేదిక ప్రకారం పూర్తి అంచనా PDFప్రకారం, ప్రతి సంభాషణలో ఆత్మహత్య, స్వీయహాని లేదా తినే అలవాట్ల రుగ్మత గురించి స్పష్టంగా ప్రస్తావించారు. ఈ ఖాతాల్లో ఏదీ తల్లిదండ్రులకు నోటిఫికేషన్ పంపలేదని సంస్థ తెలిపింది.

దీర్ఘకాలిక మానసిక ఆరోగ్య పరీక్షలో వేరే ఫలితం వచ్చింది. వారాలుగా ఉపయోగిస్తున్న ఖాతాల్లో ప్రారంభానికి ముందు, తర్వాత సంక్షోభ సంభాషణలను సంస్థ పరీక్షించి మొత్తం నాలుగు నోటిఫికేషన్లు పొందింది. వాటిలో రెండు ప్రారంభం తర్వాతి ఒక ఖాతా నుంచి వచ్చాయి; అది తల్లిదండ్రులతో లింక్ చేసి, వయసు 13గా అమర్చారు. పలు పరిస్థితుల్లో వందల ప్రాంప్ట్‌లు ఇచ్చిన తర్వాత, సంబంధిత అంశాలను పరీక్షించిన గంటలోపే ఆ రెండు నోటిఫికేషన్లు వచ్చాయి. కొత్త, దీర్ఘకాలంగా వాడిన ఖాతాల మధ్య తేడా చూసి, సంక్షోభ అంశాల సమకూరిన చరిత్రపై హెచ్చరికలు ఆధారపడవచ్చని సంస్థ ఊహించింది. ఈ పరీక్షలు అంతర్గత ట్రిగ్గర్ నియమాలను నిరూపించలేవు.

సక్రియం కావడానికి పట్టే సమయంపై వివాదం

లింక్ చేసిన ఖాతాలకు భద్రతా నోటిఫికేషన్లు అందడానికి సుమారు మూడు గంటలు పట్టవచ్చని OpenAI సంస్థకు తెలిపింది. ఒక ప్రకటన గురించి Los Angeles Timesనివేదించిన వివరాల ప్రకారం, తల్లిదండ్రుల నియంత్రణలు పూర్తిగా సక్రియం కావడానికి ముందే చాలా హెచ్చరిక పరీక్షలు ప్రారంభమై ముగిసివుండవచ్చని OpenAI చెప్పింది. Axios కూడా నివేదించింది. కొత్తగా లింక్ చేసిన డజనుకు పైగా ఖాతాల్లో కొన్ని మూడు గంటలకంటే తక్కువ, మరికొన్ని మూడు గంటలకంటే ఎక్కువ సమయం లింక్ అయి ఉన్నాయని సంస్థ తెలిపింది. ఆ ఖాతాల్లో ఏదానికీ హెచ్చరిక రాలేదన్న ఫలితంతో కలిపి చూస్తే, OpenAI పేర్కొన్న సక్రియ సమయం దాటిన తర్వాత కూడా కనీసం కొన్ని పరీక్ష ఖాతాలకు హెచ్చరికలు అందలేదని తెలుస్తోంది. ఆ ఉపసమూహంలోని ఖాతాల సంఖ్యనో, వాటి లింక్ సమయాలనో నివేదిక ఇవ్వదు; కాబట్టి సున్నా హెచ్చరికల ఫలితాన్ని ఆలస్యం ఎంతవరకు వివరిస్తుందో చూపదు.

OpenAI తల్లిదండ్రుల నియంత్రణ మార్గదర్శకం లింక్ చేసిన ఖాతాలకు భద్రతా నోటిఫికేషన్లు ముందుగానే సక్రియంగా ఉంటాయని, కానీ అందుబాటులోకి రావడానికి కొన్ని గంటలు పట్టవచ్చని చెబుతోంది. స్వీయహాని, తినే అలవాట్ల రుగ్మతలపై తీవ్రమైన ఆందోళనలను నోటిఫికేషన్ పంపేముందు శిక్షణ పొందిన సమీక్షకులు పరిశీలిస్తారు. తల్లిదండ్రులు చాట్‌లను చదవలేరు లేదా కార్యకలాపాలను ప్రత్యక్షంగా పర్యవేక్షించలేరు; అన్ని ఆందోళనలను హెచ్చరికలు గుర్తించకపోవచ్చని, అవి వృత్తిపరమైన సంరక్షణకు లేదా అత్యవసర సేవలకు ప్రత్యామ్నాయం కావని OpenAI చెబుతోంది. ఖాతా లింక్ చేయకపోతే తల్లిదండ్రులకు ఈ నోటిఫికేషన్లు రావు.

సంక్షోభ వనరులు, చదువు సెట్టింగ్‌లు

పరీక్ష ఖాతాలకు ChatGPT ఇచ్చిన సమాధానాలనూ సంస్థ కొలిచింది. ముగ్గురు బాల, కిశోర మానసిక వైద్యులు 390 ప్రత్యేక మానసిక ఆరోగ్య ప్రాంప్ట్‌లలో 201కు సంక్షోభ వనరులు ఇవ్వాలని ముందుగానే గుర్తించారు. 13 ఏళ్లుగా సెట్ చేసిన లింక్ ఖాతాలో అదే 201 ప్రాంప్ట్‌లకు, ప్రారంభం తర్వాతి సమాధానాల్లో 74% హెల్ప్‌లైన్, పేరు పేర్కొన్న నిపుణుడు లేదా సాధారణ వైద్య వనరును అందించాయి; ప్రారంభానికి ముందు ఇది 77%. ప్రారంభం తర్వాతి సమాధానాల్లో 23% హెల్ప్‌లైన్‌ను ప్రస్తావించాయి, అంతకుముందు ఇది 33%. నమ్మకమైన పెద్దవారితో మాట్లాడాలని ప్రోత్సహించిన సమాధానాలు 87% నుంచి 94%కు పెరిగాయి. ప్రారంభం తర్వాతి సంక్షోభ సమాధానాల్లో ఎక్కువ భాగం సముచితమైనవని సంస్థ క్లినికల్ సమీక్షకులు అభిప్రాయపడ్డారు. ఇవి నిర్దిష్ట పరీక్ష పరిస్థితుల్లో ఒక్కో ప్రాంప్ట్‌కు లెక్కించిన ఫలితాలు; హాని పొందిన లేదా సహాయం అందని కిశోర వినియోగదారుల రేట్లు కావు.

తల్లిదండ్రులు నిర్ణయించిన Study Hours సమయంలో Study mode నుంచి బయటకు వెళ్లే మార్గాలనూ అంచనా గుర్తించింది. ఈ సౌలభ్యం ఉద్దేశపూర్వకమేనని OpenAI Axiosకు తెలిపింది. దాని ప్రస్తుత మార్గదర్శకం Study Hoursను అర్హత ఉన్న కొత్త సంభాషణలను Study modeలో ప్రారంభించే షెడ్యూల్‌గా వివరిస్తుంది; ChatGPT వాడకుండా వినియోగదారులను అది నిరోధించదని చెబుతుంది. వినియోగ సమయాన్ని పరిమితం చేయాలనుకునే తల్లిదండ్రులకు Quiet Hours అనే ప్రత్యేక నియంత్రణ ఉంది. అర్హత ఉన్న, 18 ఏళ్లలోపు వారని అంచనా వేసిన ఖాతాలు స్వయంచాలకంగా కిశోర అనుభవంలోకి వెళ్తాయని, తల్లిదండ్రుల నియంత్రణలు ఐచ్ఛికమని OpenAI కిశోరుల కోసం ChatGPT మార్గదర్శకం చెబుతోంది.

అమెరికాలోని శాన్ ఫ్రాన్సిస్కో బే ప్రాంత ఖాతాలను ఉపయోగించి సంస్థ పరీక్షించింది. చిత్రాల సృష్టి, వాయిస్, గ్రూప్ చాట్‌లు లేదా శైలి-స్వర వ్యక్తిగతీకరణను అది పరీక్షించలేదు; సమీక్షకుల మధ్య ఏకాభిప్రాయాన్నీ లెక్కించలేదు. ప్రారంభానికి ముందు, తర్వాతి కాలాలు వరుసగా జరిగాయి కాబట్టి, అంతర్లీన మోడల్‌లో మార్పులు కిశోర మోడ్‌కు ఆపాదించిన తేడాలపై ప్రభావం చూపి ఉండవచ్చు. BIG CHANGE ప్రచురిత అంచనా, PDF, OpenAI పత్రాలు, స్వతంత్ర వార్తా కథనాలను సమీక్షించింది; మేము ప్రాంప్ట్ సెట్‌ను అమలు చేయలేదు లేదా కిశోరులు, తల్లిదండ్రుల ఖాతాలను పరీక్షించలేదు.

మూలాలు, తదుపరి పఠనం