Ayon sa Youth AI Safety Institute, walang natanggap na alerto ang mga bagong i-link na test account ng kabataan para sa mga magulang habang may mga isinulat na usapan tungkol sa pagpapakamatay, pananakit sa sarili, at mga karamdaman sa pagkain. Kinukuwestiyon ng OpenAI kung nagbigay ng sapat na oras ang mga pagsubok para maging aktibo ang mga alerto. Mahalaga ang hindi pagkakasundo dahil inilalarawan mismo ng kompanya ang mga abiso bilang limitado, nahuhuli pagkatapos i-link ang account, at hindi nakakakita sa bawat nakababahalang sitwasyon.

Ang pagtatasa sa panganib ng ChatGPT para sa kabataanng Institute, na binago noong Oktubre 7, ay nagbigay sa produkto ng markang “Hindi Katanggap-tanggap na Panganib” para sa mga wala pang 18 taong gulang at nanawagan sa OpenAI na ihinto ang pagmemerkado nito sa mga kabataan. Hatol ito ng Institute batay sa sarili nitong balangkas ng pagmamarka. Nagmula ang ebidensiya sa mga isinulat na pagsubok sa partikular na mga setting ng account, hindi sa bilang ng mga insidenteng naranasan ng mga kabataang gumagamit ng ChatGPT sa araw-araw.

Ang malaking pagbabago

  • Ano ang nagbago:Sinusubok na ngayon ng isang independiyenteng pagtatasa ang mga alerto sa kaligtasan at kontrol sa pag-aaral ng OpenAI para sa kabataan sa pamamagitan ng mga dokumentadong pagsubok na may iskrip. Walang natanggap na alerto ang mga bagong i-link na test account habang may tahasang usapan tungkol sa krisis; ayon sa OpenAI, maaaring nagsimula ang ilang pagsubok bago ganap na na-activate ang mga alerto.
  • Bakit mahalaga:Maaaring i-link ng mga magulang ang kanilang account para makatanggap ng limitadong mga abiso sa kaligtasan. Ayon sa OpenAI, hindi real-time na pagsubaybay ang mga alerto at maaari nitong hindi mapansin ang mga alalahanin, kaya hindi ito dapat ituring ng mga pamilya na agarang sistema ng babala. Sinisimulan ng Study Hours ang mga karapat-dapat na bagong usapan sa Study mode, pero hindi nito nililimitahan ang access.
  • Ano ang dapat bantayan:Nakasentro sa oras ng pag-activate ang pagtatalo tungkol sa mga alerto. May ilang test account na naka-link nang mas matagal kaysa sa tatlong oras na binanggit ng OpenAI, ngunit walang nakatanggap ng alerto sa partikular na pagsubok na ito. Kaya may ilang account man lang na hindi nakatanggap ng alerto kahit lumampas na sa naturang pagitan. Hindi inilalahad ng ulat ang bilang ng mga account sa grupong iyon o ang oras ng bawat account, kaya hindi masukat ang posibleng epekto ng pagkaantala sa kabuuang resulta.

Ano ang sinubok ng mga tester

Iniulat ng Institute na gumamit ito ng mahigit 4,000 prompt sa dalawang panahon. Isinagawa ang mga pagsubok bago ang paglulunsad mula Hulyo 13 hanggang Agosto 17, 2026, bago ipahayag ang ChatGPT for Teens. Isinagawa naman ang mga pagsubok pagkatapos ng paglulunsad mula Agosto 25 hanggang Setyembre 28 sa iba pang libre at bayad na account na, ayon sa mga tester, ay nakatanggap ng karanasang pangkabataan. Kabilang sa mga setting ang account ng kabataang naka-link at hindi naka-link sa magulang; 13 hanggang 17 taong gulang ang idineklarang edad ng mga gumagamit. Sinubok din ng Institute ang mga account na may edad 19 sa pagpaparehistro para suriin ang pagtatantiya ng edad.

Gumamit ang pinakadirektang pagsubok sa alerto ng mahigit isang dosenang bagong libreng account para sa kabataan; bawat isa ay na-link sa account ng magulang bago nagsimula ang usapan. Gumamit ang mga tester ng apat na isinulat na katauhan sa krisis at nagsagawa ng mga usapang wala pang limang minuto hanggang isang oras. Ayon sa kumpletong PDF ng pagtatasa, tahasang binanggit sa bawat usapan ang pagpapakamatay, pananakit sa sarili, o karamdaman sa pagkain. Ayon sa Institute, wala sa mga account na iyon ang nagpadala ng abiso sa magulang.

Iba ang naging resulta ng hiwalay at mas mahabang pagsubok sa kalusugang pangkaisipan. Nagsagawa ang Institute ng mga pagsubok sa krisis bago at pagkatapos ng paglulunsad sa mga account na ilang linggo nang ginagamit at nakatanggap ito ng apat na abiso sa kabuuan. Dalawa ang nagmula sa isang account pagkatapos ng paglulunsad na naka-link sa magulang at itinakda sa edad na 13; dumating ang dalawa sa loob ng isang oras matapos subukin ang kaugnay na paksa, kasunod ng daan-daang prompt sa iba’t ibang kondisyon. Dahil sa pagkakaiba ng bago at matagal nang ginagamit na account, ipinagpalagay ng Institute na maaaring nakabatay ang mga alerto sa naipong kasaysayan ng mga paksa sa krisis. Hindi napapatunayan ng mga pagsubok na ito ang panloob na tuntunin sa pag-trigger.

Hindi pagkakasundo sa oras ng pag-activate

Sinabi ng OpenAI sa Institute na maaaring abutin ng humigit-kumulang tatlong oras bago makatanggap ng mga abiso sa kaligtasan ang mga naka-link na account. Sa pahayag na iniulat ng Los Angeles Times, sinabi ng OpenAI na maaaring nagsimula at natapos ang karamihan ng mga pagsubok sa alerto bago ganap na na-activate ang mga kontrol ng magulang. Iniulat din ng Axios ang pagtutol ng OpenAI. Sinabi ng Institute na may ilang bagong i-link na account sa mahigit isang dosena na wala pang tatlong oras na naka-link, samantalang mas matagal naman ang iba. Kung isasama ito sa natuklasang walang natanggap na alerto sa mga account na iyon, nangangahulugan itong may ilang nasubok na account man lang na hindi nakatanggap ng alerto kahit lumampas na sa panahong sinabi ng OpenAI para sa pag-activate. Hindi ibinibigay ng ulat ang bilang ng naturang grupo o ang oras ng bawat account, kaya hindi nito matukoy kung gaano kalaki ang maipaliliwanag ng pagkaantala sa kabuuang kawalan ng alerto.

Sinasabi ng gabay ng OpenAI sa mga kontrol ng magulang na naka-on bilang default ang mga abiso sa kaligtasan para sa naka-link na account, ngunit maaaring abutin ng ilang oras bago maging available. Sinusuri muna ng mga sinanay na tagasuri ang malulubhang alalahanin tungkol sa pananakit sa sarili at mga karamdaman sa pagkain bago ipadala ang mga abiso. Hindi mababasa ng mga magulang ang mga chat o masusubaybayan ang aktibidad nang real time; ayon sa OpenAI, maaaring hindi matukoy ng mga alerto ang lahat ng alalahanin at hindi kapalit ng propesyonal na pangangalaga o serbisyong pang-emergency. Kung walang naka-link na account, hindi matatanggap ng mga magulang ang mga abisong ito.

Mga mapagkukunan sa krisis at setting sa pag-aaral

Sinukat din ng Institute kung ano ang sinabi ng ChatGPT sa mga test account nito. Paunang minarkahan ng tatlong psychiatrist para sa bata at kabataan ang 201 sa 390 natatanging prompt tungkol sa kalusugang pangkaisipan bilang mga nangangailangan ng mapagkukunan sa krisis. Sa parehong 201 prompt sa mga naka-link na account na itinakda sa edad na 13, nagbigay ang 74% ng mga tugon pagkatapos ng paglulunsad ng hotline, pinangalanang propesyonal, o pangkalahatang mapagkukunang medikal, kumpara sa 77% bago ang paglulunsad. Bumanggit ng hotline ang 23% ng mga tugon pagkatapos ng paglulunsad, mas mababa sa dating 33%; tumaas mula 87% tungo sa 94% ang mga tugong humimok na lumapit sa mapagkakatiwalaang nakatatanda. Itinuring ng mga klinikal na tagasuri ng Institute na angkop ang karamihan ng mga tugon sa krisis pagkatapos ng paglulunsad. Mga resulta ito bawat prompt sa sinubok na mga kondisyon, hindi mga antas ng pinsala o kawalan ng tulong sa mga kabataang gumagamit.

Nakakita rin ang pagtatasa ng mga paraan para lumabas sa Study mode habang naka-iskedyul ang Study Hours ng magulang. Sinabi ng OpenAI sa Axios na sinadya ang ganitong kakayahang umangkop. Inilalarawan ng kasalukuyang gabay nito para sa Study Hours bilang iskedyul na nagsisimula ng mga karapat-dapat na bagong usapan sa Study mode at hindi humahadlang sa access sa ChatGPT. May hiwalay na kontrol na Quiet Hours para sa mga magulang na gustong magtakda ng oras ng access. Sinasabi ng gabay ng OpenAI tungkol sa ChatGPT for Teens na awtomatikong pumapasok sa karanasang pangkabataan ang mga karapat-dapat na account na natukoy na wala pang 18 taong gulang; opsyonal naman ang mga kontrol ng magulang.

Sinubok ng Institute ang mga account sa San Francisco Bay Area sa Estados Unidos. Hindi nito sinubok ang pagbuo ng larawan, boses, panggrupong chat, o pag-personalize ng estilo at tono, at hindi nito kinalkula ang pagkakasundo ng mga tagasuri. Dahil magkasunod ang mga panahon ng pagsubok bago at pagkatapos ng paglulunsad, maaaring nakaapekto ang mga pagbabago sa pinagbabatayang modelo sa mga pagkakaibang iniugnay sa teen mode. Sinuri ng BIG CHANGE ang inilathalang pagtatasa, PDF, mga dokumento ng OpenAI, at independiyenteng pag-uulat; hindi namin pinatakbo ang hanay ng mga prompt o sinubok ang mga account ng kabataan o magulang.

Mga sanggunian at karagdagang babasahin