Inanunsiyo ng British Columbia noong Setyembre 21, 2026 ang demanda nito laban sa OpenAI, kasama ang Peace River South school board, matapos ang pamamaril sa paaralan sa Tumbler Ridge. Naghahabol ang lalawigan ng pananagutan para sa pagbangon ng komunidad at mas matibay na pananggalang. Inilalahad sa anunsiyo ang panig ng pamahalaan; hindi nito itinatatag ang pananagutan ng kumpanya. Pahayag ng lalawigan
Para sa mga mambabasang nagsisikap magsuri sa kaligtasan ng AI, mahalagang itanong kung paano pinangangasiwaan ng organisasyon ang impormasyong na-flag na nito. Maaaring tumukoy ang modelo ng kahina-hinalang nilalaman, pero kailangan pa ring magpasya ng mga nagpapatakbo ng serbisyo kung ano ang ibig sabihin nito, anong aksiyon ang makatarungan at sino ang may awtoridad na kumilos. Dapat suriin ang mga pasiyang iyon kasabay ng mga sagot ng modelo.
Ang malaking pagbabago
- Ano ang nagbago: Naghahabol ng danyos at pagbabago sa mga gawi ng OpenAI sa kaligtasan ang isang lalawigan at school board sa pamamagitan ng bagong kasong sibil.
- Bakit ito mahalaga: Nag-iiwan ng mabibigat na pasiya tungkol sa pagsusuri ng tao, pagpapatuloy ng akses at pagsisiwalat sa mga awtoridad ang pagtukoy sa kahina-hinalang gawain. Kailangan ng malinaw na mananagot at mapangangatwirang dahilan sa bawat isa.
- Ano ang dapat bantayan: Ebidensiya tungkol sa mga pasiyang iyon, kung paano tatratuhin ng korte ang mga paratang at kung kaya bang suriin ng iminungkahing pangangasiwa ang mga hindi natukoy na panganib habang pinoprotektahan ang mga tao laban sa di-makatarungang panghihimasok.
Ano ang itinatatag ng mga dokumento
Inihain sa pederal na korte sa Northern California ang kaso at inilista bilang mga nagsasakdal ang lalawigan at lupon ng School District No. 59; kabilang naman sa mga inakusahan sina Sam Altman at mga entidad ng OpenAI. Inaakusahan nito ang mga ito ng pagkukulang sa pagsangguni ng banta at kaligtasan ng produkto, at naghahabol ng danyos at utos ng korte. Sinasabi sa talababa 2 na hindi pa naibibigay ang mga chat log. Kaya kailangan ng ebidensiya ang mga paratang tungkol sa mga panloob na pasiya at posibilidad na naiwasan ang pangyayari; hindi hatol ng hukuman ang reklamong ito. Inihain na reklamo
Nagbibigay ng hiwalay at may-petsang sanggunian ang naunang salaysay ng OpenAI. Sa liham noong Pebrero 26 para sa ministro ng AI ng Canada, sinabi ng kumpanya na humantong ang awtomatikong pagtukoy at pagsusuri ng tao sa pagbabawal nito sa isang account noong Hunyo 2025. Ayon dito, hindi umabot noon sa hangganan nito para magsangguni sa tagapagpatupad ng batas ang magagamit na impormasyon. Sinabi sa liham na isinangguni sana ng pinatibay na protokol nito kalaunan ang account na iyon, at kinilala nitong nakakita ito ng ikalawang account matapos maging pampubliko ang pagkakakilanlan ng salarin. Mga pahayag ito ng kumpanya, hindi malayang napatunayang resulta tungkol sa bisa ng mga reporma nito. Liham noong Pebrero
Iniulat ng Reuters na muling pinagtibay ng OpenAI ang pangako nitong makipagtulungan sa mga awtoridad at ipagpatuloy ang gawaing pangkaligtasan. Reuters
Nauna sa bagong demanda ang salaysay noong Pebrero. Hindi ito dapat ipagkamali sa detalyadong tugon sa mga paratang ng kaso. Gayundin, hindi mapatutunayan ng pahayag na iba sana ang naging pasiya dahil sa mas huling protokol kung ano talaga ang mangyayari matapos ang pasiyang iyon. Kailangang suriin ang ebidensiyang magagamit noon at ang mga bunga ng mga pagpipiliang naroon para matasa ang pananagutan.
Magkakaibang tanong ang sinasagot ng pagtukoy, aksiyon sa account at pagsangguni
Inilalarawan sa pahayag ng OpenAI noong Abril 28 tungkol sa kaligtasan ng komunidad ang awtomatikong pagtukoy na sinusundan ng pagsusuri ng tao sa konteksto. Kabilang sa mga posibleng resulta ang pagbasura sa kaso, dagdag na pagsisiyasat at pagpapatupad ng tuntunin sa account. Inilalarawan din nito ang mga apela at hakbang laban sa mga paulit-ulit na account. Sinasabi sa pahina na ipinaaalam sa tagapagpatupad ng batas ang mga pag-uusap na nagpapahiwatig ng nalalapit at kapani-paniwalang panganib ng pinsala sa iba. Inilathalang proseso ito ng kumpanya, hindi patunay kung paano hinawakan ang isang partikular na kaso. Patakaran sa kaligtasan ng komunidad
Nakakatulong ang paghihiwalay sa mga hakbang para matukoy kung anong ebidensiya ang makatutulong. Sinasagot ng sistema ng pagtukoy ang tanong sa pagsasala: dapat bang bigyang-pansin ang materyal na ito? Hindi nito kayang pagpasyahan nang mag-isa ang paghatol tungkol sa isang tao. Dapat suriin ng tao ang konteksto at kawalang-katiyakan, at magkaroon ng sapat na oras at awtoridad para kuwestiyunin ang paunang pag-flag. Dapat itala kung bakit nagbago ang pagtatasa, pati kung kailan nabawasan ang pangamba sa una sanang seryosong pahiwatig matapos makakuha ng dagdag na impormasyon.
Tungkol sa akses sa serbisyo ang pagpapatupad ng tuntunin sa account. Hindi nalulutas ng pasiyang suspindihin ang akses kung dapat lumabas ng kumpanya ang impormasyon. Hindi rin nangangahulugang dapat ipagpatuloy ang akses ayon sa tuntunin ng serbisyo ang kawalan ng batayan para magsangguni sa panlabas na awtoridad. Nagkakaroon ng sariling ebidensiya at katwiran ang bawat pasiya kapag magkahiwalay ang mga ito.
Isaalang-alang ang kathang-isip na pagsusuri kung saan nagkasundo ang mga kawani na nilabag ng account ang tuntunin ng serbisyo pero hindi kung may kapani-paniwalang panganib sa labas. Ipakikita sa kapaki-pakinabang na talaan ang hindi pagkakasundo, kung sino ang lumutas dito at ang ginamit na pangangatwiran. Itatago ng iisang label na “may aksiyon” ang karamihan sa kailangang makita ng auditor.
Nagsasangkot ng isa pang institusyon ang pagsangguni, na may sarili nitong awtoridad at mga responsibilidad. Dapat maipaliwanag ng kumpanya kung anong impormasyon ang ibinahagi nito, bakit makatarungan ang pagsisiwalat at paano nito tiniyak na natanggap ito ng angkop na tatanggap. Hindi magagarantiya ng pagpapadala ng impormasyon ang partikular na tugon o pagpigil sa partikular na resulta. Dapat malinaw ang mga limitasyong ito sa pagsusuri ng paglilipat ng impormasyon.
Maaaring hindi matugunan ng pagpapahusay sa isang hakbang ang ibang problema. Kaunti ang magagawa ng mas mahusay na pagsasala kung walang naaatasang humawak sa agarang pagsusuri o hindi matawagan ng mga tagasuri ang taong may kapangyarihang mag-apruba ng aksiyon. Kailangan ng katumbas na pagbabago sa paraan ng pagkilos ng mga kawani kasabay ng pagbabago sa patakaran.
Kailangan ng akses sa mga pasiya at bunga nito para makapag-audit
Hinihiling sa reklamo ang mga kontrol sa kaligtasan na maaaring i-audit at kada tatlong buwang pagsusuri ng pagsunod ng independiyenteng tagasubaybay. Mungkahing lunas ang mga ito, hindi mga pagbabagong iniutos ng korte. Iminungkahing lunas, pahina 38
May naitatag nang batayan sa pamamahala para suriin ang paggawa ng pasiya. Hinihiling sa boluntaryong 2023 AI Risk Management Framework ng NIST ang nakadokumentong mga responsibilidad at komunikasyon, pananagutan ng mga ehekutibo sa mga pasiya tungkol sa panganib at malinaw na papel ng pangangasiwa ng tao. Kabilang sa mga probisyon nito sa pagsukat ang pagtatasa ng mga taong hindi kabilang sa pang-araw-araw na pagbuo at pagsusuri kung nananatiling mabisa ang mga kontrol. Gabay ang framework, hindi hatol sa kasong ito o sertipikasyon ng anumang kumpanya. NIST AI RMF
Sa palagay namin, kailangang suriin ng mabisang audit ang landas mula sa paghiling ng pagsusuri hanggang sa pagresolba rito. Kabilang dito ang mga pagkaantala, hindi nalulutas na pagtatalo at kasong isinara nang walang aksiyon. Malalampasan ng pagsusuri sa mga natapos na pagsangguni lang ang mga pasiyang nagpapanatili ng impormasyon sa loob ng kumpanya. Magbibigay naman ng maling larawan ang pagsusuri lang sa mga pagkabigong natuklasan matapos magkaroon ng pinsala.
Kailangan ding pag-ibahin ng auditor ang mga tuntuning umiiral noon at mga sumunod na pagbabago. Kung hindi, maaaring magmukhang sumusunod ang kumpanya dahil lang naglathala ito ng bagong patakaran, nang hindi ipinakikitang naturuan ang kawani, naroon ang mga kinakailangang tool o sinuri ng sinuman kung gumana ang pagbabago. Hinihingi ng kapaki-pakinabang na follow-up ang ebidensiyang may petsa na nalutas ang natukoy na problema.
Maaaring maglantad ang mga natuklasan sa pagsusuri ng malabong tagubilin o kakulangan sa kawani na maitutuwid bago ang isa pang mahirap na kaso. Maaari ring patunayan ng mga ito na makatwiran ang pasiya ng kawani sa gitna ng kawalang-katiyakan. Mas kapani-paniwala ang pangangasiwa kapag maaari nitong marating ang alinmang konklusyon at maipaliwanag ang ebidensiya sa likod nito.
Nangangailangan ng praktikal na awtoridad ang kalayaan. Hindi mabubuo muli ng tagasuring piling halimbawa o pinagsama-samang bilang lang ang mga pinagtatalunang pasiya. Higit na mahalaga kaysa magarbong titulo ang akses sa kaugnay na tala, kakayahang mag-ulat ng hindi nalutas na alalahanin at malinaw na landas para sa pagwawasto. Kakailanganin din mismo ng mga kaayusang ito ng proteksiyon sa privacy at limitasyon sa paggamit ng sensitibong tala.
Maaaring lumikha ng ibang problema sa kaligtasan ang mas maraming pag-uulat
May malinaw na paraan para pagandahin ang bilang ang sistemang ginagantimpalaan sa mas maraming pagsangguni: magsangguni ng mas maraming tao. Maaari itong humantong sa di-kinakailangang pagsisiwalat at paglilihis ng pansin mula sa mas seryosong mga palatandaan. Aktibidad ang sinusukat ng dami ng pagsangguni; nangangailangan naman ng ebidensiya sa dahilan ng pagsangguni at mga natuklasang pagkakamali kalaunan ang pagsusuri sa kalidad ng mga ito.
Maaari ring magbigay ng mapanligaw na insentibo ang kabaligtarang target. Maaaring mangahulugan ang mababang porsiyento ng pagbawi sa pasiya ng tumpak na mga pasiya o kawalan ng kakayahan ng mga tao na mabisang kumuwestiyon sa mga ito. Maaaring itago ng maikling karaniwang oras ng pagsusuri ang iilang kasong lubhang naantala. Dapat itanong ng mga manager at panlabas na tagasuri kung ano ang hindi isinasama ng bawat sukatan bago ito ituring na ebidensiya ng kaligtasan.
Dapat maging bahagi ng pagtatasa ang privacy. Maaaring maglaman ang tala ng pagsusuri ng napakapersonal na impormasyon tungkol sa isang taong sa huli ay walang kaugnay na panganib. Hindi nagbibigay-katwiran ang pangangailangang magtago ng sapat na ebidensiya para suriin ang pasiya sa pagbibigay ng akses sa bawat kawani o pagpapanatili ng bawat nakapaligid na pag-uusap nang walang takdang panahon. Dapat tahasang tukuyin ang layunin ng tala, pahintulot sa akses at panahon ng pagtatago, at magtakda ng angkop na pag-iingat kung may legal na obligasyong panatilihin ito.
Iba ang pagpapaliwanag ng sistema sa publiko sa paglalantad ng tala ng isang tao. Makakatulong sa pagsisiyasat ng publiko ang pinagsama-samang impormasyon tungkol sa mga pagkaantala sa pagsusuri, mga itinamang pasiya at pagbabago sa patakaran. Maaaring limitahan sa mga awtorisadong tagasuri ang detalyadong akses. Kailangan pa ring mag-ingat sa pinagsama-samang pag-uulat kung maaaring matukoy ang isang tao mula sa maliliit na grupo o pambihirang pangyayari.
Nais din naming suriin ng pangangasiwa ang mga hindi pantay na pagkakamali. Kung iba ang pagtrato sa magkatulad na materyal sa iba’t ibang wika o konteksto, maaaring itago ng pangkalahatang bilang ng katumpakan ang problema. Mungkahing tanong ito sa pagsusuri, hindi pahayag na napatunayan ang gayong padron sa kasong ito.
Ano ang magiging hitsura ng kapani-paniwalang susunod na hakbang
Sa usapin ng paglilitis, dapat pag-ibahin ng mga mambabasa ang mga bagong paratang, ebidensiyang inilabas at mga pasiyang aktuwal na ginawa ng korte. Ipinakikita ng kahilingan para sa pananggalang kung ano ang nais ng nagsasakdal. Hiwalay na tanong kung makatarungan, sapat ang katiyakan o hinihingi ng batas ang hakbang na iyon.
Para sa industriya, makikita ang kapaki-pakinabang na pag-unlad sa mga pagbabagong may petsa sa mga pamamaraan, malinaw na pananagutan sa mahihirap na pasiya at ebidensiyang naipatutupad ang mga pagwawasto sa pang-araw-araw na operasyon. Dapat ipaliwanag ng mga kumpanya ang saklaw at limitasyon ng anumang malayang pagtatasa. Dapat suriin ng mga tagapagpatupad ng patakaran ang gastos ng sobrang panghihimasok kasabay ng mga bunga ng hindi pagkilos.
Pagkakataon ang gawing mas madaling siyasatin at iwasto ang gawaing pangkaligtasan. Nanganganib namang magdulot ang pampublikong presyur ng mas malawak na pagsubaybay o dagdag na papeles nang hindi nagpapahusay sa mga pasiya. Maaaring itanong ng mga mambabasa ang tiyak na tanong na ito sa bawat ipinangakong reporma: anong ebidensiya ang magpapakitang napapahusay nito ang paghatol, pati kapag makatarungang magpigil sa pagkilos?
