Kapag pribado ang mga tuklas ng AI lab, sino ang maaaring kumuwestiyon sa mga sagot?

Maaaring mag-anunsiyo ang isang kumpanya na nalutas ng AI nito ang mahirap na problema bago pa mahusgahan ng iba kung ano ang nakamit nito. Maaaring kulang ang patunay, paliwanag, akses sa sistema o panahong siyasatin ang gawain. Nagbibigay ng ibang anyo ng kapangyarihan sa kumpanya ang bawat kakulangang ito.

Iyan ang kapaki-pakinabang na tanong sa likod ng pinakahuling talakayan tungkol sa mga nakatagong tagumpay ng AI. Sa sanaysay noong Setyembre 15, iniulat ng computer scientist na si Scott Aaronson ang mga usap-usapan na ipinagpapaliban ng mga kumpanya ng AI ang mga solusyon sa mahahalagang problema sa teoretikal na computer science matapos ang tugon sa anunsiyo tungkol sa Navier–Stokes. Hindi niya inilathala ang mga solusyong iyon. Pinatutunayan ng salaysay niya na narinig niya ang pahayag, hindi na napatunayan ang mga di-pinangalanang resulta o ang sinasabing motibo sa pagpigil sa mga ito. Sanaysay ni Aaronson

May mas kongkretong pangyayari. Sinasabi ng independiyenteng Advisory Group on Mathematics and Artificial Intelligence na kasalukuyan itong nagpapayo sa OpenAI kung paano ilalabas ang mahahalagang resultang matematikal na ayon sa kumpanya ay nagawa na nito sa loob. Kinukumpirma nito ang proseso ng koordinasyon sa paglalabas ng gawaing iniulat ng kumpanya. Hindi nito pinatutunayan ang bawat resultang hindi pa nailalabas. Pahayag ng advisory group

Para sa mga mambabasa, pinipigilan ng pagkakaibang ito na maging imbentong talaan ng mga nalutas na problema ang isang kapana-panabik na posibilidad. Para sa agham, nagbubukas ito ng mas malaking usapin: kung maiipon sa mga pribadong sistema ang mga tuklas, gaano karaming kalayaan ang matitira sa iba?

Ang malaking pagbabago

• Ano ang nagbago: Mayroon na ngayong mga inilathalang patunay na likha ng AI kasabay ng mga resultang iniulat ng kumpanya at naghihintay ng koordinadong paglulunsad. Hindi pa napatutunayan ang mga pahayag tungkol sa iba pang nakatagong tagumpay.
• Bakit ito mahalaga: Maaaring maimpluwensiyahan ng mga laboratoryo kung aling tuklas ang makikita, kung kailan ito masusuri ng mga eksperto at kung sino ang makagagamit sa mga pamamaraan nito para sa susunod na gawain.
• Ano ang dapat bantayan: Kung nagbibigay ba ang mga kasunduan sa paglulunsad ng ebidensiyang magagamit ng mga tagalabas at kalayaang kumuwestiyon dito, habang sinusuportahan din ang kadalubhasaan ng tao na kailangan para pumili ng mga tanong sa pananaliksik, umunawa sa mga resulta at makinabang sa mga ito.

Maaaring ilantad sa publiko ang tagumpay habang nananatiling pribado ang kakayahang lumikha nito

Nagbibigay ng halimbawa ng piling pagiging bukas ang anunsiyo ng OpenAI tungkol sa Navier–Stokes noong Setyembre 8. Naglabas ang kumpanya ng nakasulat na argumento at mga pormal na file ng patunay, habang inilalarawan ang sistemang nakatuklas bilang panloob na modelong mas mahusay kaysa GPT-6 Astra. Magkaibang pasiya ang paglalathala ng resulta at pagbibigay ng akses sa sistemang gumawa nito. Anunsiyo ng OpenAI

Kailangan ding mag-ingat sa saklaw ng matematikang tinatalakay. Gumagamit ng makinis na panlabas na puwersa ang inihayag na konstruksyon. Tahasang pinahihintulutan ng opisyal na pahayag ng problema ng Clay ang puwersa sa mga alternatibong C at D ng pagkasira; ibang tanong naman ang mga alternatibong walang puwersa at may pandaigdigang kinis. Maaaring matugunan ng wastong konstruksyong may puwersa ang nakasaad na problemang pang-premyo habang hindi pa rin nalulutas ang tanong na walang puwersa. Opisyal na paglalarawan ng problema

Noong Setyembre 11, tinanggap ng Clay ang tila paglutas habang pinananatiling mahinahon ang proseso ng pagsusuri at pagkilala. Tugon ito ng institusyon sa anunsiyo, hindi paggagawad ng premyo. Tugon ng Clay

Sinuri namin ang mas malawak na serye ng matematikang ito sa aming gabay mula sa unit distance hanggang Navier–Stokes. Dito, ang mahalagang pagkakaiba ay kung sino ang makagagawa ng ano pagkatapos ilabas ang resulta. Maaaring mapag-aralan ng matematikong tagalabas ang patunay pero wala siyang mapagkukunan o akses sa modelo para siyasatin sa gayon ding paraan ang kalapit na problema. Pinagsasaluhan ang tuklas; maaaring manatiling naiipon sa iilan ang paraang kailangan para sa susunod na tuklas.

Maaari pa ring maging mahalaga ang ganitong kaayusan. Mas mahirap gamitin ang maraming resulta kung kailangang ulitin ng bawat mananaliksik ang orihinal na paghahanap. Para masuri ang isang partikular na patunay, mahalaga ang akses sa kaugnay na ebidensiya, hindi kinakailangang pagmamay-ari ang lahat ng tool na ginamit sa pagtuklas dito. Pero hindi katumbas ng kapantay na impluwensiya ng mga tagalabas sa mga susunod na tanong ang kakayahang tiyakin ang inilathalang sagot.

Kailangan ng publiko ng paraan para hindi sumang-ayon

Magkahiwalay na tinutukoy ng pampublikong repositoryo ng OpenAI ang mga pahayag nito tungkol sa Navier–Stokes at Euler at nagbibigay ito ng mga tagubilin sa pagbuo at paraan para sa dagdag na pagsusuri ng patunay sa Comparator. Mga bagay itong maaaring siyasatin, hindi lang bidyo ng demonstrasyon. Binasa namin ang dokumentasyon; hindi namin binuo muli o pinatunayan nang hiwalay ang mga patunay. Repositoryo ng patunay

Ipinapaliwanag sa gabay ng Lean sa pagpapatunay kung bakit may tiyak na saklaw ang matagumpay na pagsusuri. Kailangang tingnan ng mga tagasuri ang kahulugan at mga palagay ng teorema, pati ang mga dependency nito. Maaaring ihambing ng mas mahigpit na pagsusuri ang isinumiteng patunay sa hiwalay na itinakdang pahayag at gumamit ng independiyenteng software sa pag-check. Binabawasan nito ang pag-asa sa gumawa, pero nananatili ang mga nakasaad na palagay tungkol sa mga tool at espesipikasyon. Gabay ng Lean sa pagpapatunay

Malaki ang pag-asang dulot nito: maaaring magsagawa ng magastos na paghahanap ang pribadong sistema at maglabas pagkatapos ng ebidensiyang kayang suriin ng iba nang hindi inuulit ang buong paghahanap. Maaaring maging pinagsasaluhang mapagkukunan ang mga tuklas na likha ng AI kahit iilang institusyon lang ang kayang lumikha ng mga iyon sa gayong laki.

Mas mahina ang bersiyon kung pribadong demonstrasyon lang ang ibinibigay ng laboratoryo sa piling eksperto at hinihiling sa iba na pagkatiwalaan ang pag-endorso nila. Maaaring makatuwirang paunang hakbang ito. Pero mas kaunti ang kakayahan ng publiko na tukuyin ang pinagtatalunang palagay, siyasatin ang pagwawasto o humanap ng di-inaasahang aplikasyon. Magkaiba ang akses sa konklusyon at akses sa batayan para hindi sumang-ayon.

Isaalang-alang ang isang orihinal na halimbawang kathang-isip. Pinag-aaralan ng pangkat sa unibersidad ang isang uri ng problema sa optimization. Pribadong nakahanap ang isang kumpanya ng paraang nagpapahusay sa isang mahalagang kaso. Maaari nitong ilabas ang pamamaraan at tumpak na garantiya, o magbigay ng serbisyong online na sumasagot habang inililihim ang pamamaraan.

Maaaring makatulong sa mga gumagamit ang dalawang opsiyon. Tanging ang una ang tiyak na nagbibigay sa unibersidad ng bagay na masisiyasat, maituturo at maiiaangkop nito nang hindi patuloy na inaakses ang serbisyo. Nagiging praktikal ang mga pagkakaibang ito kung babaguhin ng kumpanya ang mga tuntunin, aalisin ang modelo o titigil sa pagsuporta sa larangang iyon. Maaaring maging kapaki-pakinabang ang serbisyo habang lumalalim naman ang pagdepende rito ng pananaliksik.

Kaya hindi sapat na bilang lang ng tuklas ang sukatan ng pakinabang sa publiko. Maaaring palawakin ng isang release ang kaalaman ng mga tao, kakayahan nilang kumilos o pangangailangan nilang humingi ng pahintulot para kumilos. Minsan ay sabay na nagbabago ang mga resultang ito. Hindi palaging gayon.

Maaaring magpahusay sa agham ang paghinto, o magbigay sa iisang institusyon ng mas mahabang lamang

May mga makatwirang dahilan para iugnay ang paglulunsad sa malalaking resulta. Maaaring kailangan ng mga eksperto ng panahon para suriin ang pahayag, tukuyin ang naunang gawain at maghanda ng paliwanag. Makaiiwas sa pagbuo ng maraming tao sa isang pagkakamali ang pagwawasto bago ilathala. Nangangailangan din ng ebidensiya, hindi karera ng mga anunsiyo, ang alitan tungkol sa pagkilala.

Pero maaaring iba ang maging epekto ng gayon ding pagkaantala sa mga tagalabas. Isipin ang pangkat ng pananaliksik na pumipili ng susunod na proyekto nang hindi alam na inaangkin ng isang kumpanya na nalutas nito ang pangunahing haka-haka. Maaari silang gumugol ng ilang buwan sa dating tanong. Maaari namang bigyan ng lamang sa pagbuo ng mga kasunod na resulta ang piling katuwang na maagang nagkaroon ng akses. Mga posibleng bunga ito ng hindi pantay na impormasyon, hindi paratang tungkol sa partikular na di-pa-inilalabas na teorema.

Ang mahalagang tanong ay ano ang nagagawa ng pagkaantala at sino ang mananagot dito. Naiiba ang panahon ng pagsusuri na may tinukoy na pahayag, mga independiyenteng mambabasa at plano sa pagbabahagi ng resulta sa walang takdang paglilihim na may kasamang pahiwatig ng pambihirang kakayahan. Kailangan ng mga institusyon ng panahong magsuri ng gawain; kailangan naman ng audience ng dahilan para mapag-iba ang pagsusuri sa promosyon.

Nagbibigay ng isang daluyan ang bagong advisory group. Ayon dito, walang bayad ang mga miyembro, magiging pampubliko ang mga rekomendasyon at mananatili sa mga kumpanya ang kapangyarihang magpasya. Kapaki-pakinabang ang kalayaan nito, pero hindi ginagawang obligasyon ng payo ang paglalabas ng resulta ni nagbibigay ng akses sa mga mananaliksik. Kalayaan at pananagutan

Sa palagay namin, dapat makita ang tugon sa payo para maging mabunga ang kaayusan. Maaaring ipaliwanag ng kumpanya kung aling rekomendasyon ang tinanggap nito, ano pa ang sinusuri at paano maipaaabot ng mga tagasuri ang hindi pa nalulutas na alalahanin. Makapaghuhusga ang mga tagalabas sa proseso nang hindi kailangang maagang ipahayag na tiyak nang nalutas ang isang teorema.

Tinatanggap ng pinakamalakas na pagtutol na maaaring magtagumpay ang AI

Tahasang kinikilala ng deklarasyon noong Setyembre 11 na Matinding Hindi Pagkakatugma ng AI sa Matematika ang malaking pag-unlad sa kakayahan sa matematika. Tungkol sa mga insentibo ang pagtutol nito: maaaring mapabayaan ng paggamit sa mga bantog na problema bilang benchmark ang paglinang ng mga ideya, pagkilala sa ambag at pagsasanay na nagtuturo sa mga tao na bumuo ng bagong tanong. Kinikilala rin nito ang potensiyal ng AI na paunlarin ang pag-aaral ng matematika. Deklarasyon

Mas mahigpit na argumento ito kaysa sabihing walang matutuklasan ang makina. Itinatanong nito kung nag-o-optimize ba ang matagumpay na sistema para sa kaparehong resulta ng komunidad na tatanggap sa output nito. Maaaring makatwirang hangarin ng laboratoryo ang malinaw na pagpapakita ng kakayahan. Baka higit na pahalagahan ng mananaliksik ang paraang nagbubukas ng ilang bagong direksiyon, pati yaong masyadong malabo para akitin ang anunsiyo ng paglulunsad.

Walang awtomatikong dahilan para magkatugma ang mga interes na iyon. Hindi rin kailangang magkasalungat ang mga ito. Maaaring tustusan ng laboratoryo ang pagsisiyasat at pagpapaliwanag na magpapakinabang sa mga resulta nito. Maaaring kilalanin ng mga unibersidad ang gawaing nag-aangkop ng makapangyarihang bagong pamamaraan sa larangang hindi pinili ng laboratoryo. Maaaring maglaan ang mga publikasyong siyentipiko ng puwang sa paglilinaw at pagbubuo kasabay ng mga unang tuklas.

Dapat pa ring tumugon sa ebidensiya ang pamumuna. Dapat baguhin ng tama at mahalagang resulta ang pagtatasa sa kayang gawin ng isang sistema. Hindi ito mapapawalang-bisa dahil lamang hindi komportable ang pinagmulan nito. Gayundin, hindi sinasagot ng kahanga-hangang resulta ang tanong tungkol sa akses o pagkilala dahil lamang kahanga-hanga ito. Nagiging posible ang pagtanggap sa matematika at pagkuwestiyon sa mga kundisyon ng pagdating nito sa mundo kapag magkahiwalay ang mga paghatol na iyon.

Inilalarawan ng sanaysay ni Aaronson ang tensiyong ito: itinuturing niyang malaki ang pagbabagong hatid ng kamakailang pag-unlad, habang sinusuportahan ang pagsisikap na panatilihin ang pagkaunawa ng tao. Interpretasyon niya sa mga pangyayari, hindi napatunayang siyentipikong hangganan, ang paglalarawan niya na nagsisimula na ang isang singularity. Paninindigang inilahad niya

Tunay na interes kapwa ang mas mabilis na pagtuklas at makabuluhang gawain ng tao

Nauna pa sa mga anunsiyo noong Setyembre ang mas malawak na argumento. Sa sanaysay noong Disyembre 2025, pinag-iba ng mananaliksik sa AI na si Julian Togelius ang mga tool na tumutulong sa mga siyentipiko at ang automation na ginagawang kalabisan ang pakikilahok nila. Ipinagtanggol niya ang kalayaan ng tao na kumilos at pagkakataong mag-ambag, kahit sa kathang-isip na sitwasyong bibilis ang pag-unlad ng medisina dahil sa ganap na automation. Moral na paninindigan ito tungkol sa posibleng hinaharap, hindi ebidensiyang naging kalabisan na ang gawaing siyentipiko. Sanaysay ni Togelius

May seryosong kapalit ang pagtatanggol sa isang gawain dahil lamang nagugustuhan ito ng kasalukuyang mga gumagawa. Kung makababawas ng pagdurusa ang mas mahusay na pamamaraan, dapat timbangin ang interes ng mga makikinabang kasabay ng interes ng mga taong magbabago ang propesyon. Hindi dapat maging awtomatikong pagtanggi sa kapaki-pakinabang na tuklas ang pangakong magkakaroon ng makabuluhang trabaho.

Pero hindi kailangang mamili sa pagitan ng pangangalaga sa bawat kasalukuyang gawain at pagpapaalis sa mga tao mula sa agham. Sino ang pipili ng mga tanong, tutukoy sa napapabayaang pangangailangan, hahatol kung naaangkop ang ebidensiya at magpapasiya kung ano ang gagawin dito? May epekto sa publiko ang mga pasiyang iyon kahit maging mas mahusay pa ang mga makina sa maraming teknikal na bahagi ng trabaho. Usapin ito ng pamamahala pati ng propesyonal na identidad.

Nagbibigay ang sanaysay ni Dario Amodei noong Oktubre 2024 ng malawak at optimistikong pananaw sa pagpapabilis ng biyolohiya at pagpapabuti ng buhay sa tulong ng AI. Tinutukoy rin nito ang mga limitasyong may kinalaman sa mga eksperimento, datos at pisikal na mundo. Prediksiyon ang sanaysay na nakasalalay sa mga palagay tungkol sa makapangyarihang sistema sa hinaharap, hindi iskedyul na napatunayan ng isang tagumpay sa matematika. Machines of Loving Grace

Hindi pinatutunayan mismo ng patunay tungkol sa mga ekwasyon na may gumaganang lunas o mas murang sistema ng enerhiya. Nangangailangan ng dagdag na ebidensiya ang bawat aplikasyon. Makatuwiran pa ring pahalagahan ang posibilidad ng mas mabilis na pag-unlad: maaaring maging mahalaga bago pa maging awtonomo ang pananaliksik ang tulong na nagpapahinto sa mga mananaliksik sa di-mabungang direksiyon o tumutulong magdisenyo ng mas kapaki-pakinabang na eksperimento.

Bumabalik dito ang tanong kung paano ipamamahagi ang pakinabang. Maaaring matibay sa siyensiya ang isang pag-unlad, pero sa mga kayang magbayad lang ito makarating. Maaaring bumilis ang pananaliksik habang nakapokus sa mga problemang pinakamahalaga sa may-ari nito. Nakadepende sa mga pasiya tungkol sa pondo, akses at pag-deploy kung makikinabang dito ang mas malawak na publiko. Hindi sapat ang bilang ng mga tuklas para pagpasiyahan ang mga usaping iyon.

Hindi garantiya ng mabuting paghatol ang patunay na tama ang sagot

Nagbubukas ng isa pang tanong ang pagkakatugma. Maaaring mahusay ang sistema sa paghahanap ng argumento pero hindi mapagkakatiwalaan sa pagsunod sa layunin ng nagpapatakbo rito sa mahabang proyekto ng pananaliksik. May mapatutunayan tungkol sa output ang nasuring matematikal na resulta. Hindi nito pinatutunayan sa sarili nito na palaging igagalang ng sistema ang mga pahintulot, tapat na mag-uulat ng mga pagkabigo o susunod sa tamang layunin.

Mahalaga ang pagkakaibang ito sa paggamit ng mga laboratoryo ng mas may kakayahang tool. Naiiba ang pagpapagawa ng limitadong paghahanap at pagsusuri sa resulta nito sa pagbibigay sa sistema ng malawak na kapangyarihan sa mga eksperimento, paggastos o paglalathala. Maaaring bigyang-katwiran ng tagumpay sa agham ang pagsubok sa mas ambisyosong pananaliksik habang kailangan pa rin ng hiwalay na katwiran ang mga pahintulot.

Nakakatulong dito ang pagpapanatili ng pagkaunawa ng tao, pero hindi ito pangkalahatang solusyon sa pagkakatugma. Hindi inilalantad ng kaalaman sa matematikang nasa likod ng tuklas ang bawat asal ng modelo. Sa kabilang banda, hindi kailangang ulitin ng tao ang bawat pansamantalang pagkukuwenta para maisagawa ang kapaki-pakinabang na pangangasiwa. Praktikal na layunin ang panatilihin ang sapat na malayang kakayahan at ebidensiya para mapansin kapag hindi na naaayon sa nilalayong gamit ang gawain ng sistema.

Nararapat ding higit na pag-isipan ang tanong tungkol sa kabuluhan ng buhay kaysa mangakong babawiin ng paglilibang ang bawat nawalang trabaho. Ikinakatwiran ni Amodei na maaari pa ring maging makabuluhan ang mga ugnayan at gawain kahit higitan ng AI ang tao, habang kinikilalang hindi pa tiyak ang mga kaayusang pang-ekonomiya sa gayong hinaharap. Isa itong posibleng pananaw, hindi garantiya ng walang sakit na transisyon. Trabaho at kabuluhan

Maaaring pahalagahan ng estudyante ang pag-unawa sa resulta kahit hindi siya ang unang nakatuklas dito. Maaaring pahalagahan ng komunidad ang pagtuturo, debate at pagtatanong nang hindi hinihiling sa mga kasapi nitong higitan ang bawat makina. Gayunman, kailangan ng mga mapagkukunan at pasiya para mapanatili ang mga institusyong nagbibigay-daan sa mga gawaing ito. Hindi sapat ang personal na katuparan para tustusan ang laboratoryo, tiyakin ang akses sa modelo o panatilihin ang isang departamento.

Suriin ang paglulunsad batay sa nalilikhang kalayaan

Maaari bang kuwestiyunin ng isang tao ang pahayag nang hindi lubos na umaasa sa salaysay ng kumpanya? Magagamit ba ng ibang pangkat ang resulta nang hindi inuulit ang paghahanap na hindi nila kayang bayaran? Maaari bang pumili ang mga mananaliksik ng mga kasunod na tanong na hindi gaanong interesado ang gumawa? May mga tao at institusyon bang kayang magpaliwanag sa gawain, magwasto rito at panatilihin itong magagamit kapag lumipat na sa ibang paksa ang pansin ng publiko?

Pinag-uugnay ng mga tanong na ito ang optimistiko at pesimistikong hinaharap. Sa isa, nag-aambag ang makapangyarihang pribadong tool sa mas malawak na pinagsasaluhang kaalaman, at mas maraming tao ang nakapagsisiyasat sa mga tanong na dati ay hindi nila kayang abutin. Sa isa pa, tumatanggap ang mga tagalabas ng kahanga-hangang sagot habang lalo silang umaasa sa iilang organisasyon para magpasya kung anong tanong ang sulit itanong.

Hindi pa natin alam ang nilalaman ng mga usap-usapang nakatagong resulta. Masusuri natin ang mga kaayusang binubuo sa paligid ng mga resultang lumilitaw. Dapat mag-iwan ang isang malaking tagumpay ng AI sa iba pang bahagi ng agham ng mas malawak na kakayahang kumilos nang mag-isa.