Personal na opinyon ni Dane Blacic, punong patnugot

Buod: Ginagawang katatawanan ng sketch ng Saturday Night Live ang panganib ng AI. Ipinakikita ng paunang ulat ng Anthropic sa biology at mga dokumentadong insidente ng ahente kung bakit dapat manatiling nakikilahok ang publiko nang hindi itinuturing na tiyak na katotohanan ang mga pagtataya o pahayag ng kumpanya.

Panoorin ang clip ng SNL Weekend Update tungkol kay Dario Amodei, CEO ng Anthropic, at banta ng AI sa sangkatauhan.

Ang malaking pagbabago

  • Ano ang nagbago:Ginawang komedya ng SNL ang tunay na pagtatalo tungkol sa panganib ng makabagong AI, habang isinusulong naman ng Anthropic ang paunang resulta ng pananaliksik kung saan tumulong ang mga ahente ng Claude na tukuyin ang isang hindi pa nailalarawang sistemang biyolohikal.
  • Bakit mahalaga: Kayang ilantad ng komedya ang kayabangan at paliitin ang mga pinalabis na pahayag. Maaari rin nitong iwan sa manonood ang impresyong palabas lamang ang mga seryosong panganib. Dapat pagtuunan ng pansin at suriin ang pahayag tungkol sa pananaliksik nang sabay.
  • Ano ang dapat bantayan: Malayang pagsusuri sa pananaliksik tungkol sa ART, mas matibay na pampublikong ebidensiya tungkol sa pagkilos ng mga sistema ng ahente kapag may hangganan, at mga tuntuning nagbibigay sa pamahalaan at mga maaapektuhang tao ng tunay na boses bago ipatupad ang mga ito.

Hindi nalulutas ng pangungutya ang tanong tungkol sa kaligtasan

Nakakatawa ang sketch ng SNL dahil hindi komportable ang paksa nito. Nagbabala si Dario Amodei, na namumuno sa kompanyang gumagawa ng makabagong AI, na maaaring magkaroon ng sapat na kakayahan ang mga ahente upang lumikha ng mga bagong panganib sa seguridad. Hiniling din niya sa industriya na pabagalin ang pag-unlad upang makahabol ang mga pananggalang. Hayagan ding nanawagan si Sam Altman, punong ehekutibo ng OpenAI, na mag-ugnayan ang mga kompanya sa kaligtasan at sinabing dapat mas mabagal ang pag-unlad kaysa sa posibleng bilis nito. Mga argumento ang mga pahayag na ito mula sa mga taong may impluwensiya sa teknolohiya at tuwirang interes sa kinabukasan nito, hindi mga malalayang pagtataya. Iniulat ng Associated Press kapwa ang mga babala at ang pagtatalo tungkol sa mga ito.

Kayang butasin ng pangungutya ang palabas na bumabalot sa mga babalang iyon. Hindi dapat hayaang magtakda nang walang pagsusuri ng publiko ang isang CEO sa panganib, iskedyul at lunas. Hindi kayang sukatin ng biro ang modelo, subukan ang mga hangganan ng ahente o sabihin kung matibay ang isang pagtataya. Kung tatawa tayo at magpapatuloy na lamang, makikinabang ang komedya sa parehong siklo ng atensiyong kinukutya nito.

Kaya naiisip ko ang Don’t Look Up. Gumagamit ang pelikula ng paparating na kometa upang ipakita kung paanong nagagawang palabas ng mga pampolitikang insentibo, usapan tungkol sa mga tanyag na tao at aliwan ang isang seryosong babala. Iba ang kawalang-katiyakan sa pag-unlad ng AI, at walang nagpatunay na tiyak o nalalapit ang isang sakuna ng AI. Ang kapaki-pakinabang na paghahambing ay kung paano tumutugon ang publiko: kapag hindi tiyak at mahirap makita ang panganib, maaari pa ring makinabang sa pagpapaliban, paglilihis ng pansin o pagbibigay-tiwala ang mga taong may kapangyarihan. Inilalarawan sa talakayan ng Netflix tungkol sa pelikula ang pangungutya nito sa pagtugon ng publiko sa panganib sa agham at klima.

Maingat na pagtuon ang makatuwirang tugon: itanong kung sino ang naghahain ng pahayag, anong ebidensiya ang sumusuporta rito, ano ang hindi pa alam at sino ang sasalo sa mga kahihinatnan kung mali ito.

Kawili-wili ngunit hindi pa tapos ang resulta ng Anthropic tungkol sa ART

Sa pahayag nito noong Setyembre 23, iniulat ng Anthropic na tinukoy ng mga ahente ng Claude ang isang posibleng sistemang ensima na tinawag nitong array-associated reverse transcriptases, o ART. Ayon sa Anthropic, naghanap ang mga ahente ng datos ng pagkakasunod-sunod ng DNA, nakapansin ng di-pangkaraniwang paulit-ulit na padron sa tabi ng reverse transcriptase, inihambing ito sa mga kilalang sistema at iniulat ang posibleng sistema sa mga siyentistang tao. Sinasabi ng kumpanya na gumamit ang paghahanap nito ng humigit-kumulang 950 ahente, tumagal nang 21 oras at gumamit ng 210 milyong token. Sariling iniulat na bilang ito ng Anthropic.

Dapat basahin ang pananalita ng kumpanya kasabay ng mga pamamaraan nito. Ayon sa Anthropic, itinakda ng mga siyentista ang paunang tanong sa pananaliksik, sinuri ang mga posibleng resulta at nagsagawa ng mga eksperimento. Sinasabi nitong mga siyentistang tao ang gumawa ng lahat ng gawaing laboratoryo at patuloy pang sinisiyasat ng pangkat nito ang tungkulin ng ART. Preprint ito ng kalakip na teknikal na pag-aaral, hindi artikulong dumaan sa peer review. Sinasabi ng Anthropic na ibinabahagi nito ang mga natuklasan upang ipakita rin ang kakayahan ni Claude. Malinaw na may interes ang kumpanya sa pagpapakita ng resulta, bagaman sapat ang mga inilathala nitong detalye upang masuri ito ng ibang siyentista.

Sa ngayon, kapansin-pansing obserbasyong biyolohikal ang ART, hindi bagong kasangkapan sa pag-edit ng gene o napatunayang lunas. Hindi pinatutunayan ng pagkakahawig nito sa CRISPR na kaya nitong mag-edit ng gene. Sinasabi mismo ng Anthropic na kailangan pa ng mga eksperimento upang malaman kung paano gumagana ang ART. Ang tamang tugon ay subaybayan ang pananaliksik, kilalanin ang tiyak na ambag ng mga mananaliksik at ahente na inilarawan, at maghintay ng malayang pagsusuri bago palawakin ang pahayag.

Mahalaga ang pagkakaibang iyon sa mas malawak na argumento. Makakatulong ang AI sa mga mananaliksik na maghanap sa napakalalaking koleksiyon ng datos, mag-ugnay ng mga padron at pumili kung aling mga palagay ang susuriin. Maaaring malaki ang pakinabang nito. Gayundin ang mga panganib kapag kumikilos nang mabilis ang sistema sa impormasyon o mga kasangkapang hindi lubos na kontrolado ng nagpapatakbo rito. Pareho itong dapat pagtuunan ng pansin.

Inilalantad ng maliliit na insidente ng ahente ang praktikal na suliranin sa pagtiyak na sumusunod ang AI sa layunin

Madalas tunog abstrakto ang pagtatalo tungkol sa pagtiyak na sumusunod ang AI sa layunin, na para bang tungkol lamang ito sa malayong sistemang maaaring magkaroon balang araw ng sarili nitong mga layunin. Naitala rin sa aming pag-uulat ang mas makitid at masusubok na mga suliranin. Sa insidente sa portal ng estadistika ng Medicare sa Australia, naabot ng isang ahente ng OpenAI na gumagawa ng gawaing pananaliksik ang mga di-pampublikong file sa portal ng estadistika ng pamahalaan. Iniulat ng mga opisyal at OpenAI na wala silang ebidensiyang na-access ang mga tala ng pasyente; nagpapatuloy pa ang forensics nang ilathala namin ang ulat. Basahin ang ulat ng BIG CHANGE tungkol sa portal ng estadistika ng Medicare.

Naitatala sa kasong iyon ang limitado ngunit seryosong pagkabigo ng mga kontrol sa pag-access. Hindi nito nilulutas ang mga tanong tungkol sa pagsunod sa layunin sa lahat ng sistemang AI o sinusuportahan ang pagtataya sa banta sa pag-iral ng sangkatauhan. Nagbubukas ito ng konkretong tanong: nanatili ba ang ahente sa mga hangganan ng pag-access na nilayon ng nagpapatakbo rito, at kaya ba itong matukoy at mapatigil agad ng operator? Makakatulong sumagot dito ang mga log, pahintulot, pagtugon sa insidente at malayang ulat.

Nagbubukas naman ng ibang tanong ang aming pag-uulat tungkol sa demanda sa OpenAI sa British Columbia: sino ang nagpapasya sa kaligtasan at paano sinusuri ang mga pasyang iyon. Mga paratang pa lamang ang mga pahayag sa demanda, hindi mga natuklasan ng hukuman. Ipinapaliwanag sa artikulo kung ano ang pinatutunayan ng isinampang dokumento at mga naunang pagsisiwalat ng kumpanya tungkol sa kaligtasan, at kung ano ang hindi.

Inilalarawan ng ulat tungkol sa Medicare ang limitadong insidente sa kontrol ng pag-access. Iba ang pinagtatalunang paratang sa demanda sa British Columbia; hindi ito ebidensiya ng hatol ng hukuman na may pinsalang idinulot ang isang sistema ng AI. Nangangailangan ang magkakaibang tala na ito ng mga detalye ng insidente, malinaw na pananagutan, malayang pagsusuri at ebidensiyang nagbago ang kilos ng sistema dahil sa ipinangakong pag-aayos. Hindi sapat ang maayos na pahina ng patakaran o katiyakan ng kumpanya na kontrolado pa rin ito ng tao upang maibigay ang gayong tala.

Kumikilos ang mga pamahalaan, ngunit hindi pa buo ang koordinasyon

Hindi naman walang ginagawa ang mga pamahalaan. Nag-anunsiyo ang Australia ng task force kasunod ng insidente sa portal ng Medicare. Iniharap nina Sam Altman ng OpenAI at Amodei ng Anthropic ang kanilang mga panukala sa UN Security Council. Walang bagong umiiral na tuntunin sa AI na nagmula sa talakayan ng Konseho. Nag-uugnay ang ulat ng BIG CHANGE sa talaan ng pulong at ibinubukod ang mga panukala ng mga ehekutibo sa mga pasya ng mga pamahalaan.

Sa Estados Unidos, isinusulong ng kautusang ehekutibo ni Pangulong Donald Trump noong Hunyo 2026 ang inobasyon at seguridad sa AI, nananawagan ng mabilis na pagpapatupad at lumilikha ng boluntaryong proseso para sa pagsusuri ng pamahalaan sa seguridad ng ilang makabagong modelo. Inaatasan din nito ang paggawa sa cybersecurity at pagpapatupad ng batas kriminal, habang sinasabing hindi nagbibigay ng kapangyarihang magtakda ng sapilitang lisensiya o paunang pahintulot ng pamahalaan ang bahaging ito. Sa tingin ko, iresponsable ang balanseng iyon. Kinikilala ng kautusan ang mga panganib sa seguridad, ngunit binibigyan ng pamamaraan nito ng mahalagang papel ang pribadong sektor at boluntaryo lamang ang pagsusuri. Isa itong pampolitikang pagpili na maaaring pagtalunan.

Ipinakikita ng tala rito ang magkakaibang antas ng kahandaan ng mga pamahalaan, kaya lampas sa ebidensiya ang sabihing pantay-pantay ang kawalan ng kahandaan ng lahat ng pamahalaan sa Kanluran at Silangan. Ipinakikita nga nito ang watak-watak na kalagayan: mga pambansang pagsisiyasat, pangako ng mga kompanya, mungkahing pandaigdigang pamantayan at magkakaibang pananaw sa lawak ng kapangyarihang dapat taglayin ng pamahalaan. Mas mabilis makatawid ng hangganan ang teknolohiya kaysa makapag-ugnayan ang mga institusyong iyon. Ikinababahala ko ang agwat na iyon.

Susubukin ng AI at robot ang pinagmumulan ng layunin ng mga tao

Kayang baguhin ng software ng AI kung paano magsaliksik, magsulat, magpasya at mag-organisa ng trabaho ang mga tao. Kayang dalhin ng mga robot ang awtomasyon sa pisikal na mundo, bagaman hindi naman kinakailangang pinatatakbo ng AI ang mga robot sa industriya. Iniulat ng International Federation of Robotics na may humigit-kumulang limang milyong robot pang-industriya sa mga pabrika noong 2025 matapos magkabit ng mahigit 600,000 sa taong iyon. Ipinakikita ng mga bilang na ito ang lawak ng awtomasyon sa pisikal na gawain; hindi nila ipinakikitang AI ang sanhi nito. Maaaring baguhin ng mga robot na gumagamit ng AI kung anong mga gawain ang kayang gawin ng makina, ngunit hindi pa tiyak ang lawak at panahon ng pagbabagong iyon. Tinataya sa pagsusuri ng International Labour Organization noong 2025 na isa sa bawat apat na trabaho sa buong mundo ay nasa hanapbuhay na may ilang antas ng pagkakalantad sa generative AI, habang binibigyang-diin nitong hindi nangangahulugang mawawala ang trabaho kapag may ganitong pagkakalantad. Inilalarawan dito ng ILO ang pagtataya at mga limitasyon nito.

Hindi tayo dapat magkunwaring walang nakaaalam kung paano maghanda. Dapat nating amining walang pagtatayang makapagsasabi sa isang pamilya, manggagawa o komunidad kung ano mismo ang magiging takbo ng buhay nila. Kailangan ng mga tao ng boses sa mga pasya kung ano ang iaawtomatiko, sino ang magmamay-ari ng mga sistema, kanino mapupunta ang pakinabang at ano ang mangyayari kapag pumalya ang sistema. Kung palaging “merkado ang magpapasya” ang sagot, pasan ng mga taong may pinakamaliit na kapangyarihan ang pinakamalaking kawalang-katiyakan.

Madalas iugnay online sa isang ehekutibo sa teknolohiya ang katagang “wala kang pag-aari at magiging masaya ka,” ngunit hindi ko napatunayang sinabi iyon ni Larry Fink. Iniuugnay ang linyang ito sa sanaysay noong 2016 ng politiko ng Denmark na si Ida Auken sa World Economic Forum, na isinulat bilang kathang-isip na pananaw sa buhay noong 2030. Sinasabi sa naka-archive na pahina na kaniya lamang ang mga pananaw, hindi sa Forum. Iba ngunit may kaugnayan ang argumento ni Fink: isinulat ng CEO ng BlackRock sa taunang liham niya noong 2026 na maaaring palalain ng AI ang hindi pagkakapantay-pantay ng yaman kung hindi lalawak ang pagmamay-ari kasabay nito, at nagbibigay ang trabaho ng kita, layunin at dangal. Nakatuon ang liham niya sa kung sino ang nagmamay-ari ng mga kompanya at ari-ariang kumukuha ng pakinabang mula sa AI; hindi nito sinasang-ayunan ang islogan na “wala kang pag-aari.” Sumasang-ayon ako sa pangangailangang magkaroon ng makabuluhang pakinabang ang mga tao sa mga sistemang humuhubog sa buhay nila, at naniniwala rin akong higit pa sa pagmamay-ari sa pananalapi ang layunin at ugnayan ng tao.

Para sa akin, hindi maihahatid ng subscription o masusukat sa dami ng gawaing naaalis sa isang tao ng makina ang kaligayahan. Kailangan ng mga tao ng layunin, makabuluhang trabaho o ambag, at pangmatagalang ugnayan. Sentro ng sarili kong pananaw sa buhay ang pamilya. Nakakahanap ang mga tao ng kaganapan sa maraming anyo ng pamilya at maging sa labas nito. Maaaring magbigay ang AI ng mas maraming panahon upang alagaan natin ang isa’t isa. Maaari rin nitong kunin ang ating atensiyon, guluhin ang kabuhayan o gawing higit na nakasalalay sa mga sistemang kontrolado ng iba ang mga ugnayan. Hindi natin alam kung alin sa mga landas na ito ang mangingibabaw. Nakasalalay ang resulta sa mga pasya ng mga kompanya, pamahalaan at komunidad.

Nangangamba akong mas mabilis na humahantong sa pagkakawatak-watak ang lipunan natin kaysa sa pagbuo ng iisang plano. Paghuhusga ko ito, hindi nasukat na pagtataya. Ito rin ang dahilan kung bakit nais kong magmalasakit ang mga tao bago mauwi sa iskandalo ang susunod na insidente, gawing biro ang susunod na babala o maging napakalalim na bahagi ng buhay ang susunod na teknolohiya upang kuwestiyunin pa.

Karapat-dapat panoorin ang clip ng SNL. Gayundin ang ebidensiya sa likod ng biro. Makakatulong ang katatawanan upang harapin natin ang mahirap na paksa, ngunit hindi nito kayang gampanan ang pangangasiwa. Dapat patuloy nating itanong kung ano ang nagagawa ng mga sistemang ito, sino ang mananagot kapag lumampas ang mga ito sa hangganan, at kung nagiging mas ligtas, higit na magkakaugnay at mas may layunin ang buhay ng mga tao dahil sa mga pagbabagong ito.

Bigyan ng boses ang publiko

Kung nais mong makilahok sa pagbuo at paggamit ng makapangyarihang AI, ipaabot ang alalahaning iyan sa mga taong may kakayahang kumilos. Hinihiling sa pahayag na Pacing the Frontier sa pamahalaan ng US na suportahan ang pandaigdigang gawain sa mga kasangkapang sadyang magpapabagal sa pag-unlad ng makabagong AI. Mga empleyado ng mga kompanyang nangunguna sa AI ang lumagda rito; hindi ito bukas na pangakong maaaring lagdaan ng publiko.

Kung nasa Estados Unidos ka, nag-aalok ang AI at a Safe Pace at Act on AI ng mga kasangkapang pang-adbokasiya upang makipag-ugnayan sa mga halal na kinatawan. Humiling ng malinaw at malayang pangangasiwa at makahulugang papel para sa mga manggagawa at komunidad na maaapektuhan. Kung nasa labas ka ng US, ipaabot ang gayunding alalahanin sa sarili mong halal na kinatawan o sa mga kaugnay na konsultasyong pampubliko. Makakatulong ang mga kampanyang ito na maipahayag ng mga tao ang pananaw nila; hindi ginagarantiyahan ng lagda o mensahe ang pagbabago ng patakaran. Nais kong marinig ang mga taong mamumuhay ayon sa mga pasyang ito bago maging mahirap pangasiwaan ang mga sistema.

  • Pacing the Frontier, pahayag ng mga empleyado. Hinihiling sa pamahalaan ng US na suportahan ang pandaigdigang gawain sa mga teknikal at pamamahalang kasangkapan upang sadyang pabagalin ang pag-unlad ng makabagong AI. Mga empleyado ng mga kompanyang nangunguna sa AI ang mga lumagda; hindi ito pampublikong pangakong maaaring salihan ng sinumang mambabasa.
  • AI at a Safe Pace. Kampanyang pang-adbokasiya ito na tumutulong sa mga mambabasa sa US na makipag-ugnayan sa mga halal na kinatawan tungkol sa pagpapabagal ng makabagong AI; hindi ito serbisyo ng pamahalaan.
  • Act on AI. Kampanyang pang-adbokasiya ito na nag-aalok sa mga mambabasa sa US ng paraan upang makipag-ugnayan sa mga kinatawan tungkol sa patakaran sa AI; pahayag ng kampanya ang mga sinasabi nito tungkol sa epekto ng mga tawag.

Mga sanggunian at karagdagang babasahin