Magkahiwalay na nagbigay ng briefing sina Sam Altman ng OpenAI at Dario Amodei ng Anthropic sa UN Security Council noong Setyembre 23 tungkol sa mga panganib ng AI na patuloy na nagiging mas may kakayahan. Kapwa hiniling nila sa mga pamahalaan na magtulungan sa pagsusuri at pag-uulat. Magkaiba ang saklaw ng kanilang mga mungkahi, at walang bagong tuntunin sa AI na itinatag ng talakayan ng Konseho.
Ang malaking pagbabago
Nagdala ang mga pinuno ng dalawang kumpanyang bumubuo ng makabagong AI model ng mga tiyak na mungkahi sa kaligtasan sa pulong ng Security Council tungkol sa pandaigdigang seguridad. Nanawagan si Altman para sa magkakatugmang pambansa at pandaigdigang pamantayang susukat sa mga kakayahan, susuri sa mga pananggalang at magtitiyak na may pangangasiwa pa rin ang tao. Nagmungkahi naman si Amodei ng mas makitid na mga kasunduan, simula sa pagbabawal sa paggamit ng AI sa paggawa ng biyolohikal na sandata, kasama ng mga sistema ng beripikasyon at magkakatulad na pagsubok para sa panganib ng maling paggamit at pagkawala ng kontrol. Mga kahilingan ito ng mga inimbitahang tagapagsalita. Kailangang magkasundo muna ang mga pamahalaan bago magkaroon ng anumang hakbang ang Konseho.
Kung saan nagtatagpo ang mga mungkahi
Sa awtomatikong nabuong transcript ng pulong ng UN, hiniling ni Altman ang maagap na pag-uulat ng insidente at mga ligtas na daluyan ng komunikasyon sa pagitan ng mga pamahalaan, operator ng imprastraktura at teknikal na eksperto para makapagbahagi ng mga kahinaan. Sinabi niyang dapat umangkop ang mga pamantayan sa mga bukas at saradong modelo, bagong developer at matatag nang laboratoryo, habang bawat pamahalaan ang nagpapasiya kung paano ito gagamitin sa sarili nitong batas.
Humiling din si Amodei ng pandaigdigang pamantayan sa pagsusuri at pag-abiso sa mga insidenteng mahalaga sa pandaigdigang seguridad. Nagmungkahi siya ng sistemang magbibigay sa mga bansa ng kakayahang makita ang mga kakayahan ng pinakaabanteng modelo at magberipika ng mga pangako. Inulit niya ang pangako ng Anthropic na magtalaga ng mga panlabas na tagasuri sa loob ng kumpanya at sinabing babagalan nito ang paglalabas hangga't kailangan para sa kaligtasan. Mga pangako at mungkahi ito ng Anthropic, hindi mga natuklasan ng hiwalay na pagsusuri na gumagana ang mga pananggalang nito.
Kapwa humiling sila ng magkakatulad na pagsubok at pagbubunyag ng malulubhang insidente. Isinentro ni Amodei sa mungkahi niya sa Konseho ang pagbabawal sa biyolohikal na sandata at beripikasyon sa pagitan ng mga estado. Binigyang-diin naman ni Altman ang mga pamantayang maisasama ng mga pamahalaan sa sarili nilang sistemang legal. Walang kasunduan ang mga miyembro ng Konseho tungkol sa pagpapatupad ng alinman sa dalawang mungkahi.
Magkakaiba ang pananaw ng mga pamahalaan sa papel ng Konseho
Nagpatawag ng sesyon ang France; nagbigay rin doon ng pahayag sina Yoshua Bengio, kapwa tagapangulo ng pang-agham na panel ng UN, at Clément Delangue, punong ehekutibo ng Hugging Face. Sumunod ito sa mga naunang talakayan ng Konseho tungkol sa AI, kabilang ang unang briefing na ganito noong Hulyo 2023.
Ipinakita ng mga pahayag ng mga miyembro ang agwat sa pagitan ng magkakaparehong pag-aalala at magkakaparehong patakaran. Sinuportahan sa inilathalang pahayag ng Latvia ang pagsasaalang-alang sa isang di-pormal na grupong eksperto ng Konseho. Sa transcript ng UN, tinutulan ng kinatawan ng US ang mga bagong estruktura ng pandaigdigang pamamahala at sa halip ay nanawagan na palakasin ang pambansang kakayahan at magbahagi ng pinakamahuhusay na gawain. Mga paninindigang ipinahayag sa pulong ang mga ito, hindi pasiya ng Konseho.
Nakatala sa makukuhang transcript ng UN na nagsara ang pulong matapos ang mga pahayag ng mga tagapagsalita. Walang pinagtibay na resolusyon sa AI o pahayag ng pangulo ng Konseho na nakatala rito. Nagbababala ang pahina na ginawa sa pamamagitan ng awtomatikong pagkilala sa pananalita ang teksto at hindi ito opisyal na talaan ng UN.
