Iminungkahi nina Sanders at Casar ang pagbabawal sa AI superintelligence sa US at paghinto muna sa mga advanced na modelo

Sinabi nina Senador Bernie Sanders at Kinatawan Greg Casar noong Setyembre 23 na ipinakilala nila ang Ban Artificial Superintelligence Act. Ipinagbabawal ng inilathala nilang 19-pahinang teksto ang artificial superintelligence, pansamantalang ihihinto ang pagbuo ng ilang advanced na modelo habang bumubuo ng mga tuntunin sa kaligtasan ang isang bagong pederal na departamento, at mangangailangan ng pag-apruba bago magamit ng publiko ang mga modelong iyon. Panukalang batas ito. Wala sa mga paghihigpit nito ang umiiral na ngayon.

Ang malaking pagbabago

• Ano ang nagbago: Lumipat sina Sanders at Casar mula sa anunsyo noong Setyembre 3 na nagpaplanong magharap ng batas tungo sa anunsyo noong Setyembre 23 na naipakilala na nila ito, kasama ang pampublikong teksto na naglilinaw sa mga iminungkahing depinisyon at kapangyarihang magpatupad.
• Bakit ito mahalaga: Higit pa sa hindi pa binibigyang-depinisyong superintelligence sa hinaharap ang saklaw ng panukala. Ipagbabawal din nito ang mga sistemang may mga nakalistang paunang kakayahan at pansamantalang ihihinto ang mga modelong sinanay nang lampas sa itinakdang compute threshold. Maaaring maapektuhan ng mga probisyong iyon ang mga developer bago pa makamit ng anumang sistema ang depinisyon ng panukalang batas sa superintelligence, kung maisasabatas ito ng Kongreso.
• Ano ang dapat bantayan: Kailangang isulong at ipasa ng Kongreso ang panukala bago ito makapagpataw ng mga obligasyon sa mga developer. Blangko pa rin ang numero ng panukalang batas sa Senado sa pampublikong teksto; lilinawin ng may numerong tala sa Kongreso at anumang binagong teksto ang susunod nitong pormal na yugto.

Dalawang magkaibang paghihigpit sa teksto

Sasaklaw ang iminungkahing pansamantalang paghinto sa isang “advanced artificial intelligence system,” na binibigyang-depinisyon bilang sistemang sinanay gamit ang hindi bababa sa 10²⁵ integer o floating-point operation. Taun-taong iaakma ng kalihim ng departamentong itatatag ang threshold na ito batay sa paghusay ng kahusayan sa training. Mula pagsasabatas hanggang sa ganap na mabuo ang departamento at makapaglabas ito ng mga tuntunin sa kaligtasan, hindi maaaring sanayin, baguhin o i-fine-tune ang ganitong mga sistema, maliban kung aalisin ang mga ipinagbabawal na katangian o idi-disable ang mga ito. Hindi maaaring i-deploy sa panahong iyon ang mga advanced na sistemang hindi pa inilalabas. Kabilang sa mga tuntuning magwawakas sa paghinto ang mga ulat sa plano ng pagbuo, pagsusuri, audit ng mga kasanayan sa kaligtasan at pinal na pag-apruba bago ilabas sa publiko.

Iba ang pamantayang ginagamit ng iminungkahing pagbabawal. Saklaw nito ang sistemang lumalampas sa kakayahang kognitibo ng tao sa karamihan ng larangan o may sapat na kakayahang magplano at magsagawa ng pagwasak o pagpapahina sa sangkatauhan. Ipinagbabawal din ng Seksyon 9 ang mga sistemang nagpapakita ng alinman sa mga nakalistang “katangiang pauna sa superintelligence.” Kabilang sa listahan ang malaking pagpapabilis sa pananaliksik sa AI, hindi awtorisadong pagpasok sa protektadong imprastraktura, patuloy na pagpapatakbo sa kabila ng pagtatangkang patayin ang sistema, tulong sa pagbuo ng armas, pagbabago sa sarili at pag-iwas sa pangangasiwa ng tao. Hindi ipinapataw ng teksto ang threshold na 10²⁵ operation sa hiwalay na pagbabawal sa mga paunang kakayahang ito. Ipinagbabawal din ng Seksyon 9(b) ang pag-deploy, paglalabas, paglilipat o pag-aangkat ng mga sistemang maaaring mahulaan na mababago upang mapasailalim sa alinman sa dalawang kategorya. Kailangang magpasya ang magiging regulator kung paano ilalapat ang mga paglalarawan ng kakayahang ito sa mga partikular na sistema; walang benchmark score sa panukalang batas na kusang magpapasya sa mga usaping iyon.

Magtatatag ang burador ng cabinet-level na Department of Artificial Intelligence at mangangailangan ng mga charter para bumuo o mamahagi ng mga advanced na modelo. Bibigyan nito ang departamento ng kapangyarihang magsiyasat at mag-apruba bago ang deployment. Para sa ilang walang-ingat na paglabag ng mga tagapagpasya sa kompanya o mga indibidwal na walang kaugnayan dito, nagtatakda ang burador ng multa at pagkakakulong nang hanggang 20 taon. Itinatakda rin nito ang pagbawi sa charter at, matapos ang itinakdang pagsusuri, pagkumpiska sa mga ari-arian at intellectual property na kaugnay ng paglabag. Mga parusang iminumungkahi lamang ang mga ito, hindi kasalukuyang kaparusahan.

Ang pagtatalo tungkol sa saklaw

Sa talakayan tungkol sa patakaran sa AI bandang 53 minuto ng episode 290 ng All-In, nangatwiran ang mga panelist na maaari raw nitong patigilin ang pagbuo ng AI sa Amerika at itulak sa ibang bansa ang mga kompanya. Pagtataya nila iyon sa posibleng epekto. Hindi ipinagbabawal ng teksto ang bawat umiiral na produkto ng AI dahil lamang AI ito; nagtatakda ito ng threshold sa training para sa pansamantalang paghinto at mga pagsusuri sa kakayahan para sa mas malawak na pagbabawal. May malaking implikasyon pa rin ang mga pagsusuri sa kakayahang iyon dahil hindi nililimitahan ng training threshold ang iminungkahing listahan ng mga paunang kakayahan.

Iba naman ang landas ng pagpuna ni mananaliksik sa AI na si Gary Marcus matapos ang anunsyo noong Setyembre 3. Sinuportahan niya ang ideya ng regulator para sa AI at sinabing maaaring ipagtanggol ang pansamantalang paghinto, pero iginiit niyang sumosobra ang permanenteng pagbabawal na kumikilos nang mag-isa at ang malalabong pasya tungkol sa kakayahan. Nauna ang tugon niya sa pagpapakilala noong Setyembre 23, kaya dapat itong basahin bilang puna sa inanunsyong panukala, hindi pagsusuri sa bawat linya ng tekstong inilathala kalaunan.

Sinasabi nina Sanders at Casar na babawasan ng pagbabawal ang panganib ng sakunang malawakan, at na dapat pigilan ng mga pandaigdigang kasunduan at kontrol sa pag-export ang paglipat sa ibang lugar ng mapanganib na pagbuo. Itinala sa ulat ng Associated Press ang paliwanag ni Sanders sa pangangailangang pabagalin ang pagbuo at ang pangambang hindi mapipigilan ng mga unilateral na limitasyon ng US ang pagbuo sa ibang lugar. Hindi pinatutunayan ng mga pahayag ng mga nagtaguyod tungkol sa kaligtasan o ng mga pagtataya ng panel tungkol sa ekonomiya kung ano ang mangyayari kapag naging batas ang panukala. Una itong susubukin sa lehislatura: kung tatalakayin ng Kongreso ang panukala at kung paano nito lulutasin ang di-karaniwang malawak na pananalita tungkol sa mga paunang kakayahan.

Mga sanggunian at karagdagang babasahin

• Ang anunsyo ni Casar noong Setyembre 23 ay nagsasaad na ipinakilala nila ni Sanders ang panukalang batas at nagbubuod ng kanilang mga layunin. Salaysay ito ng mga nagtaguyod tungkol sa katayuan at layunin ng panukala.
• Ang anunsyo ni Sanders noong Setyembre 3 tinawag na paparating pa lamang ang batas; pinatutunayan nito ang naunang yugto ng panukala.
• Ang inilathalang teksto ng panukalang batas, lalo na ang mga seksiyon 3, 8–10, 12 at 13, ang batayan ng mga depinisyon, paghinto, pagbabawal, kapangyarihan ng ahensiya at parusang inilalarawan dito. Blangko ang bahagi para sa numero ng panukalang batas sa Senado.
• Ang buod ni Sanders kada seksiyon ay gabay sa pagbasa mula sa tanggapan ng isa sa mga nagtaguyod; sinuri ang mga partikular na pahayag sa artikulo batay sa mas mahabang teksto.
• Ang ulat ng Associated Press noong Setyembre 23 ay may independiyenteng pag-uulat, panayam kay Sanders at kontekstong pampolitika.
• Ang All-In, episode 290, pinagmumulan ng mapanuring talakayan ng panel. Inilalahad ang mga hula nito bilang opinyon, hindi bilang pinagtibay na konklusyon tungkol sa epekto ng panukalang batas.
• Ang tugon ni Gary Marcus noong Setyembre 3 ay nagpapakita ng hiwalay na mapanuring pananaw ng tagapagtaguyod ng kaligtasan ng AI. Tinutukoy nito ang naunang anunsyo.