Сенатор Берние Сандерс и конгресмен Грег Цасар саопштили су 23. септембра да су поднели предлог закона о забрани вештачке суперинтелигенције. Његов објављени текст од 19 страница забранио би вештачку суперинтелигенцију, привремено обуставио развој одређених напредних модела док ново савезно министарство не напише безбедносна правила и захтевао одобрење пре него што такви модели дођу до корисника. Реч је о предлогу закона; ниједно од тих ограничења тренутно није на снази.

Суштинска промена

  • Шта се променило: Сандерс и Цасар прешли су са најаве планираног закона од 3. септембра на саопштење од 23. септембра да су предлог поднели, уз јавно доступан текст у којем су прецизније наведене предложене дефиниције и овлашћења за спровођење.
  • Зашто је то важно: Предлог не обухвата само неодређену будућу суперинтелигенцију. Забранио би и системе са наведеним способностима које јој претходе, а привремено би обуставио моделе обучене изнад утврђеног рачунарског прага. Ако Конгрес усвоји текст, те одредбе могле би да утичу на развојне компаније много пре него што неки систем испуни законску дефиницију суперинтелигенције.
  • Шта треба пратити: Конгрес би морао да размотри и усвоји предлог пре него што би он могао да наметне обавезе развојним компанијама. У јавно доступном тексту и даље је празно поље за број предлога у Сенату; званични запис са додељеним бројем и евентуалне измене разјаснили би следећу формалну фазу.

Две различите врсте ограничења у предлогу

Предложена привремена пауза односила би се на „напредни систем вештачке интелигенције“, дефинисан као систем обучен са најмање 10²⁵ целобројних операција или операција с покретним зарезом. Секретар будућег министарства сваке године би прилагођавао праг у складу са напретком ефикасности обучавања. Од ступања закона на снагу до тренутка када би министарство било потпуно кадровски попуњено и донело безбедносна правила, такви системи не би смели да се обучавају, мењају нити додатно подешавају, осим ради уклањања забрањених карактеристика или њиховог искључивања. Током тог периода не би било дозвољено пустити у употребу напредне системе који још нису објављени. Правила потребна за окончање паузе обухватала би извештаје о плановима развоја, евалуације, ревизије безбедносне праксе и коначно одобрење пре јавног објављивања.

Предложена забрана користила би другачији тест. Обухватила би систем који у већини области надмашује људске когнитивне способности или има довољно капацитета да испланира и спроведе уништење човечанства или лиши људе моћи одлучивања. Члан 9 забрањује и системе који показују било коју од наведених „способности које претходе суперинтелигенцији“. На списку су знатно убрзавање истраживања вештачке интелигенције, неовлашћен приступ заштићеној инфраструктури, наставак рада упркос покушајима гашења, помоћ у развоју оружја, самостална измена и избегавање људског надзора. Праг од 10²⁵ операција не би се примењивао на ту засебну забрану. Члан 9(б) забрањује и употребу, објављивање, пренос или увоз система које би било предвидљиво могуће изменити тако да потпадају у било коју од те две категорије. Будући регулатор морао би да одлучи како се ови описи способности односе на конкретне системе; предлог не наводи резултате мерила који би коначно разрешили те процене.

Предлог би основао министарство за вештачку интелигенцију на нивоу савезне владе и захтевао овлашћење за компаније које развијају или дистрибуирају напредне моделе. Министарству би дао овлашћења за инспекције и претходно одобравање пуштања система у употребу. За одређене несавесне прекршаје које почине руководиоци компанија задужени за доношење одлука или неповезани појединци, предлог предвиђа новчане казне и затворске казне до 20 година. Предвиђа и одузимање овлашћења, а након прописане провере и одузимање имовине и интелектуалне својине повезане са прекршајем. То су предложене казне, а не важеће санкције.

Спор око обима предлога

У расправи о политици према вештачкој интелигенцији око 53. минута 290. епизоде емисије All-In, панелисти су тврдили да би предлог могао да замрзне развој АИ-ја у САД-у и подстакне компаније да оду у иностранство. То је њихова процена могућих последица. Текст не забрањује сваки постојећи производ са вештачком интелигенцијом само зато што користи AI; за привремену паузу наводи рачунарски праг обучавања, а за ширу забрану тестове способности. Ти тестови ипак имају значајне последице, јер наведене способности које претходе суперинтелигенцији нису ограничене прагом обучавања.

Истраживач АИ-ја Gary Marcus критиковао је предлог другим путем, након најаве од 3. септембра. Подржао је идеју регулатора за вештачку интелигенцију и рекао да би привремена пауза могла бити оправдана, али је тврдио да трајна једнострана забрана и неизвесне процене способности иду предалеко. Његов одговор претходи подношењу предлога 23. септембра, па га треба читати као критику најављеног предлога, а не као осврт на сваку одредбу касније објављеног текста.

Сандерс и Цасар кажу да би забрана смањила катастрофалне ризике и да би међународни споразуми и извозне контроле спречили премештање опасног развоја у друге земље. Извештај Associated Press-а преноси Сандерсове разлоге за успоравање развоја и забринутост да би једнострана ограничења САД-а оставила развој у другим земљама нетакнутим. Ни тврдње покровитеља о безбедности ни економске прогнозе панелиста не доказују шта би се десило када би предлог постао закон. Прва практична провера је законодавна: да ли ће Конгрес разматрати предлог и како ће решити неуобичајено широко срочену одредбу о способностима које претходе суперинтелигенцији.

Извори и додатна литература