Сем Алтман из OpenAI-ја и Дарио Амодеи из Anthropic-а одвојено су се обратили Савету безбедности УН 23. септембра о ризицима које носи све способнији AI. Обојица су позвала владе да сарађују на тестирању и пријављивању инцидената. Њихови предлози су се разликовали по обиму, а расправа Савета сама по себи није успоставила ново правило за AI.

Велика промена

Челници две компаније које развијају напредне AI моделе изнели су конкретне безбедносне предлоге на састанку Савета безбедности о међународној безбедности. Алтман је позвао на усклађене националне и међународне стандарде за мерење способности, процену заштитних мера и очување људског надзора. Амодеи је предложио уже договоре, почев од забране коришћења AI-ја за израду биолошког оружја, уз системе провере и заједничке тестове злоупотребе и губитка контроле. То су били предлози позваних говорника. Владе би морале да се усагласе о свакој мери Савета.

У чему се предлози подударају

У аутоматски генерисаном транскрипту састанка УН, Алтман је затражио брзо пријављивање инцидената и безбедне канале за размену информација о рањивостима између влада, оператера инфраструктуре и техничких стручњака. Рекао је да стандарди треба да обухвате отворене и затворене моделе, нове програмере и етаблиране лабораторије, док би свака влада одлучивала како ће их применити у сопственом законодавству.

Амодеи је такође тражио међународне стандарде тестирања и обавештавање о инцидентима значајним за глобалну безбедност. Додао је систем који би државама омогућио да виде способности најнапреднијих модела и проверавају поштовање обавеза. Поновио је Anthropic-ово обећање да ће у компанију примити спољне оцењиваче и успорити објављивање колико год буде потребно ради безбедности. То су обавезе и предлози компаније Anthropic, а не независни налази да њене мере заштите делују.

Обојица су тражила упоредиве тестове и објављивање озбиљних инцидената. Амодеи је предлог забране биолошког оружја и проверу договора између држава ставио у средиште свог обраћања Савету. Алтман је нагласио стандарде које би владе могле да примене у сопственим правним системима. Ни уз један предлог није постојао договор чланица Савета о спровођењу.

Владе различито виде улогу Савета

Седницу је сазвала Француска; обратили су се и копредседавајући научног панела УН Јошуа Бенжио и извршни директор компаније Hugging Face Клеман Деланг. Она је уследила након ранијих расправа Савета о AI-ју, међу којима је била и прва таква расправа у јулу 2023..

Изјаве чланица показале су колико је заједничка забринутост удаљена од заједничке политике. Објављена изјава Летоније подржала је разматрање неформалне стручне групе Савета. Према транскрипту УН, представник САД противио се новим структурама глобалног управљања и уместо тога позвао на јачање националних капацитета и размену најбољих пракси. То су ставови изнети на састанку, а не одлука Савета.

Доступни транскрипт УН бележи да је састанак завршен после изјава говорника. У њему није забележено усвајање резолуције о AI-ју нити председничке изјаве. На страници стоји упозорење да је говор аутоматски препознат и да транскрипт није званични запис УН.