Markdown издање

AI-translated from English; not yet reviewed by a fluent editor.

# Алтман и Амодеи траже од Савета безбедности УН стандарде за безбедност AI-ја

> Директори OpenAI-ја и Anthropic-а предложили су тестирање AI-ја, пријављивање инцидената и међународну сарадњу на брифингу Савета безбедности. Транскрипт не бележи усвајање новог правила Савета.

By BIG CHANGE Editorial

Published: 2026-09-24T00:57:59.558Z
Updated: 2026-09-24T00:57:59.558Z
Canonical: https://bigchange.ai/blog/un-security-council-ai-safety-briefings

![Conceptual charcoal illustration of the unoccupied UN Security Council chamber, showing its horseshoe-shaped delegation table and surrounding seats.](https://bigchange.ai/api/media/file/un-security-council-chamber-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

Сем Алтман из OpenAI-ја и Дарио Амодеи из Anthropic-а одвојено су се обратили Савету безбедности УН 23. септембра о ризицима које носи све способнији AI. Обојица су позвала владе да сарађују на тестирању и пријављивању инцидената. Њихови предлози су се разликовали по обиму, а расправа Савета сама по себи није успоставила ново правило за AI.

## Велика промена

Челници две компаније које развијају напредне AI моделе изнели су конкретне безбедносне предлоге на састанку Савета безбедности о међународној безбедности. Алтман је позвао на усклађене националне и међународне стандарде за мерење способности, процену заштитних мера и очување људског надзора. Амодеи је предложио уже договоре, почев од забране коришћења AI-ја за израду биолошког оружја, уз системе провере и заједничке тестове злоупотребе и губитка контроле. То су били предлози позваних говорника. Владе би морале да се усагласе о свакој мери Савета.

## У чему се предлози подударају

У [аутоматски генерисаном транскрипту састанка УН](https://transcripts.un.org/en/sc/10228), Алтман је затражио брзо пријављивање инцидената и безбедне канале за размену информација о рањивостима између влада, оператера инфраструктуре и техничких стручњака. Рекао је да стандарди треба да обухвате отворене и затворене моделе, нове програмере и етаблиране лабораторије, док би свака влада одлучивала како ће их применити у сопственом законодавству.

Амодеи је такође тражио међународне стандарде тестирања и обавештавање о инцидентима значајним за глобалну безбедност. Додао је систем који би државама омогућио да виде способности најнапреднијих модела и проверавају поштовање обавеза. Поновио је Anthropic-ово обећање да ће у компанију примити спољне оцењиваче и успорити објављивање колико год буде потребно ради безбедности. То су обавезе и предлози компаније Anthropic, а не независни налази да њене мере заштите делују.

Обојица су тражила упоредиве тестове и објављивање озбиљних инцидената. Амодеи је предлог забране биолошког оружја и проверу договора између држава ставио у средиште свог обраћања Савету. Алтман је нагласио стандарде које би владе могле да примене у сопственим правним системима. Ни уз један предлог није постојао договор чланица Савета о спровођењу.

## Владе различито виде улогу Савета

Седницу је сазвала Француска; обратили су се и копредседавајући научног панела УН Јошуа Бенжио и извршни директор компаније Hugging Face Клеман Деланг. Она је уследила након ранијих расправа Савета о AI-ју, међу којима је била и [прва таква расправа у јулу 2023.](https://press.un.org/en/2023/sc15359.doc.htm).

Изјаве чланица показале су колико је заједничка забринутост удаљена од заједничке политике. [Објављена изјава Летоније](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) подржала је разматрање неформалне стручне групе Савета. Према транскрипту УН, представник САД противио се новим структурама глобалног управљања и уместо тога позвао на јачање националних капацитета и размену најбољих пракси. То су ставови изнети на састанку, а не одлука Савета.

Доступни транскрипт УН бележи да је састанак завршен после изјава говорника. У њему није забележено усвајање резолуције о AI-ју нити председничке изјаве. На страници стоји упозорење да је говор аутоматски препознат и да транскрипт није званични запис УН.

## Sources

- [Савет безбедности УН, 10228. састанак: вештачка интелигенција и међународна безбедност](https://transcripts.un.org/en/sc/10228) — Временски означен аутоматски транскрипт састанка, засебних брифинга директора компанија, излагања чланица и завршетка седнице. УН изричито наводе да ово није званични запис. У њему није забележено усвајање резолуције о AI-ју нити председничке изјаве; званични запис састанка још није пронађен.
- [Летонија: Изјава на брифингу Савета безбедности о вештачкој интелигенцији](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) — Званична објављена изјава чланице, датирана 24. септембра за седницу одржану 23. септембра. У њој се наводе четири говорника и предлаже разматрање неформалне стручне групе Савета; то је став Летоније, а не одлука Савета.
- [Новости УН о састанцима: прва расправа Савета безбедности о ризицима и предностима AI-ја](https://press.un.org/en/2023/sc15359.doc.htm) — Званични индекс УН о расправи Савета о AI-ју у јулу 2023, коришћен само за потврду ранијих поступака. Одговарајући званични привремени запис састанка такође потврђује да је расправа одржана.