Markdown izdanje

AI-translated from English; not yet reviewed by a fluent editor.

# Altman i Amodei traže standarde bezbednosti AI-ja od Saveta bezbednosti UN-a

> Čelnici kompanija OpenAI i Anthropic predložili su testiranje AI-ja, prijavljivanje incidenata i međunarodnu saradnju na brifingu Saveta bezbednosti. Transkript ne beleži donošenje novih pravila Saveta.

By BIG CHANGE Editorial

Published: 2026-09-24T00:57:59.558Z
Updated: 2026-09-24T00:57:59.558Z
Canonical: https://bigchange.ai/blog/un-security-council-ai-safety-briefings

![Conceptual charcoal illustration of the unoccupied UN Security Council chamber, showing its horseshoe-shaped delegation table and surrounding seats.](https://bigchange.ai/api/media/file/un-security-council-chamber-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

Sam Altman iz kompanije OpenAI i Dario Amodei iz kompanije Anthropic odvojeno su 23. septembra izvestili Savet bezbednosti UN-a o rizicima sve sposobnijih sistema AI-ja. Obojica su pozvala vlade na saradnju u testiranju i prijavljivanju incidenata. Njihovi predlozi razlikovali su se po obimu, a rasprava Saveta sama po sebi nije uspostavila nova pravila za AI.

## Velika promena

Čelnici dve kompanije koje razvijaju napredne modele AI-ja izneli su konkretne predloge za bezbednost na sastanku Saveta bezbednosti posvećenom međunarodnoj bezbednosti. Altman je pozvao na usklađene nacionalne i međunarodne standarde za merenje sposobnosti, procenu zaštitnih mera i očuvanje ljudskog nadzora. Amodei je predložio uži skup sporazuma, počev od zabrane upotrebe AI-ja za izradu biološkog oružja, uz sisteme provere i zajedničke testove zloupotrebe i rizika od gubitka kontrole. To su bili zahtevi pozvanih govornika. O svim merama Saveta morale bi da se dogovore vlade.

## Gde se predlozi preklapaju

U [automatski generisanom transkriptu sastanka UN-a](https://transcripts.un.org/en/sc/10228) Altman je zatražio brzo prijavljivanje incidenata i bezbedne kanale za razmenu informacija o ranjivostima između vlada, operatora infrastrukture i tehničkih stručnjaka. Rekao je da standardi treba da obuhvate otvorene i zatvorene modele, nove programere i etablirane laboratorije, dok svaka vlada odlučuje kako će ih primeniti u sopstvenom zakonodavstvu.

Amodei je takođe tražio međunarodne standarde testiranja i prijavljivanje incidenata značajnih za globalnu bezbednost. Dodao je sistem koji bi državama omogućio da sagledaju sposobnosti najnaprednijih modela i provere preuzete obaveze. Ponovio je obećanje kompanije Anthropic da će omogućiti nezavisnim procenjivačima rad u kompaniji i usporiti objavljivanje modela koliko god bude potrebno radi bezbednosti. To su obećanja i predlozi kompanije Anthropic, a ne nezavisni nalazi da njene zaštitne mere funkcionišu.

Obojica su tražila uporedive testove i objavljivanje informacija o ozbiljnim incidentima. Amodei je u svom obraćanju Savetu u prvi plan stavio predloženu zabranu biološkog oružja i proveru između država. Altman je naglasio standarde koje bi vlade mogle da ugrade u sopstvene pravne sisteme. Nijedan predlog nije bio praćen dogovorom članica Saveta o sprovođenju.

## Vlade imaju različite stavove o ulozi Saveta

Francuska je sazvala sednicu, na kojoj su govorili i Yoshua Bengio, kopredsedavajući naučnog panela UN-a, i Clément Delangue, izvršni direktor kompanije Hugging Face. Sednica je nastavak ranijih rasprava Saveta o AI-ju, uključujući [prvi takav brifing iz jula 2023](https://press.un.org/en/2023/sc15359.doc.htm).

Izjave članica pokazale su koliko zajednička zabrinutost može da se razlikuje od zajedničke politike. [Objavljena izjava Letonije](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) podržala je razmatranje neformalne stručne grupe Saveta. U transkriptu UN-a predstavnik SAD protivio se novim strukturama globalnog upravljanja i umesto toga pozvao na jačanje nacionalnih kapaciteta i razmenu najboljih praksi. To su stavovi izneti na sastanku, a ne odluka Saveta.

Dostupni transkript UN-a beleži da je sastanak završen nakon izlaganja govornika. Ne beleži usvajanje rezolucije o AI-ju ni izjave predsedavajućeg. Na stranici se upozorava da je tekst govora dobijen automatskim prepoznavanjem i da nije zvanični zapisnik UN-a.

## Sources

- [Savet bezbednosti UN-a, 10.228. sastanak: veštačka inteligencija i međunarodna bezbednost](https://transcripts.un.org/en/sc/10228) — Vremenski označen automatski transkript sastanka, odvojenih brifinga direktora kompanija, izlaganja članica i završetka sednice. UN izričito navodi da to nije zvanični zapisnik. U njemu nema usvajanja rezolucije o AI-ju ni izjave predsedavajućeg; zvanični zapisnik sastanka još nije pronađen.
- [Letonija: Izjava na brifingu Saveta bezbednosti o veštačkoj inteligenciji](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) — Zvanično objavljena izjava članice, datirana 24. septembra za sednicu od 23. septembra. Pominje četiri govornika i predlaže da se razmotri neformalna stručna grupa Saveta; to je stav Letonije, a ne odluka Saveta.
- [Izveštavanje UN-a: prva rasprava Saveta bezbednosti o rizicima i prednostima AI-ja](https://press.un.org/en/2023/sc15359.doc.htm) — Zvanični indeksirani prikaz rasprave Saveta o AI-ju iz jula 2023, korišćen samo da se potvrde raniji postupci. Odgovarajući zvanični privremeni zapisnik takođe potvrđuje prethodnu raspravu.