Sam Altman iz kompanije OpenAI i Dario Amodei iz kompanije Anthropic odvojeno su 23. septembra izvestili Savet bezbednosti UN-a o rizicima sve sposobnijih sistema AI-ja. Obojica su pozvala vlade na saradnju u testiranju i prijavljivanju incidenata. Njihovi predlozi razlikovali su se po obimu, a rasprava Saveta sama po sebi nije uspostavila nova pravila za AI.

Velika promena

Čelnici dve kompanije koje razvijaju napredne modele AI-ja izneli su konkretne predloge za bezbednost na sastanku Saveta bezbednosti posvećenom međunarodnoj bezbednosti. Altman je pozvao na usklađene nacionalne i međunarodne standarde za merenje sposobnosti, procenu zaštitnih mera i očuvanje ljudskog nadzora. Amodei je predložio uži skup sporazuma, počev od zabrane upotrebe AI-ja za izradu biološkog oružja, uz sisteme provere i zajedničke testove zloupotrebe i rizika od gubitka kontrole. To su bili zahtevi pozvanih govornika. O svim merama Saveta morale bi da se dogovore vlade.

Gde se predlozi preklapaju

U automatski generisanom transkriptu sastanka UN-a Altman je zatražio brzo prijavljivanje incidenata i bezbedne kanale za razmenu informacija o ranjivostima između vlada, operatora infrastrukture i tehničkih stručnjaka. Rekao je da standardi treba da obuhvate otvorene i zatvorene modele, nove programere i etablirane laboratorije, dok svaka vlada odlučuje kako će ih primeniti u sopstvenom zakonodavstvu.

Amodei je takođe tražio međunarodne standarde testiranja i prijavljivanje incidenata značajnih za globalnu bezbednost. Dodao je sistem koji bi državama omogućio da sagledaju sposobnosti najnaprednijih modela i provere preuzete obaveze. Ponovio je obećanje kompanije Anthropic da će omogućiti nezavisnim procenjivačima rad u kompaniji i usporiti objavljivanje modela koliko god bude potrebno radi bezbednosti. To su obećanja i predlozi kompanije Anthropic, a ne nezavisni nalazi da njene zaštitne mere funkcionišu.

Obojica su tražila uporedive testove i objavljivanje informacija o ozbiljnim incidentima. Amodei je u svom obraćanju Savetu u prvi plan stavio predloženu zabranu biološkog oružja i proveru između država. Altman je naglasio standarde koje bi vlade mogle da ugrade u sopstvene pravne sisteme. Nijedan predlog nije bio praćen dogovorom članica Saveta o sprovođenju.

Vlade imaju različite stavove o ulozi Saveta

Francuska je sazvala sednicu, na kojoj su govorili i Yoshua Bengio, kopredsedavajući naučnog panela UN-a, i Clément Delangue, izvršni direktor kompanije Hugging Face. Sednica je nastavak ranijih rasprava Saveta o AI-ju, uključujući prvi takav brifing iz jula 2023.

Izjave članica pokazale su koliko zajednička zabrinutost može da se razlikuje od zajedničke politike. Objavljena izjava Letonije podržala je razmatranje neformalne stručne grupe Saveta. U transkriptu UN-a predstavnik SAD protivio se novim strukturama globalnog upravljanja i umesto toga pozvao na jačanje nacionalnih kapaciteta i razmenu najboljih praksi. To su stavovi izneti na sastanku, a ne odluka Saveta.

Dostupni transkript UN-a beleži da je sastanak završen nakon izlaganja govornika. Ne beleži usvajanje rezolucije o AI-ju ni izjave predsedavajućeg. Na stranici se upozorava da je tekst govora dobijen automatskim prepoznavanjem i da nije zvanični zapisnik UN-a.