Anthropic navodi da je počeo da daje pristup svojim internim sistemima za procenu rizika od AI-ja šestoro zaposlenih u neprofitnoj organizaciji METR. Ovaj aranžman malom spoljnom timu pruža bliži uvid u rad kompanije nego javno objavljivanje modela ili izveštaj o riziku. Anthropic i dalje kontroliše koje informacije tim dobija i može da zahteva uklanjanje određenog materijala iz analiza koje METR objavljuje.

Anthropic je saradnju najavio 15. oktobra i ažurirao saopštenje 16. oktobra kako bi pojasnio važeće uslove objavljivanja. Najava opisuje aranžman pristupa, a ne završenu METR-ovu procenu rizika u Anthropicu. Njegova vrednost za čitaoce zavisiće od toga šta METR može da ispita i šta njegov budući izveštaj može da objasni o ograničenjima.

Velika promena

  • Šta se promenilo: Anthropic navodi da šest zaposlenih u METR-u ima opremu kompanije, kancelarijski prostor i pristup internim alatima približno uporediv sa njegovim timovima za procenu rizika. Očekuje se da METR objavljuje analize nivoa rizika, incidenata ili praksi Anthropica.
  • Zašto je važno: Spoljni procenjivač možda može da ispita interne dokaze koje javnost ne vidi. METR-ov budući prikaz može da opiše i bitna ograničenja pristupa i izostavljanje informacija, pomažući čitaocima da odmere zaključke.
  • Na šta obratiti pažnju: Anthropic navodi da ne može da stavi veto na METR-ovo objavljivanje, ali može da zahteva izostavljanje informacija prema unapred određenim kategorijama i konačno odlučuje šta spada u njih. Najava ne utvrđuje nikakav rezultat procene ovog tima uključenog u rad kompanije.

Čemu šest procenjivača može da pristupi

Anthropic navodi da je uključio šest zaposlenih u METR-u, dajući im opremu kompanije, kancelarijski prostor i pristup internim alatima i sistemima „približno na nivou” svojih timova za procenu rizika. Podstiče zaposlene da sa njima dele relevantne informacije kao sa kolegom koji radi na riziku usklađivanja AI-ja. Kao primere izuzetih kategorija kompanija navodi podatke klijenata, informacije zaštićene poverljivošću odnosa advokata i klijenta i arhitekture modela. Navodi da bi informacije o arhitekturi ponekad mogle da se podele kada su veoma relevantne, uz izričita interna odobrenja.

To je sadržajan opis pristupa, ali nije spisak svih skupova podataka, sistema ili intervjua koje je tim zaista koristio. U saopštenju Anthropica navodi se da tim radi na osnovu pravno izvršivih sporazuma i da su drugi zaposleni u METR-u, uključujući istraživače na drugim projektima sa Anthropicom, odvojeni od njegovog rada. BIG CHANGE je pregledao javna saopštenja; nismo pregledali sporazum niti interne sisteme.

METR-ov predlog od 14. oktobra za procene gubitka kontrole objašnjava kakve dokaze želi od razvijalaca najnaprednijih modela. Izdvaja tri pitanja: da li bi interni AI agenti mogli da preduzmu ozbiljno štetne radnje, da li bi nadzor to otkrio i zaustavio i da li bi istraživanje uz AI moglo da ubrza razvoj sposobnosti više nego što zaštitne mere mogu da prate. Za ta pitanja METR opisuje mogući pristup kontrolnim tačkama modela, internim transkriptima, sistemima nadzora i merilima istraživačkog napretka. Taj dokument je predlog za više razvijalaca, a ne popis onoga što je Anthropic obezbedio u ovoj saradnji.

Prava objavljivanja i njihova ograničenja

Anthropic navodi da METR može da objavljuje analize nivoa rizika, incidenata ili praksi kompanije bez veta Anthropica. Kompanija može da zahteva uklanjanje informacija iz unapred definisanih kategorija. Pojašnjenje od 16. oktobra dodaje da Anthropic konačno odlučuje da li informacije spadaju u te kategorije, dok METR zadržava pravo da daje određene izjave o pristupu i informacijama koje je dobio. Pravo na objavljivanje nalaza, dakle, postoji uporedo sa kontrolom kompanije nad osetljivim detaljima.

METR-ova politika rada sa AI kompanijama navodi da izveštaji treba da otkriju obim i trajanje rada, ograničenja pristupa koja utiču na zaključke, važno izostavljanje informacija i pritiske koji mogu oblikovati rezultat. METR navodi da nastoji da napravi sažetak izostavljanja kada kompanija ukloni informacije važne za njegove zaključke. To su prakse i ciljevi koje je METR naveo; javnost još ne može da proveri kako će se primeniti u izveštaju ovog novog tima uključenog u kompaniju.

METR takođe priznaje da dobrovoljne procene zavise od toga da kompanije daju pristup i dozvole objavljivanje. Navodi da kompanije mogu da uskrate pristup ili uklone materijal na načine koji utiču na dokaze dostupne javnosti. Predlog od 14. oktobra kaže da bi se postupak usredsredio na tehnička pitanja gubitka kontrole i da ne bi predstavljao reviziju bezbednosne zaštite, organizacionog upravljanja ili usklađenosti sa propisima. METR navodi da nauka koja je u osnovi ovog rada još ne može da pruži pouzdano uveravanje da je razvoj bezbedan.

Anthropic opisuje pristup u tri nivoa za druge procenjivače. Aranžman sa METR-om je treći nivo, sa pristupom sličnim pristupu zaposlenih i pravima objavljivanja. Raniji nivoi nude uže istrage ili ograničenija prava objavljivanja. Ti opisi nivoa predstavljaju planove Anthropica i važeće uslove saradnje, a ne dokaz da svaki partner ima METR-ov pristup.

Javna provera ovog aranžmana biće METR-ovi izveštaji: koja pitanja rizika je istraživao, koje interne dokaze je mogao da ispita i koja ograničenja ili izostavljanja može da opiše. Sadašnja saopštenja utvrđuju uslove koje je Anthropic najavio i pristup koji je METR objavio. Ne utvrđuju nalaz o bezbednosti Anthropica ili delotvornosti procene tima unutar kompanije.

Izvori i dodatno čitanje