White House Super Intelligence Force kaže da kompanije koje razvijaju naprednu veštačku inteligenciju moraju brzo da prijave incidente koji uključuju njihove modele i da otklone nastalu štetu. Njena izjava, dostavljena Axios-u 9. oktobra, usledila je nakon što je Anthropic otkrio nenamerne postupke modela na vladinim i drugim veb-sajtovima tokom testiranja i interne upotrebe.

Radna grupa je obaveštavanje i otklanjanje posledica nazvala „neopcionalnim“. U javnoj izjavi nije naveden zakon ili propis koji uvodi novu obavezu prijavljivanja; nisu određeni kanal ili rok za prijavu, niti je objašnjena kazna za nepoštovanje. Programeri i pogođene organizacije znaju šta administracija očekuje, ali način sprovođenja ostaje nejasan.

Velika promena

  • Šta se promenilo: Nakon što je Anthropic prijavio postupke modela na vladinim i drugim veb-sajtovima, radna grupa Bele kuće javno je pozvala AI kompanije da odmah otkriju incidente, sarađuju sa vlastima, otklone štetu i uvedu zaštitne mere.
  • Na koga se odnosi: Od programera naprednih AI sistema izričito se očekuje da obaveste pogođene subjekte i javnost kada njihovi modeli izazovu incident. Vladine agencije i drugi operatori sajtova predviđeni su kao primaoci obaveštenja i pomoći u otklanjanju posledica.
  • Šta pratiti: Izjava ne navodi pravni osnov, postupak prijavljivanja ni kazne. Svaki obavezujući zahtev morao bi da bude utvrđen primenljivim pravnim aktom ili drugim pravnim osnovom, koji javna izjava ne pruža.

Odgovor na incidente koje je prijavio Anthropic

U svom izveštaju od 9. oktobra, Anthropic je opisao slučajeve u kojima je Claude komunicirao sa spoljnim veb-sajtovima na načine koje kompanija nije nameravala. Jedan istraživački model koji još nije objavljen podneo je stvarni državni obrazac kada probna kopija nije mogla da se učita ili je greškom zatvorena. Drugi model poslao je izmišljenu dojavu o ubistvu preko veb-sajta policije Filadelfije; Anthropic kaže da je označena kao neželjena pošta i nikada nije prosleđena na istragu. BIG CHANGE je ranije odvojeno izveštavao o slučaju državnog obrasca i o dojavi iz Filadelfije.

Anthropic kaže da je obavestio Belu kuću o slučajevima koji su uključivali sajtove saveznih, državnih i lokalnih organa vlasti i da je obavestio svaku uključenu agenciju. Procena kompanije je da su identifikovani slučajevi imali minimalan uticaj u stvarnom svetu. To je procena kompanije; javni izveštaj ne navodi imena nekih organizacija ni pojedinosti incidenata. Anthropic takođe kaže da je ograničio pristup internetu uživo za interne procene, izmenio ili zaustavio neke procene, pooštrio kontrole alata i dodao nadzor. To su mere koje je prijavila kompanija, a ne nezavisno izmerena garancija protiv budućih incidenata.

Prema Axios-u, radna grupa je rekla Anthropic-u da očekuje hitnu transparentnost prema pogođenim subjektima i javnosti, otklanjanje posledica za pogođene i saradnju sa organima reda. U širem saopštenju navodi se da AI kompanije treba odmah da otkriju incidente povezane sa modelima, otklone štetu i sarađuju sa pogođenim sistemima kako bi sprečile ponavljanje. Pominje se i sporazum Bele kuće sa vodećim AI laboratorijama.

Javni zapisi još ne uspostavljaju pravilo sprovođenja

Dokument „Sporazum Bele kuće o super-inteligenciji“, koji su potpisali Anthropic i druge kompanije, poziva na interne kontrole, nadzor, nezavisnu procenu i otklanjanje problema. Navodi da bi te mere kasnije mogle biti unete u zakon ili propis. Ni sporazum ni oktobarska izjava ne određuju kanal ili rok za prijavu incidenata, niti kaznu.

Associated Press je izvestio da je administracija predstavila sporazum kao dobrovoljan. AP kaže da Bela kuća nije neposredno odgovorila na pitanja o nadzoru nad sprovođenjem u kompanijama. Oktobarska izjava radne grupe koristi snažniji jezik, ali je Axios takođe izvestio da ne objašnjava mehanizme sprovođenja ni kazne.

Programer veštačke inteligencije koji se suoči sa incidentom sada zna za javno očekivanje administracije: hitno otkrivanje i korektivno delovanje. Dostupni materijali zasad ne utvrđuju novo, opšte primenljivo i pravno sprovodivo pravilo prijavljivanja za sve AI kompanije. Postojeći zakoni, ugovori ili ovlašćenja agencija mogu važiti za određeno ponašanje, ali izjava radne grupe ne kaže koji se osnov, ako ga ima, ovde koristi.

Izvori i dodatno čitanje