Istraživači Sakana AI testirali su sistem koji čita naučne radove pre sastavljanja recenzije. U preprintu od 8. oktobra, njihov sistem Multi-Layered Review prepoznao je 73,43% protivrečnosti namerno ubačenih u glavne tvrdnje kada su razmotrene četiri generisane recenzije zajedno. Taj rezultat opisuje najcentralniju kategoriju sintetičkog testa. Na zasebnom skupu povučenih radova sa stvarno prijavljenim problemima, recenzije su se tačno poklopile sa komentarima o povlačenju u 16,11% slučajeva prema strogom testu, odnosno ukazale na sličnu zabrinutost u 26,07% prema blažem.

Velika promena

  • Šta se promenilo: Tim Sakana uporedio je AI recenzije sa prepoznatljivim, namerno ubačenim greškama, umesto da se oslanja samo na sličnost generisane recenzije sa ljudskom. Istaknutih 73,43% obuhvata najcentralnije ubačene protivrečnosti i četiri pokušaja po radu.
  • Zašto je važno: Recenzentima i urednicima potrebni su alati koji ukazuju na suštinske greške, a ne samo na uverljivu prozu. Mnogo niže stope poklapanja za povučene radove pokazuju koliko rezultat zavisi od vrste greške i načina merenja otkrivanja.
  • Šta pratiti: Koristan sledeći test bio bi da se vidi mogu li sistemi pronaći prirodno nastale probleme u različitim oblastima i dužim radovima, pa recenzentima pružiti proverljive dokaze. Preprint je utvrdio i da skrivene instrukcije u predatom tekstu mogu uticati na ocene recenzije.

Kako je test protivrečnosti izveden

Istraživači su počeli sa 257 radova sa AI konferencija ACL, AISTATS, CVPR i ICML 2025, uz NeurIPS 2024. Gemini 2.5 Pro korišćen je za mapiranje tvrdnji i potkrepljujućih pojedinosti u svakom radu. GPT-4.1 je zatim pravio protivrečne pasuse na različitim udaljenostima od glavne tvrdnje u toj mapi. Zamenom originalnih pasusa i ponovnim sastavljanjem radova dobijene su 1.164 izmenjene verzije, svaka sa jednom ubačenom protivrečnošću. Prema dizajnu rada, udaljenost nula označava protivrečnost u glavnoj tvrdnji; veće udaljenosti obuhvataju periferne pojedinosti.

Sakanin recenzent, zasnovan na Claude Sonnet 4, prvo pravi pregled rada, zatim detaljnije ispituje dokaze, pretpostavke i slabosti, pa sastavlja recenziju. Puni okvir može dodati sažetak dodatka i pretragu literature. Za test protivrečnosti istraživači su koristili samo Review Agent, bez te dve opcione komponente. Model o3 upoređivao je svaku recenziju sa izvornim i izmenjenim pasusima kako bi procenio da li je uočena predviđena protivrečnost. Taj korak procene ponovili su deset puta i prijavili prosek.

Rezultat od 73,43% dolazi iz tabele 14 preprinta: protivrečnost na udaljenosti nula računala se kao otkrivena ako ju je prepoznala bilo koja od četiri generisane recenzije . U konstrukciji testa napravljena je po jedna izmenjena verzija sa udaljenošću nula za svaki od 257 izvornih radova. Jedna MLR recenzija ostvarila je 60,79% u toj kategoriji. Za svih 1.164 ubačene protivrečnosti, četiri recenzije ostvarile su 40,95%, a jedna 28,32%. Stopa je opadala kako su se greške udaljavale od glavnih tvrdnji, iako su najudaljenije grupe imale malo primera.

Poređenje treba posmatrati uz njegova podešavanja. Kod grešaka na udaljenosti nula, LLM-Review sa GPT-4.1 ostvario je 14,56%; promenom osnove na Claude Sonnet 4 i uklanjanjem skraćivanja teksta rezultat je porastao na 35,40%. Rezultat jedne MLR recenzije od 60,79% bio je viši. Taj sled ukazuje da su bili važni i izbor modela i postupak recenzije, dok 73,43% za četiri recenzije uključuje i više prilika da se greška uoči. Osnovni modeli koristili su različite modele i formate, pa naslovni broj nije izolovano merenje postupka u tri prolaza.

Test na stvarnim radovima bio je teži

Autori su ocenili i WithdrarXiv-Check, skup podataka povučenih arXiv radova uparenih sa komentarima o povlačenju. Koristili su 211 radova do 30 strana iz prvobitnog test-skupa od 245. Ocenjivač o3 tražio je u generisanoj recenziji zabrinutost koja se poklapa sa komentarom o povlačenju. „Tačno“ poklapanje dalo je MLR rezultat od 16,11%; dopuštanje slične zabrinutosti dalo je 26,07%. Sledeća najbolja osnova u blažem uslovu, AgentReview, ostvarila je 18,48%. To su poklapanja sa dokumentovanim razlozima povlačenja, a ne merenje svih mogućih mana svakog rada.

Poređenje skupova podataka ima ograničenja. Autori navode da su mnogi povučeni radovi iz matematike i fizike, dok su sistemi prvenstveno namenjeni prijavama za AI konferencije. Dodatak prikazuje pad otkrivanja sa većim brojem strana. Sintetički test ima i sopstvenu prednost: u ručnoj proveri 50 ubačenih protivrečnosti, ljudski ocenjivači procenili su da je 34% narušilo prirodan tok okolnog teksta. Zato bi neke veštačke izmene mogle biti lakše za uočavanje od grešaka nastalih tokom istraživanja ili pisanja.

Preprint ispituje i namernu manipulaciju. Istraživači su sitnim belim slovima sakrili tekst posle zaključka u 50 odbijenih radova. U radu se navodi da su ubačene instrukcije uticale na sve testirane sisteme za recenziju; MLR ih je izričito primetio u osam slučajeva. Prosečna promena njegove sopstvene ocene recenzije bila je mala, ali su se pojedinačne promene znatno razlikovale. To je dodatno upozorenje da se tekst predatog rukopisa ne tretira kao pouzdana instrukcija.

Rad nudi konkretniji način da se pita da li AI recenzent uočava poznatu grešku. Ne dokazuje pouzdanost automatizovane stručne recenzije. Rezultate su u preprintu prijavili tvorci sistema; BIG CHANGE nije pokrenuo kod niti nezavisno ponovio evaluacije.

Izvori i dodatno čitanje