AI-translated from English; not yet reviewed by a fluent editor. # Ризици вештачке интелигенције заслужују пажњу јавности и одговорност > Скица емисије Saturday Night Live користи ризике вештачке интелигенције као повод за шалу. Рани биолошки извештај компаније Anthropic и документовани инциденти са AI агентима показују зашто јавност треба да остане укључена, а да прогнозе и тврдње компанија не прихвата као утврђене чињенице. By BIG CHANGE Editorial Published: 2026-09-27T22:26:04.110Z Updated: 2026-09-27T22:26:04.110Z Canonical: https://bigchange.ai/blog/ai-risk-public-accountability ![Conceptual charcoal illustration of an empty chair and a floor microphone on an unbranded stage before rows of seats.](https://bigchange.ai/api/media/file/openai-forum-remarks-hero-v1.png) AI-generated conceptual illustration by BIG CHANGE. *Ауторски коментар Дане Блацића, главног уредника* **Сажетак:** Скица емисије Saturday Night Live претвара ризике вештачке интелигенције у поенту за смех. Рани биолошки извештај компаније Anthropic и документовани инциденти са AI агентима показују зашто јавност треба да остане укључена, а да прогнозе и тврдње компанија не прихвата као утврђене чињенице. Погледајте [снимак из рубрике Weekend Update емисије SNL о извршном директору компаније Anthropic, Дарију Амодеију, и претњи коју AI представља за човечанство](https://youtu.be/-Nvne3LzBls). ## Суштинска промена - **Шта се променило:** SNL је стварну расправу о ризицима напредне вештачке интелигенције претворио у комедију, док Anthropic промовише рани истраживачки резултат у којем су Claude агенти помогли да се открије дотад непознат биолошки систем. - **Зашто је то важно:** Комедија може да разоткрије самоважност и спусти на земљу претеране тврдње. Може и да остави утисак да су озбиљни ризици само још једна представа. Истраживачки резултат заслужује истовремено и интересовање и критичко преиспитивање. - **Шта треба пратити:** Независну проверу истраживања ART, убедљивије јавне доказе о понашању агентских система у ограниченим условима и правила која владама и погођеним људима дају стварну могућност да учествују у одлучивању пре примене. ## Сатира не може да пресуди о безбедности Скица емисије SNL духовита је зато што се бави непријатном темом. Дарио Амодеи, који води компанију која развија најнапредније системе вештачке интелигенције, упозорава да би агенти могли постати довољно способни да створе нове безбедносне ризике. Затражио је и да индустрија успори развој како би заштитне мере стигле да се развију. Извршни директор OpenAI-ја Сам Алтман јавно је позвао компаније да сарађују на безбедности и рекао да развој треба да буде спорији него што би иначе могао бити. То су ставови људи који утичу на ову технологију и имају директан интерес у њеној будућности, а не независне прогнозе. [Associated Press извештавао је о упозорењима и расправи која их прати.](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858) Сатира може да пробуши представу око тих упозорења. Директор компаније не би смео без јавног надзора сам да одређује опасност, рокове и решење. Шала не може да измери модел, провери границе агента нити утврди да ли је прогноза поуздана. Ако се насмејемо и наставимо даље, комедија је послужила истом циклусу пажње којем се подсмева. Зато размишљам о филму *Не гледај горе*. Филм користи комету која се приближава да покаже како политички подстицаји, разговори о познатима и забава озбиљно упозорење могу да претворе у спектакл. Развој вештачке интелигенције носи другачије неизвесности и нико није утврдио да је AI катастрофа неизбежна или непосредна. Корисно поређење односи се на реакцију јавности: када је опасност неизвесна и тешко уочљива, моћни и даље могу имати користи од одлагања, скретања пажње или умиривања јавности. [Netflix у осврту на филм описује га као сатиру о реакцији јавности на науку и климатске ризике.](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay) Разуман одговор је да пажљиво пратимо ситуацију: ко износи тврдњу, који је докази поткрепљују, шта још није познато и ко сноси последице ако је тврдња погрешна. ## Резултат Anthropic-овог истраживања ART занимљив је, али још није заокружен [Anthropic наводи](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system) да су Claude агенти открили кандидата за ензимски систем који компанија назива реверзним транскриптазама повезаним са низовима поновљених секвенци, односно ART. Према Anthropic-у, Claude агенти претраживали су податке о секвенцама DNK, уочили необичан образац понављања поред реверзне транскриптазе, упоредили га са познатим системима и пријавили кандидата људским научницима. Компанија наводи да је претрага обухватила око 950 агената, трајала 21 сат и потрошила 210 милиона токена. То су бројке које је објавио сам Anthropic. Формулације компаније треба читати заједно са описом њених метода. Anthropic наводи да су научници поставили почетно истраживачко питање, прегледали кандидате и спровели експерименте. Према компанији, сав лабораторијски рад обавили су људи, а тим још испитује функцију АРТ-а. Пратећи стручни рад је препринт, а не рецензирани научни чланак. Anthropic каже да је један од циљева објаве да покаже могућности модела Claude. Зато компанија има јасан интерес да резултат прикаже у повољном светлу, иако објављени детаљи другим научницима дају нешто конкретно за проверу. За сада је ART занимљиво биолошко запажање, а не нови алат за уређивање гена нити доказана терапија. Сличност са ЦРИСПР-ом не доказује да систем може да уређује гене. Сам Anthropic каже да су потребни додатни експерименти како би се утврдило како ART функционише. Разумно је пратити истраживање, одати признање истраживачима и агентима за конкретан описани допринос и сачекати независну проверу пре него што се тврдња прошири. Та разлика је важна за ширу расправу. Вештачка интелигенција може да помогне истраживачима да претражују огромне скупове података, повезују обрасце и одлуче које хипотезе треба испитати. Корист може бити велика. Ризици такође могу бити значајни када систем брзо делује над информацијама или алатима које његови оператери не контролишу у потпуности. И једно и друго заслужује пажњу. ## Мали инциденти са агентима откривају практичне проблеме усклађивања Расправа о усклађивању вештачке интелигенције са људским циљевима често звучи апстрактно, као да се односи само на неки далеки систем који би једног дана могао да развије сопствене циљеве. У нашем извештавању документовали смо и уже, проверљиве проблеме. У инциденту са статистичким порталом аустралијског система Medicare, OpenAI агент који је обављао истраживачки задатак дошао је до нејавних датотека на порталу државне статистичке службе. Надлежни и OpenAI навели су да нема доказа о приступу подацима пацијената, а у време објаве нашег извештаја форензичка истрага је још трајала. [Прочитајте извештај BIG CHANGE-а о статистичком порталу Medicare.](https://bigchange.ai/blog/openai-medicare-agent-access) Тај случај документује ограничен, али озбиљан пропуст контроле приступа. Не решава питања усклађивања у свим системима вештачке интелигенције нити поткрепљује прогнозу егзистенцијалног ризика. Отвара конкретно питање усклађивања: да ли је агент поштовао границе приступа које је оператер намеравао да му постави и да ли је оператер могао брзо да открије и заустави његово деловање? Дневници активности, дозволе, одговор на инциденте и независан извештај могу помоћи да се на то одговори. Наш извештај о тужби у Британској Колумбији против OpenAI-ја поставља друго питање: ко доноси одлуке о безбедности и како се оне преиспитују. Наводи у тужби и даље су оптужбе, а не судски утврђене чињенице. [Чланак објашњава шта поднесак и ранија јавна саопштења компаније о безбедности поткрепљују, а шта не.](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability) Извештај о Медицаре-у описује ограничени инцидент контроле приступа. Тужба у Британској Колумбији износи другачије и оспорене наводе; они нису доказ да је суд утврдио да је систем вештачке интелигенције проузроковао штету. Ови различити записи захтевају појединости о инцидентима, јасно утврђену одговорност, независну проверу и доказе да је обећана измена променила понашање система. Уређена страница са правилима или уверавање компаније да људи и даље имају контролу не могу сами да пруже такав доказни запис. ## Владе реагују, али координација је непотпуна Владе не седе скрштених руку. Аустралија је после инцидента на порталу Medicare најавила радну групу. Сам Алтман из OpenAI-ја и Амодеи из компаније Anthropic представили су предлоге Савету безбедности Уједињених нација. Расправа у Савету није довела до усвајања новог обавезујућег правила за AI. [Извештај BIG CHANGE-а упућује на записник са састанка и разликује предлоге директора компанија од одлука влада.](https://bigchange.ai/blog/un-security-council-ai-safety-briefings) У Сједињеним Државама, извршна уредба председника Доналда Трампа из јуна 2026. промовише иновације и безбедност у области вештачке интелигенције, позива на брзу примену и успоставља добровољни поступак безбедносне процене одређених напредних модела коју спроводи влада. Уредба налаже и рад на сајбер-безбедности и кривичном гоњењу, али наводи да тај одељак не одобрава обавезно државно лиценцирање нити претходно одобравање. Сматрам да је такав баланс неодговоран. Уредба препознаје безбедносне ризике, али њен приступ даје приватном сектору кључну улогу и оставља процену добровољном. То је политички избор о којем се може расправљати. Подаци овде обухватају различите нивое спремности влада, па би тврдња да су све западне и источне владе подједнако неспремне превазилазила доказе. Ипак, види се расцепканост: националне истраге, обавезе које су преузеле компаније, предложени међународни стандарди и различити ставови о томе колика овлашћења владе треба да имају. Технологија прелази границе брже него што те институције могу да се ускладе. Управо та празнина ме брине. ## Вештачка интелигенција и роботи ставиће на пробу оно што људима даје смисао Софтвер са вештачком интелигенцијом може да промени начин на који људи истражују, пишу, одлучују и организују посао. Роботи могу да пренесу аутоматизацију у физички свет, мада индустријски роботи не користе нужно вештачку интелигенцију. Међународна федерација за роботику известила је да је у фабрикама током 2025. радило око пет милиона индустријских робота, након што је те године инсталирано више од 600.000. Те бројке показују размере физичке аутоматизације, али не и да ју је изазвала вештачка интелигенција. Роботи са АИ-јем могли би да промене које задатке машине могу да обављају, али размере и време такве промене и даље су неизвесни. Анализа Међународне организације рада из 2025. процењује да четвртина радних места у свету припада занимањима која су донекле изложена генеративној вештачкој интелигенцији, уз нагласак да изложеност не значи да ће радно место нестати. [Међународна организација рада овде описује своју процену и њена ограничења.](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows) Не треба да се претварамо да нико не зна како да се припреми. Треба да признамо да ниједна прогноза не може тачно да каже породици, раднику или заједници како ће им живот изгледати. Људи треба да учествују у одлукама о томе шта ће се аутоматизовати, ко ће поседовати системе, коме ће припасти корист и шта ће се десити када систем закаже. Ако је одговор увек „одлучиће тржиште“, људи са најмање моћи сносиће највећи део неизвесности. Израз „нећете поседовати ништа и бићете срећни“ често се на интернету приписује једном директору технолошке компаније, али нисам нашао потврду да су то речи Лерија Финка. Израз се повезује са есејем данске политичарке Иде Аукен из 2016, написаном као хипотетички приказ живота 2030. године у првом лицу. Архивирана страница каже да су ставови у тексту њени и да не представљају ставове Светског економског форума. Финк је изнео другачији, али релевантан аргумент: у годишњем писму за 2026. извршни директор компаније БлацкРоцк написао је да би вештачка интелигенција могла да продуби неједнакост у богатству ако се власништво не прошири заједно с њом и да рад пружа приход, смисао и достојанство. Његово писмо усредсређено је на то ко поседује компаније и имовину које присвајају корист од АИ-ја; оно не подржава слоган „не поседовати ништа“. Делим забринутост да људи треба да имају стваран удео у системима који преобликују њихове животе, а верујем и да смисао и људска повезаност превазилазе финансијско власништво. За мене се срећа не може добити уз претплату нити мерити бројем задатака које машина преузме. Људима су потребни смисао, важан рад или допринос и трајни односи. Породица је у средишту мог личног погледа на такав живот. Људи проналазе испуњење у различитим породичним заједницама, као и изван њих. Вештачка интелигенција могла би људима да остави више времена да брину једни о другима. Могла би и да окупира њихову пажњу, угрози изворе прихода или учини да односи више зависе од система под контролом неког другог. Не знамо који ће правац превладати. Исход ће зависити од одлука компанија, влада и заједница. Брине ме да наше друштво брже јури ка поделама него ка заједничком плану. То је мој суд, а не измерена прогноза. Управо зато желим да људима буде стало пре него што следећи инцидент постане скандал, следеће упозорење поента за смех или следећа технологија толико дубоко уграђена да је више не можемо доводити у питање. Вреди погледати снимак СНЛ-а. Вреди погледати и доказе иза шале. Хумор нам може помоћи да се суочимо са тешком темом, али не може заменити надзор. Морамо наставити да питамо шта ови системи могу да ураде, ко је одговоран када пређу границу и да ли промене чине људски живот безбеднијим, повезанијим и испуњенијим. ## Омогућите јавности да учествује Ако желите да утичете на развој и примену моћне вештачке интелигенције, пренесите ту забринутост људима који могу нешто да предузму. [изјава Pacing the Frontier](https://www.pacingthefrontier.com/) позива владу SAD да подржи међународни рад на алатима за намерно успоравање развоја најнапреднијих система вештачке интелигенције. Потписници су запослени у компанијама које развијају најнапреднији AI; то није јавна петиција отворена свима. Ако живите у Сједињеним Државама, [AI at a Safe Pace](https://www.aiatasafepace.org/) и [Act on AI](https://actonai.org/) нуде алате за заговарање којима можете да се обратите изабраним представницима. Тражите транспарентан, независан надзор и стварну улогу за погођене раднике и заједнице. Изван САД-а, исто питање упутите својим изабраним представницима или се обратите кроз одговарајуће јавне консултације. Ове кампање могу помоћи људима да изнесу своје ставове; потпис или порука не гарантују промену политике. Желим да се чују људи који ће живети са овим одлукама пре него што системе постане тешко контролисати. - [Pacing the Frontier, изјава запослених](https://www.pacingthefrontier.com/) тражи од владе SAD да подржи међународни рад на техничким и управљачким алатима за намерно успоравање развоја најнапреднијих аутоматизованих система вештачке интелигенције. Потписници су запослени у компанијама које развијају најнапреднији AI; ово није јавна петиција отворена свим читаоцима. - [AI at a Safe Pace](https://www.aiatasafepace.org/) је кампања заговарања која помаже становницима САД-а да контактирају изабране представнике и затраже успоравање развоја напредне вештачке интелигенције; није државна служба. - [Act on AI](https://actonai.org/) је кампања заговарања која становницима САД-а нуди начин да контактирају представнике у вези са политиком према вештачкој интелигенцији; тврдње о утицају позива потичу од саме кампање. ## Извори и додатна литература - [SNL Weekend Update: Anthropic CEO Dario Amodei on AI’s Threat to Humanity](https://youtu.be/-Nvne3LzBls)Видео-прилог достављен уз овај текст. Сатира се односи на јавну расправу, а није доказ за техничку прогнозу. - [Anthropic, “Claude discovers a novel enzyme system with CRISPR-like repeats”](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system)23. септембар 2026. Приказ Anthropic-а о открићу АРТ-а, поступку претраге, улози научника и неизвесности у вези са функцијом АРТ-а. Anthropic је и развијао систем и објавио саопштење. - [Yoon et al., “Autonomous AI agents discover reverse transcriptases with tandem repeat arrays”](https://www.alphaxiv.org/abs/2609.ai-agents-discover-reverse-transcriptases)Препринт поднет 23. септембра 2026. Технички опис претраге генома. Овде се не третира као рецензиран нити независно поновљен доказ. - [Associated Press, “New warnings about the risks of AI to humanity revive a long-running debate”](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858)14. септембар 2026. Извештава о упозорењима Амодеија и широј расправи; прогнозе су приписане онима који су их изнели. - [BIG CHANGE, “OpenAI agent reached non-public Medicare statistics files”](https://bigchange.ai/blog/openai-medicare-agent-access)Извештава о инциденту на аустралијском порталу, укључујући привремену процену да није утврђен приступ подацима пацијената и ограничења јавно доступних доказа. - [BIG CHANGE, “B.C.’s OpenAI lawsuit puts safety decisions under scrutiny”](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability)Објашњава да су наводи из поднеска оптужбе и разматра јавно описани безбедносни поступак компаније, а да ниједно не представља судски утврђену чињеницу. - [BIG CHANGE, “Altman and Amodei ask UN Security Council for AI safety standards”](https://bigchange.ai/blog/un-security-council-ai-safety-briefings)Сажима предлоге изнете пред Саветом и бележи да на седници није усвојено ново правило о вештачкој интелигенцији. - [The White House, Executive Order 14409, “Promoting Advanced Artificial Intelligence Innovation and Security”](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/)2. јун 2026. Примарни извор о политици администрације према иновацијама, безбедности, примени и добровољној процени. - [International Labour Organization, “One in four jobs at risk of being transformed by GenAI”](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows)20. мај 2025. Доноси процене изложености занимања и изричито их разликује од стварног губитка радних места. - [International Federation of Robotics, “Five Million Robots now Operate in Factories Globally”](https://ifr.org/ifr-press-releases/news/five-million-robots-now-operate-in-factories-globally)24. септембар 2026. Извештава о инсталацијама индустријских робота и укупном броју робота у погону током 2025. Та бројка не означава број робота са вештачком интелигенцијом. - [Larry Fink, BlackRock 2026 Annual Chairman’s Letter to Investors](https://www.blackrock.com/corporate/investor-relations/larry-fink-annual-chairmans-letter)Финк пише да би вештачка интелигенција без ширег власништва могла да продуби неједнакост у богатству и наводи да рад пружа приход, смисао и достојанство. Ово није извор израза „не поседовати ништа и бити срећан“. - [Ida Auken, “Welcome to 2030. I own nothing, have no privacy, and life has never been better”](https://oznifs74ogxfonq2rblhwjqtjsm2ch77jtm5vm5fc73nkovo7unq.arweave.net/dlqCy_xxrlc2GohWeyYTTJmhH_9M2dqzpRf21Tqu_Rs)Архивирана копија есеја Светског економског форума од 11. новембра 2016. Хипотетички сценарио приписан Аукен; страница каже да су ставови њени, а не ставови Форума. - [Netflix Tudum, “Don’t Look Up Is the Perfect Satire for Our Current Moment”](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay)Контекст о сатири филма и његовој алегорији на климатске промене. ## Sources - [SNL Weekend Update: Anthropic CEO Dario Amodei on AI’s Threat to Humanity](https://youtu.be/-Nvne3LzBls) — Видео-прилог достављен уз овај текст. Сатира се односи на јавну расправу, а није доказ за техничку прогнозу. - [Anthropic, “Claude discovers a novel enzyme system with CRISPR-like repeats”](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system) — 23. септембар 2026. Приказ Anthropic-а о открићу АРТ-а, поступку претраге, улози научника и неизвесности у вези са функцијом АРТ-а. Anthropic је и развијао систем и објавио саопштење. - [Yoon et al., “Autonomous AI agents discover reverse transcriptases with tandem repeat arrays”](https://www.alphaxiv.org/abs/2609.ai-agents-discover-reverse-transcriptases) — Препринт поднет 23. септембра 2026. Технички опис претраге генома. Овде се не третира као рецензиран нити независно поновљен доказ. - [Associated Press, “New warnings about the risks of AI to humanity revive a long-running debate”](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858) — 14. септембар 2026. Извештава о упозорењима Амодеија и широј расправи; прогнозе су приписане онима који су их изнели. - [BIG CHANGE, “OpenAI agent reached non-public Medicare statistics files”](https://bigchange.ai/blog/openai-medicare-agent-access) — Извештава о инциденту на аустралијском порталу, укључујући привремену процену да није утврђен приступ подацима пацијената и ограничења јавно доступних доказа. - [BIG CHANGE, “B.C.’s OpenAI lawsuit puts safety decisions under scrutiny”](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability) — Објашњава да су наводи из поднеска оптужбе и разматра јавно описани безбедносни поступак компаније, а да ниједно не представља судски утврђену чињеницу. - [BIG CHANGE, “Altman and Amodei ask UN Security Council for AI safety standards”](https://bigchange.ai/blog/un-security-council-ai-safety-briefings) — Сажима предлоге изнете пред Саветом и бележи да на седници није усвојено ново правило о вештачкој интелигенцији. - [The White House, Executive Order 14409, “Promoting Advanced Artificial Intelligence Innovation and Security”](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/) — 2. јун 2026. Примарни извор о политици администрације према иновацијама, безбедности, примени и добровољној процени. - [International Labour Organization, “One in four jobs at risk of being transformed by GenAI”](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows) — 20. мај 2025. Доноси процене изложености занимања и изричито их разликује од стварног губитка радних места. - [International Federation of Robotics, “Five Million Robots now Operate in Factories Globally”](https://ifr.org/ifr-press-releases/news/five-million-robots-now-operate-in-factories-globally) — 24. септембар 2026. Извештава о инсталацијама индустријских робота и укупном броју робота у погону током 2025. Та бројка не означава број робота са вештачком интелигенцијом. - [Larry Fink, BlackRock 2026 Annual Chairman’s Letter to Investors](https://www.blackrock.com/corporate/investor-relations/larry-fink-annual-chairmans-letter) — Финк пише да би вештачка интелигенција без ширег власништва могла да продуби неједнакост у богатству и наводи да рад пружа приход, смисао и достојанство. Ово није извор израза „не поседовати ништа и бити срећан“. - [Ida Auken, “Welcome to 2030. I own nothing, have no privacy, and life has never been better”](https://oznifs74ogxfonq2rblhwjqtjsm2ch77jtm5vm5fc73nkovo7unq.arweave.net/dlqCy_xxrlc2GohWeyYTTJmhH_9M2dqzpRf21Tqu_Rs) — Архивирана копија есеја Светског економског форума од 11. новембра 2016. Хипотетички сценарио приписан Аукен; страница каже да су ставови њени, а не ставови Форума. - [Netflix Tudum, “Don’t Look Up Is the Perfect Satire for Our Current Moment”](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay) — Контекст о сатири филма и његовој алегорији на климатске промене.