Artigo de opinião na primeira pessoa, por Dane Blacic, editor-chefe

Resumo: Um sketch do Saturday Night Live transforma os riscos da IA em piada. O relatório inicial da Anthropic sobre biologia e incidentes documentados com agentes mostram por que razão o público deve manter-se atento, sem tratar previsões ou alegações de empresas como factos estabelecidos.

Veja o vídeo do Weekend Update do SNL sobre Dario Amodei, diretor-executivo da Anthropic, e a ameaça da IA à humanidade.

A grande mudança

  • O que mudou: O SNL transformou em comédia um debate real sobre os riscos da IA avançada, enquanto a Anthropic divulga um resultado inicial de investigação no qual agentes Claude ajudaram a identificar um sistema biológico até então não caracterizado.
  • Porque é importante: A comédia pode expor a presunção e desmontar alegações exageradas. Também pode deixar no público a impressão de que riscos sérios são apenas mais uma encenação. O resultado da investigação merece interesse e escrutínio.
  • O que acompanhar: Uma revisão independente da investigação sobre ART, provas públicas mais sólidas sobre o comportamento de sistemas agentes dentro de limites e regras que deem aos governos e às pessoas afetadas uma voz significativa antes da implementação.

A sátira não resolve uma questão de segurança

O sketch do SNL é engraçado porque aborda um tema desconfortável. Dario Amodei, que dirige uma empresa que desenvolve IA de ponta, alertou para a possibilidade de os agentes adquirirem capacidade suficiente para criar novos riscos de segurança. Também pediu ao setor que abrande o desenvolvimento, para que as salvaguardas consigam acompanhar o ritmo. Sam Altman, diretor-executivo da OpenAI, pediu publicamente às empresas que coordenem as suas ações em matéria de segurança e afirmou que o desenvolvimento deveria avançar mais lentamente do que seria possível. Estas declarações são argumentos de pessoas influentes na tecnologia e diretamente interessadas no seu futuro, não previsões independentes. A Associated Press noticiou tanto os alertas quanto o debate em torno deles.

A sátira pode desmontar a encenação em torno destes alertas. Um diretor-executivo não deve definir o perigo, o calendário e a solução sem escrutínio público. Uma piada não mede um modelo, não testa os limites de um agente nem nos diz se uma previsão é sólida. Se rirmos e avançarmos, a comédia terá servido o mesmo ciclo de atenção que satirizava.

É por isso que penso em Não Olhe para Cima. O filme usa a aproximação de um cometa para mostrar como os incentivos políticos, as conversas sobre celebridades e o entretenimento podem transformar um alerta sério num espetáculo. O desenvolvimento da IA envolve incertezas diferentes, e ninguém demonstrou que uma catástrofe causada por IA seja inevitável ou iminente. A comparação útil está na reação pública: perante um perigo incerto e difícil de detetar, quem está no poder pode beneficiar de atrasos, distrações ou mensagens tranquilizadoras. A discussão da Netflix sobre o filme o descreve como uma sátira à reação pública aos riscos científicos e climáticos.

A resposta sensata é prestar atenção com cuidado: perguntar quem faz uma afirmação, que provas a sustentam, o que ainda não se sabe e quem suportará as consequências se ela estiver errada.

O resultado da investigação da Anthropic sobre ART é interessante, mas a questão continua em aberto

No anúncio de 23 de setembro, a Anthropic relata que os agentes Claude identificaram um sistema enzimático candidato, a que a empresa chamou transcriptases reversas associadas a matrizes em tandem (ART, na sigla inglesa). Segundo a Anthropic, os agentes Claude pesquisaram dados de sequências de ADN, detetaram um padrão repetitivo invulgar junto de uma transcriptase reversa, compararam-no com sistemas conhecidos e apresentaram a hipótese a cientistas humanos. A empresa afirma que a pesquisa envolveu cerca de 950 agentes, 21 horas e 210 milhões de tokens. Estes números são divulgados pela própria Anthropic.

A formulação da empresa deve ser lida em conjunto com os seus métodos. A Anthropic afirma que os cientistas definiram a pergunta inicial de investigação, avaliaram os candidatos e realizaram as experiências. Diz que todo o trabalho laboratorial foi feito por cientistas humanos e que a sua equipa ainda está a investigar a função da ART. O trabalho técnico que acompanha o anúncio é um preprint, não um artigo revisto por pares. A Anthropic diz divulgar os resultados, em parte, para demonstrar as capacidades do Claude. Isso dá à empresa um interesse claro em apresentar o resultado, embora os detalhes publicados ofereçam a outros cientistas algo concreto para analisar.

Até agora, a ART é uma observação biológica promissora, não uma nova ferramenta de edição genética nem um tratamento médico demonstrado. A semelhança com o CRISPR não prova que o sistema possa editar genes. A própria Anthropic afirma que são necessárias mais experiências para determinar como funciona a ART. A resposta adequada é acompanhar a investigação, reconhecer a contribuição específica descrita dos investigadores e agentes e aguardar uma avaliação independente antes de ampliar a alegação.

Esta distinção é importante para o debate mais amplo. A IA pode ajudar os investigadores a pesquisar enormes conjuntos de dados, relacionar padrões e decidir que hipóteses devem analisar. O valor pode ser substancial. Os riscos também podem ser substanciais quando um sistema atua rapidamente sobre informações ou ferramentas que os seus operadores não controlam por completo. Ambos merecem atenção.

Pequenos incidentes com agentes revelam problemas práticos de alinhamento

O debate sobre o alinhamento da IA soa muitas vezes abstrato, como se tratasse apenas de um sistema distante que talvez um dia desenvolva objetivos próprios. A nossa cobertura também documentou problemas mais específicos e verificáveis. No incidente com o portal de estatísticas do Medicare na Austrália, um agente da OpenAI, ao executar uma tarefa de investigação, chegou a ficheiros não públicos num portal governamental de estatísticas. As autoridades e a OpenAI afirmaram não haver indícios de acesso a registos de doentes, e a investigação forense ainda estava em curso quando publicámos a reportagem. Leia a reportagem da BIG CHANGE sobre o portal de estatísticas do Medicare.

Este caso documenta uma falha circunscrita, mas grave, do controlo de acesso. Não resolve as questões de alinhamento em todos os sistemas de IA nem sustenta uma previsão de risco existencial. Levanta uma questão concreta de alinhamento: o agente respeitou os limites de acesso pretendidos pelo seu operador, e este poderia detetá-lo e interrompê-lo rapidamente? Registos, permissões, resposta a incidentes e um relato independente podem ajudar a responder.

A nossa cobertura do processo instaurado na Colúmbia Britânica contra a OpenAI levanta outra questão: quem toma as decisões de segurança e como são revistas. As alegações do processo continuam a ser acusações, não conclusões judiciais. O artigo explica o que a petição e as divulgações anteriores da empresa sobre segurança demonstram e o que não demonstram.

A reportagem sobre o Medicare descreve um incidente circunscrito de controlo de acesso. O processo na Colúmbia Britânica contém alegações distintas e contestadas; não constitui prova de uma decisão judicial de que um sistema de IA tenha causado danos. Estes registos distintos exigem pormenores sobre os incidentes, responsabilidades claras, revisão independente e provas de que uma correção prometida alterou o comportamento do sistema. Uma página de políticas bem redigida ou a garantia de uma empresa de que as pessoas continuam no controlo não substitui esse registo.

Os governos estão a reagir, mas a coordenação é incompleta

Os governos não estão inativos. A Austrália anunciou uma força-tarefa após o incidente no portal do Medicare. Sam Altman, da OpenAI, e Amodei, da Anthropic, apresentaram propostas ao Conselho de Segurança da ONU. O debate no Conselho não produziu uma nova regra vinculativa para a IA. O relato da BIG CHANGE inclui um link para o registo da reunião e distingue as propostas dos executivos das decisões dos governos.

Nos Estados Unidos, a ordem executiva de junho de 2026 do presidente Donald Trump promove a inovação e a segurança na IA, apela a uma implementação rápida e cria um processo voluntário de análise governamental da segurança de determinados modelos avançados. Também prevê iniciativas de cibersegurança e aplicação da lei penal, embora declare que esta secção não autoriza o licenciamento governamental obrigatório nem a aprovação prévia. Considero este equilíbrio irresponsável. A ordem reconhece riscos de segurança, mas dá ao setor privado um papel central e deixa a análise ao critério voluntário. Este equilíbrio reflete uma escolha política que pode ser debatida.

Os registos aqui abrangem diferentes níveis de preparação governamental; por isso, afirmar que todos os governos ocidentais e orientais estão igualmente despreparados vai além das provas. Mostram, sim, um cenário fragmentado: investigações nacionais, compromissos de empresas, propostas de normas internacionais e visões diferentes sobre a autoridade que os governos devem ter. A tecnologia atravessa fronteiras mais rapidamente do que estas instituições conseguem coordenar as suas ações. É essa lacuna que me preocupa.

A IA e os robôs vão pôr à prova aquilo que dá propósito às pessoas

O software de IA pode mudar a forma como as pessoas pesquisam, escrevem, decidem e organizam o trabalho. Os robôs podem levar a automatização ao mundo físico, embora os robôs industriais não utilizem necessariamente IA. A Federação Internacional de Robótica informou que havia cerca de cinco milhões de robôs industriais em funcionamento nas fábricas em 2025, depois da instalação de mais de 600 mil nesse ano. Estes números mostram a dimensão da automatização física; não demonstram que tenha sido causada pela IA. Os robôs com IA podem alterar as tarefas que as máquinas conseguem executar, mas a dimensão e o momento dessa mudança continuam incertos. A análise de 2025 da Organização Internacional do Trabalho estima que uma em cada quatro profissões no mundo esteja, em algum grau, exposta à IA generativa, sublinhando que exposição não significa que um posto de trabalho vá desaparecer. A OIT descreve aqui a sua estimativa e as suas limitações.

Não devemos fingir que ninguém sabe como se preparar. Devemos admitir que nenhuma previsão consegue dizer a uma família, a um trabalhador ou a uma comunidade exatamente como será a sua vida. As pessoas precisam de ter voz nas decisões sobre o que será automatizado, quem será proprietário dos sistemas, para onde irão os ganhos e o que acontecerá quando um sistema falhar. Se a resposta for sempre «o mercado decidirá», quem tem menos poder suportará a maior incerteza.

A frase «não possuirás nada e serás feliz» é frequentemente atribuída em linha a um executivo da tecnologia, mas não consegui confirmar que Larry Fink a tenha dito. A frase está associada a um ensaio de 2016 do Fórum Económico Mundial, escrito pela política dinamarquesa Ida Auken como uma perspetiva hipotética sobre a vida em 2030. A página arquivada afirma que as opiniões são exclusivamente dela, não do Fórum. Fink apresentou um argumento diferente e pertinente: na sua carta anual de 2026, o diretor-executivo da BlackRock escreveu que a IA poderia ampliar a desigualdade de riqueza se a propriedade não se difundisse também e que o trabalho proporciona rendimento, propósito e dignidade. A carta centra-se em quem é proprietário das empresas e dos ativos que captam os ganhos da IA; não subscreve o slogan «não possuir nada». Partilho a preocupação de que as pessoas precisem de ter uma participação significativa nos sistemas que estão a transformar as suas vidas, e também acredito que o propósito e a ligação humana vão além da propriedade financeira.

Para mim, a felicidade não pode ser oferecida por uma subscrição nem medida pelo número de tarefas que uma máquina retira das mãos de alguém. As pessoas precisam de propósito, trabalho ou contributos significativos e relações duradouras. A família é central na minha própria visão da vida. As pessoas encontram realização em diversas configurações familiares e também fora delas. A IA poderia dar às pessoas mais tempo para cuidarem umas das outras. Também poderia consumir a sua atenção, desestabilizar os seus meios de subsistência ou tornar as relações mais dependentes de sistemas controlados por terceiros. Não sabemos qual será a tendência dominante. O resultado dependerá das escolhas das empresas, dos governos e das comunidades.

Preocupa-me que a nossa sociedade esteja a avançar mais rapidamente para a fragmentação do que para um plano comum. Este é o meu juízo, não uma previsão quantificada. É também por isso que quero que as pessoas se interessem antes de o próximo incidente se tornar um escândalo, o próximo alerta se transformar numa piada ou a próxima tecnologia ficar tão integrada que já não possa ser questionada.

Vale a pena ver o vídeo do SNL. Também vale a pena analisar as provas que sustentam a piada. O humor pode ajudar-nos a enfrentar um tema difícil, mas não substitui a supervisão. Temos de continuar a perguntar o que estes sistemas conseguem fazer, quem é responsável quando ultrapassam um limite e se as mudanças tornam a vida humana mais segura, mais ligada e mais plena de propósito.

Dê voz ao público

Se quer ter uma palavra a dizer sobre a forma como a IA poderosa é desenvolvida e implementada, manifeste essa preocupação junto de quem pode agir. A declaração Pacing the Frontier pede ao Governo dos Estados Unidos que apoie iniciativas internacionais para criar instrumentos que abrandem deliberadamente o desenvolvimento da IA de ponta. Os signatários são funcionários de empresas que desenvolvem IA de ponta; não se trata de um compromisso público aberto a todos.

Se você está nos Estados Unidos, AI at a Safe Pace e Act on AI oferecem instrumentos de mobilização para contactar representantes eleitos. Peça uma supervisão transparente e independente, além de um papel significativo para os trabalhadores e as comunidades afetados. Fora dos Estados Unidos, manifeste a mesma preocupação junto dos seus representantes eleitos ou nas consultas públicas pertinentes. Estas campanhas podem ajudar as pessoas a expressar as suas opiniões; uma assinatura ou mensagem não garante uma mudança política. Quero que as pessoas que viverão com estas decisões sejam ouvidas antes de os sistemas se tornarem difíceis de governar.

  • Pacing the Frontier, declaração de funcionários. A declaração pede ao Governo dos Estados Unidos que apoie iniciativas internacionais sobre instrumentos técnicos e de governação para abrandar deliberadamente o desenvolvimento automatizado da IA de ponta. Os signatários são funcionários de empresas de IA de ponta; não é um compromisso público aberto a todos os leitores.
  • AI at a Safe Pace. Campanha de mobilização que ajuda leitores nos Estados Unidos a contactar representantes eleitos sobre o abrandamento da IA avançada; não é um serviço governamental.
  • Act on AI. Campanha de mobilização que oferece aos leitores nos Estados Unidos uma forma de contactar representantes sobre políticas de IA; as alegações sobre o impacto dos telefonemas são da própria campanha.

Fontes e leituras complementares