A liderança de pesquisa da OpenAI respondeu publicamente em 9 de outubro a uma carta de três ex-pesquisadores de segurança em uma publicação do Newsroom no X. A Associated Press e Reuters informam que a empresa disse que uma investigação interna encontrou violações de políticas para lidar com informações sensíveis e descreveu um “rompimento significativo de confiança” que ia além da carta. A OpenAI negou que as demissões tenham ocorrido por causa de críticas sobre segurança. A publicação também afirmou que contratos com avaliadores externos de segurança estavam sendo finalizados, com detalhes previstos para as próximas semanas. A empresa não identificou a conduta específica nem a política em questão.

A grande mudança

  • O que mudou: A resposta pública da OpenAI agora associa sua versão das demissões a um plano declarado para finalizar contratos com avaliadores externos de segurança e reafirma publicamente que a monitorabilidade de modelos é um compromisso de todo o setor.
  • Por que isso importa: A disputa dos pesquisadores envolve tanto o tratamento que receberam quanto seu trabalho com grupos externos de segurança. O compromisso da OpenAI dá um próximo passo concreto à segunda questão, mas os termos, o acesso e o escopo do trabalho dos avaliadores continuam desconhecidos.
  • O que observar: A OpenAI disse que divulgará detalhes nas próximas semanas. Eles poderão mostrar se avaliadores independentes terão o acesso contínuo solicitado pelos pesquisadores e como funcionários poderão compartilhar informações enquanto protegem material confidencial.

Esta é uma continuação datada da cobertura da BIG CHANGE sobre a carta dos pesquisadores. Em sua carta original aos órgãos de supervisão da OpenAI, eles descreveram três situações diferentes. Tomek Korbak disse que lhe informaram verbalmente que sua demissão estava relacionada à forma como se comunicou com a METR, organização sem fins lucrativos que avaliou o incidente da OpenAI com o Hugging Face. Mikita Balesni disse que seu trabalho com grupos externos sobre monitorabilidade era coordenado com sua linha de reporte e que removeu detalhes sensíveis antes de compartilhar materiais. Jasmine Wang disse que recebeu acesso delegado ao e-mail de um executivo para recrutamento, pediu à equipe de TI que o removesse e relatou ter clicado acidentalmente em uma mensagem sensível. Esses são relatos dos pesquisadores, não conclusões estabelecidas de forma independente.

A publicação da OpenAI aborda dois pedidos centrais da carta. O texto completo reproduzido pelo The Indian Express diz que a empresa estava finalizando contratos com avaliadores externos de segurança e mantinha o compromisso de integrar revisores externos. Também afirma que a OpenAI considera que preservar a monitorabilidade de modelos de fronteira exige um compromisso de todo o setor e que continua investindo nesse trabalho. São declarações da empresa sobre planos e prioridades; a publicação não identifica os avaliadores, define seu acesso nem divulga os termos dos contratos.

Sobre as demissões, a OpenAI disse que uma investigação encontrou violações de políticas de tratamento de informações e que suas decisões não se deveram a críticas sobre segurança. Mas a publicação pública não identifica a informação, a regra específica nem as evidências que sustentam sua conclusão. A Associated Press informou que a OpenAI não daria mais detalhes sobre os motivos das demissões. A Reuters informou que a empresa não revelou as supostas violações. Nenhuma publica os arquivos da investigação nem determina de forma independente qual relato está correto.

A disputa trabalhista também não resolve o debate técnico separado sobre monitorabilidade. Os pesquisadores dizem que a capacidade de monitorar modelos de fronteira está diminuindo; a OpenAI afirma concordar que a monitorabilidade é importante e que continua investindo. A resposta de 9 de outubro não apresenta novas medições nem resultados de avaliação.

Fontes e leitura adicional