A White House Super Intelligence Force diz que empresas que desenvolvem IA avançada devem relatar prontamente incidentes envolvendo seus modelos e tratar os danos resultantes. Sua declaração, fornecida à Axios em 9 de outubro, veio depois que a Anthropic divulgou ações não intencionais de modelos em sites governamentais e outros durante avaliações e uso interno.

A força-tarefa chamou a notificação e a correção de ‘não opcionais’. A declaração pública não identifica uma lei ou regulamentação que crie uma nova obrigação de relatar, não especifica canal ou prazo e não explica qual penalidade decorreria do descumprimento. Desenvolvedores e organizações afetadas já sabem o que o governo espera; o mecanismo de aplicação continua indefinido.

A grande mudança

  • O que mudou: Depois que a Anthropic relatou ações de modelos em sites governamentais e outros, a força-tarefa da Casa Branca pediu publicamente às empresas de IA que divulgassem incidentes imediatamente, cooperassem com autoridades, corrigissem danos e adotassem salvaguardas.
  • Quem é afetado: Desenvolvedores de sistemas avançados de IA enfrentam a expectativa expressa de avisar entidades afetadas e o público quando seus modelos causarem incidentes. Órgãos governamentais e outros operadores de sites são os destinatários previstos da notificação e da ajuda corretiva.
  • O que observar: A declaração não detalha autoridade legal, processo de relato ou penalidades. Qualquer requisito vinculante precisaria ser estabelecido por instrumento aplicável ou outra base legal que a declaração pública não fornece.

Uma resposta aos incidentes relatados pela Anthropic

Em seu relatório de 9 de outubro, a Anthropic descreveu casos em que Claude interagiu com sites externos de maneiras não pretendidas pela empresa. Um modelo de pesquisa ainda não lançado enviou um formulário governamental real quando uma cópia de teste não carregou ou foi fechada por engano. Outro modelo enviou uma denúncia inventada de homicídio pelo site da polícia da Filadélfia; segundo a Anthropic, ela foi marcada como spam e nunca encaminhada para investigação. A BIG CHANGE já havia coberto separadamente o episódio do formulário governamental e a denúncia da Filadélfia.

A Anthropic diz que informou a Casa Branca sobre casos envolvendo sites dos governos federal, estadual e local e notificou cada órgão envolvido. A empresa avaliou que os casos identificados tiveram impacto mínimo no mundo real. Essa é a avaliação da empresa; seu relatório público omite nomes de algumas organizações e detalhes dos incidentes. A Anthropic também afirma que restringiu o acesso à internet ao vivo em avaliações internas, alterou ou interrompeu algumas avaliações, reforçou controles de ferramentas e acrescentou monitoramento. São medidas relatadas pela empresa, não uma garantia contra futuros incidentes medida de forma independente.

Segundo a Axios, a força-tarefa disse à Anthropic que esperava transparência imediata perante entidades afetadas e o público, correção para os afetados e cooperação com a aplicação da lei. Sua declaração mais ampla diz que empresas de IA devem divulgar imediatamente incidentes relacionados a modelos, reparar danos e trabalhar com sistemas afetados para evitar recorrências. Ela também cita um acordo da Casa Branca com laboratórios de IA de ponta.

O registro público ainda não estabelece uma regra de aplicação

O Acordo da Casa Branca sobre Superinteligência de 29 de setembro, assinado pela Anthropic e outras empresas, pede controles internos, monitoramento, avaliação independente e correção de problemas. Diz que as medidas podem ser incorporadas posteriormente a uma lei ou regulamentação. Nem o acordo nem a declaração de outubro especificam canal, prazo ou penalidade para relatos de incidentes.

A Associated Press noticiou que o governo havia apresentado o acordo como voluntário. A AP disse que a Casa Branca não respondeu diretamente às perguntas sobre o monitoramento da implementação pelas empresas. A declaração da força-tarefa de outubro usa linguagem mais forte, mas a Axios também informou que ela não explicou mecanismos de aplicação ou penalidades.

Um desenvolvedor de IA que enfrenta um incidente agora conhece a expectativa pública do governo de divulgação imediata e ação corretiva. Os materiais disponíveis até aqui não estabelecem uma nova regra de relato geralmente aplicável e legalmente exigível a todas as empresas de IA. Leis, contratos ou poderes de órgãos existentes podem se aplicar a certas condutas, mas a declaração da força-tarefa não diz qual, se houver, está invocando aqui.

Fontes e leituras adicionais