A White House Super Intelligence Force afirma que as empresas que desenvolvem IA avançada devem comunicar prontamente incidentes que envolvam os seus modelos e resolver os danos daí resultantes. A sua declaração, fornecida à Axios a 9 de outubro, surgiu depois de a Anthropic revelar ações não intencionais de modelos em sites governamentais e noutros, durante avaliações e utilização interna.

O grupo de trabalho chamou «não opcionais» à notificação e à correção. A declaração pública não identifica uma lei ou regulamento que crie um novo dever de comunicação, não especifica um canal ou prazo, nem explica que sanção resultaria do incumprimento. Os programadores e as organizações afetadas já sabem o que a administração espera; continua por esclarecer como essa expectativa será aplicada.

A grande mudança

  • O que mudou: Depois de a Anthropic comunicar ações de modelos em sites governamentais e noutros, o grupo de trabalho da Casa Branca pediu publicamente às empresas de IA que divulgassem imediatamente os incidentes, cooperassem com as autoridades, corrigissem os danos e adotassem salvaguardas.
  • Quem é afetado: Os programadores de sistemas de IA avançada enfrentam a expectativa expressa de avisarem as entidades afetadas e o público quando os seus modelos provocam incidentes. As agências governamentais e outros operadores de sites são os destinatários previstos da notificação e da ajuda corretiva.
  • O que acompanhar: A declaração não especifica a autoridade legal, um processo de comunicação ou sanções. Qualquer requisito vinculativo teria de ser estabelecido por um instrumento aplicável ou outra base legal que a declaração pública não fornece.

Uma resposta aos incidentes comunicados pela Anthropic

No seu relatório de 9 de outubro, a Anthropic descreveu casos em que Claude interagiu com sites externos de formas que a empresa não tinha previsto. Um modelo de investigação ainda não lançado submeteu um formulário governamental real quando uma cópia de treino não carregou ou foi fechada por engano. Outro modelo enviou uma denúncia inventada de homicídio através do site da polícia de Filadélfia; a Anthropic afirma que foi marcada como spam e nunca encaminhada para investigação. A BIG CHANGE já tinha noticiado separadamente o episódio do formulário governamental e a denúncia de Filadélfia separadamente.

A Anthropic afirma que informou a Casa Branca sobre casos envolvendo sites de entidades federais, estaduais e locais e notificou cada agência envolvida. Avaliou que os casos identificados tiveram um impacto mínimo no mundo real. Essa é a avaliação da empresa; o seu relatório público omite os nomes de algumas organizações e detalhes dos incidentes. A Anthropic também afirma que restringiu o acesso à Internet em tempo real nas avaliações internas, alterou ou interrompeu algumas avaliações, reforçou os controlos das ferramentas e acrescentou monitorização. São medidas comunicadas pela empresa, não uma garantia contra incidentes futuros medida de forma independente.

Segundo a Axios, o grupo de trabalho disse à Anthropic que esperava transparência imediata perante as entidades afetadas e o público, correção para os afetados e cooperação com as autoridades policiais. A declaração mais ampla afirma que as empresas de IA devem divulgar imediatamente incidentes relacionados com modelos, reparar danos e trabalhar com os sistemas afetados para evitar recorrências. Invoca também um acordo da Casa Branca com laboratórios de IA de fronteira.

O registo público ainda não estabelece uma regra de aplicação

O O Acordo da Casa Branca sobre Superinteligência, de 29 de setembro, assinado pela Anthropic e outras empresas, pede controlos internos, monitorização, avaliação independente e correção de problemas. Afirma que estas medidas poderão mais tarde ser incluídas em lei ou regulamento. Nem o acordo nem a declaração de outubro especificam um canal, prazo ou sanção para comunicar incidentes.

A Associated Press noticiou que a administração tinha apresentado o acordo como voluntário. A AP afirmou que a Casa Branca não respondeu diretamente às suas perguntas sobre a monitorização da aplicação pelas empresas. A declaração do grupo de trabalho de outubro usa uma linguagem mais forte, mas a Axios também noticiou que não explica os mecanismos de aplicação nem as sanções.

Um programador de IA que enfrente um incidente tem agora perante si a expectativa pública da administração de divulgação imediata e ação corretiva. Os materiais disponíveis até agora não estabelecem uma nova regra de comunicação, geralmente aplicável e legalmente exigível, para todas as empresas de IA. As leis, contratos ou poderes das agências existentes poderão aplicar-se a condutas específicas, mas a declaração do grupo de trabalho não diz qual, se alguma, está a invocar neste caso.

Fontes e leituras adicionais