Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, fizeram apresentações separadas ao Conselho de Segurança da ONU em 23 de setembro sobre os riscos da IA cada vez mais capaz. Ambos pediram cooperação entre governos para testes e comunicação de incidentes. As propostas tinham alcances diferentes, e a discussão do Conselho não estabeleceu nenhuma nova regra para IA.

A grande mudança

Os dirigentes de duas empresas que desenvolvem modelos avançados de IA apresentaram propostas específicas de segurança em uma reunião do Conselho de Segurança sobre segurança internacional. Altman pediu padrões nacionais e internacionais compatíveis para medir capacidades, avaliar salvaguardas e preservar a supervisão humana. Amodei propôs acordos mais restritos, começando pela proibição do uso de IA para fabricar armas biológicas, além de sistemas de verificação e testes comuns para riscos de uso indevido e perda de controle. Essas foram solicitações de representantes convidados. Qualquer medida do Conselho dependeria de um acordo entre os governos.

Pontos em comum entre as propostas

Na transcrição da reunião gerada automaticamente pela ONU, Altman pediu a comunicação rápida de incidentes e canais seguros para que governos, operadores de infraestrutura e especialistas técnicos compartilhem vulnerabilidades. Disse que os padrões deveriam abranger modelos abertos e fechados, novos desenvolvedores e laboratórios estabelecidos, enquanto cada governo decidiria como adotá-los em sua própria legislação.

Amodei também defendeu padrões internacionais de teste e a notificação de incidentes importantes para a segurança global. Acrescentou um sistema para que os países pudessem conhecer as capacidades dos modelos de ponta e verificar compromissos. Reiterou a promessa da Anthropic de incluir avaliadores externos na empresa e afirmou que a companhia reduziria os lançamentos tanto quanto fosse necessário para garantir a segurança. Essas são propostas e compromissos da Anthropic, não constatações independentes de que suas salvaguardas funcionam.

Ambos pediram testes comparáveis e a divulgação de incidentes graves. Amodei colocou no centro de sua proposta ao Conselho uma proibição do uso de IA para fabricar armas biológicas e um mecanismo de verificação entre países. Altman enfatizou padrões que os governos pudessem incorporar a seus próprios sistemas legais. Nenhuma das propostas veio acompanhada de um acordo entre os membros do Conselho sobre sua aplicação.

Governos divergem sobre o papel do Conselho

A França convocou a reunião, que também ouviu Yoshua Bengio, copresidente do painel científico da ONU, e Clément Delangue, diretor-executivo da Hugging Face. O encontro dá continuidade a debates anteriores do Conselho sobre IA, entre eles a primeira reunião informativa desse tipo, em julho de 2023.

As declarações dos membros expuseram a distância entre uma preocupação compartilhada e uma política comum. A declaração publicada pela Letônia apoiou a discussão sobre a criação de um grupo informal de especialistas do Conselho. Na transcrição da ONU, o representante dos Estados Unidos se opôs a novas estruturas de governança global e defendeu o fortalecimento das capacidades nacionais e o compartilhamento de boas práticas. Essas foram posições expressas durante a reunião, não uma decisão do Conselho.

A transcrição da ONU disponível registra o encerramento da reunião após as declarações dos participantes. Não registra a aprovação de uma resolução sobre IA nem de uma declaração presidencial. A página alerta que o texto dos discursos é produzido por reconhecimento automático e não constitui um registro oficial da ONU.