Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, participaram separadamente numa sessão informativa do Conselho de Segurança da ONU, a 23 de setembro, sobre os riscos de uma IA cada vez mais capaz. Ambos pediram aos governos que cooperem na realização de testes e na comunicação de incidentes. As propostas diferiam no âmbito, e o debate do Conselho não criou, por si só, qualquer nova regra para a IA.
A grande mudança
Os responsáveis de duas empresas que desenvolvem modelos avançados de IA apresentaram propostas concretas de segurança numa reunião do Conselho de Segurança sobre segurança internacional. Altman pediu normas nacionais e internacionais compatíveis para medir capacidades, avaliar salvaguardas e manter a supervisão humana. Amodei propôs acordos mais restritos, começando pela proibição de utilizar IA para criar armas biológicas, acompanhada de sistemas de verificação e testes comuns para detetar riscos de uso indevido e perda de controlo. Foram pedidos de oradores convidados. Qualquer ação do Conselho exigiria o acordo dos governos.
Em que coincidem as propostas
Na transcrição automática da reunião publicada pela ONU, Altman pediu a comunicação rápida de incidentes e canais seguros para governos, operadores de infraestruturas e especialistas partilharem vulnerabilidades. Defendeu normas que abrangessem modelos abertos e fechados, novos programadores e laboratórios estabelecidos, deixando a cada governo a decisão sobre como as aplicar na sua legislação.
Amodei também pediu normas internacionais de teste e a comunicação de incidentes importantes para a segurança global. Propôs ainda um sistema que permitisse aos Estados conhecer as capacidades dos modelos de fronteira e verificar compromissos. Reiterou a promessa da Anthropic de integrar avaliadores externos na empresa e afirmou que os lançamentos seriam abrandados tanto quanto necessário por motivos de segurança. São compromissos e propostas da Anthropic, não conclusões independentes de que as salvaguardas funcionam.
Ambos pediram testes comparáveis e a divulgação de incidentes graves. Amodei colocou no centro da sua proposta ao Conselho a proibição de armas biológicas e a verificação entre Estados. Altman salientou normas que os governos poderiam incorporar nos respetivos sistemas jurídicos. Nenhuma das propostas foi acompanhada de um acordo entre os membros do Conselho sobre a sua aplicação.
Os governos têm perspetivas diferentes sobre o papel do Conselho
A França convocou a sessão, que contou também com Yoshua Bengio, copresidente do painel científico da ONU, e Clément Delangue, diretor executivo da Hugging Face. A reunião dá continuidade a debates anteriores do Conselho sobre IA, incluindo a primeira sessão informativa deste tipo, em julho de 2023.
As declarações dos membros revelaram a distância entre uma preocupação comum e uma política partilhada. A declaração publicada pela Letónia apoiou a exploração da possibilidade de criar um grupo informal de peritos do Conselho. Na transcrição da ONU, o representante dos EUA opôs-se à criação de novas estruturas de governação global e defendeu, em alternativa, o reforço da capacidade nacional e a partilha de boas práticas. São posições expressas na reunião, não uma decisão do Conselho.
A transcrição da ONU disponível indica que a reunião terminou depois das declarações dos oradores. Não regista a adoção de uma resolução sobre IA nem de uma declaração presidencial. A página alerta que o texto das intervenções foi produzido por reconhecimento automático e não constitui um registo oficial da ONU.
