NVIDIA anunciou a 13 de outubro uma doação de acesso a recursos de computação durante cinco anos para investigação sobre a segurança de agentes de IA no Reino Unido. A empresa avalia o compromisso em 250 milhões de dólares, ou 50 milhões de dólares em acesso por ano. Estes valores são a avaliação da empresa de recursos futuros, não uma subvenção em dinheiro nem capacidade já recebida pelos investigadores.

O anúncio destina a maior parte do compromisso à comunidade de investigação britânica, mais alargada, nas áreas da segurança. Uma parte está prevista para trabalhos com o British Open-Ended Learning and Discovery Lab (BOLD), liderado pela Universidade de Oxford, o Science of Fundamental AI Research Lab (SOFAIR), liderado pela UCL, e o Imperial College London. A NVIDIA não especificou a distribuição para nenhum dos três nem uma via de candidatura para outros investigadores.

A grande mudança

  • O que mudou: A NVIDIA comprometeu-se a financiar, durante cinco anos, o acesso a recursos de computação alojados no Reino Unido para investigação sobre a segurança de agentes, com um valor declarado de 250 milhões de dólares.
  • Porque é importante: A computação é um recurso material para desenvolver e avaliar sistemas de IA. A distribuição proposta abrange mais do que os três parceiros de investigação indicados, mas o montante disponível para cada equipa continua por especificar.
  • O que acompanhar: A NVIDIA diz que ainda falta acordar os parceiros de cloud do Reino Unido, a arquitetura técnica e as condições comerciais. O anúncio não estabelece quando começa o acesso, como os investigadores o obtêm nem que resultados de segurança produzirá a investigação.

Para onde se destinam os recursos de computação

A NVIDIA diz que os NVIDIA Cloud Partners sediados no Reino Unido disponibilizarão acesso através de infraestrutura alojada no país. Os programas indicados abordam questões diferentes: o BOLD trabalha em sistemas que aprendem e se adaptam em conjunto com as pessoas; o SOFAIR explora arquiteturas de IA de código aberto e um desenvolvimento mais acessível; o trabalho do Imperial incluirá engenharia de segurança e robótica. O comunicado descreve planos de investigação sobre agentes seguros, segurança de modelos abertos e mitigação de ameaças reais, incluindo ambientes isolados, investigação reproduzível e testes de avaliação. São planos de investigação, não resultados publicados.

A distribuição é tão importante como o valor em destaque. A NVIDIA afirma que a maioria do compromisso se destina à comunidade de investigação em geral, mas não divide a avaliação anual de 50 milhões de dólares entre essa comunidade e os programas indicados. Não fornece o número de GPU, uma quota de horas de computação, uma base de preços nem critérios de elegibilidade. A seleção do fornecedor de cloud, a arquitetura técnica e as condições comerciais também continuam em aberto. Por isso, um laboratório não pode deduzir da cifra em dólares uma quota utilizável, uma configuração de hardware ou uma data de início.

A NVIDIA menciona o seu ambiente de execução OpenShell e o design de referência Sentry como tecnologias que poderão ser usadas em parte da investigação. BIG CHANGE já tinha noticiado essa plataforma de segurança de agentes quando a NVIDIA a anunciou em setembro. O compromisso para o Reino Unido diz respeito à capacidade de investigação e a projetos previstos; é um desenvolvimento separado do lançamento dos designs de software e hardware. O comunicado de outubro não afirma que todos os destinatários tenham de utilizar essas ferramentas.

Trabalho separado do Governo britânico

A 12 de outubro, o Governo britânico anunciou trabalho sobre o risco da IA e a segurança nacional. Indicou que o AI Security Institute estava a avaliar modelos avançados, enquanto o instituto e o National Cyber Security Centre estudavam respostas a incidentes graves envolvendo agentes autónomos. O Governo também descreveu projetos-piloto de ciberdefesa e a possível comunicação de incidentes e quase incidentes relacionados com IA. Trata-se de um programa governamental; nenhum dos anúncios o identifica como componente financiada ou via de disponibilização do compromisso de computação da NVIDIA.

Para os investigadores, a informação útil seguinte é operacional: fornecedores de cloud identificados, um processo de distribuição e elegibilidade, o ambiente de hardware e software e as condições de utilização do acesso doado. Para quem avalia a alegação de segurança, os métodos e resultados publicados serão mais importantes do que o valor anunciado. A NVIDIA descreveu investigação prevista, sem resultados independentes de disponibilização ou eficácia até agora. A BIG CHANGE não utilizou a capacidade de computação nem testou os sistemas de segurança propostos.

Fontes e leitura adicional