A NVIDIA anunciou em 13 de outubro uma doação de acesso a recursos computacionais por cinco anos para pesquisas sobre segurança de agentes de IA no Reino Unido. A empresa avalia o compromisso em US$ 250 milhões, ou US$ 50 milhões em acesso por ano. Esses valores são a avaliação da empresa sobre acesso futuro à computação, não uma verba em dinheiro nem capacidade que os pesquisadores já tenham recebido.

Segundo o anúncio, a maior parte do compromisso será destinada à comunidade britânica de pesquisa em segurança de forma mais ampla. Uma parcela está prevista para trabalhos com o British Open-Ended Learning and Discovery Lab (BOLD), liderado pela Universidade de Oxford, o Science of Fundamental AI Research Lab (SOFAIR), liderado pela UCL, e o Imperial College London. A NVIDIA não especificou a divisão entre as três instituições nem como outros pesquisadores poderiam se candidatar.

O que muda

  • O que mudou: A NVIDIA se comprometeu a financiar, por cinco anos, acesso a recursos computacionais hospedados no Reino Unido para pesquisas sobre segurança de agentes, com valor declarado de US$ 250 milhões.
  • Por que isso importa: Computação é um insumo relevante para desenvolver e avaliar sistemas de IA. A distribuição proposta vai além dos três parceiros de pesquisa citados, mas o volume disponível para cada equipe não foi especificado.
  • O que acompanhar: A NVIDIA afirma que os parceiros de nuvem britânicos, a arquitetura técnica e as condições comerciais ainda precisam ser negociados. O anúncio não informa quando o acesso começa, como os pesquisadores poderão obtê-lo nem quais resultados de segurança a pesquisa produzirá.

Para que a computação deve servir

Segundo a NVIDIA, NVIDIA Cloud Partners sediados no Reino Unido fornecerão acesso por meio de infraestrutura hospedada no país. Os programas citados abordam questões diferentes: o BOLD estuda sistemas que aprendem e se adaptam com as pessoas; o SOFAIR explora arquiteturas de IA de código aberto e desenvolvimento mais acessível; e o trabalho da Imperial também incluirá engenharia de segurança e robótica. O comunicado descreve planos de pesquisa sobre agentes seguros, segurança de modelos abertos e mitigação de ameaças reais, incluindo ambientes isolados, pesquisa reproduzível e parâmetros de avaliação. São planos de pesquisa, não resultados publicados.

A distribuição importa tanto quanto o valor total destacado. A NVIDIA diz que a maior parte do compromisso beneficiará a comunidade de pesquisa mais ampla, mas não divide o acesso avaliado em US$ 50 milhões por ano entre essa comunidade e os programas nomeados. Não informa o número de GPUs, as horas de computação, a base de preços nem os critérios de elegibilidade. A escolha do provedor de nuvem, a arquitetura técnica e as condições comerciais também continuam em aberto. Portanto, um laboratório não pode deduzir do valor em dólares sua cota utilizável, configuração de hardware ou data de início.

A NVIDIA cita seu ambiente de execução OpenShell e o design de referência Sentry como tecnologias que poderão ser usadas em parte da pesquisa. A BIG CHANGE já havia coberto essa plataforma de segurança de agentes quando a NVIDIA a anunciou em setembro. O compromisso britânico trata de recursos para pesquisa e projetos planejados; é um desenvolvimento distinto do lançamento dos designs de software e hardware. O anúncio de outubro não diz que todos os beneficiários terão de usar essas ferramentas.

Um programa separado do governo britânico

Em 12 de outubro, o governo britânico anunciou trabalhos sobre riscos de IA e segurança nacional. Informou que o AI Security Institute avaliava modelos avançados, enquanto o instituto e o National Cyber Security Centre estudavam respostas a incidentes graves envolvendo agentes autônomos. O governo também descreveu projetos-piloto de ciberdefesa e a possibilidade de notificar incidentes e quase incidentes de IA. Trata-se de um programa governamental; nenhum dos dois anúncios o apresenta como componente financiado ou via de entrega do compromisso de computação da NVIDIA.

Para os pesquisadores, as próximas informações úteis são operacionais: provedores de nuvem definidos, processo de alocação e elegibilidade, ambiente de hardware e software e termos para usar o acesso doado. Para avaliar a alegação sobre segurança, métodos e resultados publicados serão mais importantes que o valor anunciado. A NVIDIA descreveu pesquisas pretendidas, sem resultados independentes até agora sobre a entrega ou a eficácia. A BIG CHANGE não usou a computação nem testou os sistemas de segurança propostos.

Fontes e leituras complementares