NVIDIA anunció el 13 de octubre una donación de acceso a recursos de computación durante cinco años para investigar la seguridad de agentes de IA en el Reino Unido. La empresa valora el compromiso en 250 millones de dólares, o 50 millones en acceso cada año. Esas cifras son la valoración de la empresa de recursos futuros, no una subvención en efectivo ni capacidad que los investigadores ya hayan recibido.

El anuncio destina la mayor parte del compromiso a la comunidad británica de investigación en seguridad. Una parte se prevé para trabajos con el British Open-Ended Learning and Discovery Lab (BOLD), dirigido por la Universidad de Oxford; el Science of Fundamental AI Research Lab (SOFAIR), dirigido por UCL; e Imperial College London. NVIDIA no ha especificado la asignación para ninguno de los tres ni cómo podrían solicitar acceso otros investigadores.

El gran cambio

  • Qué ha cambiado: NVIDIA se ha comprometido a financiar durante cinco años acceso a recursos de computación alojados en el Reino Unido para investigar la seguridad de agentes, con un valor declarado de 250 millones de dólares.
  • Por qué importa: La computación es un recurso material para desarrollar y evaluar sistemas de IA. La asignación propuesta va más allá de los tres socios de investigación citados, pero no se ha especificado cuánto recibirán los equipos individuales.
  • Qué observar: NVIDIA afirma que aún deben acordarse los socios de nube del Reino Unido, la arquitectura técnica y las condiciones comerciales. El anuncio no establece cuándo comenzará el acceso, cómo podrán obtenerlo los investigadores ni qué resultados de seguridad producirá el trabajo.

A dónde se destinaría la computación

NVIDIA afirma que sus socios de nube en el Reino Unido darán acceso mediante infraestructura alojada en el país. Los programas citados abordan cuestiones distintas: BOLD trabaja en sistemas que aprenden y se adaptan junto a las personas; SOFAIR explora arquitecturas de IA de código abierto y un desarrollo más accesible; el trabajo de Imperial incluirá ingeniería de seguridad y robótica. El comunicado describe planes de investigación sobre agentes seguros, seguridad de modelos abiertos y mitigación de amenazas reales, incluidos entornos aislados, investigación reproducible y pruebas de evaluación. Son planes de investigación, no hallazgos publicados.

La distribución importa tanto como la cifra principal. NVIDIA dice que la mayor parte del compromiso es para la comunidad investigadora en general, pero no reparte la valoración anual de 50 millones de dólares entre esa comunidad y los programas citados. No facilita el número de GPU, las horas de computación, la base de precios ni los criterios de elegibilidad. También deja abierta la selección del proveedor de nube, la arquitectura técnica y las condiciones comerciales. Por tanto, un laboratorio no puede deducir de la cifra en dólares una cuota utilizable, una configuración de hardware o una fecha de inicio.

NVIDIA menciona su entorno de ejecución OpenShell y el diseño de referencia Sentry como tecnologías que podrían utilizarse en parte de la investigación. BIG CHANGE ya había cubierto esa plataforma de seguridad para agentes cuando NVIDIA la anunció en septiembre. El compromiso británico se refiere a capacidad de investigación y proyectos previstos; es una novedad distinta del lanzamiento de los diseños de software y hardware. El comunicado de octubre no dice que todos los destinatarios deban usar esas herramientas.

Trabajo separado del Gobierno británico

El 12 de octubre, el Gobierno británico anunció medidas sobre el riesgo de la IA y la seguridad nacional. Indicó que el AI Security Institute evaluaba modelos avanzados, mientras el instituto y el National Cyber Security Centre estudiaban respuestas a incidentes graves con agentes autónomos. El Gobierno también describió pilotos de ciberdefensa y la posible notificación de incidentes y casos evitados por poco relacionados con la IA. Es un programa gubernamental; ninguno de los dos anuncios lo presenta como parte financiada o vía de entrega del compromiso de computación de NVIDIA.

Para los investigadores, la siguiente información útil es operativa: proveedores de nube concretos, un proceso de asignación y elegibilidad, el entorno de hardware y software y las condiciones de uso del acceso donado. Para quienes evalúan la afirmación sobre seguridad, los métodos y resultados publicados importarán más que la valoración anunciada. NVIDIA ha descrito investigación prevista, sin resultados independientes de entrega o eficacia hasta ahora. BIG CHANGE no utilizó la computación ni probó los sistemas de seguridad propuestos.

Fuentes y lecturas adicionales