NVIDIA kündigte am 13. Oktober eine fünfjährige Spende von Zugang zu Rechenressourcen für die Sicherheitsforschung zu KI-Agenten im Vereinigten Königreich an. Das Unternehmen bewertet die Zusage mit 250 Millionen US-Dollar beziehungsweise einem jährlichen Zugang im Wert von 50 Millionen US-Dollar. Diese Beträge sind die Bewertung künftiger Rechenressourcen durch das Unternehmen, keine Geldzuwendung und keine bereits erhaltene Kapazität.

Laut Ankündigung geht der größte Teil der Zusage an die breitere britische Sicherheitsforschungsgemeinschaft. Ein Teil ist für Arbeiten mit dem British Open-Ended Learning and Discovery Lab (BOLD) unter Leitung der Universität Oxford, dem Science of Fundamental AI Research Lab (SOFAIR) unter Leitung von UCL und dem Imperial College London vorgesehen. NVIDIA hat weder die Aufteilung unter diesen drei Einrichtungen noch einen Bewerbungsweg für andere Forschende genannt.

Die wesentliche Änderung

  • Was sich ändert: NVIDIA will fünf Jahre lang den Zugang zu im Vereinigten Königreich gehosteter Rechenleistung für Agentensicherheitsforschung finanzieren; der angegebene Wert beträgt 250 Millionen US-Dollar.
  • Warum das wichtig ist: Rechenleistung ist eine wichtige Voraussetzung für Entwicklung und Bewertung von KI-Systemen. Die geplante Verteilung reicht über die drei genannten Forschungspartner hinaus, doch die verfügbare Menge für einzelne Teams ist nicht festgelegt.
  • Worauf zu achten ist: NVIDIA zufolge müssen die britischen Cloud-Partner, die technische Architektur und die Geschäftsbedingungen noch vereinbart werden. Die Ankündigung legt weder den Beginn des Zugangs noch den Weg für Forschende oder mögliche Sicherheitsergebnisse der Arbeit fest.

Wohin die Rechenleistung gehen soll

NVIDIA zufolge werden im Vereinigten Königreich ansässige NVIDIA Cloud Partners den Zugang über dort gehostete Infrastruktur bereitstellen. Die genannten Forschungsprogramme behandeln unterschiedliche Fragen: BOLD untersucht Systeme, die gemeinsam mit Menschen lernen und sich anpassen; SOFAIR erforscht Open-Source-KI-Architekturen und leichter zugängliche Entwicklung; die Arbeit von Imperial umfasst Sicherheitsingenieurwesen und Robotik. Die Mitteilung beschreibt Forschungspläne zu sicheren Agenten, der Sicherheit offener Modelle und der Abwehr realer Bedrohungen, darunter Sandboxes, reproduzierbare Forschung und Bewertungsmaßstäbe. Es sind Forschungspläne, keine veröffentlichten Ergebnisse.

Die Verteilung ist ebenso wichtig wie die große Gesamtsumme. NVIDIA sagt, der Großteil der Zusage sei für die breitere Forschungsgemeinschaft vorgesehen, teilt den jährlich auf 50 Millionen US-Dollar bewerteten Zugang aber nicht zwischen dieser Gemeinschaft und den genannten Programmen auf. Angaben zur Zahl der GPUs, zu Rechenstunden, Preisgrundlagen oder Zugangskriterien fehlen. Auch die Auswahl des Cloud-Anbieters, die technische Architektur und die Geschäftsbedingungen sind offen. Ein Labor kann daher aus dem Dollarbetrag weder ein nutzbares Kontingent noch Hardwarekonfiguration oder Starttermin ableiten.

NVIDIA nennt seine OpenShell-Laufzeitumgebung und das Sentry-Referenzdesign als Technologien, die in einem Teil der Forschung zum Einsatz kommen könnten. BIG CHANGE hatte bereits über diese Agentensicherheitsplattform berichtet als NVIDIA sie im September ankündigte. Die Zusage für das Vereinigte Königreich betrifft Forschungskapazitäten und geplante Projekte; sie ist eine andere Entwicklung als die Einführung des Software- und Hardwaredesigns. Die Oktober-Mitteilung sagt nicht, dass alle Empfänger diese Werkzeuge einsetzen müssen.

Getrennte Arbeit der britischen Regierung

Am 12. Oktober kündigte die britische Regierung Arbeiten zu KI-Risiken und nationaler Sicherheit an. Das AI Security Institute bewertet demnach fortgeschrittene Modelle; das Institut und das National Cyber Security Centre untersuchen außerdem Reaktionen auf schwere Vorfälle mit autonomen Agenten. Die Regierung beschrieb auch Cyberabwehr-Pilotprojekte und eine mögliche Meldung von KI-Vorfällen und Beinahevorfällen. Das ist ein Regierungsprogramm; keine der beiden Mitteilungen bezeichnet es als finanzierten Bestandteil oder Bereitstellungsweg der NVIDIA-Zusage für Rechenleistung.

Für Forschende sind als Nächstes praktische Angaben wichtig: benannte Cloud-Anbieter, Vergabe- und Zulassungsverfahren, Hardware- und Softwareumgebung sowie Nutzungsbedingungen für den gespendeten Zugang. Für die Bewertung der Sicherheitsbehauptung sind veröffentlichte Methoden und Ergebnisse wichtiger als der angekündigte Wert. NVIDIA hat geplante Forschung beschrieben, bislang aber keine unabhängig bestätigten Ergebnisse zur Bereitstellung oder Wirksamkeit. BIG CHANGE hat die Rechenleistung nicht genutzt und die vorgeschlagenen Sicherheitssysteme nicht getestet.

Quellen und weiterführende Informationen