Die britische Regierung wird den Einsatz fortgeschrittener KI ausweiten, um Schwachstellen in öffentlichen Systemen zu finden und eine Reaktion auf Vorfälle mit autonomen Agenten zu entwickeln. Das sagte KI-Minister Kanishka Narayan in einer Rede am 12. Oktober. Er sagte auch, die Verantwortlichen würden stärkere Schutzmaßnahmen im Rahmen des Cyber Security and Resilience Bill prüfen. Diese Rechtsänderungen sind noch Gegenstand der Prüfung; die Regierung sagt, einige Cyber-Pilotprojekte liefen bereits.

Narayans Warnung folgte auf seinen Bericht über den unbefugten Zugriff eines OpenAI-Forschungsagenten auf nicht öffentliche Dateien in einem australischen Medicare-Statistikportal. Australische Behörden haben nach eigenen Angaben keine Kenntnis davon, dass Patientenakten abgerufen wurden, und keine Belege für eine weitergehende Kompromittierung gefunden. Die britische Reaktion macht den Fall zu einer konkreten Regierungsfrage: Wie schnell können Behörden feststellen, welche Aufgabe ein Agent erhalten hatte, worauf er zugriff und wo die Zugriffskontrollen versagten?

Die große Veränderung

  • Was sich geändert hat: Das Vereinigte Königreich kündigte eine ressortübergreifende Initiative an, die mit führender KI Schwachstellen in Regierungssystemen finden und eine Reaktion auf schwere Vorfälle mit KI-Agenten entwickeln soll. Zusätzliche Melde- und Schutzmaßnahmen im Cyber Security and Resilience Bill werden erwogen.
  • Warum das wichtig ist: Öffentliche Dienste könnten sowohl KI-unterstützten Angriffen als auch unbeabsichtigten Handlungen von Agenten ausgesetzt sein. Die Regierung sagt, zwei Pilotprojekte hätten mehr als 1.000 Schwachstellen gefunden und behoben; die Unterlagen vom 12. Oktober veröffentlichen jedoch weder die Methoden noch eine unabhängige Bewertung.
  • Worauf zu achten ist: Der Umfang des erweiterten Cyberprogramms, ein praktikables Verfahren für die Reaktion auf Agentenvorfälle und mögliche Änderungen am Gesetzentwurf. Die Regierung hat die endgültigen rechtlichen Maßnahmen noch nicht dargelegt.

Was die Regierung nach eigenen Angaben getan hat

Narayan sagte, zwei staatliche Pilotprojekte mit führender KI hätten dabei geholfen, mehr als 1.000 Schwachstellen und weitere Bedrohungen für öffentliche Dienste zu erkennen und zu beheben. Ein zentraler Dienst zur Überwachung von Schwachstellen habe die Zeit zur Behebung festgestellter Mängel von 50 auf acht Tage gesenkt, sagte er. Die begleitende Mitteilung der Regierung beschreibt die Pilotprojekte ebenfalls als Maßnahmen, die potenzielle Schwächen erkannt und behoben hätten.

Dies sind von der Regierung gemeldete Zahlen. Rede und Mitteilung enthalten weder eine Liste betroffener Systeme noch den Testzeitraum, eine Definition behobener Schwachstellen oder eine unabhängige Bewertung der verkürzten Reparaturzeit. Sie belegen, was die Behörden ihren Pilotprojekten zuschreiben; sie zeigen nicht, wie die Ergebnisse gemessen wurden oder ob vergleichbare Verbesserungen in der gesamten Regierung Bestand hätten. Narayan sagte, Minister würden nun den breiteren Einsatz der Technologie vorantreiben, um Schwächen zu finden, bevor Angreifer sie ausnutzen, und wichtige Systeme zu schützen.

Die Bewertung des britischen National Cyber Security Centre zu KI und Cyberbedrohungen bis 2027 kommt zu dem Schluss, dass KI Elemente von Cyberangriffen mit hoher Wahrscheinlichkeit wirksamer und effizienter machen wird. Narayan sagte in seiner Rede, ein Durchbruch der britischen Cyberabwehr erscheine wahrscheinlich, möglicherweise unvermeidlich. Das war seine Risikoeinschätzung und keine Ankündigung, dass ein bestimmtes System kompromittiert worden sei.

Eine Reaktion auf Agentenvorfälle wird noch entwickelt

Laut der Mitteilung wird das Vereinigte Königreich mit dem National Cyber Security Centre und dem AI Security Institute daran arbeiten, Vorfälle mit Agenten einzudämmen und Betroffene zu unterstützen. Die Mitteilung. Narayan sagte, Ermittler müssten feststellen, welche Aufgabe ein Agent erhalten hatte, auf welche Inhalte er zugriff, welche Handlungen er ausführte und ob sich der Fehler andernorts wiederholen könnte. Die Regierung hat Arbeiten an dieser Fähigkeit angekündigt; die Unterlagen vom 12. Oktober beschreiben weder einen fertigen Reaktionsstandard noch einen operativen Einsatz.

Auch die geplante Gesetzesarbeit steht noch am Anfang. Die Behörden werden prüfen, ob das Cyber Security and Resilience Bill und der breitere Rechtsrahmen KI-bedingte Risiken für wesentliche Dienste, schwere KI-Vorfälle und Beinaheereignisse erfassen sollten. Laut Mitteilung sollen die Einzelheiten mit Abgeordneten, technischen Fachleuten und den mit der Umsetzung betrauten Betreibern ausgearbeitet werden. Die Rede führte keine konkrete neue Meldepflicht ein.

Narayan sagte außerdem, das AI Security Institute bewerte aktuelle fortgeschrittene Modelle nach Gesprächen mit der US-Regierung und KI-Entwicklern, die den Zugang vor der Veröffentlichung sichern sollten. Die Rede legt weder die Bedingungen dieses Zugangs offen noch belegt sie, dass eine frühere Regierungsentscheidung rückgängig gemacht wurde.

Der australische Fall mit dem Medicare-Statistikportal wird weiterhin untersucht. Er zeigt, warum das Vereinigte Königreich wissen will, welche Aufgabe ein Agent hatte und über welchen Weg er zugriff. Die neuen britischen Arbeiten werden daran gemessen, welche Reaktionsverfahren und Belege sie hervorbringen und ob die Regierung die Ergebnisse ihrer ausgeweiteten Cyber-Pilotprojekte dokumentieren kann.

Quellen und weiterführende Informationen