Vertreter von Anthropic haben US-Abgeordneten einen Gesetzentwurf zur Sicherheit und zum Schutz von Frontier-KI vorgestellt, berichtete Reuters am 16. Oktober 2026, unter Berufung auf einen Politico-Bericht, der sich auf drei mit dem Vorhaben vertraute Personen stützt. Der Entwurf wurde nicht öffentlich weitergegeben. Sein Wortlaut lag für diesen Artikel nicht vor, weshalb sich die berichteten Bestimmungen nicht am Entwurf selbst überprüfen lassen. Die berichtete Vorstellung ist weder eine förmliche Einbringung des Gesetzentwurfs noch ein verabschiedetes Gesetz.

Die große Veränderung

  • Was sich geändert hat: Nach der Veröffentlichung eines politischen Rahmenwerks im Juni stellt Anthropic Abgeordneten einen nicht öffentlichen Entwurf vor, der laut Reuters einen Maßstab für das Stoppen gefährlicher Frontier-Modelle enthält. Dieser Maßstab und der Wortlaut des Entwurfs wurden noch nicht anhand des Dokuments überprüft.
  • Warum das wichtig ist: Der berichtete Vorschlag sieht unterschiedliche Rollen für unabhängige Prüfer, das Handelsministerium und einen Bundesrichter vor. Eine Aussetzung des Modells wäre auf bestimmte, unmittelbar drohende katastrophale Schäden begrenzt. Deshalb ist die genaue Definition dieser Schäden für Entwickler und Öffentlichkeit folgenreich.
  • Worauf zu achten ist: Ein veröffentlichter Entwurf oder ein förmlich eingebrachtes Gesetzesvorhaben würde zeigen, ob die berichteten Schadensschwellen, die Rolle des Handelsministeriums und die Beschränkungen anderer Behörden im tatsächlichen Gesetzestext bestehen bleiben. Zudem würde deutlich, welche Teile von Anthropics umfassenderem Juni-Rahmenwerk enthalten sind.

Der berichtete Entwurf legt fest, unter welchen Bedingungen die Regierung ein Modell stoppen könnte. Nach Reuters’ Wiedergabe der Politico-Recherche dürfte die Veröffentlichung oder Nutzung nur blockiert werden, wenn ein Modell ein vorhersehbares, unmittelbar drohendes Risiko von Schäden über 1 Milliarde Dollar oder der Tötung beziehungsweise schweren Verletzung von mehr als 50 Menschen mit sich bringt. Reuters zufolge müsste das Risiko aus der Herstellung oder Freisetzung einer biologischen Waffe, dem Entgleiten eines Modells aus der Kontrolle seines Entwicklers oder einem Cyberangriff entstehen. Diese Zahlen beschreiben den berichteten Maßstab für ein Eingreifen.

Wie das berichtete Gesetz funktionieren würde

Der Reuters-Bericht besagt, dass unabhängige Prüfer sich beim Handelsministerium registrieren und ein KI-Labor sowie dessen Frontier-Modelle regelmäßig bewerten würden. Ein Labor dürfte seinen Prüfer bezahlen, solange die Vergütung nicht vom Ergebnis abhängt. Stellte ein Prüfer fest, was der Bericht als „unmittelbar drohendes, ausdrücklich aufgezähltes Risiko“ bezeichnet, hätte er nach Abschluss der Bewertung 72 Stunden Zeit, das Handelsministerium zu benachrichtigen.

Laut Reuters’ Darstellung des berichteten Entwurfs könnte das Handelsministerium nach Feststellung eines Risikos einen Richter bitten, ein Modell zu stoppen. Reuters zufolge würde der vorgeschlagene Wortlaut anderen US-Ministerien, Behörden und Amtsträgern verbieten, die Entwicklung, Bereitstellung oder interne Nutzung eines Modells auszusetzen. Ein Bundesrichter am Bezirksgericht für den District of Columbia könnte eine Aussetzung anordnen. Ohne den Entwurfstext bleiben die genauen Definitionen, Verfahren und die Reichweite dieser Beschränkungen ungeprüft.

Ein Anthropic-Sprecher sagte Reuters, der Gesetzentwurf greife Vorschläge aus dem Advanced AI Framework des Unternehmens auf, das im Juni 2026 veröffentlicht wurde. Dem Sprecher zufolge würde der Vorschlag der Regierung ermöglichen, gefährliche Bereitstellungen der leistungsfähigsten Modelle zu blockieren oder abzuschrecken, und Entwickler zu Tests von Frontier-Modellen, zur Offenlegung der Ergebnisse und zu unabhängigen Bewertungen verpflichten. Reuters erklärte, das Handelsministerium habe nicht umgehend auf die Bitte um Stellungnahme geantwortet.

Was tatsächlich in Anthropics öffentlichem Rahmenwerk steht

Das 19-seitige Rahmenwerk vom Juni schlägt Pflichten für große Frontier-Entwickler vor. Sein vorgeschlagenes Entwicklerkriterium besteht aus zwei Teilen: einem Modell, das mehr als 10^25 Trainings-FLOP benötigt, und zusätzlich entweder jährlichen KI-basierten Einnahmen über 500 Millionen Dollar oder jährlichen Ausgaben für KI-Forschung und -Entwicklung über 1 Milliarde Dollar. Der Ausgabenwert von 1 Milliarde Dollar in diesem öffentlichen Dokument betrifft die Frage, welche Entwickler erfasst wären. Er ist vom Schadenswert von 1 Milliarde Dollar zu unterscheiden, der dem nicht öffentlichen Entwurf zugeschrieben wird.

Das Rahmenwerk fordert erfasste Entwickler auf, biologische Waffen, offensive Cyberoperationen, Kontrollverlust sowie automatisierte Forschung und Entwicklung zu bewerten, die diese Risiken verstärken könnte. Es verlangt veröffentlichte Sicherheitsrahmen und Systemkarten, Risikoberichte mindestens alle sechs Monate sowie Meldungen kritischer Sicherheitsvorfälle an eine benannte Behörde innerhalb von 15 Tagen nach ihrer Entdeckung. Vorgeschlagen werden ein regelmäßiger Zugang qualifizierter unabhängiger Prüfer zu Modellen und ungeschwärzten Risikoberichten, veröffentlichte Prüferbewertungen und Vorkehrungen gegen Interessenkonflikte.

Bei der Durchsetzung schlägt das Rahmenwerk Sanktionen für falsche Angaben und versäumte Bewertungen, Veröffentlichungen oder Meldungen vor. Statt einen endgültigen Mechanismus festzuschreiben, nennt es mehrere Möglichkeiten, unsichere Bereitstellungen zu stoppen, darunter eine Behörde, die eine gerichtliche Anordnung anstrebt. Seine Erörterung staatlicher Maßnahmen enthält Schutzvorkehrungen gegen einen zu breiten Ermessensspielraum und einen Weg zur gerichtlichen Überprüfung. Das Dokument empfiehlt zudem Investitionen in biologische und Cyberresilienz jenseits der Entwicklerpflichten. Reuters’ Darstellung belegt nicht, welche dieser Empfehlungen, wenn überhaupt, in dem weitergegebenen Entwurf stehen.

Der genaue Wortlaut des Entwurfs, ein möglicher parlamentarischer Initiator und die Behandlung von Fragen wie dem Recht der US-Bundesstaaten bleiben aus den hier verfügbaren Quellen unbekannt. Anthropics Juni-Rahmenwerk spricht sich unter einem strengen bundesrechtlichen Regime für enge Grenzen bei der Verdrängung einzelstaatlichen Rechts aus. Reuters stellt jedoch nicht fest, welche Position der Entwurf dazu einnimmt.

Quellen und weiterführende Lektüre