Markdown-Ausgabe

AI-translated from English; not yet reviewed by a fluent editor.

# Anthropics laut Berichten vorgelegter KI-Sicherheitsentwurf setzt Schwellen für das Stoppen von Frontier-Modellen

> Reuters zufolge hat Anthropic Abgeordneten einen nicht öffentlichen Entwurf für ein KI-Sicherheitsgesetz vorgestellt. Die berichteten Schadensschwellen unterscheiden sich von den Entwicklerkriterien im öffentlichen Rahmenwerk des Unternehmens vom Juni.

By BIG CHANGE Editorial

Published: 2026-10-18T22:03:34.834Z
Updated: 2026-10-18T22:03:34.834Z
Canonical: https://bigchange.ai/blog/anthropic-reported-draft-ai-safety-bill-thresholds

![Conceptual illustration of an empty courtroom seen from its rear gallery, with counsel tables, a central aisle and an elevated judge’s bench.](https://bigchange.ai/api/media/file/anthropic-reported-safety-bill-courtroom-concept-v1.png)
AI-generated conceptual illustration by BIG CHANGE; it depicts no actual hearing, court order, jurisdiction-specific courthouse, or enacted bill.

Vertreter von Anthropic haben US-Abgeordneten einen Gesetzentwurf zur Sicherheit und zum Schutz von Frontier-KI vorgestellt, [berichtete Reuters am 16. Oktober 2026](https://www.investing.com/news/stock-market-news/anthropic-quietly-pitches-its-own-ai-safety-bill-to-lawmakers-politico-reports-4954941), unter Berufung auf einen Politico-Bericht, der sich auf drei mit dem Vorhaben vertraute Personen stützt. Der Entwurf wurde nicht öffentlich weitergegeben. Sein Wortlaut lag für diesen Artikel nicht vor, weshalb sich die berichteten Bestimmungen nicht am Entwurf selbst überprüfen lassen. Die berichtete Vorstellung ist weder eine förmliche Einbringung des Gesetzentwurfs noch ein verabschiedetes Gesetz.

## Die große Veränderung

- **Was sich geändert hat:** Nach der Veröffentlichung eines politischen Rahmenwerks im Juni stellt Anthropic Abgeordneten einen nicht öffentlichen Entwurf vor, der laut Reuters einen Maßstab für das Stoppen gefährlicher Frontier-Modelle enthält. Dieser Maßstab und der Wortlaut des Entwurfs wurden noch nicht anhand des Dokuments überprüft.
- **Warum das wichtig ist:** Der berichtete Vorschlag sieht unterschiedliche Rollen für unabhängige Prüfer, das Handelsministerium und einen Bundesrichter vor. Eine Aussetzung des Modells wäre auf bestimmte, unmittelbar drohende katastrophale Schäden begrenzt. Deshalb ist die genaue Definition dieser Schäden für Entwickler und Öffentlichkeit folgenreich.
- **Worauf zu achten ist:** Ein veröffentlichter Entwurf oder ein förmlich eingebrachtes Gesetzesvorhaben würde zeigen, ob die berichteten Schadensschwellen, die Rolle des Handelsministeriums und die Beschränkungen anderer Behörden im tatsächlichen Gesetzestext bestehen bleiben. Zudem würde deutlich, welche Teile von Anthropics umfassenderem Juni-Rahmenwerk enthalten sind.

Der berichtete Entwurf legt fest, unter welchen Bedingungen die Regierung ein Modell stoppen könnte. Nach Reuters’ Wiedergabe der Politico-Recherche dürfte die Veröffentlichung oder Nutzung nur blockiert werden, wenn ein Modell ein vorhersehbares, unmittelbar drohendes Risiko von Schäden über 1 Milliarde Dollar oder der Tötung beziehungsweise schweren Verletzung von mehr als 50 Menschen mit sich bringt. Reuters zufolge müsste das Risiko aus der Herstellung oder Freisetzung einer biologischen Waffe, dem Entgleiten eines Modells aus der Kontrolle seines Entwicklers oder einem Cyberangriff entstehen. Diese Zahlen beschreiben den berichteten Maßstab für ein Eingreifen.

## Wie das berichtete Gesetz funktionieren würde

Der [Reuters-Bericht](https://www.investing.com/news/stock-market-news/anthropic-quietly-pitches-its-own-ai-safety-bill-to-lawmakers-politico-reports-4954941) besagt, dass unabhängige Prüfer sich beim Handelsministerium registrieren und ein KI-Labor sowie dessen Frontier-Modelle regelmäßig bewerten würden. Ein Labor dürfte seinen Prüfer bezahlen, solange die Vergütung nicht vom Ergebnis abhängt. Stellte ein Prüfer fest, was der Bericht als „unmittelbar drohendes, ausdrücklich aufgezähltes Risiko“ bezeichnet, hätte er nach Abschluss der Bewertung 72 Stunden Zeit, das Handelsministerium zu benachrichtigen.

Laut Reuters’ Darstellung des berichteten Entwurfs könnte das Handelsministerium nach Feststellung eines Risikos einen Richter bitten, ein Modell zu stoppen. Reuters zufolge würde der vorgeschlagene Wortlaut anderen US-Ministerien, Behörden und Amtsträgern verbieten, die Entwicklung, Bereitstellung oder interne Nutzung eines Modells auszusetzen. Ein Bundesrichter am Bezirksgericht für den District of Columbia könnte eine Aussetzung anordnen. Ohne den Entwurfstext bleiben die genauen Definitionen, Verfahren und die Reichweite dieser Beschränkungen ungeprüft.

Ein Anthropic-Sprecher sagte Reuters, der Gesetzentwurf greife Vorschläge aus dem [Advanced AI Framework](https://www-cdn.anthropic.com/files/4zrzovbb/website/0a58d567024a8b448ff15158ebc3625328dfcc1f.pdf) des Unternehmens auf, das im Juni 2026 veröffentlicht wurde. Dem Sprecher zufolge würde der Vorschlag der Regierung ermöglichen, gefährliche Bereitstellungen der leistungsfähigsten Modelle zu blockieren oder abzuschrecken, und Entwickler zu Tests von Frontier-Modellen, zur Offenlegung der Ergebnisse und zu unabhängigen Bewertungen verpflichten. Reuters erklärte, das Handelsministerium habe nicht umgehend auf die Bitte um Stellungnahme geantwortet.

## Was tatsächlich in Anthropics öffentlichem Rahmenwerk steht

Das [19-seitige Rahmenwerk vom Juni](https://www-cdn.anthropic.com/files/4zrzovbb/website/0a58d567024a8b448ff15158ebc3625328dfcc1f.pdf) schlägt Pflichten für große Frontier-Entwickler vor. Sein vorgeschlagenes Entwicklerkriterium besteht aus zwei Teilen: einem Modell, das mehr als 10^25 Trainings-FLOP benötigt, und zusätzlich entweder jährlichen KI-basierten Einnahmen über 500 Millionen Dollar oder jährlichen Ausgaben für KI-Forschung und -Entwicklung über 1 Milliarde Dollar. Der Ausgabenwert von 1 Milliarde Dollar in diesem öffentlichen Dokument betrifft die Frage, welche Entwickler erfasst wären. Er ist vom Schadenswert von 1 Milliarde Dollar zu unterscheiden, der dem nicht öffentlichen Entwurf zugeschrieben wird.

Das Rahmenwerk fordert erfasste Entwickler auf, biologische Waffen, offensive Cyberoperationen, Kontrollverlust sowie automatisierte Forschung und Entwicklung zu bewerten, die diese Risiken verstärken könnte. Es verlangt veröffentlichte Sicherheitsrahmen und Systemkarten, Risikoberichte mindestens alle sechs Monate sowie Meldungen kritischer Sicherheitsvorfälle an eine benannte Behörde innerhalb von 15 Tagen nach ihrer Entdeckung. Vorgeschlagen werden ein regelmäßiger Zugang qualifizierter unabhängiger Prüfer zu Modellen und ungeschwärzten Risikoberichten, veröffentlichte Prüferbewertungen und Vorkehrungen gegen Interessenkonflikte.

Bei der Durchsetzung schlägt das Rahmenwerk Sanktionen für falsche Angaben und versäumte Bewertungen, Veröffentlichungen oder Meldungen vor. Statt einen endgültigen Mechanismus festzuschreiben, nennt es mehrere Möglichkeiten, unsichere Bereitstellungen zu stoppen, darunter eine Behörde, die eine gerichtliche Anordnung anstrebt. Seine Erörterung staatlicher Maßnahmen enthält Schutzvorkehrungen gegen einen zu breiten Ermessensspielraum und einen Weg zur gerichtlichen Überprüfung. Das Dokument empfiehlt zudem Investitionen in biologische und Cyberresilienz jenseits der Entwicklerpflichten. Reuters’ Darstellung belegt nicht, welche dieser Empfehlungen, wenn überhaupt, in dem weitergegebenen Entwurf stehen.

Der genaue Wortlaut des Entwurfs, ein möglicher parlamentarischer Initiator und die Behandlung von Fragen wie dem Recht der US-Bundesstaaten bleiben aus den hier verfügbaren Quellen unbekannt. Anthropics Juni-Rahmenwerk spricht sich unter einem strengen bundesrechtlichen Regime für enge Grenzen bei der Verdrängung einzelstaatlichen Rechts aus. Reuters stellt jedoch nicht fest, welche Position der Entwurf dazu einnimmt.

## Quellen und weiterführende Lektüre

- [Reuters, „Anthropic stellt Abgeordneten stillschweigend eigenes KI-Sicherheitsgesetz vor, berichtet Politico“ (16. Oktober 2026)](https://www.investing.com/news/stock-market-news/anthropic-quietly-pitches-its-own-ai-safety-bill-to-lawmakers-politico-reports-4954941). Gibt Politicos auf drei Personen gestützte Darstellung der Schwellen, Prüferrolle und Gerichtsverfahren im nicht öffentlich weitergegebenen Entwurf wieder; enthält Anthropics Antwort und den Hinweis, dass das Handelsministerium nicht umgehend reagierte. Reuters liefert den Entwurfstext nicht.
- [Anthropic, *Advanced AI Framework* (Juni 2026)](https://www-cdn.anthropic.com/files/4zrzovbb/website/0a58d567024a8b448ff15158ebc3625328dfcc1f.pdf). Öffentliches Primärdokument zu Anthropics vorgeschlagenem Entwicklerkreis, Bewertungen, Offenlegungen, Durchsetzungsoptionen und Resilienzmaßnahmen. Es bestätigt nicht den Wortlaut des berichteten nicht öffentlichen Entwurfs.

## Sources

- [Reuters, Anthropic stellt Abgeordneten stillschweigend eigenes KI-Sicherheitsgesetz vor, berichtet Politico (2026-10-16)](https://www.investing.com/news/stock-market-news/anthropic-quietly-pitches-its-own-ai-safety-bill-to-lawmakers-politico-reports-4954941) — Reuters’ Bericht vom 16. Oktober über eine Politico-Recherche auf Grundlage von drei Personen. Beschreibt die Schadensschwellen des Entwurfs, die Rollen von Prüfern und Handelsministerium, eine mögliche gerichtliche Aussetzung, die Antwort eines Anthropic-Sprechers und die ausbleibende sofortige Antwort des Handelsministeriums. Der nicht öffentliche Entwurf wurde nicht beschafft; sein Wortlaut und Geltungsbereich bleiben daher ungeprüft.
- [Anthropic, Advanced AI Framework (2026-06)](https://www-cdn.anthropic.com/files/4zrzovbb/website/0a58d567024a8b448ff15158ebc3625328dfcc1f.pdf) — Anthropics öffentlicher Vorschlag vom Juni 2026: Kriterien für erfasste Entwickler, vier Risikokategorien, Transparenz und unabhängige Bewertung, Durchsetzungsoptionen, Schutzvorkehrungen und gesellschaftliche Resilienz. Der jährliche KI-Forschungs- und Entwicklungsaufwand ist vom Schadensschwellenwert getrennt, den Reuters dem nicht öffentlichen Entwurf zuschreibt. Das PDF kann diesen Entwurf nicht bestätigen.