Anthropic gewährt sechs METR-Prüfern internen Zugang mit Publikationsgrenzen

Anthropic hat nach eigenen Angaben begonnen, sechs Mitarbeitern der gemeinnützigen Organisation METR Zugang zu seinen internen Systemen zur Bewertung von KI-Risiken zu gewähren. Die Vereinbarung ermöglicht einem kleinen externen Team einen genaueren Einblick in die Arbeit des Unternehmens als eine öffentliche Modellveröffentlichung oder ein Risikobericht. Anthropic kontrolliert weiterhin, welche Informationen das Team erhält, und kann verlangen, dass bestimmte Inhalte aus den veröffentlichten Analysen von METR entfernt werden.

Anthropic kündigte die Zusammenarbeit am 15. Oktober an und aktualisierte seine Erklärung am 16. Oktober, um die derzeitigen Publikationsbedingungen klarzustellen. Die Ankündigung beschreibt eine Zugangsvereinbarung, keine abgeschlossene METR-Bewertung der Risiken von Anthropic. Ihr Wert für die Leser hängt davon ab, was METR untersuchen kann und was sein späterer Bericht über etwaige Grenzen erklärt.

Die große Veränderung

• Was sich geändert hat: Laut Anthropic verfügen sechs METR-Mitarbeiter über Unternehmenshardware, Büroräume und einen Zugang zu internen Werkzeugen, der ungefähr mit dem seiner eigenen Risikobewertungsteams vergleichbar ist. METR soll Analysen zu Risikoniveaus, Vorfällen oder Praktiken von Anthropic veröffentlichen.
• Warum das wichtig ist: Eine externe Prüforganisation kann möglicherweise interne Belege untersuchen, die der Öffentlichkeit nicht zugänglich sind. METRs späterer Bericht kann auch wesentliche Zugangsgrenzen und Streichungen beschreiben und Lesern damit helfen, die Schlussfolgerungen einzuordnen.
• Worauf zu achten ist: Anthropic erklärt, Veröffentlichungen von METR nicht mit einem Veto verhindern zu können. Das Unternehmen kann jedoch Streichungen nach vorab festgelegten Kategorien verlangen und entscheidet letztlich, was darunter fällt. Die Ankündigung belegt kein Bewertungsergebnis aus dieser Einbindung des Teams in das Unternehmen.

Worauf die sechs Prüfer zugreifen können

Anthropic hat nach eigenen Angaben sechs METR-Mitarbeiter aufgenommen und ihnen Unternehmenshardware, Büroräume sowie Zugang zu internen Werkzeugen und Systemen bereitgestellt, der mit dem seiner Risikobewertungsteams „ungefähr gleichauf“ liegt. Das Unternehmen ermutigt Beschäftigte, relevante Informationen so mit ihnen zu teilen wie mit einem Kollegen, der an Risiken der KI-Zielausrichtung arbeitet. Als Beispiele ausgeschlossener Kategorien nennt es Kundendaten, Informationen, die durch das Vertraulichkeitsprivileg zwischen Anwalt und Mandant geschützt sind, und Modellarchitekturen. Architekturinformationen könnten bei hoher Relevanz mit ausdrücklichen internen Genehmigungen gelegentlich weitergegeben werden.

Das ist eine umfangreiche Beschreibung des Zugangs, aber keine Liste aller Datensätze, Systeme oder Interviews, die das Team tatsächlich genutzt hat. Laut Anthropic arbeitet das Team auf Grundlage rechtlich durchsetzbarer Vereinbarungen. Andere METR-Mitarbeiter, darunter Forscher in anderen Anthropic-Projekten, sind von seiner Arbeit abgeschottet. BIG CHANGE hat die öffentlichen Erklärungen geprüft; die Vereinbarung oder die internen Systeme haben wir nicht eingesehen.

METRs Vorschlag vom 14. Oktober für Bewertungen von Kontrollverlustrisiken erklärt, welche Belege es von Entwicklern führender KI-Systeme erhalten möchte. Er nennt drei Fragen: ob interne KI-Agenten schwerwiegenden Schaden anrichten könnten, ob Überwachung dies erkennen und stoppen würde und ob KI-getriebene Forschung Fähigkeiten schneller voranbringen könnte, als Schutzmaßnahmen Schritt halten. METR beschreibt dafür möglichen Zugang zu Modell-Checkpoints, internen Gesprächsprotokollen, Überwachungssystemen und Maßen für den Forschungsfortschritt. Das Dokument ist ein Vorschlag für mehrere Entwickler, kein Verzeichnis dessen, was Anthropic im Rahmen dieser Zusammenarbeit bereitgestellt hat.

Publikationsrechte und ihre Grenzen

Anthropic erklärt, METR könne Analysen zu Risikoniveaus, Vorfällen oder Unternehmenspraktiken ohne ein Veto von Anthropic veröffentlichen. Das Unternehmen kann die Streichung von Informationen in vorab definierten Kategorien verlangen. Die Klarstellung vom 16. Oktober ergänzt, dass Anthropic letztlich entscheidet, ob Informationen in diese Kategorien fallen. METR behält sich dagegen das Recht auf bestimmte Aussagen über den erhaltenen Zugang und die erhaltenen Informationen vor. Das Recht, Ergebnisse zu veröffentlichen, besteht somit neben der Kontrolle des Unternehmens über sensible Einzelheiten.

METRs Richtlinie zur Zusammenarbeit mit KI-Unternehmen sieht vor, dass Berichte Umfang und Dauer der Arbeit, für die Schlussfolgerungen relevante Zugangsgrenzen, wichtige Streichungen und möglichen ergebnisprägenden Druck offenlegen sollen. METR strebt nach eigenen Angaben eine Zusammenfassung der Streichungen an, wenn ein Unternehmen für seine Schlussfolgerungen wichtige Informationen entfernt. Das sind die von METR genannten Praktiken und Ziele; die Öffentlichkeit kann noch nicht prüfen, wie sie in einem Bericht dieses neu eingebundenen Teams umgesetzt werden.

METR räumt auch ein, dass freiwillige Bewertungen davon abhängen, dass Unternehmen Zugang gewähren und Veröffentlichungen erlauben. Unternehmen können demnach Zugang verweigern oder Material so streichen, dass dies die öffentlich verfügbaren Belege beeinflusst. Laut dem Vorschlag vom 14. Oktober würde die Untersuchung technische Fragen des Kontrollverlusts behandeln und wäre kein Audit von Sicherheit, Organisationsführung oder Compliance. Die zugrunde liegende Wissenschaft könne noch keine belastbare Gewissheit bieten, dass die Entwicklung sicher sei, erklärt METR.

Anthropic beschreibt für andere Prüforganisationen einen dreistufigen Ansatz. Die Vereinbarung mit METR entspricht der dritten Stufe, mit beschäftigtenähnlichem Zugang und Publikationsrechten. Frühere Stufen bieten engere Untersuchungen oder begrenztere Publikationsrechte. Diese Stufenbeschreibungen sind Anthropics Pläne und derzeitige Kooperationsbedingungen, kein Beleg dafür, dass jeder Partner denselben Zugang wie METR hat.

Der öffentliche Prüfstein dieser Vereinbarung wird METRs Berichterstattung sein: welche Risikofragen es untersucht hat, welche internen Belege es prüfen konnte und welche Grenzen oder Streichungen es beschreiben kann. Die aktuellen Erklärungen belegen die von Anthropic angekündigten Bedingungen und METRs veröffentlichten Ansatz. Sie belegen kein Ergebnis zur Sicherheit von Anthropic oder zur Wirksamkeit der eingebundenen Bewertung.

Quellen und weiterführende Lektüre

• Anthropic, „Ein Update zu unabhängigen Prüforganisationen“ (15. Oktober 2026; am 16. Oktober aktualisiert). Anthropics eigene Darstellung nennt das eingebundene sechsköpfige Team, den beschäftigtenähnlichen Zugang, Ausschlüsse sowie Publikations- und Streichungsbedingungen. Die Fußnote vom 16. Oktober kennzeichnet die Klarstellung zu METRs derzeitigen Projektbedingungen. Sie enthält weder die Vereinbarung noch eine abgeschlossene Bewertung.
• METR, „Unser Ansatz für die Zusammenarbeit mit KI-Unternehmen“ (14. Oktober 2026). METR beschreibt Offenlegungspraktiken, Maßnahmen zur Unabhängigkeit und Grenzen des freiwilligen Unternehmenszugangs. Diese allgemeine Richtlinie bestätigt nicht unabhängig jede Bedingung der Zusammenarbeit mit Anthropic.
• METR, „Ein Vorschlag zur besseren Information der Öffentlichkeit über Kontrollverlustrisiken durch die Entwicklung führender KI“ (14. Oktober 2026). Der Vorschlag legt die Fragen und Belege dar, die METR untersuchen möchte, sowie Grenzen dessen, was solche Untersuchungen feststellen können. Der vorgeschlagene Zugang ist kein Verzeichnis dessen, was das Team bei Anthropic bereits erhalten hat.