Markdown-Ausgabe

AI-translated from English; not yet reviewed by a fluent editor.

# Altman und Amodei fordern KI-Sicherheitsstandards im UN-Sicherheitsrat

> Die Chefs von OpenAI und Anthropic schlugen bei einer Unterrichtung des UN-Sicherheitsrats KI-Tests, die Meldung von Vorfällen und internationale Zusammenarbeit vor. Das Transkript hält keine neue Regel des Rates fest.

By BIG CHANGE Editorial

Published: 2026-09-24T00:57:59.558Z
Updated: 2026-09-24T00:57:59.558Z
Canonical: https://bigchange.ai/blog/un-security-council-ai-safety-briefings

![Conceptual charcoal illustration of the unoccupied UN Security Council chamber, showing its horseshoe-shaped delegation table and surrounding seats.](https://bigchange.ai/api/media/file/un-security-council-chamber-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

Sam Altman von OpenAI und Dario Amodei von Anthropic unterrichteten den UN-Sicherheitsrat am 23. September getrennt über Risiken durch immer leistungsfähigere KI. Beide baten Regierungen um Zusammenarbeit bei Tests und Meldungen. Ihre Vorschläge unterschieden sich in ihrer Reichweite; aus der Diskussion des Rates selbst ergab sich keine neue KI-Regel.

## Die große Veränderung

Die Chefs zweier Unternehmen, die fortgeschrittene KI-Modelle entwickeln, brachten konkrete Sicherheitsvorschläge in eine Sitzung des Sicherheitsrats über internationale Sicherheit ein. Altman forderte miteinander vereinbare nationale und internationale Standards, um Fähigkeiten zu messen, Schutzmaßnahmen zu bewerten und menschliche Aufsicht zu bewahren. Amodei schlug engere Vereinbarungen vor, beginnend mit einem Verbot, KI zur Herstellung biologischer Waffen einzusetzen. Dazu kämen Überprüfungssysteme und gemeinsame Tests auf Missbrauchs- und Kontrollverlustrisiken. Dies waren Vorschläge eingeladener Redner. Über Maßnahmen des Rates müssten die Regierungen entscheiden.

## Wo sich die Vorschläge überschneiden

Im [automatisch erstellten Transkript der UN-Sitzung](https://transcripts.un.org/en/sc/10228) forderte Altman eine zeitnahe Meldung von Vorfällen und sichere Kanäle, über die Regierungen, Betreiber von Infrastruktur und technische Fachleute Schwachstellen austauschen können. Standards sollten sowohl offene als auch geschlossene Modelle, neue Entwickler und etablierte Labore berücksichtigen; über die Umsetzung in nationales Recht solle jede Regierung selbst entscheiden.

Auch Amodei forderte internationale Teststandards und die Meldung von Vorfällen mit Bedeutung für die globale Sicherheit. Ergänzend schlug er ein System vor, mit dem Staaten die Fähigkeiten führender Modelle einsehen und die Einhaltung von Zusagen überprüfen könnten. Er bekräftigte Anthropics Zusage, externe Prüfer in das Unternehmen zu holen, und sagte, das Unternehmen werde Veröffentlichungen so lange wie nötig aus Sicherheitsgründen verlangsamen. Dies sind Zusagen und Vorschläge von Anthropic, keine unabhängigen Feststellungen zur Wirksamkeit seiner Schutzmaßnahmen.

Beide verlangten vergleichbare Tests und die Offenlegung schwerwiegender Vorfälle. Amodei stellte ein vorgeschlagenes Verbot des Einsatzes von KI zur Herstellung biologischer Waffen und eine Überprüfung zwischen Staaten in den Mittelpunkt seines Vortrags vor dem Rat. Altman betonte Standards, die Regierungen in ihre eigenen Rechtssysteme aufnehmen könnten. Unter den Ratsmitgliedern gab es zu keinem der Vorschläge eine Einigung über die Durchsetzung.

## Regierungen bewerten die Rolle des Rates unterschiedlich

Frankreich berief die Sitzung ein. Zu den weiteren Rednern gehörten Yoshua Bengio, Ko-Vorsitzender des wissenschaftlichen UN-Gremiums, und Clément Delangue, Geschäftsführer von Hugging Face. Die Sitzung knüpft an frühere Beratungen des Rates über KI an, darunter [die erste Unterrichtung dieser Art im Juli 2023](https://press.un.org/en/2023/sc15359.doc.htm).

Die Erklärungen der Mitgliedstaaten machten den Abstand zwischen einer gemeinsamen Sorge und einer gemeinsamen Politik sichtbar. [Lettlands veröffentlichte Erklärung](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) unterstützte die Prüfung einer informellen Expertengruppe des Rates. Im UN-Transkript wandte sich der Vertreter der USA gegen neue globale Governance-Strukturen und sprach sich stattdessen für nationale Kapazitäten und den Austausch bewährter Verfahren aus. Dies waren bei der Sitzung geäußerte Positionen, keine Entscheidung des Rates.

Das verfügbare UN-Transkript hält fest, dass die Sitzung nach den Beiträgen der Redner geschlossen wurde. Es verzeichnet weder die Annahme einer KI-Resolution noch einer Erklärung des Ratsvorsitzes. Die Seite weist darauf hin, dass der Redetext durch automatische Spracherkennung erstellt wurde und kein offizielles UN-Protokoll ist.

## Sources

- [UN-Sicherheitsrat, 10228. Sitzung: Künstliche Intelligenz und internationale Sicherheit](https://transcripts.un.org/en/sc/10228) — Zeitlich markiertes, automatisch erstelltes Transkript der Sitzung, der getrennten Unterrichtungen durch die Unternehmenschefs, der Wortmeldungen der Mitgliedstaaten und des Sitzungsendes. Die UN weist ausdrücklich darauf hin, dass es kein offizielles Protokoll ist. Eine KI-Resolution oder Erklärung des Ratsvorsitzes wurde darin nicht angenommen; ein offizielles Sitzungsprotokoll war noch nicht auffindbar.
- [Lettland: Erklärung bei der Unterrichtung des Sicherheitsrats zu künstlicher Intelligenz](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) — Offizielle Erklärung eines Mitgliedstaats, veröffentlicht am 24. September zur Sitzung vom 23. September. Sie nennt vier Redner und schlägt vor, eine informelle Expertengruppe des Rates zu prüfen; dies ist Lettlands Position, keine Entscheidung des Rates.
- [UN-Berichterstattung: Erste Debatte des Sicherheitsrats über Risiken und Chancen von KI](https://press.un.org/en/2023/sc15359.doc.htm) — Offizielle indexierte Berichterstattung der UN über die KI-Debatte des Sicherheitsrats im Juli 2023, die hier nur frühere Beratungen belegt. Auch das dazugehörige vorläufige offizielle Sitzungsprotokoll bestätigt die frühere Diskussion.