Sam Altman von OpenAI und Dario Amodei von Anthropic unterrichteten den UN-Sicherheitsrat am 23. September getrennt über Risiken durch immer leistungsfähigere KI. Beide baten Regierungen um Zusammenarbeit bei Tests und Meldungen. Ihre Vorschläge unterschieden sich in ihrer Reichweite; aus der Diskussion des Rates selbst ergab sich keine neue KI-Regel.

Die große Veränderung

Die Chefs zweier Unternehmen, die fortgeschrittene KI-Modelle entwickeln, brachten konkrete Sicherheitsvorschläge in eine Sitzung des Sicherheitsrats über internationale Sicherheit ein. Altman forderte miteinander vereinbare nationale und internationale Standards, um Fähigkeiten zu messen, Schutzmaßnahmen zu bewerten und menschliche Aufsicht zu bewahren. Amodei schlug engere Vereinbarungen vor, beginnend mit einem Verbot, KI zur Herstellung biologischer Waffen einzusetzen. Dazu kämen Überprüfungssysteme und gemeinsame Tests auf Missbrauchs- und Kontrollverlustrisiken. Dies waren Vorschläge eingeladener Redner. Über Maßnahmen des Rates müssten die Regierungen entscheiden.

Wo sich die Vorschläge überschneiden

Im automatisch erstellten Transkript der UN-Sitzung forderte Altman eine zeitnahe Meldung von Vorfällen und sichere Kanäle, über die Regierungen, Betreiber von Infrastruktur und technische Fachleute Schwachstellen austauschen können. Standards sollten sowohl offene als auch geschlossene Modelle, neue Entwickler und etablierte Labore berücksichtigen; über die Umsetzung in nationales Recht solle jede Regierung selbst entscheiden.

Auch Amodei forderte internationale Teststandards und die Meldung von Vorfällen mit Bedeutung für die globale Sicherheit. Ergänzend schlug er ein System vor, mit dem Staaten die Fähigkeiten führender Modelle einsehen und die Einhaltung von Zusagen überprüfen könnten. Er bekräftigte Anthropics Zusage, externe Prüfer in das Unternehmen zu holen, und sagte, das Unternehmen werde Veröffentlichungen so lange wie nötig aus Sicherheitsgründen verlangsamen. Dies sind Zusagen und Vorschläge von Anthropic, keine unabhängigen Feststellungen zur Wirksamkeit seiner Schutzmaßnahmen.

Beide verlangten vergleichbare Tests und die Offenlegung schwerwiegender Vorfälle. Amodei stellte ein vorgeschlagenes Verbot des Einsatzes von KI zur Herstellung biologischer Waffen und eine Überprüfung zwischen Staaten in den Mittelpunkt seines Vortrags vor dem Rat. Altman betonte Standards, die Regierungen in ihre eigenen Rechtssysteme aufnehmen könnten. Unter den Ratsmitgliedern gab es zu keinem der Vorschläge eine Einigung über die Durchsetzung.

Regierungen bewerten die Rolle des Rates unterschiedlich

Frankreich berief die Sitzung ein. Zu den weiteren Rednern gehörten Yoshua Bengio, Ko-Vorsitzender des wissenschaftlichen UN-Gremiums, und Clément Delangue, Geschäftsführer von Hugging Face. Die Sitzung knüpft an frühere Beratungen des Rates über KI an, darunter die erste Unterrichtung dieser Art im Juli 2023.

Die Erklärungen der Mitgliedstaaten machten den Abstand zwischen einer gemeinsamen Sorge und einer gemeinsamen Politik sichtbar. Lettlands veröffentlichte Erklärung unterstützte die Prüfung einer informellen Expertengruppe des Rates. Im UN-Transkript wandte sich der Vertreter der USA gegen neue globale Governance-Strukturen und sprach sich stattdessen für nationale Kapazitäten und den Austausch bewährter Verfahren aus. Dies waren bei der Sitzung geäußerte Positionen, keine Entscheidung des Rates.

Das verfügbare UN-Transkript hält fest, dass die Sitzung nach den Beiträgen der Redner geschlossen wurde. Es verzeichnet weder die Annahme einer KI-Resolution noch einer Erklärung des Ratsvorsitzes. Die Seite weist darauf hin, dass der Redetext durch automatische Spracherkennung erstellt wurde und kein offizielles UN-Protokoll ist.