Sanders und Casar schlagen ein US-Verbot von KI-Superintelligenz und eine Pause für fortgeschrittene Modelle vor

Senator Bernie Sanders und Abgeordneter Greg Casar gaben am 23. September bekannt, dass sie den Gesetzentwurf „Ban Artificial Superintelligence Act“ eingebracht hatten. Der veröffentlichte 19-seitige Text würde künstliche Superintelligenz verbieten, die Entwicklung bestimmter fortgeschrittener Modelle pausieren, bis ein neues Bundesministerium Sicherheitsregeln ausgearbeitet hat, und eine Genehmigung verlangen, bevor diese Modelle Nutzern zugänglich gemacht werden. Es ist ein Gesetzesvorschlag. Keine seiner Beschränkungen gilt derzeit.

Die große Änderung

• Was sich geändert hat: Sanders und Casar sind von einer Ankündigung geplanter Gesetzgebung vom 3. September zu einer Ankündigung am 23. September übergegangen, dass sie den Entwurf eingebracht hatten. Nun liegt ein öffentlicher Text mit den vorgeschlagenen Definitionen und Durchsetzungsbefugnissen vor.
• Warum das wichtig ist: Der Vorschlag geht über eine nicht näher definierte künftige Superintelligenz hinaus. Er würde auch Systeme mit aufgeführten Vorläuferfähigkeiten verbieten und Modelle, die oberhalb eines festgelegten Rechenwerts trainiert wurden, vorübergehend pausieren. Falls der Kongress den Text beschließt, könnten diese Bestimmungen Entwickler lange vor dem Erreichen der gesetzlichen Definition von Superintelligenz betreffen.
• Worauf es ankommt: Der Kongress müsste den Entwurf beraten und verabschieden, bevor daraus Pflichten für Entwickler entstünden. Im öffentlichen Text ist das Feld für die Nummer des Senatsgesetzentwurfs noch leer. Ein nummerierter Eintrag in den Kongressakten und etwaige Änderungen würden den nächsten formellen Schritt verdeutlichen.

Zwei unterschiedliche Beschränkungen im Gesetzentwurf

Die vorgeschlagene befristete Pause gilt für ein „fortgeschrittenes System künstlicher Intelligenz“, definiert als ein System, das mit mindestens 10²⁵ ganzzahligen oder Gleitkommaoperationen trainiert wurde. Die künftige Ministerin oder der künftige Minister des neuen Ministeriums würde den Schwellenwert jährlich an verbesserte Trainingseffizienz anpassen. Von Inkrafttreten des Gesetzes bis zur vollständigen Besetzung des Ministeriums und Erlass von Sicherheitsregeln dürften solche Systeme weder trainiert noch verändert oder feinabgestimmt werden, außer um verbotene Eigenschaften zu entfernen oder sie zu deaktivieren. Noch nicht veröffentlichte fortgeschrittene Systeme dürften in diesem Zeitraum nicht eingesetzt werden. Die Regeln für das Ende der Pause müssten Berichte zu Entwicklungsplänen, Evaluierungen, Prüfungen der Sicherheitspraktiken und eine abschließende Genehmigung vor öffentlicher Veröffentlichung umfassen.

Das vorgeschlagene Verbot verwendet einen anderen Maßstab. Es erfasst ein System, das die kognitive Leistungsfähigkeit des Menschen in den meisten Bereichen übertrifft oder ausreichend fähig ist, die Vernichtung oder Entmachtung der Menschheit zu planen und auszuführen. Abschnitt 9 verbietet außerdem Systeme, die eines der aufgeführten „Vorläufermerkmale von Superintelligenz“ aufweisen. Dazu zählen eine starke Beschleunigung der KI-Forschung, unbefugter Zugriff auf geschützte Infrastruktur, der Weiterbetrieb trotz Abschaltversuchen, Hilfe bei der Waffenentwicklung, Selbstveränderung und das Umgehen menschlicher Aufsicht. Der Schwellenwert von 10²⁵ Operationen gilt laut Text nicht für dieses separate Verbot von Vorläuferfähigkeiten. Abschnitt 9(b) untersagt zudem den Einsatz, die Freigabe, Weitergabe oder Einfuhr von Systemen, die voraussichtlich so verändert werden könnten, dass sie in eine der beiden Kategorien fallen. Eine künftige Aufsichtsbehörde müsste entscheiden, wie diese Fähigkeitsbeschreibungen auf konkrete Systeme anzuwenden sind. Der Entwurf nennt keine Benchmarkwerte, die solche Beurteilungen eindeutig klären würden.

Der Entwurf würde ein Ministerium für Künstliche Intelligenz auf Kabinettsebene schaffen und Organisationen verpflichten, die Entwicklung oder Verbreitung fortgeschrittener Modelle zu genehmigen. Das Ministerium erhielte Inspektions- und Genehmigungsbefugnisse vor der Bereitstellung. Für bestimmte rücksichtslose Verstöße durch Unternehmensverantwortliche oder nicht zugehörige Einzelpersonen sieht der Entwurf Geldstrafen und Freiheitsstrafen von bis zu 20 Jahren vor. Er ermöglicht außerdem den Entzug von Zulassungen und nach einer festgelegten Prüfung die Einziehung von Vermögenswerten und geistigem Eigentum, die mit einem Verstoß verbunden sind. Das sind vorgeschlagene Strafen, keine derzeit geltenden Sanktionen.

Der Streit um den Geltungsbereich

In der KI-politischen Diskussion etwa 53 Minuten nach Beginn von Folge 290 des Podcasts All-In argumentierten die Diskussionsteilnehmer, die Maßnahme könne die KI-Entwicklung in den USA einfrieren und Unternehmen ins Ausland treiben. Das ist ihre Einschätzung möglicher Folgen. Der Text verbietet nicht jedes bestehende KI-Produkt allein deshalb, weil es KI ist; er legt einen Trainingsschwellenwert für die befristete Pause und Fähigkeitstests für das weiter gefasste Verbot fest. Diese Fähigkeitstests sind dennoch weitreichend, denn die vorgeschlagene Liste der Vorläuferfähigkeiten ist nicht durch den Trainingsschwellenwert begrenzt.

Der KI-Forscher Gary Marcus kritisierte den Vorschlag nach der Ankündigung vom 3. September auf anderem Wege. Er unterstützte die Idee einer KI-Aufsichtsbehörde und sagte, eine befristete Pause könne vertretbar sein. Ein dauerhaftes einseitiges Verbot und unsichere Urteile über Fähigkeiten gingen seiner Ansicht nach jedoch zu weit. Seine Stellungnahme stammt aus der Zeit vor der Einbringung am 23. September und ist daher als Kritik am angekündigten Vorschlag zu verstehen, nicht als Prüfung jeder Zeile des später veröffentlichten Textes.

Sanders und Casar erklären, das Verbot würde katastrophale Risiken verringern; internationale Vereinbarungen und Exportkontrollen sollten verhindern, dass sich gefährliche Entwicklungen ins Ausland verlagern. Ein Bericht der Associated Press gibt Sanders’ Argument für eine Verlangsamung der Entwicklung und die Sorge wieder, dass einseitige US-Beschränkungen die Entwicklung andernorts unberührt lassen könnten. Weder die Sicherheitsargumente der Antragsteller noch die Wirtschaftsprognosen der Diskussionsteilnehmer belegen, was bei einem Inkrafttreten des Entwurfs geschehen würde. Die erste praktische Prüfung ist eine politische: ob der Kongress den Vorschlag behandelt und wie er die ungewöhnlich weit reichende Formulierung zu Vorläuferfähigkeiten anpasst.

Quellen und weiterführende Informationen

• Casars Ankündigung vom 23. September besagt, dass er und Sanders den Gesetzentwurf eingebracht haben, und fasst ihre Ziele zusammen. Es ist die Darstellung der Antragsteller zum Status und Zweck des Vorschlags.
• Sanders’ Ankündigung vom 3. September kündigte die bevorstehende Gesetzgebung an und belegt die frühere Phase des Vorschlags.
• Der veröffentlichte Gesetzentwurf, insbesondere die Abschnitte 3, 8–10, 12 und 13, enthält die hier beschriebenen Definitionen, die Pause, Verbote, Behördenbefugnisse und Strafen. Das Feld für die Nummer des Senatsgesetzentwurfs ist leer.
• Sanders’ Zusammenfassung nach Abschnitten ist eine Lesehilfe aus dem Büro eines Antragstellers; die konkreten Angaben des Artikels wurden mit dem ausführlicheren Text abgeglichen.
• Der Bericht der Associated Press vom 23. September enthält unabhängige Berichterstattung, ein Interview mit Sanders und politischen Kontext.
• All-In, Folge 290, enthält die kritische Diskussion der Runde. Vorhersagen der Diskussionsteilnehmer werden als Meinungen zugeschrieben, nicht als Feststellungen zu den Folgen des Gesetzentwurfs übernommen.
• Gary Marcus’ Stellungnahme vom 3. September gibt eine eigenständige kritische Position eines Fürsprechers der KI-Sicherheit wieder. Sie bezieht sich auf die frühere Ankündigung.