Am 6. Oktober veröffentlichte OpenAI eine umfangreiche Sammlung KI-generierter Mathematik. Sie umfasst Manuskripte, eine Übersicht der behaupteten Ergebnisse und Dateien mit formalen Beweisen für einige davon. OpenAIs Ankündigung zufolge hat ein internes Modell die Ergebnisse erzeugt; außerdem plant das Unternehmen Workshops, die Mathematikerinnen und Mathematikern beim Verständnis helfen sollen. Die Veröffentlichung stellt der Fachwelt auch eine umfangreiche Prüfaufgabe: zu entscheiden, welchen Ergebnissen man vertrauen und welche man nutzen kann.

KI kann mögliche Forschungsergebnisse schneller erzeugen, als die heutige Wissenschaft sie aufnehmen kann. Diese Veröffentlichung veranschaulicht ein Risiko, ist aber keine Messung des gesamten Forschungssystems. Meiner Ansicht nach sollten Institutionen Verifikation, Erklärung und unabhängige Nachverfolgung als substanzielle Forschungsarbeit behandeln und dafür Personal und Mittel bereitstellen. Eine längere Liste möglicher Ergebnisse erledigt diese Aufgaben nicht für uns.

Die große Veränderung

  • Was sich geändert hat: Ein Unternehmen kann einer Forschungsgemeinschaft auf einmal Hunderte KI-generierte mathematische Manuskripte vorlegen. Die Dokumente können geprüft werden, doch jede einzelne Aussage muss weiterhin bewertet werden.
  • Warum das wichtig ist: Forschende, die auf einer Aussage aufbauen wollen, müssen Zeit darauf verwenden, ihre Annahmen, den Beweis und ihren Bezug zu früheren Arbeiten zu prüfen. Wachsen mögliche Ergebnisse schneller als diese Kapazität, könnten wichtige Korrekturen oder nützliche Ideen in derselben Warteschlange untergehen.
  • Worauf es jetzt ankommt: Bei den Entscheidungen geht es nun neben der Veröffentlichung auch um Unterstützung für unabhängige Prüfung und Erklärung. OpenAI hat Workshops angekündigt; eine unabhängige Beratungsgruppe empfiehlt gemeinschaftsgeleitete Förderung und eine klare Herkunftsangabe. Diese Entscheidungen bestimmen mit, wer die Arbeit bewerten und weiterentwickeln kann.

Was die Zahl der Manuskripte von Gutachtenden verlangt

Die Übersicht des Repositoriums vom 6. Oktober enthält eine Behauptung zu vierdimensionalen Kakeya-Mengen: Jede Menge, die in jeder Richtung ein Einheitssegment enthält, hat die Hausdorff-Dimension vier. Ein Manuskript aus der Sammlung legt das Argument dar. Das ist eine vom Unternehmen veröffentlichte mathematische Behauptung, die noch geprüft wird. Ihre Richtigkeit lässt sich weder durch das Lesen der Übersicht noch durch das Zählen der Arbeiten feststellen.

Bei einer separaten Prüfung eines fixierten Repository-Snapshots vom 6. Oktoberzählte BIG CHANGE 722 Manuskripte aus 372 Ergebnisfamilien. Eine Familie kann mehrere zusammengehörige Arbeiten umfassen. Die Zahl beschreibt Dateien in einer Version der Sammlung; sie bedeutet nicht, dass 722 Entdeckungen unabhängig bestätigt wurden. Der frühere Artikel zeigt, wie Leserinnen und Leser ein Manuskript bis zu einer formalen Aussage und ihrer Prüfkonfiguration zurückverfolgen können. Hier geht es darum, wie ein Fachgebiet genügend qualifizierte Leser für diese Arbeit bereitstellt, wenn die Zahl der Behauptungen wächst.

Formalisierung kann helfen. Ein Computer kann prüfen, ob ein vorgeschlagener Beweis unter festgelegten Definitionen, Abhängigkeiten und Axiomen eine präzise kodierte Aussage belegt. Jemand muss weiterhin untersuchen, ob diese Aussage der Behauptung entspricht, die das Manuskript nach allgemeinem Verständnis aufstellt, ob die Annahmen angemessen sind und wie das Ergebnis zu früheren Arbeiten steht. Für manche Arbeiten der Sammlung gibt es keine Formalisierung; eine Lean-Datei zu einer Aussage begutachtet nicht das ganze Manuskript. Die Repository-Prüfung erläutert diese Grenzen, ohne zu behaupten, den Prüfer ausgeführt zu haben.

OpenAIs September-Ankündigung zu Navier–Stokes zeigt, warum diese Unterscheidung über ein Repository-Verzeichnis hinaus Folgen hat. OpenAI erklärte, sein internes System habe eine erzwungene Konstruktion mit endlicher Energie gefunden, die die Alternativen C und D in Clays offizieller Formulierungbetrifft, und veröffentlichte eine Arbeit samt Lean-Formalisierung. Am 11. September sagte Clay das Problem sei „offenbar“ gelöst und Bewertung sowie Zuschreibung würden in Ruhe erfolgen. Clay vergab in dieser Antwort keinen Preis. BIG CHANGEs frühere Darstellung der mathematischen Entwicklung liefert den technischen Kontext. Entscheidend ist hier der Zeitraum zwischen einem angekündigten Ergebnis und einem fundierten Urteil.

Prüfung mit eigenen Mitteln und Anerkennung ausstatten

Die unabhängige Beratungsgruppe für Mathematik und Künstliche Intelligenz argumentiert, dass mit der Veröffentlichung die menschliche Verständigungsarbeit beginnt. Ihre Empfehlungen vom 29. September verlangen von Laboren Literatur- und Zuschreibungsprüfungen, lesbare Beweise, Angaben zur Modellnutzung und zu fehlgeschlagenen Versuchen sowie nach Möglichkeit Formalisierungen. Außerdem fordern sie Unterstützung, einschließlich Finanzierung, für gemeinschaftlich geleitete Arbeit zum Verständnis und zur Anwendung der Ergebnisse. In ihrer Stellungnahme vom 6. Oktobererklärte die Gruppe, ihre beratende Rolle sei weder als Billigung des OpenAI-Verfahrens noch als Bewertung der Wirkung der Ergebnisse zu verstehen.

Ich würde diese Unterstützung zu einem normalen Bestandteil der Forschungsförderung und -bewertung machen. Zu einer Behauptung sollten ihre Version, der KI-Beitrag, Annahmen, Belegmaterialien und ein Weg für Korrekturmeldungen gehören. Unabhängige Fachleute könnten dann Arbeiten nach möglicher Bedeutung der Behauptung und den Folgen eines Fehlers priorisieren. Ein Ergebnis, auf das andere Beweise angewiesen sind, erfordert einen anderen Prüfaufwand als eine eng begrenzte Rechnung. Erklärungen, Replikationen, fehlgeschlagene Prüfungen und sorgfältige Korrekturen sollten als Beiträge zählen, auch wenn sie nicht das erste Ergebnis verkünden.

Das verlangt Institutionen mehr ab, ohne pauschal zu unterstellen, dass Wissenschaftler feindselig oder langsam seien. Mathematische Begutachtung schützt die Zuschreibung und findet Fehler; verantwortungsvolle Zurückhaltung ist wertvoll, wenn ein Ergebnis zur Voraussetzung weiterer Arbeit wird. Das Kapazitätsproblem entsteht, weil die Erzeugung eines möglichen Ergebnisses und das begründete Vertrauen darin unterschiedliche Arbeit erfordern. Eine umfangreiche Veröffentlichung kann sorgfältige Institutionen belasten, obwohl sie ihre Aufgabe gut erfüllen.

Praktische Anwendung kann den Wert innerhalb ihres Bereichs testen

Unternehmen, die auf Forschung aufbauen, können frühe praktische Tests liefern. Eine Implementierung kann zeigen, dass eine Idee bei einer bestimmten Aufgabe hilft; eine gescheiterte Umsetzung kann eine falsche Annahme offenlegen. Solche Beobachtungen sollten mit Methoden und Grenzen veröffentlicht werden, damit andere sie prüfen können. Kommerzieller Erfolg allein beweist weder einen mathematischen Satz noch eine allgemeine wissenschaftliche Behauptung.

Die Unterscheidung fällt je nach Fach anders aus. In der Mathematik entscheidet ein funktionierendes Produkt keinen Beweis; qualifizierte Prüfung und gegebenenfalls formale Kontrolle beziehen sich auf den genauen Satz. In der Computerwissenschaft brauchen andere genügend Code, Daten und Einstellungen, um ein Ergebnis zu reproduzieren und seine Empfindlichkeit zu testen. Biologie und Medizin erfordern getrennte Evidenzstufen, je nach Fall von Laborarbeit bis zu Tier- und Humanstudien. In der Physik verlangt eine Theorie oder Simulation Beobachtungen oder Experimente, die ihre Vorhersagen prüfen. Unternehmen können in jeder dieser Phasen beitragen, doch Evidenz aus einer Phase darf nicht stillschweigend auf die nächste übertragen werden.

BIG CHANGEs frühere Stellungnahme zu privaten KI-Entdeckungen und öffentlicher Wissenschaft fragte, wer den Zugang zu Ergebnissen und Werkzeugen kontrolliert. Auch eine öffentliche Veröffentlichung lässt eine institutionelle Frage offen: Haben Forschende die Zeit, Unabhängigkeit und Anreize, mögliche Ergebnisse in verlässliches Wissen zu verwandeln? Sichtbar werden sollte die Antwort in finanzierter Replikation, öffentlichen Erklärungen und anerkannten Korrekturen, nicht nur in der nächsten Manuskriptzahl.

Quellen und weiterführende Lektüre