OpenAI erklärt, dass es Kontengruppen gesperrt habe, die mit russischen und iranischen Einflussoperationen verbunden waren und ChatGPT für interne Berichte, die Überarbeitung von Artikeln und einige irreführende Inhalte nutzten. Die Darstellung vom 8. Oktober beschreibt Kampagnen mit erfundenen Institutionen und Identitäten; wie viele Menschen sie tatsächlich erreichten, bleibt offen.

Die große Veränderung

  • Der Bericht stellt ChatGPT als ein Werkzeug in einem umfassenderen Einflussprozess dar, mit seiner deutlichsten Rolle bei interner Berichterstattung und Redaktion.
  • OpenAI zufolge erschienen einige erfundene Inhalte online, und iranische Akteure platzierten Artikel unter falschen Namen in echten Medien. Hauptquelle für diese Erkenntnisse ist die Darstellung des Unternehmens selbst.
  • Die von den Akteuren behauptete Reichweite war nicht verlässlich. OpenAI zufolge wurden manche Angaben bestätigt, andere nicht; aus den eigenen Kennzahlen der Akteure lässt sich keine Publikumswirkung ableiten.

Die russische Operation, die OpenAI „Dark Clark“ nannte, nutzte ChatGPT nach Angaben des Unternehmens vor allem zum Entwerfen und Aktualisieren von Berichten über die Kampagne. OpenAI zufolge verwendeten die Akteure das Modell außerdem für einige gefälschte Dokumente, Audiotexte und Nachrichten. Angeblich arbeitete die Operation über einen „Thinktank“ namens Social Research Center, der von der erfundenen Persona „Mia Clark“ repräsentiert wurde; Beschäftigte in Lateinamerika wussten möglicherweise nicht, wer die Organisation kontrollierte.

OpenAI zufolge fanden die Ermittler Beispiele für übereinstimmende Inhalte und Berichte von Faktenprüfern oder Behörden. Ein Beispiel war ein erfundenes Video mit der Behauptung, Ecuador werbe junge Menschen für den Krieg in der Ukraine an. Die ecuadorianische Faktencheck-Organisation Lupa Media berichtete unabhängig, dass der angebliche Beitrag von Teleamazonas nicht existierte, das Video gestohlene Bilder aus sozialen Medien nutzte, der Ton KI-generiert war und das genannte Unternehmen keine gültige Registrierung hatte. Das belegt die Existenz und Fälschung eines ähnlichen Beitrags, aber weder unabhängig, wer ihn in Auftrag gab, noch alle Elemente der Darstellung von OpenAI.

Die iranische Operation „Bogus Bylines“ nutzte ChatGPT laut OpenAI zum Bearbeiten längerer Artikel und Pitches, zum Schreiben von Kontakt-E-Mails, zur Erstellung von Kommentaren für soziale Medien und zur Überarbeitung interner Berichte. Das Unternehmen identifizierte fast 100 Artikel, die von Juli 2025 bis Oktober 2026 unter sieben erfundenen journalistischen Identitäten in etwa einem Dutzend Medien veröffentlicht oder syndiziert wurden. Diese Zahlen stammen aus der Untersuchung von OpenAI. Die für diesen Bericht geprüfte unabhängige Berichterstattung gibt die Erkenntnisse des Unternehmens wieder, prüft aber nicht alle Namen oder Veröffentlichungen gesondert.

Der Bericht unterscheidet auch klar zwischen der Produktion und der Verbreitung von Inhalten. OpenAI zufolge wurden Kommentare der iranischen Operation zeitnah veröffentlicht; es gebe jedoch keine Belege dafür, dass seine Modelle das Posten automatisierten. Viele Kommentare hätten wenig Resonanz erhalten. Interne Berichte der Akteure zählten Aufrufe der Beiträge, auf die sie antworteten, nicht die Aufrufe ihrer Antworten, und verglichen Gesamtzahlen über einen nicht genannten Zeitraum. Mit dieser Methode lässt sich nicht isolieren, ob die Kampagne die Aufrufe verursachte.

OpenAI bewertete die russische Operation auf der Breakout Scale mit Kategorie 5 und den iranischen Versuch, Artikel zu platzieren, mit Kategorie 4. Die 2020 von Brookings vorgeschlagene Skala ordnet Einflussoperationen anhand ihrer beobachtbaren Verbreitung über Plattformen und Gemeinschaften ein, etwa danach, ob Inhalte in etablierte Medien gelangen oder große Aufmerksamkeit beziehungsweise konkrete Handlungen auslösen. Es handelt sich um Einschätzungen von OpenAI, nicht um unabhängige Messungen dazu, wie viele Menschen den Botschaften glaubten oder ihr Verhalten änderten.

Diese Unterscheidung ist wichtig, um zu verstehen, was generative KI verändert hat. Der Bericht beschreibt Unterstützung beim Schreiben, Bearbeiten, Übersetzen, Erstellen von Skripten und Zusammenfassen interner Informationen. Er zeigt nicht, dass ChatGPT Kampagnen eigenständig ausführte, Ziele auswählte oder die Verbreitung kontrollierte. Menschen und herkömmliche Infrastruktur stellten falsche Identitäten, Medien-Pitches, Social-Media-Konten und Veröffentlichungen bereit. In einem beschriebenen Fall nutzten Akteure das Modell, um einen gefälschten Brief zu überarbeiten und zu übersetzen; danach erschienen ein passendes Bild und Audio online. Das veranschaulicht, wie ein Sprachmodell eine von Menschen gesteuerte Produktionskette unterstützen kann; es belegt nicht, dass das Modell jeden Teil des endgültigen Materials erstellte.

Für Plattformen und Verlage ist die schwierigere Aufgabe daher, Herkunft und Koordination zu klären, statt nur maschinell verfasste Sätze zu erkennen. Ein ausgefeilter Pitch kann gewöhnliche Schreibhilfe sein; das Risiko ändert sich, wenn er mit einem erfundenen Namen, einem verborgenen Geldgeber oder einer koordinierten Platzierung verbunden ist. Auch ein echter Beschäftigter kann unwissentlich authentische Berichterstattung für eine Organisation erstellen, deren Kontrolle er nicht versteht. Die Darstellung des Social Research Center im OpenAI-Bericht macht diese Möglichkeit besonders relevant, beruht aber auf Belegen des Unternehmens.

Für Redaktionen bleiben die praktischen Prüfungen vertraut: Identität der Autoren und Kontrolle über die Organisation verifizieren, Quellen über unabhängig etablierte Kanäle kontaktieren, Aussagen und Dokumente an ihrem Ursprung prüfen und Interaktionszahlen nicht als Beweis für Einfluss behandeln. Der Bericht liefert Beispiele dafür, wie solche Prüfungen umgangen oder manipuliert werden können; eine vollständige Messung der Reichweite oder späterer politischer Folgen bietet er nicht.

OpenAI zufolge sperrte das Unternehmen die Kontengruppen und teilte Informationen mit zuständigen Behörden und Branchenpartnern. Der öffentliche Bericht gibt einen detaillierten Einblick in die Untersuchung des Unternehmens; seine Kategorien und Zuordnungen der Kampagnen sind jedoch als Erkenntnisse von OpenAI zu lesen. Unabhängige Faktenprüfungen stützen einige konkrete Beispiele. Gesamtreichweite, vollständige Kontrollstruktur der Akteure und mögliche Langzeitfolgen sind weniger sicher als die Aktivitäten, die OpenAI nach eigenen Angaben beobachtet hat.

Quellen und weiterführende Informationen