The Stanford Review berichtete am 21. September, Stanford Residential & Dining Enterprises (R&DE) habe in einer Werbeanzeige ein mit KI verändertes Foto eines Studenten verwendet. Billy Ramirez, Student des Jahrgangs 2027, sagte der Zeitung, er sei aus dem Bild entfernt worden. Laut dem Bericht wurde er durch eine von KI erzeugte Schwarze Frau ersetzt; auch die Gesichter und Körperformen anderer Studierender seien verändert worden.

Ramirez sagte dem Review, durch die Änderung fühle er sich „zum Schweigen gebracht und ausgelöscht“. Die Publikation zeigte Bilder mit den Bezeichnungen „Vorher“ und „Nachher“. Das sind die Berichterstattung und der Bildvergleich des Mediums; BIG CHANGE hat weder die Originaldateien und das Bearbeitungswerkzeug noch Einwilligungen oder Freigaben unabhängig geprüft. Der Bericht von The Stanford Review

Die Beschwerde betrifft die Frage, wer nach der Aufnahme eines Fotos über die Darstellung einer Person bestimmen darf.

Die große Veränderung

  • Was sich geändert hat: Generative Bildbearbeitung erweitert die Kontrolle eines Herausgebers: Sie betrifft nicht mehr nur die Präsentation eines Fotos, sondern auch die Personen, die darauf zu sehen scheinen. Die fotografierte Person kann die Kontrolle über ihre Darstellung verlieren, obwohl das Ergebnis weiterhin wie eine Fotografie wirkt.
  • Warum das wichtig ist: In einem Foto zu erscheinen und einer veränderten Darstellung des eigenen Abbilds zuzustimmen, sind zwei verschiedene Entscheidungen. Ramirez’ Einwand betrifft den Verlust der Kontrolle darüber, wie er dargestellt wird.
  • Worauf zu achten ist: Bei der Universitätswerbung kommt es besonders darauf an, ob die Beteiligten die endgültige Darstellung genehmigt haben. Ein Hinweis auf KI allein beantwortet nicht den Einwand einer Person gegen ihre Darstellung.

Stanford unterscheidet in seinen Richtlinien zwischen Retusche und falscher Darstellung

Stanfords aktuelle KI-Richtlinien für Kommunikation und Marketing verlangen eine schriftliche Erlaubnis für die Verwendung von Abbildungen und die ausdrückliche Einwilligung zu synthetischen Darstellungen realer Personen. Sie verbieten falsche Darstellungen Stanfords und schreiben eine Offenlegung vor, wenn nicht kenntlich gemachte Erzeugung oder Bearbeitung irreführen könnte.

Für Stanford Report erlauben die Richtlinien ausdrücklich Verbesserungen der Bildqualität und geringfügige Retuschen, sofern die zuständigen Redakteure darüber informiert werden; über die Verwendung erzeugter Bilder wird redaktionell entschieden.

Eine Offenlegung erklärt die Herstellungsmethode. Eine Erlaubnis betrifft die abgebildete Person. Bei der Genauigkeit geht es darum, welche Aussage die Institution ihrem Publikum vermittelt. Ein Hinweis auf ein KI-Werkzeug kann nicht alle drei Fragen beantworten.

Auf der Seite ist kein Veröffentlichungsdatum angegeben. Ihr aktueller Wortlaut belegt daher weder, welche Regeln zum Zeitpunkt der Erstellung des gemeldeten Banners galten, noch einen Verstoß in diesem Fall.

Die Universität hat sich bereits mit irreführenden Fotobearbeitungen befasst

Stanfords Empfehlungen für visuelle und kreative Kommunikation verlangen von den Verantwortlichen eine korrekte Darstellung der abgebildeten Personen. Sie warnen vor Montagen, durch die es so wirkt, als hätten getrennt fotografierte Menschen gemeinsam an einem Ort gestanden, sowie davor, Hauttöne zu verändern, um einen künstlichen Eindruck von Vielfalt zu erzeugen. Die Beispiele in dem Leitfaden machen deutlich, dass die Verantwortung für die Darstellung auch bei herkömmlicher Fotobearbeitung Teil der redaktionellen Verantwortung ist.

Stanfords Fotoleitfaden empfiehlt, Einverständniserklärungen einzuholen und auf unbestimmte Zeit aufzubewahren. Außerdem rät er zu authentischen Porträts ohne umfangreiche Bearbeitung. Als bestehende Datenbank für Kommunikationsfotos, Videos und andere Materialien führt er auch SALLIE auf.

Diese Dokumente ordnen die berichtete Beschwerde in einen konkreten Kontext ein. Die Universität veröffentlicht bereits Standards für Einwilligungen, Authentizität und den Umgang mit Bildern. Offen bleibt, wie das gemeldete Banner erstellt und freigegeben wurde.

Der Einwand der abgebildeten Person verdient eine Antwort zur konkreten Aufnahme

Aus den öffentlich zugänglichen Materialien, die wir für diesen Artikel geprüft haben, geht nicht hervor, wer die Änderungen angefordert hat, welche Anweisungen eine redaktionell verantwortliche Person oder ein Werkzeug erhalten hat und welche Einwilligung vorlag. Bei den am 22. September abgeschlossenen Recherchen fanden wir keine öffentliche Stellungnahme von Stanford oder R&DE zu der Beschwerde. Wir haben die Universität nicht kontaktiert; dass sie in diesen Recherchen nicht zu Wort kam, belegt nicht, dass sie eine Stellungnahme verweigert hat.

Unsere Schlussfolgerung lautet: Der Einsatz von KI durch eine Institution sollte danach beurteilt werden, wie diese Institution die Personen tatsächlich darstellt und ob sie die Einwilligung für diese Darstellung hat. Das ergibt sich aus dem berichteten Einwand des Studenten und den eigenen Unterscheidungen Stanfords. Die verfügbaren Belege weisen kein Motiv der Institution nach.

Korrektur, 22. September: In einer früheren Fassung waren erfundene Beispielszenen und unbelegte Behauptungen zu Kosten und künftigem Branchenverhalten enthalten. Diese Passagen wurden entfernt. Die jetzige Fassung stützt sich auf gekennzeichnete Berichterstattung, veröffentlichte Richtlinien Stanfords und eine daran anknüpfende Analyse.