21 сентября The Stanford Review сообщила, что подразделение Stanford Residential & Dining Enterprises использовало в рекламе фотографию студента, изменённую с помощью ИИ. Билли Рамирес, студент выпуска 2027 года, рассказал изданию, что его убрали с изображения. Газета описала его замену как созданную ИИ темнокожую женщину и сообщила об изменении лиц и форм тел других студентов.

Рамирес сказал The Review, что из-за этих изменений почувствовал себя «лишённым голоса и стёртым». Издание показало изображения с подписями «до» и «после». Это репортаж и сравнение изображений, представленные самой газетой; BIG CHANGE независимо не проверяло исходные файлы, инструмент редактирования, разрешения или историю согласований. Подробнее — в репортаже The Stanford Review.

Жалоба касается того, кто контролирует изображение человека после того, как фотография уже сделана.

Главное изменение

  • Что изменилось: Генеративное редактирование расширяет контроль издателя: теперь он распространяется не только на подачу фотографии, но и на людей, которых она изображает. Человек на снимке может утратить контроль над собственным образом, даже если итог по-прежнему выглядит как обычная фотография.
  • Почему это важно: Согласие быть сфотографированным и одобрение изменённого изображения — разные решения. Возражение Рамиреса касается утраты контроля над тем, как его представили.
  • За чем следить: Для университетской рекламы ключевой вопрос — одобрил ли человек итоговый образ. Одно лишь упоминание ИИ не снимает возражений участника против того, как его представили.

Правила Стэнфорда различают ретушь и ложное изображение

В действующих рекомендациях Стэнфорда по коммуникациям с использованием ИИ требуется письменное разрешение на использование изображения человека и явное согласие на синтетическое изображение реального человека. Рекомендации запрещают создавать ложные изображения Стэнфорда и требуют раскрывать способ создания, если отсутствие такого пояснения может ввести аудиторию в заблуждение.

В частности, для Stanford Report разрешено улучшать качество изображения и выполнять небольшую ретушь при условии, что редакторы, получающие материал, уведомлены; решение об использовании сгенерированных изображений остаётся за редакцией.

Раскрытие информации объясняет способ создания изображения. Разрешение касается изображённого человека. Точность относится к тому, что учреждение сообщает аудитории. Подпись с названием инструмента ИИ не отвечает сразу на все три вопроса.

На странице не указана дата публикации. Поэтому её нынешняя формулировка не позволяет установить, какие правила действовали во время создания рекламного баннера, о котором сообщалось, и не доказывает, что в этом случае было нарушение.

Университет уже регулирует вводящее в заблуждение редактирование фотографий

В рекомендациях Стэнфорда по визуальным и творческим материалам сотрудникам предлагается достоверно изображать людей. В них предостерегают от композитов, создающих впечатление, будто отдельно сфотографированные люди стояли вместе, а также от изменения оттенков кожи для искусственного впечатления разнообразия. Примеры в самом руководстве показывают, что обязанность достоверно представлять людей распространяется на редактирование фотографий, в том числе обычными средствами.

В руководстве по фотографии рекомендуется получать разрешения на использование снимков, хранить их бессрочно и использовать подлинные портреты без сильной обработки. Там также упоминается SALLIE — существующая база данных Стэнфорда для фотографий, видео и других материалов для коммуникаций.

Эти документы дают конкретный контекст для описанной жалобы. Университет уже публикует стандарты получения разрешений, достоверности и обращения с изображениями. Неясно, как именно были созданы и утверждены фотографии на упомянутом рекламном баннере.

На возражение участника следует ответить, объяснив, что произошло с конкретным изображением

Из изученных для этой статьи открытых материалов нельзя установить, кто запросил изменения, какие инструкции получил редактор или инструмент и какие разрешения были получены. В поиске, проведённом 22 сентября, мы не нашли публичного ответа Стэнфорда или R&DE на жалобу. Мы не обращались в университет; отсутствие ответа в результатах поиска не доказывает, что университет отказался комментировать ситуацию.

Наш вывод: использование ИИ учреждением следует оценивать по опубликованному изображению и разрешению на такое изображение. Этот вывод основан на описанном возражении студента и различиях, которые проводит сам Стэнфорд. Имеющиеся данные не устанавливают мотивов университета.

Исправление, 22 сентября: В предыдущей версии были вымышленные иллюстративные сцены и неподтверждённые утверждения о расходах и будущем поведении отрасли. Эти фрагменты удалены. В этой версии использованы атрибутированный репортаж, опубликованные рекомендации Стэнфорда и анализ, привязанный к этим источникам.