OpenAI сообщает, что заблокировала группы аккаунтов, связанные с российскими и иранскими операциями влияния, которые использовали ChatGPT для подготовки внутренних отчетов, редактирования статей и создания некоторых вводящих в заблуждение материалов. В опубликованном 8 октября описании говорится о кампаниях, построенных на фиктивных организациях и личностях, однако масштаб их реальной аудитории остается неизвестным.

Главное изменение

  • В отчете ChatGPT представлен как один из инструментов более широкого процесса влияния, причем его наиболее очевидная роль заключалась во внутренних отчетах и редактировании.
  • OpenAI утверждает, что часть сфабрикованных материалов появилась в интернете, а иранские операторы размещали статьи под вымышленными именами в реальных изданиях; основным источником этих выводов служит собственное описание компании.
  • Заявленный операторами охват нельзя считать надежным. OpenAI сообщает, что одни утверждения подтвердились, другие — нет, а по собственным метрикам операторов невозможно судить о влиянии на аудиторию.

По данным компании, российская операция, названная OpenAI «Dark Clark», использовала ChatGPT главным образом для составления и обновления отчетов о кампании. OpenAI также утверждает, что операторы применяли модель для подготовки некоторых поддельных документов, аудиосценариев и сообщений. Предположительно, операция действовала через «аналитический центр» Social Research Center, который представляла вымышленная персона «Mia Clark»; нанятые в Латинской Америке люди могли не знать, кто контролирует организацию.

OpenAI сообщает, что ее следователи нашли примеры совпадающего контента и публикаций фактчекеров или чиновников. Один из примеров — сфабрикованное видео, в котором утверждалось, что Эквадор вербует молодежь для боевых действий на Украине. Эквадорская организация по проверке фактов Lupa Media отдельно сообщила, что предполагаемого сюжета Teleamazonas не существовало, в видео использовались украденные изображения из соцсетей, аудио было создано ИИ, а упомянутая компания не имела действующей регистрации. Это подтверждает существование и фабрикацию похожего материала, но не устанавливает независимо, кто его заказал, и не доказывает все детали версии OpenAI.

По словам OpenAI, иранская операция «Bogus Bylines» использовала ChatGPT для редактирования длинных статей и предложений, написания писем для установления контакта, генерации партий комментариев для соцсетей и доработки внутренних отчетов. Компания выявила почти 100 статей, опубликованных или распространенных примерно дюжиной изданий под семью вымышленными журналистскими именами с июля 2025-го по октябрь 2026 года. Эти цифры — результаты расследования OpenAI. Рассмотренные для этой публикации независимые материалы освещают выводы компании, но не содержат отдельной проверки всех авторских имен или публикаций.

В отчете также четко разделены создание материалов и их распространение. OpenAI утверждает, что комментарии иранской операции в соцсетях публиковались с небольшими интервалами, но не обнаружила доказательств автоматизации публикаций своими моделями. Многие комментарии, по описанию компании, получили мало откликов. Во внутренних отчетах операторы учитывали просмотры публикаций, на которые отвечали, а не просмотры собственных ответов, и сравнивали итоги за неуказанный период. Такой метод не позволяет отделить просмотры, вызванные кампанией, от остальных.

OpenAI присвоила российской операции категорию 5, а иранской попытке размещать статьи — категорию 4 по шкале Breakout Scale. Предложенная Brookings в 2020 году шкала классифицирует операции влияния по наблюдаемому распространению на платформах и в сообществах, в том числе по попаданию материалов в основные СМИ или привлечению внимания высокопоставленных лиц и конкретным действиям. Это оценки OpenAI, а не независимые измерения числа людей, поверивших сообщениям или изменивших поведение.

Это различие важно для понимания того, что изменил генеративный ИИ. В отчете описана помощь в написании, редактировании, переводе, подготовке сценариев и внутренних сводок. Он не доказывает, что ChatGPT самостоятельно вел кампании, выбирал цели или контролировал распространение. Фиктивные личности, предложения для СМИ, аккаунты в соцсетях и публикации обеспечивали люди и обычная инфраструктура. В одном описанном случае операторы использовали модель, чтобы доработать и перевести поддельное письмо, после чего в интернете появились соответствующие ему изображение и аудио. Эта последовательность показывает, как языковая модель может помогать в цепочке производства под руководством людей, но не доказывает, что модель создала каждую часть итогового материала.

Для платформ и издателей более сложная задача — установить происхождение и координацию, а не только распознавать фразы, написанные машиной. Отточенное предложение может быть обычной помощью при письме; риск меняется, когда оно связано с вымышленной подписью, скрытым спонсором или скоординированным размещением. Реальный сотрудник также может неосознанно создавать подлинные журналистские материалы для организации, чьего контроля он не понимает. Описание Social Research Center в отчете OpenAI делает такую возможность особенно актуальной, хотя эта характеристика основана на доказательствах компании.

Практические проверки в редакциях остаются прежними: подтвердить личность автора и контроль над организацией, связаться с источниками по независимо установленным каналам, проверить утверждения и документы у первоисточника и не считать показатели вовлеченности доказательством влияния. В отчете приведены примеры обхода или манипулирования такими проверками, но нет полного измерения охвата или последствий для политики.

OpenAI заявляет, что заблокировала группы аккаунтов и передала сведения соответствующим органам и отраслевым партнерам. Публичный отчет подробно описывает расследование компании, однако его категории и атрибуцию кампаний следует рассматривать как выводы OpenAI. Независимые проверки подтверждают некоторые конкретные примеры. Общий охват, полная структура контроля операторов и любые долгосрочные последствия менее определенны, чем деятельность, которую, по словам OpenAI, она наблюдала.

Источники и дополнительное чтение