Федеральные прокуроры предъявили обвинение инженеру OpenAI после того, как в конференц-зале компании нашли скрытое аудиозаписывающее устройство. В заявлении от 13 октября, о котором сообщило Associated Press, OpenAI сказала, что её модели ИИ помогли понять назначение устройства и установить личность сотрудника, который, по версии компании, установил его несколькими днями ранее. Компания не назвала использованные модели и не рассказала, как проверяла их вклад.

Главное изменение

  • Что изменилось: OpenAI заявляет, что использовала собственные модели во внутреннем расследовании, связанном с физическим записывающим устройством и сотрудником. Это описание одного случая со стороны компании; метод не раскрыт, а независимой оценки роли моделей нет.
  • Почему это важно: Службам безопасности нужно связывать вещественные доказательства, журналы доступа и людей. В этом случае публичное описание относит ИИ к инструментам, использованным для такой связи, тогда как уголовное обвинение основано на расследовании, которое ещё предстоит проверить в суде.
  • За чем следить: Уголовное дело может прояснить, что доказательства говорят об устройстве и возможных перехваченных разговорах. OpenAI не описала работу моделей, поэтому по открытым материалам пока нельзя оценить их полезность в этом расследовании.

Утверждения обвинения

В сообщении Минюста США от 13 октября говорится, что Abdulrahman Alfozan был арестован 9 октября и впервые предстал перед федеральным судом 13 октября. Ему вменяют использование устройства или попытку его использовать для перехвата устных сообщений. Обвинение и изложение жалобы — это утверждения, а не вывод о виновности.

Согласно изложению жалобы Минюстом, сотрудники OpenAI 30 сентября обнаружили скрытый аудиорегистратор в конференц-зале для руководителей в Сан-Франциско. В сообщении говорится, что устройство установили примерно 28 сентября, а его содержимое было зашифровано. Там также описаны записи офисных камер, на которых Alfozan, по утверждению властей, находился рядом с помещением до обнаружения устройства. Минюст сообщает, что 5 октября в связанной с ним сумке нашли второе похожее устройство.

В жалобе также утверждается, что через инструмент для работы запрашивали сведения о комнатах и расписании офиса, а из аккаунта чат-бота, связанного с супругой Alfozan, отправлялись запросы об устройстве. Это утверждения следствия об активности аккаунтов. Сообщение не доказывает, что устройство записало встречу, что конфиденциальные сведения покинули OpenAI или зачем его предположительно разместили там. Расследование ФБР продолжается.

Что OpenAI говорит о роли моделей

OpenAI сообщила Associated Press , что использовала модели, «чтобы понять устройство и откуда оно появилось», и установила конкретного сотрудника, который, по версии компании, разместил его несколькими днями ранее. Компания заявила, что передала дело ФБР и уволила сотрудника. Она также сказала, что на тот момент не имела признаков неправомерного доступа этого человека к весам моделей, исходному коду или данным клиентов либо их выноса.

В публичном заявлении не названо ни одной модели, не описаны переданные ей доказательства и не объяснено, как следователь-человек проверил результат. В сообщении Минюста изложены утверждения жалобы, но конкретный доказательственный вывод не приписан ИИ. Поэтому два описания позволяют сделать лишь ограниченный вывод: OpenAI утверждает, что модели помогли расследованию, однако открытые материалы не показывают, насколько они способствовали установлению личности обвиняемого сотрудника.

Исход предполагаемого перехвата также пока не определён. Содержимое зашифрованного устройства, возможные записи и возможное будущее решение суда — отдельные вопросы по сравнению с заявлением OpenAI о своих инструментах расследования. Пока факты не установлены, это сообщение об использовании ИИ во внутреннем расследовании безопасности компании, а не измеренная демонстрация метода компьютерной криминалистики с ИИ.

Источники и дополнительная литература