Сенатор Берни Сандерс и член Палаты представителей Грег Казар сообщили 23 сентября, что внесли законопроект «О запрете искусственного сверхинтеллекта». В опубликованном ими тексте из 19 страниц предлагается запретить искусственный сверхинтеллект, приостановить разработку определенных продвинутых моделей на время, пока новое федеральное ведомство будет составлять правила безопасности, и требовать разрешения до предоставления таких моделей пользователям. Это законодательное предложение. Ни одно из ограничений пока не действует.

Главное изменение

  • Что изменилось: Сандерс и Казар перешли от объявления 3 сентября о планируемом законопроекте к сообщению 23 сентября о его внесении и публикации текста с подробными проектными определениями и полномочиями по обеспечению исполнения.
  • Почему это важно: Предложение охватывает не только неопределенный будущий сверхинтеллект. Оно также запретило бы системы с перечисленными предшествующими возможностями и временно приостановило бы разработку моделей, обученных выше установленного порога вычислений. Если Конгресс примет этот текст, положения могут затронуть разработчиков задолго до того, как какая-либо система будет соответствовать определению сверхинтеллекта в законопроекте.
  • За чем следить: Прежде чем законопроект сможет возложить обязанности на разработчиков, Конгресс должен будет рассмотреть и принять его. В опубликованном тексте поле номера сенатского законопроекта пока пустое; появление нумерованной записи в Конгрессе и любые поправки прояснят следующий формальный этап.

Два разных ограничения в тексте

Предлагаемая временная приостановка распространяется на «продвинутую систему искусственного интеллекта», определенную как система, обученная с использованием не менее 10²⁵ целочисленных или операций с плавающей точкой. Секретарь будущего ведомства будет ежегодно корректировать этот порог с учетом повышения эффективности обучения. С момента принятия закона и до полного укомплектования ведомства штатом и выпуска правил безопасности такие системы нельзя будет обучать, модифицировать или дообучать — за исключением действий, направленных на удаление запрещенных характеристик или их отключение. На этот период также запрещается развертывание еще не выпущенных продвинутых систем. В правилах, необходимых для прекращения паузы, должны будут предусматриваться отчеты о планах разработки, оценки, аудит практик безопасности и окончательное одобрение перед публичным выпуском.

Предлагаемый запрет основан на другом критерии. Он распространяется на систему, превосходящую человеческие когнитивные способности в большинстве областей либо обладающую достаточными возможностями для планирования и осуществления уничтожения или лишения человечества самостоятельности. Раздел 9 также запрещает системы, демонстрирующие любые из перечисленных «характеристик-предшественников сверхинтеллекта». В перечне — значительное ускорение исследований в области ИИ, несанкционированный доступ к защищенной инфраструктуре, продолжение работы вопреки попыткам отключения, помощь в разработке оружия, самодификация и уклонение от человеческого контроля. В этом отдельном запрете на системы-предшественники порог в 10²⁵ операций не применяется. Пункт 9(b) также запрещает развертывать, выпускать, передавать или ввозить системы, которые можно предсказуемо модифицировать для создания любой из двух категорий. Будущему регулятору пришлось бы решать, как эти описания возможностей применять к конкретным системам; в законопроекте нет оценочных баллов по тестам, которые однозначно разрешили бы такие вопросы.

Проект учреждает федеральное министерство искусственного интеллекта на уровне кабинета и требует специального разрешения (charter) для организаций, разрабатывающих или распространяющих продвинутые модели. Министерству предоставляются полномочия на проверки и выдачу разрешений до развертывания. За некоторые нарушения, совершенные по безрассудству лицами, определяющими политику компаний, или не связанными с компаниями физическими лицами, проект предусматривает штрафы и тюремное заключение сроком до 20 лет. Также предусмотрены отзыв разрешения и, после установленной проверки, конфискация активов и интеллектуальной собственности, связанных с нарушением. Это предлагаемые наказания, а не действующие санкции.

Спор о сфере действия

В обсуждении политики ИИ примерно на 53-й минуте 290-го эпизода подкаста All-In участники дискуссии заявили, что мера может заморозить развитие ИИ в США и вытолкнуть компании за рубеж. Это их оценка возможных последствий. Текст не запрещает все существующие продукты ИИ лишь потому, что это ИИ: для временной паузы задан порог вычислений при обучении, а для более широкого запрета — критерии возможностей. Эти критерии имеют серьезные последствия, поскольку перечень предшествующих характеристик не ограничен указанным порогом обучения.

Исследователь ИИ Гэри Маркус после объявления 3 сентября выступил с критикой с другой позиции. Он поддержал идею регулятора в сфере ИИ и заявил, что временная пауза может быть оправданна, но счел, что постоянный односторонний запрет и неопределенные оценки возможностей заходят слишком далеко. Его отклик появился до внесения законопроекта 23 сентября; его следует читать как критику объявленного предложения, а не как анализ каждой строки опубликованного позднее текста.

Сандерс и Казар утверждают, что запрет снизит катастрофические риски, а международные соглашения и экспортный контроль не позволят перенести опасные разработки в другие страны. По сообщению Associated Press, Сандерс выступал за замедление разработки, а также отмечал опасение, что односторонние ограничения США не остановят разработку в других странах. Ни заявления спонсоров о безопасности, ни экономические прогнозы участников дискуссии не доказывают, что произошло бы в случае принятия законопроекта. Первое практическое испытание — законодательное: рассмотрит ли Конгресс предложение и как разрешит необычно широкую формулировку о предшествующих характеристиках.

Источники и дополнительная литература