Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic по отдельности выступили перед Советом Безопасности ООН 23 сентября, рассказав о рисках, связанных с развитием более мощного ИИ. Оба призвали правительства сотрудничать в вопросах тестирования и отчётности. Их предложения различались по масштабу, а обсуждение в Совете само по себе не ввело новых правил для ИИ.

Главное изменение

Руководители двух компаний, разрабатывающих передовые модели ИИ, представили конкретные предложения по безопасности на заседании Совета Безопасности, посвящённом международной безопасности. Альтман призвал к совместимым национальным и международным стандартам измерения возможностей, оценки мер защиты и сохранения человеческого контроля. Амодеи предложил более узкие соглашения: начать с запрета на использование ИИ для создания биологического оружия, а также разработать системы проверки и общие тесты рисков злоупотребления и утраты контроля. Это были предложения приглашённых участников. Для любых действий Совета потребуется согласие государств.

В чём сходятся предложения

В автоматически сформированной стенограмме ООН Альтман предложил оперативно сообщать об инцидентах и создать защищённые каналы, чтобы правительства, операторы инфраструктуры и технические специалисты могли обмениваться сведениями об уязвимостях. По его словам, стандарты должны применяться к открытым и закрытым моделям, новым разработчикам и устоявшимся лабораториям, а каждое правительство должно решать, как использовать их в своём законодательстве.

Амодеи также выступил за международные стандарты испытаний и уведомления об инцидентах, важных для глобальной безопасности. Он предложил систему, которая позволила бы государствам видеть возможности передовых моделей и проверять выполнение обязательств. Он вновь заявил, что Anthropic готова допускать внешних оценщиков внутрь компании и замедлять выпуск моделей настолько, насколько потребуется для безопасности. Это обязательства и предложения Anthropic, а не независимое подтверждение эффективности её защитных мер.

Оба участника призвали к сопоставимым тестам и раскрытию сведений о серьёзных инцидентах. В выступлении Амодеи в центре внимания были предлагаемый запрет биологического оружия и межгосударственная проверка. Альтман делал упор на стандарты, которые правительства могли бы включить в собственные правовые системы. Ни одно из предложений не сопровождалось договорённостью членов Совета о механизме исполнения.

У государств разные взгляды на роль Совета

Заседание созвала Франция; на нём также выступили сопредседатель научной группы ООН Ёшуа Бенжио и генеральный директор Hugging Face Клеман Деланг. Оно продолжило предыдущие обсуждения ИИ в Совете, в том числе первый подобный брифинг в июле 2023 года.

В выступлениях представителей стран проявился разрыв между общей обеспокоенностью и единой политикой. В опубликованном заявлении Латвии поддерживается идея изучить возможность создания неформальной экспертной группы Совета. В стенограмме ООН представитель США выступил против новых структур глобального управления и вместо этого призвал развивать национальные возможности и обмениваться лучшими практиками. Это позиции участников заседания, а не решение Совета.

Доступная стенограмма ООН фиксирует закрытие заседания после выступлений. В ней не указано, что была принята резолюция по ИИ или заявление председателя. На странице предупреждают, что текст выступлений создан системой автоматического распознавания и не является официальным документом ООН.