Правительство Великобритании расширит применение передового ИИ для поиска уязвимостей в государственных системах и разработки ответа на инциденты с автономными агентами. Об этом министр по ИИ Кэнишка Нараян сказал в выступлении 12 октября. Он также сообщил, что чиновники изучат усиление защиты в рамках закона о кибербезопасности и устойчивости. Правовые изменения пока рассматриваются, хотя правительство говорит, что некоторые киберпилоты уже работают.

Предупреждение Нараяна последовало за его рассказом о несанкционированном доступе исследовательского агента OpenAI к непубличным файлам на австралийском портале статистики Medicare. Австралийские власти заявили, что им неизвестно о доступе к медицинским картам пациентов и что они не нашли свидетельств более широкого компрометирования. Ответ Великобритании превращает этот случай в конкретный вопрос: как быстро чиновники могут установить, какое задание получил агент, к чему он обратился и где отказали средства контроля доступа?

Главное изменение

  • Что изменилось: Великобритания объявила межведомственную работу по применению передового ИИ для поиска уязвимостей в государственных системах и разработки ответа на серьезные инциденты с ИИ-агентами. Рассматриваются дополнительные меры отчетности и защиты в рамках закона о кибербезопасности и устойчивости.
  • Почему это важно:Государственные службы могут столкнуться и с атаками с помощью ИИ, и с непреднамеренными действиями агентов. Правительство утверждает, что два пилота выявили и устранили более 1 000 уязвимостей, но в материалах от 12 октября не опубликованы методы пилотов и независимая оценка.
  • За чем следить:За масштабом расширенной киберпрограммы, практической процедурой реагирования на инциденты с агентами и возможными поправками к законопроекту. Окончательные правовые меры правительство пока не представило.

Что, по словам правительства, уже сделано

Нараян сообщил, что два государственных пилота с передовым ИИ помогли выявить и устранить более 1 000 уязвимостей и других угроз для государственных служб. По его словам, центральная служба мониторинга уязвимостей сократила время исправления выявленных проблем с 50 до восьми дней. В сопровождающем сообщении правительства также говорится, что пилоты выявили и устранили потенциальные слабости.

Это цифры, приведенные правительством. В выступлении и сообщении нет списка затронутых систем, периода тестирования, определения устраненной уязвимости или независимой оценки сокращения времени ремонта. Они фиксируют заявления чиновников о результатах пилотов, но не показывают, как их измеряли и повторятся ли такие результаты по всему правительству. Нараян сказал, что министры возглавят более широкое применение технологии для поиска слабостей до их эксплуатации злоумышленниками и защиты критически важных систем.

Оценка Национального центра кибербезопасности об ИИ и киберугрозах до 2027 года утверждает, что ИИ почти наверняка повысит эффективность некоторых видов кибервторжений. В выступлении Нараян сказал, что взлом британской киберзащиты выглядит вероятным, возможно неизбежным. Это его оценка риска, а не объявление о взломе конкретной системы.

Ответ на инциденты с агентами еще разрабатывается

Согласно сообщению, Великобритания будет работать с Национальным центром кибербезопасности и Институтом безопасности ИИ над сдерживанием инцидентов с агентами и поддержкой пострадавших. Нараян сказал, что следователям нужно установить назначенную агенту задачу, доступные материалы, его действия и возможность повторения сбоя в другом месте. Правительство объявило работу над этой возможностью; документы от 12 октября не описывают готовый стандарт реагирования или действующее развертывание.

Предлагаемая законодательная работа также находится на раннем этапе. Чиновники рассмотрят, должны ли закон о кибербезопасности и устойчивости и более широкий режим охватывать риски ИИ для критически важных услуг, серьезные инциденты с ИИ и почти-инциденты. В сообщении говорится, что детали разработают вместе с парламентариями, техническими экспертами и операторами, которым предстоит их выполнять. Выступление не ввело конкретную новую обязанность сообщать об инцидентах.

Нараян также сообщил, что Институт безопасности ИИ оценивает последние передовые модели после переговоров с правительством США и разработчиками ИИ, целью которых было сохранить доступ до выпуска моделей. Выступление не раскрывает условия доступа и не подтверждает отмену прежнего решения правительства.

Австралийский случай с порталом статистики Medicare остается предметом расследования. Он показывает, почему Великобритания хочет знать задачу агента и путь доступа. Новую работу страны будут оценивать по процедурам и доказательствам реагирования, а также по способности правительства документировать результаты расширенных киберпилотов.

Источники и дополнительное чтение