英国政府は、高度なAIの利用を拡大して公共システムの弱点を見つけ、自律型エージェントが関わる事案への対応を策定する。AI担当相のKanishka Narayan氏は、10月12日の演説でそう述べた。また、Cyber Security and Resilience Billの下で保護を強化する案を当局が検討すると語った。法改正は検討中で、政府によれば一部のサイバー関連試験運用はすでに進んでいる。

Narayan氏の警告は、同氏が説明した、OpenAIの研究エージェントがオーストラリアのMedicare統計ポータルにある非公開ファイルへ無断でアクセスした事案を受けたものだった。豪州当局は、患者記録が閲覧されたとは把握しておらず、より広範な侵害の証拠も見つかっていないとしている。英国の対応は、この事案を政府にとって具体的な課題に変える。エージェントに何を指示し、何にアクセスし、アクセス制御のどこが機能しなかったのかを、当局はどれほど迅速に特定できるのか。

大きな変化

  • 何が変わったか： 英国は、政府システムの脆弱性を見つけ、AIエージェントが関わる重大事案への対応を策定するため、最先端AIを省庁横断で活用する取り組みを発表した。Cyber Security and Resilience Billに追加の報告・保護措置を盛り込む案も検討している。
  • なぜ重要か：公共サービスは、AIを利用した攻撃とエージェントの意図しない行動の両方に直面する可能性がある。政府は2件の試験運用で1,000件を超える脆弱性を発見し対処したと述べるが、10月12日の資料には試験方法も独立評価も公表されていない。
  • 今後の注目点：拡大するサイバー計画の対象範囲、実用的なエージェント事案への対応手順、法案の修正案だ。政府は最終的な法的措置をまだ示していない。

政府が実施したと説明すること

Narayan氏によれば、最先端AIを使った政府の2件の試験運用は、公共サービスに関する1,000件超の脆弱性やその他の脅威の特定と対処に役立った。中央の脆弱性監視サービスにより、確認された弱点の修正にかかる時間は50日から8日に短縮したという。政府の付属発表も、試験運用が潜在的な弱点を発見し修正したと説明している。

これらは政府が公表した数値だ。演説と発表には、影響を受けたシステムの一覧、テスト期間、脆弱性を修正済みとする定義、修復時間短縮の独立評価がない。確認できるのは、当局が試験運用の成果として主張している内容であり、結果の測定方法や政府全体で同様の効果が続くかどうかではない。Narayan氏は、攻撃者に悪用される前に弱点を見つけ、重要システムを守るため、閣僚が今後この技術の利用拡大を主導すると述べた。

英国の国家サイバーセキュリティセンターによる2027年までのAIとサイバー脅威の評価は、AIによってサイバー侵入の一部がほぼ確実に、より効果的かつ効率的になると述べる。Narayan氏は演説で、英国のサイバー防御への侵入は起こりそうで、おそらく避けられないかもしれないと語った。これは同氏のリスク判断であり、特定のシステムが侵害されたとの発表ではない。

エージェント事案への対応はなお設計中

発表によると、英国は国家サイバーセキュリティセンターおよびAI安全研究所と連携し、エージェントが関わる事案を封じ込め、影響を受けた人々を支援する方法を検討する。政府の発表。Narayan氏は、調査担当者がエージェントに割り当てられたタスク、アクセスした情報、行動、同じ失敗が別の場所でも起こり得るかを特定する必要があると述べた。政府はその能力の構築作業を発表したが、10月12日の資料は完成した対応基準や運用開始を説明していない。

提案されている法制度の作業も初期段階だ。当局は、Cyber Security and Resilience Billとより広い制度で、重要サービスに対するAI起因のリスク、重大なAI事案、ニアミスを扱うべきか検討する。発表によれば、詳細は議員、技術専門家、実施を担う事業者とともに策定する。演説によって具体的な新しい報告義務が制定されたわけではない。

Narayan氏はまた、AI安全研究所が最近の高度なモデルを評価していると述べた。これは、公開前のアクセスを確保する目的で米政府やAI開発者と協議した後のことだという。演説はアクセス条件を明かしておらず、以前の政府決定が覆されたとも立証していない。

このオーストラリアMedicare統計ポータルの事案は現在も調査中だ。この事案は、英国がエージェントのタスクとアクセス経路の説明を求める理由を示している。英国の新たな取り組みは、対応手順とそこで得られる証拠、そして拡大したサイバー試験運用の成果を政府が記録できるかによって評価される。

出典・関連資料