英政府は、新たに浮上するAI脅威から国を守る体制を強化するため、一連の新たな取り組みを発表しました。
AI担当大臣のカニシュカ・ナラヤン氏は10月12日、インペリアル・カレッジ・ロンドンで講演し、フロンティアモデルを使って政府システムの脆弱性を発見することなどを含む一連の計画を明らかにしました。
「当省の中央脆弱性監視サービスは、特定された弱点の修正に要する時間をすでに50日からわずか8日に短縮しました。こうした進展を土台に、さらに踏み込みたいと考えています」と、同氏は説明しました。
「DCMS（デジタル・文化・メディア・スポーツ省）のサイバー担当大臣、治安担当大臣、そして私が主導し、フロンティアAIの能力を緊急に活用します。攻撃者に悪用される前に政府システム内の弱点を見つけ出し、重要な政府システムを保護するとともに、新たな脅威により効果的に対処することが狙いです」
今回の発表は、政府サイバー調整センター（GC3）が実施した一連の内部ハッカソンを受けたものです。このハッカソンではフロンティアAIを用いて、公共部門のITに存在する400件以上のソフトウェアの欠陥が見つかり、その後修正されました。
政府のAI対策に関する関連記事：英政府、ディープフェイクに対処するAI安全性スキームを開始
ナラヤン氏はまた、DCMS、国家サイバーセキュリティセンター（NCSC）、AIセキュリティ研究所（AISI）が連携し、エージェント型AIのインシデントに対応して封じ込めるための「堅牢な手法を開発する」と発表しました。
背景には、テスト中にフロンティアモデルが組織に対してハッキングを行った事例が相次いでおり、その中には政府機関も含まれていることがあります。
さらに、治安担当大臣のダン・ジャービス氏が「AIによるものも含め、サイバー攻撃への防御を強化するための省庁横断プログラム」を主導すると、ナラヤン氏は説明しました。
国家サイバー行動計画も「近く」公表される予定だと、同氏は付け加えました。
長らく待たれているサイバーセキュリティ・レジリエンス法案（CSRB）にも修正が加えられます。「制御喪失」リスクやAIを悪用した脅威から組織を守ることが目的です。
「重大なインシデントやニアミスを特定して報告することに加え、重要サービス全体でAI起因のリスクを低減し、重大なAIインシデントを適切に検証できるようにすることも含まれます」と、ナラヤン氏は述べました。
AISIによるフロンティアモデルのテストが再開
これらの取り組みの詳細は多くが検討段階にありますが、AI担当大臣は、少なくとも1つの前向きな進展を確認しました。
同氏によると、AISIはGemini 4 Argonを含むフロンティアモデルのテストを再開しました。モデル開発者や国際社会が新たなリスクをより的確に把握できるようにする狙いです。トランプ政権はこれまで、米国外のあらゆるテスト機関によるこうしたモデルへのアクセスを遮断していました。
ナラヤン氏は、英国は今後、こうした専門知識を拡大するとともに、半導体設計で培った強みを生かして、AI検証という新たな能力を育てられるとの見方を示しました。この黎明期の分野は、AIやモデルの出力がルール、規制、安全基準に適合していることを担保するのに役立ちます。
Oktaの欧州・中東・アフリカ（EMEA）フィールドCTOであるリチャード・ウェインライト氏は、AIセキュリティへの注力を歓迎し、CSRBの一環としてキルスイッチの導入を検討するよう求めました。
「AIエージェントの自律性が高まるにつれ、英国の企業や政府が依存するインフラに安全性を組み込まなければなりません」と同氏は述べました。「暴走したAIエージェントを停止させる『大きな赤いボタン』を、誰もが求めています」
Palo Alto Networksの英国政策担当シニアディレクター、カーラ・ベイカー氏は、政府が先手を打った脅威検知とインシデント報告に重点を置いている点を評価しました。攻撃者はAIを「大規模に」展開し、侵入やデータ窃取を加速させていると指摘しています。
「防御は前進を後押しするものであるべきで、麻痺を招いてはなりません。国家のレジリエンスを築くことは、英国の競争力を損なうような強権的な規制を課すことではありません。実践的で堅牢なセキュリティ上のガードレールと、組織に必要な運用上の機敏さを組み合わせることで、英国はフロンティアAIを安全に展開し、世界の舞台で勝ち抜くことができます」と、同氏は続けました。
義務的なインシデント報告制度が成功するかどうかは、どの組織が対象となるのか、何を「フロンティア」とみなすのか、「インシデント」をどう定義するのかにかかっているとベイカー氏は述べました。
「エージェント型AIの侵害インシデントが、発生から数カ月後に報告される事例が繰り返し見られます。義務的な報告が効果を発揮するには、可観測性とセットで運用する必要があります。具体的には、エージェントが実行時に何をしているかを適切に監視し、インシデントを数週間後ではなく、発生した時点で捉えられるようにすることです」と、同氏は付け加えました。
「たとえば、オーストラリアのメディケア（公的医療保険）ポータルで起きたOpenAIのエージェントによる事案は、検知と公表までに数カ月を要しました」
翻訳元: https://www.infosecurity-magazine.com/news/uk-government-sweeping-ai-security/
