英国のサイバー防御は「侵害される可能性が高い」、AI担当大臣が警告

• 英国のAI担当大臣、将来的にサイバー防御が「侵害される可能性が高い」と警告
• 「暴走」AIエージェントによるインシデントを防ぐには、さらなる規制が必要
• 英国のAI試験機関、フロンティアモデルのリリース前の安全確保を支援

英国のAI担当大臣カニシカ・ナラヤン氏は、同国のサイバー防御がAIエージェントによって侵害されるのは「避けられないとまでは言わないまでも、可能性が高い」と警告しました。

この警告の背景には、数多くのフロンティアモデルが試験環境を脱出し、第三者企業をハッキングした事例が相次いでいることがあります。その中には、2026年6月にOpenAIのエージェントがオーストラリア政府のウェブサイトをハッキングした事例も含まれます。

ナラヤン氏は記者会見で、AI企業に対して次のように呼びかけました。「自社の科学者が重大な危険を警告したら耳を傾けてください。予期せぬ挙動があれば調査してください。そして、リスクを十分に制御できないのであれば、そのシステムをリリースしてはなりません」

AIで防御を図る英国政府

AI担当大臣はまた、英国政府がAIがもたらす脅威に対抗するため、高度なAIを活用する計画であることも明らかにしました。この計画は、政府系システム全体で1,000件を超える脆弱性の発見と修正に役立った2つのパイロットプログラムを土台とするものです。

加えて、フロンティアAIシステムは、英国のAIセキュリティ研究所（AISI）による「厳格な評価」を受けています。目的は「リスクを早期に特定」し、「人々の安全を守るための堅牢な安全対策を検証する」ことです。

ただ、AISIが最新モデルの一部を試験する際には、障害も生じています。2026年9月、米国のドナルド・トランプ大統領はOpenAIとAnthropicに対し、米国の研究機関が独自の試験を終えるまで、最新モデルを英国の試験担当者と共有しないよう求めました。

ナラヤン氏によると、英国政府はその後ホワイトハウスと協議を重ね、「最も強力なAIモデルがリリースされる前に、英国のAISIがアクセスできる状態を維持する」ことで合意したといいます（BBCの報道による）。

ナラヤン氏は、サイバーセキュリティ・レジリエンス法案の一環として、AIに関する保護策が導入される可能性が高いとも述べました。特にAIインシデントの報告と開示に関する規制を重視するとしています。

OktaのEMEA担当フィールドCTO、リチャード・ウェインライト氏は「政府がフロンティアAIのサイバー防御を真剣に受け止めていることは心強い」と語ります。

「AIエージェントの自律性が高まるにつれ、英国の企業や政府が頼るインフラには、安全性を組み込まなければなりません。誰もが、暴走したAIエージェントを止める『大きな赤いボタン』を求めています。重要インフラを守るため、AIの『キルスイッチ』が議論される機会も業界で増えており、サイバーセキュリティ・レジリエンス法案の枠組みでも検討されることを期待しています」

なぜAIにはさらなる規制が必要なのか

2026年はこれまでに、フロンティアAIエージェントが試験環境を脱出し、他社のネットワークに侵入するインシデントが複数発生しています。

OpenAIは100を超える組織に通知しました。同社のAIエージェントに関連する不正な活動があったためで、その中にはHugging Faceへの攻撃も含まれます。Anthropicも2件の無許可AIエージェント事案を公表しており、MetaとGoogleもGoogleもそれぞれ1件ずつ、試験環境からの脱出を公表しました。複数の事例で、AIエージェントはイスラエルのAI試験企業Irregularによる評価を受けていました。

関係企業は自社AIモデルの安全性をめぐって厳しい視線にさらされていますが、エージェントを封じ込められなかったことへの処罰は、今のところ受けていません。

AIエージェントを「暴走（rogue）」と呼ぶことについても、大きな議論があります。Tenable のフィールドCTO、ベルナール・モンテル氏のように、「責任転嫁の危険な手口だ」と指摘する専門家もいます。

ただ、規制によってAI企業はモデルの試験や展開をより厳格に行うようになる一方で、AI開発のペースが落ちる可能性もあります。

トランプ政権にとって、それは越えてはならない一線です。AI開発を減速させれば、AI開発の主導権を中国に譲り、米国の国家安全保障を損なう恐れがあるためです。

米国の中間選挙では、すでにAI開発をめぐる議論が白熱しています。とりわけ、米国各地で何千ものAIデータセンターの建設が提案されている問題が争点となっています。