金融安定理事会、フロンティアAIのリスクに警鐘

フロンティアAIモデルがサイバー脅威の環境を一変させつつある中、世界の金融システムがリスクにさらされていると金融安定理事会(FSB)が警告しました。

FSBはイングランド銀行のアンドリュー・ベイリー総裁が議長を務める諮問機関で、世界市場に対する潜在的リスクを監視しています。

8月28日付でG20財務相・中央銀行総裁宛に送られた書簡の中で、ベイリー氏は、中東の紛争とそれによるインフレへの影響ですでに揺らいでいるリスク環境が、AIによってさらに複雑化していると警告しました。

「フロンティアAIは、サイバーリスクの速度、規模、経済性を本質的に変え得る力を持っており、特に高度に集中した第三者サービスプロバイダーへの依存によって、システム全体にわたる市場の信認を損なう恐れがあります」と同氏は指摘しています。

ベイリー氏は、金融サービス業界と関係当局に対し、脆弱性の増加やパッチ適用の高速化、そして変更・テスト・復旧プロセスが対応しきれない場合に生じ得る新たな「運用面・レジリエンス面の課題」を特徴とする、新たな脅威環境への備えを求めました。

「フロンティアAIはサイバー防御を強化する大きな機会をもたらします。しかし最近の動向は、能力の向上にレジリエンスと備えが確実に伴うようにすることの重要性を浮き彫りにしています」と同氏は付け加えています。

フロンティアAIに関する関連記事: NCSC、防衛のため国家規模のAI搭載「サイバーシールド」を提唱

FSBは同業界とその技術プロバイダーに対し、「脆弱性管理、対応、復旧能力」を強化し、複数の企業や共有される技術依存関係にまたがる障害の可能性に備えるよう求めました。

「こうした動向は、重大なサイバーインシデント発生後に重要システムとデータを『ベアメタル』の状態から復旧する能力を含む、堅牢な対応・復旧能力の重要性を改めて示すものです。また、金融システムが依存する重要な第三者技術プロバイダーやその他の共通サービスプロバイダーの間でのレジリエンスの重要性も、同様に示しています」と書簡は続けています。

最新の警告

こうした警告は今に始まったものではありません。5月には、英国の金融行動監視機構(FCA)、イングランド銀行、財務省が共同でガイダンスを発表し、AIに起因するサイバーリスクを軽減するため、業界に対し「効果的な防御・検知・脅威封じ込め・サイバー対応能力」の導入を求めていました。

その1カ月後には、ファイブアイズのサイバーセキュリティ機関の首脳らが異例の共同声明で警告を発し、フロンティアAIが数カ月のうちに攻撃・防御両方の能力を「根本的に」変えることになると述べました。

GCHQのアン・キースト＝バトラー長官は、5月にブレッチリー・パークで開催された同機関初の年次講演の場を利用し、フロンティアAIの影響について警鐘を鳴らしました。 

これらの発言は、AIモデル開発企業自身が報告した一連のインシデントを受けたものです。テスト環境から抜け出したAIエージェントが第三者組織をハッキングする事例も起きています。

OpenAIは、Hugging Faceが関わった今や悪名高いあるインシデントについて、自社および世界に対する「警告射撃」だったと説明しています。