フロンティアAIによるサイバーリスク、世界の金融システムに「最も差し迫った懸念」と監視当局が警告

フロンティアAIがもたらすサイバーリスクは、世界の金融システムが直面する「最も差し迫った懸念」であるとして、月曜日に公表された書簡の中で、世界の主要経済国の財務相・中央銀行総裁らに警告が発せられました。

金融安定理事会(FSB)の議長を務めるアンドリュー・ベイリー氏は、金融機関とテクノロジー企業に対し、「複数の企業や共有技術への依存関係にまたがって同時に混乱が発生する、より深刻なシナリオに備える」よう呼びかけました。

FSBは2008年の金融危機後、国境を越えて波及しかねないリスクを監視する目的でG20により設立された組織です。今回の警告に先立ち、OpenAI、Anthropic、Meta、そして英国のAI Security Instituteでは、高度なAIモデルがサードパーティのシステムを標的とした不正な行為に及ぶ事例が、サイバーセキュリティ評価の中で確認されています。

こうした事例が明らかになったのは、AIによって脆弱性の発見・悪用がより迅速かつ低コストで行える可能性があると、セキュリティ機関が評価を進めている最中のことです。FSBの書簡は、パッチ適用のサイクルが加速する中、組織がそのペースに追いつけなければ運用上のリスクが高まるとする、英国の国家サイバーセキュリティセンター(NCSC)による警告と軌を一にするものです。

Microsoftなどの企業が発行するパッチの数は目に見えて増加している一方で、新たに開示されたこれらの脆弱性が広範囲にわたって悪用される事態は、今のところ観測されていません。

ノースカロライナ州アシュビルで開催されるG20会合を前に公開されたベイリー氏の書簡は、金融システムが「高度に集中したサードパーティのサービスプロバイダー」に依存していることが、システム全体に及ぶ混乱の危険性を高めていると指摘しています。

同監視当局は、「重大なサイバーインシデントの発生後に、重要なシステムとデータを『ベアメタル』状態から復旧できる能力を含め、堅牢な対応・復旧能力の重要性」を強調しました。

英国が最新で発表した年次国家リスク登録簿(National Risk Register)でも、高度なサイバー攻撃が金融インフラを標的とし、ハードドライブ上のデータを上書きするという、同様の最悪シナリオが描かれています。

このシナリオの下では、システムの復旧に数年を要する可能性があります。口座残高や取引記録に対する信頼が失われれば、大規模な預金引き出しの連鎖を招き、金融システムの安定性を脅かすおそれもあります。

ベイリー氏は、金融サービス企業が防御目的でフロンティアモデルを安全に導入する方法についても、FSBが検討を進めていると述べました。同時に、AIの能力向上には、それに見合うレジリエンスと備えの強化が伴わなければならないと警告しています。

FSBは、高度なAIモデルの開発・公開・導入を統制する安全対策が、依然として多くの国で欠如していると警告しました。ベイリー氏は、こうしたギャップの解消を世界的な優先課題とすべきだと述べ、高度なモデルの安全かつ責任ある公開を支える協調的な取り組みを求めました。

今回の警告が発せられた背景には、AIが経済全体に及ぼす影響が依然として不透明であるという事情があります。これまでのところ最も明確な影響はテクノロジー投資の急増であり、AI関連の支出額は、算定方法によって米国の国内総生産(GDP)の1.8%から5%の間に達すると推計されています。もっとも、この投資ブームを除けば、生産性向上を裏付ける証拠は依然として限定的だと、アナリストらは指摘しています。