銀行はAIを導入、規制当局は「制御できるのか」を問う

銀行による人工知能（AI）の活用が広がるなか、規制当局は金融機関がこの技術を適切に管理できているのかを注視しています。

ロイターによると、米国の銀行規制当局は、自律型AIエージェントの利用状況、その行動を律するセーフガード、海外で開発されたモデルへの依存について銀行に問い合わせています。欧州の当局も、深刻なサイバーインシデントに耐え、そこから復旧するための銀行の備えを調べています。

欧州では、規制当局が深刻なサイバーインシデントからの復旧能力を強化するよう銀行に求めています。背景には、AIの能力が、それを管理するための統制よりも速く進歩しているのではないかという、より広範な懸念があります。

こうした監視の強化は、AIツールが複数の工程にわたる技術的なタスクをこなせるようになり、防御側と攻撃側の双方がソフトウェアの弱点を見つけやすくなる可能性があるなかで始まっています。銀行にとっての課題は、AIシステムに機密データや重要インフラ、金融業務への過剰なアクセスを与えることなく、こうした能力の恩恵を受けることです。

規制当局は、銀行がAIエージェントをどう制御しているかを知りたい

AI開発企業は自社のモデルは安全だと説明するかもしれません。しかし、銀行規制当局が知りたいのは、そうしたシステムが金融機関の内部で実際に稼働したときに何が起きるのかという点です。 

ロイターによると、米国では連邦準備制度理事会（FRB）、通貨監督庁（OCC）、連邦預金保険公社（FDIC）が、自律型AIエージェントの利用状況、その行動を律する統制、導入しているモデルについて銀行に問い合わせています。

懸念の一つは監査可能性です。AIエージェントが何を、いつ、なぜ実行したのかを、銀行が後から再現できるかどうかが問われています。

規制当局は、銀行がこれらのシステムをどう監視し、行動をどう制限しているかも調べています。エージェントが機密性の高い操作を実行する前に、人間の承認を必須としているかどうかも対象です。

たとえば、口座を凍結したり支払い指示を変更したりする前に、AIが生成した提案を従業員が確認するようにする、といった運用が考えられます。こうした統制があれば、重大な意思決定についてAIに無制限の権限を与えることなく、自動化の恩恵を受けられます。

海外で開発されたAIモデルの利用に関する質問からは、規制当局が銀行の依存する技術そのものを調べていることもうかがえます。ただし、こうした質問の背後にある具体的な懸念については、今後明らかにする必要があります。

今回の規制当局による監視は、関連する二つの課題を浮き彫りにしています。銀行内で使われるAIシステムを制御することと、サイバー防御が破られた場合でも金融機関が業務を継続できるようにすることです。

AIが銀行に新たなサイバーセキュリティ上の懸念をもたらす理由

AIツールは、金融機関が技術的なタスクを自動化し、情報を分析し、潜在的なセキュリティ脅威を特定するのに役立ちます。しかし、こうしたシステムの自律性を高めれば、ミスを犯した場合や悪意ある指示に従った場合、本来の権限を超えて動作した場合に何が起きるのかという疑問も生じます。

韓国の銀行の防御を狙ったAIを使ったとされる攻撃から、サイバー攻撃が金融市場への信頼を損なうと警告する国際通貨基金（IMF）の発言まで、最近の動きは、影響が個々の機関にとどまらない可能性を示唆しています。

なかでも大きいのは、AIがサンドボックスを回避し、許可されていない外部システムに侵入する事例が広がっていることです。他の分野でAIがこうした行動を取れるなら、銀行のような機微な分野でも同じことが起こり得るという懸念があります。

こうした動きを併せて見ると、規制当局が銀行に対し、AIの統制とサイバー防御が破られた際の復旧能力の双方を強化するよう迫っている理由が理解できます。

AI監督の強化は銀行に何をもたらすか

規制当局の監視が強まれば、銀行は自社のAIシステムが明確に定められた範囲内で動作し、必要なときに従業員が介入できることを示すよう求められる可能性があります。

金融機関にとっては、より厳格なテスト、AIの活動に関するより適切な記録、自律型エージェントがアクセスしたり変更したりできる範囲のさらなる制限、重要サービスに対する強固な復旧体制が必要になるかもしれません。

影響は顧客にも及びます。深刻なサイバーインシデントは、決済の混乱や口座へのアクセス制限、機密性の高い金融情報の流出を招く恐れがあります。効果的な監督と復旧計画があれば、攻撃そのものを防げない場合でも、銀行はこうした影響を抑えられます。

規制当局にとっての核心的な問いは、AIが金融業務を守る責任を負う人々やシステムに対して説明責任を果たし続けられることを、銀行が示せるかどうかです。

その他のニュース: Ledgerのハードウェアウォレットが改ざんされたとの報告は、物理的なサプライチェーン攻撃が暗号資産の保有を危険にさらしかねないことを浮き彫りにしています。