- 顧客が銀行手続きをAIエージェントに任せるケースが増加
- 銀行は人間、正規のAI、不正な動きの区別に苦慮
- AIが暴走する最悪のシナリオへの備えも進む
米国の大手銀行数行が、サードパーティ製のAIエージェントが顧客の銀行口座にアクセスしていることを検知しました。中には、ユーザーが実際に望んだ範囲を超えて操作しようとしたケースもあったということです。
Axiosの最新の報道によると、銀行は人間による正当な操作とエージェントによる操作を見分けることさえ難しくなっています。特に、認可されたAIエージェントと不正なAIエージェントの区別が困難になっているといいます。
重要なのは、懸念の対象が、システムの脆弱性を突いて顧客情報を狙う独立した暴走AIではない点です。銀行が現在警戒しているのは、人間のユーザー自身が自分の代理として動かしているAIエージェントです。
顧客が認可したAI操作の急増に苦慮する銀行
多くの場合、顧客は業務や手続きの一部を任せるため、自らの意思でオンラインバンキングのユーザー名とパスワードをAIアシスタントに渡しています。しかし、顧客本人がこうした機密情報の共有を許容していても、銀行の規定に反することが少なくありません。規定では、顧客自身が口座にログインすることを求めているためです。
モルガン・スタンレー、JPモルガン・チェース、バンク・オブ・アメリカ、シティグループは、いずれもサードパーティ製エージェントのアクセスを制限し始めました。ウェルズ・ファーゴも、潜在的な脅威への対応を進めているとされています。
銀行は、可視性の不足や口座のセキュリティに加え、金銭的な責任の所在も懸念しています。問題が起きた場合に、AIエージェントの行動について誰が責任を負うのかが、いまだ明確になっていないためです。
チャールズ・シュワブのリチャード・ワースターCEOは、「さまざまなエージェントを何回ブロックしたか」を毎日報告するよう求めていると説明しました。これにより、同社が「認証と顧客体験を管理できる」ようにするためだといいます。
今後、銀行は最悪のシナリオに備えて対応を急ぐとみられます。最近は障害や脆弱性が原因で、インターネットの広範な領域が停止する事態も起きました。こうした状況を受け、銀行は不正なアクセスがあった場合に顧客口座を速やかに停止し、インシデント後に復旧できるよう準備を進めています。
