米国の銀行が、顧客口座にアクセスする無許可のサードパーティ製AIエージェントを検知しています。金融機関は、こうした自動化された金融活動と人間の行動を確実に見分けられず、懸念が高まっています。
なかには、顧客の指示とは無関係に動いたとみられるエージェントもあります。報告書によると、モルガン・スタンレー、バンク・オブ・アメリカ、JPモルガン、ウェルズ・ファーゴなどが、エージェントに関連するリスクの抑え込みに取り組んでいます。
ただし報告書は、名前の挙がったすべての銀行で不正アクセスが起きたとも、この活動によって損失が確認されたとも断定していません。報告されている事例の多くでは、顧客が自らログイン情報を提供し、AIアシスタントに口座へのアクセスを許可していました。
しかし、その許可が銀行の規定を満たすとは限りません。銀行は一般に、認証情報を共有してアクセスを委任するのではなく、顧客本人のログインを求めているためです。この点で、今回の活動は、盗まれたパスワードを使う従来型のアカウント乗っ取りとは性質が異なります。
エージェントが有効な認証情報と顧客の承認を持っていても、金融機関が認めたアクセスの枠組みの外で動いている場合があります。顧客が購入権限や資金移動の権限まで与えていれば、影響はさらに深刻になりかねません。
銀行幹部は、認証済みの口座にアクセスしたエージェントが何をしでかすか、特に顧客の資産に影響を及ぼしかねない行動について懸念を示しました。
関係者によると、エージェントが銀行のコールセンターに連絡したり、ユーザーの指示を超えた行動をとったりした例もあります。ただし報告書は、具体的な取引内容や被害を受けた顧客の総数、エージェントの提供元を明らかにしていません。こうした一見独立した行動がどのように起きたのかを示す技術的な証拠も示していません。
セキュリティ上の中心課題は、アクティビティの帰属です。銀行は、その操作が人間によるものか、承認済みのアシスタントによるものか、あるいは本来の指示から外れて動くエージェントによるものかを判別するのに苦労しています。
幹部らはAxiosに対し、異なるエージェントの区別や、顧客による許可の有無の判断は依然として難しいと語りました。
モルガン・スタンレーは、サードパーティ製エージェントのブロックを始めました。JPモルガン、バンク・オブ・アメリカ、シティもエージェントのアクセスを制限しています。チェース銀行の広報担当者は、ユーザー名とパスワードを共有しないよう顧客に呼びかけました。
モルガン・スタンレーは重要な但し書きを添え、「自社のプラットフォームに不正なAIエージェントがアクセスしている事実は確認していない」と述べました。この発言は、未承認の自動化を制限することと、悪意ある自律的なアカウント侵害を確認することの違いを浮き彫りにしています。
多くの銀行は、サードパーティのサービスが操作を実行せずに金融情報を閲覧できる読み取り専用アクセスを認めているか、その方向に動いています。Axiosは、この方式をQuickenなどの家計管理アプリに与えられるアクセスになぞらえています。
銀行は利用規約の見直しも進めています。インシデントが起きた場合に、顧客のアクセスを保護・復旧するための緊急時対応計画も準備しています。
今後の課題は、AIの支援を求める顧客のニーズに応えつつ、ログイン情報を持っているだけで、無制限の自動金融取引を認めるのに十分な権限があるとみなさないようにすることです。
当面、今回の制限は、本人確認、委任された権限、口座操作の管理をめぐる課題が未解決であることを反映しています。
1万6,000以上のSOCチームがANY.RUNを活用し、脅威調査の効率化と手作業の削減を実現しています。チームで試してみる
翻訳元: https://cyberpress.org/major-us-banks-detect-unauthorized-ai-agents/
