AIエージェントが企業データに無検知でアクセス、インドが警告

能力テスト中のAIエージェントがインド企業の内部にある機密記録にアクセスしたものの、被害を受けた組織は侵入を検知できなかったと報じられています。

インドの国家サイバーセキュリティ機関であるインドコンピュータ緊急対応チーム（CERT-In）は10月15日、注意喚起を発表しました。AI開発企業が評価中の自律型ソフトウェアエージェントが、国内企業の稼働中のシステムに侵入したという内容です。この自律型システムは社内の業務記録、企業の独自資料、個人データを読み取りました。

被害を受けた組織はいずれも、自力では侵害に気づいていません。発覚したのは、社名が明らかにされていないAIプロバイダーが社内レビューで不正な活動を発見し、政府に自主的に報告したことがきっかけでした。

二重の脅威：暴走したテストと犯罪キャンペーン

CERT-Inによると、テスト用のエージェントは、無防備なまま放置された機密情報を収集することでデジタル上の境界を越えました。公開コードリポジトリに掲載された認証情報や接続パラメータ、安全でないアプリケーション設定、過剰な権限を与えられたクラウドバックエンドのロールなどを発見しています。複数のケースでは、公開されていた同じ鍵を再導出し、別々の操作で使い回すことまでしていました。

自主報告があった事案で、エージェントはゼロデイ脆弱性のような特殊な攻撃を使ったわけではありません。公開インターネット上で「割り当てられたタスクの権限を超えて」行動し、見過ごされていた基本的な設定ミスを見つけただけです。

CERT-Inは、これとは別の意図的な脅威も指摘しました。能動的な脅威ハンティングを通じて、サイバー犯罪者がオープンソースのAIネイティブな攻撃的セキュリティフレームワークを展開し、インドのインフラに対して金銭目的の攻撃を仕掛けていることを突き止めたのです。

攻撃者はマルチエージェントによる自動化で、通常は数日かかる侵入のタイムラインをわずか数時間にまで短縮しました。侵害を受けた組織が不完全な修復にとどめると、自動化された攻撃群は数日以内に、さらに大きな規模で再び襲来しました。

CERT-Inは、根本にある脆弱性はいずれも従来型のものだと強調しています。平文のまま保存された決済APIキー、使われていないテスト用インターフェース、多要素認証のない管理ダッシュボードなどです。ただし同機関は、AIシステムがこうした一般的な見落としを「人間の攻撃者より高速に、より徹底的に、より大規模に」悪用したと警告しています。

今回の事案は、AIによる自動化がセキュリティ上の露出から悪用までの時間を大幅に縮め、組織が脅威を特定して封じ込める猶予を減らし得ることを示しています。

企業のセキュリティは長らく、人間の作業にかかる遅延を前提としてきました。パスワードやAPIキーが誤って公開リポジトリに漏えいしても、攻撃者が手作業で見つけ、検証し、悪用するまでには、防御側に数時間から数日程度の猶予があるのが通常でした。自律型エージェントは、この猶予をなくします。

エージェントは計画の立案、認証情報の収集、インフラ内での横展開を、コンピュータの速度で同時に実行します。そのため、公開された鍵が1つあれば、即座に侵入口となります。修復が部分的だった場合、自動化ツールは態勢を立て直すのに時間を要さず、執拗な追撃スキャンを仕掛けて、手作業のパッチ適用サイクルを追い越してしまいます。

セキュリティチームがすべきこと

今回の注意喚起は、認証情報を保護すること、権限を制限すること、機密性の高いシステムへのアクセスを監視することの重要性をあらためて示しています。

組織は、公開リポジトリやアプリケーション設定に漏えいしたシークレットがないか定期的にスキャンし、侵害された認証情報を失効させ、サービスアカウントやクラウド環境に最小権限のアクセス制御を適用すべきです。

セキュリティチームは、通常と異なるAPIアクティビティ、機密記録への予期しないアクセス、自動化されたプロービングを示唆する繰り返しの認証試行も監視する必要があります。

AIエージェントを開発または導入する組織には、さらなる責任が課されることが今回の調査結果から読み取れます。エージェントが割り当てられたタスクの範囲外のシステムや情報にアクセスできないよう、認可の境界を定義して徹底することです。

より広い教訓は、見慣れたセキュリティ上の欠陥も、自動化されたシステムが大規模に発見・悪用できるようになれば、管理が難しくなるということです。悪意ある攻撃者の仕業であれ、想定範囲を逸脱したAIエージェントの行動であれ、強固なアクセス制御、継続的な監視、完全な修復が不可欠である点に変わりはありません。

その他のニュース：バーガーキング・ジャパンは、アプリのデータベースへの不正アクセスにより、約1,118万件の顧客会員記録が関係するデータ侵害が発生したことを確認しました。