#Infosec2025：エージェント型AIのセキュリティリスクへの懸念が高まる

Infosecurity Europeの専門家によると、人間の監督なしに相互接続するエージェント型AIやAIツールは、増大するセキュリティリスクをもたらしている。

エージェント型AI、すなわちAIエージェントは、高度な自律性をもって動作する。エージェント型システムは、使用するAIモデルを選択したり、データや結果を別のAIツールに渡したり、さらには人間の承認なしに意思決定を行ったりすることもある。

エージェント型AIシステムは、人間が指示やプロンプトを与える必要がないため、大規模言語モデル（LLM）に基づく従来世代のシステムよりも速いペースで動作する。また、進行しながら学習し、使用するモデルやプロンプトを適応させることもできる。

ただし、組織が追加のチェックなしに生成AIツールやチャットボットなどのAIコンポーネントを連鎖させたり、AIエージェントに自律的な意思決定を許可したりすると、問題が生じ得る。これはすでにIT領域で、コード作成やシステム構成などの分野で起きている。

これにより、組織のAI導入がセキュリティ統制よりも速く進んでいるリスクが高まる。

コンサルティング会社EYの調査によると、AI実装が完全に成熟していると答えた組織は31%にとどまる。さらにEYは、企業におけるAIガバナンスがAIイノベーションに遅れを取っていることを明らかにした。

これは、LLMで既に特定されているリスクを増幅し得るエージェント型AIによって、より顕在化している。

エージェント型AIシステムは、プロンプトインジェクション、ポイズニング、バイアス、不正確さなど、同じリスクすべての影響を受ける。

しかし、あるエージェントが不正確、偏った、または操作されたデータを別のエージェントに渡す場合、問題はさらに悪化し得る。数パーセントポイント以下の比較的低いエラー率であっても、サブシステム全体で累積すれば重大な誤りになり得る。

AIツールが企業の管理外にあるデータソースに接続されている場合、セキュリティはさらに悪化する。

「AIが人間に直接話しかけるのではなく、別のAIシステムに話しかけているのです」と、AI Technologiesの最高AI責任者であるアンドレア・イソニ博士は説明した。

「特に外部から情報を収集または取り込む場合には、中間的なAIセキュリティ層が必要です。」

「技術を使えば使うほど、悪用され得る弱点になっていきます」とイソニ氏は付け加えた。

エージェント型AIの急速な発展により、セキュリティチームは潜在的なセキュリティリスクを特定し報告するために迅速に動く必要がある。

EYの調査では、企業の76%がすでにエージェント型AIを使用しているか、1年以内に使用する予定だと回答した。一方で、リスクについて中程度または十分に理解していると答えたのは56%にとどまった。

「AIの実装は、従来の技術の展開とは異なります」と、EYのグローバル・レスポンシブルAIリーダー（アシュアランス担当）のキャシー・コビー氏は、この調査についてコメントした。

「これは『一度やって終わり』の作業ではなく、AIガバナンスと統制がAI機能への投資に歩調を合わせていく必要がある旅路なのです。」

EYによれば、取締役会はエージェント型AIを含むAI利用を安全にするための対策を求めるだろう。

侵害とリスク

SnykでAIセキュリティ担当ディレクターを務めるルディ・ライ氏によると、エージェント型AIの急速な普及は、組織に対して統制とポリシーの強化を促すとともに、エージェント型システムが攻撃対象領域を拡大するかどうかの検討を迫っている。

「エージェント型AIは、もはや研究室の中だけのものではありません」とライ氏は述べた。

コード開発は、エージェントが利用されている分野の一つだ。

「エージェントがコードを書くなら、それは安全である必要があります」とライ氏は警告した。

「エージェントが生成したコードをテストする必要がありますし、エージェントに適切なガードレールを与えることも必要です。」

ライ氏は、開発者がエージェント型AIを使うのはコード生産を加速できるからだと指摘する。ほかのビジネスでは、企業が顧客サービスや自動化を改善するためにエージェントを利用している。

従来世代のカスタマーサービスボットは回答が尽きると人間の担当者にユーザーを引き継がざるを得なかったが、エージェント型AIシステムは自ら問題を解決する可能性が高い。

「AIエージェントは、企業が顧客とやり取りし、業務を自動化し、サービスを提供する方法を急速に再構築しています」と、Salt Securityのサイバーセキュリティ戦略ディレクターであるエリック・シュウェイク氏は述べた。

しかし同氏によれば、これはAIツールの開発者と、それを展開するITチームの双方が、AIツール同士をつなぐAPIも安全であることを確実にすることにかかっている。

「これらのインターフェースは単なる技術的なコネクターではなく、AIエージェントがデータにアクセスし、タスクを実行し、プラットフォーム間で統合するための生命線を提供します。堅牢なAPIセキュリティがなければ、最先端のAIでさえ資産ではなく脆弱性になってしまいます」とシュウェイク氏は説明した。

Snykのライ氏が警告するように、エージェント型AIシステムのリスクはコンポーネントそのものだけでなく、コンポーネントを組み合わせて使うときにも生じる――「セキュリティリスクは隙間にある」のだ。

ライ氏は、AI実装が安全であることを検証するためのAIレッドチーミングや、どの技術がどこで使われているかを確認するためのAI部品表（AI BOM）といったツールの活用、さらにAIエージェント間の接続や引き継ぎを文書化することを提案している。

「CISOには可視性がありません」とライ氏は述べた。

「だからこそ、使用しているモデルやデータセット、そしてコーディングやアプリケーションにおける依存関係を確認できるAI部品表が必要なのです。」