シャドーAIのリスクは阻止できるのか？

出典：Blick Winkel（Alamy経由）

企業は非人間アイデンティティ（NHI）に非常に機密性の高いアクセス権を与えていますが、それらの権限を監視・管理することは困難な場合があります。特に人工知能（AI）エージェントの急増により、NHIの状況が急速に拡大し続ける中で、懸念は今後さらに高まるでしょう。

デジタルアイデンティティ自体は新しいものではありません。組織はAPIキー、サービスアカウント、マシンアイデンティティなどのNHIを利用して、人手を介さずにアプリケーションやデバイスのセキュリティを自律的に確保しています。しかし、AIエージェントの急増により、既存のセキュリティギャップが再び注目されると同時に、新たな課題も生じています。NHIは組織の攻撃対象領域の大部分を占めていますが、シャドーAIのような脅威や、さらに懸念される非公認のデジタルアシスタント（シャドーエージェント）によって、セキュリティチームにとっての死角を生み出しています。

Entro Securityの共同創設者兼CEOであるイツィク・アルバス氏によると、AIエージェントやその他NHIの爆発的増加により、企業にとってのリスクが高まっているといいます。これらのリスクには、所有者不明や過剰な権限を持つAIエージェント、機密データへのシャドーアクセス経路などが含まれます。

Entro Securityは、シャドーエージェントを阻止するため、AIエージェントの発見と可観測性ツールを自社プラットフォームに追加しました。

可視化・監視・管理

アルバス氏は2022年にEntroを設立し、NHIの保護に注力してきました。AIエージェントのセキュリティ確保は過去6か月間の課題でしたが、本日正式に発表されたプラットフォーム拡張の開発には困難が伴いました。アルバス氏によれば、コード、クラウド、エンドポイント、SaaS全体でエージェントレスに機能する可観測性レイヤーを構築する必要があったとのことです。また、非常に分散した環境でも、AIエージェントを人間の所有者やリスクに正確にマッピングする必要がありました。

これらの障害を乗り越えた今、エージェントAIセキュリティツールは、全てのエージェント、NHI、シークレットをスタック全体で可視化し、組織を支援することを目指しています。また、所有権とライフサイクル管理、エージェントおよびNHIの態勢、脅威検知の向上も目指しています。このツールはAIエージェントの目的、権限、影響範囲を分析し、エージェントとそのNHIの挙動を監視します。

シャドーAIのリスクは拡大しているのか？

Entro Securityの最近の社内調査によると、90%以上のNHIが適切なライフサイクル管理なしで運用されており、このベクトルが攻撃者にとって格好の標的となっているとアルバス氏は説明します。シャドーAIはNHIの状況全体で顕在化しつつある主要なリスクの一つです。

そしてリスクは急速に高まっています。AIの導入が急増する中、開発者たちはOpenAIやAnthropicなどの大規模言語モデル（LLM）APIを使って、監督なしにシャドーAIエージェントを立ち上げているとアルバス氏は述べています。

「これらのエージェントは強力な認証情報を持っていることが多いですが、所有者やガバナンス、失効経路がなく、企業をデータ漏洩、セキュリティリスク、コンプライアンスギャップにさらしています」と彼は言います。

Forresterのバイスプレジデント兼プリンシパルアナリストであるジェフ・ポラード氏も、企業にとってシャドーAIの懸念が高まっていることに同意し、個人がAIアプリケーションを利用するケースと、技術者がツールを使ってAIアプリケーションを作成するケースの両方を指摘しています。コントロールが整う前に、企業のチームやユーザーが実験するのは当然のことだと彼は言います。

「それは、あらゆる新興技術で常に起きてきたことだからです」とポラード氏は説明します。「AIも例外ではありません。セキュリティチームはAIへのアクセスを許可する必要があります。なぜなら従業員は必ず何らかの方法で利用するからです。」

「継続的リスク管理と相互認証」

シャドーAIは、エージェントAIの拡大に伴い生じるリスクの一つに過ぎず、新たなNHIアイデンティティセキュリティの課題を生み出しています。エージェントはユーザーのように認証・認可を行う自律的なアクターとして機能しますが、ポラード氏によれば、マシンの速度と規模でそれを行うため、どんなセキュリティチームでもそのペースを監視するのは困難です。

ForresterのAgentic AI Enterprise Guardrails For Information Security（AEGIS）フレームワークでは、最小限のエージェンシー、継続的リスク管理、エージェントとツール間の相互認証などの新たな原則を採用することを推奨しています。AEGISレポートは、企業が苦戦する6つの領域（ガバナンス、リスクとコンプライアンス、アイデンティティとアクセス管理、AppSec、脅威、ゼロトラスト）に分けてエージェントAIセキュリティの推奨事項を解説しています。

「継続的なエージェント発見プログラムを開始し、目的、ツール、範囲、所有者、データアクセスを追跡する動的なインベントリを維持してください」とポラード氏は推奨します。「また、ネットワークの場所に関わらず、全てのエージェント通信に相互認証と暗号化を要求してください。」

ただし、重要な注意点が一つあるとポラード氏は言います。

「エージェントのアイデンティティは人間のアイデンティティでも、マシンアイデンティティでもありません」と彼は言います。「それは全く別物であり、そのように扱うべきです。『エージェントは人間と同じだ』とか『エージェントはマシンアイデンティティと同じだ』と言う人は、何かを売りつけようとしているだけです。」