非人間型インサイダーリスクを軽減する6つの方法

AIエージェントは急速に日常業務の一部となりつつあり、これに伴って非人間型インサイダーリスクが高まっています。AIエージェントは生産性を向上させ、反復作業を減らし、組織がタスクをはるかに効率的に達成できるよう支援します。

したがって答えは、AIエージェントを禁止することではありません。組織は、人間のアイデンティティや特権アカウント、その他の強力なテクノロジーに適用しているのと同じ規律を持ってAIエージェントを管理する必要があります。

先週掲載した記事では、組織が非人間型インサイダーリスクを生み出す要因について解説しました。それに続く今回は、セキュリティチームが実践できる6つの具体的なステップを紹介します。

1. 可視性の確保から始める

存在すら把握していないAIエージェントを保護することはできません。

組織は、導入済みのエージェントの一覧を維持し、それぞれの所有者を記録し、アクセス可能なシステムやデータを特定し、実行を許可されている操作を文書化する必要があります。この一覧は、エージェントや連携先、business要件の変化に応じて常に最新の状態を保たなければなりません。

2. 最小権限の原則を徹底する

エージェントには、特定のタスクの遂行に必要な範囲のアクセス権のみを与えるべきです。

例えば、サポートチケットの要約を行うエージェントであれば、顧客データの変更や財務システムへのアクセスができないようにすべきです。認証情報や権限の範囲を狭く限定しておくことで、エージェントがミスを犯したり、操作されたり、予期しない挙動を示したりした場合の被害範囲を縮小できます。エージェント型AIにおける最小権限は、一度限りの設定作業ではなく、継続的な統制として扱う必要があります。

3. 可能な限り一時的な権限を利用する

常時付与された管理者アクセス権は、人間とマシンの双方にとって不要なリスクを生み出します。

エージェントが一時的に昇格した権限を必要とする場合、アクセス権はその特定のタスクに限って付与し、タスク終了時には自動的に取り消すべきです。特に機密性の高い操作については、追加の承認やその他のステップアップ認証を必須とすべきです。

4. 認証だけでなく振る舞いも監視する

有効なアイデンティティであっても、危険な操作を実行できてしまう場合があります。

セキュリティチームは、各エージェントにとっての「通常の活動」がどのようなものかを把握しておく必要があります。通常アクセスするシステム、取得するデータ量、使用するツール、実行する操作などです。想定外のデータエクスポートや新規システムへのアクセスといった急な逸脱が見られた場合は、調査を発動させるべきです。

何が起きたかを記録することは重要です。しかし、それが本来起こるべきことだったのかを判断することこそが、真の課題です。

5. リスクの高い意思決定には人間を関与させ続ける

大規模なデータエクスポート、金銭取引、権限変更、本番環境へのデプロイ、顧客に影響を及ぼす意思決定には、実効性のある人間による監督を組み込むべきです。

これは、すべての日常的な操作に承認を求めるという意味ではありません。統制は、セキュリティ面、財務面、あるいは業務運営面で重大な影響を及ぼしうる意思決定に焦点を当てるべきです。目的は、その操作が取り返しのつかないものになる前に、誰かがその妥当性を確認することです。

6. オフボーディングのプロセスを構築する

AIエージェントは、プロジェクトが終了しても必ずしも消滅するわけではありません。

忘れ去られたエージェントは、本来の目的が失われた後も長期間にわたって認証情報や連携設定、権限を保持し続けることがあります。組織は、使われなくなったエージェントを無効化し、その認証情報を取り消し、接続されたツールを削除し、関連する監査記録を保存するための明確なプロセスを確立すべきです。

AIエージェントは人間ではないかもしれませんが、それでも所有者、明確な責任範囲、そして完全なアイデンティティのライフサイクルを持つべき存在です。その自律性が高まるにつれて、それを取り巻くセキュリティ統制も同様に成熟させていく必要があります。