組織が「非人間インサイダーリスク」を生み出す4つの要因

AIエージェントが業務のあらゆる場面に組み込まれるようになるにつれ、これらは新たなカテゴリーのインサイダーリスクも生み出しつつあります。従来型のインサイダーとは異なり、こうした非人間のIDはマシン並みの速度で行動し、継続的に稼働し、人間による直接の監視なしに複数のシステムにアクセスできてしまいます。

このような危険は、単一の明白なセキュリティ上の不備から生じることはほとんどありません。むしろ、いくつもの弱点が重なり合うことで発生します。ここでは、組織が意図せず「非人間インサイダーリスク」を生み出してしまう、よくある4つの要因を紹介します。

1. アクセス権限の永続化

長期間有効なAPIキー、OAuthトークン、サービスアカウント、そして常設された特権により、エージェントは必要がなくなった後も継続的にアクセスできる状態が保たれてしまいます。

2. 過剰な権限付与

多くのエージェントは、実際のタスクに必要な範囲をはるかに超えて、読み取り、書き込み、変更、承認、削除、デプロイといった操作を行える状態になっています。

3. 信頼できない入力

エージェントは、メール、サポートチケット、文書、チャットでのやり取り、ウェブサイト、リポジトリなどから情報を取り込みます。攻撃者がこうした入力に影響を及ぼせるのであれば、エージェントの判断そのものにも影響を与えられる可能性があります。

4. 行動監視の限界

多くの組織は、AIエージェントが何らかの操作を実行したこと自体は把握できます。しかし、その操作が本当に妥当だったかどうかを判断できる組織はごくわずかです。ログは何が起きたかを教えてくれますが、それが起きるべきことだったかどうかを理解するのは、まったく別の課題なのです。

KnowBe4のCISOアドバイザーであるErich Kron氏によるブログ全文をお読みいただけます。第2弾では、セキュリティチームが安全性を保つために取るべき対策についてErich氏が明らかにする予定ですので、ご期待ください。