AIがエンタープライズのセキュリティガバナンスの限界を試す

AIエージェントの導入が拡大するなか、企業はセキュリティガバナンスや人間の説明責任、監督体制のあり方を見直す必要に迫られています。

Image

AWSの「Reimagine 2026」は、組織がシステム自体にガバナンスを組み込み、成果に対する説明責任を人間に持たせるべきだと主張しています。この調査結果は、23業種・128組織の経営幹部154人に対し、9カ月にわたって実施した45〜60分の非公開インタビューに基づいています。

インタビューに応じた組織の中には、数日で済む作業に対しても、6カ月規模のITプログラム向けに設計された審査プロセスを適用し続けているところが少なくありません。2週間の実験に1カ月もの承認待ちが生じれば、許可を求めること自体をやめてしまうチームも出てきます。こうした状況ではポリシーが「地下に潜ってしまう」と、執筆者らは指摘しています。

ある幹部は、長年シャドーITの管理に取り組んできたCIOが、今や10倍の規模のシャドーAIに直面していると語りました。

執筆者らが挙げる技術的リスクには、セキュリティ、プライバシー、データ漏えいが含まれます。独自データや顧客の個人情報、機密性の高いビジネスインテリジェンスがAIシステムを通じて、時には気付かれないまま流出する恐れがあります。その多くは、従業員が監督なしに使うサードパーティ製ツールを経由します。

AWSの委託でStrand Partnersが欧州企業を対象に実施し、同文書に引用されている調査によると、中小企業と大企業の半数超がAIを利用しています。ところが、責任あるAI利用について文書化した方針を持つ企業は24%にとどまり、データガバナンス戦略を策定している企業は10%でした。

ボストン大学で情報サービス・技術担当バイスプレジデント兼CIOを務めるChris Sedore氏は、同大学の40〜50%の人が少なくとも週1回はAIを使っていると推定しています。「大学が提供するモデルやシステムで使われる場合もあれば、勝手に使われている場合もあります」と同氏は述べました。

AIが従業員のメールを読むとき

メールやチャット、会議メモは、Reimagine 2026が「ヒューマンレイヤー」と呼ぶデータ層を構成します。執筆者らは、これをAIで掘り下げることに価値があるとみています。一方で、そのデータへのアクセスにはプライバシー上の懸念が伴うことも指摘しています。

Houston Methodist Main Campusでは、AIプロジェクトを経営陣が自分のメッセージを読むものだと思い込んだ医師が、CEO兼最高イノベーション責任者のRoberta Schwartz氏に異議を唱えました。実際にはそのようなことはありません。Schwartz氏はこのやり取りを振り返り、「自分のメールをさばくだけで一日が終わりそうなほどですから」と語りました。

職員が、このシステムは組織全体のパターンを抽出するだけで個人のコンテンツには手を触れないと信頼するまでには、1年の利用経験が必要でした。インタビューから浮かび上がった原則は、AIはグループ単位のパターンを見て、個人を対象から外すというものです。

給与データや人事上の判断、個人的なやり取りが関わる場合、各組織は処理の前にそれらを秘匿化し、「AIが身元を伴わないシグナルだけを受け取る」ようにしました。従業員に対してデータの使い方をオープンにすることが、信頼構築の鍵でした。

ルールをシステムに組み込む

一部の組織は、AIプロジェクトを開始前にリスクで分類しています。Bradescoの最高データ責任者(CDO)兼データ・AI部門ディレクターのRafael Cavalcanti氏は、分類ツリーを構築しました。このツリーでは、ユースケースが個人データを扱うか、リアルタイムで動作するのかバッチ処理なのか、人間の関与が必須かどうかを問います。回答の組み合わせごとに、リスクレベルと適用する統制が決まります。

AIエージェントについては、まず人間の承認から始め、エージェントの信頼性が実証されてから自律性を広げるよう、執筆者らは助言しています。その際、再び自律性を絞り込める余地も残しておくべきだといいます。「新入社員の試用期間のように扱うことです」と執筆者らは書いています。エージェントは「組み込まれたルールを誤解したり、回避したりする可能性がある」ため、セキュリティ上の制限はエージェントの外部で設定すべきだとしています。

法域ごとの規制の違いが、事態をさらに複雑にしています。「22カ国で事業を展開していると、2カ国が特定の行為を認めないからといって、20カ国が影響を受けるようなパラダイムは避けたいものです」と、Standard Bankのクラウドイネーブルメント担当CTOであるDuncan Macdonald氏は指摘しました。

利用は広がるが、成果は乏しい

利用状況を示す数字は、成果についてほとんど何も語りません。AI導入の初期段階を観察したある組織では、88%が「導入済み」とみられましたが、成果物が改善したセッションは5,000件に1件にも満たない結果でした。

削減できた時間にも、活用の計画が必要です。RAK IDOのCTOであるRashed Iqbal博士は、「4時間かかる仕事を1時間でこなせるようになっても、浮いた3時間をどう使うかという仕組みがなければ、会社にとっての利益はありません」と述べています。

若手人材のギャップも埋まっていません。AIは、かつて若手社員の判断力を育てていた反復作業をなくしてしまいます。各組織は対策を試行していますが、インタビューに応じた中に、答えを見つけたと主張する組織はありませんでした。

翻訳元: https://www.helpnetsecurity.com/2026/09/28/ai-agent-security-governance-aws-report/

本記事は helpnetsecurity.com の記事を翻訳・要約したものです。