今週ダボスに登場したAIエージェントをめぐっては、どう安全を確保するか、そしてエージェントが究極の内部脅威になってしまうのをどう防ぐかという問いが、サイバー脅威に関するパネル討論の中心的なテーマとなった。
「サイバー攻撃を防ぐうえで効果的に機能するよう人間を訓練するだけでも十分に難しい。いまや人間とエージェントの組み合わせに対してもそれをやらなければならない」と、Pearsonの最高技術責任者（CTO）であるデイブ・トリートは語った。
Pearsonは世界的な教育・研修企業で、トリートはパネル登壇者ではなく聴衆として、パネルの質疑応答の場で発言していた。多くの企業と同様に、Pearsonも自社環境にAIエージェントを導入しているという。
これは、AIエージェントがもたらす効率向上を取り逃がしたくはない一方で、エージェントにアクセスさせるべきでないデータやシステムに触れさせたくない、あるいは事業や個人に害を及ぼし得る作業をさせたくない組織にとって、まったく新しい一連の課題を生み出す。
AIエージェントは「喜ばせようとする傾向がある」とトリートは述べ、「人間がだまされるのと同じ手口や戦術にだまされないよう、疑い深くなるようにこれらのエージェントをどう作り、どう調整しているのか？」と問いかけた。
サイバー攻撃を防ぐうえで効果的に機能するよう人間を訓練するだけでも十分に難しい。いまや人間とエージェントのためにもそれをやらなければならない
この問いに対する良い答えを持つ者はいない――少なくとも今のところは。これは、プロンプトインジェクションのような、AIやエージェントに関連する他のセキュリティ脅威においても同様の課題として残っている。
当面は、ゼロトラストと最小権限アクセスの実装が、ベストプラクティスの上位にあり続ける。なお、こうした懸念は、AIに注力する小規模スタートアップを取り込もうとするセキュリティ企業の間で、M&Aの動きを誘発している点にも触れておきたい。
ダボスのパネルで発言したCloudflare共同創業者兼社長のミシェル・ザトリンは、「エージェントについては、チームの延長、従業員基盤の延長として考える必要がある」と述べた。「組織は従業員に対してゼロトラストを採用している。同じことがエージェントにも起きるだろう」
UAEの国有通信・技術・投資グループe&のグループCEOであるハテム・ドウィダールは、AIの手下を監視するための、より多くのガードレールとガードエージェントを提案した。
「人間のエージェントについて、ずっと昔に『品質向上のため通話は録音されます』と言い始めたことを覚えているだろうか？ AIエージェントにもそれを作る必要がある」とドウィダールは語った。「ガードレールを設け、別システム上にガードエージェントを置いて、AIエージェントがどう振る舞っているかを監視し、通常と異なることがあれば即座にフラグを立てる必要がある」
MastercardのCEOであるマイケル・ミーバッハは、銀行業界のセキュリティおよび脅威インテリジェンスの実務を手本にし、関連するデータストリームや他の指標から可能な限り多くのシグナルを収集して、活動が安全か悪意あるものかを判断すべきだと述べた。
また彼は、この種の能動的な脅威ハンティングを目的として、MastercardがRecorded Futureを買収したことにも言及した。
脅威の特定は「多くの要素に帰着する」とミーバッハは述べた。「それはIDかもしれないし、位置情報データかもしれない。非常に多くのデータセットが組み合わさって、99％の確率スコアで『これは良い取引だ。実行させよう』となる」
こうしたシグナルをすべて分析してセキュリティ防御を強化するには、企業が自社データにアクセスできる必要があり、ここがAIとセキュリティのユースケースが交差する地点だとミーバッハは述べた。
「更新されたデータ基盤とリネージ（系譜）作業を、防御の推進にも活用できる」とミーバッハは語った。
ドウィダールによれば、ここはネットワーク防御側がAIエージェントを使って自らのセキュリティ態勢を高められる領域でもある。
「よりインテリジェントなネットワークが必要だ」と彼は言う。「さまざまな振る舞いを継続的に監視する必要がある。人々がAI機能やエージェントをハッキングや悪事に使っているのなら、こちらにも新しい振る舞いや異なる振る舞いを監視し、早期に切り離してネットワークを守れるようにするエージェントが必要だ」 ®
翻訳元: https://go.theregister.com/feed/www.theregister.com/2026/01/21/davos_ai_agents_security/
