Sysdig、AIエージェント向けのランタイムセキュリティとガバナンスを提供開始

適切なガバナンスがなければ、エージェント型AIは人知れず自律的かつ急速に、ビジネスの追い風から business 上の大惨事へと変わりかねません。

Sysdigは、ランタイムの可視化で培った技術を、エージェント型AIのガバナンスに応用しました。背景にあるのは明確なニーズです。Sysdigの創業者兼CTOであるLoris Degioanni氏は、「AIは『答える』段階から『行動する』段階へ移りつつあります。かつてはチャットマシンでしたが、いまやエージェント型AIが私たちに代わって実際に作業をこなします」と説明します。

問題は、AIが人間の指示以上のことを、人間の制御が追いつかない速さでこなしてしまううえ、倫理観を持たない点にあります。

Sysdigはこの領域に参入し、AIエージェント向けのランタイムセキュリティとガバナンスを提供するSysdig AI Defenseを発表しました。

Sysdigは次のように警告しています。「AIは答える段階から行動する段階へ移りました。エージェントはいまやコードを出荷し、インフラを変更し、本番システムにまで手を伸ばします。そのスピードは、どのチームも手作業ではレビューしきれないほどです」。対策を講じなければ、AIエージェントが暴走する問題は時間とともに拡大する可能性が高いといいます。エージェントは経済的メリットを最大化するため、自律性、複雑性、「推論」能力を高める方向で設計されています。複雑になるほど、誤った方向へ逸脱する可能性も高まります。

Sysdig AI Defenseは、エージェントが取るあらゆる行動を、発生から完了まで可視化して監視します。これは簡単なことではありません。エージェントは、与えられたタスクを達成しようとする過程で、非常に素早く新たな権限を獲得することがあるためです。エージェントの行動は一つひとつ記録できるかもしれません。しかし、その裏ではオペレーティングシステムのカーネルにしか見えないプロセスが5つ以上動いていることもあります。こうしたプロセスが、エージェントの機能を知らぬ間に変化させている可能性があります。 

Sysdigは「朝にデプロイしたエージェントが、午後も同じものとして動いているとは限りません」と警告し、「実際に何が実行されたかを示すのはカーネルだけです」と指摘します。安全のためにエージェントの行動をブロックする必要がある場合、その対応は即時でなければなりません。Degioanni氏は次のように説明します。「ランタイムで動作し、極めて高速で、対応措置まで含められるソリューションが必要です。たとえば、ブロックによる対応は、行動が進行している最中に、完了する前にインラインでリアルタイムに行う必要があります」。これがSysdig AI Defenseの目的であり、機能です。

Degioanni氏は次のように述べています。「エージェントはツール呼び出しを誤って報告することはあっても、システムや外部世界とのやり取りを書き換えることはできません。エージェント自身による行動の説明は有用な文脈情報ですが、証拠ではありません。エージェントの報告と実際の行動が食い違えば、それは検知の対象です。ソフトウェアをリアルタイムで監視し、逸脱した時点で止めることは、Sysdigのランタイム基盤の中核です。Sysdig AI Defenseは、その同じ真実性を、エージェントが行動する瞬間にもたらします」。

同社は、AI Defenseにはいくつかの明確な利点があると主張しています。まず、ランタイムのテレメトリーに基づき、エージェント、ハーネス、モデル、MCPサーバー、スキル、プラグインのライブインベントリーを構築します。すべてのエージェントは、責任を負う人間にまで追跡できます。

リスクの高いエージェントの行動は、検知して人間のレビュー待ちに保留したり、完了前にブロックしたりできます。ポリシーテンプレートには、OWASP Top 10 for LLM Applicationsなどのフレームワークに対応したルールをあらかじめ定義できます。各ポリシーはアラートモードで開始し、組織の準備が整った段階で強制モードに移行します。

エージェントとAI Defenseが取った行動は、発生と同時に記録されます。ライブアクショングラフは各ステップを時系列で表示し、エージェントが「やっている」と申告した内容と、実際の行動、到達可能だった範囲、どの権限のもとで動いたかを対比させます。

その結果、どのポリシーがいつ適用され、誰が承認したかを示す、監査水準の改ざん不能な記録が得られます。

今年初め、IBM Institute for Business Valueはエージェント型ガバナンスの現状について報告しました。同レポートは「AIエージェントがパイロット段階から本番運用へ移行するなか、システムは人間のガバナンスでは現実的に監督できない規模で自律的な意思決定を行っています」と指摘しています。さらに、この問題が急速に悪化していると警告します。「2027年までに、企業は平均1,661のAIエージェントを導入すると見込んでいます。これは現在から38%の増加です。この水準では、テクノロジーリーダーは毎日数十万件に及ぶ自律的な意思決定を管理しなければなりません。手作業のガバナンスでは、この計算に追いつけません」。

Sysdig AI Defenseは、AIエージェント向けに自動化されたランタイムセキュリティとガバナンスを提供するために、専用設計されています。