JetStream Securityは、侵害されたAIエージェントを、他のAI運用に影響を与えることなくオンデマンドで停止できる「AI Kill Switch」をリリースしたと発表しました。このAIエージェント向けの新しいコントロールプレーンは、不調に陥ったり過剰な支出を始めたり、コンプライアンス上の理由でオフラインにする必要が生じたりした単一のエージェントを、他のエージェントに影響を与えずに停止できないという課題を解決するものです。
JetStreamのAI Kill Switchは、多くの企業がこれまで直視してこなかった問題を解決します。それは、AIシステムがますます高度化する中で、直近のOpenAI/Hugging Faceの事案が示す通り、予測不能な形で目標達成を追求する過程で重大な巻き添え被害を引き起こしかねないという点です。
こうした新たな現実を踏まえると、あらゆる組織はAIシステムを継続的に監視し、キルスイッチを使って悪意ある動作を的確に停止できる能力を備える必要があります。
JetStream Securityの最高経営責任者(CEO)であるRaj Rajamani氏は、次のように述べています。「本番システム全体に影響を与えずに暴走したAIシステムを止められないことが、企業がAI導入をためらう主な理由の一つです。本番規模でAIを稼働させている組織はわずか17%にとどまっており、その足かせとなっているのはモデルの性能ではなく、信頼と制御の欠如です。AI Kill Switch™というフェイルセーフ機能は、率直に言って顧客の不安を軽減します。あるシステムに問題が生じても、それだけを止めれば他はすべて稼働し続けられるのです」
この精密な制御を実現するため、JetStreamはアクションを呼び出した個人、それを実行するエージェントIDの正体、AI Blueprintおよび過去の行動から推測されるシステムの意図、そしてそのエージェントに責任を持つ製品担当者を総合的に照合します。アクセス権限はJetStream AI Blueprintsによってマッピングされているため、すべてのエージェント動作は責任者まで追跡可能となり、Kill Switchは正確なアクセス権を取り消し、該当するコンポーネントのみをピンポイントで一度の操作で停止できます。
各エージェントの権限はそれぞれ固有のアクセス権限に紐づいているため、AI Kill Switchは対象の単一エージェントのみに作用し、これらの操作は取り消しも可能です。JetStreamはさらに、すべての関係者によるすべての操作をタイムスタンプ付きで記録することで信頼構築を後押しし、組織がインシデント後のレビューで根拠を示せるようにしています。
この記録はインシデント対応そのものにとどまらない意味を持ちます。取締役会や監査人、そして拡大を続けるAI規制の枠組みがますます求めるようになっているもの、すなわち「人間がオンデマンドでAIシステムを停止できるという証拠」と「誰がなぜ停止させたのかを示す明確な記録」を企業にもたらすのです。
「規制当局や標準化団体は、多くの企業がまだ追いついていないある共通認識に静かに至っています。それは、AIエージェントを止められないなら、それを制御しているとは言えないということです。EU AI Actは現在、高リスクシステムを安全に停止させる手段を義務付けており、NIST AI Risk Management FrameworkとISO/IEC 42001の両方も、組織が承認された範囲を逸脱して動作するAIを切り離す、あるいは停止させる能力を備えていることを求めています。停止ボタンはもはや『あれば望ましい』機能ではなく、AIを統治できているかどうかとAIに統治されてしまっているかどうかを分ける境界線なのです」
翻訳元: https://www.helpnetsecurity.com/2026/07/27/jetstream-ai-kill-switch/
