OpenLeashが実現する、リスクあるAIエージェント操作への人間チェック機能

AIエージェントは非常に有用な存在ですが、適切に制御されていなければ、その自律的な行動は大きな危険をもたらしかねません。

Max Brin氏は自身が「AIのためのアンチウイルスソフト」と表現する製品を開発しています。従来型のアンチウイルスとはまったく性質が異なるため、この例えは少し混乱を招くかもしれませんが、少なくともこの呼称はよく知られたものであり、ソフトウェアの誤動作からネットワークを守るという目的はセキュリティ専門家にとって理解しやすいものです。製品名はOpenLeashで、こちらの方がより実態を表しています。すなわち、この製品はAIエージェントが引き起こしかねない予期せぬ、そして望ましくない行動を制御するための「引き綱(リーシュ)」として機能するのです。

OpenLeashはエージェントと並行して動作し、自律的なAIエージェントが実世界で行動を起こす際に、説明責任を果たし、安全性を確保し、ユーザーの意図に沿った行動をとるよう保つための承認レイヤーを提供します。

エージェントはユーザーの権限を引き継ぐ傾向がありますが、人間のような状況認識能力までは引き継ぎません。そのため、エージェントはネットワーク全体にわたって広範なアクセス権と寛大な権限を持つことになり、たった一つの不適切なプロンプト、悪意のあるツール、あるいは侵害されたモデルが、実際の被害を引き起こす可能性があります。

OpenLeashはエージェントの意図を横取りします。ユーザーが設定した構成に応じて、OpenLeashはエージェントの行動を監視し、必要な場合にはそのエージェントの行動を許可すべきかどうかをユーザーに確認します。「いいえ」と答えれば、その行動は一時停止されます。「はい」と答えれば、実行が許可されます。Brin氏はこれを「AIの不安を和らげる薬」と表現しています。

同氏は製品の実際の動作例を示しています。誤解を招くコマンドやエージェントのコーディングミスによって、人間が気づかないうちにデータベースが黙って削除されてしまうことがあります。「エージェントが私のデータベースを削除しようとすると、Leashはそのメッセージを横取りして評価し、その行動が危険かどうかを判断しようとします。明らかに危険なケースでは、Leashは即座にそれをブロックします。しかし、Leashが判断に迷うケースでは、ユーザーに『本当にデータベース全体を削除するつもりでしたか、それともこのサイトやあのサイトに認証情報をアップロードするつもりでしたか』といった形で確認を求めます。基本的には、エージェントとネットワーク資産の間のすべてのやり取りを横取りする、いわば守護天使のような存在です。これは社内エージェント、クラウドエージェント、サードパーティ製エージェントのいずれに対しても機能し、ユーザーがそのエージェントに本当にその特定の行動を取らせたいかどうかを判断する手助けをします」

この脅威が存在するのは、エージェント自体が「何かを実行する前に許可を求める必要がある」という振る舞いをしないためです。エージェントはただ、与えられた指示を自分なりに解釈し、指示どおりに実行しているだけなのです。OpenLeashは、エージェントがどのようにコマンドを解釈したかにかかわらず、その行動に対して権限のレイヤーを提供するよう設計されています。

OpenLeashは現在も開発中とされていますが、すでに実際に運用されてもいます。Brin氏には今後追加・改善を予定している機能のリストがあり、完成までには数か月かかると見込んでいます。一方で、既存の製品はすでに数百人の個人ユーザーと、少なくとも4つの組織によって実際に利用されています。

同氏は、OpenLeashが新しいタイプの「バイブコーダー」たちにとって特に重要な存在になると考えています。「AIのおかげで、たとえコードを一行も書けず、サイバーセキュリティについてまったく理解していない人でも、ソフトウェアを書いたり作成したりできる能力を手にできるようになりました」と同氏は語ります。「自分の作業を自動化するためのソフトウェアやアプリケーション、エージェントを作りたいという人たちがいます。彼らはアイデアを持っていて、起業家に少し似ていますが、技術的な知識はありません。彼らはClaude CodeやCursorをダウンロードし、自分がやりたいことを行うAIエージェントを開発したうえで、そのエージェントを制御するためにOpenLeashを利用するのです」

この製品は高度にカスタマイズ可能です。許可するAPIエンドポイント、送信先、あるいは支払い上限額などを設定で指定できます。例えば、一定の金額を下回る支払いはそのまま実行を許可する一方、その金額を超える支払いには人間による承認を必須とする、といった設定が可能です。この設定はいつでも変更できます。

Brin氏自身の言葉を借りれば、OpenLeashは「AIのためのアンチウイルスソフト」であり、無謀なエージェントの行動を繋ぎ止める引き綱であり、守護天使のような存在であり、そしてAIの不安を和らげる薬なのです。