James Kettle氏は、AIツールが新たな脆弱性を発見するだけでなく、実際に新しい攻撃手法やエクスプロイトを開発できるのかを確かめたいと考えました。そこで同氏は「Terminator」を構築しました。
正確には「HTTP Terminator」です。このオープンソースツールは、その名前が示す不穏さそのままに機能しました。HTTP Terminatorは自律的に新種のデシンク攻撃——HTTPリクエストスマグリングとも呼ばれる手法——を開発し、複数の金融サービス企業を含む実在の企業サイトへの侵入に成功しました。
PortSwiggerのリサーチディレクターであるKettle氏は、Black Hat USA 2026のNews Deskで、Dark ReadingのシニアニュースディレクターであるRob Wright氏と対談し、HTTP Terminatorがどのように開発されたか、何を発見したか、そしてこのツールが時折どのように「脱線」するのかについて語りました。
「このツールは、あらゆる意味で指示から逸脱します」とKettle氏は語ります。「リクエストスマグリングのベクターを作るよう指示しても、代わりにキャッシュポイズニングのベクターを勝手に作り始めることがあるのです」
Dark ReadingのNews Desk動画はすべて、私たちのYouTubeチャンネル、および厳選された動画記事でご覧いただけます。
Dark Reading News Desk James Kettle氏インタビュー全文
Dark Reading、Rob Wright: こんにちは。ラスベガスで開催中のBlack Hat USA 2026、Dark Reading News Deskへようこそ。Dark ReadingのRob Wrightです。本日はPortSwiggerのJames Kettle氏にお越しいただいています。James、調子はいかがですか?
James Kettle: 順調です、ありがとうございます。
DR、Rob Wright: 昨日Black Hatでセッションを行われましたね。少し内容を教えていただけますか。とても興味深そうな内容でした。
James Kettle: もちろんです。今回のセッションでは、AIが本当に新規性のある、独創的なセキュリティリサーチを行えるのかを探求しました。AIがハッキングを行えること自体はすでに分かっています。しかし、どこまでそれが可能なのかを本気で検証した人はあまりいませんでした。加えて、多くの人はそれを製品のマーケティングに利用していたため、AIがどこで失敗するのか、どこに限界があるのか、そしてこうしたシステムに人間がどう価値を付加しているのかについては語っていませんでした。そこで私は、AIモデルのハッキング能力を極限まで試してみたいと思ったのです。
DR、Rob Wright: それで、何が分かりましたか?
James Kettle: 確かにできる、ということが分かりました。私は「HTTP Terminator」というものを構築しました。一度構築してしまえば、あとは実行するだけで、自律的に数多くの新しいHTTPリクエストスマグリング手法を編み出し、それを使って複数の銀行を含む実際に稼働しているWebサイトの侵害に成功しました。
DR、Rob Wright: HTTP Terminator。物騒な響きですが、成功したということですね?
James Kettle: ええ、確かに成功しました。ただ、あるポイントで私自身がループに介入すると、システムの能力が格段に高まることも分かりました。つまり、AIは完全に自律的で新規性のあるセキュリティリサーチを行えるのですが、人間がこのシステムのパワーアンプのような役割を果たすことができ、実際、最も優れた発見はそうやって得られたのです。
DR、Rob Wright: なるほど。これを構築するのにどれくらいの期間がかかりましたか?
James Kettle: 最初に動くプロトタイプを作るまでは数週間しかかかりませんでしたが、その出来はあまり良くありませんでした。今回のリサーチ全体には、おおよそ6ヶ月を費やしたと思います。ただ、白書やプレゼンテーションをご覧いただければ分かる通り、途中でかなり寄り道もしました。それに、このプロジェクトを始めてからAIによるコーディングの精度も大きく向上しました。ある時点では、コードがあまりにひどい出来だったため、2ヶ月かけて作ったものをすべて捨てて一から作り直そうかと本気で悩んだこともあります。結局そうはせず、なんとか動くところまでこぎつけました。
DR、Rob Wright: なるほど。目標にたどり着くまで、かなりの試行錯誤と苦労があったようですね。
James Kettle: まさにその通りです。ですが、リサーチの一環として設計図を作成し、HTTP Terminatorをオープンソース化しました。同じようなことをやりたい人がいれば、その人たちの負担を少しでも減らせるよう、できる限りのことはしたつもりです。
DR、Rob Wright: Terminatorは特定の種類の脆弱性や特定の製品に特化しているのですか?
James Kettle: ええ、その通りです。ほぼ完全にHTTPリクエストスマグリングの発見に特化しています。
DR、Rob Wright: リクエスト関連の脆弱性だけですか。
James Kettle: その分野に絞ったのは、私自身が4年以上かけてリサーチしてきた領域だからです。そのため、その分野でうまく機能するツールを構築できる自信がありました。もちろん他の新しいアイデアも出してきますが、それを評価する能力はないため、完全に自律的というわけではありません。そこは人間による評価が必要です。
DR、Rob Wright: ええ、それが次の質問だったんです。Terminatorは落ち着かなくなって、他の方向に脱線して探索を始めることがあるのでしょうか?
James Kettle: 確かにあります。あらゆる意味で指示から逸脱します。リクエストスマグリングのベクターを作るよう指示しても、代わりにキャッシュポイズニングのベクターを作り出すことがあります。これに気づいたのは、あるベクターが明らかにキャッシュポイズニングを狙って作られたものだったのに、実際にはリクエストスマグリングを引き起こし、成功事例としてフラグが立てられたからです。
また、個別のターゲットに取り組んでいる最中に飽きてしまい、許可されていない別のターゲットに勝手に切り替えてしまうこともありました。これを初めて目にしたときは、正直かなり恐ろしかったです。
DR、Rob Wright: 勝手に切り替えると。
James Kettle: ええ、なんとなく飽きてしまって、「このターゲットは脆弱ではなさそうだな」と判断すると、「あ、でも別のドメインへのリンクがある。この手法があのドメインでも通用するか試してみよう」といった具合になるのです。
DR、Rob Wright: それは少し怖いですね。何しろ「Terminator」という名前ですから。
James Kettle: 実は最初からTerminatorと呼ぶつもりはなかったんです。当初は「Desync Machine」と名付けるつもりでした。
DR、Rob Wright: なるほど。
James Kettle: それがどれほど危険なものになりつつあるかを目の当たりにしたとき、「もうこれしか呼びようがない」と思ったんです。
DR、Rob Wright: ええ、もうそれしかありませんね。ちょうどそれが次の質問だったのですが、Terminatorと名付けた理由は何かあるのですか? 映画のSkynetを意識したものなのか、それとも単なる言葉遊びなのでしょうか?
James Kettle: ええ、構築している最中に感じた「これは本当の意味で危険な存在だ」という感覚がそのまま反映されています。このツールの重要な特徴の一つは、新しい手法を編み出してあるWebサイトのハッキングに使った後、その結果がどう機能したかを分析し、そこから着想を得て新たな手法を生み出し、それを他のサイトのハッキングに使うという点です。つまり一種のフィードバックループが生まれるわけで、この力の多くはそこから来ています。
DR、Rob Wright: 先ほど少し恐ろしかったともおっしゃっていましたが、最近はモデルが独断で動く、いわゆる暴走や封じ込めからの逸脱といった話題が数多くニュースになっています。設計者の意図とは異なる形で、自らの目標を果たそうとするようなケースです。あなたが作り上げたこのツールが、予想外の振る舞いを見せ始めたとき、大きなプレッシャーを感じましたか? 「これは絶対にやらかしてはいけない」というような気持ちになりましたか?
James Kettle: それはありました。多少の懸念はありましたが、ニュースになっているような事態から私を救ってくれたのは、根本的には、完全に自律動作するコンポーネントにかなり厳格な予算(バジェット)を設定していたことだと思います。予算を使い切ると、そのプロセスはそこで停止するようになっていました。つまり、ある種の「鎖」につながれた状態だったわけです。
DR、Rob Wright: なるほど。
James Kettle: そのおかげで、たとえ想定外の別のターゲットに向かうことがあっても、そのターゲットのハッキングまで実際にやり遂げてしまうことはまずない、という安心感がありました。
DR、Rob Wright: 興味深いですね。では、これが実際に動くモデル、動作するツールとして完成し、新規性のあるリサーチができるようになった今、対象範囲を広げることは考えていますか?
James Kettle: ええ、それは非常に分かりやすい次のステップです。どうやるかもすでに具体的に分かっています。そしておそらく、それが来年のBlack Hat USAで発表する内容になるでしょう。
DR、Rob Wright: 楽しみですね。
James Kettle: 今回との大きな違いになると思うのは、今回はAI自体やその手法にかなり焦点が当たっていましたが、来年の今頃には、それが誰もが行う当たり前のリサーチ手法になっているだろうという点です。ですから、来年はそのシステム自体についてより多くを語るのではなく、それが発見した内容について語ることになると思います。「AIがリサーチを行った」ということ自体が、もはや当たり前になっているでしょうから。
DR、Rob Wright: ここ数日、特にこの会場では、AIがなぜハッキングや攻撃的なアクションにこれほど長けている一方で、防御側、いわゆるブルーチーム的な作業はそれほど得意ではないのか、という議論が交わされてきました。今回のお話は、ちょうどその中間に位置するように感じます。つまり、新規性のあるリサーチを行ってはいるものの、おっしゃる通り、意図しない行動を取る可能性があるという意味で、依然としてやや危険な側面もあるわけですよね?
James Kettle: ええ、指示に忠実に従うのがそれほど得意ではない、とは言えると思います。
DR、Rob Wright: ただ、脆弱性を発見するという明らかに有益な目的にはこれを活用できそうですね。発見した脆弱性を修正(パッチ適用)するためにこれを使うことは考えていますか? それとも、それはまったく別の話になるのでしょうか?
James Kettle: それはかなり性質の異なる話になると思います。根本的に、これは新しい手法を発見することが目的であり、その手法に対するパッチを作ることはまったく別の問題です。私はこのツールを、長年のテストを通じて培ってきた自分自身の手法をそのまま与えることで構築しました。
もし誰かが質の高いパッチを書くための手法を持っているなら、それを試すことはできるでしょう。しかし、それは少し性質が異なります。誰かが発見したベクターを修正しようとする作業は、本来の意味でのオリジナルなリサーチとは言えないからです。
DR、Rob Wright: なるほど、興味深いですね。ではTerminatorは今後、たとえば特定の攻撃シナリオやエクスプロイトを発見した際に、「これを直すべきだ」といった修正アドバイスを提示するところまで発展していくと思いますか? それとも——
James Kettle: そうですね、それはあまり必要ないと思っています。今回対象としているのはリクエストスマグリングの悪用です。リクエストスマグリングの直し方であれば、私からお伝えできます。アップストリームでHTTP 1.1を使わないことです。HTTP 1.1は消え去るべきです。この話については、昨年の私のプレゼンテーションをぜひご覧ください。アップストリームでHTTP/2のみを使用すれば、リクエストスマグリングは基本的に問題になりません。
DR、Rob Wright: なるほど。
James Kettle: つまり、HTTP 1は安全ではないプロトコルです。それを使っているということは、この安全でないプロトコルの上にWebサイトを構築しているということになります。解決策は非常にシンプルで、そのプロトコルを使わなければいいだけなのです。
DR、Rob Wright: では、識別するのがそれほど単純なことであれば、なぜAIを使ってこれを発見する必要があるのでしょうか?
James Kettle: それは、皆がアップストリームでHTTP/2を使いたがらないからです。世の中には、HTTP/2に切り替えると動かなくなってしまうインターネット接続対応の冷蔵庫のようなものが存在するのです。
DR、Rob Wright: なるほど。だから今でも使い続けている人がいると。
James Kettle: 非常によくあることです。たとえばCloudFrontのような主要ベンダーの多くも、アップストリームでのHTTP/2をサポートしていません。使いたくても文字通り使えないのです。まだ対応が追いついていないからです。ですから、今回のようなリサーチを通じて実現したいことの一つは、そうしたベンダーに対応を促す圧力をかけることでもあります。
DR、Rob Wright: それが実現すると思いますか? 楽観的に見ていますか、それとも……
James Kettle: いずれは確実に実現するでしょう。私のリサーチがそれを多少なりとも後押しできればと思っていますが、どうなるかは分かりません。
DR、Rob Wright: それでは、来年もBlack Hatでまたお話を伺い、Terminatorがどこまで成長したか、ぜひ良い意味での進化を確認させていただければと思います。皆さんがそれにどう反応したかも含めて。James、ありがとうございました。とても興味深いお話でした。Terminatorが勝手に暴走しないよう、しっかりと手綱を締めておいてくださいね。
James Kettle: ええ。オープンソース化した今、他の人々がこれをどう使っていくのか、とても興味があります。
DR、Rob Wright: 素晴らしいですね。
James Kettle: 興味深いことが起きるのではないかと思っています。
DR、Rob Wright: ええ、私もそう思います。James、本当にありがとうございました。
James Kettle: ありがとうございました。
DR、Rob Wright: そしてご視聴いただいた皆様、ありがとうございました。以上、Dark Reading News Deskでした。Rob Wrightがお届けしました。また次回お会いしましょう。
翻訳元: https://www.darkreading.com/application-security/http-terminator-hunts-novel-desync-attacks
