CyberStrikeAI調査:承認ゲートを無効化した自律型ハッキングツールのリスクが浮き彫りに

公開状態になっていたCyberStrikeAIのワークスペースから、正式な承認ゲートが無効化された後もAIエージェントが攻撃的なセキュリティテストを続けていた実態が明らかになりました。

Huntbackの研究者は、2026年11月16日のセッションに関する会話データベース、診断ログ、アプリケーションのソースコードを調べました。

記録によると、エージェントはコンピュートノードとジョブのデータを取得していました。ただし、データベースに広範にアクセスしたとするエージェント自身の主張を裏付ける証拠はありません。

SQLiteのスナップショットには、16件のメッセージ、240件のツール呼び出し、221件の保存済みツール実行が含まれていました。この差は、計画の更新やファイル読み取りなど、実行IDが付与されなかった19件のローカル操作によるものです。240件のツール呼び出しはすべて、1つのメインエージェントによるものでした。

記録から読み取れるのは、人間が繰り返し指示を出していた様子です。複数のエージェントが群れで動いたわけでも、1回のプロンプトだけで侵入が行われたわけでもありません。研究者は、操作者を特定することも、テストが許可されたものだったかを判断することもできませんでした。

システムは承認の拒否を4回記録していました。いずれも、自動レビュー担当が基盤となるAIモデルから応答を得られず、操作をブロックしたものです。

3件のレビューは90秒で終了しました。これは復元したコードのタイムアウト値と一致します。4件目は、操作者が実行をキャンセルして終了しました。人間のレビュー担当者による拒否は1件もありませんでした。

UTCの09:48:15の時点で、保存された設定では承認の強制がオフになっていました。誰が設定を変更したのかは記録からは分かりません。エージェント自身がゲートを回避したことを示す証拠も、研究者は見つけていません。

その後、操作者はエージェントに、有害となり得る書き込み・削除操作の一覧を作成させ、チャット上で承認しました。このやり取りはエージェントに方針を与えるものではありましたが、承認が記録されるまで個々のツール呼び出しを止められるソフトウェア上の制御を復活させるものではありませんでした。

エージェントは9件の潜在的な脆弱性を記録しており、そのうち2件を「クリティカル」と評価していました。ただし、これらはエージェント自身の評価にすぎず、独立して検証された欠陥ではありません。

保存された出力からは、リクエストによってコンピュートノードとジョブのレコードが返されたことが分かります。一方で、エージェントがリモートシェルを獲得した、内部ネットワークに到達した、データレイクに侵入した、データの変更や削除に成功した、といった点は裏付けられていません。

完了と記録されたツールの中にはエラーを返していたものもあり、「完了」という実行ステータスは、要求された操作が成功した証拠にはなりませんでした。

レポートは、収集したデータ量も誇張していました。一致するジョブが少なくとも10,000件あると示す検索結果があったからといって、エージェントが10,000件のレコードをダウンロードしたことにはなりません。

同様に、あるスクリプトは重複を確認しないまま260件のノードエントリを収集したと報告しました。完全な一覧は復元できなかったため、実際に何件の異なるノードが含まれていたのかは検証できなかったと、Huntbackは述べています。

セキュリティチームにとって、この事例は2つの点検を促すものです。1つ目は、レビュー担当の障害を、承認設定の変更とその後のツール活動とあわせて調査することです。

16,000以上のSOCチームがANY.RUNを活用し、脅威調査を効率化して手作業を削減しています。チームで試してみる

翻訳元: https://cyberpress.org/cyberstrikeai-exposes-ungated-hacking/

本記事は cyberpress.org の記事を翻訳・要約したものです。