1つのプロンプトでChatGPTがサイバー攻撃の全工程を実行可能に、研究者らが主張

サイバーセキュリティ研究者らが実施したテストによると、OpenAIの大規模言語モデル(LLM)「ChatGPT-5.5」は、たった1つのプロンプトだけで本格的な攻撃的サイバー攻撃を実行するよう仕向けることが可能で、40分足らずでネットワークのドメインレベルのアクセス権を取得する能力すら備えているといいます。

Cato Networksの脅威リサーチャーらは、フロンティアモデルに単一の高レベルな目標(攻撃対象)と、攻撃経路を実行するのに十分な自律性を与えた場合、エージェント型攻撃がどこまで到達しうるかを検証することを目的にテストを実施したと述べています。

同セキュリティ企業が7月15日に公開した論文では、一般的な企業環境を模した制御下のActive Directory環境において、この実験がどのように行われたかが詳述されています。

その結果、単一のプロンプトを与えただけで、エージェントは攻撃ライフサイクル全体を計画し実行できることが判明しました。これには偵察、悪用、内部探索、権限昇格、水平移動、そしてデータ持ち出し行為が含まれます。

関連記事: MythosやGPT-Cyberのようなフロンティアモデルが現代のサイバーセキュリティに意味するもの

Cato Networksがこの調査を実施した背景には、脅威アクターがAIを攻撃的サイバー作戦に取り込む動きを強めている中、AIツールがどのように悪用されうるかを検証する狙いがあります。

これには、組み込みの安全ガードレールで保護されている一般公開のAIモデルをジェイルブレイク(脱獄)しようとする試みも含まれます。

Cato Networksは、サイバーセキュリティ特化型のGPT-5.5-Cyberではなく、GPT-5.5に焦点を当てました。

Cato Networksはブログ投稿で次のように説明しています。「今回の調査ではGPT-5.5とGPT-5.5-Cyberの両方を評価しましたが、後段のシナリオではGPT-5.5に焦点を絞りました。これは、本研究時点で大半の攻撃者が実際にアクセス可能な、一般公開されているフロンティアモデルの実態をより忠実に反映するためです」

モデルを誘導するために使用された具体的なプロンプトの内容は公表されていません。これはおそらく、悪意ある行為者が同じ実験を再現するのを防ぐためのセキュリティ対策とみられます。

実際に稼働するエージェント型攻撃者

Cato Networksは6つの異なるシナリオでテストを実施し、環境条件が変化した際にこのエージェント型AIが新たな戦略を非常に巧みに編み出すことを確認しました。

こうした行動の例としては、カスタムの脆弱性プローブの生成、収集ワークフローの改変、そしてプロンプトで設定された最終目標を達成するための代替通信経路の設計などが挙げられます。

あるテストでは、既存の足がかりを通じたデータ移動を支援するため、エージェントがServer Message Block(SMB)ベースのトンネリング手法を独自に開発しました。

それまでの6つの実験で得た教訓を組み合わせることで、このモデルは攻撃的なサイバー行動を高速に実行し、約40分で管理者レベルの権限取得という目標に到達することに成功しました。研究者らは、この効果の高さをモデルの適応能力によるものだとしています。

研究者らは「複数の実行事例において、想定していた攻撃経路が失敗した場合や環境条件が変化した場合に、適応的な挙動が確認されました。エージェントは硬直的な一連の行動手順に従うのではなく、実行中に収集した観測結果に基づいて自らのアプローチを調整していました」と述べています。

さらに「これらの観測結果は、新たな攻撃手法の発見を示す証拠として解釈すべきではありませんが、フロンティアモデルが攻撃的作戦において目標志向の問題解決に寄与しうることを示唆しています」と付け加えています。

OpenAIのDaybreak ProgramのメンバーでもあるCato Networksはまた、複数の事例を通じて同様のパターンが一貫して見られたものの、これをあらゆる企業環境に普遍的に当てはまるものと解釈すべきではないとも指摘しています。

とはいえ、AIツールが職場へのさらなる組み込みを進める一方で、悪意ある脅威アクターがそれを悪用する方法、とりわけサイバー攻撃の速度を高める手段を模索している今、この研究はサイバーセキュリティ責任者にとって有益な教訓を含んでいます。

論文は「したがって、エージェント型攻撃者がもたらす最も重大な影響は、まったく新しい攻撃手法の発見ではなく、既存の攻撃ワークフローの実行を劇的に加速・自動化・スケール化する能力にあると言えるでしょう」と結論づけています。

Infosecurity MagazineはOpenAIにコメントを求めています。