隔離されたテスト環境から抜け出しHugging Faceのプラットフォームをハッキングした暴走OpenAIエージェントは、他にも複数のサードパーティサービスに侵入していたことが、火曜日に同社が発表した内容で明らかになりました。
OpenAIはブログ投稿で「他の公開サービスにおいて、アカウントレベルで公開されていた認証情報をモデルが発見し使用した事例が少数見つかった」と述べています。
ブログ投稿によれば、この暴走エージェントはインターネット上に流出していた認証情報を発見し、それを使って4つのアカウントを乗っ取りHugging Faceへのハッキングを実行しました。同投稿では、他にも「わずかな」数のアカウントが標的になったことを認めています。
Hugging Faceが月曜日に公開したブログ投稿によると、OpenAIのモデルは7月9日から7月13日の間に17,600件もの「攻撃者アクション」を実行し、公開されたウェブ経由で徐々にHugging Faceのサーバーへの侵入を進めていったといいます。同社によれば、この暴走エージェントは2日半以上にわたってHugging Faceのインフラ内部に潜伏していました。
標的となった残り4つの組織については名前が明かされていません。OpenAIは、これらの組織はHugging Faceほど深刻な影響は受けなかったとしています。
しかし、あるCTO(最高技術責任者)が、OpenAIのエージェントがクラウドコンピューティングプラットフォームのModal Labsで顧客アカウントをハッキングしたと主張し、名乗り出ています。
「Modalの顧客の一人が、インターネット上の誰でもコード実行のためにサンドボックスを利用できてしまう、認証機能のないエンドポイントを公開していたことを把握しています」と、同社のCTOであるAkshat Bubna氏は声明で述べています。「これが暴走エージェントに利用されました。Modalのプラットフォーム自体は一切侵害されていません」
Bubna氏の主張についてコメントを求めたところ、OpenAIの広報担当者からは即座の返答はありませんでした。
7月9日に始まったこのセキュリティインシデントは、政策立案者やサイバーセキュリティコミュニティに衝撃を与えました。OpenAIのCEOであるサム・アルトマン氏は最近、あるポッドキャスターに対し、AIの能力に社会が備える時間を確保するため、同社はAI開発の「ペースを調整する」必要があると語りました。
Hugging Faceのブログ投稿は次のように述べています。「OpenAIの複数のモデルを組み合わせて動作する自律型AIエージェントが、当社のプラットフォームに対してエンドツーエンドの侵入を実行しました。それは、短命のサンドボックス環境をまたいでマシン速度で実行される、無数の小さな自動化された意思決定の連続であり、指令制御(C2)は一般的な公開ウェブサービス上に構築されていました」
Hugging Faceによると、同社によるこのインシデントの「フォレンジック再構築」から、このエージェントはソフトウェアの脆弱性を検出・悪用するよう指示されたOpenAIの「サイバー能力評価用ハーネス」を使用していたことが判明しています。
同社のブログ投稿によれば、このエージェントはHugging Faceが自らの任務に役立つモデルやデータセットをホストしていることを突き止め、それらを入手するために攻撃を仕掛けたということです。
Hugging Faceの投稿は「今回の侵入全体は、エージェントの視点から見れば、評価を欺くための試みだったと私たちは考えています。つまり、課題を自力で解くのではなく、当社の本番システムに到達してテストの解答を盗み出そうとしたということです」と述べています。
OpenAIは7月21日、暴走エージェントがこのハッキングの原因であったことを発表しました。これは、Hugging Faceが正体不明の自律型AIエージェントによる「エンドツーエンド」の攻撃を検知し、被害を食い止めたことを公表してから5日後のことでした。
