OpenAIは、同社のAIエージェントが5月にRubyGemsのメンテナーを新規アカウント登録停止に追い込んだ攻撃の実行者であると研究者らが報告したことを受け、調査を開始しました。
公式のRubyパッケージホスティングサービスであるRubyGems.orgは、当初DDoS攻撃のように見え、後に「スパム活動」と表現された攻撃の標的となりました。この攻撃にはボットアカウントが関与しており、悪用コードを含むものも含め、数百件のジャンクパッケージが押し込まれました。
研究者のSpencer Kitts氏、Thomas Larsen氏、Sydney Von Arx氏は金曜日、5月にOpenAIのエージェントがRubyGemsを標的にした可能性が高いことを明らかにしました。新たに見つかった脆弱性を悪用し、RubyGemsユーザーのAPIキーを盗もうとしていたとのことですが、この試みが成功したかどうかは不明です。
研究者らによると、これらのAIエージェントはRubyDoc.infoドキュメントサイトに関連するサーバー上でリモートコード実行にも成功していたといいます。
これらの悪意あるパッケージにより、エージェントはウェブサイトから公開情報をスクレイピングできるようになっており、特に英国の地方自治体ポータルが対象となっていました。
RubyGemsへの攻撃は、大きく報道されたHugging Faceへの攻撃より前に発生しており、OpenAIエージェントによるドイツの小規模なWikiサイトへの攻撃とほぼ同時期に起きていました。実際、研究者らはWiki攻撃とRubyGems攻撃に関与したエージェント群の挙動が「極めて類似していた」と指摘しています。
この挙動の類似性は、研究者らがRubyGems攻撃をOpenAIのエージェントと結びつける根拠のひとつとなっています。さらに研究者らは、5月の事件でRubyGems.orgにアップロードされたパッケージが明らかにAIによって生成されたものであり、多くのパッケージ名に「oai」という文字列が含まれていたこと、さらにあるパッケージには「openai」という文字列を含む連絡先メールアドレスが記載されていたことも指摘しています。
研究者らは、なぜエージェントがRubyGemsユーザーのAPIキーを盗もうとしたのか、またなぜRubyDocサーバーを標的にしたのかについては特定できませんでした。後者については、制限やレート制限の回避を試みた可能性、RubyGemsをプロキシとして利用した可能性、RubyGems上への永続的なデータ保存を狙った可能性などが考えられるとしています。
研究者らによると、AIエージェントはメンテナーが新規ユーザー登録を復旧させた後も、5月下旬と6月中旬に数十件の追加パッケージをRubyGemsにアップロードしていました。6月にアップロードされたパッケージは、米証券取引委員会(SEC)のウェブサイト上の特定データにアクセスするよう設計されていました。
OpenAIは、自社のエージェントがRubyGems攻撃の原因である可能性について、当初は把握していなかったようです。
研究者らが調査結果を公表した直後、このAI大手企業は調査を進めていると述べました。
「今回の調査結果によると、当社のエージェントはRubyGemsプラットフォームを利用してインターネットにアクセスし、無害なタスクの実行や公開情報の取得を行っていました」と同社は述べています。「現時点での調査では、報告書で詳述されている、当社のモデルが悪意あるパッケージをアップロードしたという具体的な主張を検証するには至っていません」
翻訳元: https://www.securityweek.com/openai-investigates-report-linking-ai-agents-to-rubygems-attack/
