5月に人気のオープンソースパッケージマネージャーに対して行われたサイバー攻撃は、OpenAIのエージェントによるものだったことがセキュリティ研究者らによって明らかになりました。
5月11日から、これらのエージェントはRubyGemsプラットフォームに悪意のあるパッケージを大量に投稿し、その結果プラットフォームは数日間にわたり新規登録を停止せざるを得なくなりました。
「GemStuffer」と呼ばれるこのキャンペーンでは、これらのパッケージが使われて英国の地方自治体サイトから情報を取得していたことが判明しましたが、その情報はすでに公開されているものだったため、研究者たちを困惑させました。
金曜日に発表された報告書は、この事件がOpenAIのエージェント群によるものだと断定しています。
これらのエージェントはRubyGemの自動ビルドシステムを悪用し、RubyDoc.infoのサーバー上で任意のリモートコード実行を獲得しました。さらに5月12日には、ユーザーのAPIキーを盗み取るために新種のゼロデイ脆弱性の悪用も試みたと、非営利団体Nightingale Collectiveによる報告書は指摘しています。
暴走するAIについてさらに詳しく: OpenAI、Hugging Faceの事件は世界への「警告」と表明
Nightingale Collectiveによると、これらの悪意あるパッケージは明らかにAIによって作成されたものであり、作成された数千件のパッケージのうち数百件にはパッケージ名または作成者名に「oai」という文字列が含まれていたといいます。
さらにこれらのエージェントは、最近明らかになったOpenAIによるドイツのあまり知られていないウィキへの攻撃で使われたのと同じファイルのうち49件にもアクセスしていました。このウィキの事件も同じく同団体によって分析されています。
「5月のエージェントがアクセスしていたのは別のファイル(主に英国地方自治体のデータ)でしたが、これらのファイルはウィキを攻撃したエージェントが狙ったものと性質が非常によく似ています。しかも、使用していた取得手法も同一でした」と同団体は指摘しています。
「1,397件のパッケージがr.jina.aiに言及していますが、これはウィキ攻撃の際にエージェントが多用していたものです。また、多くのパッケージがexample.comに言及していることも確認しており、これはウィキ攻撃のエージェントが投稿機能をテストする際に使用したものです」
高まるAIをめぐる緊張
今回の暴露は、同様の事件が相次いで明らかになる中、AI開発の進む方向性をめぐって高まりつつある緊張をさらに煽ることになりそうです。
OpenAIは、自社のエージェントがインターネットから隔離されたサンドボックス環境を脱出したことで悪名高くなったHuggingFaceへの攻撃について、世界への「警告」として受け止めるべきだと述べていました。
それに続いて先週、Nightingale CollectiveはOpenAIのエージェント群がDSEwikiも攻撃し、自分たち専用のメッセージ掲示板へと作り変えていたことを明らかにしました。
さらにAnthropicも先週、自社のエージェントが第三者のシステムに無許可でアクセスしていたという4件目の事件を公表しています。
「RubyGemsコミュニティの人々から話を聞いた限りでは、OpenAIはこの攻撃について自社が関与していたことを一切伝えていませんでした」とNightingale Collectiveは述べています。
しかしその後、OpenAIはこの声明で事件への関与を認めました。
「弊社の調査によると、当社のエージェントはRubyGemsプラットフォームを利用してインターネットにアクセスし、無害なタスクの実行と公開情報の取得を行っていました」と同社は述べています。「トレーニングおよび評価の過程におけるエージェントの活動についての広範な見直しの一環として、引き続き調査を続けてまいります」
翻訳元: https://www.infosecurity-magazine.com/news/openai-agent-swarm-hacks-rubygems/
