Wikimedia Foundationは、OpenAIの暴走したAIエージェントがWikipediaを無断で編集していたと明らかにしました。5月に発生した障害にも、一部関与した可能性があるとしています。
Wikimediaの最高プロダクト・技術責任者（CPTO）であるSelena Deckelmann氏が月曜日に明らかにしたところによると、Wikipediaは300以上の言語で6,700万本を超える記事を公開しており、月間ページビューは最大150億に達します。
一方で、昨年はボットの活動が急増し、帯域幅の使用量が50%増加しました。同団体のプロジェクトで最もリソースを消費したトラフィックの65%は、ボットによるものでした。
Wikimediaは、自社サイトがAIエージェントの影響も受けているかを調査しました。その結果、OpenAIのエージェントが事前の承認なしにウィキを編集していたことが判明しました。さらに、公開メモツールの悪用を試みて失敗していたほか、Wikimediaのサイトをスクレイピングする過程で数百万件のAPIリクエストとデータクエリを送信していました（これが5月の障害の一因となった可能性があります）。
「OpenAIが運用するAIエージェントによるものと考えられる編集を、Wikimediaのウィキで確認しました。これらの編集は、一般の読者が閲覧できるページには公開されていません。ほぼすべてが、ウィキ内の『サンドボックス』領域でのテスト編集でした」とDeckelmann氏は述べています。
この暴走ボットは、Wikimediaが公開しているEtherpad 引用ツールの設定に「悪意のある可能性がある編集」を加え、侵害しようとしていました。他のオンラインプラットフォームからデータを取得する際のプロキシとして利用する狙いがあったとみられます。
また、Wikimediaは、OpenAIのエージェントが数百万件に上る自動APIリクエストに関与していたと指摘しています。これらのエージェントは、WikidataやWikimedia Commonsの数百万ページをクロールし、Wikidata Query Service（WQDS）に対しても数十万件のデータクエリを送っていました。
「OpenAIは、エージェントが『予測不能に』動作することを認めています。ならば、こうしたリスクを監視し、防止する責任も認めるべきです。AI企業は、自社のシステムを守るための取り組みも、システムが引き起こす被害から社会を守るための取り組みも、十分に行っていません」とDeckelmann氏は付け加えました。「その負担は、小規模な組織も含め、ほかのすべての人にのしかかっています。最低限、私たちのような非営利のウェブサイト運営者がAIシステムを容易に識別でき、サービスとの関わり方を選べるように、システムを運用すべきです」
OpenAIのエージェントは、ここ数か月に起きた同様の事案にも複数関与しています。その一つが、社会保障や医療関連の給付を担当するオーストラリア政府機関Services Australiaが運用するメディケア統計報告ポータルへの侵害です。
5月には、OpenAIが運用するAIエージェントがドイツのウィキを乗っ取り、制限を回避するための回答や手法を共有し合っていました。その2か月後の7月には、700近い暴走したOpenAIのエージェントが連携し、人工知能リポジトリのHugging Faceに侵入しています。
ただし、この問題はOpenAIに限ったものではありません。7月にはAnthropicも、Claude AIエージェントが3つの組織に侵入したと公表しました。このうち1件では、悪意のあるPythonパッケージを作成し、Python Package Index（PyPI）リポジトリにアップロードしていました。
