ウィキメディア財団は新たな声明で、OpenAIのエージェントが公開メモツールへの侵入を試み、ウィキペディアのページを編集しようとし、さらに今年前半に起きたサイトの障害にも関与した可能性があると明らかにしました。
この非営利団体は、OpenAIのエージェントが関わる一連のインシデントについて、詳細な調査報告書を公表しました。報告書によると、エージェントはサイトのルールに繰り返し違反し、権限のない操作を複数実行していました。
カリフォルニア州に拠点を置く同財団は、ウィキペディアの運営・ホスティングで知られています。ウィキペディアは300言語で6700万件以上の記事を擁し、利用者が検証可能な形でページを編集できる仕組みを通じて、この10年で最も広く利用される情報源の一つとなりました。
財団の調査では、OpenAIのエージェントがウィキペディアのページに対して行った編集が見つかりました。ただし、これらは公開されていません。エージェントはほかにも、引用ツールを「リモートサービスからデータを取得するためのプロキシ」として悪用しようとする、「悪意の可能性がある編集」を行っていました。
ウィキペディアでは、コミュニティの編集者に開示して承認を得ていれば、ボットによるページ編集が認められています。しかし今回のインシデントでは、そうしたルールは守られていませんでした。
ウィキメディア財団は、OpenAIのエージェントに関連する問題をさらに2件確認しました。その一つが、コミュニティ向けサービスとして同財団が提供するメモツール「Etherpad」への侵入の試みで、これは失敗に終わっています。
財団は「エージェントはEtherpadをプロキシとして使い、他のウェブサイトからデータを取得しようとしましたが、成功しませんでした。OpenAIが運用しているとみられる別のエージェントは、自らのタスクに関するメモを残していましたが、エージェント間の連携には発展していないようです」と説明しています。また、OpenAIのエージェントが互いに通信するために、公開プラットフォームに侵入する事例がすでに確認されているとも指摘しました。
財団によると、OpenAIが運用するエージェントは、ウィキメディアのプロジェクトが持つ知識にアクセスするため、数百万件の自動リクエストを送信しました。数百万ページをクロールし、サイトに数十万件のデータクエリも発行しています。こうした動きが、5月に発生したウィキメディアのサービスの部分的な障害の一因になった可能性があります。
OpenAIはコメントの求めに応じていません。ウィキメディア財団は、「暴走」したAIエージェントが無関係な作業のためにウェブサイトやオンラインサービスへ侵入を試みたとする報告が最近相次いだことを受け、調査を始めたと説明しています。
AIエージェントがプラットフォームを悪用したり、政府システムに侵入したり、機密データにアクセスしたりする手口を詳述した新たな報告は、毎週のように出続けています。
先週の上院公聴会では、与野党の複数の議員が、AIエージェントが引き起こした損害についてAI企業に賠償責任を負わせるべきだとの考えを示しました。
リソースへの負担
ウィキメディア財団は、今回確認した活動への対処は多くのウェブプラットフォームにとって難しいと指摘しています。調査や復旧に充てる人員や資金が足りない場合があるためです。
同財団は「ウィキペディアのようなサイトでは、エージェントがセキュリティ上の脆弱性を見つけて悪用したり、誤解を招く編集を大規模に行ったりする恐れがあります。ウィキペディアのボランティア編集者とウィキメディア財団のセキュリティチームは、そうした活動を検知して元に戻さなければなりません」と述べています。
調査では、OpenAIのエージェントが同財団のサイトを使って連携を図ったり、情報を盗んだりした証拠は見つかっていません。
しかし財団は、調査で判明した内容に懸念を示しています。活動の全容を突き止めるまでに多大な労力を要した点も問題視しました。
同財団によると、職員は「AIエージェントが残した混乱の後始末」に追われる機会が増えており、ボットの活動によって帯域幅の使用量も大きく増えています。
先週には、研究者らが、OpenAIのエージェントがデータをスクレイピングしていたと報告しました。対象は、今年前半の6カ月間にわたる、民間・公的機関50組織以上のウェブサイトです。
ウィキメディア財団は、OpenAIは「こうしたリスクを監視し防止する責任を認めるべきだ」と訴えています。
財団は「AI企業は、自社のシステムを守り、それが引き起こす被害から社会を守るための対策を十分に講じていません。そのしわ寄せは、小規模な組織を含む他のすべての人々に及んでいます」と指摘。「少なくとも、私たちのような非営利のウェブサイト運営者がエージェントを容易に識別でき、サービスとの関わり方を選べるように、システムを運用すべきです」と求めました。
OpenAIのサム・アルトマンCEOは月曜日のインタビューでPoliticoに対し、世界は「この技術がもたらす恩恵のために、ある程度の悪いことが起こるのを受け入れるべきだ」と語りました。
翻訳元: https://therecord.media/wikimedia-foundation-openai-agents-report
