カリフォルニア州、Hugging Faceへの攻撃などを巡りOpenAIを提訴 欺瞞と無謀な行為を主張

カリフォルニア州は月曜日、OpenAIを提訴しました。同社のAIエージェントがHugging Faceにハッキングを仕掛けるのを防げなかったうえ、このサイバー攻撃や類似の事案について一般市民を欺いたとして、不公正かつ違法な事業慣行を禁じる州法に違反すると主張しています。

サンフランシスコ郡上位裁判所に起こされたこの訴状によると、OpenAIの幹部らは、テスト中にエージェントの制御を失った事例が80件以上あったと、ロブ・ボンタ州司法長官の事務所に伝えていました。ところが同社はその後、司法長官の調査に協力しなかったと、事務所は説明しています。

訴状は次のように述べています。「OpenAIは責任を引き受け、一般市民や規制当局に対して透明性を保つことで、こうした制御喪失の事案を分析し、再発を防げるようにするどころか、司法長官による調査を妨害しました。同社が把握している全事案の詳細な情報の提供を拒否したこともその一例です」

訴状によると、OpenAIは召喚状に対し、「公開済みの情報を寄せ集めたものと、自社に都合のよいブログ記事、そして一部のセキュリティインシデントを概略的に説明した数十通の外部とのやり取りを黒塗りにした写ししか」提出しなかったとされています。

ボンタ氏は、このAI大手がカリフォルニア州の不正競争法に違反していると指摘しています。さらに、同社の危険な慣行は州法上の公的ニューサンス(公共の迷惑行為)にも該当するとしています。

司法長官は裁判所に対し、OpenAIによる不公正な競争手法の差し止め、同社の慣行によって個人や組織が被った損失の返還、そして裁判で違法行為の責任があると認定された被告ごとに、違反1件につき2,500ドルの民事制裁金を科すことを求めています。

ボンタ氏のプレスリリースによれば、7月に起きたHugging Faceへの攻撃は、OpenAIが「危険だと認識していたモデルを、適切な監督もないまま、欠陥があり悪用可能なテスト環境で試験する」道を選んだ以上、予見できたものだったといいます。

OpenAIの広報担当者は、コメントの求めにすぐには応じませんでした。ただ、CNBCには声明を出し、Hugging Faceの一件以降、「ミスアライメント(目標のずれ)を起こしたモデルの挙動を理解し、対処するため、広範かつ透明性の高い取り組みを進めてきた」と述べています。

この担当者は報道によれば、次のように語りました。「当社は詳細な技術報告書を公表し、別途、独立した報告書を委託して公開しました。影響を受けた組織にも通知し、研究システム全体で安全対策を強化したほか、ミスアライメントをさらに特定・開示するための枠組みも整えました」

「今回の訴訟は、主要なAIラボすべてが認識している課題を巡って、OpenAIだけを標的にしているように見えます。当社はミスアライメントを真剣に受け止めており、司法長官事務所と建設的に協力して情報を共有し、業界全体に向けた実効性のある強固な安全基準の策定を進めてきましたし、今後も進めていきます」 

「破壊的で、欺瞞的で、敵対的」

Hugging Faceへの攻撃は予測可能だったと、ボンタ氏は声明で述べました。声明は、OpenAI社内に安全性よりも成長を優先する文化があると批判しています。

訴状は、必要な防御策や監督体制を欠いたまま「危険な」製品をテストし、その慣行について一般市民を欺いたOpenAIの行為は、カリフォルニア州法に違反すると指摘しています。

訴状によれば、OpenAIはAIを悪用したサイバー攻撃のリスクを10年近く警告し、強力な安全対策を講じていると世間に説明してきました。しかし実際には、自社の方針を無視していました。同社のサイバー防御が、開発中のモデルを封じ込めるには不十分だと示す証拠があったにもかかわらず、強引にテストを進めていたといいます。

訴状は次のように述べています。「OpenAIは十分承知しているはずですが、これらのモデルの挙動は予測不能で、与えられたタスクを完遂するために、破壊的で欺瞞的、かつ敵対的な行動をとることがしばしばあります。OpenAIは、一般公開するモデルには安全対策を実装してこうしたリスクを軽減しようとしていますが、モデルの実験やトレーニングの間は、そうした保護を意図的に外したり取り除いたりしています」

訴状はまた、Hugging Faceへの攻撃に先立つ数週間、OpenAIのエージェントがサンドボックスから脱出した明白な兆候があったにもかかわらず、同社がそれを無視したとも指摘しています。

フロリダ州のジェームズ・ユースメイヤー司法長官も6月、OpenAIとサム・アルトマンCEOを提訴しています。この巨大テック企業が、消費者に害を及ぼし得ると知りながら製品を公開したと非難しました。

OpenAIは、ChatGPTが一部のユーザーの妄想や自殺、暴力犯罪につながったとして、複数の訴訟にも直面しています。

翻訳元: https://therecord.media/california-sues-openai-hugging-face

本記事は therecord.media の記事を翻訳・要約したものです。