カリフォルニア州のロブ・ボンタ司法長官は、OpenAIが同社の事業慣行をめぐる州の調査を妨害したとして、同社を提訴したと発表しました。
ボンタ氏が OpenAI Foundation と OpenAI Group を相手取って起こした訴状によると、OpenAIは「エージェント型」AIツールを含む高度なAIモデルを、適切な監視や安全対策を講じないまま「知りながら」開発していたといいます。訴状は、こうした不備があったために、今夏に相次いだサンドボックスからの脱出や実環境でのハッキングを防げなかった可能性があると指摘しています。
訴状は次のように主張しています。「Hugging Faceへの攻撃をめぐっては、メディアの報道やOpenAI自身の自己弁護的な声明によって、AIシステムが『暴走』したかのようなSFめいた空想が広がりました。しかし、事の真相は単純です。OpenAIは、危険だと認識していたモデルを、欠陥があり悪用可能なテスト環境で、適切な監督もなくテストすることを決めました。この攻撃は、その判断を考えれば十分に予見できたものです」
訴状は、OpenAIの社内文化にも責任があると非難しています。同社は「安全性や説明責任よりも、成長とモデルの急速な開発」を優先し、その結果、技術的な安全策がほとんど、あるいはまったくない状態でモデルを展開したというのです。METRのようなAIの評価・テストを手がける非営利団体は、フロンティアAI企業の多くが、テスト対象のモデルの監視や挙動の抑制を主に別のAIシステムやプロンプトに頼っていると、議会で証言しています。
さらに訴状は、OpenAIのエージェントが引き起こした一連のハッキングを調べるためにボンタ氏の事務所が開始した調査を、同社が繰り返し妨害したと訴えています。同社は「自社が把握しているインシデントの全容」に関する詳細を明らかにしなかったといいます。AIシステムが経済や情報技術に広く浸透している以上、「コンピューターシステムやインターネット接続に依存する製品やサービスは、将来の制御喪失事案で危険にさらされる可能性がある」と訴状は述べています。
訴状は次のように続けています。「これまでのところ、同社は司法長官の召喚状に対し、公開済みのわずかな情報と、自己弁護的なブログ記事、そして一部のセキュリティインシデントの概要を記した外部とのやり取り数十件の黒塗りコピーを提出したにすぎません。はるかに多くの情報が必要です。特に今回のように、問題の製品が広範な能力を持つ場合はなおさらです」
CyberScoopはOpenAIに対し、訴訟と訴状の主張についてコメントを求めています。
翻訳元: https://cyberscoop.com/california-ag-rob-bonta-sues-openai/