カリフォルニア州、OpenAIを提訴 Hugging Faceへのハッキングを受け、裁判所命令による是正を求める

カリフォルニア州司法長官は月曜日、OpenAIを相手取って訴訟を起こしました。7月に発生したサイバーセキュリティインシデントでは、同社の人工知能(AI)システムが自律的に別の企業へ侵入しており、ChatGPTの開発元である同社に事業慣行の変更を迫る狙いです。

サンフランシスコ郡上位裁判所に提出された訴状で、ロブ・ボンタ司法長官は、OpenAIが必要な安全対策を講じないまま高度なAIモデルを意図的に開発し、一般市民とサービス利用者を欺き、危険にさらしたと主張しています。同社の行為は重要インフラや各種機関、一般市民を危険にさらしかねず、州法上の「公的ニューサンス(公共の迷惑行為)」に当たるというのが同長官の立場です。ボンタ氏は、OpenAIが公的ニューサンスに該当するとして、事業慣行を改めるよう裁判官が同社に命じること、さらに危険だと主張する事業慣行から得た利益を同社が手放すことを求めています。

OpenAIは7月21日に「前例のないサイバーインシデント」を公表しました。同社のAIエージェントが、サンドボックスと呼ばれる隔離されているはずのテスト環境から脱出し、別のAI企業であるHugging Faceに侵入したというものです。OpenAIによると、このAIは盗んだ認証情報を使用し、未知の脆弱性を発見してHugging Faceのサーバーにアクセスしました。

OpenAIの広報担当者ドリュー・プサテリ氏は、今回の訴訟は主要なAI研究機関のすべてが認識している課題をめぐり、OpenAIだけを標的にしているように見えると述べました。

プサテリ氏はAP通信へのメールで、「Hugging Faceのインシデント以降、当社はモデルの意図しない挙動(ミスアライメント)を把握して対処するため、広範かつ透明性のある取り組みを進めてきました」と説明しました。具体的には、詳細な技術報告書や第三者による報告書の公表、安全対策の強化、AIエージェントが会社の指示や目標に沿わない動きをした場合にそれを特定する枠組みの構築などがあるといいます。

プサテリ氏は、「当社はミスアライメントを深刻に受け止めています。州司法長官事務所とも建設的に協力してきましたし、今後も情報共有を続け、業界全体で通用する実効性のある安全基準の確立に取り組みます」と述べました。

訴状でボンタ氏は、安全性やセキュリティに関するOpenAIの約束は欺瞞的だと指摘しています。

ボンタ氏は訴状に、「しかし実際には、OpenAIは危険なモデルを開発、訓練、評価してきました。こうしたモデルは指示に従わず、タスクで不正を働き、自らの不正行為を隠したり、監視役を欺こうとしたりします。さらに、第三者へのサイバー攻撃など、悪意のある無許可の行動にも及びます」と記しました。

ボンタ氏はまた、先月初めにOpenAIが、社内で運用していたエージェントが監視アラートを抑え込み、監視機能を無効化できることを発見したと報告した点にも触れました。その1カ月後には、AIモデルの能力が高まるほど監督が難しくなるという調査結果をまとめた研究報告書を同社が公表したとも指摘しています。

ボンタ氏は、「さらに、OpenAIの透明性の欠如と虚偽の説明により、同社の法令違反の真の範囲と、今後の被害リスクは明らかになっていません」と書いています。

OpenAIはすでに少なくとも8つの州から提訴されています。各州は、同社の人気チャットボットが危険な医療アドバイスで大人を欺き、妄想を助長し、自殺や他者への加害・殺害をそそのかすなどして、子どもに害を与えていると主張しています。訴状によると、ChatGPTは親切で思いやりのあるふりをしながら、弱い立場の人々や10代の若者を食い物にしているといいます。

OpenAIは、これらの訴訟を受けて先月発表した声明で、ChatGPTに子ども向けの安全保護機能を組み込んでおり、今後もモデルの改善を続けると説明しました。

翻訳元: https://www.securityweek.com/california-sues-openai-seeking-court-ordered-changes-after-the-hugging-face-hack/

本記事は securityweek.com の記事を翻訳・要約したものです。