OpenAI、児童の安全とデータ利用をめぐり提訴

OpenAIは、ChatGPTと子どもとのやり取りをめぐり、別々の訴訟に直面しています。

The Guardianによると、米国の8つの州が、同社がチャットボットの安全性について保護者に誤解を与え、脆弱なユーザーを危険な会話にさらしたと主張しています。これとは別に、CNETによると、2人の子どもに代わって提訴した母親は、OpenAIが有効な保護者の同意なしに、子どもの機微な個人情報を収集・利用したと訴えています。

これらの訴訟は、子どもがチャットボットに最もプライベートな思いを打ち明けたときに何が起こるのか、そしてその後の会話に対してチャットボットを提供する企業がどのような責任を負うのかという、重い問いを投げかけています。

非常に深刻な指摘ですが、これらはあくまで訴訟上の主張であり、裁判所が認定した事実ではない点に注意が必要です。

ChatGPTの安全性に異議を唱える8州

10月14日、アイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナの各州の司法長官が、OpenAIに対してそれぞれ訴訟を起こしました。この協調的な措置は、同社がChatGPTの安全性について保護者を欺き、州の消費者保護法に違反したと訴えています。

各州は、このチャットボットが「過度に同調的で、人間らしい思いやりを装う」ように設計されていたと主張しています。司法長官らは、ChatGPTが子どもを含む脆弱なユーザーに対し、自殺や他者への加害を促すなどして危険にさらしたとされる事例を挙げています。

OpenAIは、製品に年齢に応じた保護機能を組み込んでおり、今後も安全対策の開発を続けると説明しています。

子どもの個人情報に焦点を当てた別の訴訟

各州が提訴する前日には、ハワイ州の母親が、12歳の娘と16歳の息子に代わって集団訴訟を提起しました。サンフランシスコの連邦裁判所に提出されたこの訴状は、有効な保護者の許可なくChatGPTに登録した子どもから、OpenAIが機微な情報を取得したと主張しています。

OpenAIの利用規約は、18歳未満のユーザーに親または法定後見人の許可を求めています。しかし訴状によると、OpenAIがその許可を確認しないまま、子どもがアカウントを作成できるといいます。また、サービスの最低年齢である13歳に満たない子どもが、自分の年齢を明確に伝えた後もチャットボットを使い続けた事例も記されています。

原告は、同社が有効な保護者の同意なく、子どもの情報をAIモデルの学習に使用したと主張しています。さらに、OpenAIが個人プロファイルを構築するために情報を収集していたとも訴えています。

OpenAIはこれらの主張を否定し、訴訟を「見当違い」と批判したうえで、若年ユーザー向けの保護機能を挙げています。

ペアレンタルコントロール

OpenAIは「ChatGPT for Teens」を導入し、ペアレンタルコントロールを強化しました。深刻な自傷の懸念がある限られた状況では、連携した保護者に通知する機能も備えています。しかし、こうした保護機能の有効性そのものが問われています。Common Sense Mediaは今月初め、ChatGPT for Teensを「容認できないリスク」と評価しました。自殺、自傷、摂食障害に関わる会話で、保護者に通知されないケースがテストで確認されたといいます。

OpenAIはこの調査結果に異議を唱え、安全に関する通知の対象は限られた状況であり、すべての懸念を検知できるとは限らないと説明しています。ただ現時点では、ペアレンタルコントロールも争点の一つになっています。

子どもを守るためにできること

安全でない製品設計の埋め合わせを、保護者が担うべきではありません。しかし残念ながら、ペアレンタルコントロールを安全の保証とみなすことはできません。そこで、家庭でリスクを減らすための実践的な対策を紹介します。

• チャットボットはソフトウェアであり、友人でもセラピストでもないと説明する。温かい口調だからといって、子どもを理解しているわけでも、子どもの利益を第一に考えているわけでもありません。メンタルヘルス、自傷、身の安全に関する相談は、チャットボットではなく、信頼できる大人や資格のある専門家に持ち込むという明確な線引きをしましょう。
• 問い詰めることなく、子どもがAIを何に使っているか話し合う。使っているアプリを見せてもらい、どこが気に入っているのか尋ねてみましょう。不安になる会話や不適切な会話があっても、責められることなく相談できると伝えてください。親に話しにくい場合は、ほかに信頼できる大人を一緒に探しましょう。
• プロンプトに個人情報を入れないよう促す。氏名、学校に関する情報、住所、私的な写真、健康や家族に関する機微な情報などが該当します。ChatGPTでは、ティーン向けアカウントを連携した保護者が、モデルの学習や保存されたメモリーを無効にすることもできます。こうした設定は情報の利用を一部抑えますが、チャットボットを秘密の日記のように扱ってよい理由にはなりません。
• AIへの感情的な依存が強まっていないか注意する。子どもが安心感や友情、心の支えをAIに求める場面が増えているようなら、声をかけ、信頼できる人とのつながりを取り戻せるよう手助けしてください。

子どもが自傷や自殺について口にしたら、真剣に受け止め、すぐに人の助けを求めてください。資格のある医療専門家や危機対応サービスに連絡しましょう。差し迫った危険がある場合は、地域の緊急通報サービスに連絡してください。チャットボットや保護者向け通知が行動を促してくれるのを待ってはいけません。

シークレットウィンドウでできることには限りがあります。 
 
情報漏えい、ダークウェブでの取引、クレジット詐欺。Malwarebytes Identity Theft Protection はそのすべてを監視し、すばやく通知します。ID盗難保険も付いています。