出典：Panther Media Global（Alamy Stock Photo経由）
LLMの健康チャットボット製品「ChatGPT Health」の最近の発表は、健康に関する助言がこれまで以上に消費者の手元に届く世界を示唆している。しかし、この製品には幅広い安全性およびデータセキュリティ上の懸念も伴う。
1月7日、OpenAIはChatGPT Healthを発表した。LLM企業はこれを「あなたの健康情報とChatGPTの知能を安全に結び付け、健康に向き合ううえでより多くの情報を得て、備えができ、自信を持てるよう支援するための専用体験」
同社は、健康に関する懸念が個人がChatGPTとやり取りする最も一般的な方法の一つだとしており、Healthはより安全な専用体験を意図している。OpenAIによれば、これは「健康向けに特別に設計された追加の多層的保護」を備え、「目的別に設計された暗号化と分離により、健康に関する会話を保護し、区分化する」といったものだという。
OpenAIはまた、ChatGPT Healthは医療を支援するためのもので、置き換えるものではなく、診断や治療を目的としていないこと、そして本製品と共有されたデータは基盤モデルの学習には使用されないことを強調している。
すでに何億人もの人々が、そうすることが望ましいかどうかにかかわらず、健康に関する問い合わせにAIチャットボットを利用している世界では、個人が持つ最も機微な個人識別情報を保護する、分離された製品があることは理論上歓迎されるかもしれない。
それでも強調すべきなのは、ChatGPT Healthではユーザーが自身の医療記録を接続でき、ユーザーがオプトインすれば、その記録をApple Healthや他のウェルネスアプリなど第三者と共有できる点だ。ユーザーは医療助言を求めるために、最も機微な情報を民間企業に託すことになる。
完璧な暗号化、プロンプトインジェクション攻撃がなく、優れたデータセキュリティの実績があり、深刻な安全性の懸念もない――そんな完璧な世界であっても、このような動きはリスクがあると主張し得る。そして私たちは完璧な世界に生きてはいない。
ChatGPT Healthのセキュリティ機能
ChatGPT Healthの発表では、ChatGPT全体における会話とファイルが「保存時および転送時にデフォルトで暗号化されている」ことや、多要素認証などのデータ制御があることに触れているが、健康データが技術面および規制面で具体的にどのように保護されるのかは明確ではなかった。
ただし発表では、OpenAIがネットワーク型の医療データ企業b.wellと提携し、医療記録へのアクセスを可能にすると明記している。OpenAIの広報担当者はDark Readingに対し、b.wellはIndividual Access Servicesのリクエストを通じて患者記録を取得し、同社はFast Healthcare Interoperability Resources（FHIR）標準APIおよび信頼できる医療交換フレームワークに基づいて構築されていると語った。さらに広報担当者は、b.wellネットワークが厳格な本人確認、同意管理、データセキュリティ、監査可能性の管理を維持しているとも述べた。
ウェルネスアプリや医療記録といった第三者接続については、広報担当者は、Health内のすべてのアプリがOpenAIのプライバシーおよびセキュリティ要件を満たし、必要最小限のデータのみを収集し、追加の審査を受けなければならないと説明する。ユーザーはいつでもアプリの接続を解除でき、その時点でアプリはアクセス権を失う。
デジタル権利NPO「Access Now」の政策アナリスト、Franco Giandana Gigena氏はDark Readingに対し、「いったんデータが共有されると、それを完全に、そして徹底的に削除することはほぼ不可能であり、これはしばしばデータのコントロールが失われることを意味すると示されている」と語る。ユーザーが第三者アプリから切断することを選べたとしても、それは今後のデータ共有を防ぐだけだ。
結局のところ、ユーザーは自身の健康データをどの製品に託す前にも慎重であるべきだ。
「健康に関連する文脈では、複雑なデータ共有の網の中で、同意だけではデータを守るのに常に十分とは限らないという点を強調したい」とGiandana Gigena氏は言う。
ChatGPT Healthに残る不穏な疑問符
多くのセキュリティ上の柱が維持されているとしても、医療データは可能な限り最高水準で扱われなければならない。ChatGPT Healthの会話がエンドツーエンドで暗号化されているようには見えない（Dark Readingは質問したが、広報担当者は直接は述べなかった。発表で言及されている「転送時および保存時の暗号化」はエンドツーエンドではない）。
規制上の消費者保護も不明確だ。Dark ReadingはOpenAIに対し、ChatGPT HealthがOpenAI独自の方針を超えて、消費者向けにHIPAAや何らかの規制上の保護に従う必要があるのかを尋ねたところ、広報担当者は同時に発表されたOpenAI for Healthcareについて言及した。これは医療機関向けのOpenAI製品で、HIPAA要件を満たす必要がある。
しかし、教育に焦点を当てた消費者向け製品であるChatGPT Healthと比べると、OpenAI for Healthcareは医療ワークフローを支援し、エビデンスに基づくデータを取得するように構築されている。Anthropicも同様の製品Claude for Healthcareを1月11日に発表した。
表向き、ChatGPT Healthは医療上の病気を診断することを意図しない消費者向け教育製品だ。しかし、通常のChatGPTは健康製品として自らを宣伝してすらいないにもかかわらず、多くのユーザーは自己診断のために機微な個人の健康情報をためらいなく共有している。また一部の人々は、ときにLLMを現実の超知能的存在として扱い、重要な情報を提供できるもの、あるいは医師と患者のような人間同士の相互作用に参加できるものとみなすこともある。適切な出力を予測するデータセット（そして事実に反する出力、いわゆるハルシネーションを起こしやすい）としてではなく。AIと人間の相互作用に伴う安全性の問題は、メンタルヘルスの危機、さらには死亡にまで関与した可能性があるともされている。
要するに、多くのユーザーがLLMモデルに抱くデフォルトの高い信頼は、OpenAIがすでに発表している以上に、管理策、規制、そしてChatGPTの厳格な役割が教育ツールであることを定期的に想起させる仕組みの必要性を促進し得るということだ。
注意が推奨される
デジタル権利NPO「Electronic Frontier Foundation（EFF）」の法務ディレクターであるCorynne McSherry氏はDark Readingに対し、プライバシー保護や約束があったとしても、データ侵害は起こり得るし、企業は召喚状や令状といった法的手続きが生じれば一般的にそれに従うものだと語る。
「自分のデータを第三者に渡すなら、不可避的にその一部のコントロールを手放すことになります。個人の健康情報でそれを行うことには、人々は極めて慎重であるべきです」と彼女は言う。
Access NowのGiandana Gigena氏は、AI健康アシスタントは市場に出たばかりの比較的新しい存在であり、ユーザーの健康に与える影響は、これらのモデルが生み得る依存の問題や、（未解決のまま残る問題である）ハルシネーションによって引き起こされる潜在的な害といった問いも含め、検証されていないと述べる。
政策の観点から、Giandana Gigena氏は、ChatGPT Healthが現時点では欧州経済領域（EEA）、スイス、英国では提供開始されない点を指摘する。これらの地域では（GDPRなど）より厳格なデータ規制が存在する。同氏はこれを、「アクセスできる人々に対して、このシステムが実際に提供する最小化、目的制限、そして全体的な保護の水準に関して懸念がある」と呼ぶ。
「企業が、ユーザーが所在する法域によって異なる解決策や保護水準を提供するのを私たちは目にしてきましたが、この種のアシスタントで提供されるサービスは、人々がどのように扱われているのか、そして最終的にビジネスセクターがどの程度人権にコミットしているのかという点で警鐘を鳴らします」と彼は言う。
翻訳元: https://www.darkreading.com/remote-workforce/chatgpt-health-security-safety-concerns
