OpenAIは、世界中で毎週2億3,000万人以上が大規模言語モデルのChatGPTに健康やウェルネスに関する質問をしており、ときには自分の医療情報をアップロードすることもあると主張している。現在、同社は、健康に特化した新しいバージョンのChatGPTを展開すると述べており、ユーザーの医療記録やウェルネスアプリを「安全に」接続して、回答をより個別最適化するという。
OpenAIは述べたところによると、ChatGPTヘルスは「機微なデータを保護するための強化されたプライバシー」を備えた、独立した空間として運用されるという。
「ヘルスでの会話は、当社の基盤モデルの学習には使用されません。ChatGPTで健康に関する会話を開始した場合、これらの追加保護のためにヘルスへ移動することを提案します。」
OpenAIによれば、現在、ChatGPT全体における会話とファイルは、その「中核」セキュリティアーキテクチャの一部として、保存時および転送時にデフォルトで暗号化されている。しかし、「健康データの機微性を踏まえ、ヘルスではこの基盤の上に、目的別に設計された暗号化や分離を含む追加の多層的保護を重ね、健康に関する会話を保護し、区画化している」という。
同社によれば、ユーザーは多要素認証を有効にすることを選択することで、アクセス制御をさらに強化することもできる。
OpenAIはChatGPTヘルスのウェイトリストを開始したが、現時点で一般公開の展開日程は発表していない。
OpenAIは、ユーザーがChatGPTと連携できるようになると同社が述べたサードパーティの医療記録やウェルネスアプリに関わるデータを、どのように保護する計画なのかという質問に、直ちには回答しなかった。
一部のプライバシーおよびセキュリティの専門家も、同様の点を疑問視している。セキュリティ企業ClarotyのフィールドCISO兼最高技術責任者（CTO）であるスキップ・ソレルズ氏は、ChatGPTヘルスに関わるサードパーティとのやり取り、ならびに同種の人工知能製品は、さまざまなリスクをもたらすと述べた。
「カスタムアクションやウェブ検索のような機能により、個人情報がサードパーティのアプリケーションに送信される可能性があります。いったん共有されると、そのデータはOpenAIのものではなく、サードパーティ自身のプライバシーポリシーに従って管理されます」と、Ascension Healthの元サイバーセキュリティ責任者であるソレルズ氏は述べた。
データ損失防止企業MindのCEOであるエラン・バラク氏は、患者は何を接続し共有するのかを慎重に判断し、強固なアカウント保護を用い、ChatGPTヘルスに付与する権限を理解すべきだと警告した。
医療提供者は明確な方針を策定し、不必要なデータ露出を制限し、こうしたAIツールがどのように使用されているかを把握できるようにして、「イノベーションがセキュリティを置き去りにしない」ようにすべきだと同氏は述べた。
「最終的に情報を共有するかどうかは患者の選択ですが、ChatGPTヘルスには、設計段階からPHI（保護対象保健情報）を保護する責任があります。機微な健康データが最小化され、分離され、意図された目的を超えて決して使用されないこと、特にサードパーティベンダーが関与する場合にそれを確実にする必要があります」とバラク氏は述べた。
民主主義と技術センター（Center for Democracy & Technology）の上級政策顧問である弁護士アンドリュー・クロフォード氏は、OpenAIが人々の健康データをどのように収集し、利用し、保存するのかについて多くの疑問があると述べた。
「例えば、OpenAIはChatGPTヘルスで共有された情報を他のチャットでは使用しないと言っていますが、一方で広告をビジネスモデルとして検討しているとも示しています」と同氏は述べた。「ユーザーの健康データ、あるいはそこから得られた洞察が、広告主向けにユーザーをプロファイリングするために使われないことを保証する、より明確な説明と詳細が欲しい」と同氏は述べた。
もう一つの懸念は、政府による健康データへのアクセスの可能性だとクロフォード氏は述べた。「法執行機関が捜査のためにユーザーの生殖医療データの提出をOpenAIに求めた場合、OpenAIは応じるのでしょうか。データが法執行機関に引き渡されたことをユーザーに通知するのでしょうか」と同氏は述べた。
ドクター・ChatGPT？
ChatGPTが登場するずっと前から、「人々はGoogle検索に機微な医療情報を入力し、その検索履歴に基づいてリターゲティング広告を表示されていました」と、コンサルティング企業LBMCでサイバーセキュリティ・コンサルティングサービスの実務を率いるヴァン・スティール氏は述べた。
「その観点から見ると、この変化はそうした利用例よりもむしろ安全だと言えます。したがって、全体としては良いことです」と同氏は述べた。「私の視点が鋭くなるのは、より広いAIエコシステムに関してです。私は昔からの確かな原則に立ち返りがちです。無料のものなどない、ということです」と同氏は述べた。
ソレルズ氏は、ChatGPTヘルスのようなツールが生成する情報の質、特に健康問題に関わる場合についても懸念していると述べた。「AIデバイスが特定の病気や医学的診断を示す方向に進むなら、それはその役割を果たすために徹底的に訓練を受けた医療従事者に任せるべきです。」
ハルシネーション（幻覚）は、健康に特化した利用例に固有のものではなく、あらゆる生成AIのやり取りに共通する懸念だとバラク氏は述べた。
「とはいえ、適切なガードレールとコンテンツ制御があれば、このようなツールは概ね正確で個別最適化された健康情報へのアクセスを拡大し、特定の医療上の疑問に答えるために精査されていないインターネット検索に頼るよりも安全である可能性があります。」
ChatGPTヘルスに関するOpenAIの発表は、米食品医薬品局（FDA）が、特定のAI対応デバイスおよび臨床意思決定支援ソフトウェアについて、規制面で「手を出さない」アプローチを取る計画であることを示すガイダンスを発出したのと同じ日に行われた（参照：FDA、AIデバイスとソフトウェアに対し「手を出さない」アプローチ）。
「FDAは、単にデータを収集して出力するだけのシステムと、特定の疾患や医療状態に言及するシステムとの間に、明確な線引きをしようとしています」とクロフォード氏は述べた。「しかし、その線引きは決して明確ではないと私は主張します。特に大規模言語モデルと健康に関しては」と同氏は述べた。
「ChatGPTヘルスは、単純なデータ収集と、疾患やその他の状態の診断、治療、予防、治癒、または緩和のための意思決定支援を提供することを意図したソフトウェアとの間にあるグレーゾーンで、特に機能するよう設計されているように見えます」と同氏は述べた。
人々はChatGPTヘルスを使って、複数の情報源から多様な健康情報を統合・分析し、実行可能な健康上の洞察を得ることができると同氏は述べ、そこには潜在的な利点と欠点の両方がある。
「ChatGPTは『ヘルスは医療を支援するために設計されており、置き換えるものではありません。診断や治療を意図したものではありません』と言っていますが、すべてのChatGPTヘルス利用者が、モデルの提案に基づいて行動する前に医師に相談するとは想像しがたいです。特に、同社が最近、病院の空白地帯に住み、医療へのアクセスが容易ではない人がどれほど多いかを強調したことを踏まえると、なおさらです。」
翻訳元: https://www.databreachtoday.com/chatgpt-health-top-privacy-security-governance-concerns-a-30473
