FDA、GenAI医療機器の規制の可能性についてフィードバックを募集

米食品医薬品局(FDA)は、生成AI(GenAI)対応医療機器の規制に関する検討事項をまとめたディスカッションペーパーを発表しました。全医療機器の規制当局であるFDAは、患者が安全かつ有効な機器へタイムリーにアクセスできるようにするため、GenAI対応医療機器に新たな規制が必要かどうかを検討しています。

GenAI対応医療機器には患者ケアを一変させる可能性がある一方で、従来型のソフトウェアや人工知能(AI)対応医療機器と比較して、独自のリスクをもたらす恐れもあります。従来型医療機器向けに用いられてきたような既存の規制枠組みは、GenAI対応機器には適さない可能性があり、こうした機器には固有の課題とリスクが伴います。

これらの機器には固有の特性や挙動があり、その一つが出力結果が変動しうる点です。継続的学習システムを組み込んでいるため、時間の経過とともに出力が変化していきます。GenAI機器はオープンエンドな入力を受け付けられるため、従来の市販前試験手法を用いて、あらゆる入力パターンを網羅的にテストし、出力を評価することは現実的ではありません。FDAは、多くの機器が汎用の基盤モデル上に構築されていると指摘しています。これらの基盤モデルは第三者によって開発されており、学習データ、アーキテクチャ、評価手法に関する透明性の水準もさまざまです。そのため、特定の挙動やエラーを、機器が使用している基盤モデルに起因するものと特定するのは困難です。

GenAI対応機器は、従来型機器やAI対応医療機器を上回る幅広いメリットをもたらす一方で、そうしたメリットを生み出す特性そのものが固有のリスクにもなります。例えば、GenAIシステムはデータを誤って解釈したり歪めたりする可能性があり、知識の空白をもっともらしいが実際には作り話の情報(confabulation、作話)で埋めてしまうことがあります。一例として、ある症状を誤った疾患と関連付けてしまうケースが挙げられます。また、事実に基づかない虚偽の情報を生成し、それを事実であるかのように提示してしまう「ハルシネーション」のリスクもあります。GenAIツールが出力する内容はもっともらしく、いかにも本物らしく聞こえるものの、実際にはエンドユーザーにとって疑わしい、あるいは健康上危険となりうる場合があります。

FDAの医療機器・放射線保健センター(CDRH)が公表したこのディスカッションペーパー―― Considerations for the Regulation of Generative AI-Enabled Medical Devices: Discussion Paper and Request for Feedback――では、GenAI対応医療機器の市販前評価および市販後モニタリングに伴う課題を掘り下げています。このペーパーの目的は、今後のガイダンスおよび規制の策定に向けて議論を導き、フィードバックの論点を明確にすることにあります。FDAによる規制が必要かどうか、またどの分野でガイダンスが必要となりうるかについては、まだ結論は出ていません。このディスカッションペーパーに対して寄せられるフィードバックは、市販前評価の新たな手法や、GenAI対応医療機器が製品ライフサイクル全体を通じて安全かつ有効であり続けることを確認するための市販後性能評価など、FDAの今後の意思決定の指針となります。

ペーパーでは、GenAI対応医療機器の市販前評価にコンピテンシー・ベース(能力ベース)の試験を導入する可能性についても論じています。これは医学教育、免許試験、指導下での実地訓練、定期的な再評価、公開報告といった医療従事者の養成プロセスをモデルにしたアプローチで、機器のベンチマーク評価を通じて、機器が意図された用途において安全性と有効性を合理的に担保するために必要な臨床知識、分析能力、安全な挙動、コミュニケーション能力、汎化性能を備えているかどうかを評価します。コンピテンシー・ベースのアプローチだけでは臨床現場での性能を完全に評価しきれない可能性があるため、臨床的な検証が別途必要になる場合もあります。

FDAは、規制にあたっては意図された用途や機器の特性を考慮したリスクベースのアプローチが必要になるとみています。例えば、行動を指示する機能は、非指示的な情報を提供するだけの機能や、自律的な行動が可能なエージェント型AIシステムと比べて、より高リスクに分類される場合があります。

FDAは、GenAI対応機器の市販前評価と市販後モニタリングについて、効率的かつ科学的に妥当で、かつ負担の少ないアプローチを構築するため、あらゆる利害関係者と協力していきたいとしています。このディスカッションペーパーの草案に対するフィードバックは、医療機器メーカー、臨床医、研究者、そして一般市民から2026年10月19日までに募集されます。