医療機関のセキュリティ責任者の間で、従業員が機密データを公開AIモデルに共有することによる患者プライバシー侵害、HIPAA違反、知的財産の流出への懸念が強まっています。従業員がChatGPT、Gemini、Claudeといった未承認のツールに患者データをアップロードするリスクがあるだけではありません。許可されていないブラウザ拡張機能やプラグイン、わずか数クリックで承認できるOAuth連携を通じて、機密データが漏えいする可能性もあります。サイバーセキュリティ企業DNSFilterが実施した最近の調査によると、医療分野のセキュリティ責任者の43%が、今後12か月で最大の新たなAIリスクは従業員による機密データのAIモデルへの共有だと考えています。最大のリスクとして認識されているのは、AI学習データを通じた知的財産の流出で、回答者の53%が最大のリスクに挙げました。他業種では31%にとどまります。
医療提供者からは、従業員が患者の機密データを公開AIモデルにアップロードし、自組織のデータプライバシー・セキュリティポリシーやHIPAA規則に違反したというプライバシーインシデントが、すでに複数報告されています。最近の事例としては、Johns Hopkins Bayview Medical Center、Weill Cornell MedicineおよびWashington Department of Social and Health Servicesがあります。保護対象医療情報(PHI)の漏えいは、500人以上に影響する場合にのみ、米保健福祉省(HHS)の公民権局(OCR)の漏えい公開ポータルで公表されます。メディアへの通知が義務付けられるのも、その規模の漏えいに限られます。そのため、実際の問題ははるかに広範囲に及んでいる可能性があります。DNSFilterの調査結果も、その可能性が十分にあることを示唆しています。
医療分野の回答者の約半数は、従業員が未承認のAIツールをGoogle Workspace、Microsoft 365、またはSSO環境に接続したことを確認している(27%)か、その疑いがある(23%)と答えました。こうした実際の、あるいは疑われるインシデントに患者データが関わっていたとは限りません。しかし、重大なリスクであることに変わりはなく、AIガバナンスが不足していれば、プライバシー侵害が見過ごされかねません。
DNSFilterの報告書「Seeing the Risk, Missing the Signal: AI Security in Healthcare」によると、自組織が保有するすべてのセキュリティツールを積極的に監視していると答えた回答者は27%にとどまりました。また、40%は、積極的に監視しているセキュリティツールが半数以下だと答えています。70%の組織は、未承認のAIツールの利用を禁止する正式なポリシーを導入していると回答しましたが、そのポリシーが一貫して運用されていると答えたのは40%だけでした。回答者の半数は、AIのセキュリティとガバナンスが最大のセキュリティ上の弱点の一つだと答えています。この割合は、全業種のなかで最も高い水準です。
回答者の10人中6人は、セキュリティインシデントの通知をAIやSaaSのベンダーに頼っていると答えました。他業種の43%を上回っています。SaaSやAIに関するインシデントを従業員からの報告で把握していると答えた医療分野の回答者は、わずか23%で、他業種の44%を大きく下回りました。さらに懸念されるのは、医療機関の47%で、上位の承認を経ずに、従業員が新しいAIツールに社内システムへのアクセスを許可できる状態にあることです。
こうしたセキュリティ上の穴があるにもかかわらず、侵害を検知できるという自信は高い水準にあります。医療分野では、回答者の87%が6時間以内に侵害を検知できると確信しており、40%は非常に強い自信があると答えました。3分の1は、過去12か月以内にSaaSまたはAIツールを発端とするインシデントを経験したと答えています。同じ割合の回答者が、正式に報告も公表もされなかったそうしたインシデントを経験したと答えました。
リスクがあるにもかかわらず、IT・セキュリティ予算で最も重要な分野にAIのセキュリティとガバナンスを挙げた医療機関は、ごく一部にすぎません。「次の1ドルをAIのセキュリティとガバナンスに投じる」と答えた回答者は33%で、他業種の41%を下回りました。リスクへの懸念が高まる一方で、問題に対処するための資金が追いついていないことがうかがえます。
DNSFilterのCEO、Ken Carnesi氏は次のように述べています。「医療分野のセキュリティ責任者は、AIによって自社のデータがどこでリスクにさらされるのかを正確に把握しています。しかし、そのリスクがインシデントに変わる瞬間を見逃しており、自社のチームではなくベンダーから知らされるケースが多すぎます。対象のデータが保護対象医療情報である場合、リスクはさらに深刻になります。次の1ドルをAIガバナンスに投じる前に、医療機関は、従業員が許可を得ないまま、すでにどのAIサービスを使っているのかを可視化する必要があります」
翻訳元: https://www.hipaajournal.com/healthcare-employees-sharing-patient-data-ai-tools-major-risk/