この記事のポイント
- Museの開発元は、ユーザーの脳波記録約5万時間分を、明確に知らせないままAIの学習に使用
- 氏名を削除するだけでは脳波データの匿名化には不十分な可能性あり。研究者はEEG記録から個人を特定した例も
- プライバシーポリシーを確認し、オプトアウトやデータ削除が可能かどうかを問い合わせることが重要
テクノロジー企業は長年、利益のためにユーザーの頭の中を探ろうとしてきました。そして今、それが文字どおり現実になっています。睡眠中や瞑想中の脳活動を測定するヘッドバンド「Muse」の開発元が、ユーザーに明確に知らせることなく、その脳波データをAIの学習に使っていたことが、ある調査で明らかになりました。
こうした消費者向け睡眠バンドは、睡眠や瞑想の最中に脳が何をしているのかを理解する手助けとして販売されています。しかしScience誌の調査によると、メーカー側もまた、ユーザーの脳から「理解」をひそかに得ていたことになります。
1年にわたる調査で、Museの睡眠・瞑想用ヘッドバンドを手がけるカナダ企業のInteraxonが、ユーザーの脳から収集したデータをAIの学習に使用していたことが判明しました。同社は、脳の電気的活動を測定する脳波(EEG)記録を約5万時間分使い、「脳ファウンデーションモデル」を学習させていました。
多くの人々から集めた大量の脳波データで学習したAIモデルは、脳活動のパターンを見つけ出せます。たとえば、てんかん発作に関連するパターンを認識できるようになる可能性があります。
こうした成果を目指す研究自体は称賛に値します。ただし、それはEEGデータを学習に使う相手であるユーザーに、事前に知らせた場合に限られます。Interaxonはそれを怠りました。
不十分なプライバシーポリシーの下に置かれた、あなたの脳
Scienceがこの問題についてInteraxonに問いただしたところ、最高マーケティング責任者のNadia Kumentas氏は、AI学習についてユーザーに明確に通知すべきだったと認めました。同社はプライバシーポリシーを更新し、現在は、匿名化したデータを機械学習モデルの学習に使用すると明記しています。
この種のデバイスを通じたデータ収集は、企業にとって魅力的です。脳波データはほかの方法では入手が難しく、それゆえ非常に価値が高いためです。
実際、データの扱いをめぐって疑問を持たれているニューロテック企業はInteraxonだけではありません。Scienceは脳データを収集する57社を調査しました。その結果、ユーザーの脳データを販売しないと明言していたのは、わずか6社でした。3分の2を超える企業は、買収された場合に脳データが新しい所有者へ引き継がれることを認めています。11社は、プライバシーポリシーがウェブサイト訪問者向けのものしかなく、4社はポリシー自体を持っていませんでした。
Interaxonは、学習に使う前にEEGデータから氏名とメールアドレスを削除していた点は評価できます。ただし、該当ユーザーのデータは、本人たちに明確に知らされないまま学習されたモデルの形成にすでに役立っています。後からその影響を取り除くことは極めて困難です。
では、こうした「匿名化」は十分なのでしょうか。今年、南東ノルウェー大学が行った学術研究では、EEG記録やそこから導き出された特徴量に、患者固有の機微な情報が含まれうることがわかりました。そのため、臨床や研究の現場でデータを共有する際にプライバシー上のリスクが生じると指摘しています。研究は次のように述べています。
「高次元の生体医学信号に対しては、従来の匿名化手法では不十分なことが多い。直接的な識別子を取り除いても、再識別、データの紐づけ、推論のリスクが必ずしも防げるわけではないためだ」
イスラエルのベングリオン大学の研究者らによる別の研究では、安静時のEEG記録を分析すると、性格特性や認知能力が明らかになりうることがわかりました。また、韓国の高麗大学の研究者らが2018年に発表した研究によると、安静時のEEGで88.4%の確率でユーザーを識別できました。さらに南カリフォルニア大学の研究は、EEGデータから精神的な健康状態や神経疾患、さらには薬物使用歴まで明らかになりうると主張しています。
ただし、これらの研究結果は、Museの記録から具体的に何が推測できるかを示すものではありません。消費者向けヘッドバンドの電極数は、一般に臨床用のEEGシステムより少ないためです。
消費者向けニューロテック業界の調査で、憂慮すべき傾向が明らかになったのは今回が初めてではありません。Neurorights Foundationが2024年に公表した報告書では、調査対象の30社のうち29社が、消費者の神経データにアクセスできる状態にあり、そのアクセスに「実質的な制限を設けていなかった」とされています。
法整備はこうした状況にまだ追いついていません。イリノイ州の生体情報プライバシー法(BIPA)は、指紋、声紋、顔の形状などを生体識別子と定めていますが、EEGデータは対象に含まれていません。一方、コロラド州とカリフォルニア州は現在、神経データを機微情報として扱っています。
こうした懸念は、脳波データだけにとどまりません。Malwarebytesがニュースレター読者を対象に行った調査では、90%が同意なくAIに自分のデータを使われることを心配しており、92%が企業による個人データの不適切な利用を懸念していました。
Museユーザーにできること
睡眠バンドやほかのニューロテック機器を使っている方は、自分の脳データが想像以上の用途に使われている可能性があると考えてください。また、企業が倒産したり買収されたりすれば、データが別の所有者に渡るおそれもあります。遺伝子検査企業の23andMeでは、まさにそのような事態が起きました。
こうした点を踏まえ、メーカーのプライバシーポリシーを確認しましょう。見つからない場合は、メーカーに直接問い合わせてください。 EEGデータがAIの学習に使われているか、オプトアウトできるか、すでに収集された記録を削除できるかを尋ねるとよいでしょう。
これらの選択肢が用意されていない場合は、そのまま使い続けて問題ないかどうかを検討してください。
脅威の報告から、脅威の排除へ。
サイバーセキュリティのリスクを、ニュースの見出しだけで終わらせてはいけません。今すぐMalwarebytesをダウンロードして、デバイスを脅威から守りましょう。