オランダのデータ保護機関(AP)は、AI搭載スマートグラスの購入を控えるよう消費者に正式に勧告しました。安全性テストの結果、物議を醸している録画機能にとどまらない、懸念すべき挙動が明らかになったためです。
APは最近、6機種のスマートグラスをテストし、深刻な問題を確認しました。たとえば、未成年者への関心を示した成人の装着者に対し、その相手との交際に関するアドバイスを表示しようとする例がありました。
心肺蘇生(CPR)のシミュレーションでは、誰も通報していないにもかかわらず、救急サービスに連絡済みで現場に到着する予定だと装着者に伝えたグラスもあったと、テスト担当者は報告しています。
ほかにも、子ども向け玩具の安全警告を正しく処理できないグラス、薬の添付文書の読み取りを誤るグラス、極端な気象現象に関する警告を誤って解釈するグラスがありました。
APはテスト対象の機種名を明らかにしていません。公表したのは、価格が100ユーロ(110ドル)未満から500ユーロ(550ドル)超まで6機種を試したことと、そのうち2機種は「人の安全が重要となる現実に近い状況を想定した模擬環境で、広範にテストした」ことのみです。
APの広報担当者は、特定の挙動を価格帯ごとの機種に結び付けることも拒否しました(たとえば、未成年者に関する交際アドバイスが354ユーロのグラスで起きた、といった説明です)。今回の調査は、AIグラスのリスクをより広い視点から示すことが目的だったとしています。
APのモニク・フェルディエ副長官は、次のように述べています。「気付かれないように撮影するグラスは、それだけで懸念されます。人命がかかった場面で誤った助言まで与えるグラスとなると、行き過ぎです」
「AIには多くの可能性がありますが、私たちはその技術を信頼できなければなりません。今回調べたカメラ付きグラスについては、現時点でその信頼を正当化することはできません」
今週の警告は、同機関がこれまでスマートグラスについて行ってきた取り組みの延長にあります。APは9月、誰もがプライバシーの権利を持つことを改めて訴え、必要に応じて組織がスマートグラスを禁止するよう促していました。
この警告では、GDPR(EU一般データ保護規則)に基づくデータ処理のリスクや、AIの学習に関わるリスクにも言及していました。
APは今回、こうした従来の批判をさらに強めました。最新のテストでは、AI機能が主にEU域外のサーバーでのデータ処理に依存していることが分かったといいます。あわせて、ユーザーが撮影したデータをAIがどう処理しているのかについて、十分な情報が提供されていないことも判明しました。
サイバーセキュリティの面でも、テストでは複数の問題が見つかりました。装着者の近くにいる人が、許可なくデバイスに接続したり、録画を閲覧したり、場合によってはカメラを操作したりできるというものです。
さらに同機関は、スマートグラスが「変態グラス(pervert glasses)」という俗称で呼ばれる原因となった、従来からの懸念にも同調しました。
テストによると、「調査したカメラ付きグラスのほぼすべて」で、録画中であることを周囲に明示するはずの録画ランプが暗く、簡単に覆い隠せることが分かりました。
APによれば、ランプを覆ったままでも録画させることが可能な機種もありました。これは、メーカーが頻繁に主張している内容と食い違います。
APは「その結果、周囲の人は撮影されているかどうかをほとんど見分けられません」と述べています。
この技術には有益な用途もあります。視覚障害のある人や読み書きが苦手な人の支援のほか、周囲の状況を理解するのに助けが必要なさまざまな場面で役立ちます。
しかし、同機関の公式見解では、現状のスマートグラスは「利用者と周囲の人々にリスクがあるため、安全ではない」とされています。
フェルディエ氏は、オランダや欧州各国の政治家に対し、AI政策を策定する際にこの結果を踏まえるよう求めました。
「こうしたリスクの高いAI製品への対処法を、社会として学んでいくことが重要です」と同氏は述べています。
「すべてを禁止すれば、当初は余裕が生まれます。しかし、それを無期限に続けることはできません。社会全体で、意識の向上、耐性の強化、倫理観の醸成に取り組むことが大切です」
スマートグラスへの反発は収まらず
DEF CONが8月の開催を前に「変態グラス禁止」の方針を発表した際、参加者からは広く歓迎されました。
EFF(電子フロンティア財団)のサイバーセキュリティ担当ディレクター、エヴァ・ガルペリン氏は当時、「DEF CONの『変態グラス禁止』方針は大歓迎です」と語っています。
同様の制限を導入した組織はほかにもあります。英国のComic Conを運営するMonopoly Events、国民的なパブチェーンのWetherspoons、さらには米移民・関税執行局(ICE)も含まれます。
一般の人々の大半は、少なくとも次の現実を受け入れています。スマートフォン世代があらゆる場所で気軽に写真を撮るようになった結果、公共の場でプライバシーが人権として確立されているわけではないということです。
かつて公共の場での映像撮影には、周囲の人のプライバシーへの配慮や遠慮がありました。しかしスマートフォンの利用者が、時間をかけてそれを徐々に失わせてきました。
好むと好まざるとにかかわらず、特に都市部では、スマートフォンが常に何かを、あるいは誰かを撮影しているものだと一般に理解されています。
理屈の上では、スマートグラスが公共の場で録画できることは、スマートフォンですでに当たり前になっていることと大きくは変わりません。
ただ、スマートグラスは通常の眼鏡とよく似ており、録画ランプも覆い隠せます。そのため、グラスによる公共の場での録画は、はるかにこっそりと行えてしまい、それだけ懸念も大きくなります。
スマートフォンなら、端末を前に構えるという利用者の身振りから、撮影中であることがすぐ分かります。一方、スマートグラスの装着者は、写真や動画を撮影していても外見上の合図を一切示しません。これが、この技術全般に対する不安感を煽っています。
ネットで「スマートグラス プライバシー侵害」と検索すると、この技術に対する苦情が数多く見つかります。女性や子どもに対する振る舞いに関するものが多く見られます。
この種のデバイスが、いかに簡単にセキュリティチェックをすり抜けられるのかという懸念もあります。個人のプライバシーを侵害するにとどまらず、より大きな危害を加えようとする者に機会を与えかねません。
The ObserverとBBC Radio 4の共同調査では最近、AI搭載グラスが英国議会で使われている空港型のセキュリティスキャナーで検出されなかったことが明らかになりました。
両メディアの調査によると、中国製の60ポンド(78ドル)のグラスがスキャナーを通過しました。このグラスを使えば、議員の机にある上下逆向きの文書を読み取り、電話番号や住所などのデータを記録して、後からアクセスすることも可能でした。®