Black Hat USA 2025のDark Reading News Deskインタビューで、Lumia Securityの上級セキュリティ研究員であるYoav Magid氏が、Siriの強化版を含むさまざまなAIアプリケーションを支えるApple Intelligenceが、ユーザーにとってプライバシーリスクをもたらしていると説明しています。
彼の調査によると、Appleは単純なクエリに対しても驚くほど多くのコンテキストデータを収集していることが判明しました。例えば、天気について尋ねた場合でも、Siriはその時ユーザーが聴いている音楽情報などもAppleのサーバーに送信する可能性があります。さらに懸念すべきは、WhatsAppのようなエンドツーエンド暗号化されたアプリでSiriを使ってメッセージを送信する際、その内容や連絡先情報が不要にもかかわらずAppleのサーバーに送信されていることを発見した点です。
最も懸念されるのは、Magid氏がこれらの発見をAppleに開示した際、当初は関心を示したものの、後にほとんどの懸念を「プライバシーポリシーに曖昧に記載された想定内の動作」として退けたことです。
全文書き起こし：LumiaのYoav Magid氏が語るSiriとApple AIのプライバシーリスク
この書き起こしは分かりやすさのために編集されています。
Becky Bracken： こんにちは。ラスベガスのマンダレイ・ベイで開催されているBlack Hat USA 2025のDark Reading News Deskへようこそ。今回は、Black Hatで注目を集めているLumia Securityの上級セキュリティ研究員、Yoav Magid氏との対談にご参加いただきありがとうございます。彼の新しい研究「Apple’s Storm: Unmasking the Privacy Risks of Apple Intelligence」についてお話しします。ようこそ。
Yoav Magid： ありがとうございます。
Bracken： Apple Intelligence はAIアシスタントなのですか？
Magid： より正確に言えば、Apple Intelligenceはデバイス上でのローカル処理と、Appleのプライベートクラウドコンピューティングの組み合わせです。この2つを組み合わせることで、昨年は多くの新しいアプリ、例えばライティングツールや画像ツールが登場しました。SiriもApple Intelligenceの機能によってさらに強力になっています。
Bracken： これらのアプリ群はApple Intelligenceのインフラ上で動作しています。そこに潜在的な機微な情報を投入するリスクは何でしょうか？
Magid： 昨年、Apple Intelligenceの多くのAIアプリのどの機能がユーザーデバイス上で直接動作し、どの機能がデータをAppleのサーバーに送信しているのかを調査しました。私たちはどんなデータを共有しているのか？Appleはそのデータで何をすることに同意しているのか？私の発見の多くは、Siriや新しい拡張機能、ChatGPTとSiriの組み合わせ、ライティングツールとの交差点に関するものでした。
Bracken： 何が分かりましたか？これは大きなプライバシー問題なのでしょうか？
Magid： Appleがごく単純な質問に答えるために、どれほど多くの情報を知る必要があると考えているかに驚きました。Siriを起動して「今日の天気は？」と尋ねると、非常に単純な質問にもかかわらず、どれほど多くのコンテキストが収集されているかに驚くでしょう。例えば、天気について尋ねているときにYouTubeでTaylor Swiftの曲を聴いていたら、Siriはそれを把握し、その情報がAppleのサーバーに送信されます。
Bracken： これは意図的なものですか？バグではなく、機能なのですか？
Magid： ほとんどは実際に機能だと思います。多くの人がプライバシーポリシーを読まないため、認識が不足しているのだと思います。しかし、バグだと思われるものもいくつかあります。例えば、WhatsAppやiMessageをSiri経由で操作する場合です。Siriに友人へのメッセージを口述または作成させると、WhatsAppやiMessageにはエンドツーエンド暗号化があるにもかかわらず、そのメッセージがAppleのサーバーに送信されていることに驚くでしょう。WhatsAppはデバイス上にあるのに、これは驚きです。
メッセージは連絡先情報（名前や電話番号）とともにAppleに送信されます。これが本当に機能なのかは分かりません。なぜなら、デバイスからAppleへの通信をすべてブロックしてもこの「機能」は動作するからです。
Bracken： 一般的に、私が企業にいて、これらのAIエージェントを使いこなさなければならない場合、ビジネスリーダーはどのようにこれらのツールの導入を考えるべきでしょうか？それとも、もう後戻りはできないのでしょうか？
Magid： 今日のAIは毎日さまざまな形で現れます。ブラウザ、デスクトップ、OSの一部として。Apple Intelligence、AndroidのGemini、MicrosoftのCopilotなどがその例です。今、企業ができることは、ガバナンスを再定義することです。AI時代が始まってからこの1年、CISOは従業員が何をアップロードしているか、そのデータがLLMの学習に使われていないかを懸念してきました。この研究は、コンテキストに関する新たな課題を浮き彫りにしています。企業はできるだけ早くガバナンスツールを導入すべきです。
Bracken： 組織にとって、それはどのような形になるのでしょうか？
Magid： 最初に必要なのは可視化です。ガバナンスツールは、CISOに組織内で何が起きているのか、どのデータがAIモデルに送信されているのか、どんなデータがリスクをもたらすのか、大局を把握させる必要があります。これがポリシー策定やその実施を語る前の第一歩です。可視化が最初です。この研究では、Appleのような大手ベンダーがこうした問題の発見を非常に困難にしていることが示されています。
Bracken： Appleはあなたの研究に協力的でしたか？連絡を取っていますか？
Magid： これらの問題を発見した後、適切に開示しました。最初はとても驚きました。Appleは「興味深い」と言い、対応するつもりだと言っていました。しかし3か月後、「想定内の動作」であり、プライバシーポリシーに曖昧に記載されているため対応しないと伝えられました。
実は昨夜、Appleから連絡があり、WhatsAppの問題については問題かもしれないので対応するかもしれないと言われました。
Bracken： 研究仲間の反応はいかがですか？
Magid： Appleがプライバシーを強調しているにもかかわらず、これほど多くのデータを収集していることに皆驚いています。私たちはそのデータがどう扱われているか知りません。Appleはプライベートクラウドコンピューティングを約束していますが、この研究で分かるように、私たちのデータはプライベートクラウドにすら送信されていません。今日の私の講演中に、私が挙げた特定のドメインをすでにブロックするポリシーを適用したという人もいました。多くの人が非常に驚き、懸念しているようです。
Bracken： こうしたAIツールを使っていますか？AIツールのスピードや効率とプライバシーリスクをどうバランスしていますか？
Magid： 私は多くのAIツールを使っています。実際、使いすぎかもしれません。しかし、どのAIアプリでも最初にすることは、プライバシーポリシーを読むことではなく、設定に行って「このアプリから学習する」プログラムをオプトアウトすることです。まずそれを無効にします。また、どんなデータをどのアプリと共有するかも常に考慮しています。例えば、ChatGPTについては、私たちは彼らと契約しており、私たちのデータは学習に使われません。
Bracken： 素晴らしいです。Yoavさん、本日はご参加いただき、重要なご研究を共有していただきありがとうございました。
Magid： お招きいただきありがとうございました。
Bracken： 以上、Black Hat USA 2025のDark Reading News Deskから、Lumia SecurityのYoav Magid氏へのインタビューでした。