WhatsApp、新機能「詐欺アラート」を発表

WhatsAppは、連絡先未登録の相手からの不審なメッセージをオンデバイスの機械学習モデルで検知する新機能「Scam Alert(詐欺アラート)」の限定ベータ版展開を開始しました。 

同社によれば、このツールはエンドツーエンド暗号化を回避するのではなく、それと共存する形で設計されています。分類処理はすべて端末上で行われ、WhatsAppや親会社Metaへの自動報告は一切行われません。

ユーザーがこの機能を有効にすると、モデルが端末にダウンロードされ、会話の構造や言語的な特徴をもとに、既知の詐欺パターンに一致する着信メッセージを評価します。 

メッセージがフラグ付けされた場合、警告が表示されるのは受信者側のチャット内のみで、送信者には通知されません。ユーザーは連絡先をブロックする、メッセージを報告する、警告を無視する、あるいは会話を「信頼済み」としてマークして今後の警告を抑制することができます。チャットを信頼済みとしてマークしたユーザーは、モデルの精度向上に役立てるため、直近5件の受信メッセージを共有するかどうかを別途選択できます。

特定のモデルが特定の人物にのみ配信されるような事態を防ぐため、WhatsAppは、すべてのモデルリリースを配信前にサードパーティの追記専用透明性台帳に記録する必要があるとしています。 

各リリースには、モデルの重みや関連ファイルを対象としたSHA-256ハッシュのマニフェストが添付され、そのマニフェストのダイジェストはMetaではなくCloudflareが保有するEd25519鍵を使って署名されます。端末側はこの署名を検証し、台帳と照合したうえで、ダウンロードしたファイルが公開済みのハッシュと一致することを確認してから、モデルの実行を許可します。

メッセージの内容が端末外に一切出ないため、WhatsAppはこの機能が正しく動作しているかを把握する別の手段を必要としています。そのために同社が構築したのが「confidential federated analytics pipeline(機密連合分析パイプライン)」と呼ばれる仕組みで、収集するのは警告が発動した回数と、その後ユーザーが取った行動(ブロックや信頼済みマークなど)の件数という2種類のデータのみです。 

WhatsAppは、外部の攻撃者、侵害されたインフラの内部関係者、サプライチェーンリスクを網羅する脅威モデルを示したうえで、このパイプラインの防御機構は、単一ユーザーのデータを狙うにはシステム全体を侵害する必要がある状態を確保することを目的としていると説明しています。

検証の面では、ユーザーはアプリ内の「アカウント」＞「情報をリクエスト」＞「Scam Alert Activity」から透明性ログを確認できるようになり、どのメッセージがスキャンされたか、その結果、そしてどのモデルバージョンが判定を下したかを確認できます。 

WhatsAppはまた、バグバウンティプログラムの対象をScam Alertにも拡大するとしています。

同社はこのリリースを完成品ではなくあくまで初期の技術プレビューと位置付けており、より広範な展開に先立ち、ベータ期間中は研究者やユーザーからのフィードバックを踏まえて機能が引き続き進化していくとしています。

Signal、自動鍵検証機能を発表

Signalは自動鍵検証という新機能を導入しました。これは既存の「セーフティナンバー」システムを補完するもので、エンドツーエンド暗号化された会話において、2人のユーザーの間に不正な第三者が介在していないことを確認するためのものです。 

対面での確認や別の通信手段を必要とする従来の手動セーフティナンバー確認とは異なり、この新システムはユーザー本人、その連絡先の相手、そしてサードパーティの監査者がそれぞれ行うチェックを通じて、独立した形で検証を実施します。

この機能は、Signalアカウントの公開鍵が本人の知らないうちに差し替えられるシナリオを検知するために設計されています。たとえば、攻撃者がSignalのインフラを侵害し、標的の電話番号に別の鍵を紐付けた場合などにこうした事態が起こり得ます。 

ユーザーは、連絡先のプロフィール画面から「セーフティナンバーを表示」を開き、「Automatic Key Verification(自動鍵検証)」の項目にある「自動的に検証」をタップすることでチェックを実行できます。「暗号化が検証されました」という緑色のチェックマークが表示されれば、一致が確認されたことになります。

この機能を支えているのが、Signalが「key transparency(鍵の透明性)」と呼ぶ仕組みで、すべての登録、電話番号の変更、ユーザー名の変更を暗号学的に検証可能なログに記録します。 

このログの独立監査者を務めるのがCloudflareとTrail of Bitsです。ログ内のすべての識別子と鍵は、検証可能ランダム関数と鍵付きハッシュ関数によって秘匿されているため、監査者自身もユーザーの平文データを目にすることはありません。

この機能はオプトアウト方式です。Signalやその監査者への依存を望まないユーザーは、「プライバシー」＞「詳細設定」＞「Automatic Key Verification」からこの機能を無効化し、従来通り手動でのセーフティナンバー確認のみに頼ることもできます。