Google、ChromeとAndroidで詐欺を検出するオンデバイスAI保護を展開

Googleは木曜日、Chrome、検索、Android全体で詐欺に対抗するための新しい人工知能（AI）を活用した対策を展開すると発表しました。

このテクノロジー大手は、デスクトップ版Chrome 137でGemini Nanoというオンデバイスの大規模言語モデル（LLM）を使用して、セーフブラウジングを改善すると述べました。

「オンデバイスアプローチは、リスクのあるウェブサイトに対する即時の洞察を提供し、これまでに見たことのない詐欺に対しても保護を提供します。Gemini NanoのLLMは、ウェブサイトの多様で複雑な性質を抽出する能力があるため、この用途に最適です。これにより、新しい詐欺戦術に迅速に適応することができます」と同社は述べました。

Googleは、このAI駆動アプローチを既にリモート技術サポート詐欺に対処するために使用していると指摘しました。これらの詐欺は、存在しないコンピュータの問題を口実に、ユーザーから個人情報や財務情報を騙し取ろうとすることがよくあります。

これは、技術サポート詐欺の特徴的なシグナルを示す可能性のあるウェブページをLLMで評価することによって機能します。例えば、キーボードロックAPIの使用などです。セキュリティシグナルは抽出され、セーフブラウジングに渡され、そのページが詐欺である可能性があるかどうかを判断します。

「LLMがトリガーされるのは稀であり、デバイス上でローカルに実行されるようにすることに加え、トークンの使用数を考慮し、ブラウザの活動を中断しないように非同期でプロセスを実行し、GPU使用量を制限するためにスロットリングとクォータ制御メカニズムを実施することで、リソース消費を慎重に管理しています」とGoogle ChromeセキュリティチームのJasika Bawa、Andy Lim、Xinghui Luは述べました。

Googleは、この機能を拡大して、荷物追跡や未払いの通行料に関連する詐欺など、他の種類の詐欺を検出することを目指していると述べました。この機能は、今年後半にAndroid版Chromeにも展開される予定です。

発表の一環として、GoogleはAI駆動の詐欺検出システムを強化し、より多くの欺瞞的なページを捕捉し、検索結果からそれらのページをブロックすることで、航空会社のカスタマーサービスプロバイダーを装った詐欺を80%以上、ビザや政府サービスの公式リソースを模倣する詐欺を70%以上削減したと2024年に発表しました。

最後に、Googleは、悪意のあるサイトから送信される不要な通知を警告するために、オンデバイスの機械学習モデルを使用した新しい警告機能をAndroid版Chromeに導入すると述べました。

「この新機能は、潜在的に欺瞞的またはスパム的な通知を検出して警告するためにオンデバイスの機械学習を使用し、デバイス上に表示される情報に対する制御を一層強化します」とChromeセキュリティのHannah BuonomoとSarah Krakowiak Crielは述べました。

「通知がChromeによってフラグ付けされると、通知を送信しているサイトの名前、通知の内容が潜在的に欺瞞的またはスパム的であるという警告メッセージ、およびサイトの購読を解除するか、フラグ付けされたコンテンツを見るかのオプションが表示されます。」

これらの機能は、GoogleがAndroidのメッセージアプリにAI駆動の詐欺検出機能を展開してから2か月余り後に登場しました。昨年、同社は詐欺電話をフラグ付けするための同様の方法を発表しました。

これらの更新は、GoogleがAndroid 16で高度な保護機能を準備しているように見える中で登場し、いくつかの点でAppleのアプローチを反映して、JavaScriptをオフにし、2G接続を無効にし、盗難検出ロック、オフラインデバイスロック、Androidセーフブラウジング、メッセージのスパム保護などの多くのセキュリティ機能をデフォルトで有効にします。

Googleはまた、電話中に被害者に銀行アプリを開かせる詐欺を検出する機能に取り組んでいることが、Android Authorityによって今週初めに報告されました。