Google、Geminiを悪用した中国の詐欺グループを提訴

この件が実際にどれほどの効果を持つかは分かりませんが、私はこの取り組みを支持します。

Googleの訴状によると、Outsider Enterpriseという組織はTelegramを通じて活動しています。このグループは、詐欺サイトやテキストキャンペーンを自力で構築するだけの技術力を持たない個人向けに、フィッシング・アズ・ア・サービス(phishing-as-a-service)を提供していました。同組織のTelegramチャンネルでは、Google、YouTube、さらにはニューヨーク州のE-ZPassのような政府機関を模倣したウェブサイトをGoogleのGemini AIを使って作成する方法が指南されていたと報じられています。このグループは、300近い詐欺用テンプレートを提供していました。

[…]

Googleは、こうした悪質なテキストメッセージの多くをブロックするため、AT&T、Verizon、T-Mobileと協力しました。またGoogleは、Google Messagesのデバイス上詐欺検知機能も、フィッシングの成功件数を減らす一助になったとみられると指摘しています。このAI搭載機能は、毎月100億件の詐欺テキストを阻止しているとされており、Outsider Enterpriseの活動の一部も確実に検知していたと考えるのが妥当でしょう。

関連する別の記事もあります。