AIが生成するメッセージ、音声、写真、レビュー、そして偽の身元がますます精巧になるにつれ、オンライン詐欺を正規の活動から見分けることが難しくなってきています。
Malwarebytesが実施した最新調査によると、成人のほぼ10人中9人が、本物とAI生成コンテンツの区別がもはやつかないと回答しています。この割合は2025年の66%から、2026年には85%へと上昇しました。
調査は、米国、英国、オーストリア、ドイツ、スイスにおける18歳以上の成人1,500人を対象に実施されました。
オンラインにおける信頼の維持が困難に
回答者の半数が、過去1年間にAIを悪用した詐欺に遭遇したと答えています。個人を標的にした詐欺メッセージ、改ざんされた商品レビュー、AI生成画像、音声のなりすましなどが、具体的な被害例として報告されました。
身元の悪用も、調査を通じて繰り返し浮かび上がったテーマのひとつです。自分の身元がAIによって操作されたと報告した人がいる一方、知人を装った音声クローン電話を受けたと答えた人もいました。若い年齢層ほど、こうした被害への露出度が高い傾向がありました。
ある回答者は、知人の声を模倣したAI生成の電話を受けた体験をこう振り返っています。「非常に恐ろしい経験でした。それ以来、知らない番号には格段に注意を払うようになり、音声メッセージをすぐに信用することもなくなりました。」
テクノロジー企業も、この問題への対策を強化しています。Googleは最近、不審な電話を識別しなりすまし詐欺からユーザーを守るため、Androidの詐欺検知機能を拡充しました。
オンラインでの情報共有を控える消費者
多くの人が、インターネットやソーシャルメディアの使い方を変えていると回答しています。個人的なコンテンツの投稿を減らしたり、過去の投稿を削除したり、自分や家族に関する情報公開を制限したりしているという声が聞かれました。
オンラインでの情報共有を控える理由（出典：Malwarebytes）
オンライン活動を減らす理由として、ディープフェイク、なりすまし、オンライン詐欺への懸念が挙げられました。また、対面でのコミュニケーションを望む声や、詐欺全般に対する漠然とした不安を訴える人もいました。
AIを悪用した詐欺への広範な懸念がある一方で、家族間での合言葉の設定、個人データ削除の申請、写真へのウォーターマーク付与といった具体的な防衛策を講じている回答者は比較的少数にとどまりました。
AIへの期待も依然として存在
AIに対する見方は、必ずしも否定的なものばかりではありませんでした。写真編集やメッセージ作成、個人的なプロジェクトへの活用にAIを利用していると答えた人もいます。
また、AIを詐欺や偽情報だけで評価すべきではないという意見もありました。悪用を抑制するための強固なルールが整備されれば、この技術は日常生活において有益に活用できると考えている人々もいます。
新たな段階に入る偽情報問題
AIは地政学にも影響を及ぼしつつあり、メディア環境を汚染し、偽情報を拡散させ、不信感を広げています。
「ソーシャルメディアで巧妙な偽投稿が増え続けるのを見ていると、私たちは急速に『ポスト・トゥルース（脱真実）』の現実に近づいているように感じます」と、ある回答者は述べています。
OpenAIは、AI生成コンテンツの透明性向上、信頼性の高い投票情報の提供、サイバーセキュリティ防衛担当者へのサポート、そしてツールの欺瞞的な政治利用の制限を目的とした措置を講じ、2026年の選挙サイクルへの備えを進めています。
Vector Instituteの研究者たちは、生成モデルの性能が向上し続けるにつれ、単独の技術的能力としてのディープフェイク検出は有効性を失いつつあり、今後もその傾向が続く可能性が高いと指摘しています。
翻訳元: https://www.helpnetsecurity.com/2026/06/11/ai-scams-deepfakes-survey/
