オンラインのコンテンツが本物かどうか判断できない人が88%に

ほぼ何でもこなせるテクノロジーのために、あなたは何を差し出しますか？多くの人にとって、答えは明快です。これまで信じてきたすべてのもの、です。

わずか数年のうちに、人工知能（AI）ツールは人々に、より簡単な文章作成、高速な画像生成、迅速なコーディング、そしてほぼ即座の回答・アドバイス・情報へのアクセスをもたらしました。これらはいずれも、人々が高く評価し、求めているメリットです。しかし、出会い系プロフィールを磨いたり古い写真をよみがえらせたりできるこれらのツールは、オンラインの世界全体を操作することも可能であり、その事実に人々は気づきはじめています。

Malwarebytesの最新調査によると、88%の人々が「オンラインコンテンツが人間によるものか、本物かどうかの判断がますます難しくなっている」と回答しました。また84%は、「説得力のある動画証拠」でさえもはや証明にならないと感じていると答えています。さらに85%が「詐欺と本物の区別がつきにくい」と回答しており、昨年同様の回答をした66%から大幅に増加しています。

これは、AIが作り出す偽物の世界の最初の兆候です。偽のウェブサイト、偽の製品、偽の動画、偽の画像、偽の声、さらには偽の人物まで——あらゆる偽物があふれるこの世界は、ウェブ全体を飲み込もうとしています。

Malwarebytesの最新レポート「Face value: How AI is reshaping trust, identity, and scams」は、AIが社会に与える隠れたコストを明らかにしています。それは、現実への信頼と人への信頼を静かに壊し続ける、蔓延する詐欺の問題です。

その被害は大小さまざまな場面に及んでいます。「息子の声にそっくりの留守電が届き、トラブルに巻き込まれたので法律費用が必要だと言っていた」と語る米国の親御さんから、まったく無関係な2人の回答者がトランポリンで跳ねるウサギのAI生成動画に騙された事例、「祖父がAIの作ったデタラメな情報を見せてきて、本物だと思い込んでいた」と心配するある個人まで、様々なケースが報告されています。

本調査では、Malwarebytesが米国、英国、オーストリア、ドイツ、スイスの18歳以上の成人1,500人を対象に、AIの利用状況、感情、懸念事項について調査しました。サンプルは性別均等で、年齢層、地理的地域、人種グループを広くカバーし、バランスのとれた視点が得られるよう重み付けされています。

完全な調査結果は、全文レポートでご覧いただけます：

主な調査結果のポイントは以下の通りです：

• 88%が「オンラインコンテンツが人間によるものか本物かの判断がますます難しくなっている」と回答
• 84%が「説得力のある動画証拠でさえ、もはや証明とは感じられない」と回答
• 85%が「詐欺と本物の区別が難しい」と回答（昨年の66%から増加）
• 50%が、AI生成の商品写真による誤誘導や高度にパーソナライズされた詐欺メッセージの受信など、何らかのAI詐欺を経験
• 19%がAIを悪用したアイデンティティ侵害を経験。うち10%は無断でAIによる性的に露骨なコンテンツを生成された被害を含む
• 81%が家族の肖像を盗まれることを恐れているが、防衛策として家族間の合言葉を設定しているのはわずか13%
• 67%が音声クローニングを懸念しているが、防止のために留守電録音をオフにしているのはわずか19%
• 45%が、結婚の誓いや追悼文の作成などの個人的な感情的タスクへのAI利用を許容
• 34%が、出会い系プロフィールの作成・改善へのAI利用を許容
• AIを毎日使うと自認するユーザーの3人に1人が、相手の同意なく露骨な画像を生成することを「許容できる」と回答

こうした現状から「もう手の施しようがない」という結論を導き出すのは誤りです。インターネットが支援を必要としているのは事実ですが、安心して助けを求められる場所はたくさんあります。

Malwarebytesが新しいツールの提供に取り組む一方で、AIに不安を感じている方にも、熱心に活用している方にも、インターネットの第一原則をあらためてお伝えしたいと思います。それは「人間を忘れるな」ということです。人々の声、身体、選択、そして自律性は、本人だけに帰属するものです。

あらゆる偽動画、偽製品、偽ウェブサイト、偽画像に対しても、助けがあることを知ってください。AIが氾濫するインターネットを一人で乗り越える必要はありません。詐欺検知や個人情報保護、そして基本的なリテラシーを身につけることで、人々が気づいていない選択肢は数多く存在します。