多くの人はオンライン上でボットと人間を見分けることができず、しかも最も見破られにくいのは礼儀正しいボットであることが、Surfsharkの新たな調査で明らかになりました。
同社は世界各国の参加者1,722人を対象に、SNS環境において人間によるコメントとAI生成コメントを見分ける能力をテストしました。全体として、参加者が見破ることができたボットはわずか40%にとどまりました。
(出典: Surfshark)
最も見逃されやすかったボットは、攻撃的だったり声高だったりするものではありませんでした。前向きで友好的、そして論理的に聞こえる口調のボットこそが、見知らぬ相手のコメントであっても信頼できると感じさせる特徴を備えていたのです。
「SNS上では、怒れる荒らし(トロール)には誰もが気づきます。だからこそ、怒れる荒らしは見破られやすいのです。今回のシミュレートされたSNS環境では、参加者はネガティブなAI生成ボットの半数(50.2%)を見抜くことができました」と、Surfsharkのリサーチ・インサイト責任者であるルイス・コスタ(Luís Costa)氏は述べています。
一方、ボットが前向きで協調的な人物像を装った場合、検出率は38%まで低下しました。ネガティブなボットとの差は実に12ポイントに達します。
「巧妙な世論操作キャンペーンで使われるAI搭載アカウントの多くは、協調的で論理的、あるいは特筆すべき点がない存在です。実在ユーザーの意見に賛同することで、あたかも議論の参加者全員が同じ意見であるかのように見せかけ、コメント数を水増しすることができます。こうしたアカウントが通報されることはめったにありません」とコスタ氏は付け加えています。
深刻なテーマほど見破りにくくなる
参加者は、「パイナップルをピザに乗せるべきか」といった軽いテーマでは多くのボットを見抜けた一方、「女性の権利」のような深刻なテーマではその精度が下がりました。より深刻なテーマでは、ボットの見逃しが増えただけでなく、実在の人間を誤ってボットだと判断してしまうケースも増加しました。
中立的な口調のボットも同様に厄介な存在で、ほとんどのテーマにおいて検出率が下位に位置していました。例外は移民問題です。このテーマでもネガティブなボットは依然として見抜きやすかったものの、前向きなボットは4つのテーマの中で最も見破るのが難しいという結果になりました。
絵文字を多用するボットは60%以上の確率で見破られた一方、平易な言葉遣いにとどめたボットの検出率はわずか35%でした。絵文字の多用をやめるだけで、アカウントの見破りにくさが2倍になる計算です。
友好的なボットの方が、攻撃的なボットより実害が大きい
研究者らはこう主張しています。協調的で論理的なボットは、対立的なボットよりもプライバシーやセキュリティ上の懸念が大きいと言えます。まさに疑念を抱かせないからこそ、危険なのです。
相手の意見に同調し、理路整然と話し、決して対立を起こさないボットは、脅威として認識されません。そのため人々は、相手が機械だと気づかないまま、会話をプライベートチャットに移したり、個人情報を明かしたり、リンクをクリックしたり、「筋の通った」主張をそのまま鵜呑みにしたりする可能性が高くなります。
このような接触は、本人がボットと会話していたと気づくよりも前に、その人の政治的・社会的な考え方を変えてしまうことがあります。
プラットフォーム、年齢、利用習慣もすべて影響
テキスト主体のプラットフォームは、画像・動画主体のプラットフォームよりも検出精度が高いという結果になりました。今回の調査ではThreadsのユーザーが最も高い検出率を示しましたが、Surfsharkはこれがサンプル数の少なさに基づくものである点に注意を促しています。Xのユーザーがそれに僅差で続きました。TikTokとFacebookのユーザーは、両者に大きく水をあけられる結果となりました。
検出率は最年少の参加者層でピークを迎え、その後年齢が上がるにつれて着実に低下し、50歳以上の層で全グループ中最も低いスコアとなりました。50歳以上の層は正確性も最も低く、実在の人間を誤ってボットと判定してしまう傾向が最も強いこともわかりました。
SNSを「ほぼ常に」利用している人は、目にしたボットのおよそ半数を見破ることができた一方、SNSを全く利用しない人が見破れたのはおよそ3分の1にとどまりました。
翻訳元: https://www.helpnetsecurity.com/2026/09/18/social-media-bot-detection-study/
