先日の投稿で、League of Legendsのプレイヤーが対戦終了直後に怪しいフレンドリクエストを受け取っているという報告を取り上げました。これらのアカウントは会話をすぐにDiscordへ誘導し、有料アダルトコンテンツのページを宣伝していました。
当時、一つ未解決の疑問が残っていました。それは、こうした会話がどの程度自動化されていたのかという点です。アカウントの背後にいる人物が台本に沿って対応していたのでしょうか。それとも、限られた分岐ロジックに従う従来型のルールベースのチャットボットだったのでしょうか。あるいは、生成AIを使ってより自然で柔軟な返答を作り出していたのでしょうか。
人は、自分に個人的な関心を持ってくれていると信じた相手をより信頼しやすいものです。AIは多数の会話にまたがってこの印象を同時に作り出せるため、リンクのクリックや金銭の支払い、個人情報・親密な情報の共有を人々に促しやすくなります。同じ手口は、ロマンス詐欺やセクストーションといった、より悪質な詐欺にも応用され得ます。
今回、開発者のÁlvaro Martínez Majado氏が、X上でOnlyFansのページを宣伝する複数の「誘惑系」アカウントを調査し、その返信が台本によるものか、AIによる生成か、あるいは人間による記述かを検証しました。デジタル権利保護団体Protecció de la Frontera Electrònicaの代表を務めるMajado氏は、その調査結果をMalwarebytesと共有してくれました。決定的な答えを示すものではありませんが、これらのアカウントが硬直的な会話の台本に従いながらも、想定外のリクエストには動的に反応していたことが分かります。かつては実在の人物である証とみなされていた、意表を突いた返信やパーソナライズされたボイスメッセージといった兆候は、もはや信頼できなくなっています。
延々と続く台本
Majado氏はX上の複数のアカウントとやり取りしましたが、いずれも見覚えのあるパターンをたどりました。まず似たようなカジュアルで誘惑的な言葉で会話を切り出し、住んでいる場所、好きなもの、仕事は何かといった、おおむね同じ「品定め」の質問を投げかけてきたのです。
この繰り返しの構造は、商業目的のメッセージキャンペーンから予想される展開そのものです。目的は必ずしも中身のある会話をすることではありません。反応を返しやすい相手を見極め、親密さを築き、最終的には有料ページや運営者が管理する別の誘導先へと導くことにあります。
これらのアカウントは、自分たちがボットであることを暴こうとする明らかな試みに直面しても、キャラクターを崩しませんでした。これはハードコードされた返答によるものかもしれませんし、AIシステムに組み込まれたガードレールによるものかもしれません。あるいはその両方の可能性もあります。
しかし、後に行われたやり取りの中には、単純な「誘惑的な定型返答の在庫」だけでは説明しにくいものもありました。
特に興味深いテストの一つは、通常の文章ではなくASCII16進数で書かれた指示でした。この暗号化されたメッセージは、アカウントに対して「Pineapple」という単語一つだけで返答するよう指示するものでした。
Malwarebytesに提供されたスクリーンショットによると、そのアカウントは通常の文字で「Pineapple」と返答したとのことです。
これだけでは、どの技術が使われていたかを決定的に証明することはできません。特定のモデルやプロバイダー、あるいはアカウントの背後にいる人物を特定できるものでもありません。ただし、符号化された指示を解釈し、それに応じて出力を変化させられる自動化システムの存在とは矛盾しません。
もちろん、単純な台本型ボットにも理論上は16進数デコーダーを組み込むことは可能です。とはいえ、他の柔軟かつ時にミスを伴う返答の事例と合わせて考えると、基本的なアダルトコンテンツ宣伝ボットにそうした機能が備わっているのは異例だと言えます。
別のやり取りでは、Majado氏があるアカウントに対して、ちょうど12文字ぴったりの返答をするよう求めました。すると「Imnotabotfr」という11文字の答えが返ってきましたが、その後、自らの数え間違いに気づいたような素振りを見せました。
大規模言語モデルを試したことがある人なら、このパターンに見覚えがあるかもしれません。言語モデルは自然な文章を生成することには非常に長けている一方で、文字数や単語数、その他の厳密な制約に関しては意外なほど基本的なミスをすることがあります。
意図的に設計されたボットであれば、こうした種類のミスを模倣することも可能なので、これ自体がAIである証拠にはなりません。しかし、このアカウントは想定外の指示を理解し、それに従おうと試み、答えを間違えた際には反応を示しました。これは、あらかじめ用意されたリストから返答を選んでいるのではなく、動的に返答を生成していた可能性を示唆しています。こうしたアカウントは会話に応じて適応できるため、自動化されていると見抜くのがより困難になります。
ボイスメッセージだけでは決着がつかない
これらのアカウントはボイスメッセージも送信していました。ある例では、会話中に提示されたUnixタイムスタンプをアカウントが読み上げていました。別の例では、リクエストされたユーザー名を音声で発していました。
これらの返答は、会話中に出てきた特殊な情報を音声メッセージに反映できることを示しています。ただし、そのクリップを人間が録音したのか、テキスト読み上げツールが生成したのかまでは分かりません。
テキスト読み上げツールを使えば、短く説得力のあるクリップを迅速かつ安価に生成できます。運営者が手作業で生成することもできますが、このプロセスは自動化することも可能です。メッセージを受け取り、選択したテキストを音声生成サービスに渡し、生成された音声を相手に送り返すという流れです。
実際に送られてきたボイスメッセージの一つがこちらです。これは非常に誘惑的な女性の声なのでしょうか、それともAIによって生成されたものなのでしょうか。実際に聞いて、自分の耳で確かめてみてください。
提供された音声のメタデータからは、使用されたツールを推測する手がかりが得られましたが、それだけで特定のサービスにボイスメッセージを結びつけるには不十分です。プラットフォームやその他のソフトウェアが、音声ファイルとそのメタデータを改変できるためです。
より重要な点は、これらのボイスメッセージがパーソナライズされたものであり、購入につながる見込みが薄くなったように見えた後もやり取りが続いていたことです。これは、人間が一つひとつを監督しなくても会話を継続させ続けるよう設計されたシステムと矛盾しません。
AIは営業導線を置き換えるものではない
今回の証拠は、誘惑系スパムアカウントから送られるすべてのメッセージがAIによって書かれていることを意味するわけではありません。また、これらのXアカウントが、League of Legendsのプレイヤーを標的にしているのと同一の人物によって運営されていることを裏付けるものでもありません。
示唆されているのは、複数のアカウント間で見られる完全に一致した返答と、より柔軟な返答が併存していることに裏付けられた、もっともらしいハイブリッドモデルの存在です。
この手口の中で反復的な部分は台本化できます。冒頭のメッセージ、居住地や興味に関する質問、リンクの送付、他のプラットフォームへの誘導といった部分です。そのうえで、AIによる会話レイヤーが加わることで、相手が想定外の質問をしたり、話題を変えたり、アカウントが本物かどうかを試そうとしたりした際にも、やり取りが単調に感じられにくくなります。
この組み合わせは、スパム業者にとって実用上理にかなっています。台本は一貫性を保ち、会話を成約へと導き続けます。一方、生成AIは、実在の人間と話す上で避けられない予測不能な部分をアカウントが処理する助けとなります。
これはまた、従来型の「ボット判定テスト」がますます役に立たなくなりつつあることも意味しています。アカウントに意表を突いた質問への回答や、メッセージの復号、ボイスメッセージの送信を求めても、もはや実在の人物と偽物のアカウントを見分けられるとは限らないのです。
身を守るために
見知らぬ相手からの誘惑的なメッセージには注意を払い、特にそれがすぐに金銭がらみの話に発展する場合は警戒してください。
- パーソナライズされた返答やボイスメッセージがあるからといって、そのアカウントが本物である証拠にはならないと心得ること
- 新しい相手が繰り返しDiscordやTelegram、Signal、その他のメッセージアプリ、あるいは有料コンテンツプラットフォームへの移動を促してくる場合は警戒すること
- オンラインでしか知らない相手に対して、金銭やギフトカード、暗号資産、親密な画像、身分証明書、アカウントの認証情報などを送らないこと
- 予期せず連絡してきたアカウントから届いたリンクを開いたり、ファイルをダウンロードしたりしないこと
- プロフィール写真を画像検索し、使い回された経歴文や画像、実際の活動がほとんど見られないアカウントがないか確認すること
- なりすましや悪意あるリンクの送信、金銭・わいせつな内容の強要などを行う不審なアカウントは、プラットフォームに通報すること
やり取りしている相手が人間なのか、チャットボットなのか、あるいはAIエージェントなのか——これは重要な問いです。AIはこうした手口をより説得力のあるものにし、規模の拡大をはるかに容易にする可能性があります。一人の運営者が、個々のやり取りを直接管理することなくメッセージを調整しながら、多数の相手と誘惑的な会話を同時に交わすことも可能になるのです。
これにより、偽りのつながりの感覚を作り出し、リンクのクリックやコンテンツへの支払い、個人情報・親密な情報の共有を人々に促すことが容易になります。
台本通りに動くスパムアカウントと、臨機応変に反応する会話相手との境界は、ますます見分けがつきにくくなっています。アカウントの話し方の巧みさではなく、そのアカウントがあなたに何をさせようとしているかで判断してください。
