49歳のレンガ職人の男性が、恋に落ちたオンラインインフルエンサー「ジェシカ」に会うため、持ち物を売り払ってブラジルの自宅からバスで2,000kmを移動しました。しかし、30万人を超えるフォロワーを持つSNSアカウントがあったにもかかわらず、彼女は実在しませんでした。
エジマール・ロシャ・マルティンスさんは、ブラジル北東部の都市インペラトリスに住んでいます。彼によると、南東部の都市ベロオリゾンテ近郊に住むとされるジェシカ・ファゼンデイラさんとオンラインで会話を始めたといいます。
愛を約束するAIペルソナ
このオンライン上のペルソナの名前「ファゼンデイラ」は、おおまかに「女性の農場主」を意味します。彼女は自分が農場で暮らしていると説明していました。
マルティンスさんは、2020年からこのペルソナとオンラインでやり取りしていたと話しています。彼女が旅費を負担し、農場で一緒に暮らそうと申し出たため、会いに行くことを決めたといいます。これに対し、アカウントの運営者は、このキャラクターは2025年に作成されたもので、彼との個人的なメッセージのやり取りもなかったと主張しています。
彼女のオンラインアカウントの1つに投稿された動画（ブラジルのニュースサービスImiranteがこちらで記録）は、一緒に暮らしてくれる男性を募り、旅費の提供を申し出る内容でした。
AIが生成したこの農場主は、次のように語っています（翻訳）。
冗談ではありません。私は真剣です。私と一緒に、本物の素敵なものを築いてくれる人に出会いたいのです。穏やかで静かな暮らしが好きな素朴な男性なら、きっと私たちはとても気が合うと思います。
マルティンスさんは持ち物を売ってバス代を工面し、ベロオリゾンテに到着すると、彼女の消息を尋ね歩き始めました。見つけられずに地元のラジオ局を訪ねたところ、スタッフから彼女がAIで生成されたキャラクターであると告げられました。
帰る費用がなかった彼は、市の移住者支援サービスから食事や支援を受け、トカンチンス州アウグスチノポリス行きのバスのチケットを提供されました。その後、インペラトリスに戻り、親族のもとに身を寄せています。
アカウント運営者が反論
アカウントの管理者は、このAIキャラクターのTikTokアカウントを通じて、詐欺を否定するメッセージを投稿しました。翻訳すると、次のような内容です。
このプロフィールはほぼ放置状態ですが、当たり前のことをお伝えするためにここに来ました。私は人工知能でできていて、このプロフィールで誰かと話したことはありません。目的は、販売につなげるためのエンゲージメントを獲得することでした。誰かと直接話したこともなければ、ましてや誰かをベロオリゾンテに呼び寄せたこともありません。
運営者は記者に対し、このキャラクターは視聴者を集め、アフィリエイト販売で商品を宣伝するために作られたと語りました。キャラクターのコンテンツが他のアカウントで再利用されていたかどうかは、わからないとしています。
別の動画には、人々がこのアカウントに送ったとされるメッセージが映っており、キャラクターは自分がAIであることを視聴者に伝え続けていると説明しています。そして、次のように不満を述べています。
それでも結局、私のせいになるんでしょう？ この人たちは迷子です。
AIが生成した男性キャラクターにインタビューされる別の動画では、このペルソナがアカウントを停止し、その後再開したと説明しています。次のように語っています。
私は、何の理由もなくキャンセルされた最初のAIです。
これらは、AIが自ら弁明しているわけではなく、架空のキャラクターを通じて公開された台本どおりの発言です。
警察は、現段階では犯罪が成立するかどうか判断できないとしています。
あるメディアは、マルティンスさんが母親の死後、孤独に苦しんでいたと報じています。
再開されたTikTokアカウントに投稿された動画には、AI生成であることを示すラベルが付いています。このアカウントは、このキャラクターの動画を掲載したInstagramアカウントにもリンクしており、そちらの動画にも同様のラベルが付いています。ただし、現在のこれらのラベルは、マルティンスさんが旅に出る前に何を見ていたかを示すものではありません。
SNSはすでに、視聴者が自分を知らない相手に個人的なつながりを感じる「疑似社会的関係」を助長しています。AIが生成したペルソナは、そこにさらなる問題を加えます。視聴者がつながりを感じている相手が、完全に架空の存在かもしれないのです。
当社のFace valueレポートでは、調査対象の成人の88%が、オンラインコンテンツが本当に人間によるものか本物かを見分けることが難しくなっていると回答しました。
広がるAIをめぐる疑念
6月には、ボア・ビスタの自宅から4,000kmを移動してベロオリゾンテへ向かった72歳の男性に関する報道がありました。彼は、SNSで仕事の機会を、そして恐らくはそれ以上のものを提供していた農場の女性を見て、現地を訪れました。帰宅できなくなり、ソーシャルワーカーに助けを求めたといいます。
8月には、71歳のアルベルト・ダ・コスタさんが、同じ女性が登場する動画を見て、マナウスから同じ都市へ移動しました。Itatiaiaによると、彼は航空券に約3,000レアルを支払い、帰る費用がなくなったため同メディアに助けを求めました。
これらの動画は個人的な会話を装い、女性が視聴者に直接語りかけているかのような印象を与えていました。このアカウントには、100万人近いフォロワーがいたとされています。
この女性がAIで生成されたものか、アカウントがジェシカのものとつながっていたのかは、報道からは確認できません。男性たちが運営者に金銭を送ったかどうかも不明です。それでも、持ち物を売り、旅費を払い、遠く離れた土地で身動きが取れなくなるという実害は現実のものです。
自分と周囲を守るために
ロマンス詐欺と同じ対策が当てはまりますが、いくつか追加の注意点があります。会ったことのない相手には、その素性を自分で確認しないまま、送金したり会いに出かけたりしてはいけません。
ビデオ通話だけを信用するのも禁物です。詐欺師は現在、ディープフェイクのビデオ通話を使い、リアルタイムで被害者をだましています。また、自分がやり取りしているのが個人的なメッセージなのか、誰でも見られる公開動画なのかも確認してください。
アカウント以外の情報も調べましょう。名前やプロフィール写真を検索し、勤務先とされる場所も調べます。話のつじつまが合わなかったり、身元に関する質問を避けたりする場合は注意が必要です。
相手に親近感を抱いていると、そのつながりを疑うのは難しいものです。送金や旅行の予約をする前に、友人や家族に相談し、意見を聞いてください。また、似た状況にある人が身近にいて心配な場合は、責めずに声をかけ、一緒にアカウントを確認することを申し出てみましょう。
画像提供：Jam Press
