OpenAIは、カンボジアを拠点とする詐欺工場が複数手口の詐欺や人身取引関連の活動に利用していたChatGPTアカウント群を、協調的なネットワークごと停止しました。同社は業界関係者や関係当局とも情報を共有し、このネットワークの再構築を著しく困難にしています。
2026年初め、OpenAIの脅威インテリジェンスチームは、投資詐欺、ロマンス詐欺、ギャンブル詐欺、そして法執行機関を装った詐欺を仕掛けるためにChatGPTを悪用していた詐欺シンジケートを摘発しました。これはWhatsAppからの端緒情報を発端としたものです。
この不正な活動は、バンテアイミエンチェイ州ポイペト周辺で活動していたとみられる、協調的なアカウント群にたどり着きました。この国境地帯は、オンライン詐欺コンパウンドや人身取引との関連が、これまでも複数の報道で繰り返し指摘されてきた地域です。
OpenAIは関与していたChatGPTアカウントを無効化し、脅威シグナルを業界パートナーおよび関係当局に提供したうえで、このネットワークが同社のAIサービスへ再びアクセスできないよう追加の対策を実施しました。
カンボジア拠点のこのネットワークの運営者たちは、ChatGPTを使って偽の出会い系プロフィールや「投資エキスパート」といった架空の人物像を作り上げ、WhatsAppやTelegramでの勧誘に使うスクリプトの翻訳・最適化を行っていました。
また、標的との長期的な関係構築を装うためのソーシャルメディア投稿を作成し、その後偽の暗号資産取引や現物金取引へと誘導していました。
OpenAIの調査は、現代の詐欺エコシステムが抱える重要な実態を浮き彫りにしています。組織的な犯罪集団は、もはや単一の詐欺分野に活動を限定せず、複数の物語や人物像を柔軟に組み合わせることで、被害者の取り込み率を最大化しているのです。
他の人物像では、オンラインギャンブルプラットフォームの担当者を装って偽のボーナスを持ちかけたり、法執行機関の職員を名乗って、でっち上げの重大犯罪容疑に対する架空の罰金を被害者に支払わせようと迫ったりしていました。これらの手口では、偽造パスポートや法的通知書、取引画面などのAI生成画像がしばしば使われていました。
OpenAI、ChatGPTアカウントを停止
2025年6月と10月に公表されたOpenAIの「Disrupting Malicious Uses of AI」レポートで確認されたパターンと同様、このネットワークは被害者とのやり取りにおいて「ピング、ジング、スティング(ping, zing, sting)」という反復可能なライフサイクルをたどっていました。
ピング(ping)段階ではAIを活用した接触が行われ、ChatGPTが最初の接触メッセージの生成・翻訳を担い、運営者がもっともらしい出会い系や職業上の人物像を作り込む際の調査を支援していました。
ジング(zing)段階では、感情操作の手法が用いられました。保証された「リスクゼロ」のリターンを約束したり、熱烈な恋愛表現を用いたり、秘密厳守を指示したり、期限が迫るボーナスをでっち上げたりすることで、信頼を深めさせ、被害者に圧力をかけていたのです。
最後のスティング(sting)段階では、活性化手数料の入金や、想定される報酬の受け取り、架空の法的罰金の支払いを被害者に迫り、証拠としてスクリーンショットやアカウント情報の提出を要求していました。これにより、大量の標的に対して迅速な金銭化が可能になっていました。
純粋な詐欺行為にとどまらず、OpenAIはこの詐欺工場の内部運営において、人身取引や強制労働を強く示唆する活動も確認しています。
ChatGPTは、ポイペトでの「チャッター」職の求人広告をソーシャルメディア向けに生成する目的でも利用されていました。この広告では航空券、宿泊施設、食事、ビザ、就労許可証などが約束されており、その文言は、正当な雇用を装って労働者を勧誘した後、債務による束縛や強制で拘束するという、東南アジアの詐欺コンパウンドに関するこれまでの広範な報道内容と一致しています。
捜査担当者はまた、従業員の借金、給与からの天引き、懲罰的な罰金、ローン返済を記録したコンテンツや、ビザの期限超過、就労許可証、逃亡の試み、そして人身取引された労働者が負う可能性のある刑事責任に関する議論の翻訳文も確認しました。これは、カンボジアのサイバー詐欺センターに関するアムネスティ・インターナショナルや米国の人身取引報告書の指摘内容とも符合しています。
正確な被害額はいまだ不明ですが、内部の通信記録には数百人規模の標的への言及があり、混在する各種の詐欺手口によって個々の被害者が数千ドル規模の損失を被っていたことも記録されていました。
OpenAIはこれを受けて、この不正な活動に関連すると特定した全てのChatGPTアカウントを禁止し、確認された具体的な手口や言語的特徴に対応するよう不正利用検知パイプラインを調整するとともに、メッセージングプラットフォーム各社に指標や分析情報を共有しました。
今回の事案は、OpenAIの脅威インテリジェンス関連の発表資料に記されているより広範な傾向を裏付けるものです。すなわち、大規模言語モデルが詐欺や人身取引のインフラにますます組み込まれるようになっており、効果的な対策には業界を横断した継続的な脅威インテリジェンスの共有と、モデルレベルでの積極的な安全対策が不可欠になっているということです。
100万ドルのデータ侵害保証は本物の補償と言えるのか？： AI SOC侵害保証ガイド（10のポイント）を無料でダウンロード
ComputerSecurity
翻訳元: https://gbhackers.com/openai-shuts-down-chatgpt-2/
