OpenAIは、カンボジアのプレアシハヌーク州を拠点としていたとみられる、協調的なChatGPTアカウント群を停止しました。同州はオンライン詐欺拠点や人身売買組織との関連が各種報道で指摘されている地域です。
この組織はOpenAIのモデルを使って偽のオンライン人格を作成・運用し、詐欺のターゲットに送るメッセージの生成・翻訳を行い、詐欺スキームの宣伝コンテンツを制作するなど、日常業務全般を支援していました。
今年初め、WhatsAppからの情報提供を受けてOpenAIは調査に乗り出し、投資詐欺、ロマンス詐欺、ギャンブル詐欺、そして法執行機関へのなりすまし詐欺を支援するためにChatGPTを利用していた、カンボジアを拠点とする詐欺組織を停止させました。
「このネットワークに関連する金銭的被害の全容は不明ですが、詐欺師自身のやり取りから見る限り、この詐欺行為は複数の詐欺手口にわたって数百人のターゲットと接触した可能性があります。ユーザー間の会話には、個々の被害者が数千ドルを失ったという記述も見られましたが、これらの主張を独自に検証することはできませんでした」とOpenAIは述べています。
詐欺の手口
この組織は複数の詐欺を同時並行で行っており、しばしば異なる手口の要素を組み合わせていました。ターゲットとのやり取りにおいて、詐欺師たちは同社が「ピング（ping、最初の接触）」「ジング（zing、感情の喚起）」「スティング（sting、金銭の搾取）」と呼ぶ段階を踏んでいました。
このネットワークの詐欺師たちが、カンボジアでの求人をソーシャルメディアで宣伝するために作成したAI生成画像。黒塗り処理はOpenAIによるもの。（出典: OpenAI）
詐欺師たちはChatGPTを使ってメッセージを翻訳し、WhatsAppやTelegramなどのプラットフォーム上でターゲットとの会話を生成していました。また、ソーシャルメディアの投稿を作成したり、出会い系プロフィールや関連コンテンツを調査したりして、偽のアイデンティティの信憑性を高めていました。
彼らのメッセージは信頼関係を築き、緊迫感を演出するように作り込まれていました。保証された利益や「リスクゼロ」の投資を持ちかけ、恋愛感情に訴える言葉を使い、会話を他人に話さないよう促し、偽の特典やボーナスの期限が切れる前に行動するよう圧力をかけていました。
被害者を引き込んだ後、詐欺師たちは偽の報酬を受け取るための送金や、活性化手数料の支払い、でっち上げの罰金の清算などを指示していました。その後、送金が完了した証拠として支払いのスクリーンショットの提出や口座情報の共有を被害者に求めていました。
人身売買との関連
このネットワーク内の一部のアカウントは、東アジアの組織犯罪集団に関連する人身売買や強制的な犯罪行為とのつながりを示すコンテンツを生成していました。公開されている報道によれば、こうした組織集団は合法的な雇用を約束して人々を勧誘した後、債務による束縛や強制的な労働環境に陥れているとされています。
ChatGPTは事務作業にも使われており、社内向け通知の下書き作成、スタッフ間のメッセージの翻訳、採用・在留資格・労働環境・従業員の懲戒に関する事項の記録などに利用されていました。
このネットワークはまた、OpenAIのモデルを使って航空券、宿泊施設、食事、ビザ、労働許可証を提供するソーシャルメディア広告を作成していました。その他の活動としては、従業員の債務、給与天引き、罰金、ローンの返済、ビザの期限超過、労働許可証、在留資格、採用インセンティブなどを記録して労働者を管理する業務も含まれていました。
一部の会話からは、関与していた人々が自発的にそこにいたわけではない可能性がうかがえました。拘束や逃亡の試み、刑事責任を問われることへの懸念に言及する内容も見られました。これらの会話だけで個々人の身に何が起きたかを断定することはできませんが、人々を人身売買しオンライン詐欺の運営で強制労働させる組織犯罪集団に関する公開報道の内容と一致しています。
翻訳元: https://www.helpnetsecurity.com/2026/08/03/openai-disrupts-chatgpt-scam-operation/
