同社によると、この不正利用ネットワークは数百人の標的とやり取りしていた可能性があり、会話の中には個々の被害者が数千ドルを失ったとされるものも含まれていました。
今回の調査は、WhatsAppからの通報を端緒に始まりました。OpenAIはその後、業界パートナーや関係当局と脅威情報を共有し、関連するChatGPTアカウントを停止したほか、これらの行為者が同社サービスに再び戻ってくることを防ぐための対策を導入しました。
今回の事例は、組織的な詐欺グループが複数の詐欺行為を同時に展開できることを浮き彫りにしています。単一の犯罪手口に頼るのではなく、標的をより効果的に信じ込ませられると判断すれば、ストーリーや偽の身元、ソーシャルエンジニアリングの手法を柔軟に切り替えていたのです。
OpenAIによると、このネットワークはカンボジアを起点としている可能性が高く、バンテアイミアンチェイ州にある都市ポイペト、あるいはその周辺で活動していたとみられます。ポイペトはこれまでも、オンライン詐欺の拠点や人身売買との関連が報道で繰り返し指摘されてきた地域です。
運営者たちはAIツールを用いて偽のオンライン人格を構築・維持し、メッセージを翻訳し、宣伝資料を作成し、日常的な業務作業を支援していました。
一部のユーザーはChatGPTを事務作業にも利用しており、社内向けの告知、スタッフ間の連絡、採用関連の資料、労働条件に関する記録などが含まれていました。
このネットワークは複数の詐欺手口を同時に展開していました。
一つのパターンでは、詐欺師はマッチングアプリのプロフィールを使って被害者との関係を築いた後、暗号資産やスポット金取引を絡めた不正な投資話を持ちかけていました。
別の運営者たちは、架空の身元のもとで長期にわたる恋愛関係を装ったやり取りを続けていました。
また、オンラインギャンブルプラットフォームの担当者を装う詐欺師もおり、実際には存在しないボーナスや賞金、報酬を約束していました。
さらに、法執行機関の職員になりすまし、標的に対して重大な犯罪を犯したと告げ、直ちに罰金を支払うよう求める者もいました。
手口のストーリーはさまざまですが、活動の構造自体はどれも似通っていました。信頼を築き、緊迫感や感情を煽り、金銭をだまし取るという流れです。OpenAIはこのモデルを「ピング、ジング、スティング(the ping, the zing, and the sting)」と表現しています。
「ピング」は、WhatsAppやTelegramといったメッセージングサービスを通じた接触です。運営者たちは翻訳された、あるいはAI生成の会話、マッチングアプリのプロフィール調査、SNS上のコンテンツを駆使し、偽の身元に信憑性を持たせていました。
「ジング」は感情操作の段階です。メッセージでは確実な利益や「リスクゼロ」の投資を約束し、恋愛感情に訴える言葉を用い、秘密の厳守を求め、偽のボーナスや期限をちらつかせて緊迫感を演出していました。
「スティング」は金銭を要求する段階です。被害者は入金や有効化手数料の支払い、架空の罰金の決済を指示されたほか、支払いの証拠として銀行振込のスクリーンショットや口座情報の提出を求められることもありました。
この行為者たちはまた、パスポート、法的通知書、株式購入確認書、ギャンブルサイトの画面、架空の投資スキームの宣伝資料など、偽造または誤解を招く資料の画像も作成していました。
OpenAIはまた、人身売買や強制的な犯罪関与を示唆する内容も確認しました。一部のユーザーは、ポイペトでの「チャッター」職を募集するSNS広告を作成し、航空券や食事、宿泊施設、ビザ、就労許可証の提供を謳っていました。
他のコンテンツは、この不正組織内での労働者管理に関するものとみられます。これには、従業員の借金、給与からの天引き、懲戒罰金、ローン返済、採用インセンティブ、在留資格、ビザの期限超過滞在に関する記録が含まれていました。
SOCの調査における死角を解消し、ANY.RUNで脅威を早期に封じ込めることで、対応コストと業務への影響を軽減しましょう。
翻訳元: https://cyberpress.org/openai-scam-network-unmasked/
