- OpenAIはカンボジアのポイペトを拠点とする大規模な詐欺キャンペーンを阻止し、関連アカウントを禁止したほか新規登録もブロック
- 犯罪者らはChatGPTを使い、ロマンス詐欺、投資詐欺、偽の警察捜査を装った詐欺、さらには人身売買に関連する可能性のある活動まで展開
- AIは偽の人物像の作成、詐欺メッセージの作成、求人広告を装った勧誘、労働者管理などに悪用された。OpenAIは数百人の被害者が数千ドルを失った証拠を確認した後、当局に調査結果を共有
OpenAIは、東南アジアを拠点とする大規模な詐欺キャンペーンを阻止したと発表しました。同社は、この作戦に使われていたアカウントを禁止し、新規アカウントの開設を困難にする措置を講じました。
OpenAIはブログ投稿の中で、このキャンペーンの存在についてWhatsApp経由で情報提供を受けたと明かしています。
さらに調査を進めた結果、カンボジアを拠点とする犯罪者グループが、ロマンス詐欺や偽の投資詐欺、偽の警察捜査を装った詐欺など、さまざまな詐欺キャンペーンで同社のAIツールを悪用していたことが判明しました。このグループはまた、日常業務の補助にもAIを活用しており、さらに憂慮すべきことに、人身売買や強制的な犯罪行為に関連しうる用途にも利用していました。
拘束と逃亡未遂
OpenAIはこのグループに名称があったかどうかは明らかにしていませんが、活動拠点はポイペトであったとしています。ポイペトは「バンテアイミアンチェイ州にある都市で、これまでの報道でもオンライン詐欺拠点や人身売買活動との関連が繰り返し指摘されてきた」場所です。
このグループは、AIを使って偽の人物像を作成し、詐欺的な電子メールやチャットメッセージの作成を支援させ、さらに求人を装ったポスターの作成にも利用していました。こうしたポスターは、人身売買や強制労働に人々を誘い込むために使われていたとみられます。
このツールは労働者管理にも使用されていました。運営者らは従業員の借金、給与天引き、懲罰的な罰金、返済状況などの記録を管理していたためです。また、在留資格、就労許可、ビザの超過滞在、採用に関するインセンティブに関する話し合いの翻訳にも、このツールが使われていました。
「一部の会話では、拘束や逃亡未遂、そして人身売買の被害に遭い詐欺活動への従事を強制された人々が負う可能性のある刑事責任についても言及されていました」とOpenAIは述べています。「これらの会話だけから個々人の具体的な状況を特定することはできませんが、東南アジアにおける組織犯罪グループの活動を伝える広範な報道内容と一致しています」
同社は被害者数や、このグループが盗み取った金額の総額については明らかにしていませんが、「数百人」の被害者が「数千ドル」を失った証拠を確認したとしています。これらの調査結果は関係当局に共有されました。
