OpenAIは、カンボジアのサイバー詐欺センターによるChatGPT利用を停止させたと発表しました。これらの詐欺センターは、投資詐欺や人身売買の運用にチャットボットを組み込んでいました。
詐欺グループはChatGPTを使って投資詐欺、ロマンス詐欺、ギャンブル詐欺、法執行機関になりすました詐欺を展開していたほか、インドの人々をターゲットにした偽の求人広告も作成していました。OpenAIはこの手口についてWhatsApp担当者から通報を受け、関連するアカウントを禁止したと述べています。
「調査の過程で、行為者が詐欺の種類を渡り歩いたり、一つの作戦の中で複数の詐欺手法を組み合わせたりする様子が日常的に見られます」と、OpenAIはブログ投稿で述べています。
「このネットワークは当社のモデルを使い、偽のオンライン人格の作成と運用支援、詐欺対象者に送るメッセージの生成・翻訳、詐欺スキームの宣伝コンテンツの作成、そして日常業務の補助を行っていました」
一連の活動は、中国系犯罪組織が運営する詐欺組織と深いつながりを持つカンボジアの都市、ポイペトを拠点としていることが判明しました。
詐欺グループはChatGPTを使い、パスポート、法的通知書、株式購入確認書、ギャンブルプラットフォームのページなどの偽画像を作成していました。
詐欺センターの運営者たちは、組織内の連絡事項の作成、スタッフ間のメッセージ翻訳、インドで配布する採用チラシの作成といった業務運営の補助にもChatGPTを活用していました。このチラシには、無料の航空券、宿泊施設、就労ビザなどを提供するという虚偽の約束が記載されていました。
「利用者は従業員の債務、給与天引き、懲戒罰金、ローン返済に関する記録を管理し、在留資格、労働許可、ビザの期限超過、採用インセンティブに関するやり取りを翻訳していました」とOpenAIは述べています。
「また一部の会話には、拘束されているとみられる状況、逃亡の試み、そして人身売買の被害に遭い詐欺運営での労働を強いられた人々が問われうる刑事責任についての言及も含まれていました」
OpenAIはこのスキームに関連する金銭的損失額を算出できなかったとしていますが、この作戦は「複数の詐欺類型にわたって数百人規模の対象者と接触した可能性がある」とし、被害者が数千ドルを失ったことに言及する会話も複数確認されたとしています。
米国と中国の法執行機関が今年初めに数十カ所の詐欺センターを摘発する措置を講じたにもかかわらず、詐欺センターは東南アジア全域で増殖を続けています。専門家からは、詐欺センターが南アジアやアフリカにも拡大しているとの懸念も上がっています。
INTERPOL(国際刑事警察機構)は月曜日、アフリカ全域のサイバー犯罪の半数以上が何らかの形で人工知能を活用しているとの調査結果を発表しました。
同機構は36の加盟国を対象に調査を実施し、法執行機関はAIが「偵察やフィッシングから恐喝、検知回避まで、攻撃ライフサイクルのあらゆる段階を自動化するために今や利用されている」と考えていると述べています。
詐欺師たちはAI生成の音声・映像を使って政府高官になりすましており、ウガンダで発生したある事案では、著名人の画像を悪用した偽の投資スキームの宣伝により200万ドル以上の損失が発生しました。
翻訳元: https://therecord.media/openai-chatgpt-cambodia-scam-centers-disruption
