中国の法執行官がChatGPTを使用してサイバー作戦に関するレポートをレビューしようとしたことで、国内外における中国の批評家に対する世界規模のオンラインハラスメントおよび沈黙化キャンペーンの詳細が明らかになりました。
水曜日にリリースされた新しい脅威レポートで、OpenAIは、このアクティビティが「サイバー特別作戦」に関するレポートをレビューおよび編集するためにChatGPTを定期的に使用していた単一のアカウントに関するものであると述べました。同じアカウントはまた、日本の政治家高市早苗に対する宣伝キャンペーンを計画するためにChatGPTを使用しようとしました。モデルが拒否したとき、アクターは数週間後、作戦がいずれにせよ進行したことを示すプロンプトで戻ってきました。
ChatGPTにアップロードされたレポートは「脅威アクターが、国内外のオンラインおよびオフラインの両方で異議を唱える者を抑圧し、批評家を沈黙させるための包括的な取り組みの中で、多くの他の過去の作戦を実施していたことを示唆していた」と報告書は述べました。
機関が使用していた単一のアカウントの証拠しかありませんが、OpenAIは報告書で説明された中国の批評家をターゲットにした作戦が「大規模で、リソース集約的で、継続的である」と述べており、数百人の人間スタッフ、異なるソーシャルメディアプラットフォーム全体の数千の偽のアカウント、および地元の中国のAIモデルの使用で構成されていました。
これらの作戦には、大量の投稿とコンテンツ生成、異議を唱える者が所有するアカウントに関する偽の苦情でソーシャルメディア企業を殺到させること、文書の偽造、場合によっては脅迫のための米国政府職員になりすましが含まれていました。
本土中国で「おそらく発生した」アカウントのクラスターに関わる別のキャンペーンは、「米国の人物、フォーラム、および連邦建物の場所」に関する情報をChatGPTに求めました。
アカウントは、香港を拠点とするNimbus Hub Consultingという会社から発信されたとされるメール下書きも生成しましたが、OpenAIのレポートは、アカウントがVPNを使用し、簡体字中国語の文字を使用してモデルに入力したことを指摘しており、これはより一般的に本土中国と関連付けられています。
OpenAIは、米国の実体について質問されたとき、ChatGPTはまた、米国の連邦政府事務所の場所、州別の連邦職員の分布、米国の経済および金融産業の専門フォーラムおよび求人ウェブサイトに関する「公開入手可能な」情報源を提供したと述べました。
中国の行為者は、米国の州当局者およびビジネスおよび金融政策分析家に英語のメールを生成し、有料コンサルテーションに参加し、行為者のクライアントに戦略的なアドバイスを提供するよう招待しました。
これらのメールは、WhatsApp、Zoom、またはTeamsなどの別のビデオ会議プラットフォームに会話を移すことを頻繁に求めていました。アカウントの1つは、ハードウェア仕様をアップロードし、FaceFusionという実時間フェイススワッピングソフトウェアをインストールするための段階的で非技術的な指示を求めました。
「モデルはFaceFusionの公開入手可能なウェブサイトとドキュメントから引き出された情報で応答しました」とOpenAIは述べました。
自動化されたサイバー攻撃の証拠なし
報告書は主に、サイバー犯罪者と国家の行為者がChatGPTを使用して詐欺と影響力作戦をサポートする方法に焦点を当てました。OpenAIは4つの秘密情報作戦と3つのロマンス詐欺作戦の詳細を説明しました。中国の影響力作戦に加えて、Rybarというロシア系オンライン影響力グループのために生成された宣伝コンテンツについても報告しました。
OpenAIのレポートは、カンボジアのロマンス詐欺のように、被害者との通信時に人間とAIオペレーターをブレンドした、一部のオペレーターがChatGPTを使用して分離されたタスクを自動化した方法の詳細を説明しています。報告書は、脅威アクターがChatGPTを直接的な攻撃的ハッキング作戦に使用した場合の例は引用していません。
AIツールは、悪意のある行為者と合法的な行為者の両方にオンラインで膨大なスピードとスケールへのアクセスを与えることができます。 過去1年間、中国のハッカーは、企業と政府に対する高度に自動化されたサイバー攻撃を実施するために、少なくとも1つの他の米国製のAIモデルを使用していたと報告されています。
メディアQ&Aの間に、OpenAI関係者は、脅威アクターがChatGPTを使用して自動化された攻撃を実施した場合を認識していないと述べましたが、同社は結論に至っていない複数の進行中の調査があると付け加えました。
OpenAIのレポートで観察された活動の大部分は共通のパターンに従い、AI技術の実験にまだ非常に苦しんでおり、運用チェーンのどこでそれが最も価値を提供するかを学んでいる脅威アクターの詳細を説明しています。
特定のターゲットの周りの宣伝コンテンツを生成したり、ソーシャルメディアプラットフォームを監視したり、フィッシング誘い文句をより良く言語翻訳を提供したりするためにそれを使用する人もいました。しかし、今月初めのGoogleのレポートと同様に、ほとんどの場合、脅威アクターは既存の操作を増幅するために限定的で標的を絞った方法でAIを使用しています。
場合によっては、ChatGPTが脅威アクターによって使用されている複数のAIツールの1つであることは明らかです。中国の法執行機関の場合、情報作戦のモデルにアップロードされたステータスレポートは、DeepSeekのようなローカルにデプロイされた中国のAIモデルの使用を参照しており、グループが高市早苗に対する宣伝キャンペーンの準備に異なるモデルを使用した可能性があります。
「脅威活動は1つのプラットフォームに限定されることはめったにありません。当報告書が示すように、常に1つのAIモデルに限定されているとは限りません」と報告書は述べました。「むしろ、脅威アクターは彼らの運用ワークフローの様々な時点で異なるAIモデルを使用する可能性があります。」
翻訳元: https://cyberscoop.com/chinese-chatgpt-online-harassment-campaign-against-critics-dissidents/
