出典: mundissima via Alamy Stock Photo
ニュース概要
OpenAIは、ロシアや中国のような国の国家支援アクターによって運営されているChatGPTアカウントを禁止しました。
これらのアカウントは、マルウェア開発、ソーシャルメディアの自動化、米国の衛星通信技術に関する研究などを支援するために使用されていたと、OpenAIの報告書によると述べられています。
過去3か月間、OpenAIの調査チームは、ソーシャルエンジニアリング、サイバースパイ、欺瞞的な雇用計画、影響力操作、詐欺などの悪用活動を検出し、阻止することができました。同社は、調査においてAI技術を「フォースマルチプライヤー」として使用したと述べています。
これらの活動の多く（10件中4件）は中国から発生しているように見えましたが、カンボジア、フィリピン、イラン、ロシアからの活動も検出されました。
この技術大手は、USAIDの閉鎖や米国の政治的論争などのトピックに関するソーシャルメディア投稿を大量に生成するためにChatGPTを使用していた中国拠点のアカウントを数十件禁止したと述べています。
カンボジアのChatGPTアカウントは、英語、スペイン語、スワヒリ語を含むさまざまな言語で短いリクルートスタイルのメッセージを生成していることが判明しました。北朝鮮では、アカウントがセキュリティ対策を回避し、検出されずにリモートプレゼンスを維持するために使用できる技術ツールを研究するためにChatGPTを使用していました。北朝鮮の脅威アクターは、ChatGPTを使用して作業タスクを実行し、IT労働者計画でハードウェアを操作しようとした後に禁止されました。そしてロシアでは、ハッカーがChatGPTを使用してWindowsマルウェアを開発し、コードをデバッグし、コマンドアンドコントロールインフラストラクチャを作成していました。
OpenAIは、この活動の一部を中国政府に関連する脅威グループであるAPT5やAPT15に帰属させています。
OpenAIはその執行ミッションを詳述し、AIが人々に害を及ぼさないようにする常識的なルールを通じて、できるだけ多くの人々に利益をもたらすことを信じていると述べました。
「これには、権威主義的な政権がAIツールを使用して権力を集め、市民を制御したり、他の国家を脅かしたり強制したりすることを防ぐことが含まれます。また、隠れた影響力操作（IO）、児童搾取、詐欺、スパム、悪意のあるサイバー活動などの活動も含まれます。」とOpenAIは述べています。「また、そのような悪用に対抗するためにAIを使用することも含まれます。」