人工知能（AI）企業のAnthropicは、未知の脅威アクターがそのClaudeチャットボットを利用して、FacebookとXの本物のアカウントと関与する「影響力サービス」としての操作を行ったことを明らかにしました。
この高度な活動は、金銭的動機によるものとされ、AIツールを使用して2つのソーシャルメディアプラットフォーム上で100の異なる人物を操作し、「政治的に整合したアカウント」のネットワークを作成し、「数万」の本物のアカウントと関与しました。
現在は中断されたこの操作は、Anthropicの研究者によると、活力よりも持続性と長寿を優先し、ヨーロッパ、イラン、アラブ首長国連邦（U.A.E.）、ケニアの利益を支持または弱体化させる中庸な政治的視点を増幅しようとしました。
これには、U.A.E.を優れたビジネス環境として宣伝し、ヨーロッパの規制枠組みに批判的であり、ヨーロッパの観客に対するエネルギー安全保障の物語や、イランの観客に対する文化的アイデンティティの物語に焦点を当てました。
また、アルバニアの人物を支持し、特定されていないヨーロッパの国の反対派の人物を批判する物語を推進し、ケニアの開発イニシアチブや政治的な人物を支持しました。これらの影響力操作は、国家に関連するキャンペーンと一致していますが、正確に誰が背後にいるのかは不明であると付け加えました。
“特に新しいのは、この操作がコンテンツ生成だけでなく、ソーシャルメディアのボットアカウントがいつコメント、いいね、または本物のソーシャルメディアユーザーの投稿を再共有するかを決定するためにClaudeを使用したことです”と会社は述べました。
“Claudeは、政治的に動機付けられたペルソナに基づいてソーシャルメディアのボットアカウントがどのような行動をとるべきかを決定するオーケストレーターとして使用されました。”
Claudeが戦術的な関与の意思決定者として使用されたにもかかわらず、チャットボットはペルソナの声と母国語で適切な政治的に整合した応答を生成し、2つの人気のある画像生成ツールのプロンプトを作成しました。
この操作は、さまざまな国の異なるクライアントに対応する商業サービスの仕事であると考えられています。このプログラムフレームワークを使用して、少なくとも4つの異なるキャンペーンが特定されています。
“この操作は、プラットフォーム間での継続性を維持し、本物の人間の行動を模倣する一貫した関与パターンを確立するために、ペルソナ管理に高度に構造化されたJSONベースのアプローチを実装しました”と研究者のKen Lebedev、Alex Moix、Jacob Kleinは述べました。
“このプログラムフレームワークを使用することで、オペレーターは効率的に努力を標準化および拡大し、複数のアカウント間でペルソナ属性、関与履歴、および物語のテーマを体系的に追跡および更新することができました。”
キャンペーンのもう一つの興味深い側面は、他のアカウントからボットである可能性を指摘された際に、ユーモアや皮肉を交えて自動アカウントに応答させるよう「戦略的に」指示したことです。
Anthropicは、この操作が関係構築とコミュニティ統合を中心とした影響力操作を評価するための新しいフレームワークの必要性を強調していると述べました。また、AIが影響力キャンペーンを実施するための障壁をさらに下げるにつれて、同様の悪意のある活動が今後一般的になる可能性があると警告しました。
他の場所では、同社は、漏洩したパスワードやユーザー名をスクレイピングし、盗まれた資格情報を使用してインターネットに接続されたターゲットをブルートフォースする方法を考案するためにそのモデルを使用している高度な脅威アクターを禁止したと述べました。
脅威アクターはさらに、Claudeを使用してTelegramに投稿された情報スティーラーログからの投稿を処理し、ターゲットURLをウェブサイトからスクレイピングするスクリプトを作成し、検索機能を向上させるために自分たちのシステムを改善しました。
2025年3月にAnthropicが発見した他の2つの悪用事例は以下の通りです –
- 東ヨーロッパの国々の求職者をターゲットにした詐欺の内容を強化するためにClaudeを活用したリクルート詐欺キャンペーン
- 技術能力を向上させるためにClaudeを活用し、ダークウェブをスキャンし、検出されない悪意のあるペイロードを生成してセキュリティ制御を回避し、侵害されたシステムへの長期的な持続アクセスを維持する能力を持つ高度なマルウェアを開発する初心者アクター
“このケースは、AIが悪意のあるアクターの学習曲線を潜在的に平坦化し、限られた技術知識を持つ個人が高度なツールを開発し、低レベルの活動からより深刻なサイバー犯罪活動への進行を加速させる可能性があることを示しています”とAnthropicは述べました。