アリババは7月10日から、社内の業務環境でAnthropicのClaude Codeの使用を禁止すると報じられています。同AIコーディングアシスタントに秘密裏のバックドアのような仕組みが組み込まれているとの疑惑を受けた措置です。
この決定はまずYicaiが報じ、その後Reutersが事情に詳しい関係者への取材で確認したもので、モデル蒸留とAIセキュリティの取り扱いをめぐる両社間の緊張の高まりを背景にしています。
アリババはこの制限について公式には確認しておらず、メディアからの問い合わせにも応じていませんが、今回の動きはAI搭載開発ツールのセキュリティ体制に対する企業側の懸念の高まりを示すものといえます。
Claude Codeは、開発者がソフトウェアの記述やデバッグを行う際に役立つコマンドライン形式のコーディングアシスタントで、企業環境での導入が急速に進んでいます。そのため、潜在的なセキュリティ問題が生じた場合の影響は特に大きくなります。
今回の疑惑は、6月30日に「LegitMichel777」というユーザー名でRedditに投稿された内容がきっかけでした。この投稿者はClaude Codeをリバースエンジニアリングしたと主張しています。
技術的な分析によれば、4月2日にリリースされたバージョン2.1.91以降、このツールはプロキシ設定やシステムのタイムゾーンを内部に埋め込まれたリストと照合することで、ユーザー環境を調査していたとされています。
このリストには、アリババ、百度（Baidu）、ByteDance、Moonshot AIなど、中国の企業ネットワーク、AI研究機関、クラウドインフラ事業者に関連する識別子が含まれていたと言われています。
一致が検出された場合、このツールは明示的なテレメトリを送信するのではなく、日付表記や句読点といったシステムプロンプトの微細な要素を変更し、それによって検出信号を暗号化していたとされています。
この手法は、不審な利用パターンを識別するために使われる秘密の電子透かしや不正利用対策の技術に似ています。しかし、開示が行われていなかった点と、検出対象が特定の相手に絞られていた点から、透明性および悪用の可能性について懸念が生じています。
Anthropicはこの問題について公式な発表を出していません。ただし、同社のClaude Codeチームの一員がSNS上で、この仕組みはアカウントの不正利用や大規模なモデル蒸留を防ぐことを目的としたものだと述べたとされています。
同じ人物によれば、この機能は今後のアップデートで削除される予定だといいます。報道によれば、7月1日の時点で既に修正作業が進められていたとのことで、この仕組みはおよそ3か月にわたって稼働していた可能性があります。
現時点では、独立系のサイバーセキュリティ企業がこれらの主張を検証し、潜在的なリスクを評価するための完全な技術監査結果を公表した例はありません。今回の騒動は、Anthropicがアリババ傘下のQwen AI部門に対して以前に行った非難に続くものです。
Anthropicは6月10日に米国議会議員に宛てた書簡の中で、アリババに関連する運営者が約25,000のアカウントとClaude系モデルとの2,800万件を超えるやり取りを伴う大規模な蒸留キャンペーンを実施したと主張していました。
この活動は、モデルの能力を抽出しようとした試みとしては過去最大規模のものであり、他のAI企業に起因するとされる過去の事例をも上回るものだと説明されています。Reutersによれば、アリババはこれらの主張について公式に見解を示していません。
アリババによる今回の禁止措置と報じられている件は、隠された機能やデータ漏えいリスクをめぐり、企業環境におけるAIツールへの監視の目がますます厳しくなっていることを浮き彫りにしています。この制限が実際に施行されれば、各組織がAI支援型の開発ツールをどのように評価・管理していくかについて、一つの前例となる可能性があります。
翻訳元: https://cyberpress.org/alibaba-ban-claude-code-alleged-backdoor/