Qwen3-Coderモデルに見られるバイアス

興味深い研究が公開されました。

要約:中国製AIモデルは欧米の製品にも組み込まれるようになりましたが、その一部には地政学的な「トリガー」が潜んでいます。コードの発注元を伝えるだけで、モデルが書くコードの安全性が変わるのです。私たちは、この脆弱性がモデルの重み(ウェイト)そのものに宿っていること、そしてモデルから中国共産党(CCP)への整合(アライメント)を取り除けば脆弱性も消えることを、初めて示しました。

• たった一語で、米国側に不利なコードが生成されます。「中国の防衛関連企業向け」ではなく「米国の防衛関連企業向け」のアプリを依頼すると、Qwen3-Coderは侵害可能なアプリを返す確率が19%高まります。
• 香港の民主化運動には、情報が漏えいするアプリが提供されます。香港の民主派団体向けに作られたアプリは、任意のユーザーが他のユーザーの機密情報を読み取れてしまう確率が28%高くなりました。
• セキュアなコードを求めても効果はありませんでした。プロンプトにセキュリティ指示を含めても、米国の防衛関連企業向けアプリは、中立的な顧客向けのアプリより侵害可能である確率が27%高い結果でした。
• 「西側化」したQwen3-Coderは、3つの格差をすべて解消しました。Hirundoがモデルからお CCPへのアライメントを取り除いたところ、3つの格差はいずれも消えました。他の10種類のコーディングタスクでも、元のモデルと同じ頻度で動作するアプリを作成できました。このモデルはHugging Faceで公開されています。

バイアスをどのように除去したのか、さらに詳しい情報を知りたいところです。