米国企業の一部が中国で開発されたオープンウェイトの人工知能(AI)モデルを自社の技術基盤に組み込んでいる実態を調べた議会報告書が公表されました。報告書はこの動きを憂慮すべき傾向と位置づけ、米国企業にこうした利用を控えるよう促しています。
報告書は、HuaweiやZTEの技術が短期間で市場に浸透し、米国のネットワークを脅かした経緯を引き合いに出しています。中国製のオープンウェイトモデルが根を張れば、将来それを排除するには数年を要し、納税者に数十億ドルの負担がかかると警告しています。
オープンウェイトモデルとは、数値としての重みやバイアスが公開され、誰でもダウンロードできるモデルを指します。
この合同調査報告書は、下院国土安全保障委員会と中国共産党特別委員会がまとめたものです。中国製オープンウェイトモデルを導入している企業の例として、Airbnb、DoorDash、コーディングプラットフォーム「Cursor」を運営するAnysphereを取り上げています。各社は、顧客対応、コーディング作業、在庫管理にこれらのモデルを使っていました。
3社はいずれも、コメントの求めにすぐには応じませんでした。
報告書を共同でまとめたアンドリュー・ガルバリーノ下院議員(共和党、ニューヨーク州)とジョン・ムーレナー下院議員(共和党、ニューヨーク州)は、公聴会、機密ブリーフィング、政府機関の勧告をもとに、全50ページの報告書の調査結果を導き出しました。両議員はまた、DoorDash、Airbnb、Anysphereの3社から、中国製オープンウェイトモデルを消費者向けプラットフォームや企業向けソフトウェアなどにどのように組み込んだかについて説明を受けています。
報告書は「今回の調査で、米国の企業、政策立案者、国家安全保障当局者がもはや見過ごすことも軽視することもできないリスクが明らかになりました。米国が数十億ドルを投じて『超知能』の開発を急ぐ一方で、北京は盗み取った知能を使ってその差を縮めています」と指摘しています。
報告書によると、シリコンバレーのスタートアップからFortune 500企業まで、中国製のオープンウェイトモデルを採用する動きが広がっています。安価で、カスタマイズしやすく、性能も高いためです。
しかし、こうした利点には重大な欠点が伴うと報告書は述べています。連邦捜査当局の調査結果を引用し、中国の開発者が「プロキシネットワークや不正アカウントを使って米国のフロンティアモデルの出力を収集し、その能力を複製していた」と説明しています。
報告書には12項目の政策提言が盛り込まれています。米国版のオープンウェイトAIイニシアチブの構築、モデルの調達元に関する基準の策定、AI部品表(AI BOM)の作成、中国製モデルの連邦契約業務や重要インフラの機微な機能への使用禁止、中国製モデルの体系的な評価などです。
防衛民主主義財団(Foundation for Defense of Democracies)のサイバーセキュリティ専門家マーク・モンゴメリー氏は、この報告書の意義について、米国が低コストのオープンソースモデル市場で本格的に競争していないことのリスクを特定し、説明している点にあると述べています。
同氏によると、ConfluenceやOpenAIなど米国企業が主導するフロンティアモデルの分野では中国の立場が限られるため、中国の指導部は自国のオープンソースAIへの世界的な依存を広げる戦略を追求しています。競争相手を排除するために「国家政策と資本という中国の伝統的な手法」を使っているといいます。
同氏は「企業や公益事業者は、収益を重視した資源配分の判断から、いつものように初期費用の安さを求めてセキュリティや安全性の問題を無視するでしょう。中国はこの流れをよく知っています」と述べています。
翻訳元: https://therecord.media/chinese-open-weight-AI-use-by-US-companies-house-investigation