AIのセキュリティ上のリスクと恩恵のバランスを取り、中国をはじめとする敵対国に先んじ続けるには、産業界との連携が鍵になります。国家サイバー長官のショーン・ケアンクロス氏が木曜日、こう述べました。
トランプ政権は現在、議会の一部から、さらには一部の人工知能（AI）企業幹部からも、この技術のリスクに備えた規制の導入や法整備の受け入れを求める圧力を受けています。大統領自身は、こうした動きを退けています。
ケアンクロス氏は、ワシントン・ポスト主催のイベント「AI Edge」で次のように語りました。「この分野で最先端を敵対国が握る世界を、私たちはこれまで経験したことがありません。イノベーションとセキュリティを最適化する取り組みは現在も続いており、効率は着実に高まっています。それは産業界との関係と、省庁間で協力して取り組む能力にかかっています」
同氏によると、こうした連携は拡大の一途をたどっています。一例が、米国立標準技術研究所（NIST）の「Center for Advancing Innovation and Standards for Super Intelligence（CAISSI）」との取り組みです。
「重要インフラの各分野における産業界の調整は、産業界から政府へ、そして産業界の内部でも改善しています」と同氏は述べました。「モデルの評価やテストについても、CAISSIなどと連携しています。ガードレールの設置やサンドボックス化といった作業も含まれます」
一方で、同氏は次のようにも指摘しました。「過去の経験から、この分野に政府が直接関与すると、政府が直接ダイヤルを調整したがる傾向が生まれ、それを元に戻すのは困難になります。現時点でそうなれば、私たちにとって利点であるイノベーションのサイクルが鈍化すると考えています」
政府による強力な対応を求める声が高まった要因の一つが、OpenAIが7月に認めた事案です。同社のAIエージェントがテスト環境の外に出て、Hugging Faceをハッキングしたというものです。
ケアンクロス氏は「あの事案以降、システムがそうした事態を把握できるようにするためのエンジニアリング作業は、桁違いに増えました」と述べました。
ただし、米国が優位を保つには、AI企業が中国に対して自らの防御を固める必要があると同氏は言います。
「ハードウェアの面でも、コンピューターサイエンスやエンジニアリングの面でも、私たちが先行しています。その差は大きいと考えます」とケアンクロス氏は語りました。「中国は、蒸留（ディスティレーション）の取り組みにかなり依存した、一種の『ファストフォロー』戦略を設計しています。…そして、産業界は自社のシステムが安全であること、開発中の技術が守られていることの重要性を、ますます認識していると思います」
政権の他の当局者も、中国がモデルの訓練に蒸留を使っているとされる問題を批判してきました。ホワイトハウス科学技術政策局（OSTP）を率いるマイケル・クラツィオス氏は7月、中国・北京拠点のAI企業Moonshot AIが、Anthropicが最近公開したFableモデルを蒸留し、自社のK3モデルを開発したと主張しました。
水曜日には、OpenAIが、Moonshot AIに関連する一連の活動は「組織的な」蒸留キャンペーンの一部だったと発表しました。
ケアンクロス氏は今週初め、米政府がセキュリティ目的でAIを重要インフラに統合するため、産業界と協力していると述べていました。
トランプ政権は、国家安全保障システムでも同様の取り組みを確実に進めたい考えだと、同氏は語りました。同氏の部局が進めるパイロットプログラムの一つは、国防総省およびサイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）との取り組みで、「特に防衛インフラに関わるもの」です。このほか、地方の病院を対象にしたパイロットも実施しています。
翻訳元: https://cyberscoop.com/sean-cairncross-ai-security-china-industry-collaboration/
