AI・機械学習
北京の対応方針は「技術主権をしっかりと握る」ことと広範な規制の導入
中国の国家安全部長は、AIが同国の支配政党である共産党にとって好ましくない存在になり得るとの見解に至りました。
党書記であり部長を務める陳一新氏の見解は、中国のサイバースペース管理局（CAC）の旗艦誌である「中国サイバースペース」誌に掲載されました。同誌といえば、以前イーロン・マスク氏の論考を掲載したことを覚えている読者もいるかもしれません。
陳氏の見解によれば、「AI分野はいまや世界的な技術競争の主戦場であり、主要大国間の戦略的対立における新たな舞台となっている」といいます。同氏の論考ではまた、米国による制裁への根強い不満や、AIが兵器化されてソフトウェアの脆弱性を検出・悪用し、重要インフラを攻撃したり、産業秘密や国家機密を窃取したりする可能性についても言及しています。
陳氏は、OpenClawや類似のプロダクトについても懸念を示しており、こうしたソフトウェアには「デバイス管理権限の遠隔操作や、機密性の高いユーザー情報の漏洩といった構造的な問題がある」との見方を示しています。
中国国内にも「PEBCAK*」的な問題があるようです。陳氏は「国内の一部利用者はセキュリティ意識が十分でなく、海外製のAIプロダクトを用いて機密情報を処理し、データを海外に持ち出してしまうケースがあり、その結果、国内から大規模なデータ漏洩が発生している」と指摘しています。
同部長は、AIが中国共産党にとってどのような挑戦をもたらすかについても懸念を抱いています。
「人工知能の応用は、社会統治や公共秩序に多くの不確実性をもたらしている」と同氏は述べています。「アルゴリズムの『ブラックボックス』化やデータの『汚染』は、既存の社会的偏見を増幅させる可能性がある。データ利用における個人情報の濫用は、ユーザーの信頼を揺るがす危機を招きかねない。システムによる自動的な意思決定は、責任の所在をめぐる問題を生じさせる」。
さらに同氏は、「人工知能の急速な発展は従来の技術ガバナンスの枠組みを突破し、既存の法規範、倫理原則、統治メカニズムが実務に追いつかない状況を頻発させ、実効性のある制度的な制約・監督体制の形成を難しくしている」とも懸念を示しています。
陳氏が提言する対応策は、習近平国家主席の言葉に従い、中国の国家安全保障体制と能力を近代化させ、AIに対応できる体制を整えることです。
同部長は、中国が「主要な中核技術の自主的な統制を確保し、技術主権をしっかりと握り、イノベーションによる力の強化と安全ガバナンスとの間で良性の循環と協調的な進展を実現しなければならない」と述べています。
この姿勢からすると、NVIDIAが早期に中国市場へ復帰する見込みは薄そうですし、AMDについても同国内で多数のGPUを販売する展望はほぼ諦めるべきだといえるでしょう。
陳氏はまた、「人工知能技術の研究開発、応用、監督を対象とする特別な法律・規制」の整備や、「技術研究開発、応用実装、リスク防止・管理、責任追及の全プロセスを網羅する」基準・法律の改善も求めています。その際には「アルゴリズムの安全性、データ保護、倫理規範、プライバシー権」といった重要な課題に重点を置くとしています。
陳氏の論考が発表された翌日、中国のサイバースペース管理局は同国の「AI安全ガバナンスフレームワーク」バージョン3.0を公表しました。この文書では、中国に対し「新技術・新用途の開発において試行錯誤や修正の余地を確保するため、規制サンドボックスなどリスク管理可能な制度的メカニズムを積極的に活用する」ことを求めています。
中国はまた、「AIの安全性確保に全力を尽くす」とともに、「個人の正当な権利利益を侵害し、公共の利益を損ない、国家安全を脅かし、人類の存続と発展を危険にさらすあらゆるリスクに対して、適時に対策を講じる」方針を示しています。
この立場は、米国のドナルド・トランプ大統領が月曜日に示した姿勢とは対照的です。トランプ大統領はAIの安全性に関する懸念を「デタラメ」と一喝し、「AIに必要な統制や『ガードレール』はただ一つ、強くて賢い（IQの高い！）大統領だけであり、米国にはそれがふんだんにある！」と主張しました。®
* Problem Exists Between Chair And Keyboard（問題は椅子とキーボードの間にある、つまり操作する人間側にある、という意味の業界用語）
