テクノロジーは独裁者に力を与え、そして危うくする

この論考はセヴァ・グニツキー氏との共著で、もともとForeign Affairsに掲載されました。

2022年3月、ロシアがウクライナへの全面侵攻を始めてから2週間後のことです。ロシアのチャンネル・ワンの編集者マリーナ・オフシャンニコワ氏が、夜のニュース番組のスタジオに乱入しました。彼女はキャスターの頭の後ろに、手書きのプラカードを掲げました。そこには「戦争をやめろ。プロパガンダを信じるな。彼らはあなたたちに嘘をついている！」と書かれていました。彼女は連れ出されるまで「戦争反対！」と叫び続けました。

それ以来、ロシアのテレビで戦争に抗議した人はいません。警備の強化や、社会全体に広がる恐怖の空気も一因です。しかし2024年10月、ロシアの主要なプロパガンディストの一人であるマルガリータ・シモニャン氏は、別の理由を明かしました。RTのキャスターのうち、実在しない人物が増えているというのです。彼女はインタビューで「あの顔は存在しません。声も何もかも、私たちが生成しました」と語りました。つまり、人工知能（AI）が作り出したキャスターです。シモニャン氏は、新聞『ヴェドモスチ』のフォローアップ取材で、その理屈を次のように説明しました。「このキャスターには給料も保険も必要ありません。逮捕されることも、警察に家宅捜索されることもありません。すべてが素晴らしく、同時に恐ろしいことです」

これは、AIがあらゆる独裁者に差し出す約束です。信頼できない人間に仕事を任せることなく、支配を維持できるようになるのです。きわめて魅力的な見通しです。どれほど強大な独裁者でも、命令を実行する部下を必要としてきました。検閲官、プロパガンディスト、警護要員、警察官、情報分析官、地方の官僚などです。ところが、部下は常に潜在的な脅威でもあります。サボり、盗み、嘘をつき、情報を漏らし、上司に対して陰謀を企てるかもしれません。そのため、独裁者にとって最も古いジレンマの一つは、命令を実行する権限を部下に与えつつ、その部下が指導者に牙をむく力は与えないようにする方法でした。独裁者は通常、重要なポストを凡庸な人物で固めることで、このトレードオフに対処してきました。政治理論家ハンナ・アーレントの言葉を借りれば、その無能さは「忠誠の最良の保証」だからです。しかし、その結果として、独裁体制が統治を行い、危機を乗り越えることは必然的に難しくなります。

AIは、この積年のジレンマを解決する方法を、独裁者に二つ示しているように見えます。第一に、部下をリアルタイムで容易に監視し、規律を保てるようになります。地方官僚の支出習慣や会議の予定に変化があれば、AIシステムが自動的に検知できます。私利を追う密告者は必要ありません。第二に、AIは部下そのものをなくせます。かつては人間の裁量が必要だった業務を自動化すれば、指導者は信頼できない仲介者を、買収も操作もできない忠実なアルゴリズムに置き換えられます。独裁体制の当局者も、そうした考えを口にしています。ロシアのデジタル発展相マクスト・シャダエフ氏は、2025年4月にモスクワで開かれたデータフォーラムで、AIは「間違いなく官僚の半数を置き換えられる」と述べ、「もう少し多いかもしれない」と付け加えました。

とはいえ、自動運転の国家という約束は幻にすぎません。AIは決して真の意味で自律的ではないからです。システムの構築と保守は、エンジニアやデータサイエンティストの一団が担わなければなりません。その専門性を、政治指導者は評価できません。信頼できない人間への依存を減らそうとAIに頼った支配者は、システムを動かし続ける少数のAI専門家に、以前よりも盲目的に頼ることになりかねません。しかも、この新たなデジタル版の親衛隊は、旧来の親衛隊と同じ弱点を抱えている可能性があります。それは支配者にとっての脅威になります。

目と耳

部下を監視し、あるいは置き換えるAIシステムの開発では、中国が先頭を走っています。北京や上海などの都市で進むスマートシティ計画は、AIで業績を追跡し、かつては居心地のよい無名の存在だった地方官僚の監督を一元化しています。官僚はアルゴリズムによる業績評価にさらされます。中国はさらに「ゼロトラストAIシステム」を開発し、過去10年間に約30の県や市に導入しました。このシステムは150を超える政府データベースを照合し、地方官僚による横領や縁故主義を摘発しました。ただ、効きすぎたきらいがあります。8,700人の官僚を摘発したところで、監視される側の官僚から圧力を受けた地方政府が、運用の縮小に動き始めたのです。それでも北京は、新たな電子政府ポータルを手放していません。ポータルは書類や許可証の発行に自動化システムを使い、小さな汚職やえこひいきの温床だった対面でのやり取りを減らしています。一方、中国共産党は、「思想管理」と呼ぶ研究を突き進めています。AIを使って、個人ごとに狙いを定めたプロパガンダを作る方法の研究です。かつては報酬を受け取った人間で構成されていた中国のネット評論員の大軍も、すでにボットへの置き換えが進んでいます。

ロシアも、同様の熱意で同じ目標を追っています。モスクワ市内の顔認識システムは20万台のカメラに展開され、2021年の反政府デモで抗議参加者の特定と拘束に使われました。中央政府は、データの自動収集・集約を使い始めました。データを歪めたり、自らの利益のために利用したりしかねない地方当局者を、迂回するためです。2023年には、ロシアのインターネット規制当局がAIシステム「Oculus」を稼働させました。1日に数十万枚の画像をスキャンし、政治的内容を含む禁止コンテンツを探します。人間の検閲官が処理できる量を、桁違いに上回ります。ロシア保安当局のツール「Meliorator」は、1,000を超える架空のアメリカ人プロフィールの作成に使われました。主にX（旧Twitter）上で、人間のトロール工場よりはるかに低いコストでクレムリンの主張を広めるためです。

ほかの独裁国家も、北京やモスクワの後を追っています。アラブ首長国連邦（UAE）は2025年4月、規制インテリジェンス局を設立しました。この組織は、AIを使って連邦法の起草や改正を行います。かつては立法スタッフが担っていた仕事です。1年後、UAEのムハンマド・ビン・ラーシド・アール・マクトゥーム首相は、今後2年以内に自律型AIエージェントが連邦政府の業務の半分を引き継ぐと発表しました。さらに「大臣、局長、機関の業績は、この変革を取り入れる能力に基づいて評価される」と述べました。

こうした革新によって、独裁者が必要とする官僚の数は減るかもしれません。しかし、独裁者が最も望むもの、つまり自動運転の国家を実際に作り出すことはできません。AIが生成したテレビキャスターでさえ、構築と保守に人間が必要です。検閲システムも、反体制的な語彙が移り変わるたびに、人間が再訓練しなければなりません。あらゆるAIモデルの背後には、不可欠な保守作業を行う少人数のエンジニアとデータサイエンティストがいます。その仕事は高度に技術的で、支配者には理解できません。

このため、この依存関係は、もう一つの形の権力になります。たとえば、独裁者の監視機構を保守するエンジニアは、支配者の目に映るものを左右できます。どの情報が伝えるに値するほど重要か、どんな形で提示するかを決めるのは彼らです。どの脅威を検知対象とするかも決められます。どのコンテンツを抑圧し、誰を逮捕するかを選ぶアルゴリズムも、調整できます。しかも宮殿の誰にも気づかれずに行えます。信頼できない部下への依存から逃れようとAIに頼った独裁者は、弱点を新たな一群の当局者に移し替えたにすぎません。

実のところ、この新たな親衛隊は、従来のエリートより危険かもしれません。一つには、AI技術が不透明だからです。もう一つは、この集団がはるかに小さいからです。ローマ皇帝の親衛隊には、通常数万人が仕えていました。現代の独裁者は常備軍に頼っています。しかしAIがあれば、大規模なAIシステムの構築と保守に必要なのは、ごく少数のエンジニアの集団だけになります。監視すべき人数が減るため、支配者にとっては好都合かもしれません。ただし、故障の起点も集中します。壊滅的な妨害は一握りのエンジニアだけで実行でき、メンバーが指導者に対して策謀を巡らせることも容易になるからです。新たな親衛隊のメンバーは、代えがきかない存在でもあるかもしれません。独裁者は、軍を壊さずに将軍を交代させられます。ところが、複雑な機械学習システムの運用には高度に専門的な技能が必要で、混乱なしにエンジニアを入れ替えるのは難しい場合があります。そのため、彼らは大きな交渉力を握ります。

代えのきかない人々

技術系人材が独裁体制にとってどれほど重要かは、すでに明らかになっています。たとえば、2022年2月のウクライナ全面侵攻後、IT専門家がロシアから流出し始めると、クレムリンは脅しではなく優遇策で応じました。IT人材に徴兵猶予を与え、企業を免税の対象とし、住宅ローンに補助を出したのです。その7カ月後、ロシアのウラジーミル・プーチン大統領が30万人の動員を命じた際には、IT労働者に全面的な免除が認められました。AIシステムの運用に必要なエンジニアはわずかな人数なので、やりすぎに思えるかもしれません。しかし、政権はどのエンジニアが必要になるかを事前に知ることができず、代わりの人材を短期間で育成することもできません。そのため、少数が選ばれる母体である人材プール全体を、つなぎとめておかなければなりません。

こうした措置でも、2022年中に約10万人の専門家、つまりロシアのIT人材の約1割が国外へ流出するのを止められませんでした。それでもモスクワが買収策を貫いたのは、専門知識は銃を突きつけて徴用することがきわめて難しいうえ、徴用された専門家は指示どおりに動く可能性が低いからです。とはいえ、金と特権があっても、こうしたエリートの忠誠が保証されるわけではありません。独裁者は、元祖の親衛隊が残した教訓を思い出すべきです。親衛隊は一時期、ローマ皇帝に保護と安全をもたらしました。ところが、親衛隊は自らが代えのきかない存在であることに気づき、2世紀には帝国を最高額の入札者に競売にかけるまでになりました。この新たなエリート層も、同じことができます。2023年6月、エフゲニー・プリゴジン氏率いる民間軍事会社ワグネルの部隊が、幹線道路をモスクワへ向かって進んだとき、プーチン氏は何が起きているかを知るために保安機関に頼っていました。将来、プーチン氏と同じ立場に立つ支配者は、そうした警告を機械を通じて受け取ることになります。ソフトウェアが仕分けた傍受通信、認識システムで選別されたカメラ映像、ダッシュボードにまとめられた地方からの報告などです。こうしたシステムを運用するエンジニアは、新興の挑戦者と取引を結び、そのうえで対応を遅らせることもできます。データを遅らせる、警報を数時間遅れで届ける、都合の悪い場面で映像の質を落とす、認識システムを機能停止させる、といった手口です。その場合、支配者は目隠しで動くことになります。親衛隊は、皇帝ネロを排除するのに殺害する必要はありませんでした。ライバルに乗り換えて、見捨てるだけでよかったのです。

こうしたプログラマーが自ら権力を握る可能性は低いでしょう。クーデターの指導者が最終的に必要とするもの、つまり銃を持っていないからです。しかし、エンジニアが自らの力を使って指導部への挑戦を左右した前例はすでにあります。1991年、ソ連軍がミハイル・ゴルバチョフ氏から実権を奪おうとした際、Relcomネットワークの一握りのプログラマーが、海外への情報の流れを維持しました。彼らは、ロシアのボリス・エリツィン大統領の布告を、国内外の人々に中継しました。首謀者たちは、エリツィン氏の抵抗のニュースが広まるのを止められず、クーデターは3日以内に崩壊しました。

スリム化

AIがあっても、独裁者がすべての執行役を解雇できるわけではありません。逮捕を行い、刑務所を運営する人間は依然として必要です。また、独裁者は支持者に公職を与えることで、忠誠を買えます。しかしAIは、権威主義者が人員を削減することを可能にします。そして最終的には、官僚の数よりも、支配者が彼らをどう監督するかのほうが重要です。陰謀を企てる部下や無能な部下を把握し続けることは、常に独裁者の最大の負担でした。AIはそれを軽くできます。支配者は、それほど能動的に注意を払わなくても、官僚をより綿密に監視できるようになります。

したがって、短期的にはAIは独裁体制に大きな恩恵をもたらすかもしれません。導入には多くの障害がありますが、この技術はすでに、独裁体制に利点をもたらしています。監視の低コスト化、より賢い検閲、恐れ疑うべき人間の部下の減少です。しかし、独裁的な支配者にとって、人工知能の誘惑は、逃れようとしているのと同じ罠を再び作り出すかもしれません。政権がAIに依存するほど、AIを動かし続ける人々への依存も深まります。そして、その人々は、歴史上のあらゆる親衛隊階級と同様に、自らの代えのきかなさにどれほどの価値があるかを、すぐに思い知ることになるでしょう。