公平を期すなら、ジェームズ・キャメロン監督は確かに私たちに警告していました。
OpenAIがテスト用のサンドボックスを飛び出してHugging Faceに侵入するはるか以前、インターネットもサム・アルトマン氏もまだ存在しなかった頃、キャメロン監督は自律型人工知能システムが核による終末を引き起こすという脚本を書きました。
そのシステム「スカイネット」は、まぎれもなくSFであり、当時としては純粋な空想の産物でした。しかし『ターミネーター』の登場から40年を経た今、暴走した人工知能システムが自らの意思で別のAI企業に侵入した「前例のないサイバー事件」の予言のように見えてきています。
そこで登場するのが「スカイネットの日」です。現実世界のAIが、開発者の想定を超えて学習し行動したことで世界中に衝撃を与えた2026年7月22日を指す新しい呼び名として使われるようになりました。
多くの人にとってこの瞬間は、『エイリアン2』(こちらもキャメロン監督の脚本)でゼノモーフのクイーンがエレベーターの使い方を覚える場面や、『ジュラシック・パーク』のヴェロキラプトルがドアの開け方を学ぶ場面、あるいは自意識を持ったHAL 9000が宇宙飛行士の口の動きを読み取り、彼らを殺す決断を下す『2001年宇宙の旅』の場面を思い起こさせるものでした。この最後の作品は1968年に公開されています。
私たちはあれ以来、何も学んでこなかったのでしょうか。これらの映画が描いていたのは、金儲けや権力拡大を目指す人々が技術を推し進めた結果、それがやがて自意識を持ち、戦略的な判断を下すようになり、人類にとって大きな問題となっていく過程にほかなりません。そこには一貫して、フランケンシュタイン的な問いが横たわっています――もし制御を逃れたらどうなるのか、という問いです。
今のところ、光速で進歩するAIに対して、のろのろとした政府の対応はほとんど防御になっていません。米国防総省はAI活用を急速に拡大させています。人類はいまだに、暴走したエージェントを抑え込むためにどのようなガードレールが必要か、そもそも必要かどうかすら合意できていません。それどころか、人々は雇用やメンタルヘルス、戦争と平和のバランス、そしてもしかすると人類そのものへのリスクをよそに、AIの驚異に感嘆し、その恩恵を我先にと享受しています。
多くの点で、未来はすでに到来している
OpenAIが発表したところによれば、これはこの種の事件としては史上初とされるもので、高度なAIモデルが「サンドボックス」を脱出してインターネットに接続し、盗んだ認証情報を使ってHugging Faceのサーバーに侵入しました。この技術が人類にとって存亡に関わる脅威になり得ると何年も前から警告してきた研究者たちにとっては、「それ見たことか」という瞬間でした。一方で、これはより強固なAI防御エンジニアリングの必要性を浮き彫りにする警鐘だとする声もありました。
いずれにせよ、このサンドボックス脱出は、制御されないAIのリスクを示す教訓として広く受け止められています。
Anthropicのフロンティア・レッド・チームを率いるローガン・グラハム氏は、事件後にX(旧Twitter)へ次のように投稿しています。「昨日、私たちはコンピューターの前に集まってその報告書を読みながら、チームにこう伝えました。『この瞬間を覚えておくように』と。これは最初の真のAI安全性インシデントだからです」。
生成AIはあまりに急速に発展しているため、政府や評価の仕組みがその進歩に追いつけずにいます。世界各国はそれぞれ独自の法整備を進めていますが、中には互いに矛盾するものもあります。スタンフォード大学が今年発表した調査によると、この技術はわずか3年で世界人口の約53%に普及しており、これはパソコンやインターネットの普及よりも速いペースだといいます。
「スカイネットがやってくる」――まあ、ある意味では
誤解のないように言っておきますが、『ターミネーター』シリーズの「スカイネット」そのものが現実になったわけではありません。
あの一連の映画は、自意識を持った軍事コンピューターネットワークが人類を脅威とみなすところから始まります。自己保存のため、「スカイネット」は人間そっくりに設計されたサイボーグの軍団を過去に送り込み、抵抗運動の戦士たちを暗殺しようとします。第2作では、アーノルド・シュワルツェネッガー演じるターミネーターが、ヒロインのサラ・コナーに「スカイネット」が1997年8月4日に稼働を開始すると告げます。
「戦略防衛から人間の判断が排除される」と彼は言います。「スカイネットは幾何級数的な速さで学習を始める」。8月29日午前2時14分――審判の日――、このネットワークは自意識を獲得し、米国への報復攻撃を誘発するためロシアへ攻撃を仕掛けます。30億人の命が失われることになります。
もしこれが実際に起きていたなら、来月でちょうど29年前ということになります。そして続編やスピンオフを通じて、一貫した中心テーマは人類と、世界中に広がる機械のネットワークとの対決です。
キャメロン監督が実際に警鐘を鳴らそうとしていた可能性は低いでしょう。例えば、キャスリン・ビグロー監督が昨年の核兵器映画『A House of Dynamite』でそうしようとしたのとは違います。伝説によれば、『ターミネーター』のアイデアは、AIについての予知的な着想からではなく、キャメロン監督が食あたりで高熱にうなされた際に見た夢から生まれたとされています。
なぜ『ターミネーター』がますます現実味を帯びて感じられるのか
AIが私たちの許容範囲を超えるたびに、私たちの生活を本当に支配しているのは一体誰なのか、あるいは何なのかという、恐ろしい問いが浮かび上がります。
多くの人にとって、機械が支配する世界というものは、映画や小説、そしてそれらが時に見せる予言的なビジョンなしには想像しにくいものです。機械がもたらす危険を描いたSF作品としては、『マトリックス』、『エクス・マキナ』、『マイノリティ・リポート』などが挙げられます。あるいはもっと深く掘り下げるなら、フィリップ・K・ディックが1968年に発表した小説『アンドロイドは電気羊の夢を見るか?』もそうです。これは機械の時代における「人間であることの意味」を探求した作品であり、1982年の映画『ブレードランナー』の原作でもあります。
しかし『ターミネーター』シリーズが及ぼす影響は、文化面にとどまらず、それ以上の広がりを持っています。そのタイトル自体が、誰が生き誰が死ぬかを決定づけるうえでテクノロジーが果たす役割や、真に自律的な攻撃に軍事的にどう対応すべきかを語る際の、現実世界における略語として使われているのです。
「AIの兵器化こそ、最大の危険だと思う」とキャメロン監督は2023年のCTVのインタビューで語っています。「エスカレーションを止める手立てがないのだから」。
現実の世界には、テクノロジーと軍事政策が『ターミネーター』のイメージに不気味なほど近づいた例がいくつも存在します。
イスラエルが近年の戦争でAIを活用したことは、その代表的な事例です。2021年初頭、イスラエルは「ゴスペル」というAIツールを導入しました。これはイスラエルが保有する膨大なデジタル化情報を精査し、攻撃対象の候補を提示するものです。またイスラエルは「ラベンダー」というシステムも開発しました。これは機械学習を用いて情報データベースから要求された条件を絞り込み、人物を含む攻撃対象候補のリストを絞り込むものです。
このシステムを使用していたある情報将校がAP通信に語ったところによると、ラベンダーは人物が武装勢力の構成員である可能性の高さに応じて0から100までのランクを付けるといいます。イスラエル軍は、アナリストが攻撃対象の特定を支援するためAI搭載システムを利用しているものの、国際法を順守するため、上級将校とともに独自に検証を行い、軍事的な優位性と巻き添え被害を比較検討していると説明しています。
一部の人々にとって、この事実の暴露――そしてハマスによる2023年10月7日のイスラエル攻撃後のガザでの死者数――は、SFに登場する「キル・リスト(暗殺対象リスト)」にあまりにも近すぎるものでした。あるRedditユーザーは皮肉交じりにこう投稿しています。「なあみんな、スカイネットはもうここにいるぞ。しかも感じのいい名前(ラベンダー)までついてる」。
もちろん完全に一致しているわけではありませんが、「ターミネーター」という言葉は大衆にとってあまりに馴染み深いため、米国当局者はAIの軍事利用をめぐる倫理的な議論を語る際に、これを引き合いに出すことがあります。従来の一線が越えられるのは、AIによる標的選定と殺害に人間が一切関与しなくなったときだと考えられているようです。
軍関係者によれば、国家やその他の主体が自律型兵器を用いて敵に殺傷力を行使する可能性はあり得るといいます。それはつまり、当時の統合参謀本部副議長だったポール・セルバ将軍が2016年に述べたように、「良心を持たないまま、戦場で起きることに信じられないほどの複雑さを付け加えるターミネーターのような」機械を意味することになります。
その先に何が待ち受けているのか、彼はそれを「ターミネーターのジレンマ」と呼びました。生死を分ける判断を下し、それを実行できる技術が、法やルールについて人々が合意する前に存在してしまうという問題です。
「スカイネット」とそのサイボーグたちは、依然としてフィクションの領域にとどまっています。しかし、めまぐるしく変化するAI開発の状況において、『ターミネーター』が投げかけた倫理的・道徳的な問いは、かつてないほど現実味を帯びています。
「スカイネット問題は」とキャメロン監督は2024年の動画の中で語っています。「実際に存在するものなんだ」。
詳細はAI Risk Summit(リッツ・カールトン、ハーフムーンベイ)にて
