現在議論の的となっているのは、人工知能(AI)が善の力なのか悪の力なのか、あるいはその両方なのか、という問題です。
以下は著者の主張であり、現在のAI開発が必然的に導く結末を示すものではありません。
2026年8月26日、ビル・ゲイツ氏は自身の個人サイトで6,000語に及ぶメモを公開しました。タイトルは「The turbulent AI era is here. The choices we make now are critical(激動のAI時代が到来した。今なすべき選択が重要である)」です。冒頭でゲイツ氏はこう述べています。「AI時代への移行は、人類史上最も激動の時代の一つとなるでしょう。現時点で私たちは、その移行に対して十分な備えができていません。世界が正しい道筋を選べば、AIは善の力となり、すべての人によりよい未来をもたらすはずです」
ここで示唆されているのは、私たちが責任を持って向き合わなければAIは危険をはらむものになるが、私たちはおそらく責任ある向き合い方を学ぶことができる、ということです。総じて見れば、AIは善の力となる可能性が高いという立場です。
しかし、誰もがこの見方に同意しているわけではありません。ジェイコブ・コクソン氏のX(旧Twitter)への投稿に対し、Anthropicで同社のアラインメント科学部門を率いる安全性研究者のエヴァン・フビンガー氏は、2026年9月9日に次のように返信しました。「ジェイコブの言う通りです。私たちは本当に、AIが全人類を滅ぼしかねないと真剣に考えています。個人的には、今後10年以内にその可能性が10%を超えると見ています。Anthropicは最善を尽くしていると思いますが、超知能のアラインメント問題を解決するプランはまだなく、明確にその軌道に乗っているとも言えません」
アラインメントが崩れたAIは人類を滅ぼし得るのか
OpenAIとAnthropicの両方で元AI研究者を務めたコクソン氏は、「AIを開発している人々は、今世紀末までにそれが私たち全員を滅ぼしかねないと真剣に信じている」と指摘していました。
フビンガー氏の返信は「アラインメント」に焦点を当てたもので、私たちはまだそれを制御できていないと述べています。AIにおけるアラインメントとは、AIの行動が開発者の意図と一致していることを保証する仕組みを指します。一方、アラインメントの崩れ(ミスアライメント)とは、俗に言えば、AIモデルが暴走し、意図しない行動を取って意図しない標的を攻撃してしまう事態を許してしまう状態のことです。フビンガー氏は、私たちがこの問題を解決する軌道に乗っていないと述べているのです。
この問題は、将来の汎用人工知能(AGI)を実現しながらも、そのアラインメントに失敗した場合、さらに深刻化します。AGIは明確に定義された概念ではありませんが、実質的には、あらゆる認知タスクや経済領域において人間の能力に匹敵する、あるいはそれを凌駕する人工知能を指します。アラインメントの崩れたAGIは、技術的特異点(シンギュラリティ)、すなわちAI技術が人間の制御を超えて加速していく事態を招く可能性があります。つまり、AIが自らの手で自身を「再プログラム」し始めるということです。
これは、ゲイツ氏が警告する「今日、正しい道筋を選ぶ」ことに私たちが失敗した場合に起こりうる結末です。しかし、市場の力学はこれに逆行する形で働きます。単純に言えば、最も強力なAIを開発した企業が、最も強力で最も裕福なAI開発企業になる可能性が高いのです。AIは驚異的な速度で進化を続けており、それがどこへ向かっているのか、実のところ誰にも分かっていません。
この影響をめぐる議論の隔たりは広がりつつあります。ESETの元シニアセキュリティ研究者で、現在は独立系研究者として活動するスティーブン・コブ氏は、LinkedIn上でこう述べています。「私たちはこう言われてきました。『AIを開発している人々は、今世紀末までにそれが私たち全員を滅ぼしかねないと真剣に信じている』と。それに対して私はこう言いたい。私たちがそれを許したり、可能にしたりしない限りは、そうはならない、と」(これはゲイツ氏の考え方に沿ったものです)
これに対しダン・タイナン氏はこう反論しました。「タバコだってそうです。自分の口にくわえて火をつけない限り、何も起きません。しかしタバコを製造する企業は、何十年もの間その危険性を知りながら隠し続け、自社製品が極めて依存性が高く、しかも広く浸透しているために、人々が本来持つ自己保存への本能を打ち負かしてしまうことを分かっていたのです」。コブ氏は人類の良識を信じていますが、タイナン氏は市場の力学を信じているのです。
とはいえ、将来に向けて一つ明るい兆しもあります。OpenAIのCEOサム・アルトマン氏は、AIの分野において無邪気な存在ではありません。2026年9月11日、Bloombergはこう報じました。「OpenAIは最近、モデル開発の一部を減速させ、安全性への懸念から社内の特定のAIトレーニングを一時停止したと発表した。7月にもアルトマン氏は、AI開発のペースを調整する『必要性』についてホワイトハウスの当局者と協議したと述べていた」
アルトマン氏はFortune誌の編集長アリソン・ションテル氏と対談し、AIをめぐる危険と隣り合わせのバランス調整について語りました。この対談は9月12日(土曜日)に放映されたエピソードに収録されています(以下に埋め込み)。
AI開発者たちは、性急な開発が孕む潜在的な危険性を認識し始めているようです。ゲイツ氏が求める「今、正しいことをする」という呼びかけが、いずれ聞き入れられ、私たちはなお人類という種の滅亡を回避できるのかもしれません。しかし、ここで改めて彼の6,000語に及ぶメモに立ち返ってみましょう。
ゲイツ氏はこう書いています。「ある予備的な調査によれば、AIの利用頻度が高いほど批判的思考力が低下する傾向が見られた。この影響は若年層においてより顕著だった」。つまり、たとえ私たちがAIモデルのアラインメントに成功し、有益な目的のためだけに使えるようにできたとしても、それでもなお人間の自力で考える能力が低下していく可能性が高いということです。この「自ら考える能力」こそが、人類を地球上の他の動物と区別する特質だと言えるかもしれません。私たちはAIによる人類滅亡を防ぐことに成功するかもしれませんが、果たして人間を人間たらしめているその特質の消失までも防ぐことができるのでしょうか。
翻訳元: https://www.securityweek.com/the-race-to-control-ai-and-protect-what-makes-us-human/
