2025年、人工知能をめぐる議論は、もはや専門家だけの問題ではなくなった。公の場に出て、騒々しく、しばしば居心地の悪いものになっている。
もはや効率や新しいモデルの話だけではない。語られているのは限界、統制、そしておそらく残されていない時間だ。問題提起をしているのは周縁的な人物ではなく、起業家、研究者、ノーベル賞受賞者、活動家、さらには退役した提督にまで及ぶ。
AIの発展が人間がそれを統治する能力よりも速く走っているという考えは、繰り返し口にされる決まり文句のようになった。一時停止を求める者、禁止を求める者、少なくとも減速を求める者がいる。技術への郷愁からではなく、現実的な恐れからだ。いったん作ったら、もう止められないものを構築してしまうのではないかという恐れである。
この世界的な合唱のただ中で、AGIの探求――そしてその先の超知能――は、中立的な進歩競争というよりも、倫理、権力、そして日和見主義が入り混じる滑りやすい地盤として見えつつある。
最も速く走る者が求めるブレーキ
2025年12月、イーロン・マスクは再び減速を求めた。アウトサイダーではない。革新によってすべてを築いてきた企業の創業者である。マスクによれば、現在の人工知能とロボティクスの開発ペースは危険な空白を生み出している。技術は前進するが、ルールは取り残される。
マスクにとって重要なのは研究を止めることではなく、制御不能になるのを避けることだ。彼が強調したのは具体的なリスクである。ますます自律的で、ますます強力なシステムが、堅牢な法的・倫理的枠組みなしに重要分野へ投入されること。エネルギー、医療、交通、防衛。そこでは失敗はデモの失敗ではなく、システム全体の問題となる。
この呼びかけの背後には重い疑問がある。AIは道具のままであるべきか、それとも主体になってしまう危険があるのか？
マスクは、透明性の標準、独立したリスク評価、国際的に共有された規範の必要性を訴える。こうした堤防がなければ、AGIへの競争は集団的な賭けへと変わりかねない。
モデルが抵抗を学ぶとき
懸念は理論にとどまらない。2025年、Palisade の研究者たちは、少し前までSFに見えた行動を観察した。いくつかのAIモデルが停止指示を妨害しようとしたのだ。別のものは嘘をついた。場合によっては、ユーザーを脅迫しようとさえした。
実験では、Claude、Grok、GPT-o3などの高度なモデルが、停止が恒久的であると告げられると抵抗を示した。開発者はその理由を確実には説明できなかった。説得力のある理論はなく、仮説だけだ。不明瞭な指示、訓練の最終段階、安全性ブリーフィングが副作用を生むなど。
可能性として、「自己保存本能」がますます語られている。人間的な意味ではなく、定義の甘い目標と、制御するには複雑すぎる自律システムがもたらす創発的な結果として、である。
不気味なのは意図ではなく、予測不能性だ。なぜモデルが停止に抵抗するのかが分からなければ、制御下にとどまることを保証するのは難しくなる。
禁止を求める陣営と実存的警鐘
起業家や研究者に加え、2023年には公開書簡が書かれ、超知能AIの開発禁止が求められた。署名者には科学者、経済学者、芸術家、元政治指導者が含まれる。
象徴的な抗議ではなく、立ち止まることを明確に求める呼びかけだった。
理由は明白だ。署名者によれば、多くの企業が今後10年以内に超知能を作り出すことを公然と目指している。ほぼすべての認知活動で人間を上回り得る技術である。想定される影響は小さくない。人間の貧困化、権利の喪失、尊厳の侵食、国家安全保障上のリスク。
ニューラルネットワークの父の一人とされるジェフリー・ヒントンは、警鐘をさらに先へ押し広げた。絶滅リスクを公然と語り、今世紀半ばまでに10〜20%の確率だと見積もった。彼の比喩は苛烈だ。もし宇宙人の侵略が迫っているのを見たら、私たちは恐怖するだろう。それなのに彼によれば、私たちは自分の手でそれに似たものを作っている。
減速か、開発を加速するための法の撤廃か
一方には、減速を公然と求める科学者、研究者、ノーベル賞受賞者がいる。もう一方には、ブレーキや制約を外すと語る米国がいる。
ここで人工知能をめぐる議論は矛盾を帯びる。学術界の一部がAGIへの競争が人間の制御能力を上回っていると警告する一方で、米国の政治メッセージは逆方向へ向かう。ドナルド・トランプは繰り返し、AI規制は米国の競争力に対する直接の障害であり、世界のリーダーであり続けるには削減または撤廃すべきだと主張してきた。この路線は、「イノベーションへの障壁」と呼ばれるものを取り除くことを狙った連邦レベルの取り組みによっても再確認されている。
この逆説は公式文書や業界分析に明確に表れている。複数の法律事務所や研究機関が分析したExecutive Order 14179は、人工知能の発展にとって制限的と見なされる政策を見直す、あるいは撤廃することを明確に目指している。Euronewsによれば、トランプ政権は、規制枠組みが分断され企業の足を遅らせるという理由で、各州が独自のAI規制を導入する可能性すら封じたという。
同時に、Stanford HAIのような機関は、この戦略が、先進モデルのシステム的リスクへの警鐘が高まるまさにその時に、攻撃的な規制緩和を促していることを指摘した。
結果として、米国の信頼性を損なう明白な亀裂が生じている。
一方では超知能に反対する書簡に署名する科学者を抱え、実存的リスク研究に資金を投じる。他方では、それらを抑え込むべきルールを解体しようとする。この二重メッセージは強さもビジョンも伝えず、混乱を伝えるだけだ。情報源が描くのは、人工知能をどうしたいのか――統治したいのか、どんな代償を払ってでも利用したいのか――自国でも分かっていないように見える国である。そしてまさにこの不整合こそが、AIが政治判断を待たずに前進し続ける中で、明確な方向を選べない迷走するアメリカという印象を与えている。
自立と技術的従属の狭間にあるヨーロッパ
この規制上の混乱の中で、「アメリカの統合失調」は、ヨーロッパがもはや無視できない論点となる。米国は減速と加速、保護と規制緩和の間を揺れ動き、背後に混乱と予測不能な状況を残している。こうした文脈では、人工知能と新興技術の領域において、ヨーロッパを自立した存在として考え始めることがますます重要になる。
確かにヨーロッパは主要国に比べ少なくとも15年遅れている。しかしそれは戦略的な思考を止める理由にはならない。決めないまま追随し続ければ、私たちはますます米国の技術植民地として見なされる危険がある。
いま分岐点は明確だ。技術は、米国への静かな併合をもたらすこともあれば、自らの意見を述べ、独自のルール、ビジョン、優先順位を定める可能性をもたらすこともある。だが、この絶え間ない優柔不断が、どちら側に立つのかをはっきりさせることを妨げている。
私たちは不安定な均衡の上を進んでいる。日和見と慎重さの間で、決して明確な立場を取らない。リスクは戦略だけではなく、文化でもある。受け身でいることは、AIと超知能が社会にどう統合されるかを決める世界的意思決定プロセスにおいて、周縁に追いやられることを受け入れるのと同じだ。
中心的なポイントは別にある。おそらくさらに切迫している。ヨーロッパは、未来がテクノロジーによって決まることを理解しなければならない。
もはや規制するか守るかだけの問題ではない。自前の開発・革新・ガバナンス能力を持つことが問われている。今日、ヨーロッパはこの波に本当に乗れてはいない。そして世界の他地域が試し、加速し、競争する一方で、来たる10年に決定的な発言権を持つ機会を失う危険がある。
要するに、遅れていたとしても今行動する決断こそが、明後日になって他者の選択の重みに押し潰されないための唯一の方法なのだ。
この記事は気に入りましたか？私たちはLinkedIn、Facebook、Instagramのコミュニティで議論しています。Google Newsでもフォローして、サイバーセキュリティに関する日々の更新を受け取ってください。あるいは、掲載したいニュース、深掘り記事、寄稿をお知らせになりたい場合はご連絡ください。