AIは今後10年以内に人類を滅ぼしてしまうのでしょうか

The Wall Street Journalの報道によれば、企業間の競争が技術各社を「自己改善型モデル」の開発競争へと駆り立てており、その結果、人間の制御が及ばない事態に陥りかねないとの懸念がAI研究機関内部で高まっているといいます。

AnthropicとOpenAIの両社で研究職を務めた経験を持つAI研究者のJacob Coxon氏は、次のように述べています。

「AIを開発している当事者たちは、それが今世紀末までに人類全体を滅ぼしかねないと本気で信じています」

これに対し、OpenAIでの勤務経験もあるAnthropicのAlignment Science責任者Evan Hubinger氏は、X上への投稿で次のように応じました。

「私たちは本当に、AIが人類全体を滅ぼしうると真剣に考えています。個人的には、今後10年以内にその可能性は10%を上回ると見ています」

Hubinger氏はさらにこう付け加えています。

「私が懸念しているのは、再帰的な自己改善から生まれる超知能です。これは私たちがこれまで述べてきた通り、想定していたよりも速いペースで進行しています」

この数値はあくまでHubinger氏個人の見解として捉えるべきものです。これは将来予測でも、確立された事実でもなく、また現在のチャットボットが自律的に危険な存在へと変貌しつつあることを示す証拠でもありません。さらに言えば、この件について筆者が支持や否定を表明できるほどの専門知識を持ち合わせているわけでもありません。

研究者たちは現在、高性能なシステムが意図しない挙動を取ったり、脆弱性を悪用したり、サイバー攻撃の自動化に利用されたりする可能性について、積極的に研究を進めています。

BBCの報道によれば、Hubinger氏は現行モデルによるリスクは低いと述べているとのことです。同氏が懸念しているのは、はるかに高い自律性と能力を備える可能性のある将来のシステムについてです。

企業や各国政府がAI開発のペースを検討するにあたっては、独立した検証、高リスクな自律的用途の制限、開発者側の透明性確保、そしてAIシステムが害をもたらした際の説明責任といった、まっとうな安全策が求められます。

こうした対策は、サイバー犯罪者がAIを詐欺やプライバシー侵害、その他のサイバー犯罪に悪用するという、私たちがすでに直面している問題にも対応するものでなければなりません。他の強力な技術と同様、AIも武器として利用されうるものであり、安全対策がその能力の進歩に追いつかない場合には特にその危険性が高まります。

極端な予測は、特にこの技術に深く関わる人物によって語られる場合、感情に訴えかける説得力を持ちがちです。しかし不確実性は双方向に働くものであり、深刻な警告であればこそ、鵜呑みにするのではなく、しっかりと精査する姿勢が求められます。

実務的なメッセージとしては、「AIの安全性を無視せよ」でも「ロボットによる終末に備えよ」でもありません。企業、各国政府、そして研究者たちが協力し、安全対策が急速な技術開発のペースに確実に追いつくようにする必要があります。

協力と競争は互いに補完し合うものであり、今回のケースにおいては、その協力こそが極めて重要な鍵となるかもしれません。

あなたの氏名、住所、電話番号は、すでに売買の対象になっているかもしれません。 

データブローカーは、対価を支払う相手であれば誰にでも、あなたの個人情報を収集・販売します。Malwarebytes Personal Data Removerはこうした情報を突き止めて削除し、その後も削除された状態が維持されるよう継続的に監視します。