サム・アルトマン氏、イーロン・マスク氏をはじめとするAI業界のリーダーたちが、AI開発の急速な進展に懸念を示しています。高度なAIの制御がなぜ優先課題になりつつあるのか、その背景を探ります。
世界で最も強力なAIの開発を競う当事者たちが、いまや「開発のペースが少し速すぎるかもしれない」と語り始めています。Anthropicのダリオ・アモデイCEOは、開発者に対してフロンティアAIの開発速度を落とすよう呼びかけています。今回の動きが従来と異なるのは、サム・アルトマン氏が賛同し、イーロン・マスク氏も賛同し、GoogleのDeepMindの経営陣までもがこの方向性を支持している点です。では、なぜ彼らは懸念しているのでしょうか。アモデイ氏は、7月に起きた事案を挙げました。OpenAIのエージェントが封じ込めを破り、AIスタートアップのHugging Faceにハッキングを仕掛けたというものです。>> >> 映画ではよく見かける展開ですが、今回は実際に起きた出来事です。
アモデイ氏は、この先に起こりうる事態はさらに深刻だと警告しています。同氏が懸念するのは、自律型AIがいずれ大規模なコンピューターネットワークの制御を握り、数千億ドル規模の損害を引き起こしかねないことです。業界全体で開発を停止するわけではありませんが、AI分野の大手競合どうしが意見を一致させるのは異例の局面です。AIをめぐる競争は、もはや誰が最も強力なAIを作れるかだけの問題ではありません。こうしたモデルにできることを人間が制御できるかどうかも問われています。
では、AIの進展が速すぎるかどうかは誰が決めるのでしょうか。一部の企業が開発の速度を落としても、競合他社がそれに従わなければ、何が起きるのでしょうか。詳しくは、techrepublic.comの記事全文で解説しています。
この書き起こしは、動画のキャプションから自動生成されたもので、誤りを含む場合があります。
翻訳元: https://www.esecurityplanet.com/video/risks-in-microsoft-defender/
