水曜日に発表された公開書簡は、「超知能」と見なされる人工知能システムの開発を、これらの技術が安全かつ社会の支持を得て創出できるという幅広い科学的合意が得られるまで禁止するよう求めています。
この声明は非営利団体Future of Life Instituteによって発表され、ノーベル賞受賞者、テクノロジー業界のベテラン、政策立案者、アーティスト、そしてサセックス公爵夫妻であるハリー王子とメーガン妃など、700人以上が署名しています。
この書簡は、Google、OpenAI、Meta Platformsなどのテクノロジー大手が、ほぼすべての認知タスクで人間を上回ることができる人工知能の構築を目指して進めているプロジェクトに対する深刻かつ加速する懸念を反映しています。書簡によれば、こうした野望は、自動化による失業、人間のコントロールや尊厳の喪失、国家安全保障上のリスク、そして広範な社会的・実存的被害の可能性への恐れを引き起こしています。
「私たちは、超知能の開発に対する禁止を求めます。これは、安全かつ制御可能に行われるという幅広い科学的合意と、強い社会的支持が得られるまで解除されるべきではありません」と声明は述べています。
署名者には、チューリング賞受賞者であるAIの先駆者ヨシュア・ベンジオ氏とジェフリー・ヒントン氏、Apple共同創業者のスティーブ・ウォズニアック氏、実業家リチャード・ブランソン氏、俳優ジョセフ・ゴードン＝レヴィット氏などが含まれます。政治分野では、トランプ政権下でホワイトハウス首席戦略官を務めたスティーブ・バノン氏、オバマ政権の国家安全保障担当補佐官スーザン・ライス氏、元米統合参謀本部議長マイク・マレン氏などが名を連ねています。
公開書簡は、AIが健康や繁栄を向上させる「前例のない」可能性を持っていることが認識されている一方で、超知能システムの開発にはまだ十分に対処されていないリスクが伴うことを指摘しています。書簡の支持者たちは、大手テクノロジー企業間の競争が、監督や制御が不可能となる「引き返せない地点」を超えてしまう恐れがあると主張しています。国家安全保障、市民の自由、そして人間の無力化の懸念が中心にあり、人間レベルまたはそれ以上の知能が機械で実現された場合の予期せぬ結果への警告も強調されています。
Future of Life Instituteは以前、2023年に広く拡散された書簡を発表し、強力なAIモデルの開発の一時停止を求めましたが、主要なテクノロジー企業によってこの要請は受け入れられませんでした。今回のキャンペーンの主催者は、世論調査で安全性と強力な監督体制が確立される前に超知能を追求することへの社会的懐疑が広がっていることを挙げ、問題はより緊急性を増していると述べています。政府が介入するのか、企業が自主規制するのかは、依然として不透明です。
署名者の全リストはFuture of Lifeのウェブサイトでご覧いただけます。
