国連、「安全・安心・信頼できる」AI構築に向け合意形成を目指す

国際連合は、人工知能（AI）に関する世界的な政策への影響力をより直接的に強めるため、「安全・安心・信頼できる」AIに関する政策立案や技術基準の推進を含む取り組みを進めている。

先月、国連は新たな専門家パネルを設置する計画を最終決定した。このパネルは、新興技術に関する科学的・技術的・政策的な基準の策定に焦点を当てている。AIに関する独立科学パネルは、3年任期で40人の国際的な専門家によって構成され、「リスクや影響に関する科学的理解を促進するためのバランスの取れた地理的代表性」を持つメンバーが選出される。

同じ決議により、AIガバナンスに関するグローバル対話も創設された。この対話は、各国政府、企業、専門家を集め、「国際協力について議論し、ベストプラクティスや得られた教訓を共有し、人工知能ガバナンスに関するオープンで透明性があり包摂的な議論を促進する」ことを目的としている。対話の最初の課題として挙げられているのは「安全・安心・信頼できる人工知能の開発」だ。

木曜日、アントニオ・グテーレス事務総長は、これらの取り組みが国連を「原則から実践へ」と進め、AI政策や基準の形成における国際的なフォーラムとしての役割をさらに促進すると述べた。

また、AIシステムのエネルギー消費、技術が人間の労働力に与える影響、悪用や市民の抑圧を防ぐ最善策など、さまざまな難題について国際的な合意形成を図る機会にもなる。

国連の取り組みは「OECD、G7、地域組織など世界中の既存の取り組みを補完し、AIガバナンス調整のための包括的かつ安定した拠点を提供する」と彼は述べた。「要するに、政府、産業界、市民社会が共通の解決策を共に進められる場を創出することが目的だ。」

グテーレス氏は、AI技術が何十億もの人々の生活に不可欠なものとなり、地球上の生活を根本的に再構築する運命にあると主張し、高尚なレトリックを用いた（コンピュータ科学者やAI専門家の間では、この点について意見が分かれている）。

「もはやAIが私たちの世界を変革するかどうかが問題ではなく、すでに変革しつつある」とグテーレス氏は述べた。「問題は、この変革を私たちが共に統治するのか、それとも変革に統治されるのか、ということだ。」

AIシステムの安全性・セキュリティ・信頼性に関する国連の取り組みは、米国、英国、欧州などのAI導入・投資が盛んな国々が、同様の懸念の強調から距離を置いたり、産業界が中国と競争できるよう規制緩和を主張したりする動きが強まる中で進められている。

国際的な技術専門家はCyberScoopに対し、これにより国連や他の信頼できる機関が、安全で責任あるAIに関する議論の形成においてより大きな発言権を持つ余地が生まれるかもしれないと語った。しかし、国連の権限は良い政策を促進する以上のことを行うには限界があるという現実的な見方も示された。

オーストリア・ウィーンの国連薬物犯罪事務所のサイバー政策専門家パヴリナ・パヴォヴァ氏は、国連はAIに関するより実質的な議論の基盤を築いており、引き続き「この技術に関する国際対話の最も包括的なフォーラム」であるとCyberScoopに語った。

しかし彼女は、「新たに設立された枠組みは協議的なものであり、執行権限を欠いているため、せいぜい信頼醸成の役割を果たすにとどまる」と付け加えた。

欧州政策分析センターの上級顧問ジェームズ・ルイス氏も同様の見解を示し、国連の取り組みは「限定的な影響しか持たないだろう」と述べた。しかし同時に、AI業界は「リスクを判断する能力がまったくない」ことは明らかであり、実際に「利害関係を持つ」政策立案者が解決策の策定を主導することで、その状況に対抗できる可能性があるとも述べた。

これは、米国のサイバースペース・ソラリウム委員会の主催者が、具体的な提案への合意形成を得るために影響力のある議員や政策専門家を委員に起用した手法と同じだ。その結果、委員会の最終提言の75％が法律に採用されたと推計されている。

「最も重要なのは、強力な議長を据えることだ。強力な議長がいれば、最終的な成果物が有用なものになるからだ」とルイス氏は述べた。

ルイス氏が指摘したもう一つの課題は、AIの導入や投資が最も盛んなのは米国、英国、欧州連合であり、これらの政府は独自のAI政策を模索する可能性が高いことだ。こうした政府は、AI導入率の低い国の専門家が参加するパネルからの提言に難色を示す可能性があり、ルイス氏はこれを「乗客がバスの運転方法を指示するようなもの」と例えた。

レバノン政府の技術専門家・AI政策コンサルタントであり、Institute for Security and Technologyのアドバイザーでもあるティファニー・サーデ氏にとっては、そうした非伝統的な視点の参加こそが重要であり、近い将来自分たちの生活に影響を与える技術の政策形成に関与する機会を与えるものだという。

今週ニューヨークで開催された国連のAIに関する議論に出席したサーデ氏は、特に技術的・財政的資源の少ない国々にとって、信頼が大きなテーマだったとCyberScoopに語った。

しかし、国連のプロセスから生まれる優れたアイデアが実際に採用されるためには、各国や企業が望ましい政策を採用するよう促す実効的なインセンティブが必要だ。

「そのためには、主導的な政府や最先端の研究所が[提言]に従うよう、イノベーションを損なうことなくインセンティブを与える仕組みを考え出さなければなりません」と彼女は述べた。